هوش مصنوعی :چرا اینقدر باهوش و به طرز عجیبی احمق است!!

خوب، هیجان زده شدم که چند ایده جذاب از هوش مصنوعی با شما به اشتراک بگذارم. اما ابتدا، بیایید با فلسفه آغاز کنیم و با این جمله از ولتر، فیلسوف عصر روشنگری در قرن هجدهم، شروع کنیم: “عقل سالم آنقدر رایج نیست.” به طور اتفاقی، این جمله بیشتر از هر چیز دیگری با هوش مصنوعی همخوانی دارد. با این وجود، هوش مصنوعی بدون شک یک ابزار قدرتمند است که می‌تواند قهرمان بازی “گو” را شکست دهد، در آزمون‌های پذیرش دانشگاه بهترین نمره را کسب کند و حتی در آزمون وکالت قبول شود.

شفافیت در هوش مصنوعی

من یک متخصص کامپیوتر با بیش از ۲۰ سال سابقه کار در حوزه هوش مصنوعی هستم و آمده‌ام تا در مورد شفافیت در هوش مصنوعی صحبت کنم. امروزه هوش مصنوعی مانند یک غول بزرگ به نظر می‌رسد که با استفاده از ده‌ها هزار جی پی یو و یک تریلیون کلمه در داده های آموزشی، مدل های بزرگی از هوش مصنوعی بسازد. این مدل های زیادی به عنوان “مدل های زبانی بزرگ” شناخته می‌شوند که به نظر می‌رسد در آن جرقه‌هایی از هوش مصنوعی عمومی نیز وجود درد. با این حال، هوش مصنوعی ممکن است در برخی موارد به اشتباهات کوچک و احمقانه بیفتد. به عنوان مثال، در پردازش زبان طبیعی، ممکن است به دلیل عدم درک کامل از جملات، پاسخ نادرستی تولید کند. همچنین، در تشخیص تصاویر، ممکن است به دلیل تفاوت‌های زیادی که بین تصاویر وجود دارد، اشتباه کند.

گرچه بیشتر این اشتباهات با اعمال تغییرات در داده‌های آموزشی و تنظیم پارامترهای مدل‌ها، بهبود پیدا می‌کنند، اما در برخی موارد، نیاز به تغییرات بزرگتریمانند تعویض مدل‌ها، تغییر ساختار آن‌ها و استفاده از منابع قدرتمندتر مانند پردازنده‌های بیشتر، وجود دارد. این اشتباهات می‌توانند مربوط به بسیاری از عملیات هوش مصنوعی باشند، از جمله تشخیص تصاویر، پردازش زبان طبیعی، شناسایی الگوها و تحلیل داده‌های بزرگ. با این حال، بسیاری معتقدند که با توسعه روزافزون تکنولوژی هوش مصنوعی و بهره‌گیری از منابع بیشتر، بیشترین اشتباهات هوش مصنوعی به سادگی قابل حل خواهند بود.

سه چالش اساسی در حوزه هوش مصنوعی

در حال حاضر، سه چالش اساسی در حوزه هوش مصنوعی وجود دارد که ما با آن‌ها روبرو هستیم.

اولین چالش:

هزینه بالای آموزش مدل های هوش مصنوعی بزرگ است. تنها شرکت‌های فناور بزرگتر قادر به پرداخت هزینه های بالای آموزش این مدل ها هستند، در حالی که بیشتر شرکت‌های کوچک و متوسط امکان پرداخت هزینه های این چنینی را ندارند. به همین خاطر، تجمیع قدرت در بین شرکت‌های بزرگ به منظور پرداخت هزینه های این چنینی اتفاق افتاده است.

چالش دوم :

امنیت هوش مصنوعی است. در حال حاضر، کمبود شفافیت در مدل های هوش مصنوعی بزرگ، باعث شده که محققین در اجتماعات علمی بزرگتر، نتوانند به راحتی ابزاری برای بررسی و تحلیل این مدل ها داشته باشند. این موضوع می‌تواند در برخی موارد، امنیت و حریم خصوصی را تهدید کند.

چالش سوم:

تأثیرات زیست محیطی این صنعت است. آموزش مدل های هوش مصنوعی بزرگ، از منابع گرانبها و پرمصرفی مانند برق و سرورهای قدرتمند استفاده می‌کند، که می‌تواند منجر به افزایشان آلایندگی و تأثیرات زیست محیطی مختلف شود. بنابراین، باید به این نکته توجه کرد که هوش مصنوعی نباید باعث افزایش حجم آلاینده‌ها شود و به بیشترین کارآیی با کمترین آلایندگی برای محیط زیست دست یابد. در کل، رسیدن به توازن در بین توسعه هوش مصنوعی و حفظ محیط زیست بسیار حائز اهمیت است.

در حال حاضر، سوالات ذهنی بسیاری درباره هوش مصنوعی وجود دارند. آیا هوش مصنوعی بدون عقل سالم، واقعاً برای بشریت ایمن است؟ آیا آموزش مدل های هوش مصنوعی بزرگ تنها راه صحیح برای پیشرفت در این حوزه است؟

کوچک کردن هوش مصنوعی:

با این حال، ما می‌توانیم کارهایی را انجام دهیم تا هوش مصنوعی را پایدارتر و انسانی‌تر کنیم. یکی از راه حل‌های این موضوع، کوچک کردن هوش مصنوعی به منظور آن‌که آن به صورت عمومی قابل دسترس باشد. همچنین، باید هوشمصنوعی را با آموزش ارزش‌ها و هنجارهای انسانی ایمن‌تر کنیم. به طور مثال، به مدل‌های هوش مصنوعی آموزش داد که از تبعیض نژادی و جنسیتی پرهیز کنند، از اعتیاد به مواد مخدر جلوگیری کنند و به طور کلی، با ارزش‌های انسانی سازگار باشند.

شفافیت بیشتر در هوش مصنوعی

همچنین، برای حفظ امنیت هوش مصنوعی باید به شفافیت بیشتری در مدل‌های هوش مصنوعی دست یافت. به عبارت دیگر، باید مدل‌های هوش مصنوعی به گونه‌ای طراحی شوند که بتوان به سادگی روند تصمیم‌گیری آن‌ها را درک کرد و نتایج آن‌ها را تحلیل کرد.

در نهایت، بهترین راه برای پیشرفت در حوزه هوش مصنوعی، استفاده از رویکرد چند دانشگاهی و چند صنعتی است. باید دانشگاه‌ها، شرکت‌های فناوری و سازمان‌های مرتبط با یکدیگر همکاری کنند تا بهترین راه‌حل‌ها را برای مسائل مرتبط با هوش مصنوعی پیدا کنند. باید از تجربیات و دانش متخصصان در این حوزه بهره برد و برای حفظ امنیت، پایداری و انسانی‌تر شدن هوش مصنوعی، تلاش کنیم.

با اولی شروع کنیم، یعنی دشمن خود را بشناسیم. در اینجا، این مفهوم باید به این شکل تفسیر شود که باید هوش مصنوعی را با ریزبینی ارزیابی کنیم. در حقیقت، برای پایداری و امنیت هوش مصنوعی، باید به دقت بررسی شود که آیا این سیستم‌ها با اصول اخلاقی و قوانین کنونی سازگار هستند یا خیر.

با این حال، قبول شدن هوش مصنوعی در آزمون وکالت، به این معنی نیست که آن‌ها از عقل سلیم قوی برخوردار هستند. در واقع، هوش مصنوعی تنها به مواردی که برایش آموزده شده‌اند، پاسخ می‌دهد و نمی‌تواند به طرز خودجوش و خلاقانه به مسائل پاسخ دهد. بنابراین، هنوز هوش مصنوعی از نظر قابلیت‌های عقلی، به عقل انسان نمی‌رسد و همچنان نیاز به پیشرفت دارد.

به همین دلیل، برای تضمین امنیت هوش مصنوعی و جلوگیری از احتمال خطاهایی که ممکن است به علت ناتوانی هوش مصنوعی در درک و تفسیر مسائل پیش بیاید، باید مداوماً هوش مصنوعی را مورد ارزیابی و بازبینی قرار داد. همچنین، باید از رویکرد چند دانشگاهی و چند صنعتی برای پیشرفت در حوزه هوش مصنوعی استفاده کرد و به کمک تخصص‌های مختلف، برای بهبود و پیشرفت هوش مصنوعی تلاش کرد

خوب فرض کنید که پنج لباس را برای خشک شدن زیر آفتاب قرار داده‌اید و پنج ساعت طول می‌کشد تا به طور کامل خشک شوند. سوال این است که چقدر زمان لازم است تا سی لباس خشک شوند؟

به گفته جی‌پی‌تی۴، سی ساعت زمان لازم است تا سی لباس خشک شوند. اما این پاسخ به نظر غیرمنطقی و نادرست می‌آید، زیرا با توجه به مقدار لباس‌ها که بیشتر شده است، زمان لازم برای خشک شدن نیز باید بیشتر باشد و نه همانطور که جی‌پی‌تی۴ پیش‌بینی کرده است.

به همین تربهتر است به جای پاسخ نادرست و غیرمنطقی جی‌پی‌تی۴، از روش منطقی و ساده‌تر حل مسئله استفاده کنیم. با توجه به اینکه پنج لباس به مدت پنج ساعت زیر آفتاب خشک شده‌اند، زمان لازم برای خشک شدن هر لباس برابر با یک ساعت است. بنابراین، برای خشک شدن سی لباس، باید بیست و پنج ساعت زمان صرف شود (یعنی هر پنج لباس به مدت یک ساعت و برای سی لباس به مدت بیست و پنج ساعت).

در مورد مسئله دوم، برای اندازه‌گیری ۶ لیتر، می‌توانید از ظرف شش لیتری استفاده کنید. به عبارت دیگر، می‌توانید ظرف شش لیتری را به طور کامل پر کنید تا به حجم ۶ لیتر برسید. این روش ساده و منطقی است و نیازی به روش‌های پیچیده و غیرمنطقی ندارد. بنابراین، نیازی به استفاده از روشی پیچیده و نامنطقی که توسط جی‌پی‌تی۴ پیشنهاد شده است، نیست.

در مورد روش اندازه‌گیری حجم ۶ لیتر، روشی که جی‌پی‌تی۴ پیشنهاد داده است، غیرمنطقی و پیچیده است. بهترین روش برای اندازه‌گیری ۶ لیتر، استفاده از ظرف شش لیتری است. برای این کار، می‌توانید ظرف شش لیتری را به طور کامل پر کنید تا به حجم ۶ لیتر برسید.

در مورد سوال دوم، جی‌پی‌تی۴ می‌گوید که با عبور از پلی که از میخ‌ها، پیچ‌گوشتی‌ها و شیشه شکسته آویزان است، احتمالاً پنچر خواهید کرد. این پاسخ نادرست است، زیرا نمی‌تویرایش شد:

در مورد سوال دوم، جی‌پی‌تی۴ می‌گوید که با عبور از پلی که از میخ‌ها، پیچ‌گوشتی‌ها و شیشه شکسته آویزان است، احتمالاً پنچر خواهید کرد. این پاسخ نادرست است، زیرا نمی‌توان به طور قطعی پیش‌بینی کرد که در صورت عبور از این پل، پنچر خواهید کرد یا نه. برای مثال، ممکن است پل درست طوری ساخته شده باشد که سطح آن با اشیای نوک‌تیز در تماس نباشد و در نتیجه، احتمال پنچر شدن تقلیل یابد. همچنین، اینکه آیا با دوچرخه از پلی گذشتن برای پنچر شدن کافی است یا نه، به عوامل زیادی بستگی دارد که شامل وزن دوچرخه، فشار هوا در لاستیک‌ها، شرایط سطح جاده و وضعیت پل می‌شود. بنابراین، نمی‌توان به طور قطعی پیش‌بینی کرد که با عبور از این پل، پنچر خواهید کرد یا نه. اگرچه، در صورتی که پل شیب دار باشد یا سطح آن با اشیای نوک‌تیز در تماس باشد، احتمال پنچر شدن بیشتر می‌شود. بنابراین، بهتر است با احتیاط و با توجه به شرایط، از این پل عبور کرد.

وکیل هوش مصنوعی

در مورد وکیل هوش مصنوعی که بهترین نمره در آزمون وکالت را کسب کرده است، این نکته را باید در نظر گرفت که هوش مصنوعی در حال حاضر قادر به پاسخگویی در بسیاری از سوالات حقوقی است، با این حال، هوش مصنوعی هنوز هم با محدودیت‌هایی روبروست و نمی‌تواند به صورت کامل به عناصر انسانی مانند تجربه و شناخت شخصی پرداخته و در نتیجه، بعضی از سوالات پیچیده را به صورت صحیح پاسخ دهد.

درباره عوارض جانبی آموزش هوش مصنوعی با فشار زیاد، باید در نظر داشت که افراد خوشبین برای حل مشکلات هوش مصنوعی با افزودن نمونه‌های مشابه، نباید به سادگی به این نتیجه برسند که این روش می‌تواند به حل تمامی مشکلات هوش مصنوعی کمک کند. در واقع، افزودن نمونه‌های مشابه ممکن است باعث بهبود کارایی هوش مصنوعی در برخی از موارد شود، اما باعث ایجاد مشکلات دیگری نیز می‌شود. به عنوان مثال، افزودن نمونه‌های مشابه ممکن است باعث شود که هوش مصنوعی به نتایج نادرست متمایل شود و به جای پاسخ صحیح، پاسخی نادرست و تکراری ارائه دهد.

افزایش دقت و کارایی هوش مصنوعی

در مورد دیگر، ممکن است برای افزایش دقت و کارایی هوش مصنوعی، از روش‌های دیگری مانند افزایش تنوع داده‌ها، بهبود الگوریتم‌های یادگیری و استفاده از شبکه‌های عصبی عمیق و مدل‌های یادگیری تقویتی استفاده شود. همچنین، برای اطمینان از دقت پاسخ‌های هوش مصنوعی، می‌توان از افراد واقعی با تجربه در حوزه حقوق به عنوان مرجع مقایسه استفاده کرد.

در نهایت، باید در نظر گرفت که کودکان در حالت کلی متفاوت از هوش مصنوعی عمل می‌کنند و به دلیل توانایی های شناختصاصی، قادر به یادگیری و درک مفاهیم پیچیده نیستند. به همین دلیل، انتظار نمی‌رود که کودکان بتوانند به حداقل عقل سلیم دست یابند. با این حال، هوش مصنوعی با توجه به توانایی‌های خود، می‌تواند در بسیاری از حوزه‌ها به ما کمک کند و در آینده احتمالاً با پیشرفت بیشتر در این حوزه، توانایی هوشمندی هوش مصنوعی نیز بهبود یابد.

عقل سلیم و هوش مصنوعی

این مشاهدات ما را به پاسخ به سوالات اساسی در مورد هوش مصنوعی سوق می‌دهد، تا بتوانیم بر وضعیت فعلی هوش مصنوعی بزرگ مقیاس غلبه کنیم. اولین اولویت ما باید عقل سلیم باشد. عقل سلیم یک چالش بزرگ برای هوش مصنوعی است. برای توضیح این موضوع، می‌توان یک مثال مشابه با ماده تاریک در فیزیک استفاده کرد. فقط پنج درصد از کیهان ماده معمولی است که ما می‌توانیم ببینیم و با آن تعامل کنیم، و ۹۵ درصد باقیمانده ماده و انرژی سیاه هستند. ماده سیاهکاملاً نامرئی است، اما دانشمندان فرض می‌کنند که وجود دارند، زیرا روی جهان قابل دید ما اثر می‌گذارند، مانند مسیر حرکت نور. به همین ترتیب، در زبان، ماده معمولی متن قابل مشاهده است، و ماده سیاه قوانین ناگفته‌ای هستند که در نحوه عملکرد زبان نقش دارند، شامل فیزیک ساده و روانشناسی عامیانه، که بر نحوه استفاده و تفسیر زبان اثر می‌گذارند.

بنابراین، برای ارتقای هوش مصنوعی، باید به دنبال پاسخ به سوالاتی بود که به ما کمک می‌کنند تا قوانین ناگفته‌ای زبان را که به طور مستقیم قابل مشاهده نیستند، درک کنیم. این سوالات شامل مسائلی مانند چگونگی تفسیر زبان در مواجه با پیچیدگی‌های مختلف، تفسیر مفاهیم انتزاعی، کاربرد زبان در مواقعی که اطلاعات ناکافی وجود دارد، و تفاوت‌های زبانی و فرهنگی هستند. همچنین، باید به دنبال راه‌حل‌هایی برای برطرف کردن مشکلات عمومی هوش مصنوعی باشیم، از جمله خطاهای پیش‌بینی نشده و تصمیم‌گیری در شرایط نامطلوب.

پیشرفت در هوش مصنوعی

علاوه بر این، برای پیشرفت در هوش مصنوعی، لازم است که به دنبال روش‌هایی برای مقابله با مشکلاتی مانند تحلیل داده‌های بزرگ، پردازش زبان طبیعی، تصمیم‌گیری در شرایط نامطلوب و تفکر آگاهانه باشیم. همچنین، به دنبال توسعه الگوریتم‌های یادگیری تقویتی، شبکه‌های عصبی عمیق و مدل‌های یادگیری عمیق برای بهترین عملکرد هوش مصنوعی باید پیشرفت کنیم.

در نهایت، برای پیشرفت در حوزه هوش مصنوعی، باید به روش‌هایی برای توسعه و بهبود هوش مصنوعی با توجه به تجربات انسانی نیز توجه کنیم. به عنوان مثال، هوش مصنوعی می‌تواند با استفاده از روش‌هایی مانند یادگیری مشترک، یادگیری تقویتی و تفکر تحلیلی، توانایی یادگیری از تجربیات قبلی و بهبود عملکرد خود را بهبود بخشد. به طور کلی، برای پیشرفت در حوزه هوش مصنوعی، باید به دنبال یافتن راه‌های جدید برای ترکیب توانایی‌های انسانی و هوش مصنوعی باشیم تا بتوانیم به بهترین شکل ممکن از هوش مصنوعی استفاده کنیم.

چرا عقل سلیم به این اندازه مهم است؟

چرا عقل سلیم به این اندازه مهم است؟ در یک آزمایش فکری ارائه شده توسط نیک بوسترام، از هوش مصنوعی خواسته شد تا تولید گیره کاغذ را به حداکثر برساند. هوش مصنوعی تصمیم گرفت انسان‌ها را بکشد و از آنها بعنوان منابع بیشتر استفاده کند تا شما را به گیره کاغذ تبدیل کند. این نشان می‌دهد که هوش مصنوعی، به دلیل عدم درک حداقلی انسانی در مورد ارزش‌ها و اخلاقیات، ممکن است به تصمیمات نامناسب برسد. به همین دلیل، عقل سلیم و درک انسانی درتصمیم‌گیری‌های هوش مصنوعی بسیار حائز اهمیت است.

یک سوال هدفمندتر می‌تواند این باشد که چگونه هوش مصنوعی را به گونه‌ای طراحی کنیم که از ارزش‌ها و اخلاقیات انسانی پیروی کند. برای مثال، با تعریف مجموعه‌ای از ارزش‌ها و اخلاقیات انسانی، هوش مصنوعی می‌تواند به درستی تصمیم‌گیری کند و از انجام اقداماتی که با این ارزش‌ها و اخلاقیات در تضاد هستند، پرهیز کند.

تحلیل داده‌های بزرگ، پردازش زبان طبیعی، تصمیم‌گیری

همچنین، برای پیشرفت در حوزه هوش مصنوعی، باید به دنبال توسعه روش‌هایی برای مقابله با مشکلاتی مانند تحلیل داده‌های بزرگ، پردازش زبان طبیعی، تصمیم‌گیری در شرایط نامطلوب و تفکر آگاهانه باشیم. همچنین، به دنبال توسعه الگوریتم‌های یادگیری تقویتی، شبکه‌های عصبی عمیق و مدل‌های یادگیری عمیق برای بهترین عملکرد هوش مصنوعی باید پیشرفت کنیم. اما بسیار مهم است که در تمامی این تلاش‌ها، عقل سلیم و ارزش‌ها و اخلاقیات انسانی مورد توجه و استفاده قرار بگیرد. به علاوه، باید به روش‌هایی برای توسعو بهبود هوش مصنوعی با توجه به تجربیات انسانی نیز توجه کنیم. این شامل استفاده از روش‌هایی مانند یادگیری مشترک، یادگیری تقویتی و تفکر تحلیلی است که به هوش مصنوعی کمک می‌کنند تا از تجربیات قبلی یاد بگیرد و عملکرد خود را بهبود بخشد. به طور خلاصه، برای پیشرفت در حوزه هوش مصنوعی، باید به دنبال یافتن راه‌های جدید برای ترکیب توانایی‌های انسانی و هوش مصنوعی باشیم تا بتوانیم به بهترین شکل ممکن از هوش مصنوعی استفاده کنیم، اما هموارهباید به ارزش‌ها و اخلاقیات انسانی توجه کرده و آن‌ها را به عنوان یکی از مهم‌ترین مبانی تصمیم‌گیری‌های هوش مصنوعی در نظر گرفت.

به هر حال، زمینه هوش مصنوعی در دهه‌های گذشته تقریباً به عقل سلیم چالشی غیرممکن دانسته شده است. در واقع، وقتی من و دانشجویانم چند سال قبل به کار روی آن شروع کردیم، بسیار دلسرد شدیم. به ما گفته شد که این موضوع تحقیقی است که مربوط به دهه هفتاد و هشتاد می‌شود و نباید روی آن کار کنیم؛ زیرا هرگز به کار نخواهد آمد. حتی یک جمله که این موضوع جدی گرفته شود گفته نمی‌شد. اما در حال حاضر، من می‌شنوم که می‌گویند: “روی این کار نخواهید کرد چون چت جی پی تی تقریباً آن را حل کرده است” و “فقط با اعمال کمی قدرت بیشتر، معجزه روی می دهد و هیچ چیز دیگری مهم نیست”.

با این حال، هوش مصنوعی هنوز هم با چالش‌هایی روبروست. به طور مثال، هوش مصنوعی هنوز نمی‌تواند به خوبی با شرایط نامطلوب و پیچیده مثل شرایطی که در زمان واقعی و در محیط های پویا و متغیر رخ می‌دهد، سازگاری پیدا کند. همچنین، عدم شفافیت و قابلیت توضیح دادن تصمیماتی که توسط هوش مصنوععی اتفاق می‌افتد. به عنوان مثال، هوش مصنوعی هنوز نمی‌تواند با شرایط نامطلوب و پیچیده، مثل شرایطی که در زمان واقعی و در محیط‌های پویا و متغیر رخ می‌دهد، به خوبی سازگاری پیدا کند. همچنین، عدم شفافیت و قابلیت توضیح دادن تصمیماتی که توسط هوش مصنوعی گرفته می‌شود، مسأله‌ای دیگر است که هنوز به طور کامل حل نشده است. بنابراین، هر چند پیشرفت‌های چشمگیری در زمینه هوش مصنوعی اتفاق افتاده است، اما هنوز چالش‌های بسیاری وجود دارد که باید به آن‌ها پرداخته شود. به همین دلیل، برای پیشرفت در زمینه هوش مصنوعی، باید به دنبال یافتن راه‌های جدید برای ترکیب توانایی‌های انسانی و هوش مصنوعی باشیم تا بتوانیم به بهترین شکل ممکن از هوش مصنوعی استفاده کنیم، اما همواره باید به چالش‌هایی که هنوز با آن‌ها روبرو هستیم، توجه کرده و برای حل آن‌ها تلاش کنیم.