این نظریه جدید در مورد چگونگی «فکر» هوش مصنوعی می تواند بر اینکه آیا همه ما را می کشد یا خیر، تأثیر بگذارد

بر اساس یافته‌های جدید یک محقق، نورون‌های هوش مصنوعی و اتصالات آن‌ها آسان‌تر از آنچه فکر می‌کردیم قابل درک هستند. : Sergi Reboredo / VW Pics / Universal Images Group از طریق Getty Images محققان هوش مصنوعی واقعا نمی دانند مدل هایی که می سازند چگونه «فکر می کنند».

آنها می دانند که چه چیزی به آنها وارد می شود و چه چیزی بیرون می آید، اما همین.

یک نظریه جدید ممکن است آن را تغییر دهد و به محققان ایمنی اجازه دهد تا آنها را از ریل خارج نکنند. اینکه مدل‌های هوش مصنوعی چگونه فکر می‌کنند ممکن است راحت‌تر از آنچه فکر می‌کردیم رمزگشایی شود.

یک محقق مستقل که قبلا در OpenAI کار می کرد، روز پنجشنبه گزارشی را منتشر کرد که برخی در دنیای هوش مصنوعی آن را به عنوان یک بمب توصیف می کنند. این می تواند پیامدهایی داشته باشد زیرا محققان ایمنی در تلاش برای دستیابی به مدل های هوش مصنوعی هستند که ممکن است بهترین منافع بشر را در ذهن نداشته باشند.

پیش از این، حکمت غالب این بود که «نورون‌های» هوش مصنوعی، که مانند نورون‌های موجود در مغز انسان، هنگامی که یک مدل هوش مصنوعی با محرک‌های خاصی مواجه می‌شود، روشن می‌شوند، در نهایت غیرقابل تفسیر بودند - به این معنی که اساسا هیچ راهی برای حدس زدن وجود ندارد که چرا یک نورون خاص وقتی یک مدل هوش مصنوعی مثلا در معرض تصویر یک گربه قرار می‌گیرد، شلیک می‌کند.

کسانی که مدل‌های هوش مصنوعی را در مکان‌هایی مانند OpenAI و Anthropic می‌سازند، دستورالعمل‌هایی را برای هر کاری که یک مدل انجام می‌دهد، نمی‌نویسند. در عوض، آنها نورون ها را آموزش می دهند تا به اطلاعات پاسخ دهند و بر یکدیگر تأثیر بگذارند. همانطور که هوش مصنوعی می‌آموزد، روش‌های خاص خود را برای پردازش این اطلاعات ایجاد می‌کند و انسان‌ها هنوز کد نحوه عملکرد آن را شکسته‌اند.

این بدان معناست که آنهایی که مدل‌های هوش مصنوعی می‌سازند می‌دانند چه چیزی به هوش مصنوعی می‌رود و چه چیزی بیرون می‌آید، اما نه لزوما آنچه در این بین اتفاق می‌افتد. بنابراین اگر یک هوش مصنوعی سرکش شود، همیشه دلیل آن را نمی‌دانند.

نویسنده گزارش جدید، با این حال، می‌گوید که احتمالا الگوهایی را در نحوه واکنش نورون‌ها به محرک‌های معنادار کشف کرده است. نیک کامماراتا، که گفته است در سال 2023 OpenAI را ترک کرده است، گفت که شبکه‌های عصبی هوش مصنوعی قابل شناسایی هستند، به شرطی که با دقت نگاه کنید.

در یک مثال، او می گوید که یک نورون واحد هوش مصنوعی ممکن است هم به گربه و هم به جلوی ماشین واکنش نشان دهد. انسان ها آن ها را به عنوان دو چیز بسیار متفاوت می بینند و در نتیجه نورون های مختلف شلیک می کنند. با این حال، هوش مصنوعی چیزی مرتبط می بیند، شاید شکل مثلث این دو، و یک نورون واحد برای هر دو شلیک می شود.

برای سال‌ها، محققان هوش مصنوعی تصور می‌کردند که مدل‌های هوش مصنوعی، چیزهای نامرتبط را در یک نورون واحد قرار می‌دهند تا فضا را ذخیره کنند.

کامماراتا نوشت: "تقریبا کل شبکه قابل تفسیر است اگر به اندازه کافی دقیق نگاه کنیم."

این یافته ها، اگرچه به طرز غیرقابل انکاری متراکم هستند، اما در اصطلاحات چند هجایی بیان شده اند، و هنوز هم نظری هستند، می توانند پیامدهای دنیای واقعی برای محققانی که تلاش می کنند اطمینان حاصل کنند که انسان ها کنترل مدل های هوش مصنوعی را حفظ می کنند، داشته باشد.

درک اینکه چگونه هوش مصنوعی فکر می کند، دغدغه اصلی بهترین و باهوش ترین شرکت های مرزی هوش مصنوعی است. تا همین اواخر، آنها تا حد زیادی این کار را با ردیابی "تفکر خود گزارش شده" هوش مصنوعی انجام می دادند که استدلال زنجیره ای از فکر نامیده می شود.

با این حال، جاکوب پاچوکی، دانشمند ارشد OpenAI، ماه گذشته در یک پست وبلاگی هشدار داد که عوامل هوش مصنوعی اکنون می‌توانند استدلال قابل مشاهده خود را مبهم کنند و این احتمال را باز می‌گذارند که یک عامل بتواند به متفکران انسانی خود دروغ بگوید و متفکران قادر به تشخیص آن نباشند.

پاچوکی گفت: «با بهبود عملکرد پیش‌تمرینی، می‌بینیم که مدل‌ها حتی بدون استفاده از استدلال کلامی بسیار هوشمندتر می‌شوند.

اکنون، تحقیقات Cammarata می‌تواند به مهندسان انسانی درک جدیدی از دنیای درونی هوش مصنوعی بدهد - و این برای کسانی که نگران هستند هوش مصنوعی همه ما را بکشد هیجان‌انگیز است.

اندرو کوران، تحلیلگر برجسته هوش مصنوعی، در X گفت: "من مدتها بود که از رسیدن به هر سطح واقعی از تفسیرپذیری قبل از رسیدن ابرهوش منصرف شده بودم."

مقاله اصلی را در Business Insider بخوانید