دیوید رابینسون می‌گوید که حس «ناهماهنگی شناختی» باعث شد او OpenAI را ترک کند

دیوید رابینسون گفت که در OpenAI "ناهماهنگی شناختی" را تجربه کرده است که باعث شد شرکت را ترک کند. مجمع جهانی اقتصاد دیوید رابینسون گفت که علیرغم حمایت از کاهش سرعت، OpenAI در حال پیشرفت است.

او گفت که این قطع ارتباط در رابینسون حس "ناهماهنگی شناختی" ایجاد کرد.

رابینسون هفته گذشته شرکت را ترک کرد و گفت که غول هوش مصنوعی به اندازه کافی مراقب نیست. دیوید رابینسون می گوید که OpenAI یک چیز را می گفت در حالی که چیز دیگری را انجام می داد.

رابینسون، که قبلا یکی از رهبران تیم سیستم‌های ایمنی OpenAI بود، برای اولین مصاحبه‌اش پس از خروج از شرکت هوش مصنوعی در هفته گذشته، با ازرا کلاین برای "نمایش ازرا کلاین" نیویورک تایمز به گفتگو نشست.

رابینسون به کلاین گفت که علیرغم هشدارهای مکرر در مورد قابلیت‌های مدل‌های جدید و ابراز علاقه به کاهش سرعت توسعه هوش مصنوعی، OpenAI مانند همیشه در پشت صحنه حرکت می‌کند.

رابینسون گفت: "بخشی از ناهماهنگی شناختی اساسی برای من این بود که ما به انتشار این هشدارها ادامه دادیم، اما در نهایت، ما هنوز در حال آموزش و به کارگیری این مدل های خطرناک هستیم که در مورد آنها هشدار می دهیم."

در ماه ژوئیه، صدها کارمند OpenAI نامه ای سرگشاده با عنوان "گام بردار مرزی" امضا کردند که در آن از دولت خواسته شد مقرراتی را وضع کند که توسعه هوش مصنوعی را کند کند.

سپس، در ماه سپتامبر، سام آلتمن، مدیر عامل OpenAI گفت که با داریو آمودی، مدیر عامل آنتروپیک، که قبلا مقاله‌ای منتشر کرده بود، موافق است که شرکت‌های هوش مصنوعی از کاهش سرعت بین خودشان حمایت می‌کنند.

آلتمن در آن زمان در X گفت: «ما باید از مرز عبور کنیم. این موضوع اصلی بحث‌های ما در OpenAI در هفته‌های اخیر بوده است.»

با این حال، در دفتر OpenAI، رابینسون به کلاین گفت که فعالیت‌های «دیوانه‌وار» ادامه دارد و مردم «از دود در حال دویدن هستند».

او درباره OpenAI گفت: «تقریبا شبیه یک باله یا نوعی رقص است زیرا همه این عملکردهای مختلف به نوعی با هم پخش می شوند. "آدرنالین زیادی وجود دارد."

محققان OpenAI در مورد خطرات اجازه دادن به هوش مصنوعی، فرآیندی به نام خود-بهبودی بازگشتی یا RSI، نسبتا صریح بوده‌اند.

جاکوب پاچوکی، دانشمند ارشد OpenAI، در یک پست وبلاگی در مورد RSI در ماه سپتامبر گفت: «این زمانی است که نیاز به احتیاط شدید دارد.

OpenAI بلافاصله به درخواست نظر برای این مقاله پاسخ نداد. یک سخنگوی OpenAI قبلا در پاسخ به مقاله ای که رابینسون در The Atlantic نوشته بود، گفت که این شرکت در حال انجام اقداماتی برای بهبود امنیت مدل های هوش مصنوعی خود است.

سخنگوی این سازمان گفت: «همانطور که مدل‌های ما توانمندتر می‌شوند، ما همچنان به تقویت شیوه‌های ایمنی و امنیتی خود برای مقابله با خطراتی که امروز می‌بینیم، در حالی که موارد ایمنی را برای پیش‌بینی خطرات پیشرفت‌های آینده ایجاد می‌کنیم، ادامه می‌دهیم». ما مطمئن می‌شویم که مدل‌هایمان بیش از آن چیزی که می‌توانیم با خیال راحت مدیریت و ایمن کنیم، توانمند نباشند، و در صورت نیاز به کاهش سرعت، آموزش را متوقف می‌کنیم یا مدل‌ها را متوقف می‌کنیم.»

مقاله اصلی را در Business Insider بخوانید