رید هافمن محکومان هوش مصنوعی را رد کرد: به من نگاه کن، من کاساندرا هستم.

رید هافمن، بنیانگذار لینکدین بلومبرگ/گتی ایماژ رید هافمن می گوید خطرات وجودی هوش مصنوعی "از راه دور و قابل کنترل هستند."

هافمن گفت به جای کاهش سرعت، آزمایشگاه های مرزی باید بهتر "هدایت" کنند.

نظر شما در مورد بحث ایمنی هوش مصنوعی چیست؟ رید هافمن برای برداشت شما از هوش مصنوعی اینجا نیست که همه را می کشد.

هافمن در جریان اجلاس رمزگشایی پولیتیکو در واشنگتن در روز چهارشنبه گفت: «در واقع فکر می‌کنم بیشتر این چیزها، اگر واقعا به آن فکر کنید، آنقدر شبیه کنترل از راه دور و قابل کنترل است که بیشتر در جایی است که مردم به نوعی می‌گویند: «به من نگاه کن، من کاساندرا هستم، می‌گویم آخر زمان است».

هافمن گفت: ادامه تحقیقات هوش مصنوعی مرزی مزایایی دارد، از جمله اینکه چگونه این فناوری می تواند به مقابله با خطرات امنیت زیستی و امنیت سایبری کمک کند.

او گفت: "من فکر نمی کنم که کاهش سرعت مهم باشد، زیرا وقتی به دفاع در برابر بیوریسک می رسید، دفاع در برابر خطر سایبری و ایجاد رونق اقتصادی دلیلی برای ادامه راه است."

یکی از بنیانگذاران لینکدین گفت: این که چرا رهبران Anthropic و OpenAI اکنون خواستار کاهش سرعت تحقیقات هوش مصنوعی مرزی در لحظه ای هستند که به نظر می رسد هر دو شرکت در جهان پیشرو هستند، انتقادی موجه است.

هافمن گفت: "شما پیشتاز هستید، می توانید هر زمان که بخواهید سرعت خود را کاهش دهید."

هافمن به جای کاهش سرعت، تاکید کرد که "این واقعا مهم است" که آزمایشگاه های مرزی به درستی خودسازی بازگشتی را مدیریت کنند.

برخی در صنعت هوش مصنوعی نگران این هستند که خود-بهبودی بازگشتی، فرآیندی که با آن هوش مصنوعی می‌تواند ساختن خود و در نهایت جانشینانش را بیاموزد، می‌تواند مسیری را برای رشد تصاعدی باز کند که سازندگان مدل ممکن است قادر به کنترل کامل آن نباشند.

جیکوب کوکسون، محقق سابق آنتروپیک که استعفای ویروسی او به تسریع مکالمه فعلی کمک کرد، سه شنبه شب نوشت که آنتروپیک "تا حد زیادی آغازگر" مسابقه برای خودسازی بازگشتی بود.

در آخر هفته، داریو آمودی، مدیر عامل آنتروپیک، از آزمایشگاه‌های هوش مصنوعی مرزی خواست تا پیشرفت‌های خود را «پیش‌گام» کنند و از زمان برای همسوسازی بهتر مدل‌های هوش مصنوعی استفاده کنند. ایلان ماسک، مدیر عامل اسپیس ایکس و سام آلتمن، مدیر عامل OpenAI، بعدا با اهداف گسترده Amodei موافقت کردند.

هافمن در مقاله‌ای که روز چهارشنبه منتشر کرد، گفت که تماس‌های آمودی و آلتمن گام‌هایی در مسیر درست هستند.

همه برای پاسخی واحد اصرار ندارند.

مارک زاکربرگ، مدیرعامل متا، سه‌شنبه شب نوشت که شرکت‌ها می‌توانند به صورت جداگانه و بدون نوعی پیمان کل صنعت که Amodei می‌خواهد، سرعت خود را کاهش دهند.

زاکربرگ در X نوشت: "هر آزمایشگاهی مسئولیت و انگیزه دارد تا با سرعت مورد نیاز برای آموزش ایمن مدل های خود حرکت کند."

زاکربرگ گفت که متا انتشار Muse، عامل هوش مصنوعی خود را که توسط تیم Superintelligence Labs ساخته شده بود، چند ماه به تعویق انداخت تا ایمنی و امنیت مدل را تقویت کند.

زاکربرگ گفت: "ما قبل از ما از دیگران دعوت نکردیم که این کار را انجام دهند." "ما فقط این کار را انجام دادیم."

مقاله اصلی را در Business Insider بخوانید