صنعت «مطمئن» رئیس OpenAI می تواند ایمنی هوش مصنوعی را کنترل کند

سام آلتمن، مدیر اجرایی OpenAI گفت که او معتقد است شرکت‌های هوش مصنوعی می‌توانند این فناوری را با خیال راحت بدون آسیب جدی به مردم توسعه دهند.

آلتمن طی کنفرانسی در سانفرانسیسکو گفت: "من به توانایی شرکت ما - توانایی صنعت ما - برای انجام این کار با خیال راحت بسیار اطمینان دارم."

نظرات آلتمن در مورد سرعت پیشرفت‌های هوش مصنوعی زمانی بیان شد که سیاست‌گذاران و سایرین در صنعت بحث کردند که آیا مقررات دولتی برای جلوگیری از خارج شدن هوش مصنوعی از کنترل انسان لازم است یا خیر.

داریو آمودی، مدیر اجرایی رقیب OpenAI آنتروپیک، پس از نوشتن مقاله ای در روز شنبه که خطرات بالقوه این فناوری را مطرح می کرد و پیشنهاد می کرد توسعه باید کند شود، آخرین بحث را آغاز کرد.

در حالی که OpenAI با Anthropic و Google DeepMind برای رسیدگی به مسائل ایمنی کار می کند، آلتمن گفت که شرکت های هوش مصنوعی باید بتوانند به تنهایی مدل های هوش مصنوعی را بهبود بخشند.

او گفت: «من از نحوه طراحی آن ناامید هستم.

در همین حال، جنسن هوانگ، مدیر اجرایی انویدیا، نیاز به قوانین امنیتی جدید هوش مصنوعی را رد کرد و استدلال کرد که نیروهای بازار به شرکت‌ها کمک می‌کنند تا با خیال راحت نوآوری کنند.

هوانگ گفت: "ما به قوانین جدید نیاز نداریم - ما به مقررات جدید نیاز نداریم."

او گفت که "انتخاب نادرستی" در مورد ایمن یا سریع بودن توسعه هوش مصنوعی وجود دارد و نکته ای را که قبلا مطرح کرده بود تکرار کرد.

او گفت: "حتما می توانید هر دو را همزمان داشته باشید." "شما تا زمانی که مطمئن شوید چیزی را منتشر می کنید که بازار از آن استقبال می کند، سرعت می گیرید. نیروهای بازار از قبل آنجا هستند."

هوانگ صدای خود را به یک بحث قطبی در مورد نحوه مدیریت خطرات هوش مصنوعی اضافه کرده است.

اگرچه رهبران آنتروپیک و دیگر آزمایشگاه‌های بزرگ درباره کاهش هماهنگ شده توسعه فناوری بحث کرده‌اند، رهبران دیگر خواستار رویکردهای جایگزین شده‌اند.

شرکت هوانگ بزرگ‌ترین سازنده شتاب‌دهنده‌های هوش مصنوعی است - تراشه‌هایی که در قلب یک مرکز داده عظیم قرار دارند - و او یکی از برجسته‌ترین حامیان صنعت گسترده‌تر هوش مصنوعی است.

در یک رویداد اوایل این هفته، او یک تماس تلفنی روی صحنه با دونالد ترامپ، رئیس‌جمهور ایالات متحده داشت که در آن آنها از این ایده که توسعه هوش مصنوعی باید کند شود، مخالفت کردند.

مارک زاکربرگ، مدیر اجرایی متا، روز سه‌شنبه گفت که آزمایشگاه‌ها باید به ارزیابان و مشاوران مستقل برای اطمینان از ایمن بودن مدل‌های هوش مصنوعی تکیه کنند.

این بحث در روزهای اخیر شدیدتر شده است، به ویژه پس از آنتروپیک، داریو آمودی، مقاله ای 3800 کلمه ای را منتشر کرد که این کاهش سرعت را تأیید می کند. این به دنبال استعفای برجسته یکی از کارکنان Anthropic بود که گفت شرکت و رقیب OpenAI با زندگی ما قمار می کنند زیرا فناوری آنها می تواند به تهدیدی برای بشریت تبدیل شود.

هوانگ روز سه شنبه گفت که شرکت ها می توانند تصمیم بگیرند چیزهایی را که مضر هستند منتشر نکنند.

او گفت: «ایمنی در درجه اول اهمیت قرار دارد. "از بسیاری جهات، این یک کار است. با این حال، ایمنی یک مشکل مهندسی است."

او گفت: اگر به نقطه‌ای رسیدیم که «شرکت از کنترل خارج شده و محصول ایمن نخواهد بود، مکث کنید و مطمئن شوید که آن را درست انجام می‌دهید». - بلومبرگ