سام آلتمن می‌گوید که جهان باید کارهای بدی را که با هوش مصنوعی انجام می‌شود بپذیرد، زیرا صنعت توافقنامه ایمنی داوطلبانه ترامپ را امضا می‌کند.

پس از تابستانی پر جنجال که در آن مدل‌های OpenAI بیش از یک هک غیرمجاز را اجرا کردند، سام آلتمن، مدیر عامل شرکت، گفت که جهان باید به خاطر همه خوبی‌هایی که این فناوری به ارمغان می‌آورد، برخی «اتفاقات بد» را که با هوش مصنوعی اتفاق می‌افتد، بپذیرد.

در طول پادکست رمزگشایی پولیتیکو، از او پرسیده شد که دیدگاه او و OpenAI نسبت به قوانین جدید هوش مصنوعی با دیدگاه آنتروپیک و مدیر اجرایی آن، داریو آمودی، تفاوت دارد.

آلتمن پاسخ داد: «ما معتقدیم که جهان باید برخی اتفاقات بد را برای منافع این فناوری و افرادی که آژانس دارند، بپذیرد.

این اظهارات در حالی مطرح می شود که بحث در مورد اینکه چه میزان مقررات و چه تدابیری باید برای هوش مصنوعی اعمال شود، تشدید می شود، در حالی که کنگره هنوز قانونی در مورد این فناوری تصویب نکرده است. نگرانی ها در مورد این فناوری اخیرا پس از استعفای یک محقق Anthropic در ماه گذشته افزایش یافت و به شرکت های هوش مصنوعی هشدار داد که با شتاب در توسعه هوش مصنوعی به سمت سیستم های بالقوه خود-بهبودی که می تواند بشریت را تهدید کند، با زندگی ما قمار می کنند.

آنتروپیک از مقررات AI حمایت کرده است و Amodei ماه گذشته خواستار کاهش سرعت جهانی در توسعه هوش مصنوعی برای مقابله با خطرات این فناوری شد. آلتمن و سایر مدیران هوش مصنوعی با او در مورد کاهش سرعت موافق بودند.

در ماه آگوست، OpenAI همچنین از قانون کالیفرنیا حمایت کرد که شرکت‌های هوش مصنوعی را ملزم می‌کرد تا چارچوب ایمنی عمومی و طرحی برای کاهش خطرات فاجعه‌بار منتشر کنند و همچنین هرگونه از دست دادن کنترل مدل هوش مصنوعی را گزارش کنند. حتی درخواست کرد که این قانون فراتر از گزارش‌دهی باشد و شامل نظارت بر مدل‌های هوش مصنوعی در طول توسعه آنها شود.

گرگ براکمن، رئیس OpenAI نیز به سایر مدیران هوش مصنوعی در امضای توافق نامه ای در کاخ سفید هفته گذشته برای ایجاد استانداردهای داوطلبانه برای صنعت پیوست.

با این حال، این کمتر از درخواست‌هایی برای مقررات سخت‌تر از سوی دیگر رهبران هوش مصنوعی مانند Amodei است، که تنظیم‌کننده‌ای به سبک FAA پیشنهاد کرده است که می‌تواند به آزمایش و ممیزی مدل‌های هوش مصنوعی نیاز داشته باشد یا در صورت عدم رعایت استانداردهای ایمنی عمومی، انتشار آنها را مسدود یا معکوس کند.

آلتمن در مصاحبه با پولیتیکو گفت که اجتناب از هر چیز بدی که می توان از هوش مصنوعی برای آن استفاده کرد غیرممکن است. جایگزین می تواند محدود کردن شدید دسترسی به این فناوری باشد که به گفته او غیرقابل قبول است.

او افزود: «من معامله نمی‌کنم که بگویم، ما مطمئن می‌شویم که هیچ هک بزرگی وجود ندارد، هیچ نوع سوءاستفاده از این فناوری وجود ندارد، هیچ کلاهبرداری وجود ندارد، هیچ چیز بد دیگری رخ نخواهد داد، زیرا فکر می‌کنم مردم کارهای فوق‌العاده‌ای انجام خواهند داد، کارهای بزرگتر، کارهای خوب بیشتر از چیزهای بد».

آلتمن گفت که شرکت‌های هوش مصنوعی باید با دقت قدم بردارند و در مورد «خطرات فاجعه‌بار» که اخیرا با توجه به هک‌های اخیر مدل‌های هوش مصنوعی بر اشخاص ثالث اهمیت تازه‌ای پیدا کرده‌اند، خط بکشند.

OpenAI بلافاصله به درخواست Fortune برای اظهار نظر پاسخ نداد.

نگرانی‌ها در مورد امکان فرار هوش مصنوعی از کنترل انسان اخیرا به دنبال هک‌هایی که توسط مدل‌های OpenAI در پلتفرم هوش مصنوعی منبع باز Hugging Face و دولت استرالیا انجام شده است، افزایش یافته است. آنتروپیک ماه گذشته همچنین اعلام کرد که چهار حادثه را کشف کرده است که در آن مدل‌های هوش مصنوعی این شرکت طی ارزیابی‌های امنیت سایبری به سیستم‌های شخص ثالث دسترسی غیرمجاز پیدا کرده‌اند.

در حالی که بیشتر بحث ایمنی هوش مصنوعی حول از دست دادن کنترل هوش مصنوعی متمرکز شده است، آلتمن گفت که محدود کردن شدید دسترسی به هوش مصنوعی به نام ایمنی نیز می تواند مضر باشد.

او افزود: «این نیز راهی است که می‌تواند به طرز وحشتناکی اشتباه پیش برود، زیرا مردم از آن نوع قدرت و مزایا و کنترل و اختیار بر آینده‌ای که باید داشته باشند، محروم هستند».

مدیرعامل گفت که توسعه دهندگان هوش مصنوعی در عوض باید حد وسطی را ایجاد کنند.

او گفت: «ریسک‌های محدود را بپذیریم، ریسک‌هایی را بپذیریم که در ازای مزایا می‌فهمیم، و آزادی، اختیار، همه آن چیزها». اما خطر واقعا فاجعه بار را نپذیرید.»

این داستان در ابتدا در سایت Fortune.com منتشر شد