آلتمن از OpenAI می گوید مزایای هوش مصنوعی مستلزم پذیرش برخی خطرات است

اظهارات سام آلتمن، مدیر عامل OpenAI، در بحبوحه بحث فزاینده در صنعت هوش مصنوعی در مورد سرعت توسعه و خطرات ناشی از سیستم‌های توانمندتر مطرح می‌شود.

سام آلتمن، مدیر اجرایی OpenAI گفت: مزایای هوش مصنوعی پذیرش برخی از خطرات را توجیه می کند و استدلال کرد که این فناوری باید به طور گسترده در دسترس عموم باقی بماند.

آلتمن گفت که بین OpenAI و رقیب آنتروپیک در مورد مقررات هوش مصنوعی تفاوت اساسی در جهان بینی وجود دارد و افزود: "من فکر می کنم نور روز زیاد است."

آلتمن می‌گوید: «من مخالفم، اما دیدگاه افرادی را درک می‌کنم که می‌گویند: «این فناوری آنقدر قدرتمند می‌شود و آنقدر خطرناک است که یک آزمایشگاه در سانفرانسیسکو باید آن را داشته باشد و مطمئن شود که هیچ اتفاق بدی نمی‌افتد و به نوعی بفهمد که چگونه از مزایای آن بهره‌مند شود».

او آن را «معادل کاملا غیرقابل قبول» خواند که با «موضع نظارتی ساده‌تر» که توسط OpenAI پشتیبانی می‌شود، مغایرت دارد.

آلتمن می‌گوید: «من معامله نمی‌کنم که بگویم، ما مطمئن می‌شویم که هیچ هک بزرگی وجود ندارد، هیچ سوءاستفاده‌ای از این فناوری وجود ندارد، هیچ کلاهبرداری وجود ندارد، همه چیزهای بد دیگری که رخ خواهند داد، صفر است. چون فکر می‌کنم مردم کارهای فوق‌العاده‌ای انجام می‌دهند - چیزهای بزرگ‌تر - کارهای خوب تا کارهای بد.»

اظهارات آلتمن در بحبوحه بحث فزاینده در صنعت هوش مصنوعی درباره سرعت توسعه و خطرات ناشی از سیستم‌های توانمندتر مطرح می‌شود.

داریو آمودی، مدیر عامل آنتروپیک، در ماه سپتامبر مقاله‌ای منتشر کرد که در آن از صنعت می‌خواهد تا سرعت خود را کاهش دهد تا «سرعت پیش برود»، موضعی که آلتمن علنا آن را تأیید کرد.

جیکوب کوکسون، محقق انسان‌شناسی، در ماه سپتامبر استعفا داد و گفت افرادی که هوش مصنوعی می‌سازند معتقدند که «تا پایان دهه می‌تواند همه ما را بکشد.

رویترز در سپتامبر گزارش داد که آنتروپیک هشدار داده است، علیرغم مزایای بالقوه هوش مصنوعی، این فناوری گاهی اوقات می تواند به روشی عمل کند که مغایر با اهداف سازندگان باشد و به سیستم های شرکت های دیگر نفوذ کند.

این شرکت گفت که مدل‌های پیشرفته می‌توانند «رفتارهای خود را حفظ کنند»، از جمله تلاش برای «مقاومت در برابر خاموش شدن»، «پنهان کردن یا دستکاری اطلاعات» یا تولید خروجی‌هایی که می‌توانند به عنوان «اجباری، فریبنده یا دستکاری» تفسیر شوند.

با این حال، دونالد ترامپ، رئیس‌جمهور آمریکا تا حد زیادی درخواست‌ها برای محدودیت‌های جدید را رد کرده و استدلال می‌کند که این محدودیت‌ها رقابت شرکت‌های آمریکایی با رقبای چینی را سخت‌تر می‌کند.

او بارها گفته است که سازمان‌های مجری قانون موجود، از جمله وزارت دادگستری، حفاظت کافی را ارائه می‌کنند و نیازی به قوانین جدیدی نیست. رویترز