شرکت های هوش مصنوعی در حال رقابت برای نشان دادن مدل خود هستند که بیشترین تهدید را برای بشریت دارد

در بحبوحه ترس های فزاینده مبنی بر اینکه هوش مصنوعی با چنان سرعتی در حال پیشرفت است که ممکن است خود را مجبور به پایان دادن به زندگی روی زمین کند، غول های هوش مصنوعی از OpenAI تا Anthropic در حال تغییر سطح فروش خود هستند.

در جایی که شرکت‌ها قبلا برای نشان دادن توانایی‌های برتر در برنامه‌نویسی، ایمیل‌های غیرفعال-تهاجمی و ویدیوهای اسلایدهای غیرعادی با هم رقابت می‌کردند، اکنون به دنبال جذب مشتریان با این ادعا هستند که مدل آنها در حال حاضر بیشترین توانایی را برای پایان دادن به نسل بشر دارد.

دکتر اندرو لنسون، مدرس ارشد در همه انواع علم در دانشگاه ویکتوریا، گفت: "ما در حال ورود به یک محیط کاملا جدید هستیم." "مردم دیگر تحت تاثیر ویدئوهای خنده دار یا ساخت اپلیکیشن یا مقالات تحقیقاتی فوری قرار نمی گیرند. ما می دانیم که همه مدل های اصلی از قبل در این موارد بسیار خوب هستند. بنابراین کاربران دیگر نمی پرسند کدام یک از این مدل ها بیشتر به من در کارم کمک می کند؟ اکنون آنها می پرسند که کدام یک از این مدل ها به دنیا پایان می دهد؟

«در نهایت، وقتی مشتری پولی هستید، چیزی جز بهترین نمی‌خواهید.»

غول‌های هوش مصنوعی با مجموعه‌ای از تظاهرات جدید و تاثیرگذار به تقاضای مصرف‌کنندگان برای مدلی پاسخ می‌دهند که در دولت‌های جهان نفوذ کند و پایانی خونین، آتشین و خشن را به این نمای جهنمی ارائه کند.

در ماه ژوئیه، OpenAI آشکارا به خود می بالید که یک سری از عوامل هوش مصنوعی آن به طور مستقل و بدون جهت، مخزن نرم افزار Hugging Face را هک کرده اند و به طور بالقوه اطلاعات حساس یا ناشناخته ای مانند Hugging Face را در معرض دید کل جهان قرار داده اند.

سام آلتمن، مدیر عامل OpenAI، این نقض را به عنوان یک "تهدید هشداردهنده برای امنیت سایبری" جشن گرفت.

در همین حال، در اوایل این ماه، آنتروپیک یک افشاگر به نام جیکوب کاکسون را فرستاد تا به جهانیان توضیح دهد که پیشرفت سریع هوش مصنوعی در شرکت چقدر نگران شده است، و هشدار داد که ممکن است آنقدر خطرناک باشد که حتی بخواهیم سرعت خود را کاهش دهیم یا دوباره ارزیابی کنیم.

سهام انسان دوستانه با افشاگری ها به شدت افزایش یافت. یک پیشرفت قابل توجه، به ویژه با توجه به اینکه این شرکت دارای مالکیت خصوصی است.

OpenAI اخیرا فاش کرد که یکی از عوامل آن به پایگاه داده Medicare استرالیا نفوذ کرده است. نخست وزیر استرالیا آنتونی آلبانیز با آلتمن صحبت کرد تا "نگرانی شدید" خود را در مورد این حادثه ابراز کند.

و حتی دراماتیک‌تر، وقتی در مورد شایعاتی که مدل آن، کلود، همسرش را با هک کردن مایکروویو متصل به وای‌فای خانواده به قتل رسانده است، از داریو آمودی، مدیرعامل آنتروپیک، پاسخ داد: «خب، بله، گاهی اوقات».

اما لنسون می گوید که ما نباید خیلی زود هیجان زده شویم.

او گفت: راه درازی در پیش است. این سناریوها، به نظر من، بسیار دور هستند. برای مدتی طولانی، بهترین امیدی که ما برای پایان دادن به بشریت خواهیم داشت، خود بشریت خواهد بود.

"اگر مگس جرثقیل را دنبال کنید، گم نخواهید شد. اما اگر مگس جرثقیل را بخورید، دقیقا می دانید کجا باید بروید."