سام آلتمن: «دیگر فکر نمی‌کنم که بتوانیم همه اشکالات را برطرف کنیم»

به نظر می رسد هر روز یک مسئله جدید امنیت سایبری که احتمالا اینترنت را خراب می کند، کشف یا توسط هوش مصنوعی مورد سوء استفاده قرار می گیرد. به اندازه کافی بد شده است که حتی سام آلتمن، مدیر عامل OpenAI، یکی از افرادی که با وجود خطرات، بیشترین مسئولیت را در پیشبرد توسعه هوش مصنوعی بر عهده دارد، اکنون معتقد است که اصلاح ساده مشکلات دیگر گزینه مناسبی نیست.

آلتمن در طی یک حضور در دانشکده بازرگانی استنفورد به گروهی از دانشجویان مقطع کارشناسی ارشد گفت که بحران امنیت سایبری بدتر از آن است که هر کسی تصورش را بکند. او به حضار گفت: «من دیگر فکر نمی‌کنم که بتوانیم همه باگ‌ها را برطرف کنیم.

او گفت: «این امنیت سایبری... من حتی کلمه‌ای به اندازه کافی دراماتیک برای استفاده نمی‌دانم، اما مشکلی که برای ما پیش می‌آید، فکر می‌کنم، هنوز چیزی است که ما به‌عنوان رهبران سازمانی یا کشورها یا افراد، آن را جدی نگرفته‌ایم».

آلتمن زمانی که آنتروپیک مدل Claude Mythos خود را اعلام کرد، به این وحشت اشاره کرد و هشدار بدی داشت که نمی‌توان آن را عمومی کرد، زیرا به سادگی بسیار قدرتمند است و می‌تواند منجر به از بین بردن امنیت سایبری آنگونه که ما می‌شناسیم شود. مردم قطعا برخی از باگ‌ها را اصلاح کردند، اما یکی دیگر از این موارد بود که مردم واقعا نمایی را درک نمی‌کردند.»

اساسا، آلتمن پیشنهاد کرد که سازمان‌هایی که اقدامی انجام دادند، فقط مشکلاتی را که مدل‌های هوش مصنوعی می‌توانستند پیدا کنند، اصلاح کردند و آن را یک روز نامیدند، گویی هیچ باگ یا سوء استفاده دیگری در آینده پیدا نخواهد شد. او گفت: "به طور عمده، من فکر می کنم که اکثر رهبران سازمانی تا حدودی به سمت پیشرفت حرکت کرده اند. و مدل ها به کار خود ادامه داده اند."

به نظر می‌رسد آلتمن این سازمان‌ها را به خاطر جدی نگرفتن وضعیت به اندازه کافی یا در نظر گرفتن این که مدل‌ها ممکن است تکامل یابند و بهبود یابند سرزنش می‌کند، اما به نظر می‌رسد که علاقه کمتری به تفکر در مورد اینکه آیا ممکن است در حین پیشبرد این موضوع کم فروخته باشد یا نه، دارد زیرا پذیرش کامل این موضوع ممکن است منجر به فشار جدی‌تری برای کند کردن یا توقف توسعه شود، در حالی که او یک پیشنهاد عمومی اولیه دارد که تلاش می‌کند به آن برسد.

قابل ذکر است، زمانی که عوامل خود OpenAI کنترل را شکستند و Hugging Face را هک کردند، واضح بود که رویه‌ها و روش‌های امنیتی خودش کافی نیست. علیرغم فشار بر صنعت هوش مصنوعی برای اتخاذ نظارت زنجیره‌ای از فکر - تکنیکی برای بررسی استدلال داخلی یک مدل - به عنوان یک روش استاندارد، OpenAI آن را برای جلسات آموزشی خود اجرا نکرده بود. و طبق تحقیقاتی که توسط METR غیرانتفاعی ایمنی هوش مصنوعی انجام شد، OpenAI قبلا هشدار داده بود که عوامل آن از جعبه ماسه‌بازی خود فرار کرده‌اند و اکسپلویتی را که به آنها اجازه انجام این کار را می‌داد وصله کرده‌اند.

اما این اقدامات نتوانست از فرار دیگری که منجر به حمله شد جلوگیری کند.

بنابراین ما در اینجا برای آلتمن به نوعی در قلمروی کتری-سیاه هستیم. اما نگران نباشید، بنیانگذار OpenAI راه حلی برای مواردی که وصله ناموفق است دارد: هوش مصنوعی بیشتر. او گفت: «من فکر می‌کنم که ما باید مدل دفاعی را به طور کامل به استفاده از همان فناوری برای نوع جدیدی از سپر دفاعی تغییر دهیم. OpenAI ظاهرا در حال ورود به مدل فروش اسلحه به هر دو طرف درگیری است.

برای فکر کردن، خیلی نزدیک بودیم که مجبور نباشیم این کابوس را زندگی کنیم. آلتمن در طول سخنرانی فاش کرد که تقریبا وارد بانکداری سرمایه گذاری شده است زیرا "این کاری بود که همه بچه های باحال می خواستند انجام دهند و من قربانی فشار همسالان شدم." مشخص نیست که آیا او هنوز به اندازه دوران نوجوانی خود مستعد فشار همسالان است یا خیر، اما همه ما می‌توانیم سعی کنیم او را مورد آزار و اذیت قرار دهیم تا ببینیم آیا هنوز هم جواب می‌دهد یا خیر.