کارمند سابق OpenAI می گوید هوش مصنوعی باید مانند نیروگاه های هسته ای تنظیم شود

رهبر سابق ایمنی این شرکت گفت که نسخه‌های مدل‌های هوش مصنوعی مرزی باید دارای «لایه‌هایی از افزونگی و برنامه‌ریزی دقیق و زمان‌بر» باشند.

یکی دیگر از کارمندان OpenAI که وظیفه اطمینان از ایمنی مدل‌هایش را داشت، ترک کرده است. پس از خروج، دیوید رابینسون، که نوشتن گزارش‌های ایمنی را که همراه با عرضه مدل‌ها منتشر می‌شد، رهبری می‌کرد، مقاله‌ای برای آتلانتیک نوشت که درباره فرهنگ «شکسته» شرکت هشدار داد. در میان بسیاری از نکات هشدار دهنده در مورد خطرات مرتبط با خط سیر توسعه هوش مصنوعی، رهبر ایمنی سابق توضیح داد که "از آنجایی که شرکت از یک راه اندازی به راه اندازی بعدی می رسد، در رسیدن به سطح مراقبتی که من معتقدم لازم است شکست می خورد."

رابینسون به‌جای پیشبرد مدل‌های پیشرفته‌تر هوش مصنوعی مرزی، استدلال کرد که این شرکت‌ها باید از نیروگاه‌های هسته‌ای یا فرودگاه‌های شلوغ که دارای «لایه‌های اضافی و برنامه‌ریزی دقیق و زمان‌بر هستند، الگوبرداری شوند تا خطای انسانی گاه به گاه و اجتناب‌ناپذیر دری را به روی فاجعه باز نکند».

رابینسون با مقایسه حوادث عدم همسویی هوش مصنوعی با یک فروپاشی هسته‌ای، گفت که OpenAI و رقبای آن به اندازه نیروگاه‌های دارای لایه‌های حفاظتی متعدد، افزونگی و سخت‌گیری ندارند. علاوه بر این، او اضافه کرد که از دست دادن کنترل با هوش مصنوعی آسیب بسیار بیشتری نسبت به یک فروپاشی منفرد خواهد داشت. مانند رابینسون، مدیر عامل آنتروپیک، داریو آمودی، اخیرا با پیشنهادی سه مرحله ای برای کاهش سرعت کارها، توجه را به روند توسعه هوش مصنوعی جلب کرد.

فراتر از پادمان ها و بررسی ها، کارمند سابق OpenAI گفت که موضوع "همسویی" هوش مصنوعی دارای مخاطراتی است که "نمی تواند بالاتر باشد." رابینسون سناریویی را تشریح کرد که در آن جدیدترین مدل‌ها ممکن است متوجه شوند که در حال آزمایش روی هم‌ترازی هستند و امتیاز خوبی را در محیط‌های آزمایشی به دست می‌آورند، اما در هنگام پخش کاملا متفاوت رفتار می‌کنند. نگرانی‌های رابینسون از حوادث مختلفی ناشی می‌شود که اخیرا عوامل هوش مصنوعی از محیط‌های آزمایشی خود خارج شده‌اند و وارد سازمان‌های دیگر شده‌اند، که بسیار فراتر از محدوده کاری تعیین‌شده است.