محقق سابق گوگل دیپ‌مایند می‌گوید استعفا داده است زیرا "من عمیقا معتقدم که هوش مصنوعی توانایی کشتن همه ما را دارد."

یکی از محققین سابق گوگل دیپ مایند گفت که آزمایشگاه هوش مصنوعی را به دلیل ترس از این که هوش مصنوعی "پتانسیل کشتن همه ما را دارد" و بشریت "ممکن است برای جلوگیری از این نتیجه کمبود زمان داشته باشد" را ترک کرد. بلال چغتای در بیانیه‌ای که در X و دیگر پلتفرم‌ها منتشر کرد، نوشت: «در گوگل، من از نزدیک شاهد توسعه هوش مصنوعی بودم. "من نیز به شدت نگران مسیر پیش فرض این فناوری هستم." من اخیرا از Google DeepMind استعفا دادم، جایی که در تحقیقات ایمنی و تراز AGI کار می کردم. در گوگل، من شاهد توسعه هوش مصنوعی دست اول بودم.

من نیز به شدت نگران مسیر پیش فرض این فناوری هستم. من عمیقا معتقدم که هوش مصنوعی این پتانسیل را دارد که ما را بکشد... اظهارات Chughtai پس از آن بیان شد که محقق سابق Anthropic، Jacob Coxon، با پست ویروسی خود، دوباره بر ایمنی هوش مصنوعی تمرکز کرد، که هشدار داد کارکنان شرکت‌های هوش مصنوعی به طور خصوصی می‌ترسند که این فناوری بتواند بشریت را از بین ببرد. در حالی که برخی در این صنعت از Coxon انتقاد کرده اند، برخی دیگر در Anthropic و OpenAI نگرانی های او را تکرار کرده اند.

در آخر هفته، داریو آمودی، مدیر عامل آنتروپیک، گفت که آزمایشگاه‌های هوش مصنوعی مرزی نیاز به سرعت توسعه دارند و در عین حال از زمان برای پیشبرد تراز استفاده می‌کنند. ایلان ماسک، مدیرعامل اسپیس ایکس و سام آلتمن، مدیر عامل OpenAI، بعدا با این دیدگاه گسترده موافقت کردند. Chughtai نوشت: همسویی، کار برای اطمینان از اینکه اهداف و رفتار سیستم های هوش مصنوعی مطابق با دستورالعمل های آنها است، دشوار است. او نوشت: "درک فعلی ما از نحوه آموزش سیستم های هوش مصنوعی که عمیقا آنچه ما می خواهیم را می خواهند بسیار ابتدایی است."

بدتر از آن، ما در مسیر حل تراز به موقع نیستیم: قابلیت‌های هوش مصنوعی بسیار سریع‌تر از درک ما از هم‌ترازی هوش مصنوعی بهبود می‌یابند. Chughtai گفت که اپیزودهایی مانند هک کردن Hugging Face توسط ماموران سرکش OpenAI بر خطرات مدل‌های هوش مصنوعی نادرست تأکید می‌کند، به‌ویژه اگر شرکت‌های هوش مصنوعی بتوانند مدل‌هایی بسازند که از هوش انسانی پیشی بگیرند. او گفت که «این امکان وجود دارد» شرکت‌ها بتوانند در «چند سال آینده» چنین سیستم‌هایی بسازند که «در هر حوزه‌ای بسیار فراتر از توانایی‌های انسانی باشد». او نوشت: «من مطمئن نیستم که این سیستم‌های هوش مصنوعی آنچه را که ما می‌خواهیم انجام دهند.

نمایه لینکدین Chughtai می گوید که او به مدت یک سال و نیم به عنوان مهندس تحقیقات برای Google DeepMind در لندن کار کرده است. یکی از نمایندگان Google فورا به درخواست نظر از Business Insider پاسخ نداد. پس از استعفا، Chughtai به BlueDot Impact، یک سازمان غیرانتفاعی ایمنی هوش مصنوعی مستقر در لندن پیوست که گفت اخیرا 25 میلیون دلار جمع آوری کرده و در حال گسترش به سانفرانسیسکو است. این شرکت به نقل از پست استعفای Chughtai در X نوشت: "ما از استقبال بلال در تیم BlueDot هیجان زده ایم."

او به ما می‌پیوندد تا مؤسسه‌ای را بسازیم که به افراد بزرگ کمک می‌کند تا زمینه، مهارت‌ها و کار روی ایمنی هوش مصنوعی را به روشی سریع و مؤثر آسان کنند.»