تماس‌های کاهش سرعت هوش مصنوعی از سوی مدیران عامل ظاهرا برای کارمندان غافلگیرکننده است

در آخر هفته، داریو آمودی، مدیر عامل آنتروپیک، از آزمایشگاه‌های هوش مصنوعی مرزی خواست تا سرعت توسعه را کاهش دهند، زیرا می‌ترسند که مدل‌های هوش مصنوعی قبل از ایجاد پادمان‌های مناسب، به طور تصاعدی توانمندتر شوند. سام آلتمن، مدیر عامل OpenAI به سرعت این احساسات را تکرار کرد و از "قوانین ثابت برای مدیریت ریسک مرزی" حمایت کرد.

احتمالا یک نفر باید به کارمندان خود بگوید.

طبق گزارشی از فایننشال تایمز، کارکنان هر دو شرکت هوش مصنوعی با فراخوانی ناگهانی برای کاهش سرعت توسعه غافلگیر شدند. و در حالی که بسیاری از افرادی که در این شرکت‌ها کار می‌کنند ظاهرا از تدابیر حفاظتی بیشتر و سرعت توسعه آن‌ها حمایت می‌کنند، گزارش‌ها نیز می‌ترسند که مداخله اولیه که روسای آن‌ها با آن موافقت کرده‌اند - اجازه دادن به ارزیاب‌های خارجی «دسترسی کارمندان‌مانند» - ممکن است کار آنها را به خطر بیندازد.

افرادی که در واقع روی مدل‌های هوش مصنوعی کار می‌کنند که ظاهرا آنقدر خطرناک هستند که باید فورا مهار شوند، ظاهرا اکنون برای اجرای محدودیت‌ها و اقدامات ایمنی پیشنهادی که روسای آنها در این هفته در معرض دید عموم قرار دادند، رقابت می‌کنند. افسوس، فایننشال تایمز گزارش داد که هیچ اهرم واقعی در داخل این شرکت‌ها برای اجرای واقعی پیشنهادها وجود ندارد و آن‌ها در تلاشی دیوانه‌وار هستند تا بفهمند چگونه می‌توانند همه چیز را عملی کنند.

و برخی از آنها ظاهرا از رویکرد خاصی که مدیران اجرایی آنها تأیید کرده اند هیجان زده نیستند. به گفته FT، برخی از کارمندان نگران هستند که دسترسی افراد خارجی به کار آنها می تواند امنیت آنها را به خطر بیندازد و فناوری فوق سری آنها را به خطر بیندازد.

یک پاسخ معقول به این نگرانی این خواهد بود: "نه، نکته این است که نمی توان به همه شما اعتماد کرد که واقعا اقدامات ایمنی را به تنهایی انجام دهید." اما، از دیدگاه آن کارمندان، این یک تغییر اساسی از نحوه عملکرد آنها تا این مرحله است.

Anthropic و OpenAI در حال توسعه مدل های منبع باز نیستند. آن‌ها شرکت‌های جعبه سیاه هستند که سیستم‌های هزارتویی برای خصوصی نگه‌داشتن کار خود دارند، حتی برخی کارمندان را در مورد پیشرفت‌های خاص در تاریکی نگه می‌دارند. آن‌ها به این نکته پی برده‌اند که رازداری از اهمیت بالایی برخوردار است، و اکنون به آنها گفته می‌شود: «این را خراش دهید، کار شما اکنون در معرض بازبینی خارجی است.» این یک تغییر تکان دهنده است

صرف نظر از این، گزارش FT به نظر می رسد که روسای ممکن است در مورد میزان پیشگیرانه بودن آنها در مورد این تلاش برای کاهش سرعت، بیش از حد به مردم فروخته باشند. آلتمن در پستی در توییتر مدعی شد که کاهش سرعت «موضوع اصلی بحث‌های ما در OpenAI در هفته‌های اخیر بوده است»، در حالی که FT خاطرنشان می‌کند که شرکت گفته است «قبلا گام‌های ملموسی از جمله توقف برخی آموزش‌های مرزی برای سرعت بخشیدن به توسعه برداشته است». اگر به نظر می رسد کارمندان از آنها چشم پوشی می کنند، این مراحل چقدر می توانند ملموس باشند؟