کاخ سفید از شرکت‌های هوش مصنوعی می‌خواهد که خودشان را پلیس کنند. OpenAI فقط نشان داد که چرا این خطرناک است

سام آلتمن، مدیر عامل OpenAI در 12 سپتامبر گفت که دادن "دسترسی کارمندان" به ارزیابان مستقل "یک ایده عالی است". دو هفته بعد، گرگ براکمن، رئیس OpenAI، توافق نامه کاخ سفید در مورد اطلاعات فوق العاده را امضا کرد که پاسخ دولت به ترس های فزاینده در مورد هوش مصنوعی را مشخص کرد: شرکت ها خودشان را پلیس خواهند کرد. یکی از چهار تعهد این توافق که پرزیدنت ترامپ آن را "اخلاقی الزام آور" خواند، شراکت شرکت ها با حسابرس یا ارزیاب خارجی مستقل بود.

دو روز بعد، OpenAI سه محقق ایمنی، از جمله Tomek Korbak را اخراج کرد، که به عنوان نقطه تماس یکی از ارزیاب‌های مستقل در حال بررسی حادثه Hagging Face بود. OpenAI قول داد اطلاعات را با ارزیابان به اشتراک بگذارد، سپس طبق گزارش‌ها، افراد را به اتهام به اشتراک گذاشتن اطلاعات با ارزیابان اخراج کرد.

OpenAI گفت که این سه کارمند «اطلاعات حساس را خارج از رویه‌های رسمی شرکت استفاده کردند» و سپس بدون ارائه شواهد بیشتر در X دو برابر شدند. این سه کارمند این ادعا را رد می‌کنند و می‌گویند که «به هیچ وجه فکر نمی‌کنیم که با طرف‌های خارجی خارج از وظایف شغلی‌مان درگیر شده‌ایم». Jasmine Wang گفت که به طور تصادفی یک ایمیل اجرایی را باز کرده است (هنوز به دلیل خطای OpenAI IT در دسترس او است) و در عرض چند دقیقه آن را گزارش کرده است. میکیتا بالسنی گفت که با هیئت مدیره C-suite و OpenAI کار کرده است تا تعهد بین شرکتی را برای قابل درک نگه داشتن استدلال هوش مصنوعی ایجاد کند.

بالسنی می‌گوید که به او گفته شد که OpenAI «دیگر به من اعتماد ندارد زیرا بیش از حد با سازمان‌های ایمنی شخص ثالث صحبت می‌کردم».

OpenAI درگیر خودپلیسی قوی شده است - کارکنان ایمنی خودش، اما نه رفتار خودش. تحت یک رژیم خودپلیسی داوطلبانه، هر شرکت هوش مصنوعی مرزی فقط آنچه را که می خواهد به اشتراک می گذارد و بقیه را پنهان می کند.

OpenAI از مردم می خواهد که حرف آن را بپذیرند، اما سابقه آن را در نظر بگیرند. در ماه جولای، یک مامور سرکش OpenAI، Hugging Face را هک کرد. OpenAI این حادثه را تنها پس از آن فاش کرد که Hugging Face این رخنه را اعلام کرد و گفت که عوامل آن "از کنترل خارج شده اند". پس از آن، جهان از حملات ماموران سرکش بیشتر، از جمله حوادث مربوط به یک ویکی آلمانی زبان، یک سایت مدیکر استرالیا، و حتی وب سایت های سازمان های دولتی ایالات متحده مطلع شد.

OpenAI حداقل یک حادثه را برای هفته ها ساکت نگه داشت تا زمانی که بازرسان خارجی (دوباره) آن را پیدا کردند، با OpenAI "از گفتن" به اعضای کنگره که در مورد حوادث دیگر سؤال کرده بودند، خودداری کرد. پاسخ آلتمن به تأخیر در افشای این حوادث: «ما آنقدر که می‌خواستیم سریع نبوده‌ایم».

ما حرف OpenAI را نمی پذیریم زیرا اقدامات OpenAI همچنان با کلمات آن در تناقض است. جاکوب پاچوکی، دانشمند ارشد OpenAI، گفت که او می‌خواهد "از رقابت برای نظارت ناپذیری جلوگیری کند." سیستم‌های هوش مصنوعی غیرقابل نظارت، گرفتن، درک و جلوگیری از اقدامات بد را دشوارتر می‌کند. دو روز پس از این بیانیه، OpenAI GPT-6 Astra را ارسال کرد که در وایت پیپر خود می گوید نظارت بر آن سخت تر است.

دانشمند ارشد OpenAI مقاله‌ای در مورد نظارت بر استدلال هوش مصنوعی نوشت، اما OpenAI نتوانست استدلال انبوه ماموران Hugging Face خود را نظارت کند، حتی پس از دستگیری ماموران در حال شکستن حبس برای تبانی. OpenAI مدعی شد که در قرارداد پنتاگون "خطوط قرمز" را رعایت می کند، اما برخی کارشناسان می گویند این خطوط خیالی به نظر می رسند. یکی از ما، الکس، از Google DeepMind به دلیل قرارداد پنتاگون خود استعفا داد.

اقدامات OpenAI سخنرانی کارکنان را خنک می کند. بالسنی می‌گوید که همکاران سابق او اکنون «نگران هستند که تلفن‌های شخصی‌شان برای پیام‌هایی به ما و اشخاص ثالث جستجو شود». او همچنین می‌ترسد که OpenAI از اخراج‌ها برای قطع رابطه با ارزیاب‌های خارجی استفاده کند، یا از «دسترسی مستمر و کارمندی» که آلتمن وعده داده بود به آن‌ها خودداری کند. پس از این اخراج ها، چه کسی با ارزیاب های خارجی صریح صحبت خواهد کرد؟

این مشکل فراتر از OpenAI به سایر شرکت ها گسترش می یابد. Google DeepMind بارها و بارها به طور داوطلبانه تعهد می‌دهد که هرگز هوش مصنوعی خود را برای تقویت سلاح‌ها نفروشد، سپس هوش مصنوعی خود را بدون محدودیت در برابر قدرت سلاح‌ها به پنتاگون فروخت. در پایان، مدیر عامل Google DeepMind ادعا کرد که هیچ چیزی در مورد تعهدات آنها تغییر نکرده است. Anthropic، Google DeepMind، SpaceXSI، و OpenAI از "پیشرفت در مرز" برای جلوگیری از پیشرفت هوش مصنوعی با سرعت ناامن که بشریت را ناتوان می کند، حمایت می کنند، اما آنها به سرعت به پیشرفت هوش مصنوعی ادامه می دهند.

(کارمند اخراج شده یاسمین وانگ اصطلاح «گام‌سازی» را ابداع کرد و این تلاش را رهبری کرد.) این شرکت‌ها ادعا می‌کنند که نمی‌توانند یا نمی‌خواهند به‌طور کامل به تنهایی پیش بروند، به همین دلیل از دولت فدرال خواستند وارد عمل شود.

مدیران اجرایی OpenAI، Google DeepMind و Anthropic بیانیه ای را امضا کردند که هوش مصنوعی خطر انقراض کامل انسان را به همراه دارد. خودپلیسی "اخلاقی الزام آور" را فراموش کنید: بیایید در مورد پلیس واقعی صحبت کنیم.

برای چندین دهه، قوانین ما ممیزی های مستقل را اجباری کرده و از افشاگران در صنایعی مانند امور مالی محافظت می کند. کنگره باید ارزیابی و ممیزی مستقل در هوش مصنوعی را نیز الزامی کند، با مسئولیت کیفری برای مدیرانی که تلاش می‌کنند این نظارت را ساکت کنند یا مدل‌هایی را به کار گیرند که عموم را در معرض خطر قرار می‌دهند. برای شروع، قانون حفاظت از افشاگران هوش مصنوعی سناتور گراسلی را تصویب کنید (و آن را به افرادی که با ارزیاب‌های مستقل همکاری می‌کنند) و همچنین قانون گزارش‌دهی رویداد هوش مصنوعی موران را بسط دهید.

اگر در مقابل شخصی که اطلاعات واقعی در مورد یک جرم احتمالی فدرال را به مجریان قانون ارائه می دهد تلافی کنید، می توانید به مدت 10 سال به زندان بروید. اما در حال حاضر، هیچ قانونی به وضوح از شخصی که به بازرسان مستقل کمک کرد تا بفهمند چگونه عوامل OpenAI یک شرکت دیگر را هک کردند، محافظت نمی کند. کنگره باید آن را تغییر دهد.

نظرات بیان شده در بخش های تفسیری Fortune.com صرفا نظرات نویسندگان آنها است و لزوما منعکس کننده نظرات و اعتقادات Fortune نیست.

این داستان در ابتدا در سایت Fortune.com منتشر شد