شلیک های ایمنی OpenAI سؤالات ناخوشایندی را ایجاد می کند

صبح بخیر، بئاتریس نولان، گزارشگر ارشد هوش مصنوعی، اینجاست که جای Allie را پر می کند. هفته گذشته، OpenAI اعلام کرد که به بیش از 100 سازمان شخص ثالث در مورد "فعالیت نادرست عامل" هشدار داده است، از جمله سازمانی که در آن ماموران آن دولت استرالیا را برای دومین بار هدف قرار دادند.

در همان هفته، OpenAI همچنین سه محقق را به اتهام به اشتراک گذاشتن اطلاعات محرمانه شرکت با یک سازمان ثالث ایمنی هوش مصنوعی اخراج کرد. آنها یاسمین وانگ، تومک کورباک و میکیتا بالسنی بودند. طبق گزارش وال استریت ژورنال

OpenAI به WSJ گفت که آنها به دلیل "نقض سیاست های ما در مورد دسترسی و مدیریت اطلاعات حساس شرکت" اخراج شده اند. این شرکت به درخواست ما برای اظهار نظر پاسخ نداد.

هنوز دقیقا مشخص نیست که چه اطلاعاتی به اشتراک گذاشته شده است یا آنها آن را با چه کسانی به اشتراک گذاشته اند، اگرچه بلومبرگ گزارش داد که حداقل برخی از اطلاعات در مرکز تحقیقات مربوط به معماری زیرساخت OpenAI است. OpenAI همچنین نام سازمان خارجی را ذکر نکرده است و این سه محقق به طور عمومی اظهار نظر نکرده اند.

با این حال، فسخ اینترنت در یک بحث شدید قفل شده است - و توجه قانونگذاران را به خود جلب کرده است.

گرگ کاسار، نماینده کنگره نوشت: "فوق انگیز. گزارش شده است که OpenAI سه محقق ایمنی را به دلیل به اشتراک گذاشتن اطلاعات با یک گروه ایمنی خارج از هوش مصنوعی اخراج کرده است. به نظر می رسد که آنها افشاگران را اخراج می کنند. آنها چه چیزی را پنهان می کنند؟ من درخواست شفاف سازی OpenAI را ارسال خواهم کرد."

این فسخ در زمانی اتفاق می‌افتد که OpenAI و آزمایشگاه‌های هوش مصنوعی رقیب تحت فشار فزاینده‌ای قرار دارند تا شفاف‌تر در مورد حوادث ایمنی باشند. OpenAI، به‌ویژه، به‌خاطر تأخیر در افشای حوادث، به‌ویژه رویدادی که در آن عواملش یک سایت ویکی آلمانی را ربودند، به شدت مورد انتقاد قرار گرفته است، چیزی که طبق گزارش‌ها، شرکت ماه‌ها از آن می‌دانست اما تا زمانی که توسط محققان مستقل فاش نشد، نتوانست آن را فاش کند.

آیا OpenAI باید سریعتر برای افشای برخی از این هک ها عمل می کرد؟ کاملا، و این شرکت پذیرفته است که برای انجام این کار به استانداردهای واضح تری نیاز دارد. اما مشخص نیست که آنچه که کارکنان اخراج شده به اشتراک گذاشته اند ارتباطی با آن حوادث داشته باشد. و حتی اگر اینطور باشد، اینکه آیا این باعث می‌شود که آنها را افشاگر کند، پیچیده است.

در اینجا چیزی است که چارلی بولاک، مدیر ارشد سیاستگذاری تیم قانون و سیاست ایالات متحده LawAI می گوید:

من هنوز نظر محکمی در مورد اخراج های OpenAI ندارم، زیرا نمی دانم کارمندان چه اطلاعاتی را به اشتراک گذاشته اند یا با چه کسانی به اشتراک گذاشته اند.

با این حال، به طور کلی، قوانین موجود از افشاگران کالیفرنیا از اخراج شدن به دلیل افشای سوت تنها زمانی که اطلاعاتی را برای دولت یا مجریان قانون، یا در داخل شرکت خود افشا می‌کنند، محافظت می‌کند - نه زمانی که آنها اطلاعاتی را برای اشخاص ثالث خصوصی یا مطبوعات افشا می‌کنند.

در اینجا، به نظر می‌رسد که این افشاگری‌ها برای سازمان‌های ایمنی هوش مصنوعی خارجی بوده است. این نوع افشا با هیچ قانونی که من از آن آگاه هستم محافظت نمی شود و احتمالا IMO نباید چنین باشد.

البته هیچ یک از اینها لزوما به این معنی نیست که اخراج این کارمندان توسط OpenAI درست یا قابل قبول بوده است. اما من از قضاوت در مورد آن خودداری می کنم تا زمانی که درباره آنچه اتفاق افتاده است بدانیم.

بر اساس آنچه تاکنون شناخته شده است، همانطور که بولاک می گوید، محققان احتمالا واجد شرایط حمایت قانونی از افشاگران نیستند. اما شلیک ها همچنان OpenAI را در موقعیتی نامناسب قرار می دهد. این شرکت در حال ترسیم مرزی بین اشتراک‌گذاری تحریم‌شده و غیرمجاز با گروه‌های ایمنی خارجی است، در حالی که صنعت به آرامی از آن گروه‌ها دعوت می‌کند.

ماه گذشته، Anthropic گفت که به ارزیاب‌های خارجی مانند METR اجازه می‌دهد تا شیوه‌های ایمنی آن را تأیید کرده و مدل‌های آن را ارزیابی کنند. OpenAI به مدت شش روز پس از هک کردن Hugging Face توسط مامورانش، درهای خود را به روی METR و Redwood Research باز کرد. OpenAI همچنین در آن زمان به دلیل کمبود زمان و دسترسی به METR برای بررسی هک مورد انتقاد قرار گرفت، و Korbak، یکی از محققان اخراج شده، می‌گوید که او مخاطب فنی شرکت برای این تحقیق بوده است.

تنظیم کننده ها همچنین شروع به درخواست شفافیت و مسئولیت بیشتر از آزمایشگاه ها کرده اند. به عنوان مثال، در ماه سپتامبر، وزیر خزانه داری اسکات بسنت گفت که مدیریت OpenAI باید مسئولیت هک های اخیر عامل را بپذیرد. هفته گذشته، راب بونتا، دادستان کل کالیفرنیا، یک احضاریه تحقیقاتی به OpenAI به عنوان بخشی از یک تحقیق گسترده تر در مورد حوادث امنیت سایبری و خطرات مربوط به مدل های هوش مصنوعی آن صادر کرد. FTC همچنین تحقیقاتی را در مورد اقدامات ایمنی هوش مصنوعی در Anthropic و OpenAI آغاز کرد.

و همچنین هفته گذشته، Anthropic، OpenAI، Google، Meta، xAI و Nvidia قرارداد داوطلبانه کاخ سفید را امضا کردند که آنها را متعهد به مشارکت با حسابرسان خارجی مستقل می کند.

اخراج ها همچنین تنها خروج ایمنی در OpenAI در هفته گذشته نبود. دیوید رابینسون، که رهبری نوشتن گزارش‌های ایمنی را برعهده داشت که با عرضه محصولات اصلی OpenAI همراه بود، استعفا داد و مقاله‌ای در آتلانتیک منتشر کرد که در آن فرهنگ این شرکت شکسته شده است. رابینسون استدلال می‌کرد که نمی‌توان به شرکت‌های هوش مصنوعی برای پلیس خود اعتماد کرد و فشار واقعی برای اولویت‌بندی ایمنی باید از خارج وارد شود.

همه این موارد فسخ اخیر را برای OpenAI دشوار می کند و نشان می دهد که افشای ایمنی هنوز هم به هوس های آزمایشگاهی است. در حال حاضر، تا حدی به دلیل عدم مداخله دولت، شرکت ها تنها کسانی هستند که تصمیم می گیرند مردم در مورد این هک ها چه می دانند.

بئاتریس نولان beatrice.nolan@fortune.com @beafreyanolan

قراردادی را برای خبرنامه ترم شیت اینجا ارسال کنید.

جوی آبرامز سرپرستی بخش معاملات خبرنامه امروز بود. در اینجا مشترک شوید.

این داستان در ابتدا در سایت Fortune.com منتشر شد