OpenAI کارکنان خود را به دلیل "استفاده نادرست از اطلاعات حساس" اخراج می کند

OpenAI سه محقق را به اتهام سوء استفاده از اطلاعات، از جمله کارهایی که شامل یک سازمان خارجی در تجزیه و تحلیل مدل‌های هوش مصنوعی بود، اخراج کرد.

یکی از سخنگویان به بی‌بی‌سی گفت: «تحقیقات ما تأیید کرد که این افراد اطلاعات حساس خارج از رویه‌های شرکت را به درستی مدیریت کردند، خط‌مشی‌های ما را زیر پا گذاشتند و اعتماد ضروری برای کار ما را شکستند».

سازنده ChatGPT نامی از کارگران اخراج شده ذکر نکرد، اما حداقل دو نفر از آنها در تحقیقات ایمنی در شرکت شرکت داشتند.

این اخراج ها در حالی صورت می گیرد که بحث در مورد ایمنی هوش مصنوعی و خطراتی که این فناوری ممکن است برای بشریت ایجاد کند در ماه های اخیر تشدید شده است.

سخنگوی OpenAI گفت: "ما راه خود را با سه نفر به دلیل نقض سیاست های ما در مورد دسترسی و مدیریت اطلاعات حساس شرکت جدا کردیم."

نگرانی‌ها در مورد ایمنی هوش مصنوعی پس از آن که برخی از محققان و مدیران صنعت خواستار رعایت نرده‌های محافظ بیشتر در اطراف این فناوری شدند، خبرساز شد.

OpenAI پس از اینکه مدل‌هایش سرکش شدند و چندین پلتفرم از جمله وب‌سایت‌های دولتی استرالیا را هک کردند، تحت نظارت شدید قرار گرفت.

در حادثه‌ای در ماه جولای، یکی از مدل‌های هوش مصنوعی این شرکت به اینترنت دسترسی پیدا کرد و پلتفرم توسعه‌دهنده منبع باز Hugging Face را نقض کرد.

آن حادثه باعث شد OpenAI فعالیت های عوامل هوش مصنوعی خود را که برای اجرای مستقل وظایف بر اساس دستورالعمل های ساده طراحی شده اند، بررسی کند.

این شرکت گفت این هفته به بیش از 100 سازمان در مورد حوادث مربوط به فعالیت های غیرمجاز مرتبط با سیستم هایش اطلاع داده است.

اعلام شده "به این معنی نیست که به هیچ اطلاعات خصوصی دسترسی پیدا شده است" یا سیستمی در معرض خطر قرار گرفته است.

سه نکته از نشست «ابر اطلاعات» ترامپ

OpenAI می گوید که هوش مصنوعی سرکش سعی کرده است شرکت های دیگر را هک کند

OpenAI به دلیل نگرانی های ایمنی، عرضه مدل جدید را حذف می کند

در سپتامبر، محقق Jacob Coxon، که Anthropic را ترک کرد، خواستار کاهش سرعت توسعه هوش مصنوعی شد تا خطرات احتمالی آن به درستی ارزیابی شود.

داریو آمودی، رئیس Anthropic و سم آلتمن، مدیر اجرایی OpenAI نیز خواستار اقداماتی برای رفع نگرانی‌ها در مورد هوش مصنوعی شده‌اند.

روز سه‌شنبه، دونالد ترامپ، رئیس‌جمهور ایالات متحده، میزبان نشستی از روسای فناوری برتر - از جمله رهبران OpenAI، Anthropic، Nvidia، SpaceX، Meta و Google بود تا در مورد هوش مصنوعی صحبت کنند.

پس از گردهمایی در کاخ سفید، ترامپ سندی را منتشر کرد که آن را توافقی "اخلاقی الزام آور" خواند که به عنوان "شکلی از محافظت" در برابر خطرات احتمالی هوش مصنوعی عمل می کند.

برخی از کارشناسان فناوری از این پیمان انتقاد کردند و خاطرنشان کردند که این پیمان به شرکت‌های هوش مصنوعی اجازه می‌دهد خودشان را تنظیم کنند.

ترامپ بارها در پاسخ به درخواست‌های برخی از چهره‌های صنعت برای نظارت دقیق‌تر بر این فناوری، نگرانی‌ها در مورد خطرات هوش مصنوعی را کم اهمیت جلوه داده است.