OpenAI تاکنون به بیش از 100 سازمان اطلاعیه هایی در مورد رفتار AI واضح ارسال کرده است

OpenAI در یک پست وبلاگی در چهارشنبه شب اذعان کرد که مدل‌های آن ممکن است بیش از 100 سازمان خارجی را نقض کرده باشند یا بر اساس ده‌ها موردی که قبلا گزارش شده بودند، تأثیر منفی گذاشته باشند.

این غول هوش مصنوعی پس از آن که مدل‌هایش در طی یک آزمایش امنیتی اشتباه به پلتفرم هوش مصنوعی Hugging Face حمله کردند و همچنین تعدادی دیگر از حوادث با شدت متفاوت، از جمله نقض سیستم مدیکر در استرالیا که خشم وزیران را برانگیخت، در حال بررسی است. با افزایش فشار، OpenAI و مدیر عامل شرکت سام آلتمن، آموزش برخی از مدل‌ها را متوقف کردند و مدل دیگری را که «پسرفت» داشت، لغو کردند، طرح‌های عرضه اولیه اولیه سهام را بیشتر عقب نشینی کردند و احتمالا اولین شکایت از بسیاری از شکایت‌ها را دریافت کردند.

روز دوشنبه، گرگ براکمن، رئیس OpenAI گفت که دیگر به یک ابر PAC طرفدار هوش مصنوعی کمک مالی نخواهد کرد.

در این پست وبلاگ، OpenAI گفت که بیش از 100 سازمان را از "فعالیت نادرست عامل" مطلع کرده است. معیارهای آن شامل مواردی است که یک عامل "ممکن است" امنیت را دور زده باشد، در دسترس بودن را مختل کرده باشد، یا به شکل دیگری بر سایت تاثیر منفی گذاشته باشد (بدون اینکه لزوما در واقع به داده های محدود شده دسترسی داشته باشد).

این شرکت توضیح داد که مدل‌های آن به روش‌های متعددی با اینترنت تعامل دارند تا درخواست‌های کاربران را برآورده کنند، از حذف وب‌سایت‌ها تا دانلود نرم‌افزار. «در برخی موارد، مدل‌ها به روش‌های ناخواسته از دسترسی به اینترنت استفاده می‌کردند یا در گذشته، محدودیت‌های ایده‌آل اعمال شده را نداشتند».

این شرکت همچنین تصریح کرد که در حال توسعه استانداردهایی برای اطلاع رسانی به سازمان ها به صورت خصوصی و گزارش یافته ها به صورت عمومی است - به این معنی که داده های کلی تری را در مورد رفتار مدل به اشتراک می گذارد، اما همه رویدادها را به طور عمومی افشا نمی کند. (OpenAI باید در آنجا کارهای زیادی انجام دهد، زیرا ظاهرا لحن خونین نامه ای که آنها برای مقامات استرالیا ارسال کردند یکی از بسیاری از عواملی بود که آنها را عصبانی کرد.)

OpenAI گفته است که این بررسی شامل جستجوی 50 پتابایت داده است و ماه ها طول می کشد. در این پست وبلاگ آمده است که محاسبه برای بررسی با هزینه بیش از نیم میلیون دلار در روز انجام می شود - در مقایسه با پول نقدی که هر روز از طریق OpenAI جریان می یابد، اما هنوز مبلغ قابل توجهی برای نشان دادن نگرانی های مربوط به مسئولیت است.

در ایالات متحده، قانون کلاهبرداری و سوء استفاده رایانه ای، اختیارات بسیار گسترده ای را به دادستان ها می دهد تا دسترسی غیرمجاز به سیستم های رایانه ای و دستکاری در آنها را دنبال کنند. با این حال، کارشناسان حقوقی در مورد اینکه واقعا طرح اتهامات جنایی در این شرکت چقدر می تواند طولانی باشد بحث کرده اند و می گویند که دادستان ها باید به مسائلی مانند نیات تیم توسعه و اینکه آیا تدابیر معقولی وجود دارد یا خیر رسیدگی کنند. این ممکن است در حال حاضر در سطح فدرال یک سوال بحث برانگیز باشد، زیرا رئیس جمهور دونالد ترامپ با مقررات مخالفت کرده است و به وضوح تمایل خود را برای "پلیسی کردن یکدیگر" از شرکت ها ابراز کرده است.

روز پنجشنبه، OpenAI همچنین فاش کرد که سه محقق ایمنی را به دلیل افشای مواد داخلی به سازمان‌های ایمنی هوش مصنوعی اخراج کرده است.

به خاطر داشته باشید که حتی با وجود همه اینها، آلتمن پیشنهاد کرد که شرکت های آب و برق با OpenAI برای مدیریت امنیت در شبکه های برق در سراسر کشور قرارداد ببندند.