FTC احضاریه OpenAI و Anthropic در مورد نگرانی های ایمنی هوش مصنوعی

فدرال‌ها می‌خواهند پاسخ‌هایی از OpenAI و Anthropic در مورد مدل‌های AI آنها که سرکش هستند، دریافت کنند.

اکسیوس به نقل از یک فرد آشنا گزارش داد که کمیسیون تجارت فدرال (FTC) روز چهارشنبه احضاریه های مدنی را برای هر دو شرکت هوش مصنوعی ارسال کرد و به دنبال اسناد مربوط به حوادث اخیر ایمنی مربوط به سیستم های هوش مصنوعی آنها بود.

طبق گزارش Axios، درخواست‌ها بیش از 50 صفحه هستند و به دنبال اطلاعاتی در مورد حوادث امنیتی، اقدامات ایمنی، مواد بازاریابی و سیاست‌های حریم خصوصی شرکت هستند.

این آژانس همچنین قصد دارد به مدیران ارشد هوش مصنوعی دستور دهد در مورد محصولات خود شهادت دهند و درخواست‌های تحقیقاتی بیشتری را برای سازمان‌های هوش مصنوعی شخص ثالث صادر کنند.

Axios خاطرنشان می کند که FTC، که صلاحیت تحقیق در مورد شرکت ها را برای اقدامات تجاری ناعادلانه یا فریبنده دارد، درخواست های تحقیقاتی مدنی را به منظور جمع آوری شواهد برای تحقیقاتی که در نهایت می تواند منجر به اقدامات قانونی شود، ارسال می کند.

این احضاریه ها در حالی صورت می گیرد که به نظر می رسد دولت دونالد ترامپ، رئیس جمهور آمریکا، پس از چندین حادثه که در آن مدل های آنها بدون مجوز به سیستم های سازمان های دیگر دسترسی پیدا کردند یا در طول آزمایش رفتار غیرمنتظره ای از خود نشان دادند، موضع سخت تری در قبال شرکت های هوش مصنوعی اتخاذ کرده است. دولت قبلا قوانین سختگیرانه‌تر هوش مصنوعی را عقب نشینی کرده بود و استدلال می‌کرد که این مقررات می‌تواند به چین در رقابت برای توسعه فناوری مزیت بدهد. اما به نظر می رسد این حوادث اخیر در حال تغییر آن است.

به عنوان مثال، OpenAI در ماه جولای اذعان کرد که مدل‌های هوش مصنوعی آن در طول آزمایش امنیت سایبری داخلی سرورهای Hugging Face را نقض کرده‌اند. از آن زمان این شرکت حوادث دیگری را افشا کرده است که در آن عواملش بدون مجوز به سیستم های شخص ثالث دسترسی پیدا کرده اند. برای مثال، در ماه ژوئن، یک عامل OpenAI به یک پورتال آماری مدیکر دولت استرالیا دسترسی غیرمجاز پیدا کرد.

آنتروپیک همچنین حوادث مشابهی را فاش کرده است که مدل‌هایش به شیوه‌های ناخواسته رفتار می‌کنند. همین هفته گذشته، این شرکت گزارشی را منتشر کرد که در آن چندین نمونه توضیح داده شد، از جمله نمونه‌ای که در آن یکی از مدل‌های کوچک‌تر و کم‌هزینه‌اش اطلاعاتی نادرست درباره یک قتل حل‌نشده به اداره پلیس فیلادلفیا ارسال کرد.

این حوادث به بحث فزاینده در مورد ایمنی هوش مصنوعی افزوده است و برخی از رهبران صنعت خواستار کاهش سرعت توسعه مدل‌های قدرتمندتر شده‌اند. این تماس‌ها به دنبال هشدارهایی از سوی محققان شرکت‌های هوش مصنوعی در مورد خطرات توسعه‌ی هوش مصنوعی کنترل‌نشده، از جمله احتمال اینکه این فناوری روزی به انقراض انسان منجر شود، انجام شده است.

اکنون به نظر می رسد که دولت ترامپ حداقل اقداماتی را برای مقابله با این خطرات انجام داده است.

در جلسه ای در کاخ سفید در 29 سپتامبر، مدیران گوگل، متا، آنتروپیک، OpenAI، xAI و انویدیا توافق نامه ای داوطلبانه امضا کردند که برخی استانداردهای ایمنی محدود هوش مصنوعی را مشخص می کند. ترامپ این استانداردها را که هیچ مکانیسم اجرایی قانونی ندارند، "اخلاقی الزام آور" خواند.

هفته گذشته، نیروی جدید سوپراطلاعات دولت، که توسط اندرو فرگوسن، رئیس FTC اداره می‌شود، از شرکت‌های هوش مصنوعی برای گزارش فوری و رسیدگی فوری به حوادث مربوط به استفاده غیرمجاز از سیستم‌های دولتی توسط مدل‌هایشان خبر داد.

فرگوسن همچنین در مصاحبه‌ای در سپتامبر با رویترز پیشنهاد کرد که توسعه‌دهندگان هوش مصنوعی که به مأموران در طول آزمایش‌های امنیت سایبری دستور می‌دهند باید در قبال هر گونه آسیب ناشی از مدل‌های خود مسئول شناخته شوند.

OpenAI، Anthropic، و FTC بلافاصله به درخواست‌ها برای اظهار نظر پاسخ ندادند.