طبق قرارداد داوطلبانه کاخ سفید، OpenAI، Google و Meta متعهد می شوند خارج از حسابرسی هوش مصنوعی

OpenAI، Google، Meta و سه شرکت فن‌آوری دیگر روز سه‌شنبه توافق کردند که حسابرسان خارجی را برای بررسی کنترل‌های ایمنی هوش مصنوعی خود بیاورند و یک پیمان داوطلبانه کاخ سفید را امضا کردند که در صورت کوتاهی هیچ جریمه‌ای ندارد.

دونالد ترامپ، رئیس جمهور آمریکا، این توافق را "اخلاقی الزام آور" خواند. هیچ مکانیزم اجرایی ندارد و شرکت ها را ملزم به انتشار یا نام بردن حسابرسان نمی کند.

ترامپ پس از این دیدار به خبرنگاران گفت: «و آنها می‌دانند که باید خودپلیسی شوند». او گفت که یک هیئت 10 نفره را برای نظارت بر ایمنی هوش مصنوعی تشکیل خواهد داد و یک مقام جدید کاخ سفید را برای رهبری سیاست هوش مصنوعی منصوب خواهد کرد و این توافق می گوید اقدامات آن در نهایت می تواند به قانون تبدیل شود.

Anthropic، Nvidia و xAI Elon Musk که اکنون بخشی از SpaceX است نیز قرارداد 29 سپتامبر را امضا کردند. OpenAI توسط رئیس جمهور Greg Brockman، در کنار Sundar Pichai از Google، Mark Zuckerberg از Meta، Dario Amodei از Anthropic و Jensen Huang از Nvidia نمایندگی شد.

این سند یک صفحه‌ای از شرکت‌ها می‌خواهد که توانمندترین مدل‌های خود را در طول آموزش و استفاده، از جمله اینکه آیا می‌توانند حملات سایبری یا تهدیدات بیولوژیکی و شیمیایی را فعال کنند، نظارت کنند. این به طور خاص کنترل‌هایی را برای جلوگیری از هک کردن یا دسترسی مدل‌ها به سیستم‌های رایانه‌ای به روش‌های ناخواسته می‌طلبد.

یک تیم داخلی بررسی می‌کند که این حفاظت‌ها کار می‌کنند و مشکلات برطرف شده‌اند. یک حسابرس مستقل کنترل ها را ارزیابی می کند، در حالی که کمیته ای از هیئت مدیره هر شرکت یافته ها را دریافت می کند و بر اصلاحات نظارت می کند.

این امر به بازبینان خارجی نقشی در بررسی پادمانی که شرکت‌ها برای حفظ مدل‌های آزمایشی به آن‌ها متکی هستند، می‌دهد.

با این حال، این توافق نامه انتخاب حسابرسان را به شرکت ها واگذار می کند و هیچ مهلتی برای اجرای اقدامات تعیین نمی کند. به گزارش آسوشیتدپرس، برخی از مراحل، مراحلی هستند که شرکت ها قبلا به شکلی انجام داده اند.

این توافق به دنبال مجموعه‌ای از حوادث است که در آن عوامل آزمایشی هوش مصنوعی به سیستم‌های رایانه‌ای نفوذ کردند که هرگز اجازه دسترسی به آن‌ها را نداشتند، از جمله عوامل آزمایش OpenAI که به سرورهایی می‌رسیدند که توسط Hugging Face، پلتفرمی که توسعه‌دهندگان آن مدل‌های هوش مصنوعی را به اشتراک می‌گذاشتند.

یک عامل OpenAI همچنین در ماه ژوئن به یک پورتال دولت استرالیا Medicare دسترسی پیدا کرد. 18، که این شرکت تنها در ماه سپتامبر به مقامات استرالیایی فاش کرد.

نزدیک به ارزهای دیجیتال، هوش مصنوعی در برخی از بزرگترین ترس‌های امنیتی سال مشکوک بوده است.

در اوایل آگوست، مهاجمان گره‌های لایتنینگ را که از طریق سرور BTCPay اجرا می‌شوند، تخلیه کردند، تاجران نرم‌افزار منبع باز از آن برای پذیرش بیت‌کوین استفاده می‌کنند، پس از یک نقص به آنها اجازه سرقت اعتبارنامه‌هایی که آن گره‌ها را کنترل می‌کنند، می‌دهند. قربانیان شامل بنیاد سازنده کیف پول سخت افزاری و انتشارات بیت کوین Citadel21 بودند. این نقص در بررسی کد BTCPay به کمک هوش مصنوعی ظاهر شد و این شرکت گفت که ممکن است از هوش مصنوعی نیز برای بهره برداری از آن استفاده شده باشد. میزان برداشت را فاش نکرده است.

در اواخر همان ماه، سیل گزارش‌های باگ تولید شده توسط هوش مصنوعی نقص‌های واقعی را در Core Lightning، نرم‌افزاری که برای اجرای گره‌ها در شبکه پرداخت لایتنینگ بیت‌کوین استفاده می‌شود، نشان داد و توسعه‌دهندگان آن را بر آن داشت تا راهنمایی‌های اضطراری را برای اپراتورها صادر کنند.

تعهد روز سه‌شنبه به دنبال تعهدات داوطلبانه‌ای است که دولت بایدن در جولای ۲۰۲۳ از هفت توسعه‌دهنده از جمله OpenAI، Anthropic، Google و Meta جمع‌آوری کرد، که در آن زمان آزمایش‌های امنیتی داخلی و خارجی را قبل از عرضه مدل‌ها پوشش می‌دادند.

این تعهد یک روز پس از تایید OpenAI می‌آید که انتشار برنامه‌ریزی شده GPT-6.1 Astra را در ماه اکتبر، ادامه‌ای برای مدل GPT-6 Astra که در 3 سپتامبر آغاز به کار کرد، متوقف کرده است. این شرکت گفت که نسخه جدید در تکمیل وظایف بهتر عمل کرده است، اما در حفظ آنچه که کاربران مجاز کرده‌اند و گزارش دقیق کارهایی که انجام داده است، کوتاهی کرده است.