ترامپ و غول‌های فناوری آمریکا قراردادی را امضا کردند تا مانع از سرکشی هوش مصنوعی شوند

گوگل، OpenAI، Meta، xAI، Anthropic و Nvidia توافق کرده‌اند که کنترل‌های جدید و ممیزی‌های مستقل را معرفی کنند.

رؤسای شش شرکت بزرگ هوش مصنوعی مستقر در ایالات متحده روز سه شنبه در کاخ سفید تعهدی را امضا کردند که کنترل های قوی تری را برای اطمینان از اینکه فناوری آن ها فریبنده نمی شود، معرفی کنند.

این سند با عنوان توافق کاخ سفید در مورد اطلاعات فوق العاده – تعهد مشترک در مسئولیت های مرزی توسط دونالد ترامپ رئیس جمهور ایالات متحده و همچنین ساندار پیچای از گوگل، داریو آمودی از آنتروپیک، مارک زاکربرگ از متا، گرگ براکمن از OpenAI، ایلان ماسک از xAI و انویدیا Jen امضا شد.

امضاکنندگان توافق کردند که هر شرکتی که مدل‌های هوش مصنوعی پیشرفته را توسعه می‌دهد باید «فرآیندها و کنترل‌های داخلی قوی داشته باشد تا اطمینان حاصل شود که فناوری آن‌ها همانطور که در نظر گرفته شده است رفتار می‌کند و هر گونه مشکلی به سرعت شناسایی و حل می‌شود».

این شرکت‌ها متعهد شدند که اطمینان حاصل کنند که مدل‌های آن‌ها «به روش‌های ناخواسته سیستم‌های فنی را هک نمی‌کنند یا به سیستم‌های فنی دسترسی پیدا نمی‌کنند» و گفتند که «یک تیم داخلی را قادر می‌سازند تا اطمینان حاصل کنند که همه کنترل‌ها، نظارت‌ها و شناسایی‌ها طبق برنامه عمل می‌کنند و هر گونه مشکلی برطرف می‌شود».

آنها همچنین متعهد شدند که اجازه ممیزی خارجی مستقل از پادمان های خود را بدهند و "کمیته ای مستقل از هیئت مدیره" را برای ارزیابی انطباق تعیین کنند.

جزئیات به دنبال