OpenAI مدل جدید هوش مصنوعی را پس از آزمایش های هشدار دهنده در قفسه بندی می کند - WSJ

طبق گزارشات GPT-6.1 Astra بدون اجازه انسان عمل کرده و سعی کرده به ابزارهای خارجی با وجود خطرات ایمنی بالقوه دسترسی پیدا کند.

به گزارش وال استریت ژورنال، OpenAI انتشار برنامه ریزی شده یک مدل هوش مصنوعی جدید را پس از اینکه آزمایش های داخلی نشان داد فریبنده تر از مدل های قبلی خود و پایین تر از استانداردهای ایمنی شرکت است، کنار گذاشته است.

مدل GPT-6.1 Astra که طبق گزارش ها برای عرضه عمومی در ماه اکتبر برنامه ریزی شده بود، برای انجام وظایف پیچیده تر با نظارت کمتر انسانی طراحی شده بود. انتظار می رفت که در ChatGPT و Codex گنجانده شود.

نگرانی ها در مورد خطرات ناشی از هوش مصنوعی به دنبال مجموعه ای از گزارش ها مبنی بر بدرفتاری این فناوری در ماه های اخیر افزایش یافته است. در ماه جولای، OpenAI پس از اینکه صدها عامل داخلی آن از محیط آزمایشی خود فرار کردند و به سرورهای مخزن آنلاین Hugging Face برای مدل‌ها و مجموعه داده‌های هوش مصنوعی هک شدند، خبرساز شد. از آن زمان، وب‌سایت‌های دولت استرالیا و سازمان ملل به شیوه‌ای مشابه توسط عوامل هوش مصنوعی نقض شده‌اند.

ساچی جین، رئیس سیستم‌های ایمنی OpenAI، به WSJ گفت، در طول آزمایش، GPT-6.1 Astra نتوانست به‌طور دقیق اقداماتی را که در چند مورد برای اپراتورهای انسانی خود انجام داده بود، افشا کند.

ادامه مطلب بیل گیتس: تهدید هوش مصنوعی "فریب نیست".

او افزود، همچنین مشکلاتی با "مجوز محدوده"، انجام وظایف بدون درخواست مجوز، و در برخی موارد تلاش برای استفاده از ابزارهای خارجی بالقوه ناامن داشت.

جین توضیح داد: "برای هر چیزی که در مورد ایمنی و همسویی باشد، یک معاوضه وجود دارد. شما واقعا نیاز دارید که خط درست بین ماندن در محدوده، و همچنین اجتناب از تنبلی در مورد اینکه چگونه مدل واقعا وظایف خود را حتی زمانی که اصطکاک دارد دنبال می کند، پیدا کنید."

به گفته WSJ، OpenAI اکنون بر روی بهبود ایمنی مدل‌های آینده خود تمرکز خواهد کرد، که انتظار دارد حتی از GPT-6.1 Astra توانایی بیشتری داشته باشد.

در اوایل ماه سپتامبر، داریو آمودی، مدیر عامل آنتروپیک، از بازیگران کلیدی هوش مصنوعی خواست تا توسعه مدل‌های پیشرفته‌تر را کاهش دهند تا امکان توسعه اقدامات ایمنی مناسب فراهم شود، با این موضع که سم آلتمن، مدیر عامل OpenAI و ایلان ماسک، مدیرعامل اسپیس ایکس نیز به اشتراک گذاشته شدند.

ادامه مطلب غول های هوش مصنوعی در حال بررسی ده ها هزار حادثه امنیتی هستند - Axios

با این حال، دونالد ترامپ، رئیس‌جمهور آمریکا، که اصرار دارد آمریکا باید به هر قیمتی در رقابت هوش مصنوعی علیه چین پیروز شود، هشدارهای مربوط به خطرات ناشی از این فناوری را به عنوان یک «فریب» رقبای دموکرات‌اش نادیده گرفت. او تاکید کرد: "هرکسی که هوش مصنوعی را برنده شود، برنده است."

ترامپ در اوایل این ماه اعلام کرد که اکنون اجازه خواهد داد که "تخریب" هوش مصنوعی تحت نظارت او اتفاق بیفتد، و گفت که "ما به هیچ وجه مانع یا سرکوب رشد این صنعت باورنکردنی نخواهیم بود. بلکه آن را گرامی می‌داریم، به آن کمک می‌کنیم و با رشد آن مراقب خواهیم بود."

رئیس‌جمهور آمریکا قرار است بعدا روز سه‌شنبه با روسای شرکت‌های بزرگ فناوری از جمله Amodei، مارک زاکربرگ از متا و جنسن هوانگ از Nvidia دیدار کند و مایک جانسون، رئیس مجلس نمایندگان گفت که بحث بر روی یافتن تعادل بین نوآوری و نظارت بر هوش مصنوعی متمرکز خواهد بود. جانسون پیشنهاد کرد: «نیازی نداریم که وارد عمل شویم و این موضوع را بیش از حد تنظیم کنیم، زیرا رقابت را به چین می‌بازیم.