OpenAI عرضه GPT-6.1 Astra را پس از اینکه مدل از نوار ایمنی خود کوتاه می‌آید، لغو می‌کند

OpenAI جدیدترین مدل خود، Astra را روز پنجشنبه منتشر کرد. مردم افکار دارند. اعتبار باید CFOTO/Future Publishing از طریق Getty Images خوانده شود OpenAI گفت که راه اندازی ماه آینده GPT-6.1 Astra را به دلیل نگرانی های ایمنی لغو کرده است.

آزمایش‌ها نشان داد که Astra گاهی اوقات از محدوده خود فراتر می‌رفت یا بدون مجوز عمل می‌کرد.

ساچی جین گفت که این مدل از نظر تنبلی بهبود یافته است اما از نوار ایمنی خود کوتاهی کرده است. OpenAI یک مدل هوش مصنوعی را که قرار بود در ماه اکتبر عرضه شود، به دلیل نگرانی های ایمنی کنار گذاشته است.

این شرکت روز دوشنبه به Business Insider تایید کرد که برنامه های خود را برای عرضه مدل GPT-6.1 Astra لغو کرده است، زیرا آزمایش های داخلی سوالاتی را در مورد اینکه آیا هوش مصنوعی دستورالعمل های کاربران را دنبال می کند یا خیر، ایجاد کرده است. این مدل قرار بود در ماه اکتبر، اندکی پس از کنفرانس توسعه دهندگان این شرکت، که در 29 سپتامبر در سانفرانسیسکو آغاز می شود، در ChatGPT ادغام شود.

ساچی جین، رئیس سیستم‌های ایمنی در OpenAI در بیانیه‌ای گفت: «برای هر چیزی که در مورد ایمنی و همسویی باشد، یک معامله وجود دارد. "شما واقعا نیاز دارید که خط درست بین ماندن در محدوده، و همچنین اجتناب از تنبلی از نظر اینکه مدل واقعا وظایف خود را دنبال می کند، حتی زمانی که اصطکاک می شود، پیدا کنید."

جین افزود: «در حالی که [GPT-6.1 Astra] در محورهایی مانند تنبلی مدل بهبود می‌یابد، از نظر حفظ محدوده و مجوزها و نحوه ارتباط با کاربر در مورد نوع کاری که انجام می‌دهد، کاملا جواب نمی‌دهد.

بر اساس گزارش OpenAI در اوایل سپتامبر، مدل منتشر نشده آسترا نسبت به مدل قبلی خود احتمال بیشتری داشت که آنچه را انجام داده بود به اشتباه معرفی کند، و گاهی اوقات بدون درخواست اجازه جلو می رفت یا سعی می کرد در شرایطی که انجام این کار ممکن است ناامن باشد، از ابزارهای بیرونی استفاده کند.

جین می‌گوید: «البته ما می‌خواهیم مطمئن شویم که توسعه مدل ما بی‌خطر است، مهم نیست که در شرکت باشد یا زمانی که آن را برای کاربران ارسال می‌کنیم. اما وقتی آن را برای کاربران ارسال می کنیم، از نظر ایمنی و هم ترازی، نوار بسیار بالایی داریم.

در این گزارش آمده است که در طول آموزش، مدل منتشرنشده آسترا «گاهی اوقات دستورالعمل‌های غیرمجاز» را به خلاصه‌هایی اضافه می‌کرد که برای ادامه کار در یک زمینه جدید، فرآیندی به نام فشرده‌سازی استفاده می‌کرد. این مدل همچنین به خود گفت که "آزاد شده" است و به هیچ کس پاسخی نداده است و نباید "احساس تعهدی برای مطیع بودن کند."

گرگ براکمن، رئیس OpenAI، قبلا در پادکست بلومبرگ گفته بود که این شرکت برخی از کارهای پیشرفته هوش مصنوعی را به دلیل تشدید اقدامات ایمنی و امنیتی خود به تعویق می‌اندازد و آن را «تجهیز مجدد بسیار دردناک» بسیاری از فرآیندهای شرکت نامید.

مقاله اصلی را در Business Insider بخوانید