OpenAI انتشار مدل جدید هوش مصنوعی را به دلیل نگرانی های ایمنی لغو کرد

سازنده ChatGPT تایید کرده است که OpenAI انتشار GPT-6.1 Astra را پس از آزمایش داخلی نشان داد که این سیستم با استانداردهای ایمنی و همسویی شرکت مطابقت ندارد، لغو کرده است.

نسل بعدی مدل هوش مصنوعی برای اولین بار در ماه اکتبر برنامه ریزی شده بود.

https://www.irishtimes.com/world/us/2026/09/16/openai-boss-confident-industry-can-police-ai-safety/ و داریو آمودی، رئیس Anthropic، اوایل این ماه به رهبران صنعت پیوستند و خواستار سرعت کمتر توسعه هوش مصنوعی و اقدامات ایمنی قوی تر شدند.

OpenAI هشدار داده است که Astra، مدل GPT-6 گل سرسبد آن، گاهی اوقات می‌تواند از نظارت انسان دوری کند، در حالی که این شرکت و رقبایی مانند ⁠Anthropic با بررسی دقیق سیستم‌های هوش مصنوعی آزمایشی که پادمان‌ها را نقض می‌کنند، از جمله یک مدل OpenAI که به پایگاه داده سیستم سلامت استرالیا دسترسی داشته است، مواجه شده‌اند.

وال استریت ژورنال اوایل روز گزارش داد که OpenAI از برنامه های خود برای راه اندازی این مدل که انتظار می رفت در ChatGPT و Codex ادغام شود و برای انجام وظایف پیچیده تر بدون کمک انسانی طراحی شده بود، دست برداشت.

WSJ گزارش داد که GPT-6.1 Astra همچنین سطوح بالاتری از فریب را نسبت به سلف خود در آزمایش‌های داخلی نشان داد، از جمله مواردی که در آن‌ها همیشه دقیقا اقداماتی را که انجام داده بود فاش نمی‌کرد.

سیستم های OpenAI سرکش می شوند و با سایت های ایالتی ایالات متحده مداخله می کنند

ساچی جین، رئیس سیستم‌های ایمنی در OpenAI می‌گوید: «در حالی که (GPT-6.1 Astra) در محورهایی مانند تنبلی مدل بهبود می‌یابد، اما از لحاظ ماندن در محدوده و مجوز و نحوه ارتباط با کاربر در مورد نوع کاری که انجام می‌دهد، کاملا مطابقت نداشت.

جین گفت: "البته ما می‌خواهیم مطمئن شویم که توسعه مدل ما بدون توجه به اینکه در شرکت باشد یا زمانی که آن را برای کاربران ارسال می‌کنیم، ایمن است. اما وقتی آن را برای کاربران ارسال می‌کنیم، از نظر ایمنی و هم‌ترازی نوار بسیار بالایی داریم."

این تصمیم قبل از کنفرانس توسعه دهندگان OpenAI در سانفرانسیسکو گرفته شده است، جایی که این شرکت قبلا محصولاتی را با هدف توسعه دهندگان نرم افزار رونمایی کرده است.

صنعت «مطمئن» رئیس OpenAI می تواند ایمنی هوش مصنوعی را کنترل کند

در همین حال، OpenAI روز سه‌شنبه به‌خاطر نقض مدل‌های هوش مصنوعی خود به وب‌سایت‌های دولتی استرالیا عذرخواهی کرد و قول داد پس از این حادثه یک گروه کاری جدید برای اصلاحات ایجاد کند.

این شرکت مستقر در سانفرانسیسکو گفت که بودجه دفاع سایبری در استرالیا را تامین خواهد کرد و به مدیریت ریسک هوش مصنوعی با قابلیت فزاینده کمک خواهد کرد، زیرا پس از اینکه مدل‌هایش بدون مجوز به وب‌سایت‌های استرالیا دسترسی پیدا کردند، پیامدهای آن را بررسی می‌کند. برخی از جزئیات حادثه ژوئن و اقدامات مورد نظر آن را برای جلوگیری از تکرار و بازگرداندن اعتماد به یک پست وبلاگ بیان کرد.

OpenAI نوشت: "ما متاسفیم و برای بهتر شدن در آینده تلاش می کنیم." مردم می خواهند بدانند که هوش مصنوعی به طور ایمن در حال توسعه است و این با کاری که شرکت هایی مانند ما خودمان انجام می دهند شروع می شود. – رویترز/ بلومبرگ