هشدار طعنه آمیز: OpenAI ناله می کند که مدل چینی IP ویژه آن را که از دیگران دزدیده است، دزدیده است

OpenAI که مقادیر زیادی از محتوای اینترنتی را در میان دعواهای کپی رایت جمع آوری کرد، افراد مرتبط با هوش مصنوعی Moonshot چین را متهم کرده است که در یک "حمله تقطیر" که از اول ژوئیه آغاز شد، دست داشته اند. خانه آلتمن هشدار می دهد که استخراج استدلال مدل های خود در مقیاس می تواند به رقبا کمک کند مدل های توانمند را بدون حفظ همان نرده های محافظ آموزش دهند. تقطیر مدل یک تکنیک یادگیری ماشینی است که می‌تواند شامل استفاده از خروجی‌های یک مدل برای آموزش مدل دیگر باشد - در موارد خصمانه، با ارسال پرس و جوهای انبوه طراحی شده برای بازتولید استدلال و قابلیت‌های مدل بزرگتر.

هم فدرال رزرو و هم شرکت‌های بزرگ هوش مصنوعی ایالات متحده، از جمله گوگل و آنتروپیک، رقبای چینی - و به‌ویژه هوش مصنوعی Moonshot - را به استفاده از تقطیر برای بازتولید قابلیت‌های مدل‌های آمریکایی متهم کرده‌اند. در یک وبلاگ چهارشنبه، OpenAI به صدا درآمد و گفت که یک کمپین تقطیر متخاصم را که تقریبا در تمام ماه جولای اجرا می‌شد، شناسایی کرده و در نهایت مختل کرده است. طبق این وبلاگ، اپراتورها رمزگذاری ما را شکسته، پایگاه داده را به خطر نیاندازند، یا به مکالمات ذخیره شده کاربر دسترسی مستقیم پیدا نکرده اند.

در عوض، آنها تعاملات مدل را دستکاری کردند تا استدلال محافظت شده بتواند به شکلی که برای درخواست کننده قابل مشاهده است به صورت هماهنگ و مقیاس‌بندی شده که شرایط خدمات ما را نقض می‌کند، بازتولید شود. پرس‌وجوها از اول جولای شروع شدند و در حالی که به آرامی شروع شدند، "ما در 24 و 25 جولای جهش‌هایی با حجم بالا مشاهده کردیم که شامل 16000 درخواست با استفاده از الگوی استخراج مربوطه از بیش از 4000 کاربر بود." پس از بررسی این حادثه، غول هوش مصنوعی "فعالیت الگوی سریع" مرتبط را در بیش از 15000 کاربر شناسایی کرد. به ما گفته شده است که OpenAI کمپین را در 28 جولای به طور کامل مختل کرد.

در حالی که OpenAI گفت مشخص نیست که آیا همه اپراتورها در دوره زمانی جولای فقط به یک شرکت هوش مصنوعی رقیب مرتبط بوده اند یا خیر، "خوشه اصلی" سرقت از Moonshot AI است که Kimi را توسعه داده است. ثبت نام برای اظهار نظر با Moonshot AI تماس گرفت و پاسخی فوری دریافت نکرد. ما همچنین از OpenAI پرسیدیم که کدام یک از مدل‌های آن در طول کمپین جولای مورد هدف قرار گرفتند، اما پاسخی دریافت نکردیم.

شایان ذکر است که در اواخر ژوئیه، دستیار علم و فناوری دونالد ترامپ، رئیس جمهور ایالات متحده، مایکل کرتسیوس نیز هوش مصنوعی Moonshot را متهم کرد که مدل Kimi K3 خود را با تقطیر Anthropic’s Fable ساخته است. مدل Anthropic’s Claude Opus 5.5 که یک هفته پیش عرضه شد، دارای دفاعی در برابر تقطیر به نام "تفکر حفظ شده" است که با Fable 5.1 معرفی شد. OpenAI روز چهارشنبه گفت: «تقطیر متخاصم خطرات ایمنی و امنیت ملی را به همراه دارد» که بازتاب انتقادات قبلی شرکت‌ها و مقامات دولتی آمریکایی است.

OpenAI افزود: "استدلال استخراج شده را می توان برای آموزش مدل دیگری بدون حفظ حفاظت های اعمال شده در خروجی های رو به روی کاربر مدل اصلی استفاده کرد." در مقیاس، تقطیر همچنین می‌تواند انتقال قابلیت‌های پیشرفته را بدون نیاز به سرمایه‌گذاری مشابه در ایمنی تسریع کند. این نگرانی‌ها با افزایش قابلیت‌های مدل‌ها در حوزه‌های استفاده دوگانه تشدید می‌شود. در پاسخ، OpenAI گفت که حساب‌های کپی مدل را ممنوع کرده، ثبت‌نام و کنترل‌های زیرساختی را تشدید کرده و تلاش‌های نظارتی را گسترش داده است.

همچنین «مسیری را بست که به شخصی که قبلا استدلال رمزگذاری شده کاربر دیگری را در اختیار داشت می‌توانست آن را دوباره پخش کند و محتویات آن را بازیابی کند» و با ارائه‌دهندگان خدمات کار کرد تا اطمینان حاصل شود که این نوع فعالیت تقطیر فقط به خدمات شخص ثالث منتقل نمی‌شود. علاوه بر این، OpenAI جزئیات تحقیقات خود را از طریق انجمن مدل Frontier و برنامه های اشتراک گذاری اطلاعات دولتی با سایر شرکت های هوش مصنوعی به اشتراک گذاشت.