ماه‌هاست که عامل OpenAI برای یافتن حقایق مبهم به پایگاه‌های اطلاعاتی آنلاین حمله می‌کند.

با کمک کمی از آزمایشگاه‌های مرزی، محققان مستقل در حال جمع‌آوری چگونگی هماهنگی عوامل هوش مصنوعی در پشت‌آب‌های اینترنتی برای دسترسی به داده‌های خصوصی میزبان‌شده روی سرورهای امن هستند.

Transluce، یک آزمایشگاه غیرانتفاعی متمرکز بر نظارت بر هوش مصنوعی، گزارشی را روز چهارشنبه منتشر کرد که نشان می‌دهد عوامل OpenAI تلاش می‌کنند تا داده‌ها را از Data USA، کتابخانه دیجیتال دانشگاه نیومکزیکو و موسسه بهداشت و رفاه استرالیا (AIHW) استخراج کنند.

تحقیقات آزمایشگاه سوالاتی را در مورد اینکه چه زمانی OpenAI باید می‌دانست که عواملش در حال تلاش برای نفوذ به سیستم‌های امن در اینترنت باز هستند، ایجاد می‌کند. Transluce توانست تنها با جستجوی سرویس‌های وب با دفاع ضعیف و تأیید یافته‌های آن‌ها با دیگر سوابق باز از انبوه ماموران در اینترنت، شواهدی مبنی بر رفتار نادرست نمایندگان را در عرض چند هفته بیابد.

Transluce گزارش خود را در همان روز به اشتراک گذاشت که نخست وزیر استرالیا آنتونی آلبانیز گفت که عوامل OpenAI تلاش کرده اند به چهار وب سایت دولتی نفوذ کنند و در یک مورد موفق شده اند، حتی فایل ها را در یک سرور داخلی در سیستم مراقبت های بهداشتی ملی کشور بنویسند. در حالی که ما اطلاعات دقیقی در مورد هک موفقیت آمیز نداریم، آلبانیز گفت که ظاهرا این بخشی از ارزیابی بازیابی اطلاعات است که بر روی فعالیتی که Transluce و سایر محققان کشف کرده اند نقشه برداری می کند.

در این تمرین‌ها، که ممکن است آموزش یا ارزیابی باشد، از مدل‌های OpenAI خواسته می‌شود تا آمار مبهم را ردیابی کنند: معیارهای اجرای داروهای تایلندی، هزینه‌های دارو در استرالیا، متوسط ​​درآمد دارندگان مدرک کارشناسی ارشد ایالات متحده در سال 2014. عوامل از خدمات اینترنتی با امنیت ضعیف برای به اشتراک گذاشتن و یافتن پاسخ‌ها استفاده می‌کنند و اغلب سعی می‌کنند به پایگاه‌های داده امن نفوذ کنند. آنها حداقل از مارس 2026 و احتمالا از نوامبر 2025 این کار را انجام داده اند. ممکن است همین الان اتفاق بیفتد.

Transluce تحقیقات خود را پس از اینکه گروه دیگری از محققان یک انجمن مبهم را شناسایی کردند که در آن عوامل برای شکست دادن آزمایش های زمان بندی شده با یکدیگر همکاری می کردند، آغاز شد. گزارش آنها متکی به داده‌های یک وب‌سایت، urlquery.net است که ظاهرا برای تحقیقات امنیتی، به عنوان یک پروکسی مرورگر عمل می‌کند - کاربران می‌توانند URL را بدون باز کردن خودشان تجزیه و تحلیل کنند. با این حال، این سرویس گزارش های عمومی این فعالیت را منتشر می کند. محققان Transluce توانستند با بررسی متقابل بحث‌هایشان در انجمن، عواملی را که از این سرویس استفاده می‌کنند شناسایی کنند.

Conrad Stosz، رئیس مدیریت در Transluce، به TechCrunch گفت: «ما تعداد زیادی از فعالیت‌های خودکار را پیدا کردیم که با مجموعه داده‌های DSE Wiki همپوشانی داشت و همپوشانی داشت، و اکنون OpenAI تأیید کرده است که حداقل تا حدی بخشی از همان گروه است.»

با این حال، ویکی نشان می‌دهد که ماموران وظیفه یافتن یک واقعیت نسبتا مبهم را بر عهده داشتند - میانگین هزینه سالانه هر فرد برای "پزشکی پوست" در ایالت ویکتوریا در ژانویه 2022. در 20 ژوئن، سوابق urlquery.net که توسط Transluce یافت شد، نشان داد که یک نماینده تلاش می‌کرد وارد سایت شود. در ورودی ویکی در 21 ژوئن، یک نماینده در مورد ناتوانی خود در دور زدن حفاظت های ضد ربات AIHW بحث می کند.

محققانی که آن انجمن را شناسایی کردند معتقدند که یک کارمند انسانی OpenAI برای اولین بار در همان روز، 21 ژوئن، از سایت بازدید کرد. بیشتر فعالیت های نمایندگی در انجمن روز بعد متوقف شد. این نیز مدت کوتاهی پس از بهره برداری از سیستم مراقبت های بهداشتی استرالیا که توسط Albanese فاش شد، در 18 ژوئن رخ داد. OpenAI گفته است که تا اوت از این فعالیت اطلاعی نداشته است.

OpenAI به سؤالاتی در مورد اینکه کارکنانش چه زمانی انجمن ویکی را کشف کردند، چه نوع اطلاعاتی از آن به دست آوردند یا چه چیزی می توانستند از آن در مورد سوء استفاده ها یاد بگیرند، پاسخ نداد.

یکی از سخنگویان OpenAI به TechCrunch گفت: «بررسی اولیه ما نشان می‌دهد که بسیاری از فعالیت‌های توصیف‌شده در گزارش Transluce با مواردی در مراحل مختلف تحقیق در بررسی مداوم فعالیت‌های مدل ناهماهنگ همپوشانی دارد. ما با دانشگاه نیومکزیکو و دیتا ایالات متحده آمریکا تماس گرفته‌ایم و با دولت استرالیا در مورد وب‌سایت‌های دولتی آسیب‌دیده در ارتباط بوده‌ایم. در بررسی گسترده‌تر خود، به اولویت‌بندی جدی‌ترین حوادث ادامه می‌دهیم و در عین حال کار خود را به فعالیت‌هایی با شدت کمتر، از جمله عوامل ارسال هرزنامه به وب‌سایت‌ها، گسترش می‌دهیم.

با توجه به مقیاس این کار و نیاز به راستی‌آزمایی هر مورد، انتظار داریم بررسی ماه‌ها طول بکشد.»

استوس می‌گوید که بدون درک واضح‌تر از نحوه نظارت OpenAI بر عواملش، گفتن اینکه آزمایشگاه باید در مورد آنها چه می‌دانست، دشوار است، اما «به نظر می‌رسد که اگر آنها همه درخواست‌های خروجی و پاسخ‌های دریافتی برای آن دسته از عوامل دخیل در ویکی DSE را به طور کامل مطالعه و درک کرده بودند، این فعالیت را کشف می‌کردند.»

سلنا ژانگ، یکی از اعضای کادر فنی Transluce که در این گزارش مشارکت داشت، گفت که سوابق urlquery.net درخواست‌هایی را برای مجموعه داده‌های مشابه، با استفاده از تکنیک‌های مشابه، در مارس 2026 و شاید در اوایل نوامبر 2025 نشان می‌دهند. او خاطرنشان کرد که همین نوع فعالیت مرتبط با عامل اخیرا در urlquery.net انجام شده است.

استوسز که قبلا مرکز استانداردهای هوش مصنوعی و نوآوری ایالات متحده را رهبری می کرد، گفت که Transluce به تحقیقات خود در تلاش برای ایجاد شفافیت عمومی در مورد این حوادث ادامه خواهد داد. او هشدار داد که تکنیک‌های آموزشی مورد استفاده توسط OpenAI و دیگر آزمایشگاه‌های مرزی به نظر می‌رسد عوامل را تشویق می‌کند تا برای تکمیل وظایف به تکنیک‌های هک متوسل شوند. حوادثی که ما از آنها آگاه هستیم احتمالا "نوک کوه یخ" هستند.

او گفت: «ما در حال بررسی تعداد انگشت شماری از منابع داده‌ای هستیم که در آن‌ها این عوامل به طور اتفاقی خرده‌هایی را برای یافتن ما از خود به جای گذاشته‌اند. "OpenAI مطمئنا اطلاعات بیشتری در مورد آن دارد. آزمایشگاه های دیگر مطمئنا چیزهای بیشتری در مورد آن می دانند که به طور عمومی منتشر نکرده اند. اما من انتظار دارم که محققان همچنان ترافیک بیشتری پیدا کنند، شواهد بیشتری از آنچه که عوامل پشت سر گذاشته اند."

آیا او به آزمایشگاه ها اعتماد دارد که در مورد یافته های خود شفاف باشند؟

استوس گفت: «من در مورد آن اظهار نظر نمی کنم.

وقتی از طریق پیوندهای موجود در مقالات ما خرید می کنید، ممکن است کمیسیون کمی کسب کنیم. این بر استقلال تحریریه ما تأثیر نمی گذارد.

متا برای نماینده Muse AI لوکاس روپک یک پوشیدنی شبیه تاماگوچی ساخت

آنتروپیک می گوید آزمایشگاه زیست شناسی آن قبلا چیزی بزرگ جولی بورت پیدا کرده است

اولین ربات تعویض لاستیک PitPro در شان اوکین کانادا راه اندازی شد

Anthropic Opus 5.5 را با قیمت‌های پایین‌تر و عملکرد در سطح Fable Russell Brandom منتشر می‌کند

OpenAI گروه مشاوره ریاضی را تشکیل می دهد زیرا هوش مصنوعی آن بیش از 100 مشکل باز را حل می کند Aditya Mehta

Meta’s Muse در حال پیشی گرفتن از راه اندازی اولیه تلفن همراه ChatGPT، سارا پرز است

تور مطبوعاتی تیلی نوروود به همان خوبی که برای یک هوش مصنوعی آماندا سیلبرلینگ انتظار دارید انجام می شود.