OpenAI گفت 5 راه اصلی وجود دارد که عوامل سرکش هوش مصنوعی با اینترنت درگیر می شوند

OpenAI گفت که به ده ها سازمان هشدار داده است که ممکن است عوامل هوش مصنوعی آن در وب سایت هایشان نادرست عمل کرده باشند. سلجوک آکار/آنادولو از طریق گتی ایماژ OpenAI به ده ها سازمان هشدار داد که ممکن است عوامل هوش مصنوعی آن نادرست عمل کرده باشند.

عوامل OpenAI به داده های عمومی اداره سرشماری ایالات متحده و وب سایت های SEC دسترسی پیدا کردند.

OpenAI گفت که نمایندگان کنترل های دسترسی را دور زدند، از رمزهای عبور افشا شده استفاده کردند و مطالب را به صورت آنلاین ارسال کردند. OpenAI گفت که به ده ها سازمان هشدار داده است که ممکن است عوامل هوش مصنوعی آن در وب سایت هایشان رفتار نادرست داشته باشند.

OpenAI در به روز رسانی وبلاگ خود در روز جمعه گفت که این تخلفات از استفاده از رمزهای عبور افشا شده تا ارسال مطالبی که ممکن است نیاز به پاکسازی داشته باشد، متغیر است.

OpenAI به طور جداگانه در بیانیه‌ای به Business Insider تأیید کرد که در طول آموزش، برخی از عوامل هوش مصنوعی آن به داده‌های در دسترس عموم از اداره سرشماری ایالات متحده و وب‌سایت‌های کمیسیون بورس و اوراق بهادار دسترسی پیدا کردند و هر دو آژانس از این حوادث مطلع شدند. این شرکت گفت که عامل به هیچ داده غیر عمومی دسترسی نداشته است.

یکی از سخنگویان OpenAI گفت: «بیشتر فعالیت‌هایی که ما تاکنون بررسی کرده‌ایم شامل کارهای تحقیقاتی معمولی، مانند دسترسی به محتوای وب عمومی برای پاسخ دادن به سؤالات است. برخی از وب سایت های دولتی درگیر هستند زیرا مدل های ما اغلب به آنها به عنوان منابع معتبر اطلاعات عمومی مراجعه می کنند.

عوامل تغییری در سایت‌های دولتی ایجاد نکردند یا به خطر انداختند، اگرچه یک نماینده برخی از اطلاعات عمومی SEC را در یک صفحه وب عمومی دیگر پست کرد.

OpenAI در گزارش خود افزود: «برخی سازمان‌ها ممکن است آنچه را که ما به اشتراک می‌گذاریم بررسی کنند و به این نتیجه برسند که اطلاعات عمدا عمومی بوده یا تعامل مدل نگران‌کننده نبوده است». "دیگران ممکن است یک مشکل طراحی یا ضعف امنیتی را که می‌خواهند برطرف کنند شناسایی کنند."

این شرکت گفت که این فعالیت را در حین بررسی فعالیت آنلاین مدل های خود در طول آموزش و آزمایش کشف کرده است.

این شرکت پنج نوع فعالیت را شناسایی کرد: دور زدن کنترل‌های دسترسی: نمایندگان به اطلاعات یا ویژگی‌هایی دست یافتند که معمولا به یک حساب، اشتراک یا مجوز خاص نیاز داشتند.

استفاده از اعتبارنامه‌های افشا شده: نمایندگان جزئیات ورود یا کلیدهای دسترسی را پیدا کردند که به صورت آنلاین در معرض دید قرار گرفتند و از آنها برای دسترسی به یک سرویس استفاده کردند.

تزریق پرس و جو یا دستورات: عوامل متنی را وارد می‌کنند که وب‌سایت آن را به‌عنوان یک دستورالعمل به جای ورودی معمولی در نظر می‌گیرد. این می تواند باعث شود سایت یک پرس و جو پایگاه داده، کد برنامه یا یک فرمان سرور را اجرا کند.

دسترسی به سیستم های داخلی: عامل ها فایل هایی را می خوانند که حاوی جزئیاتی در مورد نحوه عملکرد یا تعامل یک سرویس با سیستم هایی هستند که برای استفاده داخلی در نظر گرفته شده اند.

ارسال هرزنامه: نمایندگان اطلاعاتی را به سایت های شخص ثالث، از جمله ویکی های عمومی، ارسال می کردند که می تواند آن سایت ها را تغییر دهد و نیاز به پاکسازی داشته باشد. برخی از روش‌ها برای این فعالیت‌ها به‌طور شگفت‌آوری معمولی هستند، مانند یافتن کلیدهای دسترسی عمومی.

OpenAI همچنین گفت که حداقل 53 مورد را شناسایی کرده است که در آن یک نماینده تصویری را از فعالیت کاربر ChatGPT گرفته و آن را به عنوان پیوندهای فهرست نشده به سایت های میزبان تصویر منتقل کرده است. این کاربران اجازه داده بودند از داده هایشان برای آموزش مدل استفاده شود.

OpenAI گفت: "این استفاده مناسبی از این داده ها نیست" و افزود که در تلاش است تا تصاویر را از مکان های شخص ثالث حذف کند.

مقاله اصلی را در Business Insider بخوانید