OpenAI در حال بررسی "ده ها" نمونه از عملکرد نادرست عوامل است

OpenAI در مرکز نگرانی های جدید در مورد فعالیت کنترل نشده هوش مصنوعی قرار گرفته است.

OpenAI روز جمعه گفت به ده‌ها مؤسسه جهانی هشدار داده است که وب‌سایت‌هایشان ممکن است تحت تأثیر عملکرد نادرست عوامل هوش مصنوعی قرار گرفته باشد.

به گفته این شرکت، عوامل OpenAI سعی کردند اطلاعاتی را از "دولت ها، دانشگاه ها، سازمان های دولتی و سایر موسسات" از طریق ابزارهای گاهی اوقات افراطی به دست آورند.

در حالی که برخی از فعالیت ها صرفا به دلیل ابزارهایی بود که برای یافتن «منابع معتبر اطلاعات عمومی» کار می کردند، برخی فراتر از آن بودند. OpenAI گفت، مانند یک عامل هوش مصنوعی که داده‌ها را در زمانی که نباید می‌گرفت و انتقال می‌داد.

چنین فعالیتی منجر به حداقل 53 حادثه شد که در آن یک عامل OpenAI تصویری از فعالیت کاربر ChatGPT گرفت و آن را به جای دیگری منتقل کرد.

این شرکت گفت که در هر نمونه از تصویر کاربر که توسط یک عامل هوش مصنوعی استفاده و منتقل می‌شود، کاربر به OpenAI اجازه داده است تا مدل‌ها را با استفاده از داده‌های آنها آموزش دهد.

با این وجود، OpenAI اعتراف کرد، "این استفاده مناسب از این داده ها نیست".

این شرکت اضافه کرد که نشت تصاویر کاربر قبل از اعمال حفاظت‌های جدید در آموزش هوش مصنوعی رخ داده است و تلاش می‌کند تا تمام تصاویر کاربر به هر شخص ثالثی حذف شود.

OpenAI همچنین در روز جمعه اعلام کرد که نرم‌افزار آن ممکن است برخی از کنترل‌های امنیتی سایت‌های تحت تأثیر را دور زده باشد - اگرچه لزوما به این معنی نیست که هر حادثه منجر به نقض امنیتی قابل توجهی شده است.

این شرکت گفت: "برخی از سازمان ها ممکن است آنچه را که ما به اشتراک می گذاریم بررسی کنند و به این نتیجه برسند که اطلاعات عمدا عمومی بوده یا تعامل مدل نگران کننده نبوده است. برخی دیگر ممکن است یک مشکل طراحی یا ضعف امنیتی را شناسایی کنند که می خواهند به آن رسیدگی کنند."

OpenAI گفت که در جریان تحقیقاتی که پس از اطلاع از هک کردن مدل های هوش مصنوعی پلتفرم هوش مصنوعی Hugging Face آغاز شد، با این حوادث مواجه شد، حادثه ای که ماه گذشته به طور عمومی فاش شد.

این افشاگری‌ها در روز جمعه تنها چند روز پس از آن صورت می‌گیرد که آنتونی آلبانیز، نخست‌وزیر استرالیا، گفت OpenAI فایل‌های غیرعمومی در وب‌سایت طرح مراقبت‌های بهداشتی دولتی خود، Medicare را نقض کرده است.