عوامل OpenAI تغییر نام تجاری - به عنوان "نقطه" - در حالی که نگرانی های ایمنی مدل جدید را به تاخیر می اندازد

سم آلتمن در هفته های اخیر بارها در مورد خطرات ناشی از عوامل هوش مصنوعی صحبت کرده است.

OpenAI نام نسخه های جدید ابزارهای هوش مصنوعی را انتخاب کرده است که به طور گسترده به عنوان عامل شناخته می شوند. آنها اکنون "نقطه" نامیده می شوند.

رئیس شرکت، سام آلتمن، روز سه‌شنبه در طی رویداد سالانه OpenAI برای توسعه‌دهندگان فناوری در سانفرانسیسکو صحبت می‌کرد، از «نقاط» به‌عنوان «عامل‌های فوق‌العاده توانا و همیشه فعالی که می‌توانند واقعا هر چیزی را که فکرش را بکنید مدیریت کنند» نام برد.

OpenAI در ماه‌های اخیر تحت بررسی شدید قرار گرفته است زیرا آزمایش‌های داخلی عوامل هوش مصنوعی آن اقدامات اغلب غیرمنتظره و گاهی مضر را نشان داده است که منجر به ترس بیشتر مردم و دولت‌ها می‌شود.

با این حال، نقطه‌ها به‌عنوان کارتون‌های بامزه با رنگ‌های روشن نشان داده می‌شدند که به‌عنوان دستیار دیجیتالی برای افرادی که زندگی پرمشغله دارند عمل می‌کردند.

آلتمن گفت که نقطه ها می توانند هر چیزی را که فکرش را بکنید کنترل کنند.

یک ویدیوی براق در طول این رویداد نشان داده شد که در آن مردم با آنها صحبت می‌کردند و نسخه‌های متحرک «نقاط» خود را نام می‌برند، سپس به آنها وظایف مختلفی می‌دادند، مانند ساختن یک وب‌سایت و رزرو فعالیت‌های بعد از مدرسه برای فرزندانشان.

آلتمن در مورد "نقطه من" صحبت کرد، تقریبا به طور کامل از اشاره به ابزار به عنوان یک عامل، که سال‌ها مورد استفاده رایج بوده است، اجتناب کرد. عوامل هوش مصنوعی اساسا چت ربات های هوش مصنوعی هستند که طوری برنامه ریزی شده اند که تا حدودی مستقل عمل کنند.

آلتمن افزود: "شما فقط به نقطه خود مسئولیت می دهید... و نقاط شما فقط به کار خود ادامه می دهند."

یک روز قبل از رویداد سه‌شنبه OpenAI، این شرکت اعلام کرد که راه‌اندازی جدیدترین مدل خود را به دلیل برخی مشکلات ایمنی که در طول آزمایش داخلی نشان داده است، به تاخیر انداخته است.

از ماه ژوئیه، این شرکت با یک سری مسائل در رابطه با عملکرد نادرست عوامل هوش مصنوعی خود برخورد کرده است. این شرکت با هک کردن پلتفرم هوش مصنوعی Hugging Face، ارسال تصاویری که عوامل هوش مصنوعی از چت‌های کاربران ChatGPT در وب‌سایت‌های شخص ثالث و دسترسی به اطلاعات غیرعمومی که توسط دولت استرالیا نگهداری می‌شود، مواجه شده است.

OpenAI، و همچنین شرکت رقیب هوش مصنوعی Anthropic، قبلا انتشار عمومی برخی از مدل‌های هوش مصنوعی را به دلیل خطرات احتمالی، عمدتا مربوط به امنیت سایبری یا نگرانی‌های هک، به تعویق انداخت.

همچنین انتظار می‌رود که هر دو شرکت در ماه‌های آینده در بازار سهام عمومی عرضه شوند. Anthropic احتمالا امسال این کار را انجام خواهد داد، در حالی که OpenAI برای سال 2027 آماده است.

و هر دو شرکت اخیرا مشخص کرده‌اند که معتقدند هوش مصنوعی در مقیاس بزرگ خطری واقعی دارد، چه برای زیرساخت‌های عمومی یا امنیت عمومی.

آلتمن هفته گذشته در سخنرانی خود در سازمان ملل از استانداردهای هوش مصنوعی «ملی و بین‌المللی» در مورد اندازه‌گیری قابلیت‌های ابزار هوش مصنوعی، ارزیابی خطرات مرتبط، پادمان‌های هوش مصنوعی و میزان نظارت انسانی بر این ابزارها درخواست کرد.

داریو آمودی، رئیس Anthropic، به سازمان ملل گفت که اگر توسعه سریع هوش مصنوعی به درستی مدیریت و نظارت نشود، نسخه‌های آینده این فناوری "می‌تواند خطری برای کل بشریت باشد."