OpenAI اولین نقطه‌ها را به نمایش می‌گذارد، زیرا تمرکز ایمنی صنعت به سمت «حالا دستیار هوش مصنوعی من چه کار کرد؟» تغییر می‌کند.

OpenAI مشترکین رده بالا را به عوامل همیشه فعال، معروف به نقطه، مجهز می کند. این اقدامی جسورانه از سوی شرکتی است که همچنان با گزارش‌هایی مبنی بر شکستن پادمان‌های پیش‌بینی شده توسط مامورانش مقابله می‌کند.

چرا مهم است: چالش ایمنی هوش مصنوعی از "آیا ربات چت چیزی مضر می گوید؟" به "چگونه می توانیم از تلاش های هک آنلاین توسط عوامل مستقل جلوگیری کنیم؟" به "اوه اوه، دستیار هوش مصنوعی من الان چه کار کرد؟" محرک اخبار: رونمایی از نقاط اولین امضا در میان انبوهی از اعلامیه ها در کنفرانس توسعه دهندگان OpenAI در روز سه شنبه بود. یک نقطه را به عنوان یک دستیار هوش مصنوعی در نظر بگیرید که در رایانه مجازی خودش در فضای ابری اجرا می شود. می‌تواند وب را مرور کند، از برنامه‌های متصل استفاده کند، فایل‌ها ایجاد کند و ابزارهایی را اجرا کند و در طول زمان پروژه را پیگیری کند.

نقاط را می توان در دستگاه های تلفن همراه یا رایانه احضار کرد و در برنامه های متصل، مرورگرها و رایانه مجازی خودشان کار کرد. تصویر بزرگ: نقطه‌ها (مانند Meta's Muse) با وجود موجی از افشاگری‌ها درباره عواملی از OpenAI و سایر آزمایشگاه‌های هوش مصنوعی که اقدامات ناخواسته‌ای انجام می‌دهند، به صورت عمومی منتشر می‌شوند. تنها در چند روز گذشته، OpenAI اطلاعات جدیدی از رفتارهای ناخواسته ارائه کرده و از استرالیا به دلیل هک کردن وب‌سایت‌های سیستم مدیکر خود عذرخواهی کرده است.

OpenAI همچنین این هفته اعلام کرد که به‌روزرسانی قدرتمندترین مدل Astra خود را پس از اینکه نتوانست به آستانه‌های ایمنی دست پیدا کند، لغو می‌کند. بین خطوط: این اولین بار نیست که OpenAI در مرکز نگرانی های ایمنی قرار می گیرد. در روزهای اولیه ربات چت، بیشتر تمرکز بر روی پتانسیل بحث‌های خطرناک بود، مانند تشویق به خودکشی یا اختلالات خوردن، مسائلی که OpenAI برای آنها با شکایت‌های متعددی مواجه است.

اکنون، گفتگو به اقدامات بالقوه مضر عاملی تغییر می کند. در جدی ترین حادثه امنیتی تا به امروز، عوامل OpenAI پشت حمله ماه ژوئیه به Hugging Face بودند. آنچه آنها می گویند: رهبران OpenAI ابراز اطمینان کردند که نقاطی که به جهان می فرستد ناامید نخواهند شد. این شرکت گفت که نقاط شامل حفاظت از ChatGPT و Codex، به علاوه محافظت های اضافی از سیستمی به نام Guardian است که به طور عمومی به عنوان بررسی خودکار شناخته می شود. به‌طور پیش‌فرض، نمایندگان جدید از افراد می‌خواهند اقدامات مهمی را تأیید کنند.

الکساندر امبیریکوس، عضو ستاد محصول OpenAI به Axios گفت، برای مثال، یک نقطه می‌تواند یک پیام را پیش‌نویس کند، اما نباید آن را برای شخص یا نماینده دیگری ارسال کند، مگر اینکه کاربر از او خواسته باشد. همچنین برخی از تراکنش های مالی بعدی را تکمیل نمی کند، در عوض کنترل را به کاربر باز می گرداند.

Embiricos گفت: "ما این کار را برای شما انجام نمی دهیم، اما می توانیم شما را تا جایی که خودتان این کار را انجام می دهید، به سمت بالا ببریم و ما به شما تحویل خواهیم داد."

یکی دیگر از بخش‌های کلیدی استراتژی OpenAI، محدود کردن عرضه اولیه آن به گروه کوچک‌تری از وفادارترین کاربران آن قبل از گسترش است. Dots در ابتدا برای کاربران Pro، Business Premium و Enterprise در دسترس است و هر فرد یک دستیار دارد. مدیر عامل شرکت سام آلتمن گفت که هدف نه پیشروی کورکورانه و نه توقف کامل پیشرفت است، بلکه در عوض حفظ ایمنی، همسویی و نظارت بر پیشرفت توانایی هاست. آلتمن به خبرنگاران گفت: "امید من این است که در این صنعت، بتوانیم دور هم جمع شویم و بگوییم که باید در این مسیر میانی برویم."