OpenAI با عامل نقطه‌ای در فشار هوش مصنوعی مستقل با متا مقابله می‌کند

سام آلتمن، مدیر اجرایی OpenAI، سخنرانی اصلی را در کنفرانس توسعه دهندگان OpenAI در سانفرانسیسکو، کالیفرنیا، در 29 سپتامبر ارائه کرد.

سان فرانسیسکو - OpenAI در 29 سپتامبر از عوامل همیشه فعالی به نام نقاطی که اهداف کاربر را در بین برنامه‌ها به تنهایی تعقیب می‌کنند، پرده برداری کرد، و فشار خود را به سمت بازار سودآور سازمانی عمیق‌تر کرد و آن را در برابر متا در رقابت برای فروش هوش مصنوعی که می‌تواند به طور مستقل کار کند، قرار داد.

هدف عوامل نقطه‌ای سرمایه‌گذاری بر تقاضای رو به رشد برای نمایندگانی است که می‌توانند کارهای روزمره را با نظارت کمی انجام دهند.

این راه‌اندازی نشان‌دهنده جبهه جدیدی در رقابت بین شرکت‌های هوش مصنوعی برای حرکت فراتر از ربات‌های چت و فروش نرم‌افزاری است که از طرف کاربران عمل می‌کند - تغییری که می‌تواند نحوه عملکرد کسب‌وکارها را تغییر دهد، اما پس از یک رشته حوادث که در آن عوامل هوش مصنوعی به‌گونه‌ای عمل کردند که سازندگان آن‌ها قصد نداشتند، نگرانی‌های ایمنی را افزایش داد.

OpenAI پس از هک کردن Hugging Face و یک وب‌سایت بهداشتی دولت استرالیا توسط عوامل هوش مصنوعی سرکش، مورد بررسی قرار گرفت و به نگرانی‌ها در مورد توانایی آن در مهار فناوری که برخی از محققان می‌گویند می‌تواند همه انسان‌ها را بکشد، دامن زد.

این شرکت در 28 سپتامبر تصمیم گرفت نسخه قدرتمندتر از مدل Astra خود را عرضه نکند زیرا تمایل زیادی برای گمراه کردن کاربران در مورد اقدامات خود نشان داد.

سام آلتمن، مدیر اجرایی آن، گفت که نقاط "آزمایش ایمنی" شده اند و توسط مدل OpenAI که از نزدیک ترین دستورالعمل های انسانی، GPT-6 Astra را دنبال می کند، نیرو می گیرند.

علاقه به عوامل هوش مصنوعی از زمانی که Meta’s Muse میلیون ها دانلود را در اوایل ماه جاری جذب کرد و سهام شرکت هایی را که سرمایه گذاران معتقدند می توانند از خدمات مستقل بهره مند شوند یا مختل شوند، تکان داد، افزایش یافت.

OpenAI در روز توسعه‌دهنده سالانه خود در سانفرانسیسکو در 29 سپتامبر، نقطه‌ها را راه‌اندازی کرد و در عین حال از حضور رو به رشد کسب‌وکار و مصرف‌کننده خود نیز خبر داد، نشانه‌ای از این که استقبال از مدل Astra این شرکت به آن اجازه داده است در رقابت هوش مصنوعی جایگاه خود را حفظ کند.

رشد سریع برای برنامه های OpenAI برای صرف ده ها میلیارد دلار در مراکز داده هوش مصنوعی و همگام شدن با رقبایی مانند Anthropic و Meta بسیار مهم است.

آلتمن در این رویداد که حدود 2500 شرکت کننده حضوری داشت، گفت: "ما معتقدیم (نماینده) یک روش کاملا جدید برای کار با هوش مصنوعی خواهد بود. این نسخه واقعی هوش مصنوعی است که ما همیشه برای خود تصور می کردیم."

با این حال، دموهای زنده OpenAI برای نشان دادن قابلیت‌های جدید، با مشکلاتی مواجه شد، زیرا نمایندگان مکررا نتوانستند به‌روزرسانی‌های صوتی را در پاسخ به درخواست‌ها ارائه دهند. رئیس Developer Experience، Romain Huet، پس از شکست یک فرمان روی صحنه گفت: "ما ممکن است در حال حاضر برخی مشکلات صوتی داشته باشیم. که بسیار مایه تاسف است."

یکی از کارمندان OpenAI در X گفت که این اشکالات ناشی از ارائه یکباره همه به‌روزرسانی‌ها است، اما OpenAI همچنان به دموهای زنده متعهد است.

Dots می‌تواند پروژه‌ها را در حین تکامل مدیریت کند، مانند به‌روزرسانی پیشنهاد فروش زمانی که نیاز مشتری تغییر می‌کند، و ساخت یک نسخه آزمایشی برای بررسی. کاربران می‌توانند با نقاط در Slack و Teams ارتباط برقرار کنند و عوامل می‌توانند از ابزار OpenAI Codex و ChatGPT Work برای تحقیق، تجزیه و تحلیل داده‌ها، تهیه اسناد و ساختن نرم‌افزار استفاده کنند.

در 29 سپتامبر، OpenAI موارد حفاظتی را که در نقاط ایجاد کرده است برجسته کرد. این شرکت می‌گوید که کاربران می‌توانند قوانین سفارشی را تعیین کنند که تعیین می‌کند نقاط چه کاری می‌توانند انجام دهند و چه زمانی عوامل باید مجوز بگیرند، و افزود که کارهای حساس مانند تغییر رمز عبور و حذف دائم داده‌ها نیاز به رضایت صریح کاربر دارد.

این شرکت همچنین گفت که نقاط روی رایانه‌های ابری خودشان اجرا می‌شوند و ابزارهای اطلاعاتی خصوصی را برای بررسی خطرات ایمنی بدون حفظ اطلاعات مشتریان تجاری به کار می‌برد.

چندین مدیر فنی، از جمله الکس کارپ، مدیرعامل Palantir، در ماه‌های اخیر گفته‌اند که کسب‌وکارها نیاز به اطمینان دارند که شرکت‌های هوش مصنوعی داده‌های خود را حفظ نمی‌کنند، به‌ویژه در صنایع تحت نظارت مانند مراقبت‌های بهداشتی و مالی.

رویترز در 25 سپتامبر گزارش داد که OpenAI هنوز در حال کار برای درک دامنه کامل فعالیت عامل سرکش خود است، دو ماه پس از هک Hugging Face، با آخرین نمونه زمانی که این شرکت اعلام کرد که عواملش 53 تصویر از کاربران ChatGPT را فاش کرده اند.

OpenAI در 29 سپتامبر تکرار کرد که به طور پیش‌فرض از داده‌های مشتریان تجاری برای آموزش هوش مصنوعی خود استفاده نمی‌کند و کاربران برنامه شخصی می‌توانند از اشتراک‌گذاری مکالمات و نقطه‌هایی که برای آموزش استفاده می‌شوند، صرفنظر کنند.

این شرکت در 29 سپتامبر گفت که کاربران هفتگی Codex و ChatGPT Work به بیش از 35 میلیون نفر رسیده اند که از حدود پنج میلیون کاربر Codex در ژوئن افزایش یافته است، در حالی که ChatGPT متمرکز بر مصرف کننده اکنون بیش از 1.2 میلیارد کاربر هفتگی دارد.