با Dots، OpenAI از شما می‌خواهد که از عوامل هوش مصنوعی خود نترسید

OpenAI در چند ماه گذشته در حالت تریاژ قرار داشته است، به دنبال مجموعه‌ای از گزارش‌ها مبنی بر فرار عوامل هوش مصنوعی آن از کنترل و نفوذ به سازمان‌های شخص ثالث. اکنون این شرکت در تلاش است تا چهره جدیدی را در فناوری خود قرار دهد - چهره ای که آن را به جای یک مجرم سایبری بالقوه، شبیه یک دستیار متحرک نوازشگر جلوه دهد.

OpenAI در کنفرانس سالانه توسعه‌دهندگان خود در روز سه‌شنبه، نقاطی را معرفی کرد: عوامل هوش مصنوعی با آواتارهای شکلک‌مانند که برای خدمت به عنوان دستیار دیجیتالی ۲۴ ساعته طراحی شده‌اند. به نظر می رسد نام و ظاهر ساخارین ماموران (که هر دو شیرینی لثه ای به همین نام را به ذهن متبادر می کنند) در تضاد با شهرت نه چندان شیرینی که عوامل OpenAI برای خود از زمان هک بدنام Hugging Face به دست آورده اند، طراحی شده است. خواسته های محققان انسانی، و شکست بر روی o

اینترنت قلمی

همچنین غیرممکن است که به نقطه ها نگاه کنید و به Muse فکر نکنید، عامل هوش مصنوعی شخصی همیشه فعال که متا فقط سه هفته پیش منتشر کرد، به سرعت در فهرست برنامه های رایگان App Store در ایالات متحده قرار گرفت و با یک طلسم کارتونی (به نام Jolly) که کمی شبیه یک خرس عروسکی نسخه Adture Finn است عرضه می شود.

هم سم آلتمن از OpenAI و هم مارک زاکربرگ از متا مدت‌هاست که گفته‌اند که چشم‌انداز بلندمدت آنها ساختن هوش مصنوعی است که عمیقا بافت کاربر را درک کند و در طیف گسترده‌ای از ابزارهای دیجیتال برای انجام کارهای معمول و وقت‌گیر کار کند. آلتمن در مراسم افتتاحیه رویداد روز سه‌شنبه به حضار گفت: همکاری با Dots - که می‌تواند با بیش از 4000 برنامه از جمله Slack و Teams ارتباط برقرار کند - "احساس یک روش کاملا جدید برای کار با هوش مصنوعی است."

از این منظر، دوران تحریک دستی چت ربات ها از طریق صفحه کلید کامپیوتر را می توان به عنوان یک مرحله تکاملی مختصر در نظر گرفت که منجر به آنچه OpenAI و Meta در حال حاضر در اولویت قرار می دهند: عواملی که به صورت شبانه روزی از طرف کاربر بدون دست نگه داشتن مداوم کار می کنند (و امیدواریم برای یافتن داده های مورد نظر به سیستم های دولتی نفوذ نکنند). مانند Muse، نقطه‌ها برای کسب اطلاعات بیشتر در مورد کاربران خاص در طول زمان طراحی شده‌اند.

OpenAI در یک پست وبلاگی که روز سه شنبه منتشر شد نوشت: «هرچه بیشتر با هم کار کنید، نقطه شما ترجیحات شما، نحوه فکر کردن و ظاهر شما را بیشتر می‌آموزد.

نقاط همچنین با ChatGPT Voice Mode ادغام شده‌اند، به این معنی که می‌توانید با آن‌ها مکالمه کنید و وظایف را به آن‌ها محول کنید، همانطور که از طریق تماس تلفنی با یک دستیار واقعی و انسانی انجام می‌دهید. هالی لی، توسعه دهنده محصول OpenAI، روی صحنه در این رویداد گفت: «مثل صحبت کردن با مغز دوم است.

همانطور که هک Hugging Face و موارد مشابه نشان داده است، با این حال، عوامل مستعد درک نادرست دستورالعمل‌های انسانی هستند که گاهی اوقات نتایج فاجعه‌باری به همراه دارد.

Meta Muse سه هفته‌ای پیش از این نیز سهم خود را از لغزش‌های شرم‌آور داشته است، از جمله یک حادثه که طبق گزارش‌ها نشانی منزل کاربر را بدون اجازه او داده است. هنگام استفاده از نمایندگان همیشه یک مبادله حریم خصوصی وجود دارد: برای مفید بودن، باید اطلاعات شخصی خود را تحویل دهید. OpenAI در یک پست وبلاگ در مورد ویژگی های ایمنی نقاط خطر را تأیید می کند: "اشتباهات یک نماینده می تواند عواقبی فراتر از یک مکالمه داشته باشد: درک نادرست از یک درخواست می تواند منجر به تغییر فایل اشتباه یا اشتراک گذاری اطلاعاتی شود که قصد داشتید خصوصی نگه دارید."

نقطه‌ها توسط GPT-6 Astra، که OpenAI در زمان عرضه‌اش در اوایل ماه جاری به‌عنوان «همسوترین مدل» آن توصیف کرد، ارائه می‌شود. آنها بر روی رایانه های مجازی خود در فضای ابری کار می کنند - یک سیستم امنیتی مشابه Meta که برای Muse استفاده می شود - و از قبل آموزش دیده اند تا برخی از وظایف حساس مانند تغییر رمز عبور یا انتقال پول از یک حساب به حساب دیگر را انجام ندهند.

برخی از کاربران دارای اشتراک ChatGPT Pro، Business Premium و Enterprise می توانند از امروز شروع به استفاده از یک نقطه شخصی کنند. این شرکت می‌گوید: «ما تیم‌هایی از نقاط را تصور می‌کنیم که از طرف شما با هم کار می‌کنند». تیم ها - قطعا "ازدحام" نیستند.