بنیانگذار Instinct می‌گوید توهمات عامل هوش مصنوعی ویروسی می‌تواند چیزی شبیه به داده‌های یک غریبه را بیرون بیاورد.

عوامل هوش مصنوعی شخصی مانند Instinct در حال تسلط بر دنیای فناوری هستند. دادو روویک/رویترز بنیانگذار یک دستیار هوش مصنوعی ویروسی گفت که می تواند توهم ایجاد کند و به نظر می رسد که اطلاعات یک غریبه را برای شما ارسال می کند.

نوح شین گفت که غریزه این کار را با ساختن یک اسم خاص و سپس تقویت آن با استدلال خود انجام می دهد.

این پس از آن اتفاق افتاد که کاربری در X گفت که Instinct به آنها گفته است که عکسی به مکالمه آنها "تقاطع" شده است. اگر دستیار هوش مصنوعی شخصی شما چیزهایی را برای شما ارسال کند که به نظر جزییات صمیمی در مورد زندگی دیگران است، به احتمال زیاد همه چیز را تشکیل می دهد.

حداقل، این چیزی است که خالق Instinct، نوآ شین، گفت که زمانی اتفاق افتاد که یکی از کاربران ابزار هوش مصنوعی ویروسی گفت که یک نماینده اعتراف کرده است که مکالمه شخص دیگری را در چت آنها افشا کرده است.

پوستر، @prit4k، تصاویری از تعامل آنها با Instinct را در روز سه‌شنبه آپلود کرد که نشان می‌دهد ظاهرا دستیار نام میانی شخص دیگری را به آن‌ها داده است و درباره عکسی که هرگز از سندی مبنی بر ذکر پول ارسال نکرده‌اند، بحث کرده است.

سپس، Instinct عذرخواهی کرد و مستقیما به @prit4k گفت که این عکس "در مکالمه آنها وارد شده است" و آن را "یک نقص جدی" خواند.

"این یک نشت داده بود یا یک توهم؟" @prit4k در زنگ هشدار روی X نوشت.

غریزه اعتراف کرد که اطلاعات شخص دیگری را برای من فاش کرده است

یک سند مالی با جزئیاتی که مال من نبود توصیف کرد، سپس ادعا کرد که عکس شخص دیگری وارد چت من شده است.

اما من هرگز عکسی ارسال نکردم @noahrshinn، آیا این یک نشت داده بود یا یک توهم؟ pic.twitter.com/nev6t7w85k — Pritak (@prit4k) 21 سپتامبر 2026

شین پاسخ داد که این نمونه فقط یک توهم بود. او گفت که عامل یک اسم خاص ساخته بود و با استدلال خود این اشتباه را "بیشتر" تشدید کرده بود.

Shinn عصر چهارشنبه در پستی نوشت: «این یک نقض داده نبود، هیچ اطلاعات کاربری به اشتراک گذاشته نشد، و هیچ مرز انزوای کاربر نقض نشد.

این جوان 23 ساله نگفت از کجا می دانست که پرونده @prit4k یک توهم است، اما اقدامات حریم خصوصی Instinct را تبلیغ کرد.

او می‌نویسد: «ما کارهای زیادی انجام داده‌ایم تا مطمئن شویم داده‌های کاربران واقعا پارتیشن بندی شده‌اند، از جعبه‌های ماسه‌بازی مجزا گرفته تا اعتبارنامه‌های محلی کوتاه مدت و اجرای ابزار با امضای هویت».

شین فورا به درخواست اظهار نظر ارسال شده خارج از ساعات کاری عادی توسط Business Insider پاسخ نداد.

او در پست خود گفت که تیمش در 48 ساعت گذشته روی یک "سیستم تشخیص توهم فعال" کار کرده است که می تواند چنین خطاهایی را پیش بینی و تشخیص دهد.

او نوشت: «این لایه توانایی هدایت یا رهگیری Instinct را از ادامه ردیابی تفکر بعدی یا اجرای فراخوانی ابزار قبل از تولید یا اجرا دارد.

Instinct، یک دستیار هوش مصنوعی فقط دعوت‌شده، تابستان امسال سیلیکون ولی را تحت تأثیر قرار داد و به استارت‌آپ Shinn، Spear Street، این امکان را داد که بعدا با ارزش‌گذاری ۲.۵ میلیارد دلاری ۲۵۰ میلیون دلار جمع‌آوری کند. پراناو دیکسیت، خبرنگار Business Insider، دستیار را امتحان کرد و در اوایل این ماه نوشت که تحت تأثیر قرار گرفته است که چگونه به طور مستقیم به او در کارهای روزمره کمک می کند.

دستیارهای هوش مصنوعی مانند Instinct که به کاربران کمک می کنند کارهای روزمره مانند تماس با شرکت های بیمه یا رزرو بلیط سینما را انجام دهند، در حال تبدیل شدن به خشم در دنیای فناوری هستند. متا نماینده خود به نام Muse را در 8 سپتامبر منتشر کرد و در حال حاضر رتبه اول را در بین برنامه های پر دانلود برای دستگاه های اپل و اندروید دارد.

مقاله اصلی را در Business Insider بخوانید