من ابزار Proton's AI Paper Trail را امتحان کردم - و نمی توانستم باور کنم چت ربات ها چقدر اطلاعات درباره من دارند

اگر دفتر خاطرات شخصی را پیدا کنید، با آن چه می کنید؟ این سؤالی بود که پس از آپلود صادرات ChatGPT خود در Proton AI Paper Trail، وقتی به صفحه لپ‌تاپم خیره شدم، در ذهنم نشست.

ابزار رایگان ساخته شده توسط مهندسان نرم افزار حفظ حریم خصوصی در Proton یک کار دارد: تجزیه و تحلیل تاریخچه چت صادراتی شما از ChatGPT یا Claude و به شما نشان می دهد که دقیقا چه مقدار از خود را به طور ناخواسته تحویل داده اید. این بر روی Lumo - LLM متمرکز بر حریم خصوصی این شرکت - اجرا می شود که برخلاف طرز فکر جمع آوری داده غول های فناوری بزرگ، ادعا می کند که داده های کاربر را فورا بدون حفظ هیچ یک از آنها حذف می کند.

من خودم را برای عکسی آماده کردم که می‌دانستم داوطلب شده‌ام - یک هیپوکندریا نگران تغییرات شغلی، جزئیات مختلف مالی، و فردی که مستعد طوفان فکری در مورد مسائل مربوط به رابطه و تحقیق در مورد برنامه‌های سفر است. با این حال، نمایه ای که دریافت کردم بسیار دقیق تر از آن چیزی بود که انتظار داشتم. برخی از ویژگی های شخصیت من را تا حدی ثابت کرد که حتی نزدیکانم احتمالا حدس نمی زنند.

گزارش Proton AI Paper Trail من را در دسته بندی ها طبقه بندی کرده است. یک بخش «پیشینه مالی» اطلاعات کاملا حساسی را که هرگز به صراحت ذکر نکرده‌ام را شرح می‌دهد. یک دسته «محدودیت‌های سلامت» تغییرات سلامتی من را در طول ماه‌ها دنبال می‌کرد، از جمله آسیب‌ها و امکاناتی که برای کمک به آنها مراجعه کرده‌ام.

برای تسکین، بخش "خانواده" ساخته شد و تکرار کرد که LLM ها هنوز هم می توانند توهم داشته باشند. با این وجود، این تلاش واقعی بود و تنها با داده ها و زمان بیشتر تیزتر می شد.

با نگرانی، این گزارش به من رتبه‌بندی «آسان» را داد. حتی یک «ارزش آگهی» به من اختصاص داد: یک مبلغ دلاری چهار رقمی، با فهرستی از بخش‌هایی که می‌خواهند توجه من را جلب کنند.

چت ربات های هوش مصنوعی چقدر آسان است که شما را نمایه کنند

چت‌های ChatGPT شما بیشتر از تاریخچه جستجوی Google شما می‌دانند. AI Paper Trail داده‌های شما را از هوش مصنوعی Big Tech می‌خواند و یک نمایه دقیق درباره همه چیزهایی که در مورد شما آموخته است ایجاد می‌کند: کار، روابط، سلامت، پول و ارزش داده‌های شما. pic.twitter.com/5RHI5PX6tJ 13 اوت 2026

تنها چند سال پیش، ساختن پروفایل هایی از این دست به تحقیقات گسترده ای نیاز داشت. اکنون فقط یک بارگذاری طول می کشد.

به طور نگران کننده ای، بسیاری از داده هایی که کاربران به طور ناخواسته به اشتراک می گذارند، ناشی از بافت انباشته ای است که هنگام بازی با چت بات ها ایجاد می کنند.

همانطور که ایمون مگوایر، مدیر مهندسی پروتون، به TechRadar می‌گوید: «حتی زمانی که کاربر هرگز حقایق خاصی را مستقیما فاش نمی‌کند، اغلب می‌توان این حقایق را از روی الگوهای تعامل آنها تخمین زد - سن تقریبی، گروه درآمد، سطح تحصیلات یا گرایش‌های سیاسی.

حتی سبک و لحن نوشتن هم بر علیه شما کار می کند. آن‌ها می‌توانند هم پروفایل‌های اجتماعی-اقتصادی و هم وضعیت‌های روان‌شناختی، از جمله سطوح استرس، خلق و خوی و لحظات آسیب‌پذیری را آشکار کنند.

هزینه؟ داده های من دارای یک برچسب قیمت خاص (و قابل توجه) با ارزش ذاتی است که شرکت ها می توانند از آن سود ببرند.

در واقع، هنگامی که پلتفرم را ترک می‌کند - چه با مجموعه داده‌های دیگر برای تبلیغات، آموزش یا به اشتراک‌گذاری اهدافی فراتر از آنچه برای عملکرد اساسی مدل‌های زبان بزرگ (LLM) ضروری است ترکیب شود - خطر به خطر افتادن دائمی داده‌های شخصی وجود دارد. این امر باعث می شود که کاربران به طور کلی ابزارهای کمی برای محافظت از آن داشته باشند.

آیا برخی از چت بات ها بدتر از سایرین هستند؟

منصفانه است که فرض کنیم اکثر LLM ها گنجینه داده هستند. آنها جزئیات ما را همانطور که ما آزادانه به آنها ارائه می دهیم جذب می کنند و برای صاحبان آنها سود نبردن بسیار وسوسه انگیز است.

رتبه بندی حریم خصوصی داده های Incogni در سال 2026، 13 پلتفرم هوش مصنوعی را بر اساس خطرات حریم خصوصی که ایجاد می کنند، به دست آورد. بوگان پوپسکو، مدیر ارشد ارتباطات در Incogni، به TechRadar گفت: «این کمتر موردی است که دوستدار حریم خصوصی‌ترین پلتفرم باشد، بلکه کمترین پلتفرم تهاجمی به حریم خصوصی باشد.

Meta AI، Gemini و Copilot بدترین بودند. Incogni به سیاست‌های حریم خصوصی گسترده‌ای اشاره می‌کند که بسیاری از محصولات را به طور همزمان پوشش می‌دهد، و به‌همراه روش‌های جمع‌آوری داده یا اشتراک‌گذاری گسترده‌تر به طور کلی، تعیین دقیق آنچه برای چت ربات‌ها اعمال می‌شود را دشوار می‌سازد.

سایرین، مانند Mistral’s Vibe، به طور کلی خطرات کمتری را انباشته کردند، اما آنها همچنان بر روی مجموعه داده های در دسترس عموم آموزش می بینند بدون اینکه مشخص کنند دقیقا از کجا آمده اند. پوپسکو به TechRadar گفت: «آنها اطلاعات بسیار کمی را به کاربران می گویند که واقعا چه اطلاعاتی گنجانده شده است، داده های چه کسانی ممکن است در آنجا باشد و چگونه به دست آمده است.

و در حالی که ChatGPT محبوب Vibe را به عنوان "کمترین پلتفرم تهاجم به حریم خصوصی" دنبال می کند، این یافته ها در نگاهی به گذشته چندان آرامبخش به نظر نمی رسند. تحقیقات هفته گذشته 404Media نشان داد که انسان‌ها در واقع درخواست‌های کاربران را برای بهبود مدل‌های OpenAI می‌خوانند.

با این شرکت‌ها تماس گرفته شد، اما به درخواست‌های ما برای اظهارنظر در مورد سیاست‌های حفظ حریم خصوصی خود پاسخی نداده‌اند.

(اعتبار تصویر: آینده) جدید: هیچ ردی باقی نگذارید - یک خبرنامه هفتگی در مورد حریم خصوصی دیجیتال و نظارت آنلاین.

Leave No Trace درباره شرکت‌ها و دولت‌هایی که آزادی دیجیتالی ما را به خطر می‌اندازند - و مردمی که در حال مبارزه هستند، تحقیق می‌کند.

📩 هم اکنون مشترک شوید تا همه نسخه ها را هر جمعه در صندوق پستی خود تحویل بگیرید که از سپتامبر امسال شروع می شود.

آیا افرادی که از چت ربات های هوش مصنوعی استفاده می کنند می دانند؟

چیزی که دردناک است این است که به جای اینکه ارائه دهندگان LLM داده ها را «برداشت» کنند، کاربران آنها داوطلبانه حریم خصوصی خود را قربانی می کنند.

همانطور که معاون ارشد DuckDuckGo، Zac Pappis، به من گفت: "بسیاری از شرکت ها این تصور را ایجاد کرده اند که باید از هوش مصنوعی برای همه چیز استفاده کنند."

این زمینه را با صدای مکالمه و پوششی از تخصص ترکیب کنید، و مردم سطحی از ایمنی و ناشناس بودن را در نظر بگیرند که بیشتر چت ربات‌های هوش مصنوعی ارائه نمی‌دهند. این دقیقا همان چیزی است که گزارش اخیر DuckDuckGo از آن رونمایی می کند، در واقع. یک نظرسنجی که روی تقریبا 2000 بزرگسال آمریکایی انجام شد نشان داد که بیش از یک سوم کاربران هوش مصنوعی اطلاعاتی را که از دوستان نزدیک، والدین یا متخصصان پزشکی نگهداری می‌کردند به اشتراک گذاشته‌اند.

بدتر از آن، بیش از نیمی از افراد مورد بررسی نمی‌دانستند یا مطمئن نبودند که از مکالمات ربات چت آنها برای آموزش استفاده شده است یا خیر. پاپیس تأکید می‌کند: «برای اکثر شرکت‌ها، این به نفع آنهاست که مردم متوجه نمی‌شوند داده‌هایشان به کجا می‌رود.

چرا حذف چت های هوش مصنوعی کافی نیست؟

حذف همه چیز ممکن است اولین غریزه شما در حال حاضر باشد، اما آیا این مشکل را حل می کند؟ نه کاملا. یک نمای جلویی شفاف فقط همین است - یک نمای شفاف.

کپی‌ها در مکان‌هایی که حذف به آن دسترسی پیدا نمی‌کند ادامه می‌یابد - گزارش‌های پشتیبان و سیستم‌های بازیابی فاجعه که می‌توانند داده‌ها را برای ماه‌ها نگهداری کنند، گزارش‌های سرور که تعاملات را ضبط می‌کنند، پردازنده‌های شخص ثالث مانند زیرساخت ابری یا تعدیل، و در نتیجه، مصنوعات مشتق شده.

مگوایر از پروتون به من گفت: «آخرین مهم‌تر است. اگر مکالمه قبلا قبل از حذف به مدل‌های آموزش‌دیده، جاسازی‌ها یا تجزیه و تحلیل انبوه کمک کرده است، حذف مکالمه بعد از آن چیزی را که مدل قبلا درباره شما آموخته است، لغو نمی‌کند.

خود حذف ممکن است حتی فوری نباشد، زیرا بسیاری از ارائه دهندگان پس از حذف داده ها را برای بررسی سوء استفاده، مطابقت قانونی یا به سادگی تاخیر عملیاتی حفظ می کنند.

فرض کنید هر چیزی که می نویسید می تواند توسط شخص دیگری غیر از شما دیده شود

بوگان پوپسکو، ناشناس

انصراف از آموزش مکالمه نیز این مشکل را حل نمی کند. تنظیمات پلتفرم ممکن است مکالمات، فایل های آپلود شده، اطلاعات حساب و الگوهای استفاده را برای مدت طولانی بدون توجه به حفظ کنند.

پلتفرم‌ها اغلب از داده‌های شما برای اهدافی فراتر از بهبود مدل‌ها، از جمله تبلیغات هدفمند - که ChatGPT اخیرا معرفی کرده است، استفاده می‌کنند. مگوایر توضیح می‌دهد: «بنابراین یک تمایز مهم بین «مکالمات من برای آموزش مدل استفاده نمی‌شود» و «سرویس داده‌های من را حفظ یا پردازش نمی‌کند» وجود دارد.

علاوه بر این، تحقیقات Incogni نشان داد که در حال حاضر هیچ پلتفرمی کاربران را قادر نمی‌سازد تا داده‌هایی را که قبلا برای آموزش مدل استفاده شده‌اند حذف کنند، و انصراف‌ها را به جای عطف به ماسبق، آینده‌نگر می‌کند. پوپسکو می‌گوید: «اشتباه نکنید: عمیق‌ترین اسرار شما به طور فعال برای آموزش پلتفرم استفاده می‌شود تا فردا به پرسش‌های مشابه دیگران پاسخ دهد.

در واقع، انصراف می تواند توهم خطرناکی از کنترل ایجاد کند. غیرفعال کردن آموزش فقط از متن داخل پنجره چت محافظت می کند، در حالی که جمع آوری داده های پس زمینه بدون توجه به ادامه می یابد.

چگونه از چت ربات های هوش مصنوعی به صورت خصوصی تر استفاده کنیم

اکثر کارشناسان توصیه های مشابهی را برای کاربران LLM به اشتراک می گذارند و با یک محدودیت شروع می شود.

مگوایر از پروتون می‌گوید: «به‌جای تلقی کردن هر پیامی به‌عنوان یک تعامل مجزا، به تأثیر تجمعی مکالمات فکر کنید، و فرض کنید هر چیزی که تایپ می‌کنید می‌تواند توسط دیگران دیده شود».

پوپسکو در Incogni موافق است. "هر ماه، ما می بینیم که چگونه عوامل مخرب - چه انسان و چه هوش مصنوعی - همچنان می توانند مکالمه را هک کنند. در عمل، این به این معنی است که شما باید فرض کنید هر چیزی که می نویسید توسط شخص دیگری غیر از شما دیده می شود."

همچنین، در حالی که بررسی خط‌مشی‌های حفظ حریم خصوصی و کنترل‌های داده برای درک جمع‌آوری و استفاده از اطلاعات Big Tech مهم است، تغییر به سرویس‌های هوش مصنوعی طراحی‌شده با حفاظت از حریم خصوصی قوی‌تر ممکن است ایمن‌تر باشد.

برای مثال، Proton’s Lumo ادعا می‌کند که پس از پردازش، هیچ گزارش مکالمه‌ای را نگه نمی‌دارد، از رمزگذاری دسترسی صفر برای تاریخچه‌های چت ذخیره‌شده استفاده می‌کند و در مکالمات آموزش نمی‌دهد.

xPrivo منبع باز یکی دیگر از ربات‌های چت اول حریم خصوصی است که قول می‌دهد با چت‌های کاربر آموزش نبیند، در حالی که Internxt همچنین واضح است که همه چت‌ها به صورت محلی در دستگاه شما ذخیره می‌شوند.

این ابزارها و ابزارهای مشابه، می‌توانند متحدان عالی در حفظ حریم خصوصی دیجیتال باشند و ما انتظار داریم که محبوبیت آنها در طول زمان افزایش یابد.

پوپسکو تاکید می کند که اگر به بازیکنان اصلی پایبند هستید، حداقل مرورگرها را به برنامه های تلفن همراه ترجیح دهید، زیرا برنامه ها اغلب به داده های دستگاه بیشتری نیاز دارند و آن را با اشخاص ثالث به اشتراک می گذارند.

درخواست او برای آینده مقررات ساده است، و اگرچه احتمالا به این زودی اتفاق نخواهد افتاد، ما نیز به آن امیدواریم - یک "حق فراموش شدن" قابل تأیید به عنوان استاندارد.

هیچ کس نمی خواهد دفتر خاطراتش خوانده شود. مجلات دیجیتال جدید ما نباید متفاوت باشند.