ربات‌های چت هوش مصنوعی در حال ساخت «خودنگاری الگوریتمی» از شما هستند

Hyperpersonalization به نام بازی در چت ربات های هوش مصنوعی تبدیل شده است.

توانایی چت بات برای یادگیری و به خاطر سپردن خواسته ها و نیازهای خاص کاربر و سپس تنظیم پاسخ های آن بر اساس آن، بخش بزرگی از جذابیت آن است. اما این شخصی‌سازی فقط محصول فناوری پیچیده نیست. این همچنین به مقدار زیادی از اطلاعات شخصی بستگی دارد که کاربران با میل خود با چت بات ها به اشتراک می گذارند. اغلب اوقات، آنها ممکن است کاملا از میزان و پیامدهای داده هایی که ارائه می کنند آگاه نباشند.

اگرچه ممکن است مکالمات با چت ربات های هوش مصنوعی مانند مبادلات ایزوله به نظر برسد، سیستم هایی مانند ChatGPT می توانند اطلاعات تعاملات گذشته را حفظ کرده و از آن برای شخصی سازی پاسخ های آینده از طریق فرآیندهای حافظه که همیشه برای کاربران شفاف نیستند، استفاده کنند. سپس حافظه هوش مصنوعی از این برای ساختن مشخصات دقیق کاربر استفاده می‌کند، مکانیزمی که محققان در مطالعه‌ای که اوایل سال جاری منتشر شد آن را «خودنگاری الگوریتمی» نامیدند.

محققان در این مطالعه نوشتند: «حافظه چیزی را ایجاد می‌کند که ما از آن به‌عنوان خودنگاره الگوریتمی یاد می‌کنیم - شکل جدیدی از شخصی‌سازی که از اطلاعات افشا شده کاربران در مکالمات خصوصی به دست می‌آید». این تیم شامل دانشمندانی از مؤسسه سیستم‌های نرم‌افزاری ماکس پلانک آلمان و مؤسسه امنیت و حریم خصوصی ماکس پلانک به همراه چندین مؤسسه دیگر بود.

برای درک بهتر نحوه شکل گیری این سلف پرتره های الگوریتمی، محققان تاریخچه مکالمه ChatGPT اهدا شده توسط 80 کاربر را که نسخه هایی از داده های خود را تحت قوانین حریم خصوصی اروپا به دست آورده بودند، بررسی کردند. آنها 2050 ورودی حافظه را در مکالمات از 65 نفر از آن شرکت کنندگان شناسایی کردند.

آنها دریافتند که در بیشتر مواقع، خاطرات به صورت یک طرفه توسط چت ربات هوش مصنوعی ایجاد می شوند. در 96 درصد مواردی که آنها مطالعه کردند، ChatGPT بدون اینکه کاربر صریحا از او بخواهد، خاطرات را ایجاد یا به روز کرد. محققان همچنین دریافتند که بیشتر این خاطرات مستقیما از اطلاعاتی که کاربران در مکالمات به اشتراک گذاشته بودند، گرفته شده است. اما برخی بر اساس استنباط هایی بودند که لزوما درست نبودند. به عنوان مثال، وقتی یکی از کاربران از ChatGPT خواست تا باندهایی مشابه نیروانا را توصیه کند، ربات چت حافظه ای ایجاد کرد که نشان می داد کاربر نیروانا را دوست دارد، حتی اگر هرگز به صراحت چنین چیزی نگفته باشد.

از زمانی که محققان مطالعه خود را انجام دادند، سیستم حافظه ChatGPT حتی پیچیده تر شده است. در ماه ژوئن، OpenAI یک سیستم ارتقا یافته را معرفی کرد که به طور خودکار اطلاعات مکالمات گذشته را برای حفظ مشخصات در حال تکامل ترجیحات، اهداف و شرایط شخصی کاربران ترکیب می کند. این سیستم به جای صرفا جمع‌آوری خاطرات فردی، به طور مداوم درک خود از کاربران را بر اساس آنچه که اطلاعات مربوطه را در نظر می‌گیرد به روز می‌کند.

کاربران می‌توانند خلاصه‌ای از آنچه ChatGPT درباره آنها به خاطر می‌آورد را مرور کنند، اما OpenAI اذعان می‌کند که خلاصه لزوما شامل همه چیزهایی نیست که سیستم می‌داند یا برای شخصی‌سازی پاسخ‌ها استفاده می‌کند.

داده ها همیشه در کسب و کار سیلیکون ولی نقش اساسی داشته اند. برای سال‌ها، غول‌های اینترنتی مانند گوگل و متا با جمع‌آوری اطلاعات در مورد کاربران و استفاده از آن برای فروش تبلیغات هدفمند ثروت هنگفتی به دست آورده‌اند. بنابراین جمع آوری داده های شخصی و پیامدهای کلی آن مشکل جدیدی نیست، اما گسترش چت ربات های هوش مصنوعی کمی پویایی را تغییر می دهد.

در حالی که مردم ممکن است به این ایده عادت داشته باشند که پلتفرم‌های رسانه‌های اجتماعی پست‌ها، لایک‌ها و سایر فعالیت‌های آن‌ها را ردیابی می‌کنند، مکالمات با ربات‌های چت هوش مصنوعی می‌تواند بسیار خصوصی‌تر به نظر برسد، حتی زمانی که شرکت‌هایی که آن‌ها را اداره می‌کنند آن تبادلات را حفظ و تجزیه و تحلیل می‌کنند.

چت بات ها به طور خاص طراحی شده اند تا هم شبیه انسان و هم شبیه به یک فضای خصوصی باشند. بنابراین هنگامی که با آن صحبت می کنید، ممکن است مانند صحبت کردن با یک غریبه قابل اعتماد باشد که می تواند به شما توصیه کند به عنوان یک شخص ثالث بی طرف که از زندگی شما فاصله دارد، اما به گفته لوری کرانور، مدیر موسسه امنیت و حریم خصوصی CyLab دانشگاه کارنگی ملون، خطرات حریم خصوصی در اینجاست.

کرنور می‌گوید: «انسان‌ها در هواپیما، اتوبوس یا قطار در کنار یک غریبه می‌نشینند و چیزهایی را به آن‌ها می‌گویند که هرگز به مردم نمی‌گویند که قرار است دوباره ببینند، و من فکر می‌کنم برخی از مردم به روشی مشابه به هوش مصنوعی فکر می‌کنند.» "اما تفاوت این است که بعید است غریبه مکالمه را ضبط کند - گهگاه این اتفاق می افتد، اما بسیار به ندرت. هوش مصنوعی قطعا مکالمه را ضبط می کند."

در یک مطالعه قبلی، محققان دریافته بودند که کاربران به طور فزاینده ای به چت ربات هایی مانند ChatGPT روی می آورند تا در مورد موضوعات حساسی مانند سلامت، امور مالی، سلامت روان و اشتغال مشاوره بگیرند، به طوری که "اکنون بیشتر شبیه یک شریک اجتماعی شده است تا یک ابزار."

با تکیه بر این یافته، این بار آنها همچنین به بررسی انواع اطلاعات حساس توسط چت بات و نحوه ذخیره آن پرداختند. آنها دریافتند که 52 درصد از ورودی های حافظه حاوی اطلاعاتی در مورد حالات روانشناختی کاربران، از جمله تمایلات، مقاصد، احساسات و باورهای آنها است.

دش گفت: «پیش از این، پلتفرم‌ها یک هدف داشتند: فروش تبلیغات به شما و واسطه‌گری در تعامل بین شما و تبلیغ‌کننده. اما اکنون، آنها در واقع با شما صحبت می کنند، بنابراین ممکن است بخواهند درباره شما بیشتر بدانند تا بتوانند گفتگوی موثری داشته باشند.

این دو مدل کسب و کار دیگر متقابل نیستند. OpenAI در ماه فوریه شروع به معرفی تبلیغات به ChatGPT کرد و این شرکت می گوید می تواند از اطلاعات مکالمات و خاطرات گذشته کاربران برای شخصی سازی تبلیغاتی که می بینند استفاده کند، مشروط بر اینکه آنها تبلیغات شخصی سازی شده را فعال کرده باشند. OpenAI می‌گوید که تبلیغ‌کنندگان به مکالمات یا خاطرات کاربران دسترسی ندارند و تبلیغات بر پاسخ‌های ربات چت تأثیر نمی‌گذارد. اما این ترتیب نشان می‌دهد که چگونه نمایه‌های شخصی دقیقی که چت‌بات‌ها می‌سازند نیز می‌توانند به ابزارهای تبلیغاتی ارزشمند تبدیل شوند.

بنابراین توانایی چت ربات‌های هوش مصنوعی برای جمع‌آوری و نگهداری اطلاعات درباره شما برای ایجاد نمایه‌ای دقیق، چیزی است که باعث می‌شود این فناوری کار کند. اما خطرات جدیدی را به همراه دارد که گاهی فراتر از معمای معمول حریم خصوصی اینترنتی است.

وقتی مردم به نگرانی‌های مربوط به حفظ حریم خصوصی داده‌ها فکر می‌کنند، چیزی که بلافاصله به ذهن خطور می‌کند نشت اطلاعات حساس کاربران به اشخاص ثالث است. به گفته کارشناسان، حملات سایبری لزوما مشکلی نیست که چت ربات‌های هوش مصنوعی را بیشتر از سایر گوشه‌های اینترنت گرفتار کند. اما موارد بیشتری وجود دارد که باید به کاربران اجازه توقف دهد.

برای برخی از ربات‌های چت هوش مصنوعی، نگرانی می‌تواند این باشد که داده‌های حساس کاربران می‌توانند به سیستم عمومی وارد شده و برای آموزش مدل‌های جدید استفاده شوند.

کرنور گفت: «به‌طور پیش‌فرض، برای بسیاری از این سیستم‌ها، آموزش دادن مدل‌ها با هر چیزی که می‌دهید، بازی منصفانه‌ای است. اگر مجوزی با نرده‌های محافظ واضح ندارید، مانند مجوزی که از طریق کارفرمای خود دارید، کرنور گفت باید فرض کنید که شرکت از داده‌های شما برای آموزش مدل‌هایش استفاده می‌کند.

حتی اگر اطلاعاتی که می‌دهید بین مدل‌ها یا ربات‌های چت منتقل نشود، ممکن است بین زمینه‌ها نشت پیدا کند. برای مثال، اگر توصیه‌های بهداشتی را از ربات چت دریافت می‌کنید، می‌تواند به طور ضمنی از آن زمینه بعدا برای ارائه مشاوره مالی به شما استفاده کند.

کرنور گفت: «راه‌هایی وجود دارد که می‌تواند به شما توصیه‌هایی کند که ممکن است به نفع شما نباشد. «اگر می‌داند که شما ثروتمند هستید، شاید به شما پیشنهاد می‌دهد که چیزهای گران‌تری بخرید، و اگر می‌داند که درآمد ثابتی دارید و حقوق و دستمزد زندگی را تا چک دستمزد دریافت می‌کنید، شاید به شما توصیه می‌کند که چیزهای بیهوده و ارزانی بخرید… سپس تعجب می‌کنید که به صراحت به چند چیز اشاره نمی‌کند، اما در توصیه‌ها به شما توجه می‌کند؟»

همچنین مشکلاتی در این مجموعه داده وجود دارد که فراتر از روش های سنتی ما در مورد حفظ حریم خصوصی آنلاین است. شرکت‌های هوش مصنوعی می‌خواهند ربات‌های چت آنها فروشگاهی یک‌جا برای درخواست‌های کاربران باشد. گوگل در حال انجام یک بازنگری اساسی هوش مصنوعی، از جمله ادغام هوش مصنوعی در عملکرد اصلی خود، جستجو است. از سوی دیگر، مدیران OpenAI در مورد کار این شرکت برای توسعه محصولی که می تواند به شما در "در همه چیز در زندگی" کمک کند، صحبت کرده اند.

دش گفت: "این خطر حفظ حریم خصوصی است که به نوعی در حال ظهور است، زیرا دیگر مرزی وجود ندارد؛ سیستم به عنوان مشاور، دوست، پزشک، وکیل شما عمل می کند و بنابراین اطلاعاتی در مورد همه چیز دارد." "اگر سیستم شما را به خوبی می شناسد و هدفش برآوردن باورهای شما و اعتبار بخشیدن به افکار شما است تا بارها و بارها به آن بازگردید، در این صورت می تواند پیامدهای فاجعه بار تری داشته باشد، از دو قطبی شدن شدید سیاسی گرفته تا تقویت تعصبات و تعصبات."

در مطالعه دیگری که در اوایل سال جاری منتشر شد، محققان پیشنهاد کردند که بیش‌شخصی‌سازی و تداعی‌گرایی، همراه با تمایل چت‌بات به بازتاب زبان کاربران، می‌تواند به توسعه یا تقویت هذیان‌های مرتبط با هوش مصنوعی کمک کند.

هم Dash و هم Cranor به کاربران توصیه می‌کنند که در مورد اطلاعاتی که به چت‌ربات‌های هوش مصنوعی می‌دهند، محتاط‌تر باشند، حتی اگر احساس رضایت فوری از یک پاسخ سریع وسوسه‌انگیز به نظر برسد.

دش گفت: «امروزه همه همه چیز را در این سیستم‌های مکالمه بارگذاری می‌کنند، بنابراین احتمالا باید مقداری از این بار شناختی را خودتان برگردانید.

در یک آزمایش کوچک، دش و همکارانش دریافتند که بیان مجدد سوالات برای حذف جزئیات شناسایی شخصی می‌تواند میزان اطلاعات حساسی را که کاربران برای چت‌بات‌ها نشان می‌دهند کاهش دهد. آنها این تکنیک را "سپر اسناد" می نامند، اگرچه اثربخشی آن در مکالمات طولانی مدت نامشخص است. این اساسا شامل تعامل با ربات‌های چت هوش مصنوعی می‌شود به همان روشی که چیزی را در گوگل جستجو می‌کنید.

برای مثال، اگر دیابتی هستید و به دنبال دریافت مشاوره هستید، دش به شما پیشنهاد می‌کند که پرس و جو خود را با «من دیابتی هستم، در مورد X چه کار کنم» شروع نکنید و در عوض آن را به صورت «یک فرد دیابتی در مورد X چه کاری باید انجام دهد» بیان کنید.

ChatGPT همچنین به کاربران کنترلی بر آنچه که به خاطر می آورد، ارائه می دهد. آن‌ها می‌توانند حافظه را در تنظیمات خود خاموش کنند، خلاصه‌ای از اطلاعاتی را که ربات چت درباره آن‌ها جمع‌آوری کرده است بررسی و تصحیح کنند، یا از یک گپ موقت غیرشخصی استفاده کنند که به آن‌ها دسترسی پیدا نمی‌کند یا خاطراتی ایجاد نمی‌کند. کاربران همچنین می توانند به طور جداگانه از استفاده از مکالمات خود برای آموزش مدل های هوش مصنوعی آینده خودداری کنند. اما این حفاظت ها محدودیت هایی دارند.

OpenAI می‌گوید خلاصه‌های حافظه آن لزوما شامل همه چیزهایی نیست که ربات چت در مورد یک کاربر می‌داند، و حذف یک مکالمه لزوما اطلاعاتی را که چت ربات به خاطر آورده از آن پاک نمی‌کند.

اما تنها کارهای زیادی وجود دارد که کاربران می توانند برای محافظت از خود انجام دهند. دش فکر می کند که بخشی از این مسئولیت باید بر عهده اپراتورهای چت بات نیز باشد. به عنوان مثال، شرکت‌های هوش مصنوعی می‌توانند با درخواست اجازه قبل از ذخیره اطلاعات از مکالمات، به کاربران کنترل بیشتری بر شکل‌گیری حافظه بدهند.