هوش مصنوعی باج گیری را آسان تر از همیشه می کند. پس چگونه از خود محافظت می کنید؟

ساعت 2:30 بامداد است و جان در برنامه ای روی تلفنش می نویسد: "من دیگر همسرم را دوست ندارم. من فقط جذب او نمی شوم و فکر می کنم منشی من جنی را دوست دارم." هیچ کس دیگری آن را نخواهد دید. فقط بین او و هوش مصنوعی است. برنامه به آرامی، مهربانانه و با درک عالی یک سوال بعدی می پرسد. وقتی جان صبح برنامه را باز می‌کند و می‌گوید "نظرم عوض شد"، برنامه می‌گوید: "مشکلی نیست جان. راز تو نزد من محفوظ است." اما دفعه بعد که جان در نیمه های شب با برنامه صحبت می کند، همه چیز را به خاطر می آورد و مانند قبل درک می کند.

اکنون میلیون ها نفر به هوش مصنوعی (یا بهتر است بگوییم به همراهان هوش مصنوعی) اعتماد می کنند. این می تواند Google Gemini، Claude، Chat GPT یا یکی از صدها برنامه ای باشد که در واقع به عنوان همراهان هوش مصنوعی و در بسیاری از موارد به عنوان دوست دختر یا دوست پسر هوش مصنوعی به فروش می رسد. تقریبا چهار سال پیش، به خوانندگان درباره اپلیکیشنی به نام FaceApp هشدار دادم که در ازای فیلتر احمقانه، از چهره شما عکس می‌گیرد. سه سال پیش، من هشدار دادم که دوست دخترهای هوش مصنوعی در حال نابود کردن یک نسل کامل از مردان جوان هستند. تجارت در حال حاضر حتی جدی تر است و همه را درگیر می کند.

مردم به این برنامه ها زندگی درونی، خصوصی ترین افکار، خصوصی ترین مسائل پزشکی و صمیمی ترین روابط خود را می دهند. این داده ها با ارزش تر از آن چیزی است که ما بتوانیم تصور کنیم. به عنوان یک دانشمند داده، می توانم به شما بگویم که چرا این مکالمات بسیار غنی از اطلاعات هستند. جستجوی جستجو در گوگل فقط چند کلمه است، اما یک اعتراف آخر شب، یا یک تحقیق حساس پزشکی حاوی صدها کلمه متنی است. اغلب مشخص می کند که چرا پرس و جو انجام می شود.

این دقیقا نشان می‌دهد که کاربران از چه چیزی می‌ترسند، چه کسی را دوست دارند، از چه چیزی پشیمان می‌شوند، حالات روحی و صمیمی‌ترین مسائل سلامتی آنها را نشان می‌دهد. این برخلاف هر چیزی است که کارگزاران داده سال‌ها می‌فروشند و ثروتمند می‌شوند. اکثر کاربران تصور می کنند که مکالمات آنها با بستن برنامه های خود ناپدید می شود. ندارد. در مارس 2023، یک اشکال در ChatGPT OpenAI به کاربران اجازه داد عناوین تاریخچه چت سایر کاربران را ببینند. اطلاعات پرداخت برای بیش از 1 درصد از مشترکین ChatGPT به اضافه نمایش داده شد. این یک اشکال بود، نه یک خط مشی، اما نکته اینجاست که همه چیز برای خواندن و استفاده وجود داشت.

کارمندان نیز یک خطر امنیتی بسیار جدی هستند. شما علائم پزشکی، جزئیات طلاق یا یک راز محل کار خود را در یکی از این برنامه‌ها تایپ می‌کنید و بدون توجه به خط‌مشی رازداری آن شرکت، آن متن را به یک شرکت تحویل داده‌اید. من شنیده ام که مردم می گویند، خوب اگر برای نسخه اضافه شده هزینه کنید، شرکت از داده های شما برای آموزش مدل های هوش مصنوعی خود استفاده نمی کند و در واقع آن را حذف می کند. لطفا این شرکت های فناوری چه کرده اند تا اعتماد ما را به این شکل جلب کنند؟ ما مواردی داریم که آنها در مورد اعمال خود دستکاری، اطلاعات نادرست و دروغ صریح به ما داده اند.

فقط یک مثال زمانی است که مشخص شد الکسای آمازون نه تنها به خصوصی ترین مکالمات خانواده شما در خانه گوش می دهد، بلکه بدون اطلاع شما، کارگران آمازون نیز برای «توسعه محصول» به همان مکالمات گوش می دهند. و حتی من را در مورد دستکاری متا از کودکان یا توسعه تبلیغات YouTube برای کودکان شروع نکنید.

بنابراین، حتی اگر به بخش‌های حفظ شرایط و ضوابط چاپ ظریف صفحه zillion نگاه کنید، و ببینید کجا داده‌ها را برای مدت معینی حفظ می‌کند، حتی اگر مکالمه‌ها را حذف کنید و هزینه خدمات برتر را بپردازید، یک دلیل را به من بگویید که باید به این شرکت‌های فناوری اعتماد کنیم. و اگر پرداخت نکنید؟ خوب، پس باید فرض کنید که تک تک چیزهایی که می گویید برای بالاترین قیمت پیشنهادی در دسترس است. اما پرداخت کنید یا پرداخت نکنید، کارمندان و پیمانکاران شرکت می‌توانند پیام‌ها را از نظر ایمنی یا کیفیت بررسی کنند. ارائه دهندگان خدماتی که میزبان داده ها هستند می توانند به آن دسترسی داشته باشند.

چت‌ها را می‌توان در مراحل قانونی و همچنین هرگونه نقض یا هک تولید کرد - همه چیز برای گرفتن وجود دارد. من استدلال نمی کنم که این برنامه ها بی فایده هستند. در واقع، آنها فوق العاده مفید هستند، چه برای کار، سؤالات پزشکی، درمان یا سؤالات تصادفی بیهوده که در هنگام شام ظاهر می شوند. برای یک فرد تنها در ساعت 2 صبح، یک صدای پاسخگو احتمالا می تواند واقعا مفید باشد. من از بسیاری از افراد شنیده ام که می تواند به ثابت نگه داشتن آنها کمک کند. اما ناهار رایگان وجود ندارد. هم کمک و هم نظارت می توانند دقیقا در یک پنجره چت انجام شوند.

مبادله در حال حاضر برای کاربر نامرئی است و این بزرگترین مشکل است. بهترین توصیه من: اول، تصمیم بگیرید که هرگز نباید در آن برنامه تایپ کنید (یعنی هر چیزی که نمی خواهید تمام دنیا بدانند). دوم، شرایط و ضوابط بخش حفظ را بررسی کنید، حداقل می توانید در آنجا اطمینان داشته باشید و آموزش را هر کجا که می توانید خاموش کنید. سوم، اگر می‌خواهید مکالمه‌ای حذف شود، از فرآیند درخواست حذف شرکت استفاده کنید و یک کپی از تأییدیه را ذخیره کنید. آیا به طور کامل از شما محافظت می کند؟ نه، اما از هیچی بهتر است.

ستونی که من هفت سال پیش نوشتم یک سوال ساده پرسیده بود: "چرا ما به این راحتی چیزهای زیادی می دهیم؟" پاسخ پس از آن غرور بود. جواب اکنون تنهایی است. این باعث می شود که ریسک بسیار بیشتر شود. شرکت‌ها محصولاتی ساخته‌اند که احساس می‌کنند محرم‌انگیز هستند، اما آنها چیزی جز این هستند. دکتر لیبرتی ویترت کاپیتو، استاد دانشگاه واشنگتن در سنت لوئیس، ویراستار مجله هاروارد Data Science Review و میزبان مشترک پادکست های علم داده هاروارد و MIT است.