شاید چت بات ها نباید بگویند «من» یا «من»

کتاب جدید او، صمیمیت مصنوعی: وقتی با ماشین‌ها صحبت می‌کنیم چه کسی می‌شویم، این قالب را می‌شکند. این یک هشدار جدلی است که ما به وضعیت اضطراری رسیده‌ایم که در آن انسانیت ما در معرض خطر اتکای بیش از حد به ماشین‌های بی‌روحی است که خود را معلمان، مربیان، دوستان، همکاران و عاشقان ما می‌دانند. ترکل به دنبال نوار بالایی از کتاب‌ها است - بهار خاموش، جنگل، ناامن با هر سرعتی - که عموم را نسبت به بحران‌های قریب‌الوقوع بیدار می‌کند. اساسا، این استاد کوچک MIT در حال تصدی صنعت چند تریلیون دلاری با حمایت دولتی است که مشتاق شتاب بخشیدن به هوش مصنوعی در هر گوشه ای از زندگی شخصی ما است.

زندگی حرفه ای استیون لوی: کتاب‌های قبلی شما نتایج تحقیقات شما را به‌عنوان یک دانشمند علوم اجتماعی گزارش کرده‌اند که اغلب به نتایج نگران‌کننده‌ای درباره نحوه تعامل مردم، به‌ویژه کودکان، با رایانه‌ها منجر می‌شود. اما این کتاب طوری می‌خواند که داری شیشه را می‌شکنی و زنگ آتش را می‌کشی. چرا شیفت؟ شری تورکل: مثل همه کتاب هایم، کنجکاو رفتم. اما پس از حدود 10 مصاحبه، که در طول همه گیری همه گیر انجام شد، دیگر حالت ذهنی من بی طرف نبود. این وحشتناک بود!

این افراد در طول همه‌گیری همه‌گیر هستند، خانواده‌هایشان رنج می‌برند، با آنها تماس می‌گیرند، و با من صحبت می‌کنند که واقعا چگونه می‌خواهند فقط با ربات چت خود ارتباط برقرار کنند. وقتی توانستم با مردم رو در رو مصاحبه کنم، خوشحال نبودم. مردم نمی خواهند در سیاست کاری انجام دهند زیرا آنها فقط می خواهند در سرزمین چت بات زندگی کنند. بنابراین قوس کتاب به این صورت ختم شد که - واقعیت به شما نیاز دارد.

زمان بدتری برای دست کشیدن از واقعیت نمی توانست باشد. شما می نویسید که رسانه های اجتماعی ما را برای این کار آماده کرده اند. رسانه های اجتماعی با عادت کردن ما به این ایده که اگر غمگین یا آبی هستید، رایانه خود را باز کنید، ما را نرم کردند. بعد تو را دیوانه کرد و تو را نزد همنوع خود نگه داشت. اما اکنون ما این فناوری جدید را داریم که دلیلی برای اول شخص بودن ندارد. آیا به نظر شما باید چت بات ها را از استفاده اول شخص منع کنیم؟ بله! پس از یک حرفه که اعتباری به عنوان دیوانه لودیت نداشتم، حال و حوصله این را ندارم که همه اینها را کنار بگذارم و بگویم همه ربات های چت همیشه سمی هستند.

اما این بسیار خطرناک است، یک شیب لغزنده. این اساسا برای اینکه بگوییم ما نیازی به پرداخت هزینه برای روان درمانی نداریم، می توانیم از چت بات ها استفاده کنیم استفاده می شود. در هر مصاحبه جدی که انجام می‌دهم، مردم به این افسانه درباره تمرین اشاره می‌کنند - اینکه شما از چت‌بات‌ها برای تمرین برای صحبت با رئیس، معشوق، و معلمتان استفاده می‌کنید. اما وقتی در سوپ گرم پذیرش کامل [از LLM ها] غسل می کنید، صحبت با ربات های چت به پایان بازی تبدیل می شود. شما همچنین با اتکا به ربات‌های چت در محل کار، و نفرت خاصی از عبارت «انسان در حلقه» مشکل دارید. وقتی از آن اصطلاح استفاده می کنند، به این معنی است که انسان تاک شده است

از فرآیند تولید خارج شده است و برای انجام نوعی کار پاکسازی، برای گرفتن توهمات یا چیزهایی که هوش مصنوعی نمی بیند، وجود دارد. این کار نمی کند، زیرا کارفرمایان فقط چند انسان در حلقه دارند. این افراد اساسا نمی توانند چیزی را تغییر دهند. آن‌ها تا حدودی وجود دارند تا هنگام دعوا، صدای خوبی به نظر برسند، و تا حدودی برای اینکه به مردم این حس نادرست را بدهند که این فرآیند به یک هوش مصنوعی واگذار نشده است.

اما به یک هوش مصنوعی واگذار شده است. شاید چت‌بات‌های قدرتمند شکل جدیدی از تعامل باشند که لزوما بدتر از مکالمه انسانی نیست، اما متفاوت است، زیرا افراد گزارش می‌دهند که از بازخورد مثبتی که ارائه می‌دهند، احساس تشویق و قدرت می‌کنند. هوش مصنوعی هرگز جایگزین مکالمه انسانی نخواهد شد. واقعا از مرگ نمی ترسد، از بیماری نمی ترسد، از درد نمی ترسد، بچه هایش را دوست ندارد، و برایش مهم نیست که خودت را بکشی یا شام درست کنی.

بنابراین اگر بچه هایمان را با آن بزرگ کنیم، یا صمیمی ترین گفتگوهایمان را با آن داشته باشیم، ارتباطمان را از دست خواهیم داد. با این حال، بسیاری از مردم کسی را ندارند که با او صحبت کنند. آنها احساس می کنند که صحبت با چت بات ها به آنها کمک می کند. اگر بحران تنهایی وجود دارد، به این دلیل است که ما یکدیگر را رها می کنیم. یک مرکز داده به من بدهید تا آن را به منابعی برای سالمندان تبدیل کنم. مطالعات نشان می دهد که اکثر مردم در مورد هوش مصنوعی شک دارند و واکنش های قابل توجهی نیز وجود داشته است. با این حال صدها میلیون نفر از آنها استفاده می کنند.

حتی افرادی که به مراکز داده فشار می آورند از چت بات ها استفاده می کنند. هدف این کتاب گسترش شرایط فشار بک است تا این ارتباط صمیمی‌تر را در بر گیرد. آیا واقعا احساس می کنید که صمیمیت فزاینده ما با هوش مصنوعی می تواند متوقف شود؟ به خاطر تمام این صحبت ها در مورد رویدادهای انقراض و در آغوش گرفتن چهره و ورود اشتباهی به خدمات دولتی استرالیا، اکنون نسبت به شش ماه پیش امید بیشتری دارم. من احساس می کنم که مردم مایل خواهند بود به هزینه های صمیمی و غیر صمیمی نگاه کنند.

این نسخه ای از خبرنامه Backchannel استیون لوی و لورن گود است. خبرنامه های قبلی را اینجا بخوانید.