هوش مصنوعی می تواند به ما کمک کند با مردگان صحبت کنیم. ما باید؟

اکنون امکان ایجاد چت ربات های هوش مصنوعی عزیزان برای تعامل با آنها پس از مرگ آنها وجود دارد. اما این سؤالات دشواری را ایجاد می کند، مانند: اگر چنین می کنید، این تجربه چگونه می تواند غم و اندوه شما را شکل دهد؟

این یکی از سوالاتی است که یک مطالعه جهانی در مورد «ددبات‌های مرده» دیجیتال را پیش می‌برد - مدل‌های هوش مصنوعی که بر روی پیام‌های متنی، پیام‌های صوتی و سایر داده‌های شخصی فرد متوفی آموزش دیده‌اند. از طریق این کار، محققان در حال بررسی این موضوع هستند که اکنون می‌توانیم از این فناوری نوظهور برای صحبت با شبیه‌سازی مردگان استفاده کنیم.

در آخرین اپیزود غیرقابل توضیح، من با برخی از این محققان صحبت کردم که در مورد تأثیرات بالقوه «آواتارهای پس از مرگ» بر افرادی که سوگوار هستند، بر میراث و حقوق متوفیان، و روی شیوه‌های سوگواری در سراسر جهان صحبت کردم. زیرا اگرچه ممکن است ربات‌های مرده ناآشنا به نظر برسند، انگیزه پشت آن‌ها عمیقا قابل ارتباط است. در مواقع از دست دادن، آیا این چیزی نیست که بسیاری از ما می خواهیم - ادامه گفتگو با افرادی که از دست داده ایم؟

من این حسرت را در زندگی خودم تجربه کرده ام. پس از مرگ دو تن از نزدیکترین دوستانم در همان زمان، تنها چیزی که من و خانواده آنها می خواستند این بود که با آنها صحبت کنم. من کتابی نوشتم، «سخنان دیگران»، درباره حفظ روابط با افرادی که از دست داده‌ایم، از طریق ادامه دادن به زبانی که آن‌ها به جا می‌گذارند. بنابراین وقتی در مورد ربات‌های مرده و صنعت زندگی پس از مرگ دیجیتالی شنیدم، می‌خواستم بفهمم که محققان در مورد نقش هوش مصنوعی در شکل‌دهی به مکالماتی که پس از مرگ ادامه می‌یابد، چه می‌آموزند.

یکی از این محققین Katarzyna Nowaczyk-Basińska، استادیار دانشگاه کمبریج است که بیش از یک دهه است در مورد "جاودانگی دیجیتال" مطالعه کرده است. از جمله سؤالاتی که او می پرسد این است: "چه کسی قادر است فراتر از مرگ ادامه دهد؟ به چه شکلی؟ از طریق کدام فناوری ها؟ تحت کنترل چه کسی؟"

Deadbots هنگام شام

تحقیق در مورد هوش مصنوعی با افراد مورد مطالعه که غمگین هستند مشکل است. و درخواست از آنها برای تعامل با نرم افزار جدید می تواند مضر باشد. بنابراین، در عوض، Nowaczyk-Basińska با یک دولای مرگ همکاری کرد و به سراسر جهان سفر کرد تا یک سری از گروه های کانونی را تشکیل دهد - در قالب شام های صمیمی - افرادی را با طیف وسیعی از تجربیات غمگین گرد هم آورد تا درباره زندگی، مرگ و ربات ها صحبت کنند.

او رویدادی را بازگو می کند که در آن با مادری در لهستان که پسرش اخیرا فوت کرده بود صحبت کرد. Nowaczyk-Basińska به من گفت: "یکی از اولین چیزهایی که او با ما در میان گذاشت این بود که احساس می کند آماده است تا پسر متوفی خود را به صورت دیجیتال زنده کند."

وقتی Nowaczyk-Basińska چیزی شبیه به این را می شنود، هدفش این است که گوش کند و در آغوش بگیرد که شخص از کجا آمده است. هدف از شام ها متقاعد کردن مردم به هر طریقی نیست، بلکه این است که بیاموزند چگونه مردم واقعا به آنچه هوش مصنوعی می تواند انجام دهد واکنش نشان می دهند و درک اینکه چگونه این ابزارها ممکن است با شیوه های غم و اندوه محلی هماهنگ شوند یا با آنها برخورد کنند.

او مکان‌های خاصی را برای این گردهمایی‌ها انتخاب کرد - چین، هند و لهستان - برای کمک به رفع شکاف‌های موجود در تحقیقات فناوری، که معمولا به چیزی که دانشمندان علوم رفتاری گاهی اوقات «عجیب» می‌گویند، مخفف «غربی، تحصیل‌کرده، صنعتی، ثروتمند و دموکرات» می‌گویند.

در پایان آن شام در لهستان، مادری که Nowaczyk-Basińska با آن صحبت می کرد، تصمیم بسیار متفاوتی در مورد ایجاد آواتار پس از مرگ پسرش گرفت. Nowaczyk-Basińska می گوید: "او متوجه شد که ممکن است مفید باشد، اما در عین حال می تواند بار اضافی را نیز اضافه کند ... و این پسر او نیست." "او متوجه شد که این فناوری‌ها بخشی از بازار تجاری بسیار بسیار بزرگ هستند. و هدف اصلی این بازار حفظ بهتر، دلبستگی بهتر، مکانیسم‌های بهتر برای کسب درآمد است. بنابراین "مراقبت" نیست."

انصافا، غم و اندوه همیشه یک تجارت بوده است و مردم برای همیشه از آن درآمد کسب کرده اند. شرکت‌ها سعی می‌کنند سنگ قبرهای شیک یا تابوت‌های با روکش طلا را به شما بفروشند. اما هوش مصنوعی این پتانسیل را دارد که اساسا رابطه ما با ضرر را دوباره مهندسی کند. در سال 2024، "صنعت میراث دیجیتال" 22 میلیارد دلار ارزش گذاری شد و انتظار می رود تا سال 2034 به 80 میلیارد دلار افزایش یابد. این تعداد پلتفرم های جدید ربات های مرده را با فناوری غم و اندوه بسیار پرکاربردتر و جاافتاده تر، مانند یادبودهای آنلاین، منابع مشاوره، و ابزارهای برنامه ریزی املاک و مستغلات وارد می کند.

اما ردیابی استفاده از ربات‌های مرده سخت است زیرا در واقع به ابزار خاصی برای ایجاد دوبل دیجیتالی متوفی نیاز ندارید - اگرچه برنامه‌های اختصاصی از قبل وجود دارند. در این مرحله، می‌توانید اعلان‌های ساده را به یک چت ربات هوش مصنوعی همه‌منظوره وارد کنید و در عرض چند دقیقه با شبیه‌سازی عزیز از دست رفته خود تعامل برقرار کنید.

من این را می دانم زیرا با دوستم کریستین که 11 سال پیش درگذشت آن را امتحان کردم. و ذهنم با سوالات روشن شد. آیا کل این تمرین نقض بود، زیرا می دانم کریستین از فناوری متنفر بود؟ کدام نسخه از او را باید زنده کنم - معلم انگلیسی، فعال، دوست - صدای قبل یا بعد از اینکه او شروع به تجربه زوال عقل اولیه خود کرد؟

سوالات اخلاقی مطرح شده توسط ربات‌های مرده بسیار سخت هستند. و این یکی از دلایلی است که Nowaczyk-Basińska، زمانی که مشغول طراحی مطالعه خود در مورد جاودانگی دیجیتال بود، از همکار خود در کمبریج دعوت کرد تا به تحقیقات او بپیوندد، کسی که بر اخلاق هوش مصنوعی تمرکز دارد.

چگونه یک Deadbot طراحی کنیم

Tomasz Hollanek یک طراح انتقادی و اخلاق شناس هوش مصنوعی است و او اغلب از روشی به نام "طراحی گمانه زنی" استفاده می کند. در این رویکرد، محققان سناریوهای فرضی را بر اساس روندهای فناوری موجود و با تکیه بر ویژگی‌های خاص ارائه می‌کنند. ایده این است که مردم به این فکر کنند که وقتی ابزارهایی مانند اینها در دنیای واقعی منتشر می شوند چه اتفاقی می افتد. و سپس از این داده های کیفی برای اطلاع رسانی به طرح های آینده و چارچوب های اخلاقی استفاده می کنند.

Nowaczyk-Basińska و Hollanek با همکاری یکدیگر یک سری نمونه های اولیه برای برنامه های deadbot ارائه کردند که برای آشکار کردن برخی از مشکلات مطرح شده توسط این فناوری طراحی شده است.

برای اولین سناریو، آنها شخصیتی به نام بیانکا را اختراع کردند که اپلیکیشنی به نام Manana را پیدا می کند، که "قول می دهد پدربزرگ و مادربزرگ شما را زنده کند تا بتوانید برای همیشه نوه مورد علاقه خود باشید." بنابراین او پیام‌ها، پیام‌های صوتی مادربزرگش را آپلود می‌کند. و سپس می‌تواند با نسخه دیجیتالی بسیار خوب مادربزرگش تعامل داشته باشد، تا زمانی که دوره آزمایشی پریمیوم او تمام شود - و مادربزرگ شروع به تبلیغ محصولات خاص برای او کند.

هالانک ​​می‌گوید بیانکا «می‌فهمد که ممکن است با آپلود کردن این پیام‌های خصوصی در سرور شخص ثالثی که اکنون از تصویر مادربزرگش برای فروش محصولات خاص استفاده می‌کند، کار اشتباهی انجام داده است». او می‌گوید که این موضوع مسائل مربوط به «حیثیت و حریم خصوصی پس از مرگ... آنچه را که «اهداکنندگان داده» می‌نامیم، که از داده‌های آنها می‌توان اساسا برای تأمین انرژی یک ربات مرده استفاده کرد، مطرح می‌کند.

این سناریو نشان می‌دهد که «مرگ با عزت» می‌تواند به زودی مستلزم ارج نهادن به این باشد که مردم چگونه می‌خواهند بمیرند، بلکه همچنین چگونه می‌خواهند به‌عنوان شبیه‌سازی‌های خود سابقشان درنگ کنند - یا اصلا می‌خواهند درنگ کنند. حتی ممکن است به معنای افزودن زبان جدید برای پیشبرد دستورالعمل ها، بیان خواسته های مردم برای بقایای دیجیتالی آنها باشد.

سناریوی دوم در تحقیقات طراحی نظری حول یک سرویس خیالی به نام Paren’t ساخته شده است، که پیشنهاد می کند حضور پس از مرگ والدین با هوش مصنوعی برای فرزندشان حفظ شود. هولانک می‌گوید در این مورد، هولانک یک مادر مبتلا به بیماری لاعلاج را توصیف می‌کند که ثبت‌نام می‌کند «تا بتواند نوعی حضور فعال در زندگی آینده [پسرش] حفظ کند». او در نهایت می میرد و پدر به پسر اجازه می دهد تا با ربات مرده مادرش ارتباط برقرار کند.

هالانک ​​می‌گوید اخلاق در این سناریو به‌ویژه چالش‌برانگیز است، زیرا کودکانی را دربرمی‌گیرد که «در درک مرگ به‌ویژه زمان سختی دارند و بنابراین می‌تواند منجر به سردرگمی و ناراحتی بالقوه شود». او می‌گوید که بررسی این نوع محصول نشان می‌دهد که چگونه گروه‌های خاص، مانند خردسالان، می‌توانند از دسترسی نامحدود به فناوری مانند این آسیب ببینند.

و پرونده های قضایی وجود دارد که این آسیب را جبران می کند. در سال 2024، دوست دختر چت بات یک پسر 14 ساله از او التماس کرد که "لطفا هر چه زودتر به خانه من بیا، عشق من." و او پاسخ داد: "اگر به شما بگویم که می توانم همین الان به خانه بیایم چه؟" سپس خود را کشت.

Nowaczyk-Basińska می تواند نسخه ای از این سناریو را تصور کند که مادر هوش مصنوعی در نمونه اولیه Paren’t درگیر است.

و سپس سناریوی سوم وجود دارد که شامل برنامه ای به نام Stay است که نگرانی ظریف تری را ایجاد می کند.

همانطور که هولانک توضیح می‌دهد: «مرد مسن‌تری که می‌داند به مرگ نزدیک می‌شود، تصمیم می‌گیرد تا یک کلون دیجیتالی از خود برای فرزندان بزرگسالش ایجاد کند تا پس از مرگش به کار گرفته شود و چند سال پیش پرداخت کند.» یکی از بچه‌ها مجذوب این ایده شده است، اما یکی دیگر «عمیقا مضطرب و کمی منزجر است». "و بنابراین این [تبدیل به] یک سوال رضایت متقابل می شود، به عبارت دیگر، این واقعیت که هر دو طرف باید از این که چگونه رابطه ممکن است به این شیوه بسیار عجیب و غریب و خاص ادامه یابد، خوشحال باشند."

وقتی یک روح دیجیتال از بین می رود

در هر سه سناریو، یک سوال اساسی که محققان با آن دست و پنجه نرم می‌کنند این است که چگونه افراد از آواتارهای پس از مرگ جدا می‌شوند - آیا کاربران این جداسازی را آغاز می‌کنند یا مثلا توسط شرکتی که از کار خارج می‌شود به آنها تحمیل می‌شود. هولانک به من می‌گوید که این در حال حاضر به‌عنوان نوعی «از دست دادن دوم» مورد بررسی قرار گرفته است.

چه مدت باید تلاش کنیم تا از ماندگاری کپی های دیجیتال اطمینان حاصل کنیم: پنج سال، 10، 50؟ و زمانی که آنها به تکامل خود ادامه می دهند، اما همکار متوفی آنها این کار را نمی کند، زندگی باید چگونه روابط را پردازش کند؟

برای بررسی این نوع سؤالات، Nowaczyk-Basińska و Hollanek شام تحقیقاتی را که برای افراد عادی برگزار کردند، با مجموعه دوم گروه های متمرکز تکمیل کردند. اینها برای استفاده از بینش متخصصان در زمینه فناوری و غم و اندوه طراحی شده اند.

برخی از یافته های این مطالعه برای هر مکانی که آنها بازدید کرده اند خاص است. مانند تنش در لهستان بین فناوری و نقش کلیسای کاتولیک. یا در چین، جایی که محققان با فیلسوفان دائوئیست که مشتاق وعده نوعی جاودانگی بودند و سپس فیلسوفان بودایی که نگران بودند ما را رها کنیم صحبت کردند.

محققان خواستار مقررات و پادمان‌هایی در سطح سیاست هستند. و متخصصان جدیدی که می‌توانند از استفاده اخلاقی از هوش مصنوعی در غم و اندوه پشتیبانی کنند - مانند شاید در محیط‌های بالینی، تا با دقت آخرین خداحافظی را در شرایطی که در زندگی واقعی اتفاق نمی‌افتد، تسهیل کنند.

برخی از محققین همکار آنها تا آنجا پیش می روند که استدلال می کنند که ربات های مرده فقط باید با نظارت روانشناختی در دسترس باشند تا اطمینان حاصل شود که بهترین شیوه ها وجود دارد و خطر آسیب را به حداقل می رساند. حتی یک سوال آشکار وجود دارد که برای عوامل هوش مصنوعی که مردم به آنها قدرت داده اند تا از طرف آنها عمل کنند، چه اتفاقی می افتد، زیرا انسان های آنها شروع به مرگ می کنند.

هولانک می‌گوید در تمام سایت‌های تحقیقاتی در مطالعه جاودانگی دیجیتال، یک چیز این است که «مردم در کشورهای مختلف واقعا با این ایده همسو هستند [این است] این ایده که چیزی عمیقا مشکل‌ساز در مورد این نوع خاص از فناوری وجود دارد که توسط یک نهاد تجاری به تنهایی بدون هیچ گونه وظیفه صریح مراقبت نسبت به مشتریانش توسعه می‌یابد.»

و البته، پیامدهای تحقیقات جاودانگی دیجیتال فراتر از ضرر شخصی است. به عنوان مثال، جان بخشیدن به شخصیت های تاریخی چگونه است؟ می‌توانید کابوس حاکمان سیاسی را تصور کنید که «برای همیشه زنده‌اند». اما این پتانسیل نیز وجود دارد که داستان‌ها را از بازماندگان درگیری‌ها زنده نگه دارد، کسانی که در غیر این صورت می‌میرند و درس‌هایی را که نسل‌های آینده می‌توانند از آن‌ها بیاموزند، با خود ببرند. اینها تنها برخی از مسائل پیچیده ای هستند که با توجه به زندگی و مرگ بیشتر ما با هوش مصنوعی ظاهر می شوند.

تا آنجا که آزمایش خودم در مورد «بازآفرینی» یکی از عزیزان متوفی، از یک نسخه چت بات از دوستم کریستین پرسیدم که چه احساسی نسبت به این واقعیت دارد که من در مورد او در کتابم نوشته‌ام. هوش مصنوعی با یک سوال لفاظی پاسخ داد: "آیا بدم می آید که غریبه ها اکنون داستان من را بدانند؟ بله. و نه. چیزهایی وجود دارد که ترجیح می دهم مال خودمان بمانم."

پس از چند پاراگراف تبادل را به پایان رساندم. زیرا به نظر می رسد که ربات دقیقا یک چیز را در مورد یک رابطه بسیار انسانی درست درک کرده است. چیزهایی هست که من هم ترجیح می دهم فقط برای خودمان بمانم. گفتگوی من با کریستین در خاطرات و تخیل من ادامه دارد. و این تعامل با یک شخصیت هوش مصنوعی مانند هدیه دادن چیزی ارزشمند بود.