چارچوب نشان میدهد که همراهان هوش مصنوعی ممکن است مهارتهای اجتماعی را در میان کاربران منزوی از بین ببرند
همانطور که همراهان هوش مصنوعی رایج تر می شوند، تحقیقات جدید از دانشگاه مدیریت سنگاپور (SMU) و دانشکده پزشکی Duke-NUS استدلال می کند که سوال واقعی دیگر این نیست که آیا این فناوری ها مفید یا مضر هستند، بلکه سوال اصلی این است که چه کسی سود می برد، چه کسی بیشتر در معرض خطر است و چگونه جامعه می تواند اطمینان حاصل کند که هوش مصنوعی به همه به طور عادلانه خدمت می کند.
ویرایش شده توسط Swati Mestri، بررسی توسط Robert Egan
این مقاله با توجه به روند و سیاستهای ویرایشی Science X بررسی شده است. ویراستاران ضمن اطمینان از اعتبار محتوا، ویژگی های زیر را برجسته کرده اند:
همانطور که همراهان هوش مصنوعی رایج تر می شوند، تحقیقات جدید از دانشگاه مدیریت سنگاپور (SMU) و دانشکده پزشکی Duke-NUS استدلال می کند که سوال واقعی دیگر این نیست که آیا این فناوری ها مفید یا مضر هستند، بلکه سوال اصلی این است که چه کسی سود می برد، چه کسی بیشتر در معرض خطر است و چگونه جامعه می تواند اطمینان حاصل کند که هوش مصنوعی به همه به طور عادلانه خدمت می کند.
این مقاله که اخیرا در Nature Human Behavior منتشر شد، با عنوان «همراهان هوش مصنوعی چگونه میتوانند نابرابری اجتماعی را عمیقتر کنند»، چارچوب جدیدی را برای درک اینکه چگونه همراهان هوش مصنوعی ممکن است نابرابریهای اجتماعی موجود را شکل دهند، معرفی کرد.
این مطالعه توسط نویسنده اول، ژانگ کیانگ، استادیار در تحلیل یادگیری در کالج مطالعات یکپارچه SMU انجام شد. ژانگ رنون، استادیار نانیانگ از دانشکده ارتباطات و اطلاعات وی کیم وی در دانشگاه فناوری نانیانگ؛ و نویسنده ارشد لیو نان، دانشیار مرکز علوم داده های زیست پزشکی در دانشکده پزشکی Duke-NUS.
بهجای مشاهده همراهان هوش مصنوعی از طریق یک لنز ساده «خوب یا بد»، محققان بررسی کردند که چگونه تفاوتها در حمایت اجتماعی، طراحی فناوری و مدیریت کاربران میتواند منجر به نتایج نابرابر شود. آنها همچنین توصیه های عملی را برای کمک به سیاست گذاران، توسعه دهندگان فناوری و کاربران در به حداکثر رساندن مزایای فناوری و در عین حال کاهش خطرات آن تشریح کردند.
ژانگ کیانگ گفت: "بحث پیرامون همراهان هوش مصنوعی تا حد زیادی بر روی مفید یا مضر بودن این فناوری متمرکز شده است. تحقیقات ما نشان می دهد که این سوال اشتباه است." "سوال مهمتر این است که چه کسی سود می برد، چه کسی خطرات را متحمل می شود، و چرا این نتایج به طور نابرابر توزیع می شوند. بدون تدابیر عمدی، همراهان هوش مصنوعی خطر تقویت نابرابری های اجتماعی موجود را دارند و کسانی را که بیشتر به حمایت انسانی نیاز دارند، در معرض آسیب قرار می دهند."
این مطالعه چارچوب جدیدی را برای درک اینکه چگونه همراهان هوش مصنوعی ممکن است نابرابری های موجود را در سه بعد به هم پیوسته تقویت کنند، معرفی کرد: کاربران، طراحی پلت فرم و حاکمیت. بهجای مشاهده ریسکها بهصورت مجزا، این چارچوب نشان داد که چگونه این عوامل برای شکلدهی به نتایج نابرابر تعامل دارند و مداخلات عملی را در هر سطح پیشنهاد کرد.
این مطالعه یک بینش کلیدی را آشکار کرد: پویایی «ثروتمند-ثروتمندتر» در روابط انسانی. افرادی که دارای پیوندهای خانوادگی و شبکه های اجتماعی قوی هستند، احتمالا از همراهان هوش مصنوعی برای تکمیل روابط موجود، مانند تمرین مکالمات دشوار یا مدیریت استرس استفاده می کنند.
در مقابل، کسانی که تنها، از نظر اجتماعی منزوی هستند یا دسترسی محدودی به حمایت از سلامت روان دارند، به احتمال زیاد به همراهان هوش مصنوعی به عنوان جایگزینی برای ارتباط انسانی متکی هستند. با گذشت زمان، این اتکا ممکن است به مهارت زدایی اجتماعی کمک کند - فرسایش تدریجی مهارتهای بین فردی از طریق کاهش فرصتها برای تمرین تعامل انسانی اصیل.
برای توضیح چگونگی ظهور این نابرابری ها، این مطالعه مدل پنیر سوئیسی را اقتباس کرد، چارچوبی که به طور گسترده در علوم مهندسی و ایمنی استفاده می شود تا توضیح دهد که چگونه چندین شکست کوچک برای ایجاد خطرات سیستمی بزرگ تر همسو می شوند.
به جای اینکه همراهی با هوش مصنوعی را به عنوان یک مشکل ناشی از هر عامل واحد در نظر بگیریم، این مطالعه استدلال کرد که آسیب زمانی رخ می دهد که چندین لایه محافظ به طور همزمان از کار بیفتند. اینها شامل سواد هوش مصنوعی کاربران، شبکههای پشتیبانی اجتماعی، انتخابهای طراحی پلتفرم و نظارت نظارتی میشد.
هر لایه دارای نقاط ضعف یا "سوراخ" بود. هنگامی که این نقاط ضعف همسو شدند، کاربران آسیب پذیر به طور قابل توجهی بیشتر در معرض پیامدهای مضر قرار گرفتند.
با توجه به این مطالعه، این دیدگاه سیستم نشان دهنده تغییر قابل توجهی از رویکردهای موجود است که تمایل دارند بر روی کاربران فردی، شرکت های فناوری یا مقررات به صورت جداگانه تمرکز کنند.
در میان چهار لایه محافظ مورد بررسی، این مطالعه حکمرانی را به عنوان مهمترین نگرانی شناسایی کرد.
با وجود استفاده فزاینده برای حمایت عاطفی و رفاه ذهنی، همراهان هوش مصنوعی در حال حاضر یک منطقه خاکستری نظارتی در بسیاری از کشورها را اشغال می کنند. بیشتر آنها بهعنوان برنامههای کاربردی مصرفکننده کنترل میشوند تا فناوریهایی که اثرات بالقوه روانی اجتماعی یا سلامت روانی دارند.
بر اساس این مطالعه، شناسایی همراهان هوش مصنوعی به عنوان فناوریهای مرتبط با سلامت میتواند محافظتهای قویتری از جمله الزامات طراحی متناسب با سن را باز کند. افشای شفاف که کاربران در حال تعامل با هوش مصنوعی هستند. محدودیت در ویژگی های تعامل عاطفی دستکاری. حاکمیت داده ها و استانداردهای حفظ حریم خصوصی واضح تر؛ و پروتکل های اجباری واکنش به بحران برای کاربرانی که آسیب به خود یا سایر موقعیت های پرخطر را افشا می کنند.
ژانگ چیانگ همچنین در حال توسعه یک داشبورد سیاست جهانی است که چارچوب های حکومتی کشورها را برای فناوری های سلامت روان هوش مصنوعی ردیابی می کند. یافتههای اولیه نشان میدهد که بسیاری از حوزههای قضایی هنوز سیاستها یا دستورالعملهای اختصاصی را برای همراهان هوش مصنوعی ایجاد نکردهاند.
این مطالعه سنگاپور را به عنوان موقعیتی خاص و منحصر به فرد در معرض افزایش سریع همراهی با هوش مصنوعی برجسته کرد.
زیرساخت دیجیتال پیشرفته سنگاپور، قابلیت های قوی سیاست گذاری و سابقه حکمرانی فناوری فعال، این کشور را به رهبری بین المللی در توسعه پادمان های مسئولانه تبدیل می کند.
در عین حال، پذیرش زیاد گوشیهای هوشمند، استفاده گسترده از هوش مصنوعی، جمعیت سالخورده، تعداد فزاینده سالمندانی که به تنهایی زندگی میکنند و افزایش نگرانیها در مورد سلامت روانی و تنهایی جوانان، شرایطی را ایجاد میکند که احتمالا همراهان هوش مصنوعی بهسرعت بهویژه در میان گروههای آسیبپذیر پذیرفته میشوند.
"تکامل سریع همراهان هوش مصنوعی فرصتی برای شکل دادن به نقش آنها در جامعه است قبل از اینکه پذیرش گسترده از حاکمیت پیشی بگیرد. به ویژه جوانان ممکن است برای تشخیص محدودیت ها یا انگیزه های تجاری در پشت این سیستم ها کمتر مجهز باشند، که حفاظت های متفکرانه را به ویژه مهم می کند. امیدواریم این تحقیق به جای تقویت نظرات هوش مصنوعی در حمایت از رفاه انسان، به گفتگوی گسترده تر کمک کند." لیو همچنین مدیر ابتکار AI + علوم پزشکی Duke-NUS (DAISI) است.
این مطالعه بر اساس چارچوب خود، اقدامات عملی را برای کمک به اطمینان از اینکه همراهان هوش مصنوعی به جای از بین بردن رفاه اجتماعی، بهبود میبخشند، تشریح کرد:
به جای اینکه آنها را صرفا به عنوان برنامه های مصرف کننده یا سرگرمی تنظیم کنند، محققان استدلال می کنند که همراهان هوش مصنوعی چارچوب های حاکمیتی متناسب با تأثیر بالقوه آنها بر رفاه عاطفی کاربران را تضمین می کنند. چنین رویکردی میتواند از استانداردهای طراحی متناسب با سن، افشای واضحتر مبنی بر تعامل کاربران با هوش مصنوعی، حفاظت از حریم خصوصی قویتر و پروتکلهای سازگار پاسخ به بحران پشتیبانی کند.
این مطالعه استدلال میکند که هیچ مداخلهای نمیتواند به اندازه کافی خطرات مرتبط با همراهی هوش مصنوعی را برطرف کند. در عوض، سیاستگذاران باید مقررات را با تلاش برای تقویت سواد هوش مصنوعی ترکیب کنند، طراحی پلتفرم مسئولانه را تشویق کنند و از ارتباط اجتماعی در دنیای واقعی حمایت کنند، و این احتمال را کاهش دهند که کاربران آسیبپذیر برای حمایت عاطفی بیش از حد به هوش مصنوعی وابسته شوند.
ژانگ کیانگ گفت: "تأثیر آینده همراهان هوش مصنوعی کمتر به خود فناوری بستگی خواهد داشت تا به نحوه انتخاب جامعه برای طراحی، حکومت و استفاده از آن. با ترکیب مقررات متفکرانه، طراحی محصول مسئولانه و سواد هوش مصنوعی عمومی قوی تر، همراهان هوش مصنوعی می توانند روابط انسانی را تکمیل کنند و در عین حال خطر تشدید نابرابری های اجتماعی موجود را کاهش دهند."
چیانگ ژانگ و همکاران، چگونه همراهان هوش مصنوعی می توانند نابرابری اجتماعی را عمیق تر کنند، رفتار انسانی طبیعت (2026). DOI: 10.1038/s41562-026-02538-w
سواتی مستری دارای مدرک لیسانس در مهندسی الکترونیک است و از سال 2019 به عنوان ویرایشگر محتوا کار کرده است. او ویرایش اسناد تحقیقاتی در زمینه فناوری، مراقبت های بهداشتی و علم مواد را تجربه کرده است و علاقه خاصی به فناوری و فضا دارد. نمایه کامل →
لیسانس زیست شناسی ریاضی، کارشناسی ارشد در نوشتن خلاق. خوش سفر با دیدگاه های منحصر به فرد در علم و زبان. نمایه کامل →
متن اصلی (انگلیسی)
AI companions may erode social skills among isolated users, framework suggests
As AI companions become more commonplace, new research from Singapore Management University (SMU) and Duke-NUS Medical School argues that the real question is no longer whether these technologies are beneficial or harmful, but who benefits, who is most at risk and how society can ensure AI serves everyone equitably.