دولت استرالیا لایحه Digital Duty of Care را برای تنظیم چت ربات های هوش مصنوعی معرفی می کند

دولت استرالیا لایحه ای را برای ممنوعیت چت بات هایی که "صمیمیت عاطفی" با کاربران ایجاد می کنند، صادر کرده است

این لایحه همچنین برای تغییر شکل استانداردهای آنلاین گسترده تر برای محافظت از کاربران در برابر محتوای مضر طراحی شده است

این در حالی است که انجمن روانشناسی آمریکا گزارش می دهد که 49٪ از بزرگسالان با هوش مصنوعی به گونه ای صحبت می کنند که گویی یک دوست هستند. پس از سخنرانی نخست وزیر آنتونی آلبانیز در 27 اکتبر، دولت استرالیا لایحه ای را صادر کرد که ربات های چت هوش مصنوعی را که به دنبال ایجاد "صمیمیت عاطفی" با کاربران خود هستند، ممنوع می کند.

حزب کارگر می‌گوید لایحه Digital Duty of Care که در 28 اکتبر توسط مجلس نمایندگان تصویب شد، می‌تواند تدابیر ایمنی آنلاین جدیدی را ایجاد کند که در رسانه‌های اجتماعی، بازی‌ها، برنامه‌ها و ربات‌های چت «برای ایجاد یک محیط آنلاین امن برای همه استرالیایی‌ها» اعمال شود. به گزارش گاردین، این لایحه قرار است در هفته های آینده در سنا مورد بحث قرار گیرد و امیدواریم تا پایان سال به طور رسمی تصویب شود.

این چارچوب نه تنها برای جلوگیری از نفوذ ربات‌های چت هوش مصنوعی به وابستگی عاطفی کاربران جوان طراحی شده است، این لایحه جایگزین استانداردهای آنلاین و گسترده‌تر موجود برای محافظت از کاربران در برابر محتوای مضر خواهد شد. در سال 2025، استرالیا با تبدیل شدن به اولین کشوری که رسانه های اجتماعی را برای افراد زیر 16 سال ممنوع کرد، تاریخ ساز شد.

به گفته وزیر ارتباطات، آنیکا ولز، محتوایی که زن‌ستیز، تروریسم، خودکشی، آسیب‌رسانی به خود و اختلالات خوردن را تشویق می‌کند نیز شامل خواهد شد. در عین حال، این لایحه همچنین پلتفرم‌های رسانه‌های اجتماعی را ملزم می‌کند که دارای ویژگی «انصراف» با دسترسی آسان برای محتوای پیشنهادی که توسط الگوریتم تامین می‌شود، داشته باشند.

اگرچه این لایحه قبل از اتخاذ تصمیم نهایی در مجلس علیا مورد بحث قرار خواهد گرفت، اما هنوز مشخص نیست که آیا حمایت احزاب دیگر را جلب خواهد کرد یا خیر. همانطور که وجود دارد، سبزها به حمایت از پیشنهاد حزب کارگر ادامه می‌دهند، در حالی که ائتلاف و یک ملت با مخالفت خود با این لایحه مخالفت می‌کنند و حزب کارگر را به تشکیل «سیستم سانسور اورولی» متهم می‌کنند.

علیرغم این واکنش شدید، حزب کارگر مصمم است آنها را در غیر این صورت متقاعد کند و می‌گوید که هنوز برای اصلاحات باز است. در سخنرانی خود در روز سه شنبه، آلبانیز خطاب به ائتلاف در تلاش برای تحت تاثیر قرار دادن رای آنها گفت: "داستان هایی که در مورد افرادی که یک چت بات، یک فرد غیرشخصی را به عنوان بهترین دوست خود می شناسند، می شنویم، باید زنگ خطری بزرگ برای هر عضو این مجلس باشد تا آماده اقدام باشد".

علاوه بر این چالش‌ها، حزب کارگر تحت فشار فزاینده‌ای قرار گرفته است تا از بازرس مخابرات به عنوان دیده‌بان رسانه‌های اجتماعی و هوش مصنوعی (که برای فناوری‌های بزرگ وجود ندارد) استفاده کند، پس از اینکه حزب اصلاحیه‌ای را در جریان مناظره مجلس سفلی رد کرد. این به کاربران رسانه‌های اجتماعی اجازه می‌دهد تا در صورت هک شدن یا غیرقابل دسترس بودن حساب‌هایشان شکایت کنند، و همچنین شامل غرامت می‌شود و فضا را برای بررسی مسائل گسترده‌تر برای نام بردن و شرمساری غول‌های فناوری باز می‌کند.

تجزیه و تحلیل: وابستگی به چت بات بدتر می شود

(اعتبار تصویر: گتی ایماژ) حزب کارگر مطمئنا بحث سختی در پیش دارد، اما علیرغم انتقادات لایحه پیشنهادی، تصمیم دولت استرالیا برای تشدید اقدامات ایمنی آنلاین از هیچ جایی حاصل نشده است - و این اولین کشوری نیست که چت بات‌ها را به این شکل تحت فشار قرار می‌دهد.

تنها چند ماه پیش، اداره فضای مجازی چین (CAC) و چهار بخش دولتی دیگر مقررات جدیدی را برای ممنوع کردن همراهان عاشقانه تولید شده توسط هوش مصنوعی، از جمله روابط مجازی با خردسالان، معرفی کردند. قوانین بیان می‌کردند که این ابزارهای هوش مصنوعی دیگر نمی‌توانند «به‌شدت به کاربران پاسخ دهند، وابستگی عاطفی یا اعتیاد ایجاد کنند و به روابط بین فردی واقعی کاربران آسیب برسانند».

پس از انتشار این قانون، چت‌بات‌های همراه از شرکت‌های فناوری مانند ByteDance، Tencent و Alibaba قبل از اینکه دوباره در دسترس عموم قرار گیرند، مجبور به ارزیابی شدند. اگر دولت این خدمات را ناامن می دانست، آنها را تعطیل می کرد.

با در نظر گرفتن این موضوع، اقدامات اخیر چین و استرالیا منعکس کننده افزایش نگران کننده وابستگی کاربر به چت بات است. بر اساس نظرسنجی اخیر انجمن روانشناسی آمریکا (APA) که توسط مدیکال دیلی گزارش شده است، آمریکایی ها برای حمایت عاطفی به هوش مصنوعی روی می آورند زیرا با فشار مالی دست و پنجه نرم می کنند و در مورد آینده نامطمئن می مانند.

نتایج این نظرسنجی نشان می‌دهد که 49 درصد از بزرگسالانی که از هوش مصنوعی استفاده می‌کنند، گفته‌اند که با آن به عنوان یک دوست صحبت کرده‌اند، و 47 درصد از آن به‌گونه‌ای استفاده کرده‌اند که گویی یک متخصص سلامت روان است، از جمله به دنبال نظر دوم درباره پیشنهادات یک درمانگر یا برای اقدامات درمانی. علاوه بر این، ۷۷ درصد از ۳۱۳۲ پاسخ‌دهنده این نظرسنجی تشخیص دادند که افزایش هزینه‌های زندگی یکی از بزرگ‌ترین دلایل استرس است و ۷۴ درصد نگرانی‌های خود را در مورد آینده کشور ذکر کردند.

با این حال، درخواست مشاوره از یک ربات چت هوش مصنوعی چیزی است که مدیکال دیلی به طور جدی آن را محکوم می کند. «سیستم‌های هوش مصنوعی می‌توانند اطلاعات نادرست ارائه دهند، زمینه‌های مهم را از دست بدهند یا به فردی که در مضیقه است پاسخ نامناسبی بدهند. این رسانه می نویسد، کاربران همچنین ممکن است اطلاعات شخصی حساس را بدون درک کامل نحوه ذخیره یا استفاده از مکالمات یک سرویس خاص به اشتراک بگذارند.

همچنین موارد زیر را اضافه کرد: «افرادی که از چت‌بات‌ها برای حمایت عاطفی استفاده می‌کنند، باید پاسخ‌ها را به‌عنوان کمک کلی تلقی کنند، نه یک تشخیص یا طرح درمانی. آنها باید در صورت تداوم علائم، بدتر شدن یا تداخل در زندگی روزمره، از تکیه بر هوش مصنوعی به تنهایی خودداری کنند و باید در مورد نگرانی های مهم سلامت روان با یک متخصص بهداشت واجد شرایط صحبت کنند.

دولت استرالیا با محدود کردن مقررات مربوط به ربات‌های چت، آگاهی خود را از افزایش اتکا به خدمات هوش مصنوعی نشان داده است و به وضوح می‌خواهد قبل از برگشت‌ناپذیر شدن این موضوع از این امر جلوگیری کند. با این حال، حزب کارگر هنوز با چالش متقاعد کردن مخالفان روبرو است که این لایحه بهترین روش برای ملت است.