اتحادیه اروپا می خواهد بچه ها و چت ربات های آنها را از هم جدا کند

اتحادیه اروپا قصد دارد ربات‌های چت را از شبیه‌سازی احساسات یا روابط بین فردی در تعامل با افراد زیر 18 سال منع کند زیرا این اتحادیه تلاش می‌کند کودکان را از ایجاد وابستگی عاطفی به این فناوری باز دارد. این قوانین بخشی از قانون اتحادیه اروپا برای کودکان خواهد بود که در روز پنجشنبه پیشنهاد شد، که شامل محدودیت‌های مشابهی برای دسترسی خردسالان به رسانه‌های اجتماعی و پلت‌فرم‌های اشتراک‌گذاری ویدئو می‌شود.

طبق پیش‌نویس قانونی که توسط WIRED دیده شده است، دسترسی کودکان زیر 13 سال به ربات‌های چت بدون نظارت قیم منع خواهد شد و پلتفرم‌های دیجیتال باید در محصولات خود محافظ‌های ایمنی کودکان را ایجاد کنند یا با جریمه‌ای تا 6 درصد از کل گردش مالی در سراسر جهان مواجه خواهند شد. ربات‌های چت فعال در اتحادیه اروپا همچنین مجاز به حفظ حافظه تعاملات بین مکالمات جداگانه تحت قوانین جدید نخواهند بود، زیرا کمیسیون نگران است که این امر می‌تواند منجر به جمع‌آوری داده‌های حساس افراد زیر سن قانونی در طول زمان شود و به طور بالقوه الگوهای تعامل مضر را تقویت کند. ارائه دهنده

همچنین قانون پیشنهادی تصریح می‌کند که سایت‌های شبکه‌های اجتماعی آنلاین، پلتفرم‌های اشتراک‌گذاری ویدیو و بازی‌ها نباید به‌طور خودکار استفاده از چت ربات‌های هوش مصنوعی را در خدمات خود فعال یا تشویق کنند. می‌گوید، این شامل عدم پین کردن همراهان هوش مصنوعی و چت ربات‌های مکالمه عمومی در بالای فهرست مخاطبین خردسال است، همانطور که اسنپ چت انجام داده است. این پیشنهاد محدود به همراهان هوش مصنوعی و چت ربات‌های مکالمه عمومی است که توسط کمیسیون دیده می‌شود تا خطرات جدی برای سلامت، ایمنی و رفاه خردسالان ایجاد کند.

سیمئون دی بروور، مشاور سیاست در گروه مدافع حقوق دیجیتال اروپایی مستقر در بروکسل، از اقدامات چت بات استقبال می کند، اما به WIRED می گوید: «معنا نیست که آنها را فقط به جوانان محدود کنیم.» آیا همه ما سزاوار این نیستیم که از هوش مصنوعی‌هایی که برای اعتیادآور بودن طراحی شده‌اند، از هوش مصنوعی‌هایی که وابستگی‌های عاطفی ایجاد می‌کنند، یا از ویژگی‌های هوش مصنوعی که به‌طور پیش‌فرض به کاربران فعال می‌شوند محافظت می‌شویم؟» اتحادیه اروپا می‌گوید قانون عدالت دیجیتالی که قرار است در اواخر امسال رونمایی شود، انتظار می‌رود که طرح‌های اعتیادآور را به‌طور گسترده‌تری پیشنهاد کند. در اسناد مشاهده شده توسط WIRED، کمیسیون اروپا می گوید

این نگران است که وابستگی به چت بات‌ها ممکن است بر رشد کودک و روابط آن با سایر انسان‌ها تأثیر منفی بگذارد. همچنین از ربات‌های چت که به خردسالان توصیه‌های خطرناکی می‌دهند، از جمله در مورد سلامت روان و رشد شخصی آن‌ها، که می‌تواند رفتارهای پرخطر را شکل داده و تشویق کند، نگران است. رئیس جمهور اورسولا فون در لاین روز پنجشنبه در یک کنفرانس مطبوعاتی گفت: "سکوها با سلامت روانی کودکان سریع و بدون مشکل بازی می کنند."

بر اساس نظرسنجی Ipsos BVA در فرانسه، آلمان، سوئد و ایرلند، حدود نیمی از اروپایی‌های 11 تا 25 ساله در مورد مسائل شخصی یا شخصی با چت ربات‌های هوش مصنوعی صحبت کرده‌اند. استرالیا و بریتانیا هر دو تلاش می‌کنند از طریق ممنوعیت‌های رسانه‌های اجتماعی، دسترسی خردسالان به چت‌بات‌ها را محدود کنند. همچنین بر مضرات دیپ‌فیک‌های ایجاد شده توسط چت‌بات‌ها تاکید می‌کند، که فون در لاین در سخنرانی روز چهارشنبه به آن اشاره کرد: «ما مجبور نیستیم بپذیریم که دختران از عکس‌هایشان برای تصاویر جنسی تولید شده توسط هوش مصنوعی استفاده می‌کنند... اروپا قدرت عمل دارد.» در حالی که قانون هوش مصنوعی اتحادیه اروپا c مصنوعی را الزامی کرده است

این قوانین در حال حاضر فقط در مورد دیپ‌فیک‌هایی که برای استفاده تجاری تولید می‌شوند اعمال می‌شود. کمیسیون همچنین حواس پرتی دیجیتال را عامل کاهش مهارت های اساسی در جوانان می داند. بر اساس تحقیقات سازمان توسعه و همکاری اقتصادی در 91 کشور، کودکانی که می‌گویند از چت‌ربات‌های هوش مصنوعی برای انجام تکالیف مدرسه استفاده می‌کنند، نمرات آزمون کمتری نسبت به کسانی که این کار را نمی‌کنند، دریافت می‌کنند.

محققان شبکه مستقل EU Kids Online در گزارشی نوشتند که نگرانی‌ها در مورد تأثیرات شناختی و مهارت‌زدایی «فقدان حقوق کودکان در طراحی ابزارهای GenAI را آشکار می‌کند».