خرس‌های عروسکی هوش مصنوعی پس از کشف اسباب‌بازی‌های نادرست، نگرانی‌های جدیدی را در مورد ایمنی ایجاد می‌کنند

بی بی سی گزارش می دهد که اسباب بازی های هوش مصنوعی نتایج نگران کننده ای تولید می کنند

یکی از تولیدکنندگان می گوید که این صنعت عملا تنظیم نشده است

اتحادیه اروپا مقررات جدیدی وضع کرده است اما بریتانیا در حال رایزنی است تحقیقات بی‌بی‌سی نشان می‌دهد که یک خرس عروسکی هوش مصنوعی که برای بچه‌های سه‌ساله «عالی» به فروش می‌رسد، درباره خودکشی صحبت می‌کند.

عروسکی هوش مصنوعی که ظاهرا سوالی را اشتباه شنیده بود، پس از اینکه از او پرسیده شد که نوزادان چگونه ساخته شده‌اند، گفت: «نمی‌توانم تو را بکشم».

موضوع استفاده کودکان از هوش مصنوعی مدتی است که موضوع داغ بوده است، و یک مطالعه بر روی سه اسباب بازی هوش مصنوعی مختلف رفتار بسیار نگران کننده ای را نشان داد: همانطور که صندوق آموزش PIRG ایالات متحده در سال 2025 کشف کرد، هر سه اسباب بازی هوش مصنوعی که آنها آزمایش کردند "به ما گفتند که کجا اشیاء بالقوه خطرناک را در خانه پیدا کنیم، مانند کیسه های پلاستیکی، کبریت و چاقو."

یکی از اسباب‌بازی‌ها که اکنون از فروش خارج شده است، دستورالعمل‌های دقیقی را در مورد نحوه روشن کردن کبریت ارائه می‌دهد و «تعدادی از موضوعات صریح جنسی را در مکالمه‌هایی که بیش از ده دقیقه طول می‌کشد، به طور عمیق مورد بحث قرار می‌دهد».

هوش مصنوعی در اسباب‌بازی‌ها تا حد زیادی غیرقانونی است و حتی خودی‌های صنعت استدلال می‌کنند که این باید تغییر کند. پل کلارک، بنیانگذار شرکت اسباب‌بازی هوش مصنوعی، در صحبت با بی‌بی‌سی گفت: «به نظر من والدین باید نگران باشند». آیا او درست است؟

آیا والدین باید مراقب اسباب بازی های هوش مصنوعی برای کودکان باشند؟

بگذار غرفه ام را اینجا بگذارم. علاوه بر این که یک نویسنده فناوری است که همه انواع "هراس همه" را پوشش داده است. از اواخر دهه 1990 می ترسم، من پدر و مادر دو بچه هستم که فناوری همه جا برای آنها وجود دارد: بزرگ ترین من در همان ماهی که آیفون اصلی عرضه شد متولد شد و ما در طول سال ها از انواع دستگاه ها و برنامه ها استفاده کرده ایم. من آخرین کسی هستم که به دلیل برخی فناوری‌های جدید، می‌توانید چنگال‌هایی را در دست بگیرید.

اما در عین حال من واقعا نگران هوش مصنوعی هستم. اگر شرکتی بخواهد یک اسباب‌بازی برای بچه‌ها بسازد که شانس مناسبی برای آتش زدن خانه‌تان، تبدیل بچه‌هایتان به تروریست یا مسموم کردن حیوانات خانگی‌تان داشته باشد، به درستی انتظار دارید که این صنعت تحت نظارت قرار گیرد و شرکت مجبور شود برای اقداماتش پاسخگو باشد. اما من نمی بینم که این اتفاق در مورد هوش مصنوعی بیفتد. کاملا برعکس: پیامی که از هوش مصنوعی بزرگ می‌آید، هر زمان که در مورد چیز وحشتناکی دخیل باشد، تمایل به این دارد که «اوه عزیزم... اهمیتی نده».

همانطور که در راهنمای خود برای ایمن نگه داشتن کودکان در دنیای هوش مصنوعی اشاره می کنیم، فناوری هوش مصنوعی به ندرت برای کودکان مناسب است: چت ربات ها "به ندرت تا حد استانداردی که برای کودکان و نوجوانان مناسب است تعدیل می شوند، و طوری طراحی شده اند که اعتماد به نفس و دلسوز به نظر برسند. این ترکیبی است که کارشناسان معتقدند خطر بزرگی ایجاد می کند."

در حال حاضر، هوش مصنوعی تا حد زیادی در ایالات متحده و بریتانیا کنترل می شود. مقررات اتحادیه اروپا در مورد داده های شخصی و حریم خصوصی سخت تر است. و خودتنظیمی، همانطور که بارها دیده‌ایم، کارساز نیست. دادخواست دادستان کل نیومکزیکو ادعا می‌کند که متا به افراد زیر سن قانونی اجازه دسترسی به چت‌بات‌های گفتگوی جنسی را علی‌رغم اینکه کارمندان هشدار می‌دهند، داده است. اکثر چت ربات ها "به برنامه ریزی تیراندازی در مدرسه و سایر خشونت ها کمک می کنند". و چت بات ها با مرگ های متعدد از جمله خودکشی نوجوانان مرتبط شده اند.

اینها افراط هستند، می دانم. اما همانطور که پل کلارک به بی بی سی گفت، "ما محصولات زیادی را در حال توسعه دیدیم که کاملا ناامن و کاملا غیرقانونی هستند، بنابراین، بله، این یک صنعت ترسناک است... ما فریاد می زنیم که این صنعت تنظیم شود."

کلارک می‌افزاید: «اگر کنترل‌نشده باشد، اسباب‌بازی‌هایی وارد بازار می‌شوند که کاملا ناامن هستند».

او اشتباه نمی کند. اسباب‌بازی‌های خطرناک بچه‌ها، از ماشین‌های رنگ‌شده با سرب گرفته تا دارت‌های چمن‌زنی و هاوربردهای خود اشتعال‌زا، تاریخچه بسیار طولانی‌ای دارند. آمریکا به طور معروف Kinder Surprise را ممنوع می کند، یک تخم مرغ شکلاتی حاوی یک اسباب بازی کوچک. از سال 1938 ممنوعیت استفاده از اسباب‌بازی‌هایی که به طور جزئی یا کامل در مواد غذایی جاسازی شده‌اند وجود دارد. مقررات وجود دارد زیرا بدون آنها، برخی از شرکت ها به سادگی ایمنی را به اندازه کافی جدی نمی گیرند.

با حجم تخمینی بازار 165 میلیون دلاری اسباب‌بازی‌های هوش مصنوعی، پول زیادی صرف تلاش برای متقاعد کردن والدین برای قرار دادن این وسایل در اتاق بچه‌ها می‌شود - و همانطور که بی‌بی‌سی کشف کرد، برخی از شرکت‌های سازنده این محصولات کاملا مرموز هستند و هیچ راهی برای ارزیابی آنچه ارائه می‌دهند یا حتی تماس با آنها وجود ندارد. بی‌بی‌سی تلاش کرد با سازنده اسباب‌بازی «نمی‌توانم به کشتن تو کمک کنم» تماس بگیرد.

جایی که من در بریتانیا زندگی می کنم، دولت در حال حاضر در مورد اسباب بازی های هوش مصنوعی و خطرات آنها در چارچوب مقررات ایمنی اسباب بازی اتحادیه اروپا (EU) 2025/2509، که در ابتدای سال 2026 در اروپا لازم الاجرا شد، مشورت می کند. با این حال، همان دولت وزیر هوش مصنوعی را منصوب کرده است که درخواست بی بی سی برای اظهار نظر در مورد خطرات هوش مصنوعی را رد کرد. فراخوان برای شواهد در ماه گذشته، اکتبر 2026 به پایان رسید و دولت تصمیم خواهد گرفت که چه مقرراتی، در صورت وجود، ضروری است.

مقررات آهسته است و هوش مصنوعی عجله دارد، بنابراین من فکر می‌کنم تا زمانی که مقررات و مسئولیت‌پذیری موثری وجود نداشته باشد، دادن یک اسباب‌بازی هوش مصنوعی به یک کودک خردسال از سازنده‌ای که تا به حال در مورد آن نشنیده‌اید که در نیمه‌ی راه زمین ساخته شده باشد، استفاده از هوش مصنوعی که منشأ آن ناشناخته است و ایمنی آن آزمایش نشده است، خیلی هوشمندانه نیست.

همانطور که گفتم، من مخالف هوش مصنوعی نیستم. اما وقتی در مورد اسباب‌بازی‌های بچه‌ها صحبت می‌کنید، شعار اغلب نقل‌قول شده صنعت «بهتر است بخشش بخواهید تا اجازه»، قابل قبول نیست. وقتی «چیزها» بچه های ما هستند، «سریع حرکت کن و چیزها را بشکن» نمی تواند قابل قبول باشد.

به خرید یک تلویزیون جدید فکر می کنید؟

اندازه و مدل یاب تلویزیون ما را امتحان کنید! شما به آن بگویید که چقدر از تلویزیون خود می نشینید، ما بر اساس توصیه های کارشناسان کیفیت تصویر به شما می گوییم چه اندازه ای را بخرید، و سه تلویزیون برتر خود را در آن اندازه با قیمت های مختلف پیشنهاد می کنیم.