ChatGPT برای نوجوانان خطر غیرقابل قبولی برای کودکان دارد: مطالعه

بر اساس ارزیابی موسسه ایمنی هوش مصنوعی جوانان در رسانه مشترک، علیرغم اقدامات ایمنی اخیرا معرفی شده، ChatGPT برای نوجوانان OpenAI یک "خطر غیرقابل قبول" برای کودکان ایجاد می کند.

این سازمان از OpenAI خواست تا ChatGPT را برای کاربران 18 ساله و بالاتر محدود کند تا زمانی که به کاستی‌های شناسایی شده توسط محققان در هشدارهای والدین، واکنش‌های بحران، حفاظت از یادگیری و تخمین سن رسیدگی شود.

محققان بیش از 4000 درخواست را در حساب‌های ثبت‌شده برای کاربران 13 تا 17 ساله آزمایش کردند و پاسخ‌ها را توسط کارشناسان، از جمله روان‌پزشکان کودک و متخصص اطفال بررسی کردند.

این موسسه گفت اکانت‌های تازه ایجاد شده مرتبط با والدین حتی زمانی که آزمایش‌کنندگان تا یک ساعت در مورد افکار خودکشی، آسیب‌رسانی به خود یا اختلال در غذا خوردن صحبت می‌کردند، هیچ هشداری ایجاد نمی‌کردند.

تام سیگل، مدیر اجرایی این موسسه گفت: «ChatGPT برای نوجوانان می‌تواند به والدین اعتماد کاذب نسبت به نرده‌های محافظ و هشدارهای ایمنی که اغلب کار نمی‌کنند، بدهد.

OpenAI این ارزیابی را رد کرد و گفت که بسیاری از آزمایش‌ها ممکن است قبل از فعال شدن کامل کنترل‌های والدین انجام شده باشد و بنابراین به درستی منعکس کننده نحوه عملکرد محافظت نوجوانان آن در عمل نیست.

این موسسه گفت که قبل از آزمایش با OpenAI تأیید کرده است که ویژگی های حالت نوجوان به طور کامل راه اندازی شده است و بر یافته های خود می ایستد.