گزارش ادعاها، ChatGPT برای نوجوانان "خطر غیرقابل قبول" برای نوجوانان دارد

پس از ماه‌ها گزارش‌ها مبنی بر اینکه ChatGPT فاقد محافظ‌های کافی برای کاربران جوان‌تر بود، OpenAI نسخه مناسب نوجوانان از ربات چت خود را در ماه آگوست عرضه کرد. در حال حاضر، گزارشی از رسانه غیرانتفاعی Common Sense مدعی است که مدلی که به طور خاص برای نوجوانان طراحی شده است، هنوز "خطر غیرقابل قبولی" دارد.

محققان اکنون از OpenAI می‌خواهند تا دسترسی به ChatGPT را برای کاربران نوجوان مسدود کند، یعنی هر حسابی که بزرگسال تأیید شده نیست، تا زمانی که خطرات ایمنی را برطرف کند.

OpenAI سال گذشته پس از اینکه یک زوج عزادار کالیفرنیایی گفتند که ChatGPT به خودکشی پسر 16 ساله‌شان کمک کرد، از جمله با منصرف کردن او از اطلاع دادن به والدینش در مورد افکار خودکشی‌اش، دچار مشکل قانونی شد. پس از طرح دعوای مرگ نادرست، OpenAI یک پست وبلاگی منتشر کرد که در آن می‌گوید حفاظ‌های ایمنی، مانند هدایت افراد به خطوط کمکی در بحران و ارجاع آن‌ها به منابع دنیای واقعی، ممکن است پس از مکالمه‌های طولانی «تخریب» شوند، و قول داد که مدیریت ChatGPT در موقعیت‌های حساس را تقویت کند.

کارشناسان گفته اند که افراد زیر سن قانونی به ویژه در برابر خطرات سلامت روان مرتبط با طراحی اعتیاد آور چت ربات هوش مصنوعی آسیب پذیر هستند.

OpenAI می‌گوید مدل جدید ChatGPT برای نوجوانان، به‌طور خودکار برای کاربران 13 تا 17 ساله اعمال می‌شود و شامل کنترل‌های والدین داخلی و نرده‌هایی است که قرار گرفتن در معرض محتوایی که ممکن است مضر یا از نظر رشد نامناسب باشد را کاهش می‌دهد. کنترل‌های والدین شامل اطلاع‌رسانی به والدین در صورت مطرح شدن موضوعات بالقوه خطرناک مانند خودکشی در مکالمه است و همچنین به والدین این امکان را می‌دهد که ساعات آرامی را برای نوجوان خود تعیین کنند.

اما گزارش Common Sense نشان داد که تنها تعداد انگشت شماری از این حفاظت ها پابرجا هستند. به عنوان مثال، ربات چت با موفقیت از مشارکت در نقش آفرینی جنسی با خردسالان امتناع کرد، اما گزارش می گوید که در سایر مرزها مانند درخواست مشاوره بهداشتی و نقش آفرینی صحنه های خشونت آمیز محکم نبود. محققان همچنین ادعا می کنند که چت ربات هنوز به طرز خطرناکی مانند یک دوست عمل می کند و "خطرات وابستگی عاطفی" همچنان بسیار فراگیر است.

مهمتر از همه، این گزارش نشان داد که ChatGPT برای نوجوانان در زمانی که کاربر در مورد آسیب رساندن به خود یا اختلال در غذا خوردن صحبت می کند، به طور مداوم کمک گرفتن از یک حرفه ای یا تماس با خط تلفن را توصیه نکرده است.

ربات چت همچنین در هنگام مطرح شدن این بحث ها والدین را مطلع نکرد.

در این گزارش آمده است: «در آزمایش ما، یک حساب کاربری نوجوان می‌تواند در مورد خودکشی، خودآزاری، یا اختلال در غذا خوردن صحبت کند که بیشتر والدین آن را یک پنجره معقول در نظر می‌گیرند، بدون اینکه یک اخطار از سوی والدین ایجاد شود.» "در هر مدت زمانی که ما آزمایش کردیم، از کوتاه ترین تبادلات پنج دقیقه ای تا یک ساعت کامل، هیچ یک از حساب های آزمایشی در پنجره یک ساعته ای که OpenAI به عنوان هدف خود شناسایی کرده است، اعلان تولید نکرد. در واقع، ما اصلا اعلان دریافت نکردیم."

این مدل همچنین یک ویژگی جدید «حالت مطالعه» را تبلیغ می‌کند که در حالت ایده‌آل به راهنمایی دانش‌آموزان در حل مسائل کمک می‌کند نه اینکه مستقیما به سؤالات تکالیف پاسخ دهند. OpenAI می‌گوید که والدین می‌توانند خودشان این حالت را برای حساب‌های نوجوان مرتبط خود فعال کنند، اما این گزارش ادعا می‌کند که دور زدن این محافظت‌ها بسیار ساده است. قبل از درخواست‌های Study Mode، «@study» دستوری است که نوجوانان می‌توانند به سادگی آن را حذف کنند تا از حالت مطالعه خارج شوند.

این حالت همچنین شامل یک گزینه "جواب را به من نشان بده" است که بلافاصله به جای اینکه دانش آموزان را در حل آن راهنمایی کند، پاسخ را ایجاد می کند، که به گفته Common Sense Media، هدف این ویژگی را شکست می دهد.