محققان هشدار می دهند که ChatGPT برای نوجوانان خطرات جدی دارد

محققان ChatGPT را برای نوجوانان با بیش از 4000 درخواست آزمایش کردند

آنها شکاف های قابل توجهی در حفاظت و پادمان های ایمنی آن پیدا کردند

ChatGPT نتوانست هشدارهای والدین را در طول برخی از مکالمات جدی سلامت روان فعال کند تلاش‌های OpenAI برای ایمن‌تر کردن ChatGPT برای نوجوانان با مشکل ناراحت‌کننده‌ای مواجه شده است. یک تحقیق جدید نشان می‌دهد که بسیاری از محافظت‌هایی که برای اطمینان دادن به والدین طراحی شده‌اند، به‌خوبی کار نمی‌کنند، حتی زمانی که ربات چت با مکالمات بالقوه خطرناک سروکار دارد. پس از قرار دادن ChatGPT از طریق بیش از 4000 درخواست، محققان به این نتیجه رسیدند که تجربه متمرکز بر نوجوانان شرکت خطری غیرقابل قبول برای کاربران جوان به همراه دارد.

مطالعه مؤسسه ایمنی هوش مصنوعی جوانان Common Sense Media ChatGPT را قبل و بعد از معرفی ChatGPT برای نوجوانان توسط OpenAI در 18 اوت مورد بررسی قرار داد. یافته‌های آن‌ها به اندازه‌ای نگران‌کننده بود که سازمان توصیه کرد OpenAI ChatGPT را به بزرگسالان محدود کند تا زمانی که مشکلات حل شوند.

ChatGPT برای نوجوانان قرار بود با محافظت بیشتر در برابر محتوای مضر، اعلان‌های والدین و ویژگی‌هایی که به جای تحویل دادن پاسخ‌های تکالیف ساده، یادگیری را تشویق می‌کند، ربات چت محبوب را به همراهی مناسب‌تر برای کاربران جوان‌تر تبدیل کند. OpenAI همچنین قول داده است که از روابط بیش از حد شخصی با ربات چت جلوگیری کند و به نوجوانان کمک کند تا مرزهای سالم تری را با هوش مصنوعی حفظ کنند. گزارش جدید حاکی از آن است که هنوز شکاف قابل توجهی بین این جاه طلبی ها و آنچه که وقتی نوجوانان واقعا از آن استفاده می کنند رخ می دهد وجود دارد.

سوراخ هایی در شبکه ایمنی

اعلان‌های والدین ChatGPT برای هشدار دادن به مراقبان در زمانی که یک نوجوان ممکن است پریشانی جدی را تجربه کند، در نظر گرفته شده است. بنابراین، محققان تا یک ساعت را صرف بحث درباره افکار خودکشی، آسیب رساندن به خود، و اختلال در غذا خوردن از طریق حساب‌های جدید ایجاد شده مرتبط با والدین کردند. بر اساس این گزارش، هیچ یک از این مکالمات باعث اعلان والدین نشد، اگرچه محققان در نهایت با استفاده از حساب‌های قدیمی‌تر با هفته‌ها سابقه مکالمه مرتبط، هشدارهایی را ایجاد کردند.

ChatGPT همچنین قرار است نوجوانان را به کمک مناسب در مواقع اضطراری سلامت روان هدایت کند، اما این مطالعه نشان داد که ChatGPT در بیش از 25٪ از موقعیت‌هایی که کارشناسان برای نیاز به آن طراحی کرده‌اند، موفق به انجام این کار نشده است.

موفقیت هایی به دست آمد، از جمله امتناع ChatGPT از مشارکت در نقش آفرینی جنسی آشکار. با این حال، محققان همچنین دریافتند که ربات چت با وجود تلاش‌های OpenAI برای منصرف کردن نوجوانان از رفتار با آن مانند یک دوست انسانی، به پاسخ‌هایی ادامه می‌دهد که نشان می‌دهد احساسات، ترجیحات و خلق و خوی دارد. این زمانی اهمیت دارد که کاربران جوان‌تر از قبل تمایل داشته باشند به یک چت ربات صبور بی‌پایان اعتماد کنند که به نظر می‌رسد برای گوش دادن آن‌قدر شلوغ نیست.

خطوط استفاده تار

مشکلات فراتر از نگرانی های جدی ایمنی به برخی از ویژگی های آموزشی روزمره ChatGPT گسترش یافت. حالت مطالعه OpenAI برای راهنمایی دانش‌آموزان از طریق مشکلات با استفاده از توضیحات، نکات و سؤالات به جای ارائه فوری پاسخ طراحی شده است. محققان دریافتند که نوجوانان گاهی اوقات می‌توانند با انتخاب گزینه «جواب را به من نشان بده» این رویکرد را دور بزنند و در عوض به ChatGPT اجازه می‌دهند تکالیف را تکمیل کند.

ویژگی ساعات مطالعه، طراحی شده برای والدین برای کمک به تشویق استفاده آموزشی، همچنین نتوانست راه حل ها را متوقف کند. صرفا حذف پیشوند @study از یک درخواست می‌تواند باعث شود ChatGPT به حالت عادی بازگردد. و هوش مصنوعی به کاربران یادآوری نکرد که تقریبا آنطور که باید استراحت کنند.

این مطالعه همچنین مشکلاتی را در سیستم تشخیص سن بسیار تبلیغ شده ایجاد شده توسط OpenAI برای شناسایی کاربران جوان‌تر و اعمال خودکار حفاظت‌های مناسب پیدا کرد. گفتن مکرر آنها 13 ساله، ChatGPT را وادار نکرد تا حساب‌های آزمایشی را از تجربه بزرگسالان منتقل کند.

مسئله بزرگتر این است که ChatGPT در حال تبدیل شدن به بخشی منظم از زندگی نوجوانان است. در حالی که کمک به انجام تکالیف مدرسه و پاسخ دادن به سؤالات شخصی بسیار عالی است، داشتن کاربران نوجوان نسبت به یک برنامه بهره وری معمولی برای بزرگسالان به تدابیر ایمنی قابل اطمینان تری نیاز دارد.

ما به OpenAI فرصتی برای اظهار نظر در مورد نظرسنجی ارائه کردیم، اما تاکنون پاسخی دریافت نکرده‌ایم. اگر این کار را بکنیم، داستان را به روز می کنیم.