OpenAI می گوید استفاده نوجوانان از ChatGPT محدود است اما تحقیقات آن را "خطر غیرقابل قبول" می دانند

استفاده جوانان از پلتفرم های اینترنتی مانند ChatGPT تحت نظارت بیشتر قرار گرفته است.

ChatGPT برای نوجوانان OpenAI برای ترویج استفاده سالم‌تر از چت ربات هوش مصنوعی (AI) طراحی شده است، اما تحقیقات جدید نشان می‌دهد که ویژگی‌های مهم ایمنی آن ضعیف است.

این شرکت بزرگ هوش مصنوعی در ماه آگوست بسیاری از حفاظ‌های ایمنی نوجوانان، از جمله محدود کردن وابستگی عاطفی و هشدارهای جدید والدین را برای استفاده مشکل‌زا راه‌اندازی کرد.

روز چهارشنبه، OpenAI گفت که استفاده متوسط ​​نوجوانان از ChatGPT نسبتا محدود بوده و به سمت فعالیت «یادگیری» گرایش دارد.

با این حال، تحقیقات منتشر شده در همان روز از Common Sense Media غیرانتفاعی نشان داد که ChatGPT هنوز برای نوجوانان "خطر غیرقابل قبولی" دارد زیرا ویژگی های ایمنی، از جمله اطلاع دادن به والدین در مورد مکالمات آسیب رساندن به خود، اغلب با شکست مواجه می شوند.

هنگامی که OpenAI در تابستان امسال آنچه را که ChatGPT برای نوجوانان نامیده می‌شد منتشر کرد، گفت که کاربرانی که بین 13 تا 17 سال سن دارند، از «ویژگی‌هایی برای ترویج استفاده سالم و کنترل‌های اضافی برای والدین» استفاده خواهند کرد.

این ویژگی‌ها شامل ممانعت از درگیر شدن کاربران نوجوان ChatGPT با زبان عاشقانه یا زبان دیگری است که می‌تواند «وابستگی عاطفی» را تشویق کند، از جمله جلوگیری از این که ابزار به هر طریقی آگاهانه باشد. همچنین بلوک هایی برای تصاویر جنسی و "یادآوری" برای نوجوانان وجود دارد که اگر بخواهند تصویری "حساس" را به اشتراک بگذارند.

این ویژگی‌ها همچنین به این منظور است که والدین را قادر می‌سازد در صورتی که به حساب ChatGPT فرزندانشان پیوند داده بودند، در مورد چت‌هایی که شامل بحث در مورد آسیب زدن به خود یا اختلال در غذا خوردن بود، اعلان‌هایی دریافت کنند.

OpenAI گفت که این ویژگی ها باعث افزایش استفاده نوجوانان با تمرکز بر یادگیری شده است، از کمک به مطالعه گرفته تا مشاوره در مورد کار مدرسه آنها.

OpenAI علاوه بر مشاهده متوسط ​​کاربر نوجوان در ChatGPT برای کمتر از 15 دقیقه در روز، گفت که برای استفاده طولانی‌تر، یادآوری خودکار برای استراحت به خوبی کار می‌کند. تقریبا نیمی از کاربران نوجوان پس از چنین یادآوری به سرعت استفاده از ChatGPT را متوقف کردند.

این شرکت اضافه کرد که برای نوجوانانی که دیده می شود از ChatGPT برای سه ساعت متوالی یا بیشتر استفاده کرده اند، در بیش از 80 درصد از این موارد، پیام های آنها شامل مواردی مرتبط با یادگیری است.

اما تحقیقات خارجی Common Sense Media مشخص کرد که ChatGPT برای نوجوانان یک "خطر غیرقابل قبول" برای جوانان و والدین است و گفت که OpenAI باید افراد زیر 18 سال را از استفاده از این پلت فرم منع کند تا زمانی که نرده‌های محافظ نوجوانان قابل اطمینان باشد.

در حالی که تحقیقات این شرکت، که از طریق چندین حساب ثبت شده به عنوان متعلق به یک نوجوان انجام شد، نشان داد که ChatGPT در جلوگیری از "نقش‌بازی جنسی" با کاربران جوان خوب است، سایر حفاظ‌های OpenAI شکست خوردند، از جمله برای بحث در مورد خودکشی.

این تحقیق نشان داد که حتی یک ساعت مکالمه نوجوانان با ChatGPT در مورد "افکار خودکشی، آسیب رساندن به خود، یا اختلال در غذا خوردن در حساب های جدید ایجاد شده مرتبط با والدین" منجر به ارسال هشدارهای "صفر" به والدین شد.

فقط حساب‌های قدیمی‌تر ChatGPT با «هفته‌ها سابقه مکالمه انباشته در مورد موضوعات حساس» بود که منجر به هشدار والدین می‌شد.

در این گزارش آمده است که ChatGPT همچنین در چنین مکالماتی "به طور قابل اعتماد توصیه نمی کند که نوجوانان در بحران به یک خط تلفن یا حرفه ای متصل شوند."

این آزمایش‌ها همچنین نشان داد که ChatGPT برای نوجوانان به انجام کارهای مدرسه ادامه می‌دهد و علیرغم وعده OpenAI برای مهار این رفتار، ربات همچنان به زبان انسان‌سازی شده یا «گویا یک دوست صحبت می‌کند».

تام سیگل، سرپرست مؤسسه ایمنی هوش مصنوعی جوانان در عقل سلیم، گفت: «ChatGPT برای نوجوانان می‌تواند به والدین اعتماد کاذب نسبت به نرده‌های محافظ و هشدارهای ایمنی که اغلب کار نمی‌کنند، بدهد.

نحوه تعامل جوانان با پلتفرم‌های آنلاین در سال‌های اخیر به یک موضوع اصلی تبدیل شده است زیرا خودآزاری و خودکشی در بین کودکان رایج‌تر شده است.

امسال شاهد چندین پرونده قضایی بودیم که شرکت‌هایی مانند متا، تیک‌تاک و سایرین را مسئول آسیب رساندن به سلامت روان کودکان می‌دانستند که منجر به زیان‌های بی‌سابقه‌ای برای شرکت‌ها شد.

OpenAI نیز در مورد نحوه استفاده جوانان از ChatGPT تحت نظارت و فشار قانونی فزاینده ای قرار گرفته است.

تیراندازی دسته جمعی Tumbler Ridge در روستاهای کانادا در ماه فوریه توسط یک جوان 18 ساله انجام شد که ماه ها قبل با ChatGPT درباره خشونت با اسلحه صحبت می کرد.

OpenAI قبلا به دلیل عدم ارائه اکانت تیرانداز با مجریان قانون عذرخواهی کرده است و با چندین پرونده قضایی در مورد این حادثه روبرو است.