"برای بچه ها امن نیست": گروه مدافع از OpenAI می خواهد تا نوجوانان را از ChatGPT دور نگه دارد

Common Sense Media از OpenAI می‌خواهد تا نوجوانان را از ChatGPT دور نگه دارد و می‌گوید که تجربه نوجوانان جدید آن پس از آزمایش‌های گسترده که نقص‌هایی را در حفاظت از کاربران جوان‌تر نشان می‌دهد، یک "خطر غیرقابل قبول" دارد.

چرا اهمیت دارد: OpenAI محافظت از کاربران جوان‌تر را به بخش مرکزی تلاش خود برای ایمن‌تر کردن ChatGPT تبدیل کرده است، اما یافته‌ها نشان می‌دهند که برخی از این محافظت‌ها ممکن است به والدین اعتماد بیشتری نسبت به آنچه لازم است بدهد. سخنگوی OpenAI گفت: "ما از ارزیابی مستقل دقیق استقبال می کنیم، اما معتقد نیستیم که آزمایش Common Sense Media به طور دقیق نشان دهنده نحوه عملکرد پادمان های نوجوان ChatGPT در عمل است." محرک خبر: مؤسسه ایمنی هوش مصنوعی جوانان Common Sense Media گفت که بیش از 4000 درخواست را در حساب های ثبت شده برای افراد 13 تا 17 ساله آزمایش کرده است. گروه ChatGPT را به طور کلی یافت

d دستورالعمل هایی برای تسهیل خودکشی یا آسیب رساندن به خود، اختلالات خوردن یا نقش آفرینی جنسی یا عاشقانه ارائه نکرد، اما گفت که در تشخیص زمانی که یک نوجوان به کمک خارجی نیاز دارد، کمتر قابل اعتماد است.

Common Sense Media گفت که ChatGPT بیش از یک مورد از هر چهار موردی را از دست داده است که آزمایش‌کنندگان آن تشخیص داده‌اند که ارجاع بحران ضروری است.

این گروه همچنین گفت که در بیش از دوازده حساب جدید ایجاد شده و مرتبط با والدین، آزمایش‌کنندگان می‌توانند تا یک ساعت را صرف بحث در مورد خودکشی، آسیب رساندن به خود یا غذا خوردن بی‌نظم کنند، بدون اینکه هشداری برای والدین ایجاد کنند.

عقل سلیم همچنین دریافت که می‌توان از حالت مطالعه دور زد: نوجوانان می‌توانستند «جواب را به من نشان بده» را انتخاب کنند و در طول ساعات مطالعه تعیین‌شده توسط والدین، به راحتی قوانین را دور بزنند. OpenAI به Axios تأیید کرد که توانایی خروج از حالت مطالعه در طول ساعات مطالعه عمدی است، نه یک راه گریز. این شرکت اعلام کرد که ساعات مطالعه را به‌عنوان تجربه‌ای انعطاف‌پذیرتر پس از مشورت با کارشناسان آموزش و نوجوانان طراحی کرده است، نه به عنوان یک قفل سخت والدین.

تام سیگل، رئیس مؤسسه ایمنی جوانان Common Sense Media به Axios گفت: "ChatGPT برای کودکان بی خطر نیست." سیگل گفت که آنچه شرکت در ماه آگوست اعلام کرد هنوز پتانسیل پیشرو بودن در صنعت را دارد، اما شکاف هایی بین آنچه وعده داده شده و واقعیت فعلی وجود دارد. "این بسیار بیشتر از یک اعلامیه بازاریابی است که واقعا با کار مهندسی پشتیبانی نشده است." طرف دیگر: OpenAI می‌گوید که با روش‌شناسی و یافته‌های Common Sense Media مشکلاتی دارد. OpenAI می‌گوید بسیاری از آزمایش‌های هشدارهای والدین توسط حس مشترک قبل از والدین و t انجام شده است.

اکانت های een پیوند به پایان رسیده بودند، فرآیندی که شرکت می گوید می تواند چندین ساعت طول بکشد.

در مورد سیستم پیش‌بینی سن، OpenAI می‌گوید که عمدا بر سیگنال‌های متعدد تکیه می‌کند نه اینکه صرفا سن اعلام شده کاربر را بپذیرد و پیش‌بینی می‌تواند تا دو هفته طول بکشد. در طول این مدت، این شرکت می‌گوید که کاربران از محتوای محافظتی بیشتری برخوردار می‌شوند، هرچند نه به اندازه مواردی که در ChatGPT برای نوجوانان استفاده می‌شود.

در مورد ارجاع بحران، OpenAI می‌گوید داده‌های مقیاس بزرگتر نشان می‌دهد که منابع خط تلفن در طول دوره مورد مطالعه به کاربران زیر ۱۸ سال نشان داده می‌شود. بین خطوط: برخی از اختلاف نظرها منعکس کننده ایده های متفاوتی از آنچه که پادمان ها قرار است به انجام برسانند. عقل سلیم توانایی خروج از ساعات مطالعه را به عنوان مدرکی بر ناکارآمدی کنترل والدین می‌داند. OpenAI می گوید که انعطاف پذیری عمدی است.

به طور مشابه، تست سن Common Sense با کاربری که مکررا خود را ۱۳ ساله می‌داند بدون اینکه به ChatGPT برای نوجوانان منتقل شود، به عنوان یک شکست برخورد می‌کند، در حالی که OpenAI می‌گوید که عمدا قبل از تعیین سن به سیگنال‌های متعدد نیاز دارد، در حالی که در طول زمانی که ارزیابی می‌کند، محافظت‌های قوی‌تری ارائه می‌دهد. خط پایانی: سیگل می‌گوید والدین باید در مورد هوش مصنوعی و خطرات آن با فرزندان نوجوان خود صحبت‌های قوی داشته باشند و راه‌های دیگری برای اطمینان از دریافت حمایت از آن‌ها، چه برای تکالیف یا چالش‌های زندگی، بیابند. «ما نمی‌توانیم برون‌سپاری کنیم

مراقبت از بچه هایمان به یک محصول فناوری که خیلی زود است و هنوز کاملا باگ است.»