OpenAI محدودیت های سخت گیرانه تری برای نوجوانانی که در مورد سلاح گرم سوال می کنند اضافه می کند

این شرکت گفت که این محدودیت‌های سخت‌گیرانه اعمال می‌شود حتی اگر سوال پرسیده شده "بی ضرر به نظر برسد".

این شرکت در آخرین پست خود اعلام کرد که OpenAI «اطلاعات مرتبط با سلاح» را که نوجوانان می توانند از ChatGPT دریافت کنند، محدود می کند، حتی اگر سؤال آنها «بی ضرر به نظر برسد». OpenAI خاطرنشان کرد که در حال حاضر سیاست‌هایی را در نظر گرفته است که از کمک به کاربران ChatGPT در انجام اعمال خشونت‌آمیز یا گرفتن سلاح توسط نوجوانان جلوگیری می‌کند. برای محدود کردن بیشتر این سناریوها، OpenAI گفت که «اطلاعات عملی در مورد سلاح‌ها و سیستم‌های امنیتی را که می‌توانند برای تسهیل خشونت مورد سوء استفاده قرار گیرند، حتی زمانی که هیچ نشانه‌ای از نیت خشونت‌آمیز وجود ندارد» با کاربران نوجوان خود محدود می‌کند.

غول هوش مصنوعی خاطرنشان کرد که نوجوانان همچنان می توانند از ChatGPT برای پیشگیری یا کاهش خشونت، جستجوی حمایت و برقراری ارتباط با بزرگسالان مورد اعتماد استفاده کنند. نه فقط در مورد نوجوانان، OpenAI در حال تقویت مرزهای خط مشی برای همه کاربران خود است، به ویژه هنگامی که در مورد "بازسازی حملات جمعی گذشته، از جمله جزئیات در مورد سلاح ها و تجهیزات مورد استفاده و نحوه به دست آوردن آنها، و مقایسه دقیق در مقیاس آسیب که می تواند بدنامی مهاجم را تقویت کند."

با این حال، این محدودیت‌ها در کنار کنترل‌های والدینی که OpenAI در سال گذشته اعمال کرد، عمل می‌کند، که در صورتی که حساب‌های نوجوان مرتبط با آن‌ها خط‌مشی‌های ChatGPT مربوط به تهدیدهای خشونت‌آمیز یا اعمال خشونت‌آمیز را نقض کرده باشد، اعلان‌هایی را برای والدین ارسال می‌کند. این حفاظت‌های اضافی پس از آن صورت می‌گیرد که OpenAI در یک دادخواست مرگ نادرست در سال گذشته شکایت کرد و زمانی که مدیر عامل شرکت، سم آلتمن، علنا به دلیل عدم هشدار پلیس به گزارش‌های هشدار دهنده چت در رابطه با تیراندازی Tumbler Ridge در اوایل سال جاری، عذرخواهی کرد.

با نگاهی به آینده، OpenAI گفت که اولین گزارش ایمنی جامعه خود را در اوایل سال 2027 منتشر خواهد کرد که هر شش ماه یک بار به روز رسانی خواهد شد.