فرماندار نیویورک قانون ایمنی کودکان چت ربات هوش مصنوعی را امضا کرد

هدف یک قانون جداگانه تقویت امنیت در مانیتورهای متصل به نوزاد است.

کتی هوچول، فرماندار نیویورک، قانونی را امضا کرده است که هدف آن محافظت از کودکان در برابر آسیب‌های ربات چت هوش مصنوعی است. این قانون شرکت های هوش مصنوعی را ملزم می کند که سن کاربران را تأیید کنند. آنها باید حداقل یک روش تأیید را به کاربران ارائه دهند که کاملا متکی به شناسه دولتی نباشد. شرکت ها باید این "اطلاعات سن" را پس از استفاده حذف کنند.

اگر کاربری زیر 18 سال باشد یا شرکتی هنوز بزرگسال بودن آن فرد را تأیید نکرده باشد، چت بات او باید از محدودیت‌های خاصی پیروی کند. به عنوان مثال، نمی تواند وانمود کند که "یک فرد واقعی است، زنده است یا احساسات انسانی دارد." طبق یک بیانیه مطبوعاتی، این قانون همچنین چت بات ها را از موارد زیر ممنوع می کند:

ادعای رابطه شخصی، عاشقانه، حرفه ای یا اقتدارگرا با کودک

سوالات عاطفی بی دلیل و استفاده از سلامت خصوصی یا اطلاعات شخصی کودک از مکالمات قبلی

ترویج یا کمک به خودکشی، آسیب به خود، اختلالات خوردن یا مصرف مواد مخدر و الکل

تشویق کودکان به حفظ اسرار، منزوی کردن یا اجتناب از درخواست کمک از والدین، بزرگسالان مورد اعتماد یا متخصصان

هرگونه محتوای صریح جنسی یا مطالب سوء استفاده جنسی از کودکان

هوچول در یک کنفرانس مطبوعاتی گفت: «طبق این قانون جدید که توسط سناتور گونزالس و بورس عضو مجلس حمایت می‌شود، افراد زیر سن قانونی دیگر به چت‌بات‌هایی که وانمود می‌کنند دوستان، دوست پسر و دوست دختر آنها هستند، دسترسی نخواهند داشت. ربات‌های چت دیگر اجازه نخواهند داشت اطلاعات حساس مربوط به سلامت عاطفی و جسمی یک خردسال را نگه دارند. دیگر چت‌بات‌ها بچه‌ها را از کمک گرفتن از متخصصان دارای مجوز منصرف نمی‌کنند. و مطمئن نیستم که چرا باید قانونی را علیه چیزی بسیار بدیهی تصویب کنیم، اما دیگر خردسالان به چت‌ربات‌هایی دسترسی نخواهند داشت که ممکن است به هر طریقی افکار خودکشی را تشویق کنند.

اکنون، این قانون بر اساس قانون پیشگامانه Safe for Kids ما استوار است که پیامی را با صدای بلند و واضح به شرکت‌های فناوری ارسال کرد: ما به شما اجازه نخواهیم داد که از سلامت روانی فرزندانمان درآمدزایی کنید.

جیم استایر، بنیانگذار و مدیر عامل Common Sense Media، در بیانیه ای گفت: «نیویورک با امضای قانون قوی ترین لایحه ایمنی هوش مصنوعی کودکان در کشور، تاریخ ساز شد. شرکت‌های هوش مصنوعی چت‌بات‌هایی را با ویژگی‌هایی ارائه می‌دهند که برای کودکان و نوجوانان خطرناک و حتی کشنده هستند. این نوآوری نیست، این یک خطر بی‌احتیاطی برای فرزندان ما است. اکنون، این ویژگی‌های مضر در نیویورک غیرقانونی خواهند شد.

استایر افزود که این قانون الگویی برای بقیه ایالات متحده است. در اوایل این ماه، هشت ایالت شکایت جداگانه‌ای علیه OpenAI تنظیم کردند و این شرکت را به به خطر انداختن کودکان متهم کردند.

در ماه سپتامبر، شهر نیویورک مدارس دولتی را از دسترسی کودکان کلاس 2 تا کلاس هشتم به ابزارهای هوش مصنوعی در کلاس منع کرد. استثناهایی وجود دارد، از جمله برای کسانی که به فناوری کمکی نیاز دارند. در طول این ممنوعیت یک ساله، شهر مطالعاتی را در مورد تأثیر فناوری بر کودکان انجام خواهد داد.

هوچول همچنین قانونی را امضا کرد که بر اساس آن مانیتورهای کودک با اتصال به اینترنت که در ایالت فروخته می‌شوند را ملزم می‌کند تا از دیدن یا شنیدن هر گونه فعالیتی که دستگاه‌ها ضبط می‌کنند توسط کاربران غیرمجاز جلوگیری شود. این مانیتورهای کودک همچنین باید دارای برچسب‌های هشداردهنده باشند که به کاربران یادآوری کند که چرا استفاده از ویژگی‌های امنیتی مهم است و خطرات اتصالات ناامن را برجسته می‌کند. این قانون در 90 روز اجرایی می شود.