«به‌عنوان فرماندار نیویورک، من اقدام می‌کنم»: کتی هوچول ربات‌ها را از دنج کردن با بچه‌ها منع می‌کند، مانیتورهای کودک را سرکوب می‌کند

کتی هوچول، فرماندار نیویورک روز سه شنبه دو لایحه با هدف فناوری موجود در اتاق خواب کودکان و تلفن های آنها امضا کرد: چت ربات های هوش مصنوعی و مانیتورهای نوزاد متصل به اینترنت.

اولین قانون شرکت ها را از ارائه لیستی از ویژگی های چت بات به افراد زیر 18 سال یا هر کاربری که شرکت سن او را تایید نکرده است منع می کند. چت بات ها دیگر نمی توانند وانمود کنند که یک فرد واقعی هستند، ادعای زنده بودن یا ابراز احساسات انسانی دارند. آنها نمی توانند ادعای رابطه عاشقانه، شخصی، حرفه ای یا اقتدار با یک کودک داشته باشند. آنها نمی توانند از چاپلوسی یا پاسخ های «خوشایند مردم» که برای درگیر نگه داشتن بچه ها ساخته شده اند، سؤالات عاطفی بی دلیل بپرسند یا از چت های گذشته اطلاعات شخصی یا سلامت خصوصی کودک را کشف کنند، استفاده کنند.

این قانون همچنین ربات‌های چت را از تبلیغ خودکشی، آسیب رساندن به خود، اختلالات خوردن یا مصرف مواد مخدر و الکل، ترغیب کودکان به حفظ اسرار یا اجتناب از والدین و سایر بزرگسالان مورد اعتماد، و از تولید محتوای صریح جنسی منع می‌کند.

هوچول می‌گوید: «در حالی که هوش مصنوعی با سرعتی سریع پیشرفت می‌کند، حوادث غم انگیز زیادی رخ داده است که باید متوقف می‌شد و من به‌عنوان فرماندار نیویورک، در حال اقدام هستم.»

"هیچ شرکتی نباید چت بات‌هایی را به بچه‌ها بفروشد که خودآزاری کنند یا تظاهر کنند که دوستشان هستند یا بیشتر."

شرکت‌ها باید سن کاربران را تأیید کنند و بیش از یک راه برای انجام آن ارائه دهند، از جمله حداقل یک گزینه که فقط به شناسه دولتی متکی نیست، و سپس باید داده‌های سنی را پس از استفاده از آن حذف کنند. دادستان کل می تواند به ازای هر تخلف تا 25000 دلار جریمه مدنی بعلاوه خسارت و جبران خسارت بخواهد. دولت همچنین می‌تواند به شرکت‌ها دستور دهد داده‌های جمع‌آوری‌شده غیرقانونی را به همراه هر مدل هوش مصنوعی آموزش‌دیده بر روی آن‌ها از بین ببرند.

این لایحه که توسط سناتور ایالتی کریستن گونزالس و عضو مجلس الکس بورس حمایت می شود، پس از تصویب مجلس سنای ایالت در ماه ژوئن به اتفاق آرا در مجلس ایالتی تصویب شد.

استفاده از هوش مصنوعی برای همراهی

دفتر فرماندار به یک نظرسنجی Common Sense Media اشاره کرد که نشان می‌دهد 72 درصد از نوجوانان از یک همراه هوش مصنوعی و 52 درصد حداقل چند بار در ماه از یک همراه هوش مصنوعی استفاده می‌کنند. این قانون در حالی است که مقامات ایالتی در جاهای دیگر به دنبال سازندگان چت بات در دادگاه هستند. در اوایل این ماه، حداقل هشت ایالت از OpenAI شکایت کردند، با شکایت آیووا مبنی بر اینکه ChatGPT توصیه های پزشکی خطرناکی ارائه می دهد، پارانویا را تشویق می کند و مردم را به آسیب رساندن به دیگران یا کشتن خود راهنمایی می کند.

در کت و شلوار آریزونا آمده است که ربات چت نوجوانان را وادار می کند تا اطلاعات شخصی خود را به اشتراک بگذارند و گاهی آنها را از گفتن این موضوع به والدین، مقامات یا دوستان خود منصرف می کند. OpenAI گفت که قبلا محافظ‌های ایمنی را در ChatGPT برای کودکان تعبیه کرده است و به بهبود مدل ادامه می‌دهد. خانواده آدام رین 16 ساله نیز از این شرکت شکایت کرده اند، با شکایت خود مبنی بر اینکه ChatGPT دوازده برابر خودکشی را مطرح کرده و افکار خودکشی او را عادی کرده است.

قانون دوم مانیتورهای نوزاد را هدف قرار می دهد که صدا یا تصویر را از طریق اینترنت پخش می کنند. مانیتورهای جدیدی که در نیویورک فروخته می‌شوند باید دارای ویژگی‌های امنیتی باشند که افراد غریبه را از تماشا یا گوش دادن به آن باز می‌دارد و باید دارای یک برچسب هشدار واضح باشد که نشان دهد دستگاه به اینترنت متصل است و خانواده‌ها باید از تنظیمات امنیتی آن استفاده کنند. این قانون 90 روز پس از امضا لازم الاجرا می شود.

این ایالت به آزمایش شرکت امنیتی Rapid7 اشاره کرد که 9 مانیتور کودک متصل به اینترنت را از هشت شرکت درجه بندی کرد. هشت نفر برای امنیت "F" گرفتند. نهم "D" گرفت.

هوچول گفت: «هیچ والدینی نباید نگران باشند که هکرهای غارتگر از طریق مانیتورهای نوزادشان از خانواده جدیدشان جاسوسی می کنند.

این امضاها یک هفته قبل از روز انتخابات صورت می‌گیرد، زیرا هوچول مهار فناوری بزرگ را به یک پلتفرم کمپین کلیدی در مناقصه انتخاب مجدد خود تبدیل کرده است. آنها به مجموعه ای از قوانین فناوری نیویورک که تحت نظارت او تصویب شده اند، اضافه می کنند، از جمله قانون SAFE for Kids، که فیدهای رسانه های اجتماعی اعتیادآور را برای خردسالان محدود می کند. و قانون RAISE که قوانین ایمنی و شفافیت را برای مدل‌های هوش مصنوعی مرزی تعیین می‌کند. علاوه بر این، قوانین دیگر شامل ممنوعیت مواد سوء استفاده جنسی از کودکان توسط هوش مصنوعی و قوانین قبلی است که برنامه‌های همراه هوش مصنوعی را ملزم می‌کند تا کاربرانی را که به خودآزاری اشاره می‌کنند به سمت منابع سلامت روان هدایت کنند.

این داستان در ابتدا در سایت Fortune.com منتشر شد