فرماندار کالیفرنیا، نیوسام، مقررات هوش مصنوعی را در حالی که به نامزدی ریاست جمهوری 2028 چشم دوخته است، تقویت می کند

سانفرانسیسکو، ایالات متحده – گاوین نیوسام در آخرین فرمان‌های اجرایی خود که به عنوان فرماندار کالیفرنیا امضا شد، که دوره پایانی او در ژانویه به پایان می‌رسد، با صدور فرمانی خواستار تأیید مستقل مدل‌های هوش مصنوعی و تشکیل کمیته‌ای متخصص برای ایجاد سوئیچ‌های کشتار برای عوامل هوش مصنوعی شد که ممکن است سرکش باشند و باعث آسیب شوند.

در سال 2024، نیوسام لایحه ای را که در مجلس ایالتی تصویب شد وتو کرد و خواستار الزامات مشابهی شد که اکنون فرماندار در فرمان اجرایی خود خواستار آن شده است. نیوسام در آن زمان گفت که این به معنای "خنثی کردن وعده این فناوری" است.

اکنون که به نامزدی ریاست‌جمهوری ایالات متحده در سال 2028 چشم دوخته است، می‌خواهد تعریف حوادث ایمنی را گسترش دهد، به‌طور بالقوه شامل مجموعه‌ای از نقض‌های ایمنی اخیر، بررسی سوئیچ کشتن و شامل سایر اقداماتی که در لایحه وتو شده بود را شامل شود.

الکس هانا، مدیر تحقیقات موسسه تحقیقاتی هوش مصنوعی توزیع شده (DAIR) می گوید: «او در اینجا در دوره اردک لنگ است. "او در حال تنظیم چیز بعدی خود است."

هانا می‌گوید، رای‌دهندگان آمریکایی به طور فزاینده‌ای نگران ایمنی هوش مصنوعی، مراکز داده و از دست دادن شغل هستند و این می‌تواند نشان دهد که Newsom برای رسیدگی به این موضوع اقدام می‌کند.

پس از وتوی لایحه 2024، نیوسام از اسکات وینر، سناتور ایالتی که پیش نویس این لایحه را تهیه کرده بود، خواسته بود تا آن را با مشورت با یک کمیته متخصص، دوباره تدوین کند. او لایحه هوش مصنوعی مرزی را امضا کرد که اولین لایحه در کشور است که در اکتبر 2025 به قانون تبدیل شد. این لایحه از توسعه دهندگان بزرگ می خواهد که برخی حوادث ایمنی، از جمله مرگ 50 نفر یا بیشتر، حملات سایبری در مقیاس بزرگ یا سرقت پولی را افشا کنند.

کریستابل راندولف، معاون مدیر مرکز هوش مصنوعی و سیاست دیجیتال (CAIDP)، می‌گوید: «به نظر می‌رسد که فرماندار با این فرض عمل می‌کند که سرعت پایین‌تر مقررات کافی است زیرا شرکت‌ها سرمایه‌گذاری‌های خود را سرعت می‌دهند، و پیش‌بینی نمی‌کردند که شرکت‌ها ریسک‌ها را تسریع کنند.»

طبق گزارش‌ها، شرکت‌های هوش مصنوعی در چند ماه گذشته هزاران حادثه ایمنی در آزمایش‌های داخلی و واقعی داشته‌اند. اینها شامل تلاش های نمایندگان برای دریافت اطلاعات از کمیسیون بورس و اوراق بهادار ایالات متحده و اداره سرشماری و همچنین اطلاعات محرمانه از سایت های دولتی استرالیا و کانادا است. Hugging Face استارت‌آپ هوش مصنوعی پیشتر فاش کرده بود که عوامل OpenAI به سیستم‌های آن نفوذ کرده‌اند که یکی از انبوهی از چنین حوادثی است.

تارا گالیگوس، مدیر ارتباطات فرماندار به الجزیره گفت: «هیچ فرمانداری به اندازه فرماندار نیوسام در مقابله با خطرات هوش مصنوعی پیشرو نبوده است.

نیوسام در پیام خود مبنی بر وتوی این لایحه در سپتامبر 2024 گفته بود «این لایحه استانداردهای سختگیرانه ای را حتی برای اساسی ترین کارکردها اعمال می کند» و خاطرنشان کرد که 32 شرکت از 50 شرکت پیشرو هوش مصنوعی در کالیفرنیا هستند.

نمایندگان صنعت نیز علیه این لایحه تجمع کرده بودند.

آنجنی میدا، شریک عمومی شرکت سرمایه‌گذاری خطرپذیر مستقر در خلیج، آندرسن هوروویتز، در آن زمان گفت: «در اصل، این لایحه باعث ایجاد این مالیات قهقرایی فاجعه‌بار بر نوآوری هوش مصنوعی می‌شود. میدا هشدار داد که در صورت تصویب، بنیانگذاران هوش مصنوعی مجبور خواهند شد به جای دیگری نقل مکان کنند.

گالیگوس، سخنگوی نیوسام به الجزیره گفت: «این صورتحساب زمانی که به میز او رسید غیرقابل اجرا بود.

اما حمید اکبیا، استاد دانشگاه سیراکیوز و مدیر مؤسس اتحادیه دانشگاهی برای سیاست هوش مصنوعی، می‌گوید نمی‌توان به صنعت برای تنظیم خود اعتماد کرد.

اکبیا به الجزیره گفت: «نیاز به شکستن انحصار شرکت‌های بزرگ هوش مصنوعی وجود دارد.

او با اشاره به عرضه‌های عمومی آتی Open AI و Anthropic و معافیت‌های مالیاتی که برخی از شرکت‌ها از آنها برای ایجاد مراکز داده استفاده می‌کنند، گفت: «مخاطرات مالی آن‌ها برای خود تنظیمی بسیار زیاد است.

Newsom اکنون یک کمیته تخصصی برای بررسی راه‌اندازی سوئیچ kill، که در لایحه اولیه به شیوه‌ای جامع‌تر پیشنهاد شده بود، تشکیل داده است.

AIDP گفت: «SB 1047 [لایحه‌ای که وتو شد] یک معماری مشخص داشت؛ EO [دستور اجرایی] تنها شامل یک جنبه است - مکانیسم‌های Kill Switch یا shutdown/stoppage، که کاملا متفاوت و ضعیف‌تر از تعهد خاتمه قبلی SB 1047 است، که نیاز به اقدامات ایمنی قوی‌تری داشت، حتی قبل از شروع دوره‌های آموزشی مدل Raph.

هانا از DAIR می‌گوید که با این دستور، نیوسام «بدون برنامه‌ریزی جدی نشان می‌دهد که مراقب است».

ربکا فینلی، مدیر اجرایی شراکت برای هوش مصنوعی، یک سازمان غیرانتفاعی که بر روی حاکمیت فناوری کار می کند، می گوید: «ما در حال ایجاد زمینه ایمنی هوش مصنوعی در زمان واقعی هستیم.

Newsom از دفتر خدمات اضطراری کالیفرنیا خواسته است تا توصیه هایی را در مورد مقررات هوش مصنوعی تا 15 نوامبر ارسال کند و می تواند یک جلسه قانونی ویژه برای بحث در مورد چگونگی اجرای این موارد، احتمالا قبل از پایان دوره او، تشکیل دهد.

این برخلاف دولت فدرال است که بر خود تنظیمی توسط صنعت فشار آورده است. راندولف از CAIDP می‌گوید کالیفرنیا می‌تواند نقش مهمی در تنظیم مقررات هوش مصنوعی ایفا کند، زیرا بخش عمده‌ای از صنعت جهانی هوش مصنوعی در آنجا مستقر است.

هانا از DAIR می‌گوید نیوسام نه تنها به دنبال نشان دادن تضاد با رئیس‌جمهور ایالات متحده، دونالد ترامپ است، که معتقد به خودتنظیمی توسط شرکت‌ها است و ماه گذشته با چندین رهبر هوش مصنوعی توافقنامه‌ای داوطلبانه امضا کرد، بلکه با رقبای احتمالی دموکرات نیز موافقت کرد.

او گفت: «با این، نیوسام می‌تواند در مرحله بحث اولیه خوب به نظر برسد.

گالیگوس، سخنگوی فرماندار، به الجزیره گفت: «فرماندار نیوسام علاقه‌ای به علامت‌گذاری فضیلت یا تعقیب سرفصل‌ها ندارد - او با اتخاذ رویکردی هوشمندانه‌تر، استراتژیک‌تر و مؤثرتر برای رسیدگی به فناوری مرزی، کشور را رهبری می‌کند».

کارشناسان می گویند که همراه با دستور Newsom برای ایجاد کمیته ای برای بررسی سوئیچ kill، نیاز به اقداماتی برای کنترل در سراسر چرخه زندگی برای تقویت ایمنی وجود دارد.

شراکت برای هوش مصنوعی Finlay گفت: "ایمنی باید ایجاد شود. هنگامی که آخرین مدل ChatGPT منتشر شد، ما 12 دستورالعمل را در طول چرخه زندگی صادر کردیم. نیاز به ویژگی های ایمنی در طول چرخه عمر وجود دارد."

همانطور که Newsom چنین توصیه‌هایی را از سوی آژانس‌های کالیفرنیا و کمیته تخصصی بررسی می‌کند، اکبیا می‌گوید دولت‌ها "باید از آنچه در رسانه‌های اجتماعی رخ داد درس بگیرند. تعداد انگشت شماری از شرکت‌هایی که کنترل داشتند توانستند آسیب‌های زیادی وارد کنند،" و با رویکردی پیش‌بینی‌کننده قوانین را تنظیم کنند و انحصار شرکت‌ها را در نظر بگیرند.