منابع آسوشیتدپرس: کارکنان مرکز ایمنی هوش مصنوعی ایالات متحده به کاخ سفید گزارش می دهند و نگرانی های مربوط به استقلال را افزایش می دهند.

گارنس برک، آسوشیتدپرس گارنس برک، آسوشیتدپرس

سان فرانسیسکو (AP) - با افزایش نگرانی عمومی نسبت به گزارش‌های فزاینده درباره عوامل هوش مصنوعی خارج از کنترل، بخش کوچک دولت ایالات متحده که مسئول ارزیابی ایمنی ارائه‌های جدید هوش مصنوعی است، فاقد رهبر دائمی است و انتشار تحقیقات خود را متوقف کرده است.

از مقامات مرکز پیشرفت نوآوری و استانداردهای ابراطلاعات یا CAISSI، بخش مستقل وزارت بازرگانی، اخیرا خواسته شد که به طور غیررسمی به دفتر کاخ سفید گزارش دهند. این به گفته دو مقام دولتی سابق با اطلاع از گفتگوهای جاری است که به شرط ناشناس ماندن با آسوشیتدپرس صحبت کردند تا از عواقب آن برای کارکنان فعلی جلوگیری کنند.

ترتیب جدید به برخی از منتقدان مربوط می شود که نگران این هستند که قوه مجریه ممکن است تصمیماتی را سیاسی کند که می تواند بر همه چیز از امنیت سایبری گرفته تا سلاح های زیستی تأثیر بگذارد و یافته های مرکز ممکن است به دلیل احترام به صنعت فناوری که عمدتا به خود پلیس سپرده شده است تغییر یابد یا خاموش شود.

کارولین سیگل سینگ، مدیر برنامه های فناوری هوش مصنوعی و نوظهور فدراسیون دانشمندان آمریکایی، گفت: "اینها مؤسسات واقعا قدرتمندی هستند که می توانند زندگی ما را به شدت بهبود بخشند یا جایگزین. و امید این است که شما بتوانید کارشناسان تکنوکرات غیرحزبی یا دو حزبی را استخدام کنید تا سیاستی را به گونه ای اجرا کنند که به بهترین نحو در خدمت عموم مردم آمریکا باشد."

برخی دیگر استدلال می‌کنند که نزدیک‌تر کردن مقامات ایمنی هوش مصنوعی به مدار رئیس‌جمهور دونالد ترامپ، که رویکردی غیرممکن به این موضوع داشته است، می‌تواند به این بخش اهمیت بیشتری بدهد - و شاید بودجه بیشتری داشته باشد.

در ماه آوریل، مدیر بخش استخدام شد و پس از چند روز اخراج شد. جایگزینی او چند ماه قبل از استعفا به طول انجامید و از آن زمان تا کنون این مرکز بدون رهبر دائمی بوده است، اگرچه رئیس مؤسسه مادر به عنوان مدیر موقت آن فعالیت می کند.

در ماه آگوست، کنگره شروع به پرسیدن این سوال کرد که چرا مرکز به طور ناگهانی گزارش های خود را در مورد عملکرد ایمن برخی از سیستم های هوش مصنوعی متوقف کرد. غول سانفرانسیسکو OpenAI نیز تا آن زمان وارد عمل شده بود و از سیاستگذاران خواسته بود که پول و حمایت بیشتری را پشت سر این بخش بگذارند.

کاخ سفید به سوالات خاصی در مورد CAISSI پاسخ نداد. اما در بیانیه ای اعلام کرد که ترامپ به طور رسمی نیروی ابر اطلاعاتی جدید خود را تأسیس کرده است - دوره ترجیحی رئیس جمهور برای هوش مصنوعی. کاخ سفید گفت: ترامپ گزارشی درباره خطرات را از شورای مشاوران علم و فناوری خود سفارش داده است و از «ادامه رهبری ایالات متحده در SI به نفع مردم آمریکا» اطمینان حاصل خواهد کرد.

دولت فدرال اغلب نقش فعالی در تصمیم گیری در مورد اینکه چه چیزی برای عموم ایمن است ایفا می کند.

به عنوان مثال صنعت خودرو را در نظر بگیرید. اداره ملی ایمنی ترافیک بزرگراه‌ها، آدمک‌های تست تصادف را در اتومبیل‌ها نصب می‌کند و سپس آن‌ها را به دیوارها می‌اندازد تا نحوه تأثیرگذاری بر بدن انسان از برخورد وسایل نقلیه را اندازه‌گیری کند. سپس محققان دولتی داده‌های تست تصادف را تجزیه و تحلیل می‌کنند، آن را با مردم به اشتراک می‌گذارند و استانداردهای ملی را برای بهبود ایمنی خودرو تجویز می‌کنند، همه اینها با هدف نجات جان افراد و کاهش هزینه‌های اقتصادی ناشی از تصادفات است.

با مدل های هوش مصنوعی، تست ایمنی بسیار متفاوت به نظر می رسد.

در زمان جو بایدن، رئیس‌جمهور وقت، شرکت‌های پیشرو هوش مصنوعی داوطلبانه موافقت کردند که «توسعه ایمن، ایمن و شفاف» مدل‌های خود را با به اشتراک گذاشتن جزئیات با بخش جدید وزارت بازرگانی و پیروی از دستورالعمل‌های دولت برای آزمایش‌ها و گزارش‌های شفافیت، ترویج کنند.

سازمان دیده بان: ترامپ توافقنامه امضا شده توسط شرکت های برتر هوش مصنوعی برای توسعه «خود پلیس» را اعلام کرد

در ماه سپتامبر، به دنبال گزارش‌های نگران‌کننده مبنی بر فرار سیستم‌های هوش مصنوعی از کنترل سازندگان، ترامپ از شرکت‌های پیشرو هوش مصنوعی درخواست کرد تا به عنوان بخشی از یک پیمان ایمنی داوطلبانه، «خودپلیسی عظیم» را انجام دهند، اما دولت او نگفته است که چگونه بر اجرای شرکت‌های هوش مصنوعی نظارت خواهد کرد.

این فناوری به سرعت در حال پیشرفت است که اکنون بسیاری از مدل‌ها به‌عنوان عوامل هوش مصنوعی به کار گرفته می‌شوند که بدون تذکر انسان کار می‌کنند و می‌توانند گام‌های بی‌شماری را در محیط‌های واقعی برنامه‌ریزی کنند، مانند موردی که اخیرا یک مامور هوش مصنوعی در مورد یک پرونده قتل حل‌نشده به پلیس فیلادلفیا اطلاعات نادرستی فرستاد.

با افزایش قابلیت‌های هوش مصنوعی، ظرفیت دولت برای بررسی مستقل این سیستم‌ها به سرعت پیش نرفت. سایاش کاپور، استادیار دانشگاه کالیفرنیا در دانشکده اطلاعات برکلی، گفت: هنوز هیچ فرآیند استانداردی برای آزمایش عملکرد ایمن عوامل هوش مصنوعی در دنیای واقعی وجود ندارد، حتی در موارد ساده مانند زمانی که ماموران هوش مصنوعی یک پرواز را رزرو می کنند.

کاپور، یکی از نویسندگان مقاله جدیدی که ارزیابی های ماموران را بررسی می کند، گفت: "روش های قبلی ما فقط به پاسخ نهایی، بررسی نهایی، و اینکه آیا پرواز به درستی رزرو شده است، نگاه می کرد. و در این مورد، ممکن است به نظر برسد که کار به درستی حل شده است." "اما تا زمانی که به کل مجموعه مراحلی که یک مامور انجام داده نگاه نکنید، نمی توانید بگویید که مامور اشتباه بزرگی انجام داده است."

زمانی که ترامپ دومین دوره ریاست جمهوری خود را آغاز کرد، در ابتدا دیوید ساکس و سریرام کریشنان را به ترتیب به عنوان پادشاه هوش مصنوعی و مشاور ارشد سیاست هوش مصنوعی قدرت داد. تخصص آنها در سرمایه گذاری های فنی پیشرو بود، نه ارزیابی فنی مدل های هوش مصنوعی.

هر دو اوایل امسال از سمت خود کناره‌گیری کردند اما ساکس اکنون در شورای مشورتی فناوری ترامپ خدمت می‌کند. و پس از استعفای یک مهندس نسبتا ناشناخته آنتروپیک و هشدار در مورد خطرات توسعه هوش مصنوعی، ترامپ یک سری تغییرات در سیاست ایجاد کرد.

ترامپ به جی کلایتون، مدیر اطلاعات ملی، قدرت داد تا نیروی ابر اطلاعاتی جدید خود را رهبری کند که به گفته رئیس‌جمهور، ایالات متحده را در توسعه هوش مصنوعی مسلط نگه می‌دارد.

آموس تو، مشاور ارشد مرکز جاست، گفت که انتصاب کلایتون به سمت این نیرو، همراه با مدیر ارشد فناوری پنتاگون، امیل مایکل، نشان می‌دهد که چگونه دولت برای تصمیم‌گیری درباره ایمنی مدل به‌عنوان یک موضوع امنیت ملی که نیاز به صلاحدید اجرایی و رازداری دارد، فشار می‌آورد و خطرات هوش مصنوعی برای حفاظت از مصرف‌کننده، حریم خصوصی و حقوق مدنی را تحت الشعاع قرار می‌دهد.

تماشا کنید: گری مارکوس می‌گوید خودتنظیمی برای ایمنی هوش مصنوعی کافی نیست

حتی زمانی که شرکت‌های دره سیلیکون نقش مدل‌های خود را در حملات سایبری نگران‌کننده در سال جاری فاش کرده‌اند، CAISSI در مورد آزمایش ایمنی هوش مصنوعی خود را پایین نگه داشته است.

داریو آمودی، مدیرعامل آنتروپیک و سام آلتمن، مدیر عامل OpenAI، همچنین کار شرکت‌های ارزیابی مستقل را برای کمک به بررسی شیوه‌های ایمنی شرکت‌هایشان تبلیغ می‌کنند، اما غول‌های هوش مصنوعی می‌توانند دسترسی خود را محدود کرده و از ارزیابی‌های خود صرف نظر کنند.

لوگان کوپکه، مدیر ارشد پروژه در سازمان غیرانتفاعی حقوق مدنی و فناوری Upturn گفت: «اگر بزرگترین شرکت‌های هوش مصنوعی تشویق شوند تا سیستم‌های ارزیابی داخلی خود را راه‌اندازی کنند و/یا ارزیاب‌های خارجی را استخدام کنند، این مأموریت نامشخص برای ارزیاب‌های دولتی وجود دارد. "مثلا، آزمایش دولتی واقعا در آن سناریو چه نقشی دارد؟"

به گفته تو، اجازه دادن به آزمایشگاه‌ها برای کنترل مدل‌های خود و عدم شفافیت نقش دولت در آزمایش ایمنی هوش مصنوعی، بررسی‌های مستقل روی سیستم‌های هوش مصنوعی را تضعیف می‌کند که می‌تواند باعث آسیب‌های دنیای واقعی شود.

وی گفت: «در پایان، همه این تصمیمات دارای پیامدهای عمومی بسیار زیاد است و باید در انظار عمومی توضیح داده شود و منطقی شود.» "و این اتفاق نمی افتد."

از روزنامه نگاری قابل اعتماد و گفتگوی مدنی حمایت کنید.