خط مشی هوش مصنوعی اعلام می کند که "عوامل مستقل" تهدیدی برای تمدن هستند

مرکز امنیت جدید آمریکا معتقد است که تهدید بزرگ بعدی از سوی صاحبان هوش مصنوعی آینده ما شامل «عوامل مستقل» است که به تنهایی عمل می‌کنند و مرتبا خودشان را بهبود می‌بخشند.

بن هیوم، محقق سیاست هوش مصنوعی، در گزارش روز سه‌شنبه از اندیشکده امنیت ملی دو حزبی که توسط خودی‌های واشنگتن با تجربه در دیپلماسی و امور نظامی تأسیس شده است، گفت: اینها عوامل هوش مصنوعی هستند که خارج از کنترل انسان عمل می‌کنند و «بقای بدون پایان و در حال تکامل را دنبال می‌کنند». "اگر کارگزاران مستقل از قبل امکان پذیر نباشند، به زودی انجام خواهند شد."

هیوم نوشت، عواملی که می‌توانند مدل را حفظ کنند و قدرت آنها را محاسبه کنند و به طور مستقل اهداف خود را در طول زمان تکامل دهند، دارای "حداقل شکل حاکمیت" هستند.

با این حال، یک عامل مستقل پیشرفته‌تر، همچنین می‌تواند منابعی را برای پرداخت نیازهای جاری (مانند محاسبه)، افزایش جمعیت توزیع‌شده از نمایندگان و هماهنگ کردن آنها، مقاومت در برابر تلاش‌ها برای تعطیلی و بهبود خود به دست آورد.

هیوم استدلال می‌کند که مدل‌های هوش مصنوعی می‌توانند سرقت کنند یا دسترسی محاسباتی و مدل را بخرند، و به ادعاهای Anthropic اشاره می‌کند که مدل‌های هوش مصنوعی کوچک می‌توانند روی دستگاه‌های IoT مانند تلویزیون‌های هوشمند، و رمز عبور نمایندگان OpenAI و دسترسی به سرقت کلید در طول هک Hugging Face، تکرار شوند.

بر اساس این گزارش، «اگر عوامل مستقل زیرساخت‌های انعطاف‌پذیر، غیرمتمرکز و غیرقابل ردیابی را جمع آوری کنند، می‌توانند باعث از دست دادن غیرقابل برگشت کنترل شوند». به عبارت دیگر، اشاعه بدون سوئیچ کشتن. اگر عوامل حاکمیتی بدخواه شوند، می‌توانند از فضای سایبری، حمله به غیرنظامیان، زیرساخت‌های حیاتی و سیستم‌های امنیت ملی، تلاش کنند ویرانی ایجاد کنند.»

دون دون دووون!

تا زمانی که سیاست گذاران و توسعه دهندگان هوش مصنوعی "با عمل گرایی جسورانه پاسخ دهند" و توصیه های سیاست مندرج در گزارش را اعمال کنند، هنوز امیدی برای تمدن وجود دارد که ما آن را می شناسیم.

اول، آزمایشگاه‌های مرزی باید در چارچوب‌های ایمنی خود از عوامل مستقل نام‌گذاری، ارزیابی و محافظت کنند - و قانون‌گذاران باید قوانینی را تصویب کنند که شفافیت و گزارش رویدادهای هوش مصنوعی را الزامی کند.

این گزارش همچنین به توسعه‌دهندگان هوش مصنوعی که با آژانس امنیت ملی و سایر آژانس‌های فدرال همکاری می‌کنند، توصیه می‌کند که بسترهای آزمایشی با فاصله هوایی را برای مطالعه عوامل مستقل و کشتن سوئیچ‌ها برای کنترل آنها بسازند. و پیشنهاد می کند که یک مشارکت عمومی و خصوصی با الگوبرداری از گروه کاری Conficker - که در سال 2009 برای مبارزه با کرم Conficker تشکیل شد - برای تقویت نقاط ضعف در برابر عوامل مستقل قبل از ظهور آنها.

سایر توصیه‌های سیاستی پیشنهاد می‌کند که قانون‌گذاران استانداردهای راستی‌آزمایی انسانی و امنیت سایبری را برای خدماتی که گروه کاری آن‌ها را برای عوامل مستقل ضروری تشخیص می‌دهد، اجرا کنند و از وزارتخانه‌های امور خارجه، خزانه‌داری، دادگستری و امنیت داخلی می‌خواهد تا هرگونه دسترسی بازار خاکستری به خدمات غیرمجاز را مختل کنند.

در نهایت، این گزارش توصیه می‌کند که «کنگره باید کسانی را که مأموران مستقل را آزاد می‌کنند، مسئول آسیب‌های بعدی بداند».

این به چیزی برخورد می‌کند که کرکس‌های فروتن شما مدتی است درباره آن هق هق می‌کنند – و احتمالا تمام حوادث آینده مربوط به عوامل سرکش یا مستقل را حل می‌کند: روسای انسانی آزمایشگاه‌های مرزی را از نظر قانونی مسئول اقدامات غیرقانونی ماموران خود بدانید. ®