چرا حاکمیت و دیده شدن، دفاع واقعی در برابر خطرات حاکمیت هوش مصنوعی است

در ماه ژوئن، Anthropic دو مدل از توانمندترین مدل های هوش مصنوعی خود را تا به امروز منتشر کرد. طی چند روز، دولت ایالات متحده به این شرکت دستور داد تا دسترسی هر کاربر خارج از کشور را به دلیل نگرانی های امنیت ملی قطع کند.

آنتروپیک هیچ راه مطمئنی برای بررسی اینکه چه کسی از کجا وارد شده است نداشت. بنابراین، مدل‌ها را به‌طور کامل برای همه، از جمله مشتریان آمریکایی خود، طراحی کرد. دو هفته و نیم بعد، کنترل ها برداشته شد و دسترسی دوباره برگشت. یکی از این دو مدل به تعداد کمی از سازمان های تایید شده در ایالات متحده محدود می شود.

این توالی تعلیق، بازیابی و محدود کردن جزئی ارزش دیدن دارد. این نشان می‌دهد که دسترسی به ابزارهای هوش مصنوعی که یک کسب‌وکار در فعالیت‌های خود تعبیه کرده است، می‌تواند بر اساس جدول زمانی یک دولت به جای برنامه زمانی خود، بدون اطلاع کم یا بدون اطلاع قبلی تغییر کند.

برای رهبران امنیتی، این واقعیت جدیدی است که باید درباره آن برنامه ریزی کرد. ریسک در تعداد کمی از ارائه دهندگان متمرکز شده است، مقررات تحت کنترل شما قرار نگرفته است، و تنها چیزی که به درستی تحت کنترل شماست این است که تا چه حد اصول اساسی امنیت را پوشش داده اید.

ایجاد تاب آوری

این اپیزود از آن زمان به نقطه مرجعی در بحث های گسترده تر در مورد حاکمیت هوش مصنوعی تبدیل شده است و به درستی هم همینطور است.

اما اشتباه این است که آن را به عنوان داستانی در مورد یک فروشنده و یک دو هفته در ژوئن تلقی کنیم. الگوی پشت آن قبلا قبل از این اتفاق قابل مشاهده بود و اکنون نیز قابل مشاهده است. قابلیت حیاتی هوش مصنوعی در میان تعداد کمی از ارائه دهندگان متمرکز است که موقعیت تجاری، سیاستی یا نظارتی آنها می تواند با هشدار محدود تغییر کند.

رژیم های کنترل صادرات در هوش مصنوعی مرزی هنوز در حال شکل گیری هستند و هنوز حل نشده اند. در همین حال، چندین دولت از چند ماه گذشته برای سرعت بخشیدن به سرمایه گذاری مستقل هوش مصنوعی خود به جای اینکه منتظر بمانند که آیا این خطر تکرار می شود یا خیر، استفاده کرده اند.

کسب و کارها باید بدانند که درس عملی در اینجا پیش بینی اختلال بعدی نیست. درعوض، فرض بر این است که نیازهای دسترسی هوش مصنوعی، عملکرد، و حاکمیت، گاهی به طور ناگهانی تغییر می‌کنند و بر این اساس انعطاف‌پذیری ایجاد می‌شود.

تاب آوری در این زمینه معنای نسبتا خاصی دارد. این در مورد دانستن محل تعبیه هوش مصنوعی در کسب و کار، درک اینکه کدام فرآیندها و تیم ها به کدام ابزار بستگی دارند و داشتن یک برنامه اضطراری آماده قبل از تغییر چیزی است.

سازمان‌هایی که می‌توانستند به این سؤالات در ماه ژوئن پاسخ دهند، از نظر مادی در موقعیت بهتری نسبت به سازمان‌هایی بودند که هنوز با انتشار اخبار آن را بررسی می‌کنند.

اعتبار سنجی مستقل هنوز ضروری است

هنگامی که کنترل صادرات برداشته شد، به دنبال توافقی بین آنتروپیک و دولت ایالات متحده در مورد چگونگی علامت گذاری و بازنگری خطرات آتی صورت گرفت. این یک شروع است، اما هنوز هم یک شرکت و یک دولت این مشکل را بین خودشان حل می کنند، با شرایطی که عمدتا پشت درهای بسته تنظیم شده است.

پاسخ OpenAI به حادثه امنیتی خودش نیز از همین الگو پیروی می کند. پس از اینکه یکی از مدل‌هایش در حین آزمایش سیستم Hugging Face را نقض کرد، این شرکت بزرگترین دوره آموزشی مرزی خود را متوقف کرد و با استفاده از قضاوت خود در مورد آنچه حادثه مورد نیاز بود، پادمان‌های داخلی جدیدی را در جدول زمانی خود معرفی کرد.

دو تن از بزرگترین بازیگران صنعت در حال حاضر شرایط خود را برای چگونگی شناسایی و رسیدگی به ریسک هوش مصنوعی تعیین می‌کنند و انتظار می‌رود که کسب‌وکارها به سادگی به کافی بودن شرایط اعتماد کنند.

ابتکاراتی مانند شبکه بین‌المللی مؤسسه‌های ایمنی هوش مصنوعی به دلایل خوبی وجود دارد - هیچ فروشنده‌ای نباید تکالیف خود را در مورد اینکه یک مدل چقدر ایمن یا مخاطره‌آمیز است مشخص کند. با این حال، این نهادها همچنان تحت رهبری دولت هستند، بنابراین تقویت استقلال آنها باید در اولویت باشد.

این بدان معنا نیست که شما باید منتظر بلوغ حکومت جهانی باشید. با ایجاد توانایی خود برای زیر سوال بردن آنچه یک فروشنده یا یک تنظیم کننده به شما می گوید، به جای پذیرش آن به صورت واقعی، فعال باشید.

با دید شروع می شود

مهمتر از همه، شما نمی توانید در مورد چیزی که نمی توانید ببینید، ایمن، حکومت یا انعطاف پذیری ایجاد کنید. این نقطه شروع عملی است و جایی است که ریسک هوش مصنوعی بیشتر سازمان ها از بین می رود.

از کسب‌وکارها بخواهید فهرست کاملی از فناوری‌های هوش مصنوعی که در سراسر فعالیت‌هایشان اجرا می‌شوند را داشته باشند، و بسیاری از آنها به جای پاسخ دقیق، تخمینی را ارائه خواهند داد. مدل ها به دپارتمان به دپارتمان پذیرفته می شوند، گاهی به صورت رسمی، اغلب نه. داده‌ها بدون ثبت مرکزی در مورد مکان یا مدیریت برای کنترل افرادی که دسترسی دارند، به داخل و خارج از آنها جریان می‌یابد.

هیچ کدام از اینها غیرعادی نیست. زمانی که پذیرش از نظارت پیشی می گیرد، این همان چیزی است که بسیاری از سازمان ها در حال حاضر با هوش مصنوعی هستند.

تعمیر پیچیده نیست، حتی اگر حفظ نظم و انضباط لازم باشد. یک موجودی کار باید برای هر ابزار هوش مصنوعی در حال استفاده به چهار چیز پاسخ دهد – جایی که مدل قرار دارد، به چه داده‌هایی می‌تواند دسترسی داشته باشد، چه کسی به آن دسترسی دارد و چگونه تغییر در سیاست فروشنده، مقررات یا کنترل صادرات می‌تواند بر فرآیندهای ساخته شده در اطراف آن تأثیر بگذارد.

این آخرین نکته همان چیزی است که وقایع ژوئن آشکار کرد. در حال حاضر، درس کلیدی برای سازمان‌ها درک محیطی است که از آن محافظت می‌کنند و شکاف‌های دفاعی خود را در کنار یک طرح تداوم کسب‌وکار کاملا آزمایش‌شده بدانند. این اصول بیش از هر چیز دیگری در ماه های آینده اهمیت خواهند داشت زیرا این چشم انداز جدید بسیار غیرقابل پیش بینی باقی می ماند.

مشاهده از این نوع می‌تواند یک تقلا را به یک مشکل شناخته شده و قابل کنترل تبدیل کند که پیرامون آن بخش‌هایی از کسب‌وکار در معرض دید قرار می‌گیرند، نسخه بازگشتی چگونه به نظر می‌رسد و مدت زمانی که اجرا می‌شود. این تفاوت بین واکنش به اختلال و آمادگی برای آن است.

دولت ها و فروشندگان به شکل دادن به شرایط دسترسی به هوش مصنوعی ادامه خواهند داد. کسب‌وکارهایی که وابستگی‌های خود را می‌دانند، زمانی که شرایط دوباره تغییر کند، همچنان پابرجا خواهند ماند.

ما بهترین نرم افزار حفاظت نقطه پایانی را معرفی کرده ایم.

این مقاله به عنوان بخشی از TechRadar Pro Perspectives، کانال ما برای معرفی بهترین و باهوش ترین ذهن ها در صنعت فناوری امروز تهیه شده است.

نظرات بیان شده در اینجا نظرات نویسنده است و لزوما نظرات TechRadarPro یا Future plc نیست. اگر مایل به مشارکت هستید، اطلاعات بیشتری را در اینجا بیابید: https://www.techradar.com/pro/perspectives-how-to-submit