Rogue AI زنگ خطری برای حاکمیت دیجیتال بریتانیا است

اکنون ردیابی هر بار که مدل‌های OpenAI و Anthropic محدودیت‌ها را می‌شکنند، در وب گسترده‌تر سرگردان می‌شوند و هرج‌ومرج ناخواسته و پرخطر ایجاد می‌کنند، بسیار دشوار است.

موج اخیر حوادث سرکش عوامل هوش مصنوعی اکنون دولت دونالد ترامپ، رئیس جمهور ایالات متحده را بر آن داشته است تا قدرت بیشتری بر ابزارهای هوش مصنوعی اعمال کند.

این حوادث آسیب پذیری عمیقی را برای بریتانیا آشکار می کند. اگر مدل‌های پیشرفته هوش مصنوعی به‌طور غیرقابل پیش‌بینی با داده‌های حساس عمل می‌کنند و کمپین‌های هک را علیه افراد واقعی انجام می‌دهند، چه اتفاقی می‌افتد وقتی این داده‌ها در زیرساخت‌های متعلق به خارجی میزبانی، پردازش و اداره می‌شوند؟

برای مدت طولانی، فناوری اطلاعات بریتانیا اساسا کلیدها را به غول‌های فناوری ایالات متحده داده است. تحقیقات بازار CMA در مورد خدمات ابری نشان داد که آمازون و مایکروسافت 70 تا 90 درصد از بازار رایانش ابری بریتانیا را کنترل می کنند. و یکی دیگر از نیروگاه های دیجیتال ایالات متحده در گوگل، سهم کمتری را کنترل می کند.

این ابرمقیاس‌کننده‌ها اغلب افسانه‌های بازاریابی در مورد مراکز داده منطقه‌ای «مختار» واقع در خاک بریتانیا را تکرار می‌کنند. متاسفم که حامل اخبار بد هستم، اما عمل ذخیره داده ها در یک مرکز داده مستقر در بریتانیا برای تضمین حاکمیت کافی نیست.

در واقع، این غول‌های فناوری در حال «شستن حاکمیت» هستند. چرا؟ زیرا اگر نهاد کنترل کننده مشمول صلاحیت قانونی خارجی باشد، مانند قانون CLOUD ایالات متحده، مقامات خارجی می توانند دسترسی به آن داده ها را مجبور کنند. این مهم نیست که سخت افزار فیزیکی در کجا قرار دارد. میزبانی داده ها در سرورهای متعلق به خارجی اساسا فقط پرداخت اجاره در زمین دیجیتال است که تابع قوانین خارجی است.

از آنجایی که عوامل هوش مصنوعی مستقل متعلق به کشورهای خارجی، حجم وسیعی از داده‌های حیاتی سازمانی و دولتی را پردازش می‌کنند و به طور فزاینده‌ای به دشمنی تبدیل می‌شوند، تصمیم برای ساخت آینده هوش مصنوعی بریتانیا بر روی پشته‌های اختصاصی خارجی، کوته‌بینانه‌تر به نظر می‌رسد. احتمال نقض امنیت مالی، حقوقی و ملی به سادگی ارزش ریسک را ندارد.

زمان آن فرا رسیده است که بریتانیا به اتکای بیش از حد خود به ارائه دهندگان ابری مستقل پایان دهد و با حمایت از فناوری بریتانیا، استقلال دیجیتال واقعی را ایجاد کند.

پرداخت "مالیات حاکمیتی"

با ادامه تکیه بر انحصارهای فناوری خارجی، مؤسسات بریتانیایی «مالیات بر حاکمیت» سنگینی می پردازند. منظورم این است که بار موذیانه، پنهان و پیوسته انباشته شده ساختن سیستم های حیاتی بر روی پلتفرم هایی که نمی توانید به طور کامل بر آن ها حکومت کنید.

فرامقیاس‌کننده‌ها در سازمان‌های بریتانیا با استفاده از اعتبارات ابری تهاجمی و قیمت‌های اولیه پایین به چرخش در می‌آیند. اما هنگامی که آنها در این سیستم های ابری تعبیه می شوند، آن شرکت ها اغلب ترک آنها را دشوار می کنند. این می تواند به شکل هزینه های خروج داده، بدهی فنی اختصاصی، قرار گرفتن در معرض قطع، قوانین محدود کننده مجوز و نقاط کور حسابرسی باشد. همه اینها به این درک خزنده می‌افزاید که ترک ارائه‌دهنده فعلی شما سخت‌تر و گران‌تر از آن چیزی است که تا به حال پیش‌بینی می‌کردید.

این توضیح می‌دهد که چرا 66 درصد از رهبران فناوری اطلاعات بریتانیا می‌گویند که در نظر دارند ارائه‌دهندگان ابری را تغییر دهند تا کنترل داده‌ها و زیرساخت‌های خود را دوباره به دست آورند. با این حال، علیرغم این تمایل آشکار برای رهایی، نسبت رهبران فناوری اطلاعات بریتانیا که انتظار دارند حتی عمیق‌تر در سیستم‌های هایپراسکیلر ایالات متحده مستقر شوند، در سال گذشته بیش از دو برابر شده و از 12 درصد به 28 درصد افزایش یافته است.

با توجه به اینکه یک مطالعه اخیر از Proton Research نشان داد که 45٪ از مصرف کنندگان فعالانه از تجارت با شرکت هایی که داده ها را با شرکت های آمریکایی ذخیره می کنند، بسیار عجیب به نظر می رسد. در همین حال، بیش از نیمی (58٪) با خوشحالی هزینه های بیشتری را برای تغییر به یک ارائه دهنده مستقل پرداخت می کنند.

این پویایی به دام افتادن اجباری بدون شک عصر فئودالیسم دیجیتالی را ایجاد کرده است. گروه کوچکی از اربابان فناوری خارجی مالک زمین دیجیتال زیربنایی هستند، در حالی که شرکت‌های بریتانیایی و نهادهای بخش عمومی صرفا به عنوان رعیت وجود دارند... و برای حق فعالیت، ادای همیشگی می‌پردازند. و هزینه های عملیاتی در دنیای واقعی این اتکا در حال افزایش است. در طول سال گذشته، 39 درصد از شرکت‌های بریتانیایی با قطعی‌های ناشی از مقیاس‌کننده‌های بزرگ ایالات متحده آسیب دیدند که در نتیجه قرار گرفتن در معرض خطر برای برخی سازمان‌ها بیش از یک میلیون پوند هزینه داشت.

از آنجایی که سازمان‌ها به طور فزاینده‌ای حجم‌های کاری هوش مصنوعی فشرده‌تر و محاسباتی بیشتری را در این پلتفرم‌ها مستقر می‌کنند، قفل فنی تنها به عمیق‌تر شدن ادامه می‌دهد.

این نه تنها ارزش تجاری را کاهش می دهد، بلکه به معنای مشاغل مهندسی با مهارت بالا نیز هست و IP به جای ماندن در بریتانیا، در سراسر اقیانوس اطلس حرکت می کند.

خطرات قانونی و امنیتی

همانطور که استفاده مستقل از هوش مصنوعی افزایش می یابد، خطرات قانونی و عملیاتی نیز این کار را انجام می دهند. عوامل هوش مصنوعی با لایه‌های پایگاه داده، IP شرکت و داده‌های حساس شهروندان در حین اجرای وظایفی که تعیین شده‌اند، تعامل دارند.

اگر این داده ها در یک اکوسیستم تحت کنترل خارجی قرار داشته باشند، سازمان های بریتانیا کنترل صلاحیت خود را بر آن از دست می دهند. بدون حاکمیت واقعی داده‌ها، قدرت‌های خارجی به‌طور مؤثری «سوئیچ کشتار» را بر روی زیرساخت‌های حیاتی بریتانیا نگه می‌دارند. به عنوان مثال، اگر یک تراست NHS انگلستان برای تریاژ بیمار به یک عامل هوش مصنوعی میزبان خارجی متکی باشد، یک اختلاف قانونی در کشور دیگری می‌تواند باعث قطع دسترسی ناگهانی شود. این می تواند عملیات بیمارستان را فلج کند و سوابق بهداشتی حساس را در دست کنترل خارجی قرار دهد.

با متمرکز کردن توانایی ملی بریتانیا در یک تک‌فرهنگ تنها با مالکیت خارجی، ما همچنین یک نقطه شکست متمرکز ایجاد می‌کنیم. چه اتفاقی می‌افتد اگر ایالات متحده سیاست خود را تغییر دهد و دسترسی را لغو کند و بریتانیا را بر زیرساخت‌های حیاتی خود ناتوان بگذارد؟

حملات پهپادی و موشکی که در ماه مارس به تأسیسات خدمات وب آمازون در امارات متحده عربی اصابت کرد و دو منطقه از سه منطقه در دسترس را در منطقه آفلاین کرد، همچنین گواه روشنی بود که ابر یک ابزار بدون مرز و آسیب ناپذیر نیست. برای اینکه بریتانیا امنیت واقعی را حفظ کند، به معماری توزیع شده انعطاف‌پذیر نیاز دارد.

استقلال دیجیتال بریتانیا

لازم به ذکر است که هایپراسکیلرهای جهانی بدون شک جایگاهی در کاربردهای غیر حساس و کم خطر دارند. اما اولویت دادن به حاکمیت دیجیتال یک عمل انزواگرایی دیجیتالی نیست.

این واقعیت که دولت بریتانیا یک ابتکار 500 میلیون پوندی Sovereign AI در آوریل ایجاد کرد، نشان می‌دهد که سیاست‌گذاران اهمیت انعطاف‌پذیری دیجیتال و حفظ کنترل را درک می‌کنند.

اما این حمایت از نوآوری داخلی همچنان تضعیف خواهد شد اگر هزینه های محاسباتی عمومی به سمت معاملات چند ساله با شرکت های خارجی متصدی هدایت شود.

استراتژی تدارکات دولت باید بر خرید فعال از ارائه دهندگان ابر داخلی متمرکز باشد تا جاه طلبی استراتژیک آن برای ایجاد یک نیروگاه فناوری در بریتانیا کارساز باشد.

در همان زمان، قفل فروشنده اختصاصی در اکوسیستم های حلقه بسته رشد می کند. بریتانیا باید فناوری منبع باز و معماری های باز را به عنوان دارایی های ملی تلقی کند. وقتی از استانداردهای باز استفاده می کنید، انتقال مدل ها و داده های هوش مصنوعی بین ابرهای عمومی، خصوصی و محلی بدون دردسر است. به جای قفل شدن در یک تنظیم، انعطاف پذیری واقعی را دریافت می کنید. و از همه مهمتر، سازمان های بریتانیایی از پرداخت هزینه های گزاف انتقال اجتناب می کنند.

همسایگان اروپایی ما در حال حاضر در پذیرش حاکمیت واقعی پیشرو هستند. فرانسه Zoom و Office را برای اکوسیستم های مستقل و منبع باز کنار می گذارد و آلمان از Nextcloud برای جایگزینی Google Docs استفاده می کند.

بریتانیا دارای پلتفرم های ابری داخلی توانمندی است. ما ظرفیت فنی و استعداد آماده به مقیاس را داریم. و شرکت‌های بریتانیایی فریاد می‌زنند که از فناوری‌های داخلی حمایت کنند. 90 درصد از رهبران فناوری اطلاعات خواستار موضع گیری فعال تر دولت در حمایت از شرکت های بریتانیایی هستند. ما فقط به شجاعت تدارکات برای مطابقت نیاز داریم.

کنترل سرنوشتمان

ماهیت غیرقابل پیش‌بینی و بی‌سابقه عوامل هوش مصنوعی مستقل به این معنی است که بریتانیا باید آنچه را که تاکنون انجام داده است، دوباره ارزیابی کند. ساختن آینده فناوری و امنیت اقتصادی بریتانیا در زمین های اجاره ای اساسا متناقض است.

بریتانیا در حال حاضر دارای شرکت هایی است که دارای پشته کامل فناوری مورد نیاز برای تامین انرژی شرکت های مدرن هستند. این شرکت‌ها همان قابلیت‌های اصلی را ارائه می‌دهند که مقیاس‌کننده‌های بزرگ بدون ریسک مربوط به حاکمیت یا قفل فروشنده.

اگر بریتانیا می خواهد خود را به عنوان یک رهبر جهانی در هوش مصنوعی ثابت کند، این کشور باید از ارائه دهندگان فناوری خود حمایت کند.

این بدان معناست که خود را از ارائه دهندگان ابری که توسط دولت شسته شده اند فاصله بگیریم و در زیرساخت های منبع باز سرمایه گذاری کنیم. انجام این کار تنها راه محافظت از داده‌هایمان و بازیابی استقلال دیجیتالی‌مان است، قبل از اینکه خیلی دیر شود.

ما بهترین سازنده وب سایت هوش مصنوعی را معرفی کرده ایم.

این مقاله به عنوان بخشی از TechRadar Pro Perspectives، کانال ما برای معرفی بهترین و باهوش ترین ذهن ها در صنعت فناوری امروز تهیه شده است.

نظرات بیان شده در اینجا نظرات نویسنده است و لزوما نظرات TechRadarPro یا Future plc نیست. اگر مایل به مشارکت هستید، اطلاعات بیشتری را در اینجا بیابید: https://www.techradar.com/pro/perspectives-how-to-submit