Sovereign AI فقط جایی نیست که داده های شما زندگی می کنند

همانطور که هوش مصنوعی در خدمات عمومی مهم جاسازی می شود، حاکمیت به سرعت در حال تبدیل شدن به یکی از بزرگترین مسائل استراتژیک پیش روی دولت است.

بسیاری از بحث ها هنوز هم حاکمیت را به عنوان یک سؤال جغرافیایی در نظر می گیرند: داده ها کجا ذخیره می شوند، کدام کشور میزبان زیرساخت است و آیا اطلاعات در داخل مرزهای ملی باقی می ماند؟

این سوالات مهم هستند، اما آنها تنها بخشی از تصویر هستند. حاکمیت واقعی در مورد حفظ کنترل در کل چرخه حیات هوش مصنوعی از محل قرارگیری داده ها و نحوه دسترسی به آنها تا نحوه کنترل و آزمایش مدل ها است.

برای سازمان های بخش عمومی، این تمایز به طور فزاینده ای اهمیت پیدا می کند. هوش مصنوعی فراتر از آزمایش و به سمت خدماتی حرکت می کند که عواقب از دست دادن کنترل می تواند بسیار بیشتر از پاسخ ضعیف ربات های چت باشد. مراقبت‌های بهداشتی، آموزش و دولت مرکزی و محلی همگی به داده‌ها و سیستم‌هایی متکی هستند که باید امن، انعطاف‌پذیر و پاسخگو باقی بمانند.

حاکمیت باید از مرکز داده فراتر رود

نگهداری اطلاعات در بریتانیا به طور خودکار استقرار هوش مصنوعی را حاکم نمی کند. یک سازمان می‌تواند داده‌های خود را در داخل کشور میزبانی کند در حالی که بر مدل‌ها، پلتفرم‌ها یا سرویس‌های خارجی تکیه می‌کند که دید یا کنترل محدودی روی آن‌ها دارد. ممکن است به طور کامل متوجه نشود که اطلاعات در کجا پردازش می‌شوند، مدل‌ها چگونه به آن دسترسی پیدا می‌کنند، یا وقتی آن سیستم‌ها تغییر می‌کنند چه اتفاقی می‌افتد.

این یک سوال بسیار گسترده تر از وابستگی ایجاد می کند. از آنجایی که ابزارهای هوش مصنوعی به طور فزاینده ای در خدمات عمومی جاسازی می شوند، تیم ها نه تنها باید بدانند که داده های آنها در کجا قرار دارد، بلکه باید بفهمند بین آن داده ها و تصمیماتی که از آنها گرفته می شود چه چیزی قرار می گیرد. حاکمیت به معنای کنترل کافی بر زیرساخت، اتصال، امنیت، داده ها و حاکمیت است که زیربنای محیط هوش مصنوعی است.

این امر به ویژه مهم است زیرا هوش مصنوعی مستقل تر می شود. تغییر از دستیاران ساده به سمت عواملی که قادر به انجام اقداماتی از جانب یک سازمان هستند به این معنی است که مخاطرات در حال افزایش است. هر چه یک سیستم هوش مصنوعی آژانس بیشتری داشته باشد، دانستن اینکه به چه اطلاعاتی می تواند دسترسی داشته باشد، چه تصمیماتی می تواند تأثیر بگذارد و در نهایت مسئولیت پذیری در کجا قرار می گیرد، اهمیت بیشتری پیدا می کند.

هوش مصنوعی را به داده ها بیاورید، نه برعکس

یکی از مهم‌ترین اصول برای هوش مصنوعی بخش عمومی باید «به‌دست آوردن هوش مصنوعی به داده‌ها» باشد نه ارسال خودکار داده‌های حساس به هر جایی که هوش مصنوعی در آن زندگی می‌کند.

این نیاز به رویکرد متفاوتی برای پذیرش هوش مصنوعی دارد. به جای اینکه با یک مدل شروع کنند و بپرسند چه داده هایی را می توان به آن متصل کرد، سازمان ها باید با سرویس یا تصمیمی که سعی در بهبود آن دارند شروع کنند و به عقب کار کنند.

سازمان ها همیشه با بینش مبارزه نمی کنند. آنها برای تصمیم گیری تلاش می کنند. بنابراین، به جای قرار دادن هر مشکل در یک مدل هوش مصنوعی مولد، این فناوری باید بر اساس مشکل انتخاب شود.

برای دولت، این می تواند به معنای حفظ اطلاعات حساس در محیط های کنترل شده و در عین حال اتصال قابلیت های هوش مصنوعی مناسب به آن از طریق زیرساخت ایمن و تحت کنترل باشد. همچنین به این معنی است که بپذیریم که هیچ معماری AI واحدی وجود ندارد که برای هر موردی کار کند.

برخی از برنامه ها ممکن است از هوش مصنوعی مولد بهره مند شوند. برخی دیگر ممکن است برای اتوماسیون سنتی، یادگیری ماشین یا الگوریتم‌های بهینه‌سازی مناسب‌تر باشند. هدف نباید استفاده از جدیدترین فناوری، بلکه ایجاد نتیجه مناسب به طور ایمن و موثر باشد.

پس از آن نمی توان حکمرانی را قطع کرد

تصور غلط دیگر این است که حاکمیت در درجه اول یک موضوع امنیت سایبری است. امنیت به وضوح اساسی است، اما حکومت به همان اندازه مهم است. سازمان‌های بخش عمومی باید بتوانند توضیح دهند که هوش مصنوعی چه می‌کند، آزمایش کنند که آیا آن‌طور که در نظر گرفته شده است عمل می‌کند یا خیر و نظارت انسانی مناسب را حفظ کنند.

این امر به ویژه اهمیت می یابد زیرا سیستم های هوش مصنوعی مبتنی بر احتمال هستند. آنها همیشه دقیقا نتیجه یکسانی را از ورودی یکسان ایجاد نمی کنند و می توانند پاسخ هایی تولید کنند که قانع کننده به نظر می رسند در حالی که نادرست هستند. این یک چالش بسیار متفاوت از نرم‌افزار سنتی ایجاد می‌کند، جایی که انتظار می‌رود یک فرآیند تعریف‌شده خروجی ثابتی تولید کند.

هوش مصنوعی باید به عنوان چیزی مورد بررسی قرار گیرد که باید به طور مداوم مورد آزمایش و کنترل قرار گیرد، نه اینکه به کار گرفته شود و فراموش شود. این بدان معناست که تیم‌های امنیتی، انطباق و ریسک را از ابتدا وارد پروژه‌های هوش مصنوعی کنیم، به جای اینکه از آنها بخواهیم سیستم‌هایی را که قبلا ساخته شده‌اند تأیید کنند.

این به معنای ایجاد قوانین واضح در مورد دسترسی و استفاده از داده ها است و اطمینان از وجود یک مسیر حسابرسی شفاف برای نحوه عملکرد سیستم های هوش مصنوعی. از همه مهمتر، طراحی نظارت انسانی بر سیستم از روز اول.

زیرساخت در حال تبدیل شدن به بخشی از استراتژی هوش مصنوعی است

هیچ‌کدام از اینها بدون پایه‌های درست امکان‌پذیر نیست - یک استراتژی هوش مصنوعی مستقل نیازمند محیط‌های ابری امن، اتصال انعطاف‌پذیر، امنیت سایبری قوی، معماری داده‌های مناسب و زیرساخت‌هایی است که می‌تواند از تغییر حجم کاری هوش مصنوعی پشتیبانی کند.

این به ویژه مهم است زیرا هوش مصنوعی به سرعت در حال تکامل است. بخش دولتی در حال حاضر مجبور است آنچه را که در داخل می سازد با پلتفرم ها و خدمات به سرعت در حال تغییر از سوی ارائه دهندگان فناوری متعادل کند. انعطاف پذیری طولانی مدت به اندازه قابلیت های فنی امروزی اهمیت دارد.

برای بخش عمومی، این باید به‌عنوان یک فرصت استراتژیک در نظر گرفته شود تا صرفا یک چالش فناوری اطلاعات. ایجاد زیرساخت‌های انعطاف‌پذیر و ایمن اکنون پایه‌ای را برای پذیرش قابلیت‌های جدید هوش مصنوعی در آینده ایجاد می‌کند، بدون اینکه مجبور باشید هر بار که فناوری تغییر می‌کند کنترل را تسلیم کنید.

هدف نباید منزوی کردن سازمان‌های بخش عمومی از اکوسیستم گسترده‌تر هوش مصنوعی باشد. این نه واقع بینانه خواهد بود و نه مطلوب. باید اطمینان حاصل شود که آنها می توانند با شرایط خود در آن اکوسیستم شرکت کنند.

حاکمیت مربوط به کنترل است

جاه طلبی های هوش مصنوعی بریتانیا به توانایی آن در پذیرش فناوری های جدید در مقیاس و در عین حال محافظت از اطلاعات، خدمات و شهروندان وابسته به آنها بستگی دارد.

ما باید مکالمه را فراتر از جایی که داده ها ذخیره می شوند، حرکت دهیم. Sovereign AI در نهایت در مورد کنترل داده ها، زیرساخت ها، دسترسی، حاکمیت و تصمیماتی است که سیستم های هوش مصنوعی به آنها کمک می کنند.

سازمان‌های بخش عمومی که اکنون این اصول را در استراتژی‌های هوش مصنوعی خود قرار می‌دهند، موقعیت بهتری برای بهره‌گیری از سیستم‌های توانمندتر بدون وابستگی به فناوری‌هایی خواهند داشت که نمی‌توانند به طور کامل بر آن‌ها حکومت کنند.

آینده هوش مصنوعی در بخش عمومی نباید انتخاب بین نوآوری و حاکمیت باشد. با پایه های درست، باید بتوان به هر دو دست یافت

ما بهترین چت ربات هوش مصنوعی را برای تجارت معرفی کرده ایم.

این مقاله به عنوان بخشی از TechRadar Pro Perspectives، کانال ما برای معرفی بهترین و باهوش ترین ذهن ها در صنعت فناوری امروز تهیه شده است.

نظرات بیان شده در اینجا نظرات نویسنده است و لزوما نظرات TechRadarPro یا Future plc نیست. اگر مایل به مشارکت هستید، اطلاعات بیشتری را در اینجا بیابید: https://www.techradar.com/pro/perspectives-how-to-submit