هوش مصنوعی فراتر از جایی است که داده ها در آن قرار دارند

همانطور که استفاده از هوش مصنوعی در سطح جهانی گسترش می یابد، سوالاتی در مورد اینکه داده های آموزشی از کجا سرچشمه می گیرند، مالک آن چه کسی است و چگونه سازمان ها اطلاعات حساس را ایمن نگه می دارند، مطرح می شود. این حوزه هوش مصنوعی مستقل است: حفاظت از داده ها، استفاده از آن و نتایج آن، که با حرکت هوش مصنوعی از اثبات مفهوم به استقرار تولید در کل کشورها و قاره ها، اهمیت فزاینده ای پیدا می کند.

فراتر از جایی که داده ها ذخیره می شوند، هوش مصنوعی مستقل واقعا یک سؤال است که چه کسی توانایی های هوش مصنوعی یک سازمان یا منطقه را کنترل می کند. در عمل، این امر مستلزم کنترل روی کل پشته زیرساخت، هم نرم افزار و هم سخت افزار، همراه با سیاست هایی است که بر روی افرادی که می توانند داده ها را مشاهده کنند، زیرساخت ها را مدیریت کنند و نرم افزار نصب کنند، نیاز است.

از آنجا که قوانین و شیوه های حفاظت از داده ها به طور گسترده ای در مناطق جغرافیایی متفاوت است - حتی در اروپا - حاکمیت جریان داده ها و خطوط لوله پردازش باید درک و دنبال شود.

در حالی که هوش مصنوعی مستقل اغلب بر اساس کشور به کشور مورد بحث قرار می گیرد، قوانین و رویه های مشابهی برای شرکت ها اعمال می شود. برای آنها، سؤالات مربوط به مکان داده، مالکیت و انتقال حتی پیچیده تر است.

مکان تنها بخشی از داستان است

توجه زیادی بر محل قرارگیری یک مرکز داده از لحاظ فیزیکی متمرکز شده است، اما در ارزیابی زیرساخت‌های مستقل، نگاه دقیق‌تری به آنچه که مرکز داده در واقع شامل می‌شود، مورد نیاز است.

تعیین مکان فیزیکی معمولا آسان است، اما بسیاری از ارائه‌دهندگان زیرساخت‌های چند ابری را اجرا می‌کنند که در آن مراکز داده توسط شبکه‌های پرسرعت به هم متصل می‌شوند، و یک ارائه‌دهنده ابر ممکن است زمانی که ظرفیت کم است، بار کاری را بین امکانات خود جابجا کند. سازمان‌ها باید اطمینان حاصل کنند که برنامه‌ها و داده‌هایشان در جایی که در نظر گرفته شده است باقی می‌مانند.

اگر داده‌های اختصاصی پشت بارهای کاری هوش مصنوعی در اختیار یک ارائه‌دهنده ابری باشد، کاربر نهایی ممکن است مکان دقیق دستگاه‌های ذخیره‌سازی را نداند. علاوه بر این، با کنار گذاشتن مکان، کنترل نگرانی اساسی است: اگر یک حوزه قضایی مالک داده‌های ذخیره‌شده در حوزه دیگری باشد، چه کسی تصمیم می‌گیرد که برای چه چیزی می‌توان از آن استفاده کرد و آیا می‌تواند از مرزها عبور کند؟ این سوال زمانی پیچیده تر می شود که یک شرکت دفاتری در چندین کشور یا منطقه داشته باشد.

بارهای کاری سنتی مانند سیستم های ERP، موجودی و منابع انسانی معمولا داده ها را در یک پایگاه داده شرکتی نگه می دارند که از راه دور قابل دسترسی هستند. هوش مصنوعی متفاوت است: کاربران به طور گسترده ای پراکنده هستند، در حالی که استنتاج به طور فزاینده ای در دستگاه های لبه ای مانند تلفن های هوشمند، وسایل نقلیه متصل و سیستم های صنعتی انجام می شود. این دستگاه‌ها اغلب نیاز به دسترسی به داده‌های زیربنایی و خروجی‌های مدل آموزش‌دیده دارند، نه دریافت جریانی از محتوای رندر شده.

همانطور که مدل ها و داده های اختصاصی بین زیرساخت مرکزی، مراکز داده منطقه ای و محیط های لبه حرکت می کنند، ممکن است از چندین شبکه و سیستم های ذخیره سازی عبور کنند. چه کسی مالک آن داده ها در حال انتقال است، به خصوص زمانی که از مرزها عبور می کند، سؤالی است که هر سازمانی که استنتاج هوش مصنوعی را مقیاس می کند باید به آن پاسخ دهد.

ارزیابی لایه به لایه حاکمیت

امروزه هوش مصنوعی نیازمند محاسبات قابل توجه، ورودی/خروجی داده با عملکرد بالا و شبکه‌سازی پرسرعت است – اجزایی که باید تحت مجموعه‌ای از قوانین، فرآیندها و رویه‌های مشترک با هم کار کنند. زیرساخت هوش مصنوعی یک سازمان ممکن است سرورهای قدرتمند را در یک مکان، دستگاه‌های لبه‌ای در مکان دیگر و ارتباطات بین‌مرزی بین آنها را ترکیب کند.

و سپس خود داده وجود دارد: کجا زندگی می کند، آیا متمرکز است، و در چه قالبی؟

مالکیت به اندازه مکان اهمیت دارد. مالکیت داده ممکن است با یک واحد تجاری سازمانی، یک تابع سازگاری یا C-suite باشد. با نگاهی فراتر از داده ها، ملاحظات عبارتند از: چه کسی تصمیم می گیرد که کدام مرکز داده یک کار آموزشی خاص را اجرا کند، به خصوص زمانی که یک زمان بندی متمرکز بسیاری از امکانات را برای استفاده و عملکرد مدیریت می کند؟

آیا می توان آن اتوماسیون را نادیده گرفت؟ آیا داده های خاصی باید به کاربردهای آموزشی خاصی محدود شود و آیا در دسترس قرار دادن داده های خاص برای ارائه دهندگان خاص ارزش سازمانی ایجاد می کند؟

از آنجایی که داده‌های آموزشی از منابع سراسر جهان استخراج می‌شوند، شرکت‌ها برای تصمیم‌گیری به اینکه کدام منابع قابل اعتماد هستند، چه کسی استفاده از آن‌ها را تایید می‌کند و چگونه الزامات نظارتی یا سیاسی منطقه‌ای این تصمیم‌ها را شکل می‌دهند، به یک چارچوب حاکمیتی روشن نیاز دارند. این چارچوب باید مسئولیت‌پذیری را در سطح سازمانی و فردی، با سوابق شفاف از محل منشأ داده‌ها، نحوه استفاده از آن‌ها و اینکه آیا مجوزها یا مجوزهای لازم تضمین شده است، ایجاد کند.

همان اصول باید در سراسر پشته زیرساخت گسترش یابد. سازمان ها به مالکیت تعریف شده محیط آموزشی، وزن مدل و تصمیمات استقرار، در کنار کنترل هایی نیاز دارند که تعیین می کند چه کسی می تواند این سیستم ها را مدیریت کند و از کدام حوزه قضایی. کاربران هوش مصنوعی ممکن است نیازی به مشاهده همه جزئیات فنی نداشته باشند، اما آنها باید منشأ، حاکمیت و مکان سیستم‌هایی را که داده‌های حساس و مالکیت معنوی را مدیریت می‌کنند، درک کنند.

هوش مصنوعی مستقل نه تنها به محل میزبانی زیرساخت، بلکه به حفظ کنترل قابل بازرسی روی داده ها، مدل ها، پلتفرم ها و افراد درگیر در طول چرخه حیات هوش مصنوعی بستگی دارد.

همچنین نشان دادن اینکه خروجی‌های یک سیستم هوش مصنوعی مبتنی بر داده‌های آموزشی قانونی است، چالش وجود دارد، در حالی که اطمینان حاصل می‌شود که داده‌ها محافظت شده و تنها برای طرف‌های مجاز در سراسر پشته زیرساخت قابل دسترسی هستند. Verda، یک ارائه دهنده ابر هوش مصنوعی اروپایی، نمونه ای از نحوه رسیدگی به این موضوع در عمل ارائه می دهد. زیرساخت آن در مراکز داده نوردیک میزبانی می شود و به مشتریان اجازه می دهد سخت افزار و نرم افزار را بر اساس نیازهای عملیاتی و نظارتی خود پیکربندی کنند.

این پلتفرم از سازمان‌ها در بخش‌های خصوصی و عمومی پشتیبانی می‌کند، با کنترل‌هایی که برای کمک به رفع الزامات از جمله GDPR، قانون هوش مصنوعی اتحادیه اروپا و قوانین خاص بخش طراحی شده‌اند. اینها شامل ماشین‌های مجازی محرمانه، محیط‌های اجرایی قابل اعتماد با سخت‌افزار، و رمزگذاری برای حافظه CPU و GPU، و همچنین داده‌های در حال انتقال و در حالت استراحت است.

درسی گسترده‌تر که می‌توانیم از موفقیت وردا بگیریم این است که هوش مصنوعی مستقل به جای تلقی مکان داده‌ها به عنوان تنها معیار حاکمیت، به تعبیه حاکمیت، امنیت و کنترل نظارتی در طول چرخه حیات سیستم بستگی دارد.

حاکمیت عملیاتی به معنای فراتر از انطباق است

هوش مصنوعی اکنون زیرساخت حیاتی برای شرکت‌ها در سرتاسر جهان است و پیروی از قوانین محلی باید از همان ابتدا یک دغدغه معماری باشد، نه اینکه پس از راه‌اندازی مرکز داده مورد توجه قرار گیرد. از طراحی تا اجرا و بارهای کاری مداوم، یک مرکز داده مستقل باید به طور مستمر به تعهدات حاکمیت عملیاتی خود عمل کند.

پس از آنلاین شدن، حاکمیت ممکن است به مراکز داده کمک کند تا از طریق اختلالات تجاری مانند رکود، تغییرات ژئوپلیتیکی یا درگیری ها، و تغییرات فنی - تراشه ها، مدل ها و معماری های جدید، عملیاتی باقی بمانند.

مفهوم حاکمیت به جای از بین بردن هر وابستگی خارجی، با رویدادهای شدید مانند جنگ که تهدید به نابودی زیرساخت ها می کند، در مورد انعطاف پذیری است. این در مورد درک اینکه در کجا وابستگی وجود دارد، تصمیم گیری در مورد اینکه کدام یک قابل قبول هستند و اجتناب از تمرکز غیر ضروری ریسک است.

تصمیمات فنی در طراحی و بهره برداری می تواند به جلوگیری از قفل شدن فروشنده کمک کند و به مرکز داده اجازه می دهد حتی در صورت پایان یافتن یک رابطه تجاری به کار خود ادامه دهد. تکیه بر یک تامین کننده واحد برای فناوری حیاتی خطراتی را به همراه دارد، زیرا تغییر ژئوپلیتیک می تواند تعرفه ها یا محدودیت هایی را به همراه داشته باشد که تجارت با تامین کنندگان برخی کشورها را مسدود می کند.

هر اپراتور مرکز داده به اکوسیستمی با تعداد محدودی سرور، ذخیره‌سازی و تامین‌کننده برق وابسته است. زنجیره‌های تامین جهانی هستند حتی زمانی که یک مرکز در یک جغرافیا قرار دارد، که هزینه را بهینه می‌کند، اما به این معنی است که همه چیز قابل کنترل نیست - بنابراین، درک مکان تمرکز ریسک. با وجود هزاران قطعه از صدها تامین کننده، یک عملیات روان ممکن است همچنان بر مجموعه کوچکی از فروشندگان تکیه کند.

استانداردهای باز و استانداردسازی رسمی با وابستگی کمتر قابلیت همکاری به هر یک از تامین کنندگان و با اجازه دادن به حجم کاری بین فناوری ها و محیط ها، این خطر را کاهش می دهد. به نوبه خود، این امر باعث ایجاد اعتماد در مراکز داده مستقل به عنوان زیرساخت انعطاف پذیر می شود.

ایجاد اعتماد از طریق کنترل، نه از طریق فرضیات

اعتماد به هوش مصنوعی مستقل بستگی به این دارد که سازمان‌ها بدانند چه کسی می‌تواند به داده‌ها، زیرساخت‌ها و محیط‌های تولیدی، تحت چه شرایطی و با چه نظارتی دسترسی داشته باشد. دسترسی ممتاز باید به شدت کنترل شود، به وضوح اختصاص داده شود و مستند باشد، و مسئولیت در سطح مناسبی مانند CIO یا مدیر ارشد رعایت شود.

این امر به ویژه زمانی مهم است که حجم کاری هوش مصنوعی شامل داده‌های اختصاصی، درخواست‌ها، خروجی‌های مدل یا تنظیم دقیق مجموعه داده‌ها باشد که می‌تواند اطلاعات حساس تجاری در مورد محصولات، مشتریان و فرآیندهای داخلی سازمان را نشان دهد.

سیاست ها و آموزش کارکنان همچنان مهم هستند، اما باید از طریق کنترل های فنی و عملیاتی تقویت شوند. سازمان‌ها به تضمین‌های واضحی نیاز دارند که داده‌های آنها بدون مجوز صریح حفظ، استفاده مجدد یا گنجانده نمی‌شود در آموزش مدل ارائه‌دهنده.

کنترل‌های دسترسی، رمزگذاری، گزارش‌گیری، جداسازی حجم کار و تنظیمات نگهداری داده‌ها می‌توانند به اجرای این انتظارات کمک کنند، در حالی که فرآیندهای مستند باید نشان دهند که چه کسی هر بخش از محیط هوش مصنوعی را کنترل می‌کند، خطرات زنجیره تامین در کجا وجود دارد و کدام قوانین منطقه‌ای بر داده‌ها حاکم است.

با در نظر گرفتن این موضوع، حکمرانی به اندازه عملکرد، مقیاس پذیری و هزینه برای ارزیابی زیرساخت های هوش مصنوعی مهم می شود. ارائه‌دهندگان مستقل هوش مصنوعی باید بتوانند به جای اینکه ادعا کنند چگونه از داده‌ها محافظت می‌کنند و بارهای کاری را در پشته کامل سخت‌افزار و نرم‌افزار مدیریت می‌کنند، نشان دهند.

برای سازمان‌هایی که به‌طور فزاینده‌ای به هوش مصنوعی به‌عنوان زیرساخت حیاتی متکی هستند، مالکیت شفاف، کنترل‌های قابل ممیزی و فرآیندهای منسجم برای ایجاد اعتماد و حمایت از پذیرش گسترده‌تر نقش اساسی دارند.

ما بهترین ابزار هوش مصنوعی را معرفی کرده ایم.

این مقاله به عنوان بخشی از TechRadar Pro Perspectives، کانال ما برای معرفی بهترین و باهوش ترین ذهن ها در صنعت فناوری امروز تهیه شده است.

نظرات بیان شده در اینجا نظرات نویسنده است و لزوما نظرات TechRadarPro یا Future plc نیست. اگر مایل به مشارکت هستید، اطلاعات بیشتری را در اینجا بیابید: https://www.techradar.com/pro/perspectives-how-to-submit