فشار برای حاکمیت هوش مصنوعی

از آنجایی که هوش مصنوعی عمیق‌تر در عملیات تجاری جاسازی می‌شود، شرکت‌ها با فشار فزاینده‌ای برای بازنگری در نحوه استقرار فناوری و کنترل سیستم‌هایی که به طور فزاینده‌ای به آن‌ها متکی هستند، مواجه هستند.

نظرسنجی وضعیت هوش مصنوعی مک کینزی در آگوست 2026 از 1719 پاسخ‌دهنده در 97 کشور نشان داد که 60 درصد انتظار داشتند که سازمان‌هایشان سرمایه‌گذاری در هوش مصنوعی را در سال بعد افزایش دهند.

از آنجایی که کسب‌وکارها منابع بیشتری را به هوش مصنوعی اختصاص می‌دهند، سؤالات مربوط به امنیت داده، مالکیت، زیرساخت و وابستگی به ارائه‌دهندگان فناوری خارجی اهمیت فزاینده‌ای پیدا می‌کنند.

این نگرانی‌ها، حاکمیت هوش مصنوعی را در کانون توجه بیشتری قرار می‌دهد.

حاکمیت هوش مصنوعی به توانایی سازمان برای کنترل زیرساخت ها، داده ها، مدل ها و سیاست های حاکمیتی هوش مصنوعی خود به جای اتکای کامل به ارائه دهندگان خارجی اشاره دارد.

این می‌تواند شامل میزبانی سیستم‌های هوش مصنوعی در محل شرکت یا در محیط‌های ابری خصوصی و مستقل باشد که به کسب‌وکارها اجازه می‌دهد نظارت بیشتری بر نحوه عملکرد فناوری خود و نحوه مدیریت اطلاعات حساس داشته باشند.

یکی از محرک های اصلی این رویکرد، خطر افشای اطلاعات محرمانه تجاری از طریق ابزارهای هوش مصنوعی عمومی است. کارمندان ممکن است سهوا پیشنهادات مشتری، گزارش‌های داخلی یا فناوری اختصاصی را بدون درک نحوه پردازش یا ذخیره‌سازی داده‌ها به اشتراک بگذارند.

گزارش هزینه نقض داده های IBM در سال 2026 نشان داد که از هر چهار نقض مخرب یک مورد با هوش مصنوعی فعال شده است، در حالی که بیش از 20 درصد سازمان ها نقض هایی را گزارش کرده اند که مدل ها یا برنامه های هوش مصنوعی را هدف قرار داده است.

برای برخی از مشاغل، پرداختن به این خطرات به معنای دور شدن از ابزارهای هوش مصنوعی عمومی به سمت سیستم هایی است که در محیط های امن خودشان عمل می کنند. این امر می‌تواند به سازمان‌ها کنترل بیشتری بر محل ذخیره داده‌هایشان، افرادی که می‌توانند به آن دسترسی داشته باشند و مدل‌های هوش مصنوعی استفاده می‌کنند، بدهد.

آندره پالاگوین، مدیر عامل شرکت اطلاعات زبان، استدلال می‌کند که شرکت‌ها باید در رویکرد خود به هوش مصنوعی تجدید نظر کنند، زیرا این فناوری به بخش اساسی عملیات آنها تبدیل می‌شود.

پالاگوین به نیوزویک گفت: "حاکمیت با امنیت شروع می شود، اما به کنترل و حکمرانی نیز نیاز دارد. اگر هوش مصنوعی را کنترل کنم، اگر بتوانم آن را اداره کنم، و اگر در یک محیط امن عمل کند، پس می دانم که متعلق به سازمان است."

شرکت او Fluent را توسعه می‌دهد، یک پلتفرم هوش مصنوعی چندزبانه که برای کار در محل یا در محیط‌های ابری خصوصی و مستقل طراحی شده است. این پلتفرم لایه کاربردی خود را از مدل‌های زبان بزرگ (LLM) جدا می‌کند و به سازمان‌ها اجازه می‌دهد تا با مدل‌های زیربنایی مختلف بدون بازسازی کل زیرساخت فناوری خود کار کنند.

Palaguine می گوید این رویکرد همچنین خطر افشای اطلاعات حساس از طریق سیستم های هوش مصنوعی عمومی را برطرف می کند.

او گفت: "امروزه، هر داده ای می تواند محرمانه باشد. می تواند شامل کارمندان، مشتریان، فروشندگان، فناوری اختصاصی، گردش کار داخلی یا اطلاعات محرمانه مشتری باشد." "اگر شخصی یک RFP (درخواست پیشنهاد) حاوی اطلاعات حساس را دریافت کند و صرفا برای درک آن در یک سیستم هوش مصنوعی عمومی قرار دهد، خطری را معرفی کرده است که ممکن است سازمان هرگز قصد ایجاد آن را نداشته باشد."

تغییر به سمت کنترل بیشتر بر زیرساخت های هوش مصنوعی لزوما به این معنی نیست که کسب و کارها ارائه دهندگان تجاری را رها می کنند.

پل هنینگر، رئیس گروه مشاوره در KPMG انگلستان و سوئیس، گفت که سازمان‌ها در مورد مکان میزبانی مدل‌ها، داده‌ها و مالکیت معنوی آنها آگاه‌تر می‌شوند.

هنینگر به نیوزویک گفت: «به جای تغییر عمده فروشی از ارائه دهندگان تجاری، تمرکز به طور فزاینده ای بر روی کنترل بیشتر کسب و کارها بر مکان میزبانی و اداره مدل ها، داده ها و مالکیت معنوی آنها است.

پیامدهای مالی پذیرش بیشتر هوش مصنوعی همچنین کسب‌وکارها را مجبور می‌کند تا فراتر از قیمت ابزارهای فردی نگاه کنند و آنچه را که برای کارکرد این فناوری در مقیاس لازم است در نظر بگیرند.

هنینگر گفت: «این فناوری به خودی خود تنها بخشی از هزینه مقیاس‌پذیری هوش مصنوعی است. کسب‌وکارها می‌توانند سرمایه‌گذاری مورد نیاز پیرامون آن، به ویژه در داده‌ها، امنیت سایبری، حکمرانی، مهارت‌ها و تغییرات سازمانی مورد نیاز برای تعبیه مؤثر هوش مصنوعی را دست کم بگیرند».

هنینگر اضافه کرد که امنیت و حاکمیت به طور فزاینده‌ای در حال تبدیل شدن به معیارهای خرید و سرمایه‌گذاری هستند و «اعتماد، کنترل و انعطاف‌پذیری» به جای یک تفکر بعدی، جزئی از تصمیم‌های تجاری می‌شوند.

اما کنترل محل عملکرد هوش مصنوعی با درک خود فناوری یکسان نیست.

فضل بارز، پژوهشگر ارشد دانشگاه آکسفورد که در زمینه مدیریت هوش مصنوعی متخصص است، در گفتگو با نیوزویک گفت که کسب و کارها نباید تصور کنند که میزبانی هوش مصنوعی به طور خصوصی بینش بیشتری در مورد نحوه عملکرد مدل های اساسی به آنها می دهد.

بارز گفت: "ما پیشرفت عظیمی را در کارهایی که سیستم‌های هوش مصنوعی می‌توانند انجام دهند، مشاهده کرده‌ایم، اما پیشرفت بسیار کمتری در درک نحوه عملکرد آنها و چرایی رفتار آنها به روشی که انجام می‌دهند.

همچنین انتقال هوش مصنوعی به محیط خصوصی خطر اشتباهات، دستکاری یا رفتار غیرمنتظره را از بین نمی برد. بارز این سوال را مطرح کرد که آیا برخی از ارائه دهندگان میزبانی محلی را به عنوان یک راه حل کامل تر از آنچه واقعا هست ارائه می دهند.

من همچنین نسبت به شرکت‌هایی که حق حاکمیت خود را صرفا خرید زیرساخت‌های خود یا میزبانی یک مدل به صورت محلی می‌فروشند، شک دارم. این لزوما به شما کنترل معنی‌داری بر فناوری نمی‌دهد. داشتن مالکیت کامل بر زیرساخت ارزش کمی دارد اگر هنوز نتوانید سیستمی را که روی آن کار می‌کند درک، ارزیابی یا کنترل کنید.»

در نهایت، حاکمیت را نمی توان به سادگی با مکانی که یک مدل میزبانی می شود یا صاحب سرورها، اندازه گیری کرد. کسب‌وکارها همچنین به قابلیت‌های فنی برای بررسی دقیق فناوری، مدیریت ریسک‌های آن و مداخله در صورت لزوم نیاز دارند.

در غیر این صورت، آنها ممکن است کنترل بیشتری بر زیرساخت های خود داشته باشند بدون اینکه کنترل معناداری بر خود هوش مصنوعی داشته باشند.

در مورد این داستان با سردبیر نیوزویک تماس بگیرید: مایک هرست.