چه کسی تجارت شما را کنترل می کند؟ شما یا هوش مصنوعی؟ | نظر

هوش مصنوعی (AI) در حال حاضر بر مراقبت های بهداشتی، تحقیقات علمی و تصمیمات تجاری که زندگی مردم را شکل می دهد، تأثیر می گذارد. با این حال، سازمان‌ها برای استقرار آن رقابت می‌کنند، بدون اینکه لزوما مشخص کنند که در صورت شکست چه کسی پاسخگو است.

این یک شکست رهبری است. بیماران، مصرف‌کنندگان، کارمندان و سرمایه‌گذاران همگی در این موضوع که آیا شرکت‌ها می‌توانند ثابت کنند که هوش مصنوعی آنها مسئولانه استفاده می‌شود، سهم دارند. آنها باید آن مدرک را مطالبه کنند.

بحث در مورد هوش مصنوعی اغلب بین پیش‌بینی‌های فاجعه‌بار و وعده‌های بهره‌وری خارق‌العاده به دام می‌افتد.

هر دو حواس را از مشکل فوری منحرف می‌کنند: آیا سازمان می‌تواند تشخیص دهد که هوش مصنوعی کجا استفاده می‌شود، مشخص کند که مالک هر برنامه‌ای است و شواهدی ارائه کند که خروجی‌های آن بررسی شده است؟

اگر نمی تواند، تضمین هایش در مورد هوش مصنوعی مسئول روابط عمومی است، نه حکمرانی.

شواهد فوریت را تقویت می کند. موسسه هوش مصنوعی انسان محور دانشگاه استنفورد در گزارش شاخص هوش مصنوعی خود در سال 2026 دریافت که حوادث هوش مصنوعی ثبت شده توسط پایگاه داده حوادث هوش مصنوعی از 233 در سال 2024 به 362 در سال 2025 افزایش یافته است.

این گزارش همچنین نشان داد که ارزیابی و گزارش‌دهی مسئول هوش مصنوعی در تلاش است تا با پیشرفت‌های قابلیت‌های هوش مصنوعی همگام شود. هوش مصنوعی به سرعت در حال پیشرفت است، اما سیستم‌های مورد نیاز برای ارزیابی و مدیریت ریسک‌های آن همچنان ادامه ندارند.

این بسیار فراتر از اتاق هیئت مدیره اهمیت دارد. در مراقبت‌های بهداشتی و علوم زیستی، هوش مصنوعی کنترل‌نشده می‌تواند یک رویداد نامطلوب را از دست بدهد، یافته‌های بالینی را تحریف کند، یا ادعای پشتوانه‌ای درباره یک دارو ایجاد کند.

در سایر صنایع، می‌تواند داده‌های خصوصی را افشا کند، مشتریان را گمراه کند، یا بر تصمیم‌گیری‌ها در مورد پول و دسترسی به خدمات ضروری تأثیر بگذارد.

از مردم عادی نمی توان انتظار داشت که تعیین کنند آیا یک تصمیم مضر از یک انسان یا یک ماشین نشات گرفته است. آنها به نهادهایی نیاز دارند که بتوانند آنچه اتفاق افتاده را توضیح دهند و مسئولیت را بپذیرند.

من یکی از خطرات اصلی را برون سپاری اخلاقی می نامم: اجازه دادن به هوش مصنوعی برای جایگزینی قضاوت پاسخگوی انسانی. این استدلال که «سیستم چنین گفته است» دفاع نیست. نه سرزنش فروشنده یا اشاره به سیاستی که هیچ کس از آن پیروی نکرده است.

بازبینی انسانی که فاقد زمان، آموزش یا اختیار برای به چالش کشیدن پاسخ تولید شده توسط هوش مصنوعی است، نظارت معناداری نیست. این تئاتر پاسخگویی است.

مسیر بهتری هم هست هوش مصنوعی که به درستی اداره می شود می تواند تحقیقات را تسریع کند، خدمات را بهبود بخشد و افراد را از کارهای معمول رها کند. اما سازمان ها باید سه کنترل غیرقابل مذاکره ایجاد کنند.

ابتدا، هر ابزار هوش مصنوعی مورد استفاده را موجودی کنید. شناسایی سیستم های تایید شده، برنامه های شخص ثالث و ابزارهایی که ممکن است کارمندان بدون مجوز استفاده کرده باشند. سیستم های نامرئی را نمی توان اداره کرد.

دوم، برای هر ابزار و مورد استفاده، یک مالک انسانی با نام و مسئولیت را تعیین کنید. آن شخص باید هدف سیستم را درک کند، اختیار تشدید نگرانی‌ها را داشته باشد و قدرت تعلیق استفاده ناامن را داشته باشد. مسئولیت باید در عمل وجود داشته باشد، نه صرفا در نمودار سازمانی.

سوم، بررسی خروجی ها و مستندسازی چک ها. آنچه مورد بررسی قرار گرفت، چه کسی آن را بررسی کرد، چه شواهدی در نظر گرفته شد و چگونه مشکلات حل شد را یادداشت کنید.

شدت بررسی باید منعکس کننده پیامدهای بالقوه باشد. خلاصه جلسه ایجاد شده توسط هوش مصنوعی همان خطری را ندارد که خروجی بر ایمنی بیمار یا نتایج علمی تأثیر می گذارد.

این کنترل ها باید با هم کار کنند. موجودی بدون مالکیت یک لیست است. مالکیت بدون تأیید یک فرض است. زمانی که هیئت مدیره، رگولاتور یا مشتری آسیب دیده پاسخ بخواهد، تأیید بدون سوابق دشوار است.

همچنین مدیران نمی توانند این مسئولیت را به طور کامل به بخش های فناوری اطلاعات یا فروشندگان نرم افزار واگذار کنند. تیم های فنی می توانند نحوه عملکرد یک سیستم را توضیح دهند، اما رهبران در مورد نحوه استفاده سازمان هایشان از آن پاسخگو می مانند.

حاکمیت مؤثر باید با تغییر مدل‌ها، داده‌ها و برنامه‌ها تکامل یابد. خط‌مشی‌ای که در یک درایو مشترک ثبت می‌شود نمی‌تواند سیستم رو به وخامت را تشخیص دهد یا مانع از تکیه کارمند به خروجی خطرناک شود.

انتخاب واضح است. با نظارت مؤثر، سازمان ها می توانند با اطمینان بیشتری نوآوری کنند، شکست ها را زودتر تشخیص دهند، از افرادی که به آنها وابسته هستند محافظت کنند و اعتماد عمومی را به دست آورند.

بدون آن، سیستم های کنترل نشده و مسئولیت های مبهم شرایط را برای آسیب های قابل پیشگیری ایجاد می کند. هنگامی که سؤالات اجتناب ناپذیر مطرح می شود، رهبران ممکن است متوجه شوند که نمی توانند تعیین کنند که چه کسی تصمیم گرفته است، چه بررسی هایی انجام شده است یا اینکه آیا کسی تماشا می کند یا خیر.

هیئت‌ها و مدیران اجرایی باید هم‌اکنون ارزیابی یکپارچگی هوش مصنوعی در سطح سازمان را انجام دهند. هر ابزاری را نقشه برداری کنید، صاحبان پاسخگو را تعیین کنید، خروجی ها را بر اساس ریسک آزمایش کنید، پادمان های مستندسازی کنید و شکاف های شناسایی شده را ببندید. ارزیابی را به طور منظم تکرار کنید.

قبل از اینکه سازمان شما استفاده خود از هوش مصنوعی را گسترش دهد، شواهدی را بخواهید که نشان دهد شخصی مسئول است، خروجی ها بررسی می شوند، و اقدامات حفاظتی انجام می شود. اگر نمی توانید ثابت کنید که در کنترل خود هستید، هیچ شغلی ندارید که ادعا کنید هوش مصنوعی شما مسئول است.

L. Stephan Vincze یک وکیل، بنیانگذار و مدیر عامل TRESTLE Compliance است که خدمات حاکمیت و انطباق هوش مصنوعی را به سازمان های مراقبت های بهداشتی و علوم زیستی ارائه می دهد. همه نظرات متعلق به خود نویسنده است.