چه کسی تصمیم می گیرد که آیا هوش مصنوعی ایمن است؟ آفریقا می خواهد حرفی بزند

رهبران آفریقا هفته گذشته خواستار نقش بیشتر در تعیین استانداردهای جهانی برای هوش مصنوعی شدند.

اظهارات آنها در سازمان ملل در بحبوحه هشدارهای مدیران سیلیکون ولی در مورد سوء استفاده از مدل‌های هوش مصنوعی و گاهی اوقات سرکشی و انجام اقدامات غیرمجاز منتشر شد. عوامل OpenAI در ماه ژوئن وب سایت های دولتی را در سراسر جهان هک کردند. مدل‌های آنتروپیک، گوگل و متا نیز در طول آزمایش‌ها به سیستم‌های شرکت‌های دیگر هک شدند.

لوئیس گارسیده براون دوم، نماینده دائم لیبریا، در نشست شورای امنیت سازمان ملل در مورد هوش مصنوعی گفت: «آفریقا... باید در تعیین استانداردها، اخلاقیات و معماری‌های این دوره فناوری، معماران مساوی باشد».

شرکت ها و دولت های آفریقایی برای استقرار سیستم های هوش مصنوعی ساخته شده در ایالات متحده و چین رقابت می کنند. کارشناسان به Rest of World گفتند، اما بسیاری از کشورها توانایی آزمایش مستقل این سیستم ها برای جمعیت خود را ندارند.

جاناتان شوک، دانشیار ریاضی در دانشگاه کیپ تاون، گفت: «در اصل هیچ بحث واقعی در مورد ایمنی هوش مصنوعی وجود ندارد. بنابراین، یک خلاء واقعی وجود دارد.

اگر کشورها تدابیر حفاظتی خود را ایجاد کنند، می تواند عملیات شرکت های آمریکایی و چینی را در بازارهای جدید پیچیده کند. مقررات تکه تکه می تواند استقرار جهانی مدل ها را پرهزینه تر و دشوارتر کند.

حوادث سوء استفاده و عملکرد نادرست هوش مصنوعی در سراسر آفریقا ظاهر می شود. الگوریتم یادگیری ماشین پیش‌بینی‌کننده کنیا برای تعیین سهم بیمه سلامت، هزینه‌های خانوارهای فقیر را افزایش داده است. کلاهبرداران در غرب آفریقا از محتوای تولید شده توسط هوش مصنوعی برای باج‌گیری از قربانیان در طرح‌های اخاذی استفاده کرده‌اند. گروه شبه نظامی بوکوحرام همچنین از هوش مصنوعی برای سازماندهی حملات و طراحی سلاح پس از دور زدن پادمان ها استفاده کرده است.

شوک که دیدگاه خوشبینانه خود را نامگذاری کرد، گفت: «فکر می‌کنم برای دولت‌ها یک حادثه بالقوه فاجعه‌بار خواهد بود که واقعا [به آن توجه کنند». دیدگاه بدبینانه این است که ما آن را به موقع متوقف نمی کنیم.»

آفریقا در حال حاضر از نظر پذیرش هوش مصنوعی از سایر مناطق عقب است، اگرچه شرکت های آن به سرعت در حال حرکت هستند. از 85 شرکت بزرگی که امسال توسط PricewaterhouseCoopers مورد بررسی قرار گرفتند، بیش از 80 درصد آنها پایلوت های هوش مصنوعی را اداره می کردند. بر اساس این گزارش، بسیاری از آنها فاقد ساختارهای رسمی برای نظارت بر ایمنی هستند.

ملانی کیتا، مدیر عامل و موسس شرکت مالی مستقر در نایروبی Melanin Kapital، به Rest of World گفت: «همه فقط در تلاش هستند تا [به‌کارگیری هوش مصنوعی] را پشت سر بگذارند.

مانند بسیاری از شرکت های آفریقایی، Melanin Kapital انتخاب بین مدل های هوش مصنوعی آمریکایی و چینی را سنجیده و هر دو را در داخل آزمایش کرده است. کیتا گفت که هر دو خطرات خاص خود را دارند. ما ممکن است محصول شرکت‌های خارجی دیگری شویم که... مالک تمام داده‌های ما هستند، نه اینکه واقعا مستقل و آزاد باشیم.»

ریسک همچنین با این که اگر مشکلی پیش بیاید به راحتی می توان یک مدل را خاموش کرد نیز ارتباط دارد. ChatGPT و Claude مدل هایی با وزن بسته هستند که به طور مرکزی توسط ارائه دهندگان آنها کنترل می شوند.

مدل های چینی مانند DeepSeek و Kimi به همراه چند مدل آمریکایی وزن باز دارند و کاربران می توانند آن ها را دانلود و اصلاح کنند. جین مونگا، یکی از همکاران مؤسسه صلح بین‌المللی کارنگی، به Rest of World گفت که این کار را برای توسعه‌دهندگانشان سخت‌تر می‌کند تا از راه دور تعطیل شوند.

"تمایز مهم چینی در مقابل آمریکایی نیست، بلکه این است: چه کسی کلید خاموش را نگه می دارد؟" او گفت.

به گفته شوک، دولت‌ها در سراسر آفریقا شروع به استفاده از هوش مصنوعی در حوزه‌های حساسی مانند مراقبت‌های بهداشتی، آموزش و خدمات عمومی کرده‌اند، حتی اگر کمتر از نیمی از کشورهای آفریقایی سیاست‌ها یا استراتژی‌های هوش مصنوعی دارند.

کنیا تنها کشور آفریقایی است که در یک شبکه بین المللی ایمنی هوش مصنوعی که در حال توسعه روش هایی برای ارزیابی مدل های پیشرفته هوش مصنوعی است، شرکت می کند.

سال گذشته، این شبکه عوامل هوش مصنوعی را برای خطراتی مانند نشت داده های حساس و کلاهبرداری آزمایش کرد. جوآنا ویاترک، یکی از بنیانگذاران مرکز امنیت و دسترسی هوش مصنوعی، به Rest of World گفت، اما این تمرین به جای خطرات خاص آفریقا، بر خطرات مشترک جهانی متمرکز بود. به این نتیجه رسید که حفاظت های عامل در بین زبان ها به طور یکنواخت کار می کند.

گاتونی ایرری، محقق پژوهشی در برنامه Ilina مستقر در نایروبی، مرکز تحقیقات ایمنی هوش مصنوعی، به Rest of World گفت که ارزیابی‌های ایمنی «محور آفریقا» باید آسیب را بر اساس اندازه اقتصاد هر کشور ارزیابی کند. او گفت که حادثه ای که ممکن است در یک کشور غربی جزئی تلقی شود، می تواند به طور جبران ناپذیری به یک کشور آفریقایی آسیب برساند.

ایرری گفت که شرکت‌ها در حال حاضر آزمایش‌های ایمنی خود را انجام می‌دهند، اما این باید با ارزیابی‌های شخص ثالث که خطرات خاص آفریقا را ارزیابی می‌کنند، جایگزین شود.

او گفت: «من فکر می‌کنم ما نیز باید ایده‌های خودمان را در مورد اینکه امنیت یک سیستم در چارچوب خودمان به چه معناست داشته باشیم.

علی محمد عمر، وزیر امور خارجه سومالی در سازمان ملل گفت که کشورهای آفریقایی باید ظرفیت انجام این ارزیابی ها را توسعه دهند.

او گفت: «آفریقا نمی‌تواند صرفا بازاری برای سیستم‌های توسعه‌یافته در جاهای دیگر، منبع داده‌های خام یا محل آزمایش فناوری‌هایی باشد که به اداره آن کمکی نکرده است». به [آفریقا] باید در این فرآیندهای چندجانبه نماینده واقعی و صدایی اعطا شود.»