ما گفتگوی سازمان ملل درباره هوش مصنوعی ایمن و مطمئن را رهبری کردیم. این چیزی است که اکنون باید اتفاق بیفتد

طی هفته گذشته، سازندگان خود هوش مصنوعی زنگ خطر را به صدا درآورده‌اند. چند تن از مدیران عامل پیشرو این صنعت اکنون علنا خواستار سرعت پایین‌تر توسعه هوش مصنوعی هستند و خطرات ناشی از از دست دادن کنترل، حملات سایبری و بیوتروریسم را ذکر می‌کنند.

این خبر چند روز پس از آن منتشر شد که اندرو بیلی، رئیس بانک مرکزی انگلیس، رئیس هیئت ثبات مالی، به وزیران دارایی و بانک‌های مرکزی G20 گفت که سیستم مالی جهانی متزلزل امروزی با تهدید جدیدی در هوش مصنوعی مواجه است. با توجه به بسیاری از مؤسسات در حال حاضر به همان تعداد انگشت شماری از مدل های هوش مصنوعی و ارائه دهندگان ابری، یک ضعف مورد سوء استفاده می تواند به سرعت گسترش یابد.

ما این هشدارها را با احتیاط دریافت می کنیم، اما نه با تعجب. به عنوان رهبر مشترک برای هوش مصنوعی ایمن، ایمن و قابل اعتماد در اولین گفتگوی جهانی سازمان ملل درباره حکمرانی هوش مصنوعی در ژنو در ژوئیه گذشته، ما موافق هستیم که جهان به قوانین مشترک نیاز دارد. سیستم‌های هوش مصنوعی جدید تنها باید پس از آزمایش مستقل در برابر آستانه‌های توافق شده از آنچه می‌توانند انجام دهند منتشر شوند. توسعه دهندگان باید پروتکل های ایمنی خود را منتشر کنند و هرگونه حادثه ای که پس از استقرار رخ می دهد باید به وضوح نظارت و گزارش شود.

ژنو اولین گام مهم به سوی مدیریت هماهنگ هوش مصنوعی بود، گامی که نقشه راه را به ما تحویل داد. در سالی که خطوط گسل گسترده‌تر در اطراف تجارت، امنیت و قدرت وجود داشت، 170 کشور توانستند در کنار صنعت و جامعه مدنی گرد هم آیند تا زمینه‌های مشترکی در مورد مکانیسم‌هایی برای شروع حکمرانی بر این فناوری در حال حرکت پیدا کنند.

با قدردانی از محدودیت‌های کار در سطح سازمان ملل، اقدامات «بدون پشیمانی» وجود دارد، گام‌هایی که هیچ جنبه منفی ندارند، که سازمان ملل می‌تواند فورا انجام دهد.

ابتدا نقاط بین علم و سیاست را به هم وصل کنید. در حال حاضر، دانشمندانی که خطرات هوش مصنوعی را مطالعه می‌کنند و دیپلمات‌هایی که در حال مذاکره در مورد آن‌ها هستند، روی مسیرهای جداگانه‌ای کار می‌کنند، بدون هیچ روش ساختاری برای صحبت با یکدیگر. هیئت علمی مستقل بین المللی سازمان ملل در زمینه هوش مصنوعی اولین ارزیابی مبتنی بر شواهد خود را در ژنو ارائه کرد. این شواهد به جای نشستن در کنار آن، نیاز به کانالی رسمی برای ورود به روند مذاکرات گفتگوی جهانی پیش از ماه می آینده دارد.

با توجه به اینکه بیشتر تحقیق و توسعه هوش مصنوعی پشت درهای بسته صنعت اتفاق می افتد، شهروندان و سیاست گذاران اگر بخواهند مطلع باشند و اقدام کنند، به بهترین توصیه های علمی موجود نیاز دارند.

دوم، منتظر نمانید تا بر اساس آنچه می‌دانیم کار می‌کند، بسازید. ما از سازمان ملل می‌خواهیم که یک خط مبنا مرجع مشترک برای ایمنی ایجاد کند که بر اساس قوانین بین‌المللی حقوق بشر باشد و از آنچه قبلا وجود دارد ساخته شود. چارچوب‌های تثبیت‌شده‌ای مانند اصول هوش مصنوعی OECD، آیین‌نامه رفتار G7 هیروشیما، تعهدات ایمنی مرزی هوش مصنوعی از اجلاس 2024 سئول، و توصیه یونسکو در مورد اخلاق هوش مصنوعی، در کنار سازمان بین‌المللی استانداردسازی (ISO) و استانداردهای موتورهای ملی (ISO) و مؤسسه استانداردهای فناوری ملی (NIST) راه را نشان می‌دهند.

با ایجاد درک مشترک از طبقات نظارتی فعلی، کشورها می توانند اولویت بندی کنند که چه چیزی در زمینه ملی و منطقه ای خود بسازند. استراتژی هوش مصنوعی ملی کاستاریکا با دولت، جامعه مدنی، صنعت و دانشگاه در یک میز ساخته شد و به جای ابداع چارچوب های خود، بر چارچوب های بین المللی لنگر انداخت. این فرآیند ارزش تکرار دارد.

ثالثا، ما باید در جامعیت - هم جغرافیایی و هم مالی - ایجاد کنیم تا گفتگوهایی مانند گفتگوی سازمان ملل برای همه باز باشد. این به معنای تامین مالی مشارکت واقعی است، بنابراین دولت‌ها، محققان و جامعه مدنی با ظرفیت مالی کمتر می‌توانند در اتاق‌هایی باشند که گفتگوها در آن انجام می‌شود. که نیاز به یک صندوق امانی اختصاصی دارد، مشابه صندوقی که بودجه پانل بین دولتی تغییرات آب و هوایی (IPCC) را تامین می کند.

فراگیر بودن همچنین به معنای اثبات این است که سیستم‌های نظارتی مختلف می‌توانند با هم در شرایط برابر کار کنند، نه فقط در تئوری، بلکه از طریق تعداد انگشت شماری از جعبه‌های ماسه‌ای نظارتی فرامرزی، که توسط گروه کوچکی از کشورها آزمایش می‌شوند و آشکارا به اشتراک گذاشته می‌شوند. در بخش مالی، رگولاتورها قبلا این کار را از طریق شبکه جهانی نوآوری مالی انجام می دهند، که به کشورهای مختلف اجازه می دهد محصولات مالی جدید را با هم در سراسر مرزها آزمایش کنند.

این توصیه ها کاملا در دسترس هستند. آنچه در حال حاضر مهم است این است که آیا ما همان سختگیری و اراده سیاسی را برای اجرای آنچه توافق کرده ایم به کار می گیریم یا خیر. تا زمانی که گفتگوی جهانی در ماه مه برگزار می شود، سه چیز باید وجود داشته باشد: ارزیابی شواهد از هیئت علمی. دستور کار گفتگو که خط پایه ایمنی را در بر می گیرد. و اولین خلبان سندباکس برون مرزی.

این فوریت انتزاعی نیست. همانطور که نامه هیئت ثبات مالی و سایر رویدادهای اخیر به وضوح نشان می دهد، این خطرات در حال حاضر در جلوی درب ما هستند، هر کجا که زندگی می کنیم.

دولت‌ها، شرکت‌ها و گروه‌های جامعه مدنی تابستان امسال با شفافیت و قاطعیت درباره آنچه حکمرانی هوش مصنوعی نیاز دارد صحبت کردند. این کار باید در پاییز امسال در سازمان ملل و در مذاکرات سال آینده ادامه یابد. ما وقت نداریم مسائلی را که قبلا باید حل و فصل شده باشند، بررسی کنیم.

اگر تعداد انگشت شماری از بازیگران قدرتمند تصمیم بگیرند که چگونه هوش مصنوعی اداره می شود، بقیه جهان ضرر می کنند. تابستان امسال نشان داد که طیف وسیعی از کشورها و سازمان ها می توانند تحت فشار به توافق برسند. گام بعدی ارائه نتایجی است که جهان واقعا می تواند ببیند.

نظرات بیان شده در نظرات Fortune.com صرفا نظرات نویسندگان آنها است و لزوما منعکس کننده نظرات و اعتقادات Fortune نیست.

این داستان در ابتدا در سایت Fortune.com منتشر شد