در داخل تقلا برای پلیس های قابل اعتماد هوش مصنوعی

تعداد زیادی از بازیگران صنعت، سیاست‌گذاری‌ها و کسب‌وکارها با این سوال دست و پنجه نرم می‌کنند که چگونه هوش مصنوعی را به شیوه‌ای قابل اعتماد تنظیم کنند. در داخل کاخ سفید، بیشتر کارها طبق معمول انجام می شود. چرا اهمیت دارد: حرکت دیوانه وار این صنعت محصول یک دستگاه نظارتی موقت و یک اجماع عمومی است که اقدام سریع واشنگتن در کوتاه مدت بعید است. وضعیت بازی: مدیران عامل هوش مصنوعی با نحوه آزمایش هوش مصنوعی پیشرفته و همکاری با پکن در زمینه استانداردهای ایمنی دست و پنجه نرم می کنند، در حالی که کاخ سفید از راه حلی حمایت می کند که در آن صنعت راه هایی برای کنترل خود بیابد. یعنی مسابقه

تصمیم می گیرد که چه کسی به عنوان ارزیاب شخص ثالث سیستم ها و کنترل های هوش مصنوعی انتخاب شود، زیرا شرکت ها منتظر قانون یا اقدام کاخ سفید فراتر از روند داوطلبانه فعلی هستند.

یک اکوسیستم قوی از گروه های ایمنی و معیار در حال حاضر وجود دارد، اما برخی از مقامات کاخ سفید و مدیران هوش مصنوعی آنها را بسیار نزدیک به شرکت های برتر هوش مصنوعی می دانند. گزینه‌های دیگر شامل کسب‌وکارها و استارت‌آپ‌هایی است که قبلا ارزیابی می‌کنند، و همچنین برخی پیشنهادات غیرمتعارف‌تر. آنچه آنها می گویند: به گفته یکی از مقامات کاخ سفید، شرکت ها بیشترین تخصص را در زمینه هوش مصنوعی دارند و درک می کنند که چارچوب داوطلبانه هوش مصنوعی کاخ سفید به چه چیزی نیاز دارد. این مقام مسئول گفت: این افراد 12 ساله نیستند.

این مقام مسئول ادامه داد: شرکت‌های مرزی باید در مورد آنچه می‌خواهند به توافق برسند، زیرا در مورد چیزی به توافق نرسیده‌اند. اگر این شرکت‌ها احساس می‌کنند که این وضعیت بسیار وخیم است، حق، دلیل و توانایی کامل دارند تا مدل‌های خود را کنترل کنند.» نقطه اصطکاک: برخی از ارزیابان شخص ثالث - از جمله افراد در METR که حادثه OpenAI-Hugging Face را بررسی کردند - به دلیل داشتن روابط نزدیک با جنبش مؤثر نوع‌دوستی و همچنین با شرکت‌هایی که قرار است آنها را پلیس کنند، مشخص شده‌اند. یکی از محققین خارجی اپیزود در آغوش گرفتن، مار است

پاول کریستیانو، یک مقام باتجربه ایمنی و فناوری هوش مصنوعی که اخیرا به هیئت مدیره بنیاد غیرانتفاعی OpenAI پیوسته است. یکی از کارمندان آنتروپیک اخیرا استارتاپ را ترک کرده و در METR نیز کار می کند.

METR گفته است که از آزمایشگاه های مرزی بودجه نمی گیرد. یک سخنگوی گفت که کریستیانو پس از پایان تحقیقات به هیئت مدیره OpenAI پیوست.

شرکت‌های هوش مصنوعی و مقامات ایمنی می‌گویند که جامعه تحقیقاتی هوش مصنوعی همیشه کوچک و نزدیک بوده است و کارمندان آزمایشگاه‌های مرزی برای ارزیابی قابلیت‌های مدل مناسب هستند. بین خطوط: برخی از جنبه‌های سیستم‌های ارزیابی هوش مصنوعی موجود ناشی از تلاش‌ها برای بازاریابی قابلیت‌های مدل‌های جدید، از جمله نحوه عملکرد آنها در معیارهای کدنویسی و آزمون‌های ریاضی است. طیف گسترده ای از شرکت ها، از جمله پیمانکار دفاعی و فناوری Booz Allen، سیستم های هوش مصنوعی را برای مشتریان ارزیابی می کنند.

اریک سیفارد، رئیس هوش مصنوعی Booz Allen گفت: بسیاری از ارزیابی‌ها فاقد مؤلفه‌های حیاتی هستند، مانند سنجش تعداد دفعات ایجاد آسیب‌پذیری‌های نرم‌افزاری مدل‌ها یا تغییر در نحوه پاسخگویی آنها به درخواست‌ها.

سیفارد در مصاحبه‌ای به آکسیوس گفت: «همه آنها به این دیدگاهی که صرفا اجرا می‌شود از جهان متکی هستند. ایلان ماسک این هفته پیشنهاد داد آزمایشگاه‌های آمریکا و چین بتوانند مدل‌های یکدیگر را بررسی کنند، چشم‌اندازی که برخی آن را به دلیل رقابت شدید بین بازیکنان برتر بعید می‌دانند. ایده‌های دیگری نیز ظاهر شده است، از جمله درخواست یکی از مشاوران سابق ترامپ از «خدای برنامه‌نویس» افسانه‌ای و برنامه‌نویس جان کارمک برای ورود به صحنه. OpenAI این هفته پس از شناسایی شش حادثه جدید، کتاب بازی گزارش رویداد عمومی را ارائه کرد.

مانند چارچوب هوش مصنوعی کاخ سفید، ایده OpenAI برای گزارش حوادث عمومی داوطلبانه است، همانطور که رویکرد بررسی همتایان ماسک نیز وجود دارد.

ایده گزارش رویداد عمومی OpenAI شامل حسابرسان شخص ثالث برای موارد پیچیده تر است. هنری پاپاداتوس، مدیر اجرایی SaferAI در مصاحبه ای گفت: "شفافیت عمومی در اینجا بسیار مهم است. کاری که این شرکت ها انجام می دهند خوب است، اما فقط بر اساس حسن نیت آنها است و من فکر نمی کنم این کافی باشد."

آنچه ما در حال تماشای آن هستیم: اسکات بسنت، وزیر خزانه داری، که در آخر این هفته مذاکرات با معاون نخست وزیر چین، هی لیفنگ را رهبری خواهد کرد، گفت که فرصتی برای مذاکرات ایمنی با پکن وجود دارد.