حسابرسان هوش مصنوعی Big Tech فقط آنچه را که به آنها نشان داده می شود می بینند

هفته گذشته، شش تا از قدرتمندترین شرکت‌های هوش مصنوعی در جهان به کاخ سفید قول دادند که به افراد خارجی اجازه خواهند داد تا کار آنها را بررسی کنند.

در 29 سپتامبر، Nvidia، OpenAI، Anthropic، Google، Meta و xAI توافقنامه‌ای را درباره پیشرفته‌ترین مدل‌های هوش مصنوعی امضا کردند که دونالد ترامپ، رئیس‌جمهور ایالات متحده آن را «اخلاقی الزام‌آور» خواند. هر شرکت قول داده است «با یک حسابرس یا ارزیاب خارجی مستقل شریک شود» و اعضای هیئت مدیره مستقل گزارش های حسابرسان را بررسی کرده و از رفع مشکلات اطمینان حاصل کنند.

ممیزی های بیرونی ایده خوبی هستند، و من خوشحالم که آنها را در آنجا می بینم. اما در این توافقنامه چیزی در مورد اینکه چه کسی حسابرسان را انتخاب می‌کند، چه چیزی را می‌توانند بررسی کنند یا اینکه آیا یافته‌های آن به اطلاع عموم می‌رسد، نمی‌گوید. هیچ مجازاتی برای نادیده گرفتن آن وجود ندارد. همانطور که وجود دارد، هر شرکت حسابرس خود را انتخاب می کند و تصمیم می گیرد که حسابرس به چه چیزی نگاه کند.

حتی زمانی که آزمایش خارجی انجام می شود، توسعه دهنده شرایط را تعیین می کند. METR، یک سازمان غیرانتفاعی که مدل‌های هوش مصنوعی را آزمایش می‌کند، نوشت که آزمایش مدل o3 OpenAI قبل از انتشار «فقط طی سه هفته» با «دسترسی محدود به اطلاعات مربوط به مدل» و هیچ دیدگاهی از استدلال گام‌به‌گام مدل انجام شد.

برای منصفانه بودن OpenAI، در وهله اول اجازه آزمایش را داد. اما این نشان می‌دهد که یک شرکت چقدر از آنچه برای اشتراک‌گذاری انتخاب می‌کند استفاده می‌کند.

در ماه اوت، DeepMind راهی برای دور زدن آن نشان داد. با همکاری موسسه ایمنی هوش مصنوعی سنگاپور و سه گروه خارجی دیگر، اولین آزمایش دوسوکور یک مدل هوش مصنوعی در جهان را بر اساس همان اصل آزمایش داروی دوسوکور انجام داد. این آزمایش روی سخت‌افزار کامپیوتر مهر و موم شده انجام شد، بنابراین آزمایش‌کنندگان خارجی هرگز مدل را ندیدند و Google هرگز سؤالات آنها را ندید. گوگل می‌گوید هر طرف می‌تواند از نظر ریاضی بررسی کند که مطالبش خصوصی مانده است.

برای گزارش ما، «جایگزین‌هایی برای هوش مصنوعی متمرکز» که این هفته توسط مرکز تحقیقات عدم تمرکز منتشر شد، من و کایل بلیگن، نویسنده همکارم با 36 نفر مصاحبه کردیم و نزدیک به 30 گزینه جایگزین برای کنترل متمرکز بر هوش مصنوعی ترسیم کردیم. یافته اصلی ما این بود: افراد خارجی اکنون می توانند هوش مصنوعی پیشرفته را بدون در اختیار داشتن مدل یا داده های آن بررسی کنند.

اگر ممیزی‌های توافقنامه ارزشی داشته باشد، حسابرسان باید آنچه را که آزمایش می‌کنند انتخاب کنند، حالا که می‌توانند این کار را بدون گرفتن نسخه‌ای از مدل انجام دهند. شرکت‌ها همچنین باید بگویند که حسابرسان آنها چه کسانی هستند و ممیزی‌ها چه مواردی را پوشش می‌دهند، حتی اگر یافته‌های دقیق خصوصی بماند. شرکت های دولتی چندین دهه است که حسابرسان خود را بدون افشای اسرار تجاری نامگذاری کرده اند. و کمیته‌های هیئت مدیره که این گزارش‌ها را می‌خوانند باید به فردی خارج از شرکت پاسخ دهند. Sarbanes-Oxley یک بازرس برای بازرسان ایجاد کرد. این توافق چیزی شبیه به آن ندارد و کنگره باید تصمیم بگیرد که چه چیزی این شکاف را پر می کند.

توجه: نظرات بیان شده در این ستون متعلق به نویسنده است و لزوما منعکس کننده نظرات CoinDesk, Inc. یا صاحبان و شرکت های وابسته آن نیست.