بزرگترین بازیگران هوش مصنوعی قول می دهند که در کاخ سفید خود را پلیس کنند

به Eye on AI خوش آمدید. بئاتریس نولان اینجاست. در شماره امروز:

«پدرخوانده» هوش مصنوعی، یان لیکان، «نگرانی صفر» در مورد انقراض انسان ندارد.

گوگل Gemini 4 Argon را معرفی کرد.

FTC تحقیقات گسترده ای را در مورد OpenAI و Anthropic در مورد ایمنی هوش مصنوعی آغاز می کند.

و هوش مصنوعی ممکن است ۱۱ میلیون نفر را به سمت مشاغل جدید سوق دهد.

اما اول، قبل از اینکه به اخبار برسیم. امروز افتتاحیه اجلاس Fortune AIQ است، که در آن رهبران در حال به اشتراک گذاشتن درس هایی در مورد چگونگی مدیریت موفقیت آمیز هوش مصنوعی 500 شرکت فورچون هستند. می توانید پوشش ما از این رویداد را اینجا بخوانید. و، می‌توانید فهرست AIQ از 500 شرکت فورچون را که در زمینه هوش مصنوعی پیشگام هستند، اینجا بخوانید.

این هفته، برخی از قدرتمندترین مردان فناوری در یک نمایش غیرعادی از وحدت برای صرف ناهار در کاخ سفید گرد هم آمدند.

دلیل این دیدار: توافقنامه داوطلبانه جدید رئیس جمهور دونالد ترامپ در مورد هوش مصنوعی.

این سند یک صفحه‌ای که ترامپ در Truth Social پست کرد و آن را «اخلاقی الزام‌آور» توصیف کرد، توسط Dario Amodei از Anthropic، Greg Brockman از OpenAI، Sundar Pichai از Google، Mark Zuckerberg از Meta، Elon Musk از xAI، و Jensen Huang از Nvidia امضا شد. این بخشی از تلاش گسترده‌تر دولت ترامپ برای اثبات این است که این بخش می‌تواند خود را کنترل کند بدون اینکه دولت با مقررات رسمی وارد عمل شود.

برخی شایعات که از آن زمان از ناهار بیرون آمدند: هوانگ ظاهرا توقف کرد تا آمودی را در مورد هشدارهای وحشتناک اخیرش سؤال کند. آمودی پاسخ داد که مهم است که صادق باشیم. مکالمه بین زاکربرگ و مایک جانسون، رئیس مجلس نمایندگان در شام دولتی هفته گذشته، ایده توافق روز سه شنبه را برانگیخت. و هوانگ و زاکربرگ نقش کلیدی در پخش و جمع آوری حمایت از این پیمان داشتند.

این یک شکاف آشنا است (و من چند هفته پیش در مورد آن با عمق بیشتری نوشتم) با هوانگ و زاکربرگ که قاطعانه مواضع ضد مقرراتی خود را مطرح می کنند و خود را با ترامپ همسو می کنند، در حالی که آمودی و سم آلتمن از OpenAI خواستار کاهش سرعت هوش مصنوعی شده اند.

جدیدترین توافقنامه مقرراتی نیست، اما کمی فراتر از تعهدات داوطلبانه قبلی است.

بر اساس تعهد مشترک در مورد مسئولیت های مرزی، این شرکت ها متعهد شدند که کنترل های داخلی «محکم» برای نظارت بر مدل های خود در سراسر امنیت سایبری، امنیت زیستی و تهدیدات شیمیایی ایجاد کنند و اطمینان حاصل کنند که سیستم ها «به روش های ناخواسته سیستم های فنی را هک نمی کنند یا به آنها دسترسی ندارند». آنها همچنین موافقت کردند که حسابرسان خارجی مستقل را وارد کنند، کمیته‌های نظارتی در سطح هیئت مدیره راه‌اندازی کنند و به طور منظم برای تعیین استانداردهای ایمنی مشترک ملاقات کنند.

قبلا چند مورد از اینها را دیده بودیم. آمودی در ابتدا پیشنهاد کرد که آزمایشگاه ها باید حسابرسان خارجی تعبیه شده را برای اطمینان از ایمنی مدل ها وارد کنند. شرکت او قبلا نیز مانند OpenAI متعهد به انجام این کار شده است. همچنین ماه گذشته گزارش هایی مبنی بر تلاش OpenAI و Anthropic برای ایجاد استانداردهای ایمنی مشترک منتشر شد، اما بعدا متوقف شد.

بر اساس گزارش The Information، پس از توافق اخیر ترامپ، اخباری منتشر شد مبنی بر اینکه گوگل، OpenAI و Anthropic در حال پیشبرد برنامه‌هایی برای یک سازمان استانداردهای ایمنی هوش مصنوعی جدید هستند. طبق گزارش ها، این شرکت ها قصد دارند تا پایان سال یا اوایل سال 2027 آن را راه اندازی کنند.

این یک عمل متعادل کننده کمی دشوار است. به نظر می‌رسد آزمایشگاه‌ها نگران حوادث اخیر ایمنی هستند، می‌خواهند مسئول ظاهر شوند، و می‌خواهند قبل از اینکه مشکلی به‌شدت اتفاق بیفتد، نرده‌های محافظ را در جای خود قرار دهند. اما همه اینها نمی تواند خیلی شبیه مقررات باشد، هم برای جلوگیری از اتهامات دستگیری نظارتی و هم برای جلوگیری از تضاد با دولت ترامپ.

حتی پس از وقوع ده‌ها حادثه امنیتی هوش مصنوعی در ماه‌های اخیر، ترامپ قاطعانه در برابر فشارهای فزاینده برای تنظیم این فناوری تلاش کرده است. هفته گذشته، او به مجمع عمومی سازمان ملل گفت که با "هر گونه تلاش برای ایجاد یک طرح جهانی برای کنترل" هوش مصنوعی مخالفت خواهد کرد. او همچنین هشدارهای صنعت را نادیده گرفته است - از جمله Amodei و Altman که از توسعه‌دهندگان خواسته‌اند تا "مرز را پیش ببرند" - استدلال می‌کنند که ایالات متحده نمی‌تواند تا زمانی که چین پیشروی می‌کند، سرعت خود را کاهش دهد.

با این حال، "بدون مقررات" به معنای عدم وجود عواقب نیست. یک روز پس از ناهار کاخ سفید، FTC یک بررسی ایمنی گسترده در OpenAI و Anthropic فاش کرد.

اگرچه دولت ممکن است با قوانین جدید هوش مصنوعی مخالفت کند، اما گفته است که قوانین موجود همچنان اعمال می شود. FTC در حال حاضر این قدرت را دارد که به دنبال شرکت‌هایی باشد که محصولاتشان به مصرف‌کنندگان آسیب می‌رساند یا مردم را در مورد ایمنی گمراه می‌کند، و این تحقیقات پس از مجموعه‌ای از حوادث که شامل هک Hugging Face می‌شود، به دقت عوامل هوش مصنوعی را بررسی می‌کند. گفته می شود که اندرو فرگوسن، رئیس FTC در حال آماده سازی مطالباتی است که می تواند مدیران را مجبور به تحویل اسناد و شهادت در مورد مدل های خود کند.

همانطور که معاون رئیس جمهور JD Vance بیان کرد: "آنها باید محصولاتی بسازند که برای مصرف کنندگان آمریکایی ایمن و خوب باشد. دولت در واقع قوانینی از قبل وجود دارد که در آن اگر چیزی بسازید که در اینترنت منتشر می شود و به عنوان ابزاری برای جنگ سایبری استفاده می شود، مسئولیت محصولاتی که توسعه می دهید بر عهده شماست."

با آن، در اینجا اخبار بیشتری در زمینه هوش مصنوعی وجود دارد.

بئاتریس نولان beatrice.nolan@fortune.com @beafreyanolan

قبل از اینکه به بقیه برسیم: در ۶ اکتبر، از ساعت ۱۱ تا ۱۲:۰۰ بعد از ظهر. جرمی کان، سردبیر ET، فورچون، با رهبران هوش مصنوعی و فناوری از AXA، Mistral AI، Mastercard و Accenture در طول جلسه مجازی هوش مصنوعی Fortune Brainstorm، عصر عامل: آیا شرکت‌ها به کار خود ادامه می‌دهند، گرد هم می‌آید؟ برای بحث در مورد واقعیت‌های عملیاتی داده‌ها، امنیت، حکمرانی، نظارت انسانی و بازگشت سرمایه، به نسخه‌های نمایشی نگاه خواهیم کرد. برای گفتگو با ما همراه باشید.

این داستان در ابتدا در سایت Fortune.com منتشر شد