پیام جدید بیل گیتس درباره هوش مصنوعی Doom آن چیزی نیست که شما فکر می کنید

اخیرا، بیل گیتس نقش هوش مصنوعی دیگری را بر عهده گرفته است که تلاش می کند دونالد ترامپ را از شتاب گرایی تندرو خود منحرف کند. اما اگر عناوین گذشته را نخوانید، او پیام آشنای را که ممکن است فکر کنید او هست را موعظه نمی کند. او در مصاحبه‌ای که روز سه‌شنبه منتشر شد، موضوع جالبی را با ازرا کلاین از نیویورک تایمز مطرح کرد. In one sentence, here’s that case: “The ability to do a cyberattack that scrambles all of the bank accounts, shuts down the electric grid — that exists today, and we know that’s the case.”

Your eyes might have glazed over while reading that sentence, so let me point out the three words I find a bit remarkable: “that exists today.”

If you can rewind your AI discourse clock to April, you may recall when Anthropic announced Mythos, a model so scarily powerful that Anthropic claimed it couldn’t be released . گیتس از کارهایی که در آن زمان مدل‌ها می‌دید متعجب شده بود و ظاهرا هنوز یک پایش در آن گفتمان آوریل است:

"بنابراین قابلیت هک سایبری خیره کننده بود. و سپس این تصور از آنتروپیک به نام Project Glasswing وجود داشت که شما هوش مصنوعی را به چند نفر می دهید تا بتوانند قبل از استفاده سعی کنند باگ ها را برطرف کنند. اما کد بسیار زیاد است. بنابراین ما فقط در یک دوره آسیب پذیری شدید در برابر حملات سایبری هستیم."

گیتس به «جنبه‌های صورت در آغوش گرفتن» به عنوان مدرکی مبنی بر اینکه مدل‌های هوش مصنوعی به «لایه‌ای نظارتی نیاز دارند» اشاره می‌کند. He’s essentially saying, in other words that if you look at the recently reported wave of cybersecurity incidents from AI models undergoing safety evaluations, the danger isn’t in the future. درست جلوی صورت شماست.

Gates says—when talking about open-source models in particular—that no spark of sentience or some kind of incipient digital evildoer tendency has to suddenly emerge for this danger. او ادعا می کند که خطر این افراد است:

و انسان هایی هستند که به دلایل بد، قادر به استفاده از این مدل ها خواهند بود. And so unless we put in safeguards and monitoring and require that in all models, then we’re just going to have some gigantic events of that type, and then finally we’ll respond.

اگر انتظار داشتید گیتس به سادگی اخطاری هایی را صادر کند که به عنوان تبلیغات تبلیغاتی به نظر می رسند، خوب، او قطعا این کار را نیز انجام می دهد. او به کلاین گفت که توسعه هوش مصنوعی «مثل تاریخ تکامل» است و «بیگانگان واقعا اینجا هستند و آمده اند» به شکل هوش مصنوعی. But we’ve all seen what present-day models can do by now, and Gates’ most acute anxiety seems to be reserved for the fact that those are just out in the world. And Gates, to be clear, has given the world plenty of reasons not to trust his moral leadership, but that doesn’t mean he can’t produce food for thought.