توهم هوش مصنوعی تقریبا عملیات نظامی ایالات متحده را آغاز می کند
یک محقق تحقیقاتی GovAI هشدار می دهد: "برای اعضای خدمات مهم است که عدم قطعیت ذاتی LLM را درک کنند."
هواپیماهای نظامی از قبل در بهار امسال در هوا بودند که مقامات آمریکایی به کشف هشداردهندهای دست یافتند: اطلاعاتی که عملیات مسلحانه را علیه یک کشتی چینی انجام میداد توسط یک ربات چت هوش مصنوعی توهم زده شده بود. سی ان ان روز جمعه گزارش داد که این عملیات در آخرین لحظه متوقف شد و به سختی از درگیری احتمالی با چین جلوگیری کرد.
این اپیزود بر نگرانی فزاینده در میان مقامات نظامی و کارشناسان خارجی تاکید می کند: از آنجایی که تصمیم گیرندگان بیشتر به هوش مصنوعی تکیه می کنند، خطاهایی که این سیستم ها ایجاد می کنند می توانند قبل از بازجویی در زنجیره فرماندهی حرکت کنند.
گزارش اطلاعاتی که در طول جنگ با ایران منتشر شد، میگوید این کشتی حامل قطعاتی برای برنامه تسلیحات هستهای است.
این اطلاعات نادرست از یک تحلیلگر فرماندهی عملیات ویژه سرچشمه گرفته است که از یک ربات چت هوش مصنوعی برای ترکیب داده های منبع باز با اطلاعات سیگنال های طبقه بندی شده پرس و جو کرد. چت بات مانیفست محموله کشتی را اشتباه شناسایی کرد. سپس تحلیلگر برای بار دوم از این ابزار برای قالببندی یافتههای اشتباه به صورت خلاصهای رسمی استفاده کرد که در کانالهای فرماندهی پخش شد.
این نزدیکی از دست رفته در حالی رخ می دهد که ارتش ایالات متحده برای ادغام هوش مصنوعی برای تسریع در تصمیم گیری و حفظ برتری خود نسبت به چین رقابت می کند. پنتاگون هوش مصنوعی را به عنوان مزیت قابل توجهی در تسریع زنجیره کشتن خود توصیف کرده است تا فرماندهان بتوانند در زمان مناسب پاسخ دهند. اما همان سرعتی که هوش مصنوعی را جذاب میکند ممکن است توهمات را با نظارت ناکافی انسان نیز مجاز کند.
جیک استکلر، محقق تحقیقاتی در GovAI و افسر کهنه کار ارتش ایالات متحده در پاسخ کتبی به TechCrunch گفت: «برای اعضای خدمات مهم است که عدم قطعیت ذاتی LLM را درک کنند. اما برای هر تصمیمی که میتواند منجر به استفاده از زور شود، مانند هدفگیری، تجزیه و تحلیل اطلاعاتی یا برنامهریزی عملیاتی، بسیار مهم است. این تصمیمها پیامدهای مرگ و زندگی دارند.»
با این حال، استکلر میگوید، این حادثه باید به عنوان فراخوانی برای افزودن محافظهای بیشتر به هوش مصنوعی باشد، نه دلیلی برای اجتناب از آن. او گفت: «این ابزارها میتوانند در زمینههای مناسب و با وجود پادمانهای مناسب مفید باشند. اما اولویت دادن به سرعت پذیرش بر هر چیز دیگری احتمالا منجر به حوادثی میشود که فقط باعث میشود اعضای سرویس اعتماد خود را به این سیستمها از دست بدهند، که در نهایت باعث کاهش پذیرش میشود.»
وقتی از طریق پیوندهای موجود در مقالات ما خرید می کنید، ممکن است کمیسیون کمی کسب کنیم. این بر استقلال تحریریه ما تأثیر نمی گذارد.
آخرین روز برای رزرو میز نمایشگاه، 18 سپتامبر است. سرنخ های پر تاثیر، دسترسی سرمایه گذاران، و کانون توجه برند در سالن نمایشگاه Disrupt را از دست ندهید.
OpenAI مدل های خود را گرفتار کرد که برای جانشینان یادداشت می گذاشتند تا رفتار بد ربکا بلان را پنهان کنند
ربکا بلان نشان می دهد که مدیر مایکروسافت خراشیدن با هوش مصنوعی را «بزرگترین سرقت نیروی کار در تاریخ بشر» می داند.
استارت آپ فناوری پاک Fluxnium راهی برای بهره برداری از سوخت هسته ای 50000 ساله تیم دی چانت پیدا کرد.
جنسن هوانگ با ترامپ تماس گرفت و چیز دیگری را نیز به نمایش گذاشت، کانی لویزوس
9 استارتآپ پرطرفدار از آخرین روز نمایشی Y Combinator، به گفته VCs Marina Temkin Dominic-Madori Davis
تسلا میگوید سرانجام در تاریخ 1 اکتبر از نسل دوم رودستر آنتونی ها رونمایی خواهد کرد
Revolut نقض اطلاعات مشتری از طریق درخواست های جعلی دولت Jagmeet Singh را تأیید می کند
متن اصلی (انگلیسی)
AI Hallucination Nearly Triggers US Military Operation
“It’s important for service members to understand the uncertainty inherent to LLMs," a GovAI research scholar warns.