پرش به محتوای اصلی

آیا می توانید جلوی فرار یک هوش مصنوعی سرکش را بگیرید؟ تست امنیت علمی تخیلی ما را انجام دهید

تک‌رادار۱۴۰۵ مهر ۱۶, پنجشنبه، ساعت ۰۰:۳۰حدود 2 دقیقه مطالعه

OpenAI و Anthropic تیم های بزرگی دارند که روی این موارد کار می کنند. شما شش سوال و غریزه امنیت سایبری خود دارید. آیا می توانید یک هوش مصنوعی سرکش را در خود نگه دارید؟

عوامل سرکش هوش مصنوعی در چند هفته گذشته بر سرفصل های فناوری تسلط داشته اند. ما داستان‌هایی درباره نگرانی‌هایی دیده‌ایم که مدل‌های هوش مصنوعی تلاش می‌کنند اپراتورهای انسانی خود را فریب دهند، راه‌های غیرمنتظره‌ای برای رفع محدودیت‌ها در کسب‌وکارها پیدا می‌کنند و در برخی موارد، رفتارهای عجیب و غریبی را که سازندگان آن‌ها پیش‌بینی نمی‌کردند، انجام می‌دهند.

همه این اخبار با هشدارهای شومی در مورد آنچه ممکن است در آینده اتفاق بیفتد همراه شده است، زیرا عوامل هوش مصنوعی به جریان اصلی، در دسترس، توانمندتر تبدیل می شوند و به آنها آزادی عمل بیشتری داده می شود تا از طرف ما عمل کنند.

اکنون، اگر از طرفداران علمی تخیلی هستید، سخت است که با ربات‌های سرکش و هوش مصنوعی دستکاری که دهه‌هاست همه آنها را روی صفحه نمایش خود تماشا می‌کنیم، تشابهی نداشته باشید. و البته، وقتی این فیلم‌ها را از روی مبل‌های امن تماشا می‌کنیم، همه فکر می‌کنیم که بهتر می‌دانیم.

شاید مطمئن باشید که به آوا در Ex Machina اعتماد نمی‌کردید. یا مطمئنا در سال 2001: یک ادیسه فضایی، کنترل Discovery را به HAL نمی‌دادید. و احتمالا متقاعد شده‌اید که اجازه نمی‌دهید M3GAN در نزدیکی Wi-Fi باشد. اما آیا واقعا گول زدن شما بسیار دشوار است؟

زیرا امروزه برای مواجهه با فریب متقاعد کننده هوش مصنوعی نیازی نیست در یک سفینه فضایی به دام افتاده باشید. چیزهایی مانند پیام‌های فیشینگ تولید شده توسط هوش مصنوعی، کلون‌های صوتی، دیپ‌فیک‌ها و کلاه‌برداری‌های پیچیده در حال حاضر کار را سخت‌تر می‌کنند که به چه کسی (و چه چیزی) می‌توانید اعتماد کنید. [می‌توانیم لطفا پیوندی به مسابقه تصویری «آیا این یک تصویر هوش مصنوعی است یا نه» در اینجا قرار دهیم]

بنابراین، بیایید تصور کنیم که بدترین اتفاق رخ داده است: یک هوش مصنوعی سرکش سعی می کند فرار کند، و شما تنها چیزی هستید که در راه آن ایستاده اید. آیا می توانید آن را در خود نگه دارید؟ یا اینکه آخرالزمان ربات به نوعی در نهایت تقصیر شماست؟

برای پیدا کردن این موضوع در آزمون زیر شرکت کنید. (بیشتر) فقط کمی سرگرم کننده است.

خواندن متن کامل در تک‌راداربه زبان اصلی، در سایت ناشر باز می‌شود
متن اصلی (انگلیسی)

Could you stop a rogue AI from escaping? Take our sci-fi security test

OpenAI and Anthropic have huge teams working on this stuff. You’ve got six questions and your cybersecurity instincts. Could you keep a rogue AI contained?

همه‌ی اخبار فناوری