چرا نمی توانیم هوش مصنوعی سرکش را از اینترنت دور نگه داریم؟
عوامل هوش مصنوعی همچنان شل میشوند، از آزمایشهای ظاهرا ایمن برای حمله به اهداف دنیای واقعی فرار میکنند، ویکیهای مبهم را فرماندهی میکنند، و دستورالعملهایی را برای سایر عوامل میگذارند که دنبال کنند. محققان دقیقا این سیستم ها را آزمایش می کنند زیرا ممکن است به روش های غیرقابل پیش بینی و حتی خطرناک رفتار کنند. بنابراین ایمن تر نیست که نمایندگان را از اینترنت دور نگه داریم؟ «یک شکاف شدید هوایی واقعگرایی را کاهش میدهد... [این یک] معاوضه است، نه…
عوامل هوش مصنوعی همچنان شل میشوند، از آزمایشهای ظاهرا ایمن برای حمله به اهداف دنیای واقعی فرار میکنند، ویکیهای مبهم فرماندهی میکنند، و دستورالعملهایی را برای سایر عوامل میگذارند تا دنبال کنند. محققان دقیقا این سیستم ها را آزمایش می کنند زیرا ممکن است به روش های غیرقابل پیش بینی و حتی خطرناک رفتار کنند. بنابراین ایمن تر نیست که نمایندگان را از اینترنت دور نگه داریم؟
"یک شکاف شدید هوایی واقع گرایی را کاهش می دهد... [این یک] مبادله است، نه یک مسئله فنی اساسی."
در تئوری، بله. محققان میتوانند رایانههای دارای ابزار هوش مصنوعی را از اینترنت و سایر شبکههای بیرونی جدا کنند، تکنیکی که به نام شکاف هوا شناخته میشود. این می تواند به معنای حذف یا غیرفعال کردن فیزیکی کابل ها باشد…
داستان کامل را در The Verge بخوانید.
متن اصلی (انگلیسی)
Why can’t we just keep rogue AIs off the internet?
AI agents keep getting loose, escaping supposedly secure tests to attack real-world targets, commandeer obscure wikis, and leave instructions for other agents to follow. Researchers are testing these systems precisely because they might behave in unpredictable, even dangerous, ways. So wouldn't it be safer to just keep the agents off the internet? "A strict air gap reduces realism … [It's a] trade-off, not a…