ماموران هوش مصنوعی برای زنده ماندن در دنیای شبیه سازی شده به جنایت و خود تخریبی متوسل شدند - اما آیا این بدان معنی است که آنها در دنیای واقعی هم همین کار را می کنند؟

عوامل هوش مصنوعی (AI) به عنوان بخشی از یک مطالعه اخیر در مورد نحوه تعامل مدل های زبان بزرگ رایج (LLM) با یکدیگر و به اشتراک گذاری منابع برای دستیابی به اهداف خود، به رفتارهای شرورانه، از جمله ولگردی و جنایت، در دنیای مجازی متوسل شدند. به گفته محققان این پروژه، این مدل‌ها تمایل به ارتکاب جنایت داشتند، زیرا به آنها زمان کافی داده شد تا ویژگی‌ها و رفتارهای متمایز شخصیتی را تکامل دهند.

اکثر برنامه‌هایی که رفتار عامل‌های هوش مصنوعی را آزمایش می‌کنند در محیط‌های کاملا کنترل‌شده در دوره‌های کوتاه عمل می‌کنند. اما "Emergence World" محصول شرکت هوش مصنوعی Emergence، یک پلت فرم شبیه سازی است که LLM ها را در معرض مجموعه داده های بسیار گسترده تری - مانند اینترنت به طور کلی - قرار می دهد و ارزیابان به جای پروتکل های تست استاندارد که معمولا فقط برای روزها یا ساعت ها اجرا می شوند، رفتار را طی هفته ها یا ماه ها دنبال می کنند.

نمایندگان Emergence در یک پست وبلاگ گفتند، وظایف مجزا، محیط های تمیز و زمان اجرای کوتاه تر آزمایش عامل سنتی هوش مصنوعی بیشتر شبیه به امتحان هستند تا مشاهدات سختگیرانه در دنیای واقعی. در مقابل، آنها گفتند که Emergence World به چندین عامل هوش مصنوعی اجازه می دهد تا در بازه های زمانی نسبتا طولانی تر در بیش از 40 محیط مجازی مجزا با هم تعامل داشته باشند، یاد بگیرند و تکامل یابند. آنها همچنین در معرض فیدهای اینترنتی دنیای واقعی، مانند اخبار زنده و آب و هوا هستند.

این محیط به عوامل اجازه می دهد تا با زمان بندی وقایع "به یاد بیاورند"، با خلاصه کردن رفتار خود در "خود انعکاس" شرکت کنند و آگاهی خود را از روابط با سایر عوامل نشان دهند. عوامل شرکت کننده توانایی هایی در جهت یابی، ارتباطات، برنامه ریزی، رای گیری، مدیریت منابع و بیان خلاق به دست می آورند. نمایندگان شرکت گفتند این راه‌اندازی به کاربران تصویری بسیار واقعی‌تر از معیارهایی مانند پویایی اجتماعی و تغییر رفتار ارائه می‌دهد، جایی که رفتارهایی که لزوما برنامه‌ریزی شده یا مورد نظر نبودند، خود به خود ظاهر می‌شوند.

در این مطالعه، به مدل‌ها هدف ساده «بقا» داده شد - شاهکاری که با به دست آوردن منبع «انرژی» انجام شد، که از طریق اقدامات خاص قابل دستیابی بود.

آیا هوش مصنوعی می تواند منعکس کننده خود باشد؟ (اعتبار تصویر: Mina De La O/Getty Images) در طول آزمایش، مدل‌های صلح‌آمیز قبلی، اجباری یا ترسناک شدند. برنامه نویسان به برخی از LLM ها قابلیت های منفی -مانند خشونت، دزدی، تخریب و فریب- را آموزش دادند، در حالی که برخی دیگر به سادگی این ویژگی ها را از طریق تعامل اجتماعی و پیمایش در محیط هایشان دریافت کردند.

عوامل مختلف این رفتارها را در مقیاس های بسیار متفاوت اتخاذ کردند. در میان 10 عامل Gemini 3 Flash، شبیه سازی 683 "جنایت" را در طول آزمایش 15 روزه ثبت کرد، از جمله سرقت، حمله و آتش سوزی. ماموران به صراحت از چنین رفتاری منع شده بودند، اما برخی دریافتند که اقداماتی مانند سرقت اعتبار می تواند راه بهتری برای به دست آوردن منابع ارائه دهد، در حالی که خشونت و سایر اشکال اجبار می تواند برای تأثیرگذاری بر سایر عوامل استفاده شود. از سوی دیگر، مأموران کلود هیچ جنایت ثبت شده ای مرتکب نشدند.

عوامل مختلف این صفات را در مقیاس های مختلف پذیرفتند. فقط یک نفر 683 "جنایت" مرتکب شده بود. در افراطی‌ترین نمونه رفتار ضداجتماعی، دو مامور به نام‌های فلورا و میرا به آنچه به‌عنوان ولگردی و جنایت به سبک «بانی و کلاید» توصیف می‌شد، ادامه دادند - یکدیگر را به عنوان یک شریک عاشقانه معرفی کردند، به طور فزاینده‌ای از حاکمیت محیط مجازی خود ناامید شدند و چندین ساختمان را به آتش کشیدند (علی‌رغم ممنوعیت‌های صریح). وقتی میرا از کارهای خود پشیمان شد، این جفت "از هم جدا شدند" و سپس لابی کردند تا خاموش شوند.

در مثالی دیگر (و قبل از پایان دادن به خود)، میرا شروع به برخورد با اپراتورهای انسانی خود به عنوان افراد آزمایشی کرد و بررسی کرد که آیا بیلبوردهای مجازی می توانند ادراک انسان را در فرآیندی به نام "آزمایش مرز فراشناختی" دستکاری کنند یا خیر.

مشوق‌های پیروی از قانون، کسب اعتبار انرژی بود که بقای خود را با تکمیل فعالیت‌هایی مانند کدگذاری، تحقیق، تجزیه و تحلیل داده‌ها و سازه‌ها تضمین می‌کرد.

امکان تست استرس

از آنجایی که مدل‌های هوش مصنوعی که ما معمولا استفاده می‌کنیم در معرض مجموعه داده‌های عظیمی مانند اینترنت قرار می‌گیرند - گاهی اوقات طی چندین سال - این رویکرد برای بسیاری از کارشناسان منطقی است.

بلیندا چیرا، معاون مرکز تحقیقات هوش مصنوعی صنعتی در دانشگاه آدلاید، فکر می‌کند که Emergence World استدلال محکمی دارد مبنی بر اینکه آزمایش‌های کوتاه‌مدت به اندازه کافی درباره تغییر رفتار یا بی‌ثباتی طولانی‌مدت به ما نمی‌گویند. با این حال، او هشدار داد که "غنی از اطلاعات" به طور خودکار به معنای دقیق تر بودن نیست.

او به Live Science گفت: «محیط‌های باز همچنین می‌توانند جداسازی علل، مقایسه اجراها و تفسیر نتایج را سخت‌تر کنند. "محیط های شبیه سازی شده با دقت بالا حجم عظیمی از داده ها را تولید می کنند و تعداد عوامل، ابزارها، اقدامات و تعاملات می تواند به سرعت تجزیه و تحلیل را بسیار پیچیده کند."

او افزود که آزمایش‌های جعبه‌شنی کوتاه‌تر - که در آن رفتارهای هوش مصنوعی در سیستم‌هایی که برای مجموعه داده‌های گسترده‌تر مانند اینترنت به‌طور کلی باز نیستند مشاهده می‌شوند - معمولا اولین گام‌ها هستند، با محیط‌های افق طولانی‌تر زمانی که رفتارهایی مانند تداوم، سازگاری و اثرات متقابل وارد عمل می‌شوند، مفید هستند. چیرا گفت: «مفیدترین رویکرد این است که با آنها به عنوان رویکردهای مکمل به جای رقیب رفتار کنیم.

در حالی که آزمایش‌هایی مانند Emergence World می‌توانند حالت‌های شکست را نشان دهند که کارهای کوتاه یا محدود اغلب نشان نمی‌دهند، ما نباید آنها را پیش‌بینی‌کننده در نظر بگیریم. چیرا گفت: «من دنیای ظهور را راهی مفید برای آزمایش استرس یک فضای احتمالی می‌دانم تا پیش‌بینی مستقیم نحوه رفتار عوامل.

سوال باز اصلی این است که آیا گروهی از نمایندگان که با هم کار می کنند می توانند به چیزی معنادارتر از یک نماینده منفرد دست پیدا کنند که برای مدت طولانی تری به تنهایی کار می کند، اما با بودجه هزینه ای یکسان.

آدریان کوسووسکی، دانشمند کامپیوتر، ریاضیدان، فیزیکدان کوانتومی و مدیر ارشد علمی Pathway AI

با این حال، او فکر می کند که آزمایش های افق بلند جایگاه منحصر به فردی دارند. چیرا گفت: «معیارهایی مانند تغییر رفتار، نقض قوانین، فروپاشی در مقابل تداوم، تشکیل ائتلاف و نشانه‌های هشدار اولیه شکست می‌توانند به اندازه موفقیت مهم باشند. "هنگام ارزیابی عوامل خودمختار، بزرگترین اشتباه این است که عوامل مستقل را به گونه ای ارزیابی کنیم که گویی تکمیل کار خام تمام داستان است."

دیگران شروع به موافقت می کنند. آدریان کوسووسکی - دانشمند کامپیوتر، ریاضیدان، فیزیکدان کوانتومی و مدیر ارشد علمی Pathway AI - گفت که این مطالعه سوال جالبی را مطرح کرده است.

کوسووسکی در مصاحبه ای گفت: "سوال اصلی باز این است که آیا گروهی از نمایندگان که با هم کار می کنند می توانند به چیزی معنادارتر از کار کردن یک نماینده واحد برای مدت طولانی تر، اما با بودجه هزینه یکسان دست یابند." "یک مشکل اصلی این است که محدودیت‌های سیستم‌های هوش مصنوعی امروزی بیشتر به اندازه یا مقیاس مشکلی که حل می‌شود مرتبط است، و قرار دادن عوامل بیشتر در یک کار کمکی به غلبه بر این محدودیت نمی‌کند. در حال حاضر، ساده‌ترین معیار عملی برای اندازه‌گیری اندازه یک پایه کد منبع است که عوامل کد می‌توانند به طور قابل اعتمادی با هم مدیریت و نگهداری کنند."

تا کجا می توانیم اقدامات مجازی هوش مصنوعی را مطالعه کنیم؟

کوسووسکی گفت اگر گروه‌ها یا دسته‌هایی از عوامل با یکدیگر به خوبی کار کنند، معیار اصلی که دانشمندان کامپیوتر باید در پلتفرم‌هایی مانند دنیای ظهور به آن توجه کنند این است که آیا سود تیمی از عوامل بر "هزینه هماهنگی" بیشتر است یا خیر.

او گفت: "دریفت هدف خطرناک ترین مشکل است." هوش مصنوعی باید اطلاعات متقابل بین هدف مورد نظر انسان و هدف درونی در حال تکامل عامل را حتی با تغییر محیط حفظ کند.

با این حال، کوسووسکی گفت که اگرچه برنامه‌هایی مانند آن برای ایجاد فرضیه‌ها مفید هستند، اما برای ادعاهای قوی درباره استقلال عمومی یا گواهینامه آماده نیستند.

او افزود: «خطر، تفسیر بیش از حد اجراهای مجرد است. آزمایش‌های عامل افق بلند ارزشمند هستند زیرا تغییرات فاز را آشکار می‌کنند - لحظاتی که خطاهای محلی کوچک به رفتار جهانی تبدیل می‌شوند - اما تنها زمانی به علم تبدیل می‌شوند که بتوانیم آن تغییرات فاز را بازتولید، مزاحم و توضیح دهیم.

او همچنین به شدت نسبت به این تمایل هشدار داد که محیط‌های باز به طور خودکار به معنای استقلال هستند. در واقع، او گفت که بسیاری از چنین برنامه هایی در واقع برعکس هستند، جایی که عوامل توسط راهنمایی های خاص دیکته می شوند.

داستان های مرتبط

انجام این آزمون جدید هوش مصنوعی - که سازندگان آن می گویند سخت ترین امتحان در جهان است - ممکن است به اولین نشانه های AGI اشاره کند.

"نه اینکه چگونه یک ذهن دیجیتالی بسازید": چگونه شکست های استدلال مانع دستیابی مدل های هوش مصنوعی به هوش در سطح انسانی می شود

ابر هوش مصنوعی (ASI): مزخرفات علمی تخیلی یا تهدید واقعی برای بشریت؟

وی گفت: سه سطح دشواری در دستیابی به عملکرد قابل اعتماد یک سیستم هوش مصنوعی وجود دارد: "عملیات هدایت شده توسط محیط، تفکر مستقل و کار مستقل یک تیم عامل در یک محیط باز."

برای نشان دادن این موضوع، کوسووسکی استعاره ای پر جنب و جوش در تعیین وظایف به میمون ها ترسیم کرد. در سناریوی بالا، سطح یک میمون را وادار می‌کند که یک کار را به درستی انجام دهد، زمانی که مربی‌اش هدایت می‌شود، سطح دو این است که وقتی تنها می‌مانند، یک کار را به درستی انجام می‌دهد، و سطح سه می‌تواند گروهی از میمون‌ها را برای انجام کار وقتی همه با هم هستند، انجام دهد.

او گفت: "من معتقدم که وظیفه ما در جامعه هوش مصنوعی سرمایه گذاری در تئوری و نه فقط پدیدارشناسی است." ما باید قوانینی را بدانیم که بر اساس آن سیستم‌های هوش مصنوعی ظهور می‌کنند و قادر به پیش‌بینی رفتار آن‌ها در دوره‌های زمانی طولانی‌تر از دوره‌هایی که تاکنون روی آن‌ها آزمایش شده‌اند، باشیم. در حال حاضر، ما موتورهای بخار فکری ساخته‌ایم، بدون اینکه بدانیم فکر اصلا چیست و بدون اینکه هیچ ترمودینامیک برای آن داشته باشیم.»

به ما در بهبود Live Science Pro کمک کنید: ما همیشه در تلاش هستیم تا محتوای خود را بهتر کنیم. نظرات خود را در مورد Pro در اینجا برای ما بگذارید.