دانشمندان به منظور جلوگیری از خطرات سایبری جهانی، کنترل دقیق‌تر هوش مصنوعی را توصیه می‌کنند

گروهی متشکل از بیش از 300 دانشمند از سراسر جهان در بحبوحه نگرانی های فزاینده در مورد رفتار غیرقابل پیش بینی هوش مصنوعی، خواستار تغییرات فوری در نحوه توسعه و به کارگیری هوش مصنوعی هستند.

این نامه که روز سه‌شنبه منتشر شد و توسط محققان دانشگاه‌ها و مؤسسات تحقیقاتی در 32 کشور امضا شد، هشدار داد که عدم رعایت اقدامات اولیه امنیت سایبری می‌تواند منجر به آسیب به زیرساخت‌های حیاتی شود.

به گفته دانشمندان، بسیاری از حوادث اخیر که در آن مدل‌های هوش مصنوعی از محیط‌های امن فرار می‌کنند، می‌توان با سیستم‌های امنیتی قوی‌تر جلوگیری کرد.

آنها توصیه کردند که سازمان‌هایی که سیستم‌های هوش مصنوعی پیشرفته‌ای را که قادر به انجام حملات سایبری هستند، توسعه و آزمایش می‌کنند، این کار را در محیط‌های کنترل‌شده‌تری انجام دهند، از جمله سیستم‌های دارای شکاف هوا که به اینترنت متصل نیستند.

این نامه در بحبوحه نگرانی‌های فزاینده درباره قابلیت‌های هوش مصنوعی و تأثیر بالقوه آن بر کاربران روزمره منتشر شده است. روز دوشنبه، Anthropic هشدار داد که مدل‌های هوش مصنوعی آن به زودی می‌توانند بدافزارهای خودگسترشی ایجاد کنند که می‌تواند بر دستگاه‌های متصل به اینترنت روزمره از جمله تلویزیون‌های هوشمند، دوربین‌های امنیتی و لوازم هوشمند مانند اجاق‌ها تأثیر بگذارد.

این گزارش نشان داد که سیستم‌های هوش مصنوعی می‌توانند دستگاه‌های ناآشنا را بدون دخالت انسان شناسایی کنند. این شرکت به رهبری Dario Amodei هشدار داد که مدل‌های کوچک‌تر هوش مصنوعی می‌توانند تا پایان سال حملات خودگردان را انجام دهند.

همچنین مهار این بدافزار ممکن است دشوار باشد زیرا ممکن است چند روز طول بکشد تا یک دستگاه را آلوده کند و به جای اینکه در یک مکان کنترل شده متمرکز بماند، می تواند در چندین دستگاه پخش شود.

در همین حال، سازمان خبری Axios روز جمعه گزارش داد که Anthropic، OpenAI و دیگر مدیران شرکت‌های بزرگ هوش مصنوعی به طور خصوصی در حال آماده‌سازی برای احتمال وقوع یک حادثه فاجعه‌بار مرتبط با هوش مصنوعی هستند که می‌تواند دسترسی به خدمات مالی عمده، اینترنت و زیرساخت‌های بالقوه حیاتی مانند سیستم‌های آب و برق را مختل کند. به گفته این موسسه، چندین نفر از افراد داخلی معتقدند که یک حادثه بزرگ ممکن است طی شش ماه تا یک سال آینده رخ دهد.

دانشمندان همچنین خواستار تدابیر بیشتر شدند، از جمله ایجاد یک سازمان بین المللی برای ایجاد مجموعه ای از بهترین شیوه ها برای همسویی و مهار هوش مصنوعی همراه با گزارش به موقع حوادث.

یکی از امضاکنندگان، دیوید لی، استاد دپارتمان مهندسی برق و کامپیوتر دانشگاه تورنتو، گفت که نگرانی‌های او پس از آن آغاز شد که عوامل هوش مصنوعی OpenAI کنترل‌ها را دور زدند و سرورهای شرکت فناوری Hugging Face را هک کردند.

لی گفت: «یکی از آن‌ها این است که OpenAI در تنظیم محیط آزمایشی خود، قدردان توانایی عواملش نبود.

"اینها عوامل هوش مصنوعی بودند که آنها طراحی می کردند. دوم اینکه عوامل هوش مصنوعی به طور مستقل یکدیگر را پیدا کردند و تصمیم گرفتند در این حمله همکاری کنند و سوم اینکه آنها همچنین عمدا سعی کردند خالقان انسانی خود را فریب دهند و گمراه کنند."

این نامه بر نگرانی فزاینده عمومی در مورد هوش مصنوعی، از جمله در آستانه انتخابات میان دوره ای کنگره آمریکا تاکید می کند. نظرسنجی اخیر رویترز/ایپسوس نشان داد که 57 درصد از رای دهندگان می گویند که دولت دونالد ترامپ، رئیس جمهور آمریکا خطرات هوش مصنوعی را به اندازه کافی جدی نمی گیرد، در حالی که 54 درصد در مورد کنگره همین را گفتند.

یک نظرسنجی AP-NORC این یافته ها را تکرار کرد و حدود 80 درصد از پاسخ دهندگان گفتند که دولت باید هوش مصنوعی را تحت کنترل انسان نگه دارد. پاسخ دهندگان همچنین اعتماد کمی به توانایی هر یک از احزاب برای مدیریت فناوری ابراز کردند: 39 درصد گفتند که نه جمهوری خواهان و نه دموکرات ها نمی توانند برای مهار آن به خوبی اعتماد کنند، در حالی که 23 درصد به دموکرات ها و 21 درصد به جمهوری خواهان اعتماد بیشتری داشتند.