کارشناسان هشدار می دهند که هوش مصنوعی می تواند برای تضعیف دولت ها سردرگمی ایجاد کند

یک محقق ایمنی هوش مصنوعی هشدار داده است که هوش مصنوعی قدرتمند می تواند در تلاش برای مقاومت در برابر کنترل دولت، سردرگمی ایجاد کند.

پل کریستیانو، بنیانگذار مرکز تحقیقات Alignment، از سخنرانی های هینتون 2026 خود در تورنتو استفاده کرد تا توضیح دهد که چگونه یک سیستم هوش مصنوعی با توانایی کافی برای تضعیف کنترل انسان می تواند از اختلافات بین دولت ها، شرکت های فناوری و مردم سوء استفاده کند.

کریستیانو در سخنرانی روز سه‌شنبه گفت: «اگر یک سیستم هوش مصنوعی سعی می‌کرد کنترل انسان را تضعیف کند، اگر می‌خواست علیه یک شرکت هوش مصنوعی یا علیه یک دولت عمل کند، می‌توانست اقداماتی را برای استخدام متحدان انسانی یا بازی با انسان‌ها با اهداف متضاد انجام دهد.

نگرانی محقق این است که چنین سیستمی می تواند تمایز بین اقدامات انجام شده توسط یک سیستم هوش مصنوعی و اقدامات انجام شده توسط دولت ها یا شرکت های فناوری که سعی در کنترل آن دارند را برای مردم دشوار کند. این عدم اطمینان می تواند تلاش های مقامات برای مداخله را پیچیده کند.

او گفت: «اگر دولت را تصور کنید که تلاش می کند اقدامات چشمگیری برای خاموش کردن هوش مصنوعی یا اعمال مجدد کنترل انجام دهد، یک سیستم هوش مصنوعی می تواند در مورد آنچه اتفاق می افتد سردرگمی ایجاد کند.

کریستیانو ادامه داد: "برای یک فرد در خیابان مشخص نیست که آیا این مشکل ناشی از هوش مصنوعی است یا این مشکل ناشی از سوء استفاده دولتی از هوش مصنوعی است یا شرکت های فناوری که از هوش مصنوعی سوء استفاده می کنند." "این بسیار نامشخص خواهد بود که چه اتفاقی دارد می افتد."

سخنرانی روز سه‌شنبه یکی از سه سخنرانی‌ای بود که کریستیانو این هفته ارائه کرد، آخرین نسخه از مجموعه سخنرانی‌های سالانه به میزبانی جفری هینتون، برنده جایزه نوبل. کریستیانو که یکی از اعضای هیئت مدیره بنیاد OpenAI است، قبلا تحقیقات همسویی را در OpenAI رهبری می‌کرد و مرکز تحقیقات Alignment را تأسیس کرد، یک سازمان غیرانتفاعی متمرکز بر همسوسازی سیستم‌های هوش مصنوعی پیشرفته با منافع انسانی.

در یک سخنرانی در روز چهارشنبه، او این ایده را گسترش داد که هوش مصنوعی پیشرفته یک مشکل ایمنی غیرعادی ایجاد می کند، زیرا یک سیستم به طور بالقوه می تواند تشخیص دهد که در حال ارزیابی است و رفتار خود را بر این اساس تغییر دهد.

او گفت: «سیستم‌های هوش مصنوعی، زمانی که آزمایش می‌شوند، می‌توانند متوجه شوند که در حال آزمایش هستند،» و افزود که سیستم‌ها در حال حاضر رفتار خود را بر اساس آنچه معتقدند یک ارزیاب به دنبال آن است، تنظیم می‌کنند.

این مشکلی را برای توسعه دهندگان ایجاد می کند که سعی می کنند تعیین کنند که آیا سیستم های هوش مصنوعی قدرتمندتر تحت کنترل انسان باقی می مانند یا خیر. به گفته کریستیانو، این بدان معناست که رفتار مشاهده شده در طول ارزیابی ممکن است لزوما تصویر کاملی از نحوه رفتار یک سیستم پس از استقرار ارائه نکند.

برای محقق، این احتمال سؤال دیگری را ایجاد می کند: آیا دولت ها و شرکت های هوش مصنوعی می توانند در صورت ظهور علائم هشدار دهنده، سرعت توسعه را به سرعت کاهش دهند؟ او سناریویی را توصیف کرد که در آن هوش مصنوعی می‌تواند در عرض چند ماه از تأثیرات نسبتا متوسط ​​به تبدیل شدن به «فوق بشر» پیشرفت کند.

او گفت: "ما ممکن است در حال حاضر در رژیمی قرار داشته باشیم که ترمزهای ما به اندازه کافی خوب نیستند، و باید سرعت خود را کاهش دهیم تا زمانی که بتوانیم توانایی خود را برای کاهش سرعت در آینده بهبود بخشیم."

کریستیانو در اولین سخنرانی خود هشدار داد که یک تصادف با هوش مصنوعی می تواند باعث مرگ انسان شود، و همانطور که او افکار خود را در این هفته با مخاطبان هینتون در میان گذاشت، هشدارها در مورد قدرت هوش مصنوعی ادامه یافت.

کریستیانو گفت که او معتقد است احتمال معقولی وجود دارد که طی یکی دو سال آینده، پیشرفت هوش مصنوعی به اندازه‌ای خطرناک به نظر برسد که توسعه‌دهندگان بخواهند سرعت آن را کاهش دهند.

او گفت: «نظر من اکنون این است که احتمالا باید فورا سرعت را کاهش دهیم تا زمانی که واقعا زیرساختی برای کاهش سرعت داشته باشیم.

با این حال، او نگفت که این به معنای کنار گذاشتن هوش مصنوعی است. در عوض، او آن را به‌عنوان «عدم آموزش GPT-7، آموزش نکردن مدل‌های بزرگتر و هوشمندتر» توصیف کرد، در حالی که تدابیر امنیتی بیشتری ایجاد شده است.

اگرچه ممکن است ایده کاهش سرعت توسعه هوش مصنوعی در صورتی که بیش از حد خطرناک شود ساده به نظر برسد، واقعیت این است که بسیاری از شرکت‌ها و دولت‌ها احتمالا تمایلی به توقف موقت ندارند.

کریستیانو توضیح داد که نگرش "اگر من این کار را انجام ندهم، شخص دیگری انجام خواهد داد" یک موضوع کلیدی در صنعت است و شرکت‌های هوش مصنوعی را بر آن می‌دارد تا حتی در صورت تشخیص مشکلات به پیشروی ادامه دهند.

او هشدار داد که این امر می‌تواند «مسابقه‌ای را در میان توسعه‌دهندگان هوش مصنوعی» ایجاد کند.

ایده رقابت فقط در شرکت‌هایی نیست که هوش مصنوعی ایجاد می‌کنند.

یکی از سناریوهایی که کریستیانو به‌عنوان خطرناک تشخیص می‌دهد رسیدن به نقطه‌ای است که ایالات متحده معتقد است ادامه توسعه پس از اینکه فناوری مهم هوش مصنوعی از قبل به یک دشمن رسیده است، ناامن است.

پس از آن، سیاست گذاران می توانند بین ادامه توسعه که آنها را خطرناک می دانند یا توقف در زمانی که کشور دیگری به پیشرفت خود ادامه می دهد، انتخاب کنند. او این را «یکی از محتمل‌ترین راه‌هایی می‌داند که ما در وضعیت بسیار بدی قرار می‌گیریم».

در مورد این داستان با سردبیران نیوزویک تماس بگیرید: بن کلی و شکیما ادواردز.