چرا نمی توان به شرکت های هوش مصنوعی برای خودتنظیمی اعتماد کرد؟
طبیعت، انتشار آنلاین: 22 سپتامبر 2026; doi:10.1038/d41586-026-03014-1 از حمل و نقل هوایی تا بانکداری، صنایع پرخطر مشمول نظارت مستقل و مجازات های معنادار هستند. شرکت های هوش مصنوعی نیز نباید از این قاعده مستثنی باشند.
به عنوان یک دانشمند کامپیوتر که هم در زمینههای هوش مصنوعی و هم در زمینههای حیاتی از نظر ایمنی - مانند انرژی هستهای و هوانوردی - کار کردهام، مدتهاست که از میزان کمی از سختگیریهای لازم برای زیرساختهای حیاتی برای توسعه هوش مصنوعی استفاده شده است. حوادث امسال، که در آن عوامل هوش مصنوعی از محیط های آزمایشی خود «فرار» کردند، نگرانی های گسترده ای را در مورد ایمنی هوش مصنوعی برانگیخت. با این حال، مسئله واقعی هوش مصنوعی سرکش نیست. این سهل انگاری انسان و عدم پاسخگویی به آزمایشگاه های هوش مصنوعی است.
ما برای دنیایی از عوامل هوش مصنوعی به اخلاق جدیدی نیاز داریم
متن اصلی (انگلیسی)
Why AI companies can’t be trusted to self-regulate
Nature, Published online: 22 September 2026; doi:10.1038/d41586-026-03014-1 From aviation to banking, high-risk industries are subject to independent oversight and meaningful penalties. AI companies should be no exception.