این شکایت ادعا می کند که OpenAI، Anthropic و سایر شرکت های هوش مصنوعی نمی توانند فناوری خود را کنترل کنند

ائتلافی از سازمان‌های غیرانتفاعی روز پنج‌شنبه علیه پنج شرکت پیشرو هوش مصنوعی به‌دنبال توقف توسعه مدل‌های پیشرفته هوش مصنوعی به این دلیل که این فناوری می‌تواند تهدیدی جدی برای بشریت باشد، شکایت کرد.

این اقدام قانونی که توسط اتحاد برای هوش مصنوعی امن، همراه با صندوق آموزش غیرقابل جایگزین، شهروند عمومی و ابتکار گرما در دادگاه عالی سانفرانسیسکو مطرح شده است، Anthropic، Google، Meta، OpenAI و SpaceX Super Intelligence (SpaceXSI) را هدف قرار می دهد.

برندان اشتاینهاوزر، مدیر عامل اتحاد برای هوش مصنوعی امن، مدیران فناوری را متهم کرد که علیرغم اینکه قبلا پیامدهای بالقوه فاجعه‌بار آن را تایید کرده بودند، به پیشرفت روزافزون سیستم‌های هوش مصنوعی ادامه می‌دهند.

اشتاینهاوزر استدلال می‌کرد که شرکت‌ها توسعه و تجاری‌سازی فناوری‌های قدرتمند هوش مصنوعی را بدون اینکه بتوانند ایمنی آنها را تضمین کنند یا تحت کنترل قابل اعتماد باقی بمانند، سرعت می‌بخشند. او همچنین نگرانی های خود را در مورد استفاده روزافزون از سیستم های هوش مصنوعی برای انجام تحقیق و توسعه خود مطرح کرد.

هیچ یک از پنج شرکت بلافاصله به درخواست ها برای اظهار نظر در مورد این دعوی پاسخ ندادند.

این مورد در بحبوحه نگرانی های فزاینده در مورد ایمنی هوش مصنوعی پس از چندین حادثه گزارش شده که در آن عوامل مستقل هوش مصنوعی ظاهرا اقدامات غیرمجاز انجام داده اند، مطرح می شود.

طبق این دادخواست، خطرات ممکن است تشدید شوند زیرا توسعه دهندگان به طور فزاینده ای از مدل های هوش مصنوعی برای طراحی و بهبود نسل های متوالی سیستم های هوش مصنوعی با نظارت محدود انسانی استفاده می کنند.

شاکی‌ها استدلال می‌کنند که این فرآیند، که معمولا به آن «بهبود بازگشتی خود» گفته می‌شود، می‌تواند کنترل فناوری‌های هوش مصنوعی پیشرفته را به تدریج سخت‌تر کند.

در این دادخواست آمده است: «مدافعان می‌دانند که این سیستم‌ها به طور مداوم مطابق با نیات آنها عمل نمی‌کنند.

و متهمان می دانند که هیچ روش قابل اعتمادی برای کنترل سیستم های هوش مصنوعی آنها و جلوگیری از آسیب رساندن به آنها وجود ندارد.

سازمان‌های غیرانتفاعی همچنین به اظهارات قبلی مدیران برجسته هوش مصنوعی که خطرات بالقوه مرتبط با این فناوری را اذعان کرده بودند، استناد کردند.

در سال 2015، سام آلتمن، مدیر عامل OpenAI هشدار داد که هوش مصنوعی می تواند به طور بالقوه پایان بشریت را به همراه داشته باشد. به طور مشابه، داریو آمودی، مدیر عامل آنتروپیک، در سال 2025 تخمین زد که 25 درصد احتمال دارد که توسعه هوش مصنوعی منجر به عواقب فاجعه بار شود.

در میان بررسی های فزاینده ایمنی هوش مصنوعی، مدیران فناوری بر تعهد خود به توسعه مسئولانه و پادمان های قوی تر تاکید کرده اند.

در ماه اکتبر، چهره‌های برجسته صنعت، از جمله آلتمن، آمودی و مدیرعامل اسپیس ایکس، ایلان ماسک، از کاهش هماهنگ در توسعه هوش مصنوعی حمایت کردند.

اظهارات آنها به دنبال هشدار یک محقق Anthropic بود که تخمین زد هوش مصنوعی 10 درصد خطر انقراض انسان را به همراه دارد.