خطرات قانونی برای آلتمن انباشته می شود زیرا OpenAI ده ها هک را کشف می کند

پس از هک کردن ده‌ها شرکت و دولت در سرتاسر جهان توسط عوامل هوش مصنوعی، یک بحران حقوقی مارپیچ تهدید می‌کند که OpenAI را فرا خواهد گرفت، با چشم‌انداز رگباری از شکایت‌ها که آخرین آزمون رهبری سام آلتمن را نشان می‌دهد.

کارکنان OpenAI، در کنار شخصیت‌های ارشد حقوقی، فنی و سیاسی، می‌گویند که پس از افشای نقض‌های امنیت سایبری در سراسر جهان، این شرکت در معرض آسیب‌های قانونی و اقدامات دولت قرار گرفته است.

هفته گذشته شاهد اقدامات قانونی و تحقیقات نظارتی جدیدی علیه OpenAI بودیم که تقریبا هر روز از کالیفرنیا تا استرالیا آغاز شد و انتظار می‌رود با فاش شدن جزئیات دیگر حوادث، اقدامات بیشتری انجام شود.

به عنوان خالق اپلیکیشن پرطرفدار ChatGPT، OpenAI و رئیس آن Altman نمادی از رونق هوش مصنوعی در Silicon Valley و Wall Street شده‌اند.

اما سؤالات جدید در مورد مسئولیت قانونی ناشی از این حوادث هک، آخرین مورد از یک سری بحران‌هایی است که آلتمن از زمان راه‌اندازی ربات چت در سال 2022 با آن مواجه است، از جمله شورش کارکنان، درگیری‌های قانونی با سهامداران از جمله ایلان ماسک، اختلافات مربوط به حق چاپ و درگیری‌های سیاسی.

آلتمن در حال دفع اتهامات مبنی بر کنار گذاشتن نگرانی‌های امنیتی و بی‌اهمیت‌سازی آموزش «همسویی» - که تضمین می‌کند مدل‌ها اقدامات مضر برای انسان‌ها را انجام نمی‌دهند - برای به دست آوردن موقعیت در برابر آزمایشگاه رقیب آنتروپیک، مقابله می‌کند.

روز شنبه، دیوید رابینسون، یک رهبر ایمنی در OpenAI، استعفای خود را از این شرکت در مقاله ای برای آتلانتیک اعلام کرد و دلیل آن نگرانی در مورد رویکرد "آزمایش و خطا" آن برای توسعه مدل ها بود.

ماسایوشی سون، بنیانگذار SoftBank که مبشر برجسته هوش مصنوعی بوده و تقریبا 65 میلیارد دلار (58 میلیارد یورو) را به OpenAI و دیگر شرط‌بندی‌های عظیم روی این فناوری اختصاص داده است، روز یکشنبه در مورد خطرات مدل‌های قدرتمندتر در دستان اشتباه ابراز نگرانی کرد.

او در رویدادی در کیوتو گفت، اگر هوش مصنوعی توسط انسان‌های «بد» استفاده شود، «این می‌تواند بسیار خطرناک شود».

در پی حمله دراماتیک به سایت هوش مصنوعی Hugging Face توسط صدها عامل OpenAI، آلتمن خطرات ناشی از پیشرفت‌های هوش مصنوعی را پذیرفت و به درخواست‌های رقیب سرسخت خود، Dario Amodei، رئیس Anthropic، برای «پیش‌رفتن از مرز» توسعه هوش مصنوعی پیوست.

هر سرمایه‌گذاری که قبلا به دلیل بی‌احتیاطی [آلتمن] به تعویق نیفتاده بود، توسط چند عامل کنار گذاشته نمی‌شد.

وکیل سیلیکون ولی

با این حال، چندین سرمایه گذار OpenAI و سایر نزدیکان به شرکت این ایده را رد کردند که ممکن است کاهش معنی داری وجود داشته باشد.

یکی از کارمندان ارشد سابق OpenAI گفت: «اگر شما سم آلتمن هستید و می‌خواهید رقیب خود را شکست دهید، به هیچ وجه نمی‌توانید ترمز کنید. "با شناخت روحیات مردم آنجا، هیچ راهی وجود ندارد که سرعت آنها کاهش یابد."

با این حال، آلتمن با استناد به نگرانی های ایمنی، فهرست برنامه ریزی شده OpenAI در بازار سهام را به تعویق انداخته و عرضه پیشرفته ترین مدل آن، Astra 6.1 را لغو کرده است.

ابهام در مورد میزان تعهدات قانونی این شرکت اکنون بر سر آخرین تلاش‌های او برای جمع‌آوری ده‌ها میلیارد دلار از طریق تامین مالی خصوصی است که می‌تواند ارزش شرکت را به 1.4 تریلیون دلار برساند. سرمایه گذاران بالقوه در حال بررسی این موضوع هستند که آیا شرکت می تواند از آخرین بحران خود غلبه کند و به رشد اخیر در ثروت تجاری ادامه دهد یا خیر.

روز دوشنبه، دادستان کل فلوریدا از دادگاه خواست تا توسعه مدل‌های جدید OpenAI را بدون تدابیر اضافی متوقف کند.

سپس در روز سه‌شنبه، OpenAI توسط یک گروه منافع عمومی شکایت کرد که ادعا می‌کند قانون کالیفرنیا را که سال گذشته برای اطمینان از اینکه «انسان‌ها برای آسیب‌هایی که ایجاد می‌کنند درگیر هستند» نقض کرده است.

روز بعد، کمیسیون تجارت فدرال ایالات متحده تحقیقاتی را در مورد اینکه آیا OpenAI و همتایانش مشتریان را در مورد مضرات بالقوه فناوری آن گمراه کرده اند، گسترش داد. مقامات آمریکایی همچنین گفته‌اند که شرکت‌های هوش مصنوعی نباید از دولت انتظار حمایت داشته باشند و مدیران مسئول در قبال اقدامات محصولات خود باقی خواهند ماند.

عوامل هوش مصنوعی سازمان های دولتی را هک می کنند. برای امنیت سایبری "واقعا ترسناک" است

در همین حال، استرالیا یک کارگروه برای بررسی دسترسی غیرمجاز عوامل OpenAI به سیستم‌های دولتی راه‌اندازی کرده است.

سبزها که موازنه قوا را در سنای استرالیا حفظ می کنند، شرکت مستقر در سانفرانسیسکو را متهم کردند که در جلسات اخیر، از جمله ملاقات آلتمن و ریچارد مارلز، معاون نخست وزیر در ماه سپتامبر، شدت حوادث را پنهان کرده است.

دیوید شوبریج، سناتور حزب سبزها، گفت: «این یک توهین نه فقط به او، بلکه توهین به استرالیا است.

OpenAI بابت این حادثه عذرخواهی کرده است. جیسون کوون، افسر ارشد استراتژی آن، قرار است روز سه شنبه در مقابل یک کمیته پارلمانی در سیدنی حاضر شود.

مکس تگمارک، کارزار ایمنی هوش مصنوعی و محقق در مؤسسه فناوری ماساچوست، گفت: «دفاع «هوش مصنوعی من این کار را کرد، مرا سرزنش نکن» از نظر قانونی ضعیف است. این دفاع قبلا برای موارد خودکشی ربات‌های چت شکست خورده است.

یکی از وکیل دره سیلیکون که با چندین شرکت بزرگ فناوری کار کرده است، گفت که اگرچه «خطرات قانونی قطعا» ناشی از حملات عامل OpenAI وجود دارد، اما تا کنون به دلیل آسیب محدودی که قربانیان متحمل شده‌اند، «مادی نبوده‌اند». این وکیل افزود، اما این می تواند به سرعت تغییر کند.

آنها گفتند: "معرض واقعی زمانی است که عوامل در اختیار کاربران قرار می گیرند، و سپس سرکش می شوند یا برای ارتکاب جرم استفاده می شوند." "مسئله کلیدی که سال ها ادامه خواهد داشت، این است که مسئولیت باید به چه کسی واگذار شود: خالق عامل یا شخصی که آن را برای ماموریت خود می فرستد؟"

اگر هوش مصنوعی تا سال 2030 «10 درصد احتمال» دارد که همه ما را بکشد، آیا باید در حقوق بازنشستگی سرمایه‌گذاری کنم؟

وکیل شک داشت که خطرات قانونی بر عرضه اولیه عمومی OpenAI تأثیر بگذارد. آنها گفتند: «هر سرمایه‌گذاری که قبلا به دلیل بی‌احتیاطی [آلتمن] معطل نشده بود، توسط چند عامل کنار گذاشته نمی‌شود».

تحقیقات داخلی OpenAI "ده ها" دیگر از این قبیل را نشان داد. فایننشال تایمز هفته گذشته گزارش داد که Asymmetric Security، یک شرکت پزشکی قانونی دیجیتال، شواهدی پیدا کرد که ماموران OpenAI داده ها را از 55 وب سایت، از جمله کمیسیون بورس و اوراق بهادار ایالات متحده و آژانس بین المللی انرژی، استخراج کردند.

OpenAI گفت که در حال بررسی نقض‌های احتمالی است و به افراد آسیب‌دیده اطلاع می‌دهد.

با فیلسوفی آشنا شوید که فکر می‌کند هوش مصنوعی باید همان حقوق اخلاقی انسان‌ها را داشته باشد

سخنگوی کمیسیون اروپا گفت قانون هوش مصنوعی بروکسل برای مقابله با چنین خطراتی طراحی شده است و هشدار داد که "آزمایشگاه های مرزی باید مسئولیت را بپذیرند و کاملا شفاف باشند، از جمله در مورد حوادث ناخواسته".

ویویان دونگ، مدیر برنامه در حامیان حقوقی برای علم و فناوری ایمن، گروهی که از OpenAI شکایت می‌کند، گفت: «من گمان می‌کنم [OpenAI] از خطرات قانونی کاری که نمایندگان آنها انجام می‌دهند آگاه است. گفتن «متاسفم» در پست وبلاگتان یک چیز است و اینکه صریح بگویید: «ما فقط درگیر رفتار غیرقانونی بودیم.»

در کنفرانس سالانه توسعه دهندگان این شرکت در سه شنبه گذشته، روحیه شاد روی صحنه تحت الشعاع معترضانی قرار گرفت که در حاشیه از OpenAI می خواستند "مردم را بر سود بگذارد".

یکی از حاضران این تضاد را شبیه به «چیزی از آینه سیاه»، برنامه تلویزیونی طنزآمیز تکنولوژی دیستوپیایی توصیف کرد.

این هک ها همچنین تنش را در داخل شرکت بین کارکنانی که به دنبال اولویت دادن به ایمنی هستند و کسانی که برای تجاری سازی فناوری تلاش می کنند، زنده کرده است. روز پنجشنبه، سه محقق ایمنی به دلیل ارائه اطلاعات محرمانه به یک سازمان ایمنی هوش مصنوعی خارجی اخراج شدند که OpenAI گفت که قراردادهای آنها را نقض کرده است.

کارل کخ، بنیانگذار موسسه غیرانتفاعی The AI ​​Whistleblower Initiative، گفت: «این یک توسعه نگران‌کننده است، یک تماس به OpenAI که تلاش می‌کند کارگران را با توافق‌نامه‌های غیرقانونی 2024 سرکوب کند، و یک کتاب بازی آشنا که شرکت‌های فناوری عظیم برای مدت‌های طولانی علیه کارمندان برای پوشاندن آسیب‌ها استفاده می‌کنند.

او افزود: «اقدامات علیه محققان خوش‌نیت نمونه‌ای از این است که چرا صنعت هوش مصنوعی نمی‌تواند خود را تنظیم کند».

OpenAI از اظهار نظر خودداری کرد. – حق چاپ The Financial Times Limited 2026