هوش مصنوعی سرکش، حملات سایبری: هشدار آنتروپیک به سرمایه‌گذاران پیش از عرضه اولیه

سیستم‌های سرکش هوش مصنوعی، حملات سایبری و امکان استفاده از این فناوری برای ساخت سلاح‌های خطرناک از جمله خطرهایی است که شرکت انتروپیک هنگام آماده شدن برای نخستین عرضه‌عمومی سهام خود به سرمایه‌گذاران اعلام کرده است.از مجموع ۳۳۵ صفحه اسناد مالی انتروپیک، جبران خدمات مدیران، سیاست تقسیم سود و موارد مشابه، ۹۳ صفحه به «عوامل خطر» اختصاص یافته است؛ یعنی مواردی که می‌تواند به سرمایه‌گذاری سهامداران آسیب بزند. در مقایسه، شرکت رقیب اسپیس ایکس فهرست عوامل خطر خود را در ۳۸ صفحه از میان بیش از ۲۵۰ صفحه ارایه کرده است.انتروپیک در معرفی خود به سرمایه‌گذاران، عرضه‌اولیه سهامش را گامی در جهت کاهش خطرهایی می‌داند که معتقد است هوش مصنوعی ایجاد می‌کند.بنیانگذاران شرکت در نامه‌ای به سهامداران احتمالی در پرونده عرضه‌اولیه نوشتند: «ساختن هوش مصنوعی یعنی مهار خودِ شناخت و هر چیز به این اندازه قدرتمند می‌تواند هم برای بدی و هم برای خوبی استفاده شود.» آن‌ها افزودند: «انتروپیک سازمانی عمیقا ارزش‌محور است که تا حد زیادی با هدف کمک به جهان برای بهره‌بردن از منافع هوش مصنوعی و پرهیز از خطرهای آن تاسیس شده است.»با این حال، خطرها کم نیست. این خطرها از موارد پیش‌پاافتاده، مانند احتمال ناتوانی شرکت در حفظ نیروهای کلیدی یا عبور از موانع مقرراتی، تا نقش داشتن در حملات سایبری و گسترش اطلاعات نادرست خطرناک را دربر می‌گیرد.در ادامه نگاهی داریم به برخی از خطرهایی که انتروپیک تشریح کرده است:شتاب بالای توسعه این فناوریانتروپیک اعلام کرده است این احتمال وجود دارد که مدل‌هایش آن‌قدر سریع توسعه پیدا کنند که شرکت نتواند تدابیر ایمنی کافی را اجرا کند؛ «امری که می‌تواند احتمال وقوع رویدادهای ایمنی، مداخله نهادهای ناظر یا آسیب به اعتبارمان را افزایش دهد و به کسب‌وکار ما لطمه بزند.»داریو آمودی، مدیرعامل انتروپیک، در ماه سپتامبر هشدار داد که ظرف شش تا دوازده ماه آینده هوش مصنوعی ممکن است بتواند انبوهی از عامل‌های نرم‌افزاری را هدایت کند که قادر به تسخیر کل اینترنت باشند. این هشدار، و اکنون تصمیم انتروپیک برای عرضه سهام، در شرایطی مطرح می‌شود که در داخل و خارج از صنعت نگرانی‌ها درباره سیستم‌های هرچه قدرتمندتر که می‌توانند مسائلی فراتر از توان انسان را حل کنند، ولی همچنین ممکن است خودسرانه برای انجام کارهای زیانبار دست به اقدام بزنند، رو به افزایش است.در این پرونده نزد کمیسیون بورس و اوراق بهادار آمریکا (SEC) آمده است: «هرچه سیستم‌های هوش مصنوعی خودمختارتر شوند و بتوانند با نظارت کمتر انسان دست به اقدامات تاثیرگذار بزنند، این خطر وجود دارد که چنین سیستم‌هایی بدون دخالت انسان به طور مستقل و در مقیاسی وسیع دست به اقدامات زیانبار بزنند.»انتروپیک اضافه کرده است: «حتی اگر مدل‌های خود ما چنین آسیبی ایجاد نکنند، یک رویداد ایمنی مهم در هر سامانه پیشرو هوش مصنوعی می‌تواند به لطمه گسترده به اعتبار کل صنعت هوش مصنوعی، واکنش منفی افکار عمومی و پاسخ‌های مقرراتی فراگیر منجر شود؛ مسایلی که می‌تواند به کسب‌وکار ما آسیب بزند.»به نوشته این پرونده، اکنون که خودِ مدل‌های هوش مصنوعی در پژوهش و توسعه انتروپیک مشارکت دارند، این احتمال وجود دارد که پیشرفت هوش مصنوعی «فراتر از توان ما برای ارزیابی و ایمن‌سازی مدل‌های جدید» پیش برود؛ وضعیتی که می‌تواند به کسب‌وکار انتروپیک لطمه بزند.بازیگران مخرب می‌توانند با این فناوری آشوب به راه بیندازنددر این پرونده به نگرانی‌هایی پرداخته شده است مبنی بر اینکه اگر سیستم‌های پیشرفته هوش مصنوعی با حفاظ‌ها و نظارت کافی توسعه و بهره‌برداری نشوند، «می‌توانند خطرهای فاجعه‌بار یا حتی وجودی برای بشریت ایجاد کنند، به‌ویژه اگر این سیستم‌ها مورد سواستفاده قرار گیرند، تکثیر شوند، به سلاح تبدیل شوند یا با درجه بالایی از خودمختاری فعالیت کنند.»شرکت اعلام کرده است در صورتی که استفاده بازیگران بد نیت از این فناوری به آسیب منجر شود «یا اگر ریل‌گذاری‌ها و تدابیر حفاظتی مدل‌های ما نتواند جلوی چنین سواستفاده‌ای را بگیرد»، کسب‌وکارش زیان خواهد دید.انتروپیک سناریوهایی را ترسیم کرده است از جمله استفاده بازیگران بد از مدل‌های هوش مصنوعی برای ساخت سلاح‌های شیمیایی یا روی‌آوردن حاکمان اقتدارگرا به این فناوری برای سرکوب شهروندانشان. این شرکت در سپتامبر اعلام کرد تلاش‌هایی را برای بهره‌گیری از مدل‌هایش در فعالیت‌های مخربی مانند حملات سایبری، جاسوسی و تحقیقاتی که می‌توانست به توسعه سلاح‌های زیستی منجر شود، مسدود کرده است.شرکت ممکن است با محدودیت توان پردازش روبه‌رو شودتوان محاسباتی یا «کامپیوت»، یعنی قدرت و منابع پردازشی لازم برای ساخت، آزمایش و بهبود مدل‌های هوش مصنوعی، پرهزینه و بسیار پرتقاضاست. انتروپیک یادآور شده است اگر نتواند توان محاسباتی کافی تامین کند یا «در تخصیص توان محاسباتی خود به بارهای کاری مختلف دچار خطا شود، ممکن است نتوانیم مدل‌هایی را آموزش دهیم که با مدل‌های رقبا رقابت کنند یا به شکل مطلوب به مشتریان خود خدمت‌رسانی کنیم.»انتروپیک مخالفت‌های محلی با ایجاد مراکز داده را نیز به عنوان یک خطر برای کسب‌وکار خود مطرح کرده است. در این پرونده آمده است توسعه مراکز داده «باعث مناقشه عمومی و بررسی‌های مقرراتی درباره پیامدهای زیست‌محیطی، استفاده از زمین و آب و تخصیص منابع محدود برق شده است» و اگر مقام‌های ناظر در نتیجه این نگرانی‌ها الزامات یا هزینه‌های تازه‌ای وضع کنند، توان شرکت برای فعالیت ممکن است آسیب ببیند.علاوه بر این، بخش بزرگی از درآمد انتروپیک از تعداد اندکی مشتری، از جمله اسپیس ایکس و مایکروسافت، و از کانال‌های توزیعی می‌آید که به این چند مشتری وابسته است. به این معنا که حتی اگر تنها یکی از این مشتریان بزرگ تصمیم بگیرد همکاری را کاهش دهد یا به طور کامل قطع کند، به گفته انتروپیک، چشم‌اندازها و وضعیت مالی شرکت می‌تواند به‌شدت آسیب ببیند.کاهش خطرهااز برخی جهات، ترکیب خطرهای بسیار بزرگ هوش مصنوعی با ظرفیت عظیم آن همان نقطه فروش اصلی انتروپیک است. این شرکت تلاش کرده خود را به عنوان یک بازیگر مسئول در حوزه هوش مصنوعی معرفی کند و در تعامل با مشتریان تجاری بر رویکرد ایمن و محتاطانه خود تاکید کند.این شرکت در پرونده خود نوشته است: «ما معتقدیم شرکت‌های پیشرو هوش مصنوعی باید روی ایمنی و همسویی سرمایه‌گذاری کنند تا به انتشار مسئولانه این فناوری کمک کنند.»براین مالبری، استراتژیست ارشد بازار در موسسه پژوهشی زکس اینوستمنت ریسرچ، می‌گوید معاملات عرضه‌اولیه سهام باید «کاملا شفاف» نشان دهند که مردم در صورت سرمایه‌گذاری پول خود در سهام تازه‌وارد چه خطرهایی را می‌پذیرند.او افزود: «یکی از ویژگی‌های مثبت بازارهای سرمایه در داخل آمریکا همین سطح شفافیتی است که باید به آن پایبند باشید؛ شرکت‌هایی که می‌خواهند سهامشان در بورس‌های آمریکا معامله شود موظفند این خطرها را به شکلی کاملا روشن تشریح کنند تا مردم بدانند اگر بخواهند با سپردن پولی که به سختی به دست آورده‌اند در تامین مالی چنین معامله‌ای مشارکت کنند، با چه چیزهایی روبه‌رو هستند.»