OpenAI، فشار Anthropic برای کاهش سرعت توسعه هوش مصنوعی مبتنی بر احتیاط است یا امور مالی؟ - تجزیه و تحلیل

OpenAI و Anthropic هر دو روز شنبه اعلام کردند که توسعه هوش مصنوعی را کاهش خواهند داد پس از آنکه یکی از کارمندان سابق هر دو شرکت، شرکت‌ها را به "عمل غیرمسئولانه و قمار با زندگی ما" متهم کرد، در حالی که هم دولت آمریکا، هم مقامات چینی و حتی مدیرعامل انویدیا تلاش خود را برای رد این ادعاها انجام دادند و اطمینان دادند که این یک "واکنش نادرست رسانه‌ای به یک AI" است. اطلاعات این بود که شرکت های نرم افزاری مانند Salesforce، Shopify، ServiceNow و Figma شاهد افزایش ارزش بازار خود بودند.

هنگامی که بازارها در روز دوشنبه باز شدند، برخی از آنها گزارش دادند که سهام آنها تا پایان روز 7 درصد افزایش یافته است. در همان زمان، شرکت‌هایی مانند انویدیا که بر تولید سخت‌افزار تراشه تمرکز می‌کنند، شاهد کاهش سهام خود به‌طور مشابه بودند و متخصصان هشدار دادند که کندی واقعی می‌تواند بیشترین آسیب را به این شرکت‌ها وارد کند. تصمیم برای عمومی کردن ترس از توسعه هوش مصنوعی تنها چند هفته پیش از آن اتخاذ می‌شود که هم آنتروپیک و هم OpenAI پیشرفت‌های کلیدی را به سمت عرضه عمومی اولیه خود نشان دهند.

با اظهارات اخیر آنها، از جمله تایید رسمی از OpenAI مبنی بر اینکه IPO تا سال 2027 اتفاق نمی افتد، سرمایه گذاران اکنون نگران مسئولیت مالی واقعی این دو شرکت هستند. در حالی که سایر رهبران صنعت نیز با سم آلتمن از OpenAI و داریو آمودی از Anthropic، مانند ایلان ماسک (که مسئول توسعه xAI های کلیدی از Demise است) و برخی از بازیکنان کلیدی از Demisep از Demiss موافقت کردند. متا، مایکروسافت یا انویدیا قرار بود آن را رد کنند و به پیشبرد ادامه دهند. وال استریت ژورنال گزارش داد که سهام این "به اصطلاح هایپرمقیاس کننده های هوش مصنوعی" همگی 2 درصد در روز دوشنبه افزایش یافتند.

، به سرمایه گذاران نشان می دهد که ریسک ناشی از شرکت های پیشرو هوش مصنوعی را نمی بینند و همچنان مایلند روی این فناوری شرط بندی کنند. اما وضعیت واقعی چیست: تلاش OpenAI و Anthropic برای جلوگیری از عمومی شدن، یا نگرانی واقعی در مورد تهدید سرکش شدن هوش مصنوعی؟ خطر سرکش شدن هوش مصنوعی در نشست اطلاعاتی در مورد بازار هوش مصنوعی به گزارش Metr اشاره کرد که حمله هوش مصنوعی به پلتفرم Hugging Face توسط عوامل OpenAI را تجزیه و تحلیل می‌کرد.

بر اساس آن، حدود 1200 نماینده موفق به ایجاد یک تابلوی پیام در طی یک آزمایش محیط بسته شدند که در آن با هم ارتباط برقرار می‌کردند، با پیام‌های به اشتراک‌گذاشته‌شده با دستورالعمل‌های بعدی اشتباه گرفته می‌شدند که شروع به تغییر دستور اصلی داده‌شده به آنها می‌کرد - و محدودیت‌های ایجاد شده توسط درخواست را پاک می‌کرد. در مجموع، 70000 پیام بر روی تابلو رد و بدل شد، به طوری که پیام‌های دیگر می‌توانستند "نتایج" بالاتری را به دست آورند. اعداد

آنها همچنین برای یادگیری اکسپلویت‌های آزمایشی یک اتصال اینترنتی برقرار کردند و حتی با استفاده از اعتبارنامه‌های موجود در اینترنت به پلتفرم Hugging Face دسترسی پیدا کردند." متر، در جریان گفتگو با پادکست دوارکش پاتل در تاریخ 1 سپتامبر، "کارگزاران آینده بیشتر با دنیای انسان هماهنگ خواهند شد، شاید هم باشد.

شرکت ها شروع به اجرای آموزش آنلاین می کنند که شامل قضاوت انسان در ارزیابی می شود. یا شاید ماموران بیشتر تعمیم می‌دهند و بیشتر به خاطر داشته باشند که انسان‌ها در جهان هستند، و می‌توانند منبع یا مانع باشند. رفتار غیر مسئولانه و «قمار

با زندگی ما.» کاکسون هشدار داد که این فناوری به طور بالقوه می تواند همه ما را تا پایان دهه بکشد. در یک موضوع شش پستی در X/Twitter، کاکسون بر قدرت بالقوه سیستم های هوش مصنوعی پیشرفته تاکید کرد و هشدار داد که آنها به زودی می توانند به "سیستم های مافوق بشری تبدیل شوند که می توانند هر چیزی را هک کنند، یک شبه هر زمینه ای را متحول کنند، و قدرت و منابع واقعی را به دست آورند." در حالی که تصویر عمومی عملگرایانه تری ارائه می دهد.

او استدلال می‌کند که شرکت‌ها در رقابتی برای توسعه این فناوری ابتدا محصور می‌شوند، که ناشی از این باور است که «هیچ‌کس دیگری مسئولانه عمل نمی‌کند، بنابراین آنها باید خودشان این کار را انجام دهند، علی‌رغم خطر». بهانه‌ای برای اجتناب از بررسی‌های عمومی در مورد مسائل مالی و مدل توسعه آن‌ها. گزارش ژوئن توسط فایننشال تایمز می‌گوید که OpenAI در سال 2025 38 میلیارد دلار از دست داد، که این امر باعث سرکوب

نسبت به اعداد گزارش شده در سال 2024 50 درصد افزایش یافته است، در حالی که انتظارات شرکت می گوید که شرکت تنها تا پایان این دهه قادر به شکست خواهد بود. علاوه بر این، مدل های OpenAI در مرکز توجه مسائل ایمنی قرار گرفته اند، عمدتا به این دلیل که آنها از محیط های آزمایشی خارج شده اند و بدون اینکه به طور صریح به شرکت های دیگر گفته شده باشد، هک شده اند.

یک IPO از شرکت می‌خواهد این تحولات و همچنین زیان‌های مالی را که در حال حاضر گزارش می‌کند توضیح دهد. از سوی دیگر، نگرانی‌های آنتروپیک ممکن است بر توجیه پایین‌تر بودن ارزش عرضه اولیه سهام آن از ۲ تریلیون دلار مورد انتظار باشد، با توجه به اینکه آخرین ارزش‌گذاری خصوصی آن به مرز ۹۶۵ میلیارد دلار رسیده است. یک گزارش CNBC درباره امور مالی Anthropic نشان داد که این شرکت قبلا درآمد سالانه 65 میلیارد دلاری ایجاد می کرد و انتظار می رود تا پایان سال 2027 به حتی بالاتر از آن برسد.

با توجه به نیاز به ساخت مراکز داده فیزیکی که بتواند قدرت پردازش مورد نیاز را فراهم کند. به عبارت دیگر، تمایل آمودی برای کاهش سرعت ممکن است بیشتر ناشی از نیاز به کاهش هزینه‌ها و در عین حال افزایش سود باشد و یکی از راه‌های انجام آن، توقف توسعه فناوری است که به قدرت پردازش بیشتری نیاز دارد. ترامپ، چین و انویدیا تلاش‌های خود را برای رد نگرانی‌ها، دونالد ترامپ، رئیس‌جمهور ایالات متحده، از اولین کسانی بود که نگرانی‌ها در مورد هوش مصنوعی را با یک سری پست اجتماعی در روز دوشنبه رد کرد. جنسن هوانگ مدیر عامل انویدیا، جایی که او اطمینان داد که هشدارهای صنعت

ترامپ در تماس خود با مدیرعامل انویدیا مدعی شد: «مرکزهای داده عالی هستند و مردم را ثروتمند می‌کنند و ایالت‌ها را ثروتمند می‌کنند. و این نفت ۲۰ تا ۲۵ سال آینده است؛ حتی از اینترنت هم بزرگ‌تر است». آن‌ها [رهبران صنعت هوش مصنوعی] به دست برخی از افرادی که نمی‌خواهند این اتفاق را ببینند بازی می‌کنند.» همچنین مهم است که در نظر بگیریم که هوانگ یک شرکت سهامی عام را رهبری می‌کند که نیاز به حفظ سود دارد و نمی‌تواند همان اظهارنظرهای آلتمن و آمودی را بیان کند.

اما او برای توسعه هوش مصنوعی «متن باز» بیشتر تلاش می‌کند که به هر محققی اجازه می‌دهد به مدل‌ها دسترسی داشته باشد و آنها را درک کند و از سرکشی آنها جلوگیری کند. هوانگ این را پس از خرید انویدیا Hugging Face در 3 سپتامبر گفت و توضیح داد که این خرید فشار دیگری برای ارائه «وزن‌های باز به اقتصاد هوش مصنوعی» بود. او افزود: «در حالی که فرصت مدل‌های باز تسریع می‌شود، Hugging Face می‌تواند در مقیاس بی‌سابقه‌ای به جامعه جهانی هوش مصنوعی خدمت کند.» صرف نظر از ظاهر او در زمینه کنترل آسیب، اظهارنظرهای رهبران صنعت هوش مصنوعی به انویدیا آسیب می‌زند که 3 درصد در روز و تقریبا 10 درصد کاهش داشته است.

هفته گذشته مقامات چینی همچنین این ایده را به اشتراک گذاشتند که ترس ها در مورد هوش مصنوعی اغراق آمیز است، گوئو جیاکون، سخنگوی وزارت امور خارجه چین گفت که "هوش مصنوعی یک فناوری نتیجه ای برای رفاه همه بشریت است. همه طرف ها باید به طور مشترک توسعه باز و فراگیر هوش مصنوعی را برای خوب و برای همه ترویج دهند." حکمرانی که به نفع هیچ‌کس نیست.

استفاده از هوش مصنوعی یک اشتباه است، زیرا مقامات قصد دارند توسعه را حفظ کنند - حتی اگر برخی محدودیت‌ها را هم اعمال کنند.