با 7 تریلیون دلار در خط، ایمنی هوش مصنوعی ممکن است همیشه در پشت سر تسلط بر بازار باشد

به گفته خودی های صنعت به Axios، رقابت برای برتری هوش مصنوعی بین آزمایشگاه ها، شرکت ها و کشورها ممکن است غیرممکن باشد که با فشار برای ایمنی هوش مصنوعی سازگار شود.

چرا مهم است: شرکت های برتر هوش مصنوعی نظارت مستقل بیشتری را پیشنهاد می کنند زیرا به دنبال مهندسی کاهش سرعت هوش مصنوعی هستند. اما منتقدان می‌گویند که تریلیون‌ها دلار انگیزه برای ادامه دادن به مرزها - و پول مورد نیاز برای چنین مقیاس‌بندی - همیشه بزرگ‌تر خواهد بود. وضعیت بازی: از آنجایی که مدیران عامل هوش مصنوعی افکار عمومی را در مورد مکانیسم‌های خودپلیسی و استفاده از ارزیاب‌های شخص ثالث برای اطمینان از رفتار مدل‌هایشان مطرح می‌کنند، همین مدل‌ها در مورد نحوه پاسخگویی به سؤالات و ارائه راه‌حل‌هایی برای مشکلات کمتر به اشتراک می‌گذارند.

پیچیدگی محض سیستم‌های هوش مصنوعی، و همچنین استقرار هزاران عامل تا حدودی مستقل برای انواع وظایف، ممیزی یا بازبینی بلادرنگ را بسیار دشوار می‌کند.

به دلیل نگرانی در مورد روابط نزدیک بین صنعت و برخی ارزیابان، و همچنین مجموعه مشترک سرمایه گذاران و سرمایه گذاران در جامعه تحقیقاتی هوش مصنوعی، شکاف اعتمادی برای گروه های ایمنی مستقل وجود دارد. پول را دنبال کنید: انگیزه سرعت بسیار سودآورتر از فشار برای کاهش سرعت به نفع ایمنی است. OpenAI و Anthropic در حال آماده شدن برای عرضه عمومی با ارزش‌گذاری‌های چند تریلیون دلاری هستند و شرکت‌ها برای ارائه مدل‌های بهتر و بهتر برای توجیه این ارزش‌ها تحت فشار هستند.

به ازای هر بانک گلدمن ساکس، طی پنج سال آینده بیش از ۷ تریلیون دلار برای مقیاس‌بندی هوش مصنوعی هزینه خواهد شد. آزمایشگاه‌های مرزی باید از این سرمایه‌گذاری سود کسب کنند، که به معنای پیشی گرفتن از رقبا است.

این شامل دور نگه داشتن مشتریان از چرخش به ارائه دهندگان مدل با وزن باز است، که می تواند ارزان تر باشد و توسط برخی به عنوان جایگزین ایمن تر در نظر گرفته می شود. بین خطوط: نظارت بر هوش مصنوعی برای هر کسی سخت‌تر می‌شود و مشخص نیست که چگونه اولویت‌های ظاهرا متناقض بهبود مدل ایمنی و آتش‌سوزی سریع می‌توانند همزیستی داشته باشند. دانیل کوکوتاجلو، محقق سابق OpenAI و مدیر اجرایی پروژه آینده هوش مصنوعی، گفت که او معتقد نیست که هوش مصنوعی می تواند ایمن مقیاس شود.

کوکوتاجلو، که تیمش مقالات مشهور هوش مصنوعی 2027 و 2040 را منتشر کرده است، گفت: شرکت های برتر هوش مصنوعی باید از قرار دادن نیروی محاسباتی گسترده برای بهبود مدل خودداری کنند، گامی که باعث کاهش سرعت می شود.

او گفت که محققان و کارمندان هوش مصنوعی درگیر در مقیاس‌بندی «کار اشتباهی انجام می‌دهند». بزرگنمایی: کوکوتاجلو OpenAI را به دلیل نگرانی های ایمنی خود در سال 2024 ترک کرد. از آن زمان، از او دعوت شد تا در مورد تحقیقات خود در مورد ایمنی هوش مصنوعی با کارمندان فعلی صحبت کند.

او گفت: «شرکت‌ها فقط این روند مستمر از احساسات متضاد و بحث‌های درونی در مورد اینکه ما چه کار می‌کنیم، دارند. "آیا باید متوقف شویم؟ آیا ما بچه های خوبی هستیم؟" بررسی واقعیت: بسیاری از افراد دیگر، از جمله پرزیدنت ترامپ، آینده ای امن را برای هوش مصنوعی می بینند و به احتمال مسئولیت پذیری - مدنی یا کیفری - در صورت شکست شرکت ها در ایمن سازی محصولات خود اشاره می کنند. "هر کس برنده هوش مصنوعی باشد، برنده است!" ترامپ در Truth Social نوشت و تکرار کرد که هوش مصنوعی را خفه یا کند نخواهد کرد.

Akshay Krishnaswamy، معمار ارشد Palantir، به Axios گفت: «نیروی اراده انسان می‌تواند دریابد که چگونه این مدل‌ها را به طور ایمن مقیاس‌بندی کند.» و افزود که یکی از راه‌های رسیدن به این هدف از طریق مدل‌های باز است. نتیجه نهایی: از آنجایی که صنعت درگیر لفاظی‌های کاهش سرعت هوش مصنوعی است، مشخص نیست که آیا این امر در کوتاه مدت قابل دستیابی است یا خیر.