تهدید واقعی هوش مصنوعی چین نیست، شتاب گرایی است

در اواخر این هفته، ترامپ و شی جین پینگ در کاخ سفید برای بحث در مورد سیاست های هوش مصنوعی دیدار خواهند کرد. این اجلاس پس از یک رشته اخبار فزاینده درباره انبوهی از عوامل هوش مصنوعی که بر خلاف دستورالعمل‌ها عمل می‌کنند، خارج شدن از محیط‌های ظاهرا امن، کنترل سیستم‌های داخلی و هک کردن شرکت‌ها منتشر می‌شود. پس از استعفای علنی جیکوب کوکسون، محقق هوش مصنوعی و گفت: «افرادی که هوش مصنوعی می‌سازند، عمیقا بر این باورند که این هوش مصنوعی می‌تواند تا پایان دهه همه ما را بکشد، پرسش از نرده‌های محافظ هوش مصنوعی به هشدار جهانی تبدیل شد.»

پس از 30 سال در صنعت فناوری، سال گذشته شغل خود را به عنوان مدیر عامل پلتفرم جهانی شغل Indeed ترک کردم تا به طور تمام وقت روی ریسک هوش مصنوعی کار کنم. من یک دهه است که درباره این موضوعات می نویسم و ​​صحبت می کنم. در هفته گذشته، تعداد بیشتری از مردم از من پرسیدند که چه اتفاقی در حال رخ دادن است. فهمیدن دلیل آن آسان است.

من با نگرانی این اتفاقات اخیر در مورد خطرات وجودی هوش مصنوعی شریک هستم. اما من به همان اندازه نگرانی‌های فوری در مورد آسیب‌های غیروجودی هوش مصنوعی دارم: تأثیر بر مشاغل و اقتصاد، کودکان و سلامت روان، اطلاعات نادرست، نابرابری ثروت و قدرت، و آب‌وهوا، بدون ذکر این‌که ابزارهایی برای قدرت دادن به اقتدارگرایی وجود دارد. برای اینکه خطرات فاجعه بار باشد، ما به روبات های قاتل نیاز نداریم.

هر یک از اینها برای نادیده گرفتن بسیار عالی است. آنها با هم به یک مشکل ریشه ای اشاره می کنند. تهدید واقعی هوش مصنوعی یک مدل سرکش یا یک ملت رقیب نیست، بلکه غارتگر شتاب گرایی است.

در سال 2023، مارک آندرسن، سرمایه‌دار مخاطره‌آمیز و پادشاه سیلیکون ولی، مانیفست تکنو-خوش‌بین را منتشر کرد و استدلال کرد که بازارها و رشد به‌طور واضح خوب هستند و کسانی که خواستار «ایمنی»، «اخلاق» یا «مسئولیت» هستند، «دشمنان» تمدن هستند. او می نویسد: "ما به شتاب گرایی - پیشرانه آگاهانه و عمدی توسعه فناوری" اعتقاد داریم. و در جاهای دیگر، "ما معتقدیم هرگونه کاهش سرعت هوش مصنوعی به قیمت جان انسان ها تمام می شود. مرگ هایی که با هوش مصنوعی که از وجود آنها جلوگیری شد، قابل پیشگیری بودند، نوعی قتل است."

علی رغم لفاظی های افراطی آندریسن، او در تفکر خود تنها نیست. شتاب گرایی اصل ایمان در میان رهبران کلیدی صنعت هوش مصنوعی - و دولت ترامپ است. اما با افزایش نگرانی های عمومی در مورد هوش مصنوعی، شتاب گرایان می دانند که "تاخیر قتل است" یک بازنده سیاسی است. استدلال جدید علیه نرده‌های محافظ هوش مصنوعی این ادعاست که آمریکا باید بی‌احتیاطی به رقابت بپردازد یا موقعیت خود را در برابر یک دشمن خطرناک از دست بدهد: چین.

این یک اشکال آشکار است: همان دولت اکنون در مورد تهدیدی که چین ایجاد می کند هشدار می دهد که فروش مجدد تراشه های هوش مصنوعی انویدیا به چین را باز می کند. اگر آنها واقعا نگران چین بودند، دشمن را مسلح نمی کردند.

ما همچنین می دانیم که چین به عقب نشینی نزدیک نیست. شرکت های چینی تنها حدود 5 درصد از ظرفیت محاسباتی هوش مصنوعی جهان را در اختیار دارند - کسری از آنچه شرکت های آمریکایی کنترل می کنند. بسیاری از نوآوری‌های شرکت هوش مصنوعی چینی از «تقطیر» مدل‌های قدرتمندتر ایالات متحده ناشی شده است، به این معنی که آنها عمدتا با سرعت شرکت‌های آمریکایی پیشرفت می‌کنند. اگر ما سرعت خود را کم کنیم، احتمالا سرعت آنها کاهش می یابد.

از سال 2021، چین برخی از سخت‌ترین کنترل‌ها را بر روی هوش مصنوعی در بین هر کشوری اعمال کرده است، از قوانین محافظت از کودکان گرفته تا غیرقانونی کردن استفاده از «دیپ فیک» تا حکم دادگاه مبنی بر اینکه شرکت‌ها نمی‌توانند کارگران را با هوش مصنوعی جایگزین کنند. هفته گذشته، چن ییسین، رئیس وزارت امنیت دولتی چین، استدلال کرد که هوش مصنوعی حکومت حزب را تهدید می کند و خواستار کنترل بیشتر شد.

آخرین باری که بشریت یک فناوری فوق‌العاده قدرتمند با پتانسیل تغییر جهان را برای همیشه - یا نابود کردن آن - ایجاد کرد، پروژه منهتن بود. در سال 1949، شوروی بمب را در اختیار داشت و ایالات متحده در یک مسابقه وجودی واقعی بود.

این چیزی است که ما انجام ندادیم. ما نگفتیم، "ما باید شوروی را به هر قیمتی شکست دهیم، بنابراین می‌خواهیم فناوری شکافت هسته‌ای منبع باز را بسازیم. بیایید انگیزه‌های مالی عظیمی برای بخش خصوصی ایجاد کنیم تا سرمایه‌های خیره‌کننده‌ای را سرمایه‌گذاری کنند تا شرکت‌ها بتوانند راکتورها و سیستم‌های تسلیحاتی خود را در سریع‌ترین زمان ممکن بسازند. در حالی که در حال انجام آن هستیم، اجازه دهید تا جایی که می‌توانیم همه مقررات و مسئولیت‌پذیری‌ها را حذف کنیم."

در عوض، ایالات متحده بزرگترین همکاری جهانی در تاریخ بشریت را رهبری کرد. ما آژانس بین المللی انرژی اتمی را تأسیس کردیم و 191 کشور معاهده منع گسترش سلاح های هسته ای را امضا کردند. نتایج بی‌نقص نبودند - چهار کشور هسته‌ای جدید ظهور کردند، و در طول زندگی‌ام ما شاهد جزیره‌ی سه مایلی، چرنوبیل و فوکوشیما (به نام چند نفر) بودیم. اما ما همدیگر را منفجر نکردیم.

هیروشیما طول کشید تا گفتگوی هسته ای را آغاز کند. موج هشدار در چند هفته گذشته به من امیدواری می دهد که می توانیم گفتگوی هوش مصنوعی را بدون فاجعه هوش مصنوعی آغاز کنیم.

خبر بد این است که دستور کار شتاب گرایی توسط گروه کوچکی از میلیاردرهای هوش مصنوعی - از جمله بنیانگذاران OpenAI و Palantir به همراه Andreessen - که متعهد شده اند 140 میلیون دلار برای شکست نامزدهای طرفدار مقررات در انتخابات میان دوره ای به کار گیرند. به دنبال کتاب بازی بسیار موفق صنعت کریپتو در انتخابات 2024، هدف آنها ارسال پیامی روشن به قانونگذاران حاضر است: صحبت در مورد مقررات خودکشی سیاسی است.

خبر خوب این است که نظرسنجی‌های اخیر نشان می‌دهد که مردم آمریکا به‌طور قاطع، در تمام خطوط حزبی موافق هستند که هوش مصنوعی آسیب‌های بالقوه قابل‌توجهی دارد و باید تنظیم شود. زمین سیاسی سریعتر از آنچه بیشتر مردم تصور می کنند در حال تغییر است. در هفته گذشته، بیش از دوازده قانونگذار جمهوری‌خواه ایالات متحده به MS NOW گفتند که خطرات هوش مصنوعی را جدی می‌گیرند، و سناتور کوین کرامر موضع دولت را «کم‌ترین موضع در آمریکا» خواند. این دیگر یک بحث جناحی و حاشیه ای نیست.

از کسانی که می گویند امکان همکاری چین و ایالات متحده در زمینه ایمنی هوش مصنوعی وجود ندارد، می پرسم: آیا دلیلی وجود داشت که باور کنیم اتحاد جماهیر شوروی با ایالات متحده در زمینه ایمنی هسته ای همکاری خواهد کرد؟

نفع شخصی نشان می دهد که دلیلی برای امید وجود دارد. چین نشان داده است که عمیقا به نظم ساختاری اهمیت می دهد و تحولات اجتماعی یا بازیگران سرکش با سلاح های زیستی برای آنها همانقدر منفور است که برای ایالات متحده بسیار منفور است. مقدمات کار درست است. آنچه در حال حاضر مورد نیاز است رهبری مشتاق است.

اگر هوش مصنوعی واقعا دگرگون‌کننده‌ترین فناوری جهان است - و به گفته کسانی که آن را می‌سازند، هوش مصنوعی تحول‌پذیرترین فناوری است که بشر تا به حال اختراع کرده است - پس باید با بیشترین دقت و توجه نسبت به هر کاری که تاکنون انجام داده‌ایم رفتار شود. مسیر شتاب گرایی که ما در حال حاضر در آن قرار داریم دقیقا برعکس است.

ترامپ و شی در روز پنجشنبه با رهبران بزرگترین شرکت‌های هوش مصنوعی جهان می‌نشینند تا درباره یک مسابقه صحبت کنند. نیازی نیست کسی در آنجا چیزی را به طرف مقابل واگذار کند. آنها فقط باید ببینند که تهدید واقعی خود نژاد است. در زمینه هوش مصنوعی، چین دشمن ما نیست و ما دشمن چین نیستیم. دشمن مشترک ما شتاب گرایی است و افراد حاضر در اتاق همان کسانی هستند که می توانند جلوی آن را بگیرند. تنها راه برای برنده شدن در مسابقه ساخت یک فناوری بالقوه فاجعه بار، نداشتن آن است.

در سال 1957، ایالات متحده و اتحاد جماهیر شوروی لحظه خود را غنیمت شمردند. نگذاریم مال خودمان را هدر دهیم.

نظرات بیان شده در نظرات Fortune.com صرفا نظرات نویسندگان آنها است و لزوما منعکس کننده نظرات و اعتقادات Fortune نیست.

این داستان در ابتدا در سایت Fortune.com منتشر شد