چگونه «نوع دوستی مؤثر» از فلسفه حاشیه ای به شرور هوش مصنوعی ترامپ تبدیل شد

دولت ترامپ به ندرت با یک صدا صحبت می کند، به خصوص در مورد سیاست هوش مصنوعی. اما اخیرا، گروهی از مقامات ترامپ همه در مورد یک چیز هماهنگ بوده اند: نوع دوستی مؤثر بد است.

وزارت جنگ در اواسط سپتامبر در توییتی نوشت: «آمریکایی، نه نوع دوستی مؤثر». "ایالات متحده همچنان بر هوش مصنوعی مسلط خواهد بود!" پیت هگزت، وزیر دفاع، نوع دوستی مؤثر را به دلیل «لفاظی مقدس» مورد انتقاد قرار داد که برای «تسلیح قوی ارتش ایالات متحده برای تسلیم شدن» استفاده می شود. امیل مایکل، معاون وزیر دفاع در امور تحقیقات و مهندسی پنتاگون، ایدئولوژی آن را "خطرناک" و "بسیار دیستوپیک" خواند.

اما «نوع دوستی مؤثر» چیست و چگونه این جنبش فلسفی که زمانی مبهم بود، در تیررس برخی از قدرتمندترین مقامات ایالات متحده و تلاش‌های آنها برای استدلال علیه مقررات هوش مصنوعی قرار گرفت؟

نوع دوستی مؤثر که تقریبا دو دهه پیش توسط دو آکادمیک بریتانیایی تأسیس شد، یک جنبش فلسفی است که ایده اصلی آن این است که مردم باید سعی کنند از فرآیندهای عقلانی استفاده کنند تا بیشترین خیر را برای اکثر مردم جهان انجام دهند. این ممکن است بحث برانگیز به نظر نرسد، اما مانند بسیاری از جزم‌ها که ادعا می‌کنند اهداف ساده و خوبی دارند، وقتی این ایده‌ها با پیچیدگی دنیای واقعی روبرو می‌شوند - و ایده‌های رقیب در مورد اینکه مردم و دولت‌ها چه چیزهایی را باید در اولویت قرار دهند و چرا، همه چیز آشفته می‌شود.

نوع دوستی مؤثر یا به اختصار EA در بحث هوش مصنوعی گرفتار شده است زیرا بسیاری از کسانی که از فلسفه آن پیروی می کنند به سمت کار در شرکت های برتر هوش مصنوعی گرایش پیدا کرده اند: OpenAI، Anthropic و Google DeepMind. آنها این کار را به دلیل اعتقاد شدید به امکان هوش مصنوعی برای پیشرفت بشریت و پتانسیل آن برای ایجاد آسیب های بزرگ انجام داده اند.

به طور خاص، بسیاری از طرفداران EA تمایل دارند تا روی ایمنی هوش مصنوعی کار کنند و معتقدند که اگر روش‌هایی برای اطمینان از اینکه سیستم‌های هوش مصنوعی پیشرفته از دستورالعمل‌های انسانی و ارزش‌های انسانی پیروی می‌کنند، پیدا نشود، این فناوری قدرتمند شانس خوبی برای نابودی بشریت دارد.

وابستگی نزدیک EA با ترس از هوش مصنوعی پیشرفته که منجر به انقراض انسان می شود - که اغلب با نام "AI Doomerism" شناخته می شود - این گروه را در تضاد با دولت ترامپ قرار داده است که در حال رقابت برای حفظ مقررات هوش مصنوعی به دلیل ترس از واگذاری زمین به چین در مسابقه هوش مصنوعی و نگرانی از این است که هرگونه کندی در سرعت توسعه هوش مصنوعی می تواند سهم بازار سهام ایالات متحده را کاهش دهد. سهام مرتبط با هوش مصنوعی

با وجود هشدارهای بلند رهبران صنعت از جمله سم آلتمن از OpenAI و داریو آمودی از Anthropic در هفته گذشته، ترامپ به سرعت ایده کاهش سرعت بین‌المللی را رد کرد. برای ترامپ و دیگر مخالفان مقررات، استفاده از لفاظی‌های جنگ فرهنگی برای حمله به EA راهی برای بی‌اعتبار کردن نگرانی گسترده‌تر در مورد خطر هوش مصنوعی قبل از اینکه به قانون تبدیل شود، تبدیل شده است. از آنجایی که نگرانی عمومی در مورد چنین خطراتی به اوج خود می رسد، برخی نگران هستند که حملات به EA می تواند زمینه مشترک سیاسی را که بی سر و صدا در حال شکل گیری در قوانین هوش مصنوعی است، از بین ببرد.

تنها مشکل؟ از زمانی که دولت کمپین رسانه‌های اجتماعی ضد نابودی هوش مصنوعی خود را آغاز کرد، هدف خاصی را بر EA و باور طرفداران آن مبنی بر اینکه هوش مصنوعی خطر زیادی برای پایان دادن به بشریت دارد، مورد توجه قرار داد - به نظر می‌رسد احساسات ضد هوش مصنوعی افزایش یافته است. یک نظرسنجی اخیر از Politico نشان داد که 63 درصد از آمریکایی ها معتقدند که هوش مصنوعی حداقل خطر متوسطی برای نابودی بشریت دارد.

که این سوال را ایجاد می کند: آیا نام تجاری EA به عنوان دشمن آمریکا، آن را خنثی می کند - یا بزرگترین پلت فرمی را که تا به حال داشته است به آن می دهد؟

نوع دوستی موثر چیست؟

EA از جهاتی یک هدف سیاسی کتاب درسی برای ترامپ است. طبق یک نظرسنجی که در سال 2024 توسط انجمن نوع دوستی مؤثر انجام شد، اعضای آن عمدتا (70٪) چپ هستند. برخی از اعضای آن از مرزهای باز حمایت کرده‌اند و معتقدند جنسیت یک ساختار اجتماعی است، که هر دوی آنها خوراک محتوای رسانه‌های اجتماعی تحریک‌آمیز کسانی بوده‌اند که به دنبال بی‌اعتبار کردن این فلسفه هستند.

در مورد سایر جمعیت‌شناسی، این گروه عمدتا مرد (68.8%)، سفیدپوست (75%)، جوان (میانگین سنی 32.4 سال) و تحصیل‌کرده هستند - واقعیتی که باعث می‌شود کاریکاتور کردن به‌عنوان یک جنبش نخبه‌گرا و باطنی خارج از ارتباط با واقعیت آسان شود.

EA به سال 2009 برمی گردد، زمانی که فیلسوفان آکسفورد، توبی اورد و ویلیام مک اسکیل، Giving What We Can را تأسیس کردند، تعهدی برای اعضا که حداقل 10٪ از درآمد خود را به مؤثرترین مؤسسات خیریه اهدا کنند. ایده این بود که با خیریه و اخلاق مانند یک مسئله ریاضی برخورد کنیم، و بفهمیم که کدام علل به ازای هر دلار خرج شده، بیشترین جان انسان ها را نجات داده یا بیشترین فایده را داشته است.

ویل مک اسکیل، فیلسوف دانشگاه آکسفورد که یکی از بنیانگذاران نوع دوستی مؤثر است، در ونکوور، کانادا، در سال 2018 یک سخنرانی تد ارائه کرد. لارنس سامولونگ-گتی ایماژ

کانر مک‌گلین، کاندیدای دکترا در هاروارد که روی خط‌مشی هوش مصنوعی و تاریخ فکری ایمنی هوش مصنوعی کار می‌کند، گفت: کسانی که به این فلسفه گرایش دارند، به «اشکال کمی استدلال» علاقه دارند.

یک ایده اصلی EA این است که همه زندگی انسان ها دارای ارزش بالقوه یکسانی هستند. با توجه به این، بنیانگذاران EA استدلال کردند، اغلب بهترین کار این است که در کشورهای در حال توسعه پول خرج کنیم، جایی که مداخلات ساده - مانند خرید تورهای تخت برای اطمینان از عدم ابتلای کودکان به مالاریا - می‌تواند جان بسیار بیشتری را نسبت به اهدای مبلغی معادل برای چیزی مانند یک موسسه خیریه بی خانمان در ایالات متحده یا اروپا نجات دهد.

یکی دیگر از نتایج اصلی رویکرد مبتنی بر تحلیل آن به خیریه این است که سرمایه از نظر بشردوستانه قدرتمندتر از نیروی کار است. با سه ساعت در هفته داوطلب شدن مستقیم در یک سوپ‌پز محلی، یک فرد ممکن است تنها بتواند به چند ده نفر در یک زمان کمک کند. اما اگر آن شخص مثلا وکیلی بود که می‌توانست 500 دلار در ساعت درآمد داشته باشد، پس اهدای سه ساعت دستمزد به موسسه خیریه‌ای که تورهای تخت ضد مالاریا خریده بود، می‌توانست جان چند صد نفر را هر هفته نجات دهد.

با این منطق، ممکن است برای اکثر مردم بهتر باشد که به جای تلاش مستقیم برای انجام کارهای خوب، سعی کنند تا جایی که ممکن است درآمد کسب کنند و سپس بیشتر آن را به امور خیریه اهدا کنند. EA این ایده را "درآمد برای دادن" نامید.

در سال 2011، برای پیشبرد این امر، مک اسکیل 80000 ساعت را راه اندازی کرد، یک پروژه مشاوره شغلی که افراد با استعداد را به سمت کارهای پر تاثیر هدایت می کرد. یک سال بعد، پروژه و «هرچه می‌توانیم را بدهیم» تحت یک گروه چتر جدید، مرکز نوع‌دوستی مؤثر (CEA) بسته شد. این شرکت تحت یک سازمان مادر به نام Effective Ventures فعالیت می کرد تا اینکه در سال 2025 به عنوان غیرانتفاعی مستقل خود به بازار آمد.

CEA مجموعه‌ای از «اصول راهنما» را منتشر کرده و به طور دوره‌ای بازبینی کرده است که تعهدات اصلی جنبش را تعریف می‌کند - از جمله «تعهد به دیگران» («مایل به انجام اقدامات شخصی مهم» به نفع دیگران)، «ذهنیت علمی» (مبتنی بر اقدامات بر شواهد و استدلال به جای شهود)، و «باز بودن» (به جای تغییر مسیر، در صورتی که دلیل ثابت شود).

این گروه همچنین میزبان رویدادهایی مانند سری کنفرانس سالانه EA Global است، یک انجمن آنلاین فعال دارد و یک نظرسنجی دوره‌ای انجام می‌دهد، اما به طور دقیق یک سازمان عضویت نیست.

همپوشانی EA با ایمنی هوش مصنوعی

مشارکت EA با ریسک هوش مصنوعی ناشی از علاقه موازی جنبش به «طولان‌گرایی» بود - این ایده که شکل‌دهی مثبت به آینده دور یک اولویت اخلاقی است.

این علاقه ناشی از اعتقاد EA بود که زندگی افراد آینده به اندازه زندگی امروز ارزشمند است. از آنجایی که هنوز تعداد زیادی از انسان ها به دنیا نیامده اند، استدلال بلندمدت این است که جلوگیری از انقراض انسان تقریبا بیش از هر علت دیگری مفید است. پیوند با هوش مصنوعی بعد از کتاب Superintelligence فیلسوف فیلسوف در سال 2014، که استدلال می کرد هوش مصنوعی یک تهدید وجودی منحصر به فرد است و کتاب Toby Ord در سال 2020، The Precipice، که هوش مصنوعی غیر همسو را به عنوان یک خطر وجودی مشخص می کرد، نیروی جدیدی پیدا کرد.

به گفته برایان هدن، استاد زبان‌شناسی در موسسه فناوری و فیلسوف ماساچوست، «این فکر وجود داشت که هوش مصنوعی در حال آمدن است، و به شدت تأثیرگذار خواهد بود، بسیار متحول‌کننده است، و در واقع از منظر انجام حداکثر خوبی که می‌توانیم برای هدایت توسعه هوش مصنوعی در جهت خوب و دور از آسیب‌ها بسیار مهم خواهد بود».

به دلیل این الزام اخلاقی، بسیاری از افراد و سازمان‌های خیریه مرتبط با EA برای مقابله با این خطرات کار کرده‌اند و بسیاری از آنها کمک‌های مالی برای تحقیقات بیشتر ایمنی هوش مصنوعی ارائه می‌کنند. Open Philanthropy، یک موسسه خیریه همسو با EA که میلیاردر فناوری داستین موسکوویتز را در میان بنیانگذاران آن به حساب می آورد، در دهه گذشته پول قابل توجهی را به سمت تحقیقات ایمنی هوش مصنوعی هدایت کرد، تغییری که با پیشرفت مدل های زبانی بزرگ شتاب گرفت. یکی دیگر از بنیانگذاران هولدن کارنوفسکی بود که اکنون کارمند آنتروپیک است و با بنیانگذار و رئیس آنتروپیک دانیلا آمودی ازدواج کرده است.

یکی دیگر از چهره های برجسته EA و سرمایه گذار تحقیقات ایمنی هوش مصنوعی سم بنکمن-فرید بود. بنیانگذار کریپتو رسوایی یکی از برجسته ترین طرفداران این جنبش و بزرگترین اهداکنندگان آن بود که پلتفرم مبادلات ارزهای دیجیتال FTX را به یک شرکت چند میلیارد دلاری با هدف صریح جمع آوری ثروت برای هدیه ساخت.

پس از اینکه مشخص شد که Bankman-Fried میلیاردها سرمایه از مشتریان FTX را اختلاس کرده است و Bankman-Fried به اتهام کلاهبرداری محکوم شد، سقوط او به تمثیلی از منطق منفعت طلبانه خود جنبش تبدیل شد که به نهایت آن رسیده است - اثبات این که "درآمد برای دادن" می تواند به مجوزی برای کاهش زوایای اخلاقی و قانونی تبدیل شود.

در حالی که جنبش EA از لحاظ تاریخی یکی از تنها گروه‌هایی بوده است که چشم‌انداز AGI - نوعی هوش مصنوعی که از همه انسان‌ها پیشی می‌گیرد - و خطرات شدیدی که می‌تواند داشته باشد را جدی می‌گیرد، اما همه نوع‌دوستان مؤثر، نابودگر هوش مصنوعی نیستند. هدن گفت در واقع، بسیاری از "طعم های مختلف EA" وجود دارد. «این که بگوییم نوع دوستی مؤثر با توسعه بیشتر هوش مصنوعی مخالف است، با یک قلم موی بسیار گسترده است.

گروه های همسو با EA دلایل ایمنی را تامین می کنند

روابط عمیق EA با آزمایشگاه‌های هوش مصنوعی، تحقیقات ایمنی و تلاش‌های نظارتی باعث شده است که برخی در دولت ترامپ این جنبش را به نفوذ بیش از حد بر صنعت گسترده‌تر متهم کنند.

Anthropic به عنوان یک هدف خاص ظاهر شده است، زیرا بسیاری از بنیانگذاران آن یا با EA ارتباط دارند یا از دیدگاه های همسو با فلسفه آن حمایت می کنند - و این شرکت بخشی از بودجه اولیه خود را از سرمایه گذاران مرتبط با EA دریافت کرده است. (Bankman-Fried یکی از حامیان اولیه Anthropic بود و در دور سرمایه گذاری سری B شرکت پیشرو بود.) این آزمایشگاه همچنین به دلیل تمرکز تاسیسش بر کاهش ریسک هوش مصنوعی، کارمندان بیشتری را با EA جذب کرده است. گفته می شود، آنتروپیک به طور عمومی خود را با جنبش EA هماهنگ نمی کند.

در ماه فوریه، پیت هگزث در توییتی به نوع دوستی مؤثر اشاره کرد که به موضع آنتروپیک در مورد عدم اجازه استفاده از فناوری خود برای عملیات نظامی ایالات متحده اشاره کرد. او می‌نویسد: «آنها با پوشیده شدن در لفاظی مقدس «نوع دوستی مؤثر»، سعی کرده‌اند ارتش ایالات متحده را با قدرت تسلیم کنند - اقدامی بزدلانه از فضیلت‌های شرکتی که ایدئولوژی سیلیکون ولی را بالاتر از جان آمریکایی‌ها قرار می‌دهد.

امیل مایکل از پنتاگون و دیوید ساکس، تزار سابق هوش مصنوعی و ارزهای دیجیتال نیز از منتقدان سرسخت نفوذ EA بر چشم انداز ایمنی فعلی هوش مصنوعی بوده اند. هر دو همچنین علیه تلاش‌های نظارتی هوش مصنوعی لابی کرده‌اند. هفته گذشته، مایکل در مصاحبه ای با فاکس نیوز در مورد EA گفت: «آنها خود را با رئیس جمهور و دیگر روسای جمهور دموکرات همتراز می کنند.

امیل مایکل، معاون وزیر دفاع در امور تحقیقات و مهندسی پنتاگون Tierney L. Cross-Bloomberg از طریق Getty Images

اندرو کین، مدیر سیاست پروژه هوش مصنوعی امن، گفت: «برای برخی از افراد در کاخ سفید، جامعه ایمنی هوش مصنوعی و نوع‌دوستان مؤثر همیشه دشمن بوده‌اند. کین قبلا رئیس کارکنان مؤسسه ملی استاندارد و فناوری (NIST)، آژانسی از وزارت بازرگانی ایالات متحده بود.

او افزود: «در حالی که شاید [ایمنی هوش مصنوعی] سه سال پیش یک موضوع مهم بود که بیشتر بر EA متمرکز بود - این موضوع برای عموم آشکارتر می شود و فراتر از آن گسترش می یابد. "آنها سعی می کنند این موضوع را به گروهی از مردم در سایه بیاندازند تا توجه را از این واقعیت منحرف کنند که این در حال تبدیل شدن به یک نگرانی عمومی واقعی است که بسیار گسترده تر از آن است."

بخشی از دلایلی که این گروه مورد حمله قرار گرفته است این است که با گروه های سیاستی طرفدار نظارت درگیر بوده است. صندوق اقدام بشردوستانه باز تحت حمایت EA 110000 دلار در سه ماهه دوم سال 2026 صرف تلاش های لابی کرد. به گزارش پولیتیکو در سال 2024، سازمان دیگری، مرکز سیاست هوش مصنوعی، یک سازمان مدافع در جنبش EA است که قوانین فدرال ایالات متحده را برای کاهش خطرات فاجعه بار ناشی از هوش مصنوعی تحت فشار قرار داده است، از سال 2024 فعال بوده است، زمانی که اولین لابی خود را ثبت کرد و به سرعت 98000 دلار در یک ماه هزینه کرد.

بسیاری از افراد در دنیای ایمنی هوش مصنوعی استدلال می‌کنند که اگرچه این بودجه و پیوندهای سیاسی با EA واقعی است، اما به این معنا نیست که همه کسانی که درگیر خطر هوش مصنوعی هستند، از این ایدئولوژی پیروی می‌کنند. برخی از محققان می گویند که این گروه خود را هدف چنین حملاتی یافته است، زیرا یک شبکه کوچک و قابل شناسایی با روابط مالی و پرسنلی بزرگ با آزمایشگاه های سازنده این فناوری است - که نشان دادن آن را به عنوان یک علاقه خاص در سایه آسان تر از درگیر شدن با نارضایتی عمومی در مورد هوش مصنوعی می کند.

Seán Ó hÉigeartaigh، استاد پژوهشی در مرکز آینده اطلاعات، که خود از سرمایه‌گذاران همسو با EA پول گرفته است، گفت که جامعه EA با تحقیقات ایمنی هوش مصنوعی بسیار درگیر است، زیرا این موضوع را در مقابل بسیاری جدی گرفته است. او گفت، در حالی که رد کردن تأثیرات ظریف‌تر، مانند طرح پیشنهادی توسط محققان برای مطابقت با آنچه که سرمایه‌گذار احتمالا از آن حمایت می‌کند، دشوار است، هیچ تلاشی برای اجرای کنترل پیام صورت نگرفته است.

تایلر جانستون، بنیانگذار گروه نظارت بر هوش مصنوعی، پروژه میداس، که خود را با جنبش مؤثر نوع دوستی می شناسد، گفت که مشارکت اولیه نیز با مالکیت یکسان نیست. او بحث فعلی را با این سوال مقایسه کرد که آیا کسی که نگران تغییرات آب و هوایی است در جنبش محیط زیستی دخالت دارد یا خیر. او گفت که نگرانی اولیه EA در مورد ایمنی هوش مصنوعی باعث ایجاد ارتباطات "سرسخت" و عمیق تر در بین افرادی شد که اکنون در ایمنی کار می کنند.

دستور کار هوش مصنوعی ترامپ: مرگ بر محکومین

در حال حاضر، اولویت‌های ترامپ کاملا بر برنامه شتاب‌دهی هوش مصنوعی و برنامه ضد کندی هوش مصنوعی او متمرکز است. هفته گذشته در پستی، او پستی را به اشتراک گذاشت که در آن ادعا کرد تنها محافظ مورد نیاز برای کنترل هوش مصنوعی «رئیس جمهور با بهره هوشی بالا» است.

یکی از عواقب جانبی این، فاصله جدید با OpenAI، علاوه بر رابطه سرد موجود با Anthropic، و تعداد فزاینده کارمندان هوش مصنوعی در Silicon Valley است که از درخواست‌ها برای کاهش سرعت نیز حمایت می‌کنند. این یک تغییر قابل توجه نسبت به ژانویه 2025 است، زمانی که آلتمن به ترامپ علاقه داشت و گفت که کارهای "باورنکردنی" برای ایالات متحده انجام می دهد و در کنار او می ایستد تا سرمایه گذاری 500 میلیارد دلاری دولت در استارگیت در زیرساخت های هوش مصنوعی را اعلام کند.

ترامپ در عوض با کسانی که با این جهان بینی ضد نابودی همسو هستند، به ویژه با جنسن هوانگ، مدیرعامل انویدیا، ائتلاف های محکم تری تشکیل داده است. هفته گذشته، هوانگ در حالی که روی صحنه بود به تماس ترامپ پاسخ داد و رئیس جمهور را روی بلندگو گذاشت. ترامپ از طریق میکروفون خطاب به جمعیت گفت: «هر چه داریو این آخر هفته گفت، پیشرفت ما را متوقف نخواهد کرد.» او همچنین واکنش شدید به مراکز داده و ترس از «تسلط بر هوش مصنوعی» را یک «فریب» خواند.

با این حال، به گفته کین، مخالفت های عمومی که از سوی چهره هایی مانند ساکس و مایکل صورت می گیرد، با بسیاری از اعضای حزب جمهوری خواه متفاوت است.

او گفت: "در کنگره، جمهوری خواهانی که دو سال پیش فقط در تلاش برای ممنوع کردن همه مقررات ایالتی بودند، اکنون می گویند، در واقع، ما باید پیش نویسی را تهیه کنیم. چیزی که یک سال پیش سابقه نداشت." او گفت که خلق و خوی، هم در میان مردم و هم در داخل دولت، به نظر می رسد به سمت جدی گرفتن ریسک هوش مصنوعی و خواستار حداقل مقرراتی است.

او گفت: «عجیب است که ما شاهد این عقب نشینی متمرکز بر EA هستیم. "اما با آنچه که در واقع گفتگو از سوی بسیاری از سیاستگذاران هر دو طرف انجام می شود، بسیار مغایرت دارد."

این داستان در ابتدا در سایت Fortune.com منتشر شد