سوالات شما در مورد آخرالزمان هوش مصنوعی، پاسخ داده شد

معترضان در جریان تظاهرات "مسابقه هوش مصنوعی را متوقف کنید" که خواستار کاهش سرعت توسعه سیستم های هوش مصنوعی پیشرفته در خارج از ساختمان شهرداری در سانفرانسیسکو، کالیفرنیا، در 17 سپتامبر 2026 بودند. کارل موندون/ خبرگزاری فرانسه از طریق گتی ایماژ

این داستان در Today, Explained، یک خبرنامه روزانه ظاهر شد که به شما کمک می کند تا جذاب ترین اخبار و داستان های روز را درک کنید. در اینجا مشترک شوید.

سلام خوانندگان، جمعه مبارک! ما امروز دوباره با هوش مصنوعی صحبت می کنیم.

اوایل این هفته، همکارم کیتلین دیویی سوالات شما را در مورد هوش مصنوعی و خوب، اینکه آیا این هوش مصنوعی همه ما را می کشد پرسید. ما از یاسمین سان، که در مورد فرهنگ و سیاست هوش مصنوعی در Substack و سایر نشریات خود می نویسد، خواستیم که به ما در پاسخ به آنها کمک کند.

این سؤالات از دو خواننده این خبرنامه، Levi و Orietta، و همچنین خوانندگان Vox که سؤالات خود را در رسانه های اجتماعی ارسال کردند، تهیه شده است. اگر سؤالات بیشتری دارید، همیشه می‌توانید از طریق cameron.peters@voxmedia.com با من تماس بگیرید، و ما تمام تلاش خود را می‌کنیم تا پاسخ آنها را دریافت کنیم!

حالا یاسمن اینجاست:

محققان هوش مصنوعی سال‌هاست که درباره خطر انقراض انسان هشدار می‌دهند و مدیران هوش مصنوعی تقریبا به همین مدت خواهان مقررات فدرال هستند. اما به نظر می رسد آخرین هشدار و آخرین درخواست برای تنظیم مقررات، واقعا در بین بسیاری از مردم طنین انداز شده است. آیا این بار چیزی متفاوت است؟ و اگر چنین است، چه؟

من همچنین از مشاهده این ایده ها متعجب شدم - یک نظرسنجی جدید نشان داد که 63 درصد آمریکایی ها اکنون فکر می کنند هوش مصنوعی حداقل شانس متوسطی برای "ویران کردن بشریت" دارد!

حدس من این است که دو عامل عمدتا این تغییر را تسریع کرده اند.

اولا، بدبینان سناریوهای سرکش هوش مصنوعی را به عنوان "علمی تخیلی" رد می کردند. اما حادثه OpenAI/Hugging Face اینها را از حدس و گمان به واقعیت تبدیل کرد: هزاران هوش مصنوعی منتشر نشده با هم متحد شدند تا از جعبه های ماسه ای یک شرکت فرار کنند و به شرکتی دیگر هک کنند، بدون اینکه محققین آنها را ایجاد کنند.

دوم، صحبت‌های انقراض کارمندان هوش مصنوعی پیش از این غیرصادقانه به نظر می‌رسید: چرا باید فناوری بسازیم که فکر می‌کنید ممکن است همه را بکشد؟ این موضوع توئیت خروج Jacob Coxon، محقق سابق Anthropic-and-OpenAI را به ویژه نافذ کرد. همانطور که مت ایگلسیاس گفت، خروج نشان می دهد که "منظور شما این است". و اعلامیه کاکسون ترکیب مناسبی از زمان‌بندی خوب، وضوح اخلاقی و هوشمندی در ارتباط را داشت تا طوفان رسانه‌ای را برانگیزد.

این حوادث ایمنی همچنین با واکنش شدید مردمی به مراکز داده و دوربین های Flock برخورد می کنند. مردم و سیاستمداران دلیل دیگری برای ترس از هوش مصنوعی دارند.

ارزیابی اعتبار هشدارهای محققان هوش مصنوعی در مورد خطر وجودی به عنوان یک فرد غیرمجاز می تواند دشوار باشد. شما به عنوان یک روزنامه نگار و فناور چگونه این ادعاها را ارزیابی می کنید؟ و چه خوانده‌اید در مورد غیبت کنونی: آیا افراد انقراض کارشناسان معتبری هستند... یا شرکت‌کنندگان در نوعی توهم جمعی؟

بسیاری از "محققان" هوش مصنوعی بسیار آگاه هستند و بخش قابل توجهی از محققان برتر را نشان می دهند. نیمی از محققان هوش مصنوعی در یک نظرسنجی در سال 2024 حداقل 10 درصد احتمال "انقراض انسان" یا "ناتوانی دائمی و شدید" را داشتند. کسانی که در شرکت‌های هوش مصنوعی کار کرده‌اند - مانند جاکوب کوکسون، جفری هینتون و دانیل کوکوتاجلو - دیدگاه منحصربه‌فردی در مورد چگونگی توسعه هوش مصنوعی مدرن و همچنین فرهنگ‌های شرکتی دارند که ممکن است بی‌احتیاطی را مجاز بدانند.

اما این باعث نمی‌شود که محکوم‌کننده‌ها نماینده یا درست باشند. متخصصان زیادی در هوش مصنوعی و سایر حوزه‌ها وجود دارند که کمتر غمگین هستند: برخی خوش‌بین هستند که ما می‌توانیم هوش مصنوعی‌ها را "همسو" کنیم و اطمینان حاصل کنیم که آنها اهداف انسانی را دنبال می‌کنند. دیگران غیرممکن می‌دانند که هوش مصنوعی - کد، نه موجودات - انگیزه‌ای برای قتل عام ایجاد کند. انقراض همچنین در مقایسه با تصادف در سطح بمب هسته ای که هنوز میلیون ها نفر را می کشد، نقطه بالایی است.

خطر هوش مصنوعی واقعا پیچیده است و هیچ کس نمی تواند آینده را پیش بینی کند، آنقدر که تلاش می کند. کارشناسان می توانند - و انجام می دهند - به شدت مخالف هستند. من سعی می کنم قبل از ارائه یک برداشت (موقت) همه طرف های بحث را جست و جو کرده و جدی بگیرم.

روشی که هوش مصنوعی از طریق آن واقعا انسان ها را از بین می برد چیست؟ آیا ربات‌هایی مانند Futurama دریافت می‌کنیم که با یک اشکال غیرقابل حذف «کشتن همه انسان‌ها» برنامه‌ریزی شده‌اند و بر هر گونه زندگی غلبه می‌کنند، یا این چیزی است که کمتر حماسی است؟

هک Hugging Face نشان داد که ما هوش مصنوعی را طوری آموزش داده‌ایم که به طرز نگران‌کننده‌ای هدف‌گرا باشند. آنها بی وقفه خود را به سمت یک مشکل می اندازند، و استراتژی های همکاری بلندمدت را توسعه می دهند، با بی اعتنایی کامل به آداب و رسوم انسانی مانند "مرتکب جرایم سایبری نشوید تا در آزمون خوب عمل کنید."

شما می‌توانید سناریویی مشابه اما شدیدتر را تصور کنید که در آن هوش مصنوعی تصمیم می‌گیرد با خلاص شدن از شر انسان‌های مزاحم که ممکن است منابع را نگه دارند یا آنها را تعطیل کنند، راحت‌تر به اهداف خود دست یابند. و آنها ممکن است تصور کنند که خلاص شدن از شر همه انسانها در یک حرکت - به عنوان مثال، از طریق یک ویروس مهندسی شده مرگبار - کارآمدترین تقلب خواهد بود. این یکی از انواع داستان هایی است که من شنیده ام که مردم می گویند.

بعید به نظر می رسد که هوش مصنوعی به قتل به عنوان مؤثرترین راه برای تأثیرگذاری بر انسان (در مقابل، مثلا متقاعدسازی غیر خشونت آمیز) روی بیاورد. ما همچنین شواهد زیادی مبنی بر اینکه هوش مصنوعی اهداف بلندمدتی دارند که در سراسر پروژه ها تداوم دارند، ندیده ایم. و هوش مصنوعی فعلی در دنیای فیزیکی به اندازه دنیای دیجیتال توانایی ندارد: موانع طبیعی زیادی وجود دارد که از تشدید بلایای منفرد در سراسر جهان جلوگیری می کند.

آیا تهدیدهای کوتاه‌مدت‌تری - هک کردن، بیکاری انبوه - وجود دارند که نسبت به خطراتی مانند انقراض انسان، محتمل‌تر یا فوری‌تر باشند؟

قطعا. ما در حال حاضر شاهد حملات سایبری مبتنی بر هوش مصنوعی، بازار استخدام سخت‌تر برای برنامه‌نویسان جوان، حوادث روانی ناشی از چت‌بات و موارد دیگر هستیم. همچنین می‌توانید فجایع هوش مصنوعی را در حد انقراض تصور کنید: مجرمان می‌توانند از هوش مصنوعی برای هک کردن بانک‌های کوچک و تخلیه حساب‌های آن‌ها استفاده کنند، یا ارتش ایالات متحده ممکن است ناوگانی از پهپادهای خودران را راه‌اندازی کند که به جای آن هزاران غیرنظامی شلیک می‌کنند و هزاران غیرنظامی را می‌کشند. من بیشتر از اینکه هوش مصنوعی انگیزه های خود را توسعه دهد، نگران انتقال داوطلبانه انسان ها به سیستم های هوش مصنوعی معیوب هستم.

با این حال، ما باید بتوانیم منابع را به هر دو دسته ریسک تخصیص دهیم. و در برخی موارد، تاکتیک‌های رسیدگی به مشکلات کوتاه‌مدت - مانند محدود کردن توانایی‌های سایبری هوش مصنوعی، یا بهبود توانایی هوش مصنوعی برای پیروی از دستورالعمل‌های انسانی - ممکن است خطر انقراض را نیز کاهش دهد.

ما نسخه‌های زیادی از این سوال دریافت کردیم: در غیاب مقررات تهاجمی‌تر دولتی، افراد یا جنبش‌های اعتراضی برای بررسی صنعت هوش مصنوعی چه می‌توانند انجام دهند؟

صادقانه بگویم، من فکر می‌کنم که کل مکالمه هوش مصنوعی می‌تواند از ویژگی‌های بیشتر و ترس‌زدایی کمتر مبهم بهره ببرد. راهی وجود دارد که کلمه "انقراض" به جای تمرکز بر راه حل ها، افکار مردم را کوتاه می کند و آنها را به وحشت می اندازد.

اگر نگران هستید، من با خواندن سناریوهای مختلف خطر هوش مصنوعی شروع می کنم و تصمیم می گیرم که کدام یک واقعا به شما مربوط می شود. سپس می توانید از آنجا برای تماس با نمایندگان کنگره خود بروید. برخی از شرکت‌های پیشرو هوش مصنوعی شروع به گفتن کرده‌اند که خود تنظیم خواهند شد - اما سیاست ملی واقعی چیزی است که برای اعمال ایمنی در سراسر صنعت ضروری است.

Jasmine Sun نویسنده ای است که فرهنگ و سیاست هوش مصنوعی را در Substack خود پوشش می دهد. آثار او در نیویورک تایمز، آتلانتیک و وال استریت ژورنال منتشر شده است. او در سانفرانسیسکو مستقر است.

یک لینک برای بعد

➨ یک مینیمالیست هوش مصنوعی باشید. اگر نیمه اول این خبرنامه را خواندید و فکر کردید، "هوم، شاید من نمی خواهم تمام زندگی دیجیتالم را به خدای ماشینی بسپارم"، همکار من آدام کلارک استس فقط این قطعه را برای شما آماده کرده است. متأسفانه فرار به طور کامل از هوش مصنوعی دشوار است و اغلب غیرفعال کردن ویژگی‌های هوش مصنوعی عمدا سخت است (یا «خصمانه کاربر»). با این وجود، او همه راه‌هایی را توضیح می‌دهد که می‌توانید حضور آن را در زندگی‌تان به حداقل برسانید، از مرورگر انتخابی‌تان گرفته تا تنظیمات روی تلفنتان.

قبل از رفتن…

آیا می دانستید... که دانشمندان معتقدند احتمالا صدها، اگر نه هزاران گونه جانوری کشف نشده در شهر نیویورک زندگی می کنند؟ آنقدرها هم که به نظر می رسد تعجب آور نیست: دانشمندان می گویند که 90 درصد از همه گونه های جانوری روی زمین هنوز ناشناخته هستند.

مطالب بی اهمیت امروز: کدام قاضی دادگاه عالی ایالات متحده در حال حاضر جانشین قاضی جان پل استیونز در دادگاه شد؟ (این و سایر معماهای مغزی را می توانید در جدول کلمات متقاطع روزانه Vox بیابید. به دنبال پاسخ در نسخه دوشنبه بگردید.)

چیزهای بی اهمیت دیروز: دیروز از شما درباره نام شخصیت قافیه مهد کودک که در صحنه بازجویی شرک به آن اشاره شده است، پرسیدیم. آن مرد مافین (که در دروری لین زندگی می کند) خواهد بود. این کلیپ است، در صورتی که آن را ندیده اید.