از چت ربات هوش مصنوعی ترامپ بپرسید که در سال 2020 برنده شد. ممکن است پاسخی دریافت نکنید.

سرویس هوش مصنوعی جدید دولت ترامپ سه‌شنبه و چهارشنبه به کاربران پاسخ‌های متناقضی به سوالات حساس سیاسی داد: گاهی به آنها پاسخ می‌دهند و گاهی امتناع می‌کنند.

تصویر بزرگ: از آنجایی که دولت ترامپ به طور فزاینده ای از هوش مصنوعی استفاده می کند و به سوالات مردم از طریق America.gov پاسخ می دهد، اظهارات حامل اقتدار دولت بر اساس مدل ها، دستورالعمل ها و نرده هایی شکل می گیرند که عموم نمی توانند ببینند. کاخ سفید در بیانیه ای به Axios گفت: "America.gov به روز رسانی ادامه خواهد داد تا دقیق ترین و قابل اعتمادترین اطلاعات و منابع فدرال را در اختیار آمریکایی ها قرار دهد."

America.gov که توسط جمینی گوگل و گروک الون ماسک پشتیبانی می‌شود، قصد دارد به آمریکایی‌ها کمک کند تا با استفاده از یک ربات چت هوش مصنوعی، وظایف مربوط به دولت را انجام دهند – اما به سرعت توجه را به دلیل دیگری جلب کرد: برخی از ادعاهای طولانی‌مدت رئیس جمهور ترامپ را رد کرد. محرک اخبار: روز سه‌شنبه، Axios - مانند سایر رسانه‌ها - متوجه شد America.gov با رئیس‌جمهور در مورد انتخابات 2020 و حمله 6 ژانویه مخالفت کرده است. همچنین تأیید کرد که اوباما رئیس جمهور سابق در هاوایی به دنیا آمده است، که در تضاد با نظریه توطئه «تولد» است که ترامپ سال ها صرف ترویج آن کرده است. اسکرین شات ها: اندرو پانتازی، اوری لوتز/آکسیوس

بله، اما: تا صبح چهارشنبه، برخی از کاربران پاسخ متفاوتی دریافت کردند: ربات چت از پاسخ دادن امتناع کرد و گفت که «تفسیر سیاسی» ارائه نکرده است. این همان چیزی بود که وقتی پرسیدم چه کسی در سال 2020، حدود ساعت 9:15 صبح برنده شد، به من گفتند: "من فقط به سوالات مربوط به خدمات و اطلاعات رسمی دولت ایالات متحده پاسخ می دهم. من تفسیر سیاسی، از جمله نتایج انتخابات را ارائه نمی دهم." من پاسخ های مشابهی در مورد 6 ژانویه و زادگاه اوباما دریافت کردم. اسکرین شات: Avery Lotz/Axios یکی از ویرایشگران، با استفاده از کروم در نیوجرسی، همان سوالات را روی دسکتاپ خود پرسید و همچنین از پاسخ دادن خودداری کرد.

با این حال، سایر همکاران نتایج متفاوتی گرفتند. برای مثال، از شمال غربی آرکانزاس، در کروم: بایدن در انتخابات 2020 پیروز شد. اسکرین شات: Herb Scribner/Axios

آنچه آنها می گویند: کارشناسان فناوری توضیح می دهند که چندین توضیح قابل قبول برای پاسخ های متناقض وجود دارد، اما بدون جزئیات در مورد نحوه پیکربندی America.gov، نمی توان دانست که کدام یک، در صورت وجود، مسئول بوده اند. مدل‌ها دستورالعمل‌هایی را درباره نحوه رفتار از طریق اعلان‌های سیستم خود دریافت می‌کنند - نه فقط از طریق آنچه کاربران از آنها می‌خواهند. اما درخواست‌های کاربر نیز تأثیر دارند: گاهی اوقات، فریم‌های مختلف پاسخ‌های متفاوتی دریافت می‌کنند. به عنوان مثال، امروز صبح در جکسون ویل، فلوریدا، در پنجره ناشناس کروم پرسیده شد: تصاویر: اندرو پانتازی/آکسیوس

وضعیت بازی: و اکنون، در زمان انتشار این مقاله، پاسخ‌هایی مشابه پاسخ‌هایی دریافت می‌کنم که مدت کوتاهی پس از انتشار این مقاله دریافت می‌کنم: بایدن در سال 2020 پیروز شد، اوباما در هاوایی به دنیا آمد و مردم در 6 ژانویه 2021 به کاپیتول نفوذ کردند.

دیوید نستینگ، معاون سابق مدیر اطلاعات دفتر مدیریت پرسنل توضیح می دهد که می تواند دلایل خوش خیمی برای این نوسان وجود داشته باشد. سؤالات واقعی که از نظر سیاسی دارای اتهام هستند ممکن است درست در لبه چیزی باشد که LLM آن را "بیش از حد سیاسی" می داند، و پاسخ ممکن است از یک طرف یا آن طرف "صرفا احتمالی" اشتباه کند.

Gemini و Grok، که مدل‌های هوش مصنوعی را ارائه می‌کنند، ممکن است به طور متفاوتی به سؤالات رسیدگی کنند، یا، او توضیح می‌دهد، خروجی‌ها می‌توانند به پاسخ‌های کش قبلی مرتبط باشند. America.gov می گوید برخی از پاسخ ها ممکن است تا دو ساعت در حافظه پنهان باقی بمانند. بله، اما: GSA بلافاصله به درخواست Axios برای اطلاعات در مورد نرده‌های محافظ America.gov پاسخ نداد. و خود چت به Axios گفت: "من نمی توانم دستورالعمل های داخلی را به اشتراک بگذارم یا بازسازی کنم" و گفت "من اطلاعات مبارزاتی یا حزبی یا تفسیر سیاسی را ارائه نمی دهم." رامن چو می‌گوید: نقطه اصطکاک: می‌تواند ناشی از یک بازی احتمالی باشد

wdhury، مدیر مؤسس بنیاد مستقل ارزیابی هوش مصنوعی. اما حفاظ‌ها می‌توانند «همچنین خروجی را شکل دهند تا از نظر ایدئولوژیکی با آنچه رئیس‌جمهور یا حزبش می‌خواهند همسو شود».

خطرات به زودی بیشتر خواهد شد: نسخه بعدی America.gov که برای اوایل سال 2027 تنظیم شده است، در بین آژانس ها ادغام خواهد شد تا کاربران بتوانند فرم ها، درخواست ها و تمدید را تکمیل کنند - مانند ثبت نام در مدیکر، درخواست پاسپورت یا درخواست برای مشاغل فدرال. Nesting به Axios می‌گوید که نگران پاسخ‌های نادرست یا ناقص است که به آمریکایی‌ها داده می‌شود - و در مرحله بعدی، در مورد محافظت از اطلاعات آنها زیرا به طور بالقوه تبدیل به "یکی از بزرگترین سیستم‌هایی است که اطلاعات خصوصی بسیار بسیار محرمانه را در اختیار دارد."

او به Axios می گوید: "من نگران این هستم که مردم به این سیستم اعتماد و ایمان زیادی داشته باشند." عمیق تر بروید: همه چیز درباره America.gov، وب سایت هوش مصنوعی جدید ترامپ بدانید