آیا یک چت بات می تواند پیچ و خم دولت را درست کند؟ کاخ سفید در آستانه کشف این موضوع است
America.gov در نظر گرفته شده است تا فرآیند پیمایش بوروکراسی دولتی را ساده کند، اما مدل های زبانی ناقص هستند و مستعد توهم هستند که می تواند مسائل جدیدی را ایجاد کند.
آخرین روز برای نمایش موفقیت خود برای بیش از 10000 رهبر فناوری در 2 اکتبر است. میز نمایشگاه کتاب هم اکنون.
دونالد ترامپ، رئیسجمهور آمریکا روز سهشنبه اعلام کرد که کاخ سفید America.gov را راهاندازی میکند، یک ربات چت هوش مصنوعی با هدف کمک به مردم برای یافتن خدمات دولتی و سایر اطلاعات.
گوگل تایید کرد که در این راهاندازی شریک است و مدل هوش مصنوعی آن، جمینی، درگیر است، اما مشخص نیست که آیا سایر شرکتهای هوش مصنوعی نیز مشارکت داشتهاند یا خیر.
ترامپ در پستی در X میگوید: «بهجای اینکه شهروندان را مجبور کنید تا در پیچ و خم بیپایان دهها هزار وبسایت و قوانین دولتی جستجو کنند، اکنون برای هر سؤال یک درب خواهید داشت».
آسانتر کردن سرویسهای دولتی برای پیمایش یک هدف ارزشمند است، اما آیا یک ربات چت هوش مصنوعی بهترین راه برای انجام این کار است؟ مدل های زبانی بزرگ خطاناپذیر نیستند و مستعد توهم هستند. در واقع، CNN اخیرا گزارش داد که ارتش ایالات متحده تقریبا یک عملیات مسلحانه را علیه یک کشتی چینی که گمان میکرد قطعات تسلیحات هستهای را حمل میکرد، آغاز کرد. ارتش پس از اینکه متوجه شد تهدید فرضی فقط یک توهم هوش مصنوعی است، ماموریت را در آخرین لحظه لغو کرد.
اگر کسی اطلاعات ناقصی را از America.gov دریافت کند، احتمالا جنگ هسته ای را آغاز نخواهد کرد، اما یک اشتباه همچنان می تواند عواقب جدی داشته باشد. افراد ممکن است برای دسترسی به اطلاعات مربوط به درخواست کوپن غذا، تمدید ویزا یا ثبت مالیات به این چت بات اعتماد کنند، جایی که اشتباهات ممکن است به معنای از دست دادن مهلتها، محرومیت از مزایا یا جریمه باشد.
متن اصلی (انگلیسی)
Can a chatbot fix the government maze? The White House is about to find out
America.gov is intended to simplify the process of navigating government bureaucracy, but language models are imperfect and remain prone to hallucinations, which could cause new issues.