آیا به هشدار اضطراری نوشته شده توسط هوش مصنوعی اعتماد دارید؟

در اوایل این ماه، پس از اینکه طوفان ایزایاس به عنوان یک طوفان رده 3 به ساحل خلیج رسید، لورا مایرز، کارشناس مدیریت اضطراری با یک هواشناس در آلاباما تماس گرفت. مایرز مدیر مرکز ایمنی عمومی پیشرفته دانشگاه آلاباما است و همیشه با مدیران اورژانس ایالتی و محلی در اطراف منطقه خود صحبت می کند. این هواشناس به مایرز گفت که یک مدیر اورژانس محلی تصویری را منتشر کرده است که نشان می دهد ایزایا ممکن است با یک "جت نیش دار" بادهای شدید ساحل آلاباما را تهدید کند.

مشکل؟ مدیر اورژانس این گرافیک را با استفاده از یک ربات چت هوش مصنوعی ایجاد کرده بود و دقیق نبود.

او گفت: «مدیر اورژانس شهرستان تلاش می‌کرد تا ذینفعان خود را بر روی خطر در آن شهرستان متمرکز کند، بنابراین از هوش مصنوعی خواسته بود که به او کمک کند. "آن کاری که او می خواست انجام داد، اما از نظر هواشناسی دقیق نبود."

اکثر آژانس‌های مدیریت اضطراری به کارمندان اجازه استفاده از هوش مصنوعی مولد را نمی‌دهند، اما مایرز و بسیاری دیگر از کارشناسان مدیریت اضطراری موافق هستند که استفاده از آن احتمالا در حال حاضر در ادارات بلایای ایالتی و محلی فراگیر شده است. صدها شرکت وجود دارند که ابزارهای هوش مصنوعی را برای مدیران اضطراری برای کارهایی مانند ارزیابی خسارت سیل و هماهنگی منابع بازاریابی می کنند، اما ارتباطات عمومی یکی از حوزه هایی است که کارمندان دولت و استارت آپ ها بیشترین علاقه را دارند.

دلیل؟ اکثر مدیران اورژانس در ارسال هشدارها و برقراری ارتباط سریع در مورد بلایا با مردم خیلی خوب نیستند. این به این دلیل نیست که آنها مدیران اورژانس هستند، بلکه به این دلیل است که آنها انسان هستند. آنها تمایل دارند به زبان اصطلاحاتی بنویسند که افراد غیر متخصص ممکن است آن را درک نکنند، اطلاعات را با این فرض که عموم مردم قبلا آن را می‌دانند کنار می‌گذارند و جزئیات نامربوطی را درج می‌کنند که می‌تواند حواس افراد را از آنچه واقعا باید بدانند منحرف کند.

جینت ساتون، محقق بلایای طبیعی در دانشگاه آلبانی که داشبورد جامعی ایجاد کرده است که الگوهایی را برای هشدارهای بلایا ارائه می‌کند، گفت: «بسیاری از آژانس‌ها واقعا از نظر منابع و تعداد افراد محدود هستند. "من فکر می کنم آنها آن را به عنوان یک اولویت می شناسند، اما تا زمانی که متوجه نشوند باید انجام دهند، آن را اولویت بندی نمی کنند. آنها فقط سعی می کنند کار خود را بدون خراب کردن چیزی انجام دهند."

پرسنل بخش اورژانس با شهر نیویورک در 23 فوریه 2026، پیش از طوفان زمستانی، اتاق فرمان نگهبانی در بروکلین را زیر نظر دارند. متیو هوئن / NurPhoto از طریق Getty Images

مدیران اورژانس، مقامات دولتی هستند که مسئول واکنش و بازیابی بلایا هستند. در سطح ایالتی و محلی، این مقامات و آژانس‌های آنها، نه آژانس مدیریت فوریت‌های فدرال، هستند که اولین خط دفاعی را پس از یک رویداد شدید آب و هوایی تشکیل می‌دهند. به این ترتیب، مدیران اورژانس اغلب دوست دارند بگویند "اعتماد واحد پول ماست" و در ارتباط آنها با مردم است که این اعتماد را ایجاد کرده و از دست می دهند.

از آنجایی که بلایای اقلیمی مکرر و گسترده تر می شوند، نمونه های متعددی از ارتباطات انسانی ناقص وجود داشته است که برای پاسخ اضطراری تلاش می کند. به عنوان مثال، در سال 2016، شهرستان‌های مجاور در کالیفرنیا یک «تخلیه داوطلبانه» و «تخلیه اجباری» برای همان آتش‌سوزی صادر کردند. در استرالیا در سال 2019، مقامات با استفاده از عبارت «مواظب باش و عمل کن» در مورد آتش‌سوزی‌های جنگلی هشدار دادند، که بعدا دولت گفت که باعث «گیج و سردرگمی قابل‌توجه» شد، زیرا هیچ‌کس معنی آن را نمی‌دانست.

در برخی موارد، ارتباط ناکافی می تواند به معنای تفاوت بین زندگی و مرگ باشد. این اتفاق در مونتسیتو، کالیفرنیا، پس از آتش سوزی توماس در سال 2017 رخ داد. چند هفته پس از آتش سوزی، یک طوفان شدید باران باعث ایجاد گل و لای مرگبار شد. دولت کانتی سانتا باربارا تلاش کرد تا این خطر را به ساکنانی که هنوز از آتش سوزی آسیب دیده اند و پدیده ای را تجربه می کنند که ساتون آن را "خستگی هشدار دهنده" می نامد، منتقل کند. این شهرستان هشدارهایی را برای همه افراد حاضر در «منطقه تخلیه داوطلبانه» برای آتش‌سوزی‌های جنگلی ارسال کرد و به ساکنان گفت: «هوشیار باشید نسبت به تغییر شرایط و آماده شدن برای ترک فوری». Mos

تن از این ساکنان باید فورا ترک می‌کردند، اما برای بسیاری اخطار تخلیه اختیاری بود. دیگران فقط نمی خواستند برای بار دوم در یک ماه تخلیه شوند. رانش گل 23 کشته و بیش از 160 زخمی بر جای گذاشت.

ساتون گفت، دولت هایی که هشدارهای بدی ارائه می دهند، تمایل دارند اعتماد عمومی را از دست بدهند. آنها در حال از دست دادن این فرصت هستند که صدایی برای کمک به مردم برای ایمن باشند.»

پس از اینکه یک سری هشدارهای اشتباه تخلیه به ساکنان لس آنجلس باعث وحشت در طول فصل آتش سوزی فعال جنگلی در ژانویه 2025 شد، مدیر بخش مدیریت اضطراری شهرستان عذرخواهی کرد. کریس دلماس / خبرگزاری فرانسه از طریق گتی ایماژ

در تئوری، هشدارها یک مورد استفاده عالی برای هوش مصنوعی و به ویژه برای سیستم‌های هوش مصنوعی مولد هستند که در چند سال گذشته با سرعت چشمگیری توسعه یافته‌اند. FEMA جلسات آموزشی را برای مدیران اورژانس فراهم می‌کند تا بهترین شیوه‌ها را برای ترکیب و ارسال هشدارها یاد بگیرند، اما بسیاری از مقامات تمام آموزش‌های خود را هنگام فرا رسیدن شرایط اضطراری به خاطر نمی‌آورند. یک مدل زبان بزرگ متفاوت است. می‌تواند صدها هزار هشدار را در چند دقیقه بخواند، تمام تحقیقات در مورد آنچه در سناریوهای مشابه کار می‌کند را هضم کند و سپس آن را برای ویرایش یک هشدار انسانی در چند ثانیه اعمال کند.

یک متخصص گفت: «اگر در زندگی‌تان فقط یک [هشدار] ارسال کرده‌اید، و آن 15 سال پیش بود، و باید تمام آموزش‌های خود را به خاطر بسپارید، و فکر می‌کنید: «هی، یک توده شیمیایی به سمتم می‌آید، تلفن زنگ می‌زند، رادیو به صدا در می‌آید، من به کمک نیاز دارم»، احتمالا هوش مصنوعی بهتر از مدیر سابق اورژانس در حال اجراست. شهرستان اینگام، میشیگان

دیل قبلا از هوش مصنوعی برای تهیه چند هشدار تمرینی در پشت صحنه استفاده کرده است، اما او هرگز مجبور به ارسال آن نشده است. شهرستان اینگهام یک شهرستان کوچک در مرکز میشیگان است و از رویدادهای مهم آب و هوایی مانند طوفان و آتش سوزی مصون است. اگر چنین رویدادی اتفاق بیفتد، دیل گفت که او مشکلی برای اجازه دادن به یک ربات چت برای پیش‌نویس ارتباط حادثه خود نخواهد داشت، اما همچنان می‌خواهد روی ارسال هشدار کنترل داشته باشد.

برخی از کارشناسان معتقدند که این فناوری در حال حاضر به اندازه کافی برای استقرار خوب است. EM1، استارت‌آپی که نرم‌افزار هوش مصنوعی را برای مدیران اورژانس تولید می‌کند، از تحقیقات ساتون برای آموزش مدلی استفاده کرده است که مدیران آن می‌گویند تقریبا از هر مدیر اورژانس انسانی بهتر است. این شرکت این مدل داخلی را بر روی چندین سناریو از جمله آتش‌سوزی‌های جنگلی و سونامی آزمایش کرده است. در اکثر تست‌های معیار می‌تواند با توانایی‌های انسانی مطابقت داشته باشد یا از آن فراتر رود.

ساتون به گریست مثالی از نحوه عملکرد نرم افزار ارائه داد: گریست هشدار اخیری را که توسط یکی از شهرستان های نیومکزیکو ارسال شده بود، به او ارائه کرد که سعی داشت به ساکنان در مورد سیل در رودخانه سان خوان هشدار دهد.

هشدار اصلی

"کرانه های بریچ شده. آب در حال افزایش است. اکنون تخلیه کنید. پارک مک گی برای مردم و حیوانات خانگی باز است، RV."

1 از 1

ساتون از مدل EM1 خواست تا هشدار را ارزیابی و تجدید نظر کند. در عرض چند ثانیه، چیزی که به گفته او هشدار بسیار بهتری است، ایجاد کرد، هشداری که تمام جعبه‌های اصلی ارتباطات فاجعه را بررسی می‌کند.

هشدار جدید

"شهرستان سان خوان: آب سیل در نزدیکی [محل] در حال افزایش است. افراد در [منطقه تخلیه]: اکنون به سمت زمین های بلندتر بروید. از راه رفتن یا رانندگی در میان آب سیل خودداری کنید. پارک مک گی برای افراد و حیوانات خانگی باز است. برای به روز رسانی [منبع به روز رسانی رسمی] را بررسی کنید."

1 از 1

این مدل چندین مشکل را در متن اصلی شناسایی و برطرف کرد، که نمی‌گوید چه کسی هشدار را ارسال می‌کند، مکان خاصی را که در آن سیل در حال وقوع است نام نمی‌برد، یا روشن می‌کند که چه کسی باید تخلیه شود و توصیه‌هایی درباره نحوه انجام این کار ایمن ارائه نمی‌دهد. کلمه «نقض شده» را اشتباه می‌نویسد، و هیچ راهنمایی برای اینکه ساکنان کجا می‌توانند اطلاعات بیشتری را جستجو کنند، ارائه نمی‌کند.

EM1 با حدود صد سازمان دولتی و منطقه مدرسه قرارداد دارد، اما هنوز هیچ کدام از آن برای خودکار کردن هشدارهای آب و هوای شدید خود استفاده نمی کنند. در حال حاضر، آنها فقط از آن برای برنامه های کارگاهی و آماده سازی داخلی استفاده می کنند. با این حال، همه کارشناسانی که برای این داستان مصاحبه کردند، گفتند مطمئن هستند که بسیاری از مدیران اورژانس در حال حاضر از چت‌بات‌ها برای نوشتن پیام‌ها استفاده می‌کنند، حتی اگر آن را نپذیرند. ساتون گفت که مدیران اورژانسی که در جلسات آموزشی هشدار او شرکت می‌کنند، اغلب هشدارهای باکیفیتی را که در عرض چند ثانیه با استفاده از ChatGPT یا Gemini تهیه کرده‌اند به او ارائه می‌دهند.

سارا میلر، استاد مدیریت اضطراری در کالج پیرس در فلوریدا و یک مربی قدیمی در مرکز ملی آموزش آمادگی در برابر بلایا، گفت: «پذیرش رسمی بسیار کم است، اما مردم به طور غیررسمی از آن استفاده می‌کنند، کاملا». "آنها از حساب های شخصی خود استفاده می کنند یا از حساب های رایگان استفاده می کنند."

هوای شدید طوفانی کامل از اطلاعات نادرست ایجاد می کند

آیا به هشدار اضطراری نوشته شده توسط هوش مصنوعی اعتماد دارید؟

نحوه بررسی واقعیت در حین و بعد از یک فاجعه

چرا به گریست اعتماد کنیم؟

به نظر می رسد یک مبادله آسان است: اگر هوش مصنوعی بهتر و سریعتر از انسان است و تفاوت بین یک هشدار خوب و یک هشدار بد می تواند مرگ و زندگی باشد، باید از هوش مصنوعی برای هر موج گرما و آتش سوزی استفاده کنیم. با این حال، حتی محققانی که به فناوری چت بات خوش‌بین هستند، می‌گویند که ایجاد این سوئیچ می‌تواند نتیجه معکوس داشته باشد. اعضای عمومی که نسبت به هوش مصنوعی بدبین هستند یا در وهله اول به دولت اعتماد ندارند، ممکن است آژانس هایی را که گرافیک های تولید شده توسط هوش مصنوعی یا پست های رسانه های اجتماعی را منتشر می کنند، طرد کنند.

به عنوان مثال، در سیراکیوز، نیویورک، اتحادیه ای از کارمندان دولتی از دولت محلی به دلیل استفاده از یک سرویس هوش مصنوعی برای پاسخگویی به تماس های غیر اضطراری 911 شکایت کرد.

جینی کاتز، بنیانگذار HazAdapt، یک شرکت مشاوره که به مقامات بلایای طبیعی کمک می کند تا نحوه استفاده از فناوری را کشف کنند، گفت: «ما به چیزهایی که می دانیم [اصیل] هستند و به ما اهمیت می دهند اعتماد داریم. "محتوای تولید شده با هوش مصنوعی احساس واقعی نمی کند." همچنین این خطر وجود دارد که ربات‌های گفتگو به مدیران اورژانس اجازه دهند هشدارهای بیشتری و سریع‌تر ارسال کنند، که می‌تواند خطر خستگی هشدار را افزایش دهد.

همانطور که در سایر مناطقی که هوش مصنوعی در آن مستقر است، کارشناسان بلایای طبیعی می گویند که در حال حاضر این نرم افزار فقط به اندازه فردی که از آن استفاده می کند، توانایی دارد. یک مدیر اورژانس کارکشته ممکن است بتواند با داشتن یک سری هشدارها پیش نویس یک چت بات، ارتباط خود را با مردم تسریع بخشد، اما یک مدیر بی تجربه که برای ایجاد یک هشدار فوری عجله دارد، نمی داند چگونه خروجی مدلی مانند ChatGPT یا Claude را ارزیابی کند.

حتی با وجود اینکه این فناوری نمی‌تواند بدون متخصص انسانی در این حلقه کار کند، اما بسیاری از بخش‌های مدیریت اضطراری کم‌کار را از استفاده از آن منع نکرده است. کارشناسان می گویند در مورد اینکه چگونه تکثیر محتوای تولید شده توسط هوش مصنوعی بر اعتماد عمومی به دولت تأثیر می گذارد، هنوز زود است.

"اگر یک انسان برای شما پیامک ارسال می کند در مقابل رایانه ای که برای شما پیامک می فرستد، فکر می کنید کدام یک دقیق تر است؟" جاستین اسنیر، بنیانگذار Preppr، شرکت دیگری که نرم افزار هوش مصنوعی را به مدیران اورژانس ارائه می دهد، گفت.

او گفت که پاسخ بستگی به دریافت کننده آن دارد.

این داستان در ابتدا توسط Grist با عنوان آیا به یک هشدار اضطراری نوشته شده توسط هوش مصنوعی اعتماد دارید منتشر شد؟ در 28 اکتبر 2026.