محققان می گویند محتوای تولید شده توسط هوش مصنوعی می تواند خاطرات جعلی را ایجاد کند

اعتماد مردم به هوش مصنوعی در حال تغییر مسیر خطرناک جدیدی است. محققان می گویند که عکس ها و خلاصه های تولید شده توسط هوش مصنوعی با موفقیت خاطرات خود افراد را تحریف می کنند.

پتی میس، دانشمند MIT در مورد تحقیقات تیمش با واشنگتن پست صحبت کرد. شرکت‌کنندگان مجموعه‌ای از عکس‌ها را مشاهده کردند و پس از یک استراحت، به برخی از شرکت‌کنندگان دقیقا همان عکس‌ها نشان داده شد در حالی که به برخی دیگر نسخه‌های تغییر یافته توسط هوش مصنوعی نشان داده شد. زمانی که بعدا با آزمایش حافظه روبرو می‌شدند، افرادی که تصاویر تغییر یافته توسط هوش مصنوعی را مشاهده کردند، نه تنها احتمال داشت که تصویر اصلی را اشتباه به خاطر بسپارند، بلکه به خاطرات نادرست خود نیز بیش از حد اطمینان داشتند.

حافظه انسان بی ثبات، غیرقابل اعتماد و به شدت در معرض پیشنهاد است. این موضوع به طور گسترده در آزمایش های روانشناختی که قدمت آن به قرن نوزدهم بازمی گردد، پوشش داده شده است. این چیزی است که اطلاعات نادرست را به ویژه خطرناک می کند، با برخی از مطالعات نشان می دهد که می تواند بر تصمیم گیری ها، از جمله تصمیمات سیاسی، حتی پس از صدور اصلاحات، همچنان تأثیر بگذارد.

معرفی هوش مصنوعی فقط این پویایی را متزلزل تر می کند. شیب تولید شده توسط هوش مصنوعی به طور آنلاین قانع‌کننده‌تر و بسیار فراگیر می‌شود و موج جدیدی از کلاهبرداری و اطلاعات نادرست را امکان‌پذیر و توربوشارژ کرده است.

مطالعات متعددی علاوه بر Maes نشان داده است که این اطلاعات نادرست تولید شده توسط هوش مصنوعی در کاشت خاطرات نادرست در مغز شرکت‌کنندگان موفق بوده و آنچه را که شرکت‌کنندگان به درستی می‌دانند تغییر می‌دهند. مطالعه‌ای در سال گذشته نشان داد که هم متن‌های دیپ‌فیک و هم متون تولید شده توسط هوش مصنوعی، خاطرات نادرستی درباره رسوایی‌های سیاسی کاملا ساختگی ایجاد می‌کنند و تا آنجا پیش می‌روند که قصد رأی‌گیری را کاهش می‌دهند.

حتی زمانی که هوش مصنوعی به طور مخرب استفاده نمی شود، می تواند تأثیر فاجعه باری بر حقیقت داشته باشد. به این دلیل که هوش مصنوعی مولد مستعد اشتباهاتی در خروجی خود است که توهم نامیده می شود. از آنجایی که سازمان‌های دولتی، بانک‌ها، ارتش‌ها، بیمارستان‌ها و فهرست روزافزون سازمان‌های بیشتری برای استقرار هوش مصنوعی رقابت می‌کنند، احتمالا اهمیت ادعایی در مورد «انسان در حلقه» را می‌شنوید، که به انسان معروف است، اغلب یک پرسنل ارشد با تخصص در این موضوع، که خروجی سیستم هوش مصنوعی را ممیزی می‌کند.

تصور این است که استقرار گسترده هوش مصنوعی با نظارت انسانی، هر فرآیندی را از حملات نظامی گرفته تا ثبت سوابق را سرعت می‌بخشد، در حالی که اطمینان حاصل می‌کند که خطاهای ایجاد شده توسط هوش مصنوعی قبل از تبدیل شدن به عمل و ایجاد آسیب‌های واقعی شناسایی می‌شوند.

اما تحقیقات نشان می دهد که کاربران در تشخیص این توهمات مهارت خاصی ندارند. و با وجود خاطرات لکه دار و تمایل ما به باور سیستم های هوش مصنوعی، حتی زمانی که چیزی که یک سیستم هوش مصنوعی منتشر می کند با بخشی از اطلاعاتی که متخصص انسانی در این حلقه درست می داند در تضاد است، متخصص در برابر تحریف قضاوت آسیب پذیر است.

ممکن است راه هایی برای حل این مشکل وجود داشته باشد. مطالعات ادعا می‌کنند که در حال حاضر، توانایی یک فرد متوسط ​​برای شناسایی صحیح محتوای تولید شده توسط هوش مصنوعی اساسا یک سکه است، اما بسیاری از محققان در تلاش هستند تا مداخلات و روش‌های آموزشی را بیابند تا به انسان‌ها در تشخیص دیپ‌فیک بهتر کمک کنند.

اما هنوز هیچ روشی برای رفع این گرایش معیوب وجود ندارد. در حالی که کارشناسان در تلاش برای یافتن یکی از آنها هستند، صنعت هوش مصنوعی در حال رقابت است تا انسان ها را با سیستم های هوش مصنوعی عاملی که امیدوارند بتوانند کاملا خودمختار شوند، از حلقه دور کند.

این اختلاف پیش از این منجر به نتایج فاجعه‌باری شده است. حمله نظامی آمریکا به یک مدرسه ابتدایی در ایران در اوایل امسال بیش از 150 نفر از جمله حداقل 123 کودک را کشت. تحقیقات داخلی وزارت دفاع که ماه گذشته توسط بلومبرگ گزارش شد، به این نتیجه رسید که این حمله تا حدی به دلیل اتکای بیش از حد به یک سیستم هوش مصنوعی توسعه یافته توسط Palantir بوده است، که مدرسه ابتدایی را به دلیل داده های قدیمی به عنوان هدف حمله روز اول توصیه می کرد.