من «آینده حقیقت» را نوشتم و سپس متوجه شدم که حاوی جملات توهم‌آمیز هوش مصنوعی است. من انتخاب کرده ام که بجنگم

همانطور که هر نویسنده ای می تواند به شما بگوید، سفر از ایده کتاب تا آخرین تاریخ میخانه راهی طولانی و پر از دست انداز در بهترین زمان ها است. اما هوش مصنوعی چشم انداز نویسنده را به گونه ای تغییر داده است که تصور آن دشوار است. این داستان من است.

من آن روز را به وضوح به یاد می‌آورم، یکشنبه، 17 مه 2026. کتاب من به نام The Future of Truth: How AI Reshapes Reality پنج روز منتشر شده بود. اعلان‌های خوبی دریافت می‌کرد و وزوزهای رو به رشد، اما اندازه‌گیری آن سخت بود. بعد گوشیم زنگ خورد. "استیو! این بن مولین است. آخرین ایمیل من را دریافت کردید؟" بن یک گزارشگر رسانه ای در نیویورک تایمز است.

ایمیل او درباره یک نقل قول منتسب به یک محقق ناشناس دارپا پرسیده شد. آیا من نقل قولی داشتم؟ در پایان بعد از ظهر او متقاعد شد که یک تفنگ سیگاری دارد. دو روز بعد، تایمز آن را در صفحه اول نوشت: "آینده حقیقت" حاوی نقل قول هایی است که توسط A.I ساخته شده است."

کنایه وحشیانه بود و اینترنت آن را دوست داشت. کتابی که در مورد هوش مصنوعی و حقیقت هشدار می داد توسط هوش مصنوعی مخفی شده بود. رویدادها لغو شد. یک پادکست ضبط شده پخش شد. قبل از اینکه بتوانم به فوری ترین سوال پاسخ دهم، کتاب تبدیل به یک خط مشت شد: چه اتفاقی افتاد؟

بنابراین، تقریبا پنج ماه بعد، می‌توانم آنچه را که آموخته‌ام به شما بگویم. چگونه از هوش مصنوعی استفاده کردم؟ کجا خراب شد؟ من به چه چیزی متهم شدم؟ من مسئول چه چیزی هستم؟ و برای ترمیم آنچه که اعتماد را شکست و بازسازی کردم چه کار کردم؟

ابتدا یادآوری مختصری از آنچه با خود در مورد مسئله حقیقت آوردم. من شغلی را صرف ادغام حقیقت کرده‌ام و فناوری‌ها بر آن تأثیر می‌گذارند. من MTV News: UnFiltered را ایجاد کردم، یک نمایش تلویزیونی که به بینندگان کنترل می‌داد - سال‌ها قبل از وجود YouTube. من «ملت Curation» را نوشتم، کتابی که سعی می‌کرد کنترل انسان را بر طوفان اضافه بار محتوا بخواهد، و مستند «7 روز در سپتامبر» را کارگردانی کردم، یک تجربه سطح زمین از نیویورک پس از 11 سپتامبر، که توسط افراد واقعی فیلمبرداری شد. به علاوه، اولین شغل من - قبل از رسانه، فناوری یا روزنامه‌نگاری - شعبده‌بازی بود.

بنابراین آنچه مردم باور می کنند، و از آن شگفت زده می شوند، هسته اصلی نگاه من به جهان است. حقیقت همیشه در حال تغییر است، و با این حال من (قبل از شروع مطالعه کتاب) معتقد بودم که غیرقابل انکار است. امروز، این ممکن است دیگر درست نباشد.

کتاب یک سفر چهار ساله بود. وقتی شروع به نوشتن کردم، دانشجوی کارشناسی ارشد در مدرسه گالاتین دانشگاه نیویورک بودم. ChatGPT و Claude هنوز منتشر نشده بودند. تحقیقات اولیه به روش قدیمی و با گوگل، مقالات دانشگاهی و کتاب ها انجام شد. کتاب های زیادی. امروزه این کتاب بیش از 400 استناد دارد. هوش مصنوعی کتاب را ننوشت، من نوشتم. با وجود انبوه پست‌ها و کامنت‌های ناخوشایند برعکس، من از آن مطمئن بودم.

سپس مصاحبه هایی بود که ستون فقرات کتاب شد. گری مارکوس، دیوید چالمرز، خوان انریکز، الی پاریسر، داگلاس راشکف، استر دایسون، هیلی کولبرن، لری لسیگ، استیو فولر و بسیاری دیگر. آیا از هوش مصنوعی استفاده کردم؟ من قطعا انجام دادم. استفاده از هوش مصنوعی من در قدردانی های کتاب فاش شده است. من آن را پنهان نکردم من از آن برای سازماندهی تحقیقات، خلاصه کردن اسناد و اصلاح زبان استفاده کردم.

این کتاب پنج دوره ویراستاری و بیش از 4000 تغییر ردیابی شده را پشت سر گذاشت. ویراستاران و مصححان عقب نشینی کردند، سؤالاتی پرسیدند و نقل قول ها را به چالش کشیدند. قرار است ویرایش کتاب اینگونه باشد.

اما این چیزی است که در حین نگارش کتاب تغییر کرد. هوش مصنوعی وارد شد و در ابتدا تعداد انگشت شماری از توهمات بیشتر آزاردهنده به نظر می رسید تا فاجعه بار. آنها درهم و برهم بودند و به راحتی می گرفتند. جستجوها نشانی‌های اینترنتی را ارائه کردند که حل نشدند، اعداد DOI که نادرست بودند، یا نقل‌قول‌هایی که منبع نداشتند. آنها حشرات بودند، به راحتی قابل تشخیص و له کردن بودند.

اما اینجا چیزی است که من روی آن حساب نکردم. این کتابی درباره حقیقت بود، و استانداردهای قدیمی تصحیح و بررسی حقایق با توانایی سریع هوش مصنوعی در جایگزینی حقایق با داستان‌های باورپذیر سازگار نبود. آیا "توهمات" فقط نتیجه تکامل اولیه هوش مصنوعی است که به مرور زمان ناپدید می شود؟ یا آیا آنها بخشی از مدل کسب و کار هستند که توسط شرکت هایی که پاسخ های جذاب را به جای حقیقت انتخاب می کنند شامل می شوند؟

من از ChatGPT خواستم موضع OpenAI در مورد حقیقت را روشن کند.

شرکت‌های هوش مصنوعی در حال ساخت ماشین‌هایی هستند که هدفشان جستجوی حقیقت است و در عین حال اذعان می‌کنند که همان ماشین‌ها همچنان دروغ‌های قابل قبولی تولید می‌کنند. - ChatGPT، OpenAI

بنابراین، در ویرایش The Future of Truth، 15 ماه ویرایش انسانی به شدت به هوش مصنوعی جذاب و فزاینده برخورد کرد. احساس می‌کرد بهتر می‌داند، و برخی نقل‌قول‌ها را که احساس می‌کرد می‌تواند بهبود ببخشد، «اصلاح» کرد.

بن نقل قول منتسب به کارا سویشر را پرچم گذاری کرد. او هرگز آن را نگفت. در نسخه جدید، من به درستی از او نقل قول کرده ام و برای تأیید آن با او پیامک ارسال کرده ام.

اینگونه بود که خطاها زنده ماندند. خطاهایی که خود اعلام کردند، دستگیر شدند. برخی از خطاهایی که به طور کامل خوانده می شدند، باقی ماندند. من باید آنها را می گرفتم. این مسئولیت من بود و من صاحب آن هستم.

سپس بن مولین کاری را انجام داد که خوانندگان دیگر نداشتند: او برخی از نقل قول های کتاب را بررسی کرد. آنچه در پی آمد طوفانی کاملا شایسته بود. اما به طور عجیبی، سؤالات به OpenAI یا Anthropic اشاره نمی کردند. آنها کاملا به سمت من نشانه رفته بودند و آنها شرور و بدجنس بودند. که هنوز دردناک است.

بنابراین، من سعی کردم به مبارزه برسم. اطفاء حریق با بنزین ایده بدی بود. سپس برخی از دوستان و همکاران پیشنهاد کردند که فقط به زمین بروم و یک سال مرخصی بگیرم. اما این باعث می شد کتابی با اشتباهات در بازار باقی بماند که نام من روی آن باشد. کتابی درباره حقیقت که اشتباهاتی در آن وجود داشت. که نمی توانست تحمل کند.

ناشر من، BenBella Books، از آنجا دور نشد. دو حقیقت سنج انسان خط به خط دست نوشته را مرور کردند. آنها 26 نقل قول را کشف کردند که تحت بررسی قرار نگرفتند. هر کدام در یک منبع اولیه ردیابی شدند و تصحیح شدند، به صورت نقل قول بازنویسی شدند یا حذف شدند. استنادها و ادعاها دوباره بررسی شدند. نسخه اصلاح شده با یادداشت نویسنده باز می شود که دقیقا آنچه اتفاق افتاده را نشان می دهد. من هر تاپیک و پیشگفتار را حذف کردم.

The Future of Truth: Truth 2.0 Revised در 6 اکتبر منتشر می شود.

به نظر من کتاب بهتری است. و اکنون اهمیت بیشتری دارد، زیرا اتفاقی که برای کتاب من افتاد در همه جا رخ می دهد.

در ژوئیه، دموکراسی اکنون! نقل قول نائومی کلاین تولید شده توسط هوش مصنوعی را پخش کرد که از چیزهایی که او واقعا گفته بود جمع آوری شده بود. او به امی گودمن گفت: «وقتی برای اولین بار آن را دیدم، فکر کردم که آن را گفته ام. هنگامی که او منشا آن را جستجو کرد، هوش مصنوعی گوگل او را به سایر سیستم های هوش مصنوعی راهنمایی کرد. ساختگی به استناد خودش تبدیل شده بود.

پایگاه داده دیمین شارلوتین در حال حاضر 2022 تصمیم دادگاه شامل مطالب توهم‌آمیز هوش مصنوعی را مستند می‌کند که بیش از 1300 مورد در ایالات متحده است. ممیزی Lancet از حدود 2.5 میلیون مقاله زیست پزشکی، 4046 استناد ساختگی پیدا کرد. وزارت امور خارجه نقشه‌ای از آفریقا را که توسط هوش مصنوعی ساخته شده بود، در مقابل وزرای بهداشت آفریقا، با برچسب اشتباه به هر کشوری، ارائه کرد.

هیچ یک از این افراد سعی در فریب کسی نداشتند. نکته همین است. ساختگی ها دست و پا چلفتی نمی شوند. آنها در حال بهتر شدن هستند. روان تر، خاص تر، باورپذیرتر، و در نقل قول هایی پیچیده تر که واقعی به نظر می رسند.

این فقط یک نقص فنی نیست. همچنین نتیجه مدل کسب و کار است.

شرکت های هوش مصنوعی برای سرعت، پذیرش، اعتماد به نفس و تعامل پاداش دریافت می کنند. سیستمی که می گوید «نمی دانم» کمتر مفید است. سیستمی که هر ادعایی را تأیید می کند کندتر و پرهزینه تر است. صنعت سطحی از خطای قابل پیش‌بینی را پذیرفته است زیرا پاسخ‌های جذاب و مطمئن، حتی زمانی که گاهی اشتباه هستند، جذاب‌تر هستند. هزینه ها بر دوش همه افراد است: نویسندگان، وکلا، پزشکان، بیماران، خوانندگان.

رهبران شرکت های بزرگ هوش مصنوعی می گویند که قوانینی می خواهند. اما پرزیدنت ترامپ، در یک گردهمایی نمایشی در واشنگتن، این قانون را رد کرد. شاید بعد از میان ترم ها شروع به تغییر کند. در همین حال، هنوز هیچ سیستم پاسخگویی معناداری در مورد توانایی هوش مصنوعی در ترکیب واقعیت و ساختگی یا آسیب هایی که افراد بر نتیجه تکیه می کنند وجود ندارد.

این استدلال آینده حقیقت است. در دنیایی مملو از متن، صداها و ویدئوهای مصنوعی، چه اتفاقی می‌افتد وقتی مردم نتوانند واقعی را از تقلبی تشخیص دهند؟ آیا دستمان را بالا می اندازیم و می گوییم هیچ چیز درست نیست؟ بدترین بازیگران دقیقا روی همین حساب می کنند. آن‌ها منطقه را تا زمانی که تأیید خسته‌کننده به نظر برسد، پر می‌کنند، و سپس به‌طور پیش‌فرض برنده خواهند شد.

من کتاب را نوشتم تا استدلال کنم که می توانیم بهتر عمل کنیم. سپس مشکلی را که توضیح می دهد زندگی کردم.

نسخه اصلاح شده شامل یک فصل جدید، "توهمات و پیامدها" است، در مورد آنچه ساختگی در حال حاضر برای حقوق، پزشکی و تحقیقات انجام می دهد. این کتاب قوی‌تر است، زیرا شکسته شد و در انظار عمومی بازسازی شد.

مردم به من می گویند که هوش مصنوعی را کنار بگذارم تا دوباره به دنیای نویسندگی مشروع پذیرفته شوم. پاسخ من یک نه قطعی است. هیچ دنیای قبل از هوش مصنوعی برای بازگشت وجود ندارد. از ابزار استفاده کنید. قضاوت انسان را در جریان نگه دارید. فاش کردن تأیید کنید. اشتباهات را به صورت عمومی تصحیح کنید. اجازه ندهید «درست به نظر می‌رسید» به معیار حقیقت تبدیل شود.

دو هفته پیش با کتاب جدید در کوله پشتی ام در سازمان ملل روی صحنه بودم. پس از آن، مردی که در زمینه بازاریابی کار می کند به دنبال من بود.

او به من گفت: "من هر روز از هوش مصنوعی استفاده می کنم و هر روز به من دروغ می گوید."

نفس عمیقی کشید. من هم همینطور. گفتگو از آنجا شروع می شود.

من می دانم که باید اعتماد شما را به دست بیاورم. امیدوارم The Future of Truth: Truth 2.0 Revised اولین قدم به عقب باشد.

نظرات بیان شده در نظرات Fortune.com صرفا نظرات نویسندگان آنها است و لزوما منعکس کننده نظرات و اعتقادات Fortune نیست.

این داستان در ابتدا در سایت Fortune.com منتشر شد