هوش مصنوعی اعتماد بین نویسندگان و خوانندگان را از بین می برد

یک غروب پاییز گذشته، یک زوج میانسال، با سرهای خمیده در گفتگو، به میزی که در آن نشسته بودم و کتاب‌ها را امضا می‌کردم، نزدیک شدند. زن اصرار کرد: برو. شوهرش به آرامی صحبت کرد و توضیح داد که او به بیماری پارکینسون مبتلا شده است. اگرچه او رمان «وزن جوهر» من را نخوانده بود، اما فهمیده بود که این رمان شخصیتی مبتلا به پارکینسون را نشان می‌دهد که ترجیح می‌دهد به جای تحمل زوال او، با خودکشی کمکی بمیرد. او ایراداتی داشت.

من وحشت کردم - نه به این دلیل که چیزی نوشته بودم که او را آزرده خاطر کرد، بلکه به این دلیل که ننوشته بودم. هلن وات، شخصیت مبتلا به پارکینسون در وزن جوهر، در واقع به زندگی خود پایان نمی دهد. من به طور قطع نمی دانستم سوء تفاهم او از کجا سرچشمه گرفته است، اما حدس می زدم. فقط چند هفته قبل از ChatGPT چند سوال در مورد رمانم پرسیده بودم. با این بازخوانی نادرست خط داستانی هلن به سؤالات خاصی پاسخ داد. از آن زمان، من نگران این بودم که ارائه نادرست به نحوی تأثیری بر زندگی واقعی داشته باشد. حالا، به نظر می رسید، داشت.

هر نویسنده‌ای که کار می‌کند می‌تواند انتظار داشته باشد که به خاطر انتخاب‌هایش مورد توجه قرار گیرد. نقد بخشی از زمین است. به‌عنوان یک رمان‌نویس، به خاطر جزئیاتی از جمله تصمیم‌های رابطه‌ای که شخصیت‌ها برای خود شکست می‌دهند و تاریخ نادرست برای یک ماه کامل در قرن هفدهم مورد سرزنش قرار گرفته‌ام. اما آن شب در اواخر سال 2025، اولین باری بود که برای چیزی که واقعا ننوشته بودم، احضار شدم. و حتی زمانی که به زوج قبل از خودم توضیح دادم که آنچه آنها در اینترنت دیده‌اند نادرست است، از خود پرسیدم: چند نفر دیگر به همین ترتیب گمراه شده‌اند؟

تکثیر هوش مصنوعی نگرانی‌های جدیدی را در مورد دوام طولانی‌مدت حرفه‌ی ضعیف نویسندگان ایجاد کرده است، زیرا این فناوری به نویسندگی برنده جایزه نفوذ می‌کند، کتاب‌ها را برای یادگیری مطالب می‌تراشد و شاید دامنه توجه خوانندگان را از بین می‌برد. اما در کنار این تحول، نوع دیگری از تخریب در راه است. مداخله مبتنی بر هوش مصنوعی، ارتباط خواننده و نویسنده را به سالنی از آینه‌های سرگرم‌کننده تبدیل می‌کند و تهدیدی برای شکستن اعتمادی است که برای این پیوند ضروری است.

در طرح مونتی پایتون «کتاب‌فروشی»، یک مشتری فهرستی پوچ‌تر از آثار چارلز دیکنز را درخواست می‌کند. آیا فروشگاه یک کپی از Knickerless Knickleby دارد؟ یا شاید عناوین یک چارلز دیکنز ("این دیکنز با دو K")؟ اصرار مشتری بر مشروعیت این کتاب‌ها به تدریج شخصیت کتابفروشی جان کلیز را وارد دیوانگی می‌کند. آنچه دهه‌ها پیش به طرز لذت‌بخشی مضحک بود، اکنون به طرز ناراحت کننده‌ای آشناست. با طوفانی از جعلیات ادبی که دنیای کتاب ها را فراگرفته است، تشخیص اینکه چه چیزی واقعی است نیازمند هوشیاری خوانندگان است.

[ بخوانید: بدترین چیز در مورد نوشتن هوش مصنوعی ]

در سال 2017، زمانی که وزن جوهر را منتشر کردم، کتاب دیگری با این عنوان به زبان انگلیسی وجود نداشت. این موضوع تا پاییز 2025 ادامه داشت. از آن زمان تاکنون، حداقل پنج رمان دیگر با عناوین مشابه من در آمازون در دسترس قرار گرفته‌اند که سه تای آنها در عرض سه هفته منتشر شده‌اند. چندین کتاب دیگر با عناوین تقریبا یکسان نیز برای فروش فهرست شده است.

نمی‌دانم در خلق این کتاب‌هایی که محتوایشان شباهت چندانی به رمان من ندارد یا نه، از هوش مصنوعی استفاده شده است یا نه. من فقط یکی را پیدا کردم که حاوی یک سلب مسئولیت قبلی است که مؤلف بودن هوش مصنوعی را تأیید می کند. اما همانطور که ویل اورموس در مقاله اخیر آتلانتیک اشاره کرد، انتشار کتاب های جدید در آمازون پس از سال 2022 به شدت افزایش یافت، تقریبا زمانی که مدل های هوش مصنوعی به طور گسترده در دسترس عموم قرار گرفتند. اورموس نوشت: «احتمالا به این دلیل نیست که انسان‌ها به طور ناگهانی خود را وقف کلام نوشتاری کردند.

به طور مشابه، سخت است باور کنیم که این انبوهی از Weight of Ink نتیجه یک موج ناگهانی و فوق خاص خلاقیت کاملا انسانی است.

از برخی جهات، من احساس خوشبختی می کردم که فقط عنوانم را کپی کردم. در اواخر سال 2024، دوست من، رمان‌نویس دافنه کالوتای، متوجه شد که صفحه نویسنده‌اش در آمازون رمانی کاملا جدید را نشان می‌دهد که او ننوشته است. این کتاب که کالوتای آن را «توهم هوش مصنوعی بر اساس توصیف زمستان روسیه» توصیف کرد، رمان او در سال 2010، با عنوان و جلد کتابی کاملا نامرتبط از دهه‌های قبل همراه شده بود و به نام او فروخته می‌شد.

کالوتای به من گفت: «چیزی که بیش از همه ناراحت‌کننده بود، این بود که اثبات کردن زباله بودن آن چقدر دشوار بود.» در پایان، انجمن نویسندگان، یک سازمان حمایتی که Kalotay عضو آن است - و برنامه صدور گواهینامه ای را راه اندازی کرده است که برای متمایز کردن کتاب های تالیف شده توسط انسان از کتاب های تولید شده توسط هوش مصنوعی طراحی شده است - موفق شد آمازون را وادار کند که کتاب را از صفحه نویسنده خود حذف کند.

این نوع کلاهبرداری اکنون در همه جا در حال انتشار است. تولید متون با طول کتاب با استفاده از هوش مصنوعی تقریبا هیچ هزینه ای ندارد و آمازون به افراد اجازه می دهد حداکثر شش کتاب در هفته آپلود کنند و این امکان را به شما می دهد که بی پایان بچرخند. هرکسی که متون تولید شده با هوش مصنوعی را می فروشد، فقط باید تعداد کمی از مشتریان را در هر کتاب - چه با استفاده از عنوان اثر موجود یا نام نویسنده - برای کسب سود گمراه کند. مری راسنبرگر، مدیر عامل انجمن نویسندگان، به من گفت: «آمازون زمان و تلاش زیادی را صرف تلاش برای جلوگیری از انتشار این کتاب‌ها می‌کند، اما این همیشه یک بازی جمع‌آوری است.»

جعلی هر دو راه را کاهش می دهد: نویسندگان همچنین توسط تلاش های فیشینگ ایجاد شده توسط هوش مصنوعی در پوشش ایمیل های خوانندگان قدردان بمباران می شوند. چنین ایمیل‌هایی به قدری فراگیر هستند که مانند بسیاری از همتایانم، من گاهی اوقات حتی در باز کردن نامه‌های خواننده خود تردید دارم. هر یک از این یادداشت‌ها شخصا شروع می‌شوند و فقط به ارائه خدمات بازاریابی پولی تبدیل می‌شوند.

یک مثال اخیر شروع می‌شود: «راشل عزیز، ارسال آن ترسناک است، اما امروز به قلبم اعتماد دارم.» شرح بعدی تأثیر ظاهری کار من ("کلمات شما مرا در زمانی پیدا کرد که بی سر و صدا داشتم از هم می پاشیدم") با طرحی برای یک طرح بازاریابی برای تبلیغ رمان من، من اینجا بودم. البته این طرح های تبلیغاتی بیشتر جعلی هستند. انجمن نویسندگان فهرستی از این گونه کلاهبرداری ها را دارد که در آن نویسندگانی که ثبت نام می کنند، می بینند که پول خود ناپدید می شود.

[ بخوانید: Deepfakes برای حساب بانکی شما در راه است]

اگرچه ایمیل های تقلبی در صندوق ورودی نویسندگان معمولا از طرف خوانندگان است، برخی از آنها با نام نویسندگان منتشر شده ارسال می شوند. (بعضی‌ها نیز به طرز وقیحانه‌ای پس از مرگشان انجام می‌دهند؛ یکی از دوستانم درباره خاطراتش از «شارلوت برونته» تعریف و تمجیدهایی دریافت کرد.) اوایل این ماه، نویسنده‌ای که نمی‌شناسم ایمیلی را که از شخصی که ادعا می‌کرد من هستم برایم ارسال کرد. در آن ایمیل، «راشل کادیش» با «نویسنده به نویسنده» تماس گرفت تا به کارش ابراز علاقه کند. در زیر امضای ادعایی من در ایمیل، پیوندهایی به وب سایت واقعی من، و همچنین به صفحات آمازون و گودریدز من وجود داشت.

من با "راشل کادیش" تماس گرفتم تا از آنها بخواهم هدف خود را از استفاده از هویت من توضیح دهند. پاسخی که دریافت کردم - قطعه ای دلگرم کننده و نامنسجم از متن کاملا تولید شده توسط هوش مصنوعی - جعل هویت را تصدیق کرد و سپس توضیح داد که این حیله به نفع من بوده است. ("قصد من این بود که با نویسندگان دیگر ارتباط برقرار کنم و آنها را با کار شما معرفی کنم، زیرا معتقدم نویسندگانی که یکدیگر را کشف می کنند و از آنها حمایت می کنند می توانند ارزشمند باشند.") بهترین قسمت این امضا بود: "در ادامه، من با نام خودم ارتباط برقرار خواهم کرد و از هویت شما برای تماس با نویسندگان دیگر استفاده نخواهم کرد.

با احترام، راشل.»

این یک نوع جدید و تاریک از تقلب است، متفاوت از فریب ادبی دوره های قبل، که در آن رسوایی ها حداقل چیزی برای آموزش به ما داشتند. آموزش درخت کوچک را در نظر بگیرید: این کتاب که در سال 1976 به عنوان داستان زندگی‌نامه واقعی یک پسر چروکی منتشر شد، در سال 1991 فاش شد که اثر یکی از اعضای سابق KKK است. یا بخش‌هایی از بنجامین ویلکومیرسکی: خاطرات کودکی دوران جنگ، که قرار گرفتن در معرض آن به عنوان جعلی باعث ایجاد اصطلاح سندرم ویلکومیرسکی برای پدیده غیر یهودیانی شد که خود را به عنوان بازماندگان هولوکاست نشان می‌دهند.

این رسوایی‌ها نه تنها دروغ‌های نویسندگان را آشکار کرد، بلکه میزان تمایل خوانندگان به داستان‌های خاص می‌تواند ما را کور کند. حماقت و ضعف انسانی برای درس گرفتن وجود داشت. چند رسوایی اخیر، شامل نوشته‌های برنده جوایز که گمان می‌رفت توسط هوش مصنوعی تولید شده است، ما را مجبور می‌کند به ورطه کلیشه‌ها و انتظارات خود خیره شویم. اما نمی‌توانیم از یک ربات بازاریابی که رمان‌های مشتق شده را بیرون می‌ریزد یا نویسنده‌ای را با نام نویسنده‌ای با تمجید و تمجید از او به باد می‌کشد، معنایی به دست نمی‌آوریم.

وقتی خوانندگان و نویسندگان دیگر نمی توانند به طور قابل اعتماد با هم ارتباط برقرار کنند، دنیای ادبی بخشی از غنا و پتانسیل خود را از دست می دهد. چارلز دیکنز (یعنی D - I - C - K - E - N - S) در پاسخ به سرزنش یک خواننده، استفاده خود از اشعار ضدیهودی را مجددا مورد بررسی قرار داد که منجر به تغییر قابل توجهی در تصویر او از یهودیان شد. اگرچه آقای ریاح مهربان از دوست مشترک ما، مسلما به اندازه فاجین شرور الیور توئیست دو بعدی است، اما تصویر او غیرقابل انکار نشان دهنده پیشرفت است.

انتخاب آرتور کانن دویل برای کشتن شرلوک هولمز در داستان 1893 «مشکل نهایی» چنان اندوه و خشم خوانندگانش را برانگیخت که حتی سال‌ها بعد، ناشران به کانن دویل پول جدی برای احیای کارآگاه بزرگ پیشنهاد کردند - طعمه‌ای که کانن دویل در نهایت تصمیم گرفت در سال 1903 سه داستان دیگر و مجموعه‌ای از هول‌ها به دست آورد.

[ بخوانید: چگونه شرلوک هلمز قانون کپی رایت را زیر پا گذاشت]

البته بیشتر تعاملات خواننده و نویسنده تاریخ ادبی نمی سازد. با این حال، حتی مبادلات گذرا نیز می تواند تأثیر قدرتمندی داشته باشد. هر نویسنده‌ای می‌تواند لحظه‌ای را به خاطر بیاورد که سؤال مهم خواننده او را مجبور به تجدیدنظر در انتخاب کرد - یا آنقدر عصبانی‌شان کرد که در فرصت ادبی بعدی با خوشحالی دو چندان شدند. هر خواننده ای به نوبه خود می تواند کتابی را نام برد که او را خشمگین کرده یا درک او از جهان را به چالش کشیده یا حتی بازنویسی کرده است.

تونی موریسون در سخنرانی جایزه نوبل خود در سال 1993 گفت: «روایت رادیکال است و ما را در همان لحظه ای که خلق می شود خلق می کند». این وحشتناک ترین چیزی است که در مورد نفوذ هوش مصنوعی به داستان سرایی وجود دارد: ما را از فرصت های رشد و همدلی در دنیایی که به شدت به آن نیاز داریم جدا می کند.

آن مرد و زنی که در آن شب سال گذشته به من مراجعه کردند تا با من در مورد خودکشی ادعایی شخصیتم روبرو شوند، از عمق تجربه شخصی خود صحبت می کردند. آنها سزاوار این شانس بودند که بفهمند آیا من شخصیت‌هایم را با تفکری نوشته‌ام که شایسته اعتماد آنها باشد یا خیر. و من سزاوار این فرصت بودم که یک مکالمه انسانی، حتی دردناک، درباره داستانی که واقعا نوشته بودم داشته باشم - نه حاصل تخیل یک ماشین.