کتاب جدید نویسنده مورد علاقه شما ممکن است تقلبی باشد

اوایل تابستان امسال، تامرا وستبری یک اعلان فیس بوک دریافت کرد که باعث شد قلبش غرق شود. یکی از نویسنده‌های همکار پس از خواندن این کتاب در جمع‌بندی هفتگی آخرین نسخه‌های ماوراء الطبیعه-عاشقانه، به رسانه‌های اجتماعی رفت تا آخرین کتاب وستبری، پروژه Erebus را تأیید کند. نویسندگان مستقلی مانند وستبری که در تگزاس مستقر است و ده ها کتاب با نام مستعار تارا وست منتشر کرده است، معمولا از یک کلمه تشویق کننده و کمی تبلیغ متقابل استقبال می کنند. اما وستبری ناامید شد. او هرگز در مورد کتابی به نام پروژه Erebus نشنیده بود. و او مطمئنا نویسنده آن نبود.

او پروفایل نویسنده‌اش را در آمازون جستجو کرد و آن‌جا بود: Project Erebus، کتابی که نام شخصیت‌هایی را که قبلا استفاده می‌کرد را نشان می‌داد، با جلدی که بازتاب کارهای اخیر او بود. ترجمه ها به زبان های آلمانی، فرانسوی، ایتالیایی و اسپانیایی در دسترس بود. این کتاب برای او یک رمز و راز کامل بود، اما پس از خواندن صفحات نمونه آن، گمان کرد که توسط شخصی ساخته شده است که از ابزارهای هوش مصنوعی استفاده کرده است. (من جلد و طرح تبلیغاتی کتاب را از طریق Pangram اجرا کردم، که نشان می داد آنها کاملا با هوش مصنوعی تولید شده اند.)

وستبری به آمازون ایمیل زد و از این شرکت درخواست کرد که کتاب‌های غیروابسته را از پروفایل او حذف کند. آمازون ظرف یک هفته یا بیشتر کتاب‌ها را از روی پلتفرم حذف کرد، اما نه قبل از اینکه برخی از طرفدارانش آن‌ها را بخرند، بخوانند و نظرات خود را بگذارند. یکی از خوانندگان ناامید در نقد دو ستاره پروژه Erebus در گودریدز، یک شبکه اجتماعی ادبی متعلق به آمازون که این کتاب را نیز به وست نسبت داده بود، نوشت: "هیچ جزئیات واقعی وجود ندارد، شخصیت ها هنوز توسعه نیافته اند. تقریبا احساس می کردم دارم مقاله ای را می خوانم که توسط یک کودک مدرسه ای نوشته شده است."

[بخوانید: این 183000 کتاب به بزرگترین مبارزه در انتشارات و فناوری دامن می زنند]

در سراسر دسته‌ها - کتاب‌های فانتزی، ترسناک، حتی رنگ‌آمیزی - نویسندگان می‌گویند که فهرست‌های تولید شده توسط هوش مصنوعی را در صفحات نویسنده آمازون خود مشاهده می‌کنند. برخی از این آثار در ژانرهای کاملا متفاوت با کارهای معمول خود هستند - مانند سریال‌های کودکانه که به اشتباه به نویسنده‌ای از داستان‌های عاشقانه انتساب داده می‌شوند - در حالی که برخی دیگر مضمون یا طرح‌های کت کتاب‌های موجود را منعکس می‌کنند. یکی از نویسنده‌ها گزارش داد که شخصی در نسخه‌ای جعلی زیر فهرست کتاب واقعی‌شان پنهان شده است.

از آنجایی که آمازون اغلب ایمیل‌هایی را ارسال می‌کند که به دنبال‌کنندگان صفحه نویسنده درباره فهرست‌های جدید اطلاع می‌دهد، این عناوین می‌توانند پایگاه طرفداران نویسنده‌ها را زالو کنند، درآمدهای غیرقانونی به دست آورند و خوانندگان را گیج کنند.

همانطور که آتلانتیک قبلا گزارش کرده بود، شرکت‌های هوش مصنوعی میلیون‌ها کتاب را برای آموزش محبوب‌ترین مدل‌های امروزی به سرقت بردند. این مدل‌ها اکنون برای تهیه کتاب در عرض چند دقیقه و قرار دادن آنها در کنار کتاب‌هایی استفاده می‌شوند که نشان دهنده سال‌ها کار سخت هستند. در برخی موارد، مردم فراتر از تولید انبوه محتوای درجه دو یا انتشار نسخه‌های کپی از نسخه‌های جدید، با استفاده از نام نویسندگان معتبر در آثار انگلی که از برندهای قبلی تغذیه می‌کنند، می‌روند. نویسندگان احساس می‌کنند که در رابطه با آنچه که مدل‌های هوش مصنوعی می‌خورند یا به بیرون تف می‌دهند، توسل کمی دارند.

وستبری که بیش از 50 کتاب نوشته است که در مجموعه داده‌هایی مانند OpenAI، Meta و Anthropic نوشته شده است، به من گفت: «بعد از اینکه سال‌ها صرف ساختن داستان‌ها و ساختن نام تجاری‌ام کردم، این که برخی از افراد بدون استعداد می‌توانند از طرفداران من با شیب هوش مصنوعی تغذیه کنند، بسیار ناراحت‌کننده است.

مشکل ایجاد کننده انگل فراگیر است. استادان مقالات آکادمیک تولید شده توسط هوش مصنوعی را یافته اند که به نام آنها منتشر شده است. گزارش‌های اخیر حاکی از آن است که قرار دادن آهنگ‌های تولید شده توسط هوش مصنوعی در پروفایل‌های جریان هنرمندان یک حرکت نسبتا ساده است. این مشکل همچنین برای آمازون، بزرگترین خرده‌فروش آنلاین کتاب در جهان، که سالانه صدها میلیون کتاب را تنها در ایالات متحده به فروش می‌رساند، تبدیل شده است. گروه‌های پلتفرم به لطف یک سیستم تا حد زیادی خودکار، با همان خط فرعی تحت یک نمایه یکپارچه کار می‌کنند.

نویسندگان می گویند که آمازون نتوانسته است تلاشی هماهنگ برای مقابله با این پدیده انجام دهد، و مسئولیت نظارت بر صفحات خود در یک بازی دیوانه کننده whack-a-mole بر عهده آنها است.

یکی از سخنگویان آمازون به من گفت که این شرکت اقداماتی را برای جلوگیری، شناسایی و حذف محتوایی که دستورالعمل‌های آن را نقض می‌کند انجام می‌دهد، اما جزئیات بیشتری در مورد نحوه عملکرد این سیستم‌ها ارائه نکرد. سخنگو گفت: «ما متعهد به کتابفروشی هستیم که خوانندگان آن را دوست دارند و ناشران و نویسندگان به آن اعتماد دارند و مستقیما با نویسندگان برای رسیدگی به هر گونه مشکل یا خطایی که بر حساب های آنها تأثیر می گذارد کار می کند.

تا حدودی، مشکل نویسنده انگل آمازون پیش از ظهور گسترده هوش مصنوعی است. یک دهه پیش، استفن کینگ علنا از سایت خواست تا ارتباط آثار خود را با آثار استفان آر کینگ، نویسنده ترسناک دیگری که نامش طرفداران را گیج می‌کرد، متوقف کند. با این حال، به دلیل زمان و تلاشی که برای انتشار عنوان لازم بود، چنین مواردی بسیار کم بود. اکنون که هر کسی می تواند از LLM برای تولید یک رمان استفاده کند، این موضوع هم رشد کرده و هم جهش یافته است.

در حالی که تعداد زیاد کتاب‌های جدید منتشر شده در این پلتفرم ممکن است به ناچار منجر به ایجاد نویسندگان بیشتری با همین نام شود، اورنا راس، بنیانگذار اتحاد نویسندگان مستقل، خاطرنشان کرد که بسیاری از عناوین به طور هدفمند طراحی شده اند تا با فهرست نویسنده واقعی ترکیب شوند. او به من گفت: «فقط باید الگوریتم و خریدار عجله‌ای را برای مدت طولانی فریب داد تا در فروش کوتاهی کند.

نویسندگان به من گفتند که آمازون معمولا پس از پرچم‌گذاری کتاب‌ها را از صفحات نویسنده جدا می‌کند. اما حذف کامل آنها از پلتفرم می تواند دشوارتر باشد، به خصوص اگر نویسنده ای نام خود را علامت تجاری نداشته باشد. راس گفت، آمازون می‌تواند چنین حوادثی را به‌عنوان «تصادفی نام» تلقی کند و کتاب‌ها را حتی پس از جدا کردن آن‌ها از پروفایل‌ها کنار بگذارد.

نویسندگانی که برای دریافت اقدام مستقیم از آمازون تلاش می‌کنند، از طریق انجمن نویسندگان، بزرگترین سازمان حرفه‌ای نویسندگان در آمریکا، که گزارش‌های اخیرش نسبت به کتاب‌های هوش مصنوعی که به دروغ به نویسندگان نسبت داده می‌شوند، هشدار داده‌اند، پرونده‌ها را تشدید کرده‌اند.

برای بسیاری از نویسندگان ژانر داستانی، که بر بازدهی بالا و موضوعات آشنا تکیه دارند، ماندن در آب به معنای انجام یک بازی حجمی، انتشار کتاب های متعدد در سال برای امرار معاش است. این موضوع باعث می‌شود ژانرهای خاصی به طور خاص در برابر فریبکاری‌های هوش مصنوعی حساس باشند، که می‌توانند با هزاران عنوان واقعی که سالانه منتشر می‌شوند ترکیب شوند. از آنجایی که تولید نسخه های هوش مصنوعی بسیار ارزان است، حتی فروش اندکی نیز می تواند سودآور باشد.

جولی ترلستاد، مشاور انتشاراتی، به من گفت: «افرادی که از فروش نسخه‌های هوش مصنوعی کسب درآمد می‌کنند، عموما این کار را با فروش یک یا دو یا سه نسخه از هزار کتاب متفاوتی که منتشر می‌کنند، انجام می‌دهند.

هویت افرادی که پشت این کتاب ها هستند برای نویسندگان واقعی یک رمز و راز است و ردیابی آن اغلب دشوار است. صرف نظر از این، نویسندگان به این گونه کتاب‌ها به‌عنوان یک تهدید عمده برای فروش نگاه نمی‌کنند، زیرا این کتاب‌ها نسبت به آثار اصیل برای خریداران جذابیت کمتری دارند، با جلدهای نامفهوم و تعداد صفحات ضعیف. چیزی که نویسندگان واقعا نگران آن هستند، احتمال آسیب طولانی مدت به اعتبار در میان خوانندگان است، که معمولا اعتماد دارند که کتابی که در صفحه نویسنده آمازون فهرست شده است، در واقع توسط نویسنده مذکور نوشته شده است.

سال گذشته، ونسا اولافلین، نویسنده ایرلندی که کتاب‌های جنایی را با نام سام بلیک می‌نویسد، از سه‌گانه‌ای از کتاب‌های «عاشقانه تاریک» در پروفایل خود مطلع شد که گمان می‌کرد با هوش مصنوعی ساخته شده‌اند. او آنها را ننوشت، و صفحاتی را که خواند احساس ناراحتی کرد. این کتاب ها حول شخصیتی به نام الرا ونس می چرخیدند که ترکیبی از نام و نام خانوادگی محبوب مدل های هوش مصنوعی است. O'Loughlin موفق شد داستان ها را در عرض چند روز از نمایه خود حذف کند، اگرچه آنها تا چند هفته بعد با سم بلیک به عنوان نویسنده در لیست آنلاین باقی ماندند و چند نسخه فروختند. "خفه کن!

من فریب این موضوع را خوردم.» یکی از طرفداران پس از هشدار O'Loughlin به دنبال کنندگان در مورد کتاب ها در رسانه های اجتماعی نوشت. O'Loughlin می ترسد که خوانندگان جدیدی که به طور تصادفی با این سه گانه مواجه شده اند، دیگر هرگز کتاب سم بلیک را انتخاب نکنند.

در برخی موارد، عناوین انگل حتی می توانند به عناوین واقعی متصل شوند. جولای گذشته، Noelle W. Ihli The Last to Drown را منتشر کرد، یک فیلم هیجان انگیز موفق که برای نسخه رقعی در آمازون با قیمت 16 دلار فهرست شده است. اما در اوایل این ماه، صفحه آمازون این کتاب همچنین به بینندگان این امکان را داد که نسخه شومیز دیگری را با همان عنوان و جلد تقریبا غیرقابل تشخیص خریداری کنند. طبق گفته پانگرام، این نسخه شامل خلاصه‌ای کمی متفاوت بود که 100 درصد با هوش مصنوعی تولید شده است و به نظر می‌رسد صفحات داخلی آن نیز با هوش مصنوعی نوشته شده‌اند. همچنین به قیمت 5 دلار بیشتر فروخته شد.

اهلی این عنوان را پس از هشدار توسط خوانندگان گیج که یک نسخه مشکوک از طریق نامه دریافت کرده بودند، کشف کرد و اوایل این هفته، مدت کوتاهی پس از ارائه یک ادعای نقض مالکیت معنوی در آمازون، حذف شد. ایهلی به من گفت: «مگر اینکه هر روز با وسواس بررسی کنم، واقعا آسان است که چنین چیزی از بین برود.

آمازون در پاسخ به هجوم فهرست‌های تولید شده توسط هوش مصنوعی، برخی از حفاظت‌ها را معرفی کرده است. این شرکت تعداد کتاب‌هایی را که نویسنده می‌تواند به‌صورت خود منتشر کند، به ۱۰ کتاب در هفته در هر قالب کتاب محدود می‌کند، و گاهی اوقات برای حساب‌ها درخواست تأیید هویت می‌کند. با این حال، نویسندگان همچنان با تغییرات مشابهی روبرو می شوند.

نویسنده‌ای عاشقانه که با نام اولیویا سینکلر می‌نویسد (و خواست نام قانونی خود را به دلایل شغلی و خانوادگی خصوصی نگه دارد) قبلا از آمازون خواسته بود تعدادی از کتاب‌های مشکوک هوش مصنوعی را از نمایه‌اش حذف کند و فکر می‌کرد که مشکل حل شده است تا اینکه شش کتاب کودک درباره ماجراهای لاک‌پشت‌ها و روباه‌های کارتونی در ماه جولای و آگوست در صفحه‌اش فهرست شدند. این کتاب‌ها، که همگی حاوی خلاصه‌هایی بودند که به‌عنوان 100 درصد هوش مصنوعی نوشته شده توسط پانگرام علامت‌گذاری شده بودند، در اوایل این ماه، مدت کوتاهی پس از اطلاع آمازون از لیست‌ها، از نمایه او حذف شدند.

آنها همچنان آنلاین هستند و سینکلر به عنوان نویسنده فهرست شده است، با این حال، علاوه بر حداقل دو نسخه به ظاهر تکراری با نام نویسنده دیگری.

به نظر می رسد روند حذف این آثار در درجه اول شکایت محور است: به گفته راس، بنیانگذار اتحاد نویسندگان مستقل، وقتی آمازون اقدام می کند، به جای پیشگیرانه، واکنشی این کار را انجام می دهد. او گفت: «تأیید تألیف در هنگام آپلود بیشتر این یک شبه به پایان می رسد. آمازون در پاسخ به این سوال که چرا هویت پروفایل را در سراسر صفحه تأیید نمی کند، پاسخی ارائه نکرد. در همین حال، نویسندگان تا حد زیادی احساس ناتوانی می کنند. مخصوصا برای نویسندگانی که خود منتشر می کنند، فروش کتاب در آمازون جنبه کلیدی امرار معاش آنهاست.

آنا بلیکلی، نویسنده‌ای که در نمایه‌اش با کتاب‌های ظاهرا تولید شده توسط هوش مصنوعی نیز برخورد کرده است و از نام قلمی برای محافظت از حریم خصوصی خود استفاده می‌کند، به من گفت: «این خیلی جالب است-22». او پیش‌بینی می‌کند که تقریبا 90 درصد درآمد او از فروش روی پلتفرم است. "واقعا هیچ گزینه قابل قبول دیگری وجود ندارد."

سایر پلتفرم‌ها ادعا می‌کنند که رویکردی فعالانه برای مقابله با نسخه‌های خود از نویسندگان انگل اتخاذ می‌کنند. سال گذشته، Spotify اعلام کرد که قصد دارد آهنگ‌هایی را که به اشتباه در پروفایل هنرمندان ظاهر می‌شوند – تولید شده با هوش مصنوعی یا غیره – سرکوب کند. این شرکت گفت که علاوه بر معرفی یک خط‌مشی جدید جعل هویت و اخیرا از ویژگی‌ای برای هنرمندان برای بررسی موسیقی جدید در نمایه‌های خود، روی فرآیند پاسخ‌دهی خود برای عدم تطابق محتوا سرمایه‌گذاری بیشتری خواهد کرد.

اما حتی این تلاش‌ها نیز بی‌اثر به نظر می‌رسند: گزارش اخیر 404 Media نشان داد که چگونه آهنگ‌های تولید شده توسط هوش مصنوعی را می‌توان به راحتی در پروفایل‌های هنرمندان واقعی در سرویس‌های پخش از جمله Spotify و Amazon Music آپلود کرد.

توجه به این سیل زمان و تلاش ارزشمندی را می طلبد که نویسندگان می توانستند در غیر این صورت برای نوشتن کتاب های واقعی صرف کنند. همچنین به نویسندگانی که کتاب‌هایشان به اصلاح ابزارهای هوش مصنوعی برای پاره کردن آثارشان کمک می‌کند، توهین به آسیب می‌افزاید. بن اچ. وینترز، نویسنده دیگری که به نظر می رسد اثری ساخته شده از هوش مصنوعی است که با نام او در آمازون منتشر شده است، گفت: «این بی ارزش کردن کلمات، بی ارزش کردن ایده ها، بی ارزش کردن دستاوردها و هیجان ادبیات است.

مانند بقیه نویسندگانی که با آنها صحبت کردم، کار او در پایگاه داده قابل جستجو آتلانتیک از محتوای دارای حق چاپ که به مدل های هوش مصنوعی آموزش می داد، ظاهر شد. "آنها همه این چیزها را جذب کرده اند، و اکنون آنها را به سمت ما تف می کنند."