نویسندگان می توانند با ابزارهای "Paper Trail" در برابر اتهامات هوش مصنوعی دفاع کنند. آیا کافی است؟

او همچنین یک ادعای حقوقی برای شهرت دارد: بارتز شاکی اصلی در یک شکایت دسته جمعی علیه Anthropic بود که ادعا می کرد این شرکت میلیون ها کتاب دارای حق چاپ را از سایت های دزدان دریایی دانلود کرده است تا به عنوان داده های آموزشی برای مدل های خود استفاده کند. آنتروپیک سال گذشته موافقت کرد که 1.5 میلیارد دلار برای بزرگترین تسویه حق چاپ در تاریخ ایالات متحده بپردازد. اما در حالی که بارتز و بسیاری از نویسندگان دیگر مراقب این غارت آثار خود بودند، یک تهدید دیگر هوش مصنوعی در حال ظهور بود.

چه اتفاقی می‌افتد وقتی نویسندگان متهم به تکیه بر هوش مصنوعی خود شوند؟ در ماه مارس گذشته، صنعت نشر متوجه شد: به دنبال گمانه زنی های گسترده در رسانه های اجتماعی مبنی بر اینکه رمان ترسناکی با عنوان دختر خجالتی عمدتا توسط هوش مصنوعی تولید شده است، و مقاله ای در تایمز در مورد این ادعاها، گروه کتاب Hachette انتشارات بعدی این رمان را در ایالات متحده لغو کرد و آن را در بریتانیا، جایی که قبلا منتشر شده بود، لغو کرد.

طبق گفته پانگرام، یک ابزار تشخیص هوش مصنوعی قوی اما به هیچ وجه خطاناپذیر، حدود 78 درصد از متن توسط هوش مصنوعی تولید شده است. میا بالارد، نویسنده کتاب «دختر خجالتی»، ادعاهایی مبنی بر استفاده از هوش مصنوعی برای نوشتن رمان را رد کرده و مدعی شده است که یک ویراستار مسئول تغییرات به کمک هوش مصنوعی در نسخه‌ای که قبلا خود منتشر شده بود، بوده است. او همچنین گفته است که پیگرد قانونی دارد. از زمانی که آن رسوایی به راه افتاد، چندین نویسنده داستانی دیگر با سوء ظن به هوش مصنوعی برخورد کردند، یکی پس از برنده شدن جایزه داستان کوتاه، و دیگری پس از آن که ناشران برای رمان جنایی او میلیون ها پیشنهاد پرداخت کردند.

هر دو نیز این اتهامات را رد کرده اند. اما بارتز اشاره می کند که به محض شروع اتهامات، آسیب وارد می شود. همانطور که رسوایی دختر خجالتی بالا گرفت، او می‌گوید: «فورا احساس کردم که این به یک شکار بالقوه جادوگر منجر می‌شود.» او توضیح می‌دهد که ظهور اجتناب‌ناپذیر هوش مصنوعی در انتشار، «تأثیر ناخواسته‌ای را به همراه خواهد داشت که هر کسی را به استفاده از هوش مصنوعی متهم کند» و در حال حاضر، نویسندگان برای دفاع از خود در برابر این اتهام‌ها توسل کمی دارند.

بارتز برای اثبات نویسندگی انسان می گوید: «هیچ استاندارد توافق شده ای وجود ندارد. توسعه دهندگان مجموعه ای از ابزارهای نرم افزاری جدید امیدوارند که آن را تغییر دهند. پلتفرم‌هایی از جمله Workings، Blindproof، Wintertext، Human Ink، و ObraVera ابزاری برای ردیابی و مستندسازی فرآیند نوشتن نویسنده، در برخی موارد رمزگذاری و انگشت نگاری اثر نوشته شده یا تایپ ریتم با کدهای منحصر به فرد، به منظور ایجاد رکوردی از نویسنده (خواه کاملا انسانی یا با کمک هوش مصنوعی) هستند.

ایده فقط ایجاد یک دنباله کاغذی نیست که نویسندگان بتوانند اگر کسی سوال می‌پرسد که آیا از LLM استفاده کرده است یا خیر، به آن اشاره کنند، بلکه برای نشان دادن منشأ زمانی است که، برای مثال، متن در مجموعه‌های آموزشی هوش مصنوعی بدون ذکر منبع یا سایر فراداده‌های شناسایی خراشیده می‌شود. مری راسنبرگر، مدیر عامل انجمن نویسندگان، یک سازمان حرفه‌ای که بر بیان آزاد و حفاظت از حق چاپ متمرکز است، می‌گوید که انجمن نمی‌تواند هیچ یک از این ابزارها را به دیگری توصیه کند، اما از نویسندگان می‌خواهد بدانند که آنها به عنوان یک شبکه امنیتی وجود دارند.

(به گفته عمیر کازی، مدیر خط مشی و حمایت این انجمن، بسیاری از شرکت ها برای ارائه خدمات خود به انجمن نویسندگان مراجعه کرده اند.) در همان زمان، Rasenberger به WIRED می‌گوید، «توهین‌آمیز» و «بار» است که باید از این حلقه عبور کرد، و «ما احساس نمی‌کنیم که لازم باشد» برای نویسندگان برای حفظ رسیدها. راسنبرگر می‌گوید: «اگر چیزی که می‌فروشید کلمات، صدای شما و تخیل شما باشد، خلاقیت شما، استفاده از هوش مصنوعی معنا ندارد.

راسنبرگر می‌گوید: «من با ویراستاران، به‌ویژه ویراستاران ادبیات غیرداستانی و داستانی صحبت کرده‌ام، و برخی از آن‌ها می‌گویند: «من هیچ‌وقت آثار ارسالی توسط هوش مصنوعی را نمی‌بینم، اگر این کار را می‌کردم، می‌دانستم». رازنبرگر نگران است که نویسندگان در برابر جو بی اعتمادی قرار دارند - آنها باید "از اتهامات نویسندگان دیگر خودداری کنند، زیرا آنها از یک جامعه ادبی سالم پشتیبانی نمی کنند" - و اعتماد بیش از حد به ابزارهای تشخیص هوش مصنوعی، که می توانند فریب بخورند و مشخص شده است که نتایج مثبت کاذب تولید می کنند.

در حالی که پانگرام ادعا می‌کند نرخ مثبت کاذب «پیشرو صنعت» 0.01 درصد هنگام استفاده در نوشتن خلاقانه است، راسنبرگر گفت که انجمن نویسندگان «موردهای زیادی را شنیده است که در آن افراد اثر انسانی خود را در پانگرام قرار داده‌اند و نتیجه‌ای را دریافت کرده‌اند که می‌گویند این کار توسط هوش مصنوعی تولید شده است». او می افزاید که عوامل مختلفی وجود دارد که می تواند "یک آشکارساز هوش مصنوعی را وادار کند که چیزی توسط هوش مصنوعی تولید شده در حالی که اینطور نیست." به همین ترتیب، یک برنامه ردیابی فرآیند بی‌خطر نیست. مسابقه تسلیحاتی هوش مصنوعی به این معنی است که یک چرخه دائمی از آسیب‌پذیری‌ها و رفع مشکلات در هر دو طرف وجود دارد. ما محصولی را ارائه می دهیم که [ wri را ردیابی می کند

ting] در Google Docs، و بسیاری از کاربران آن را مفید می‌دانند، مکس اسپرو، یکی از بنیان‌گذاران و مدیرعامل پانگرام می‌گوید. به عنوان مثال، شخصی می تواند متن هوش مصنوعی را به صورت دستی تایپ کند یا از یک تایپ خودکار استفاده کند. اسپرو اشاره می کند که بی نظمی نوشتن خود مشکلات بیشتری ایجاد می کند. او می‌گوید: «یک نویسنده معمولی فقط نمی‌نشیند و کتابی را تایپ می‌کند. آنها با چندین فایل کار می کنند، پیش نویس ها را به جلو و عقب می فرستند، از یادداشت های صوتی در حین حرکت استفاده می کنند.

همه اینها در ابزارهای فرآیند نوشتن ثبت نمی‌شوند.» در همین حال، ابزارها ممکن است بیشتر به سمت نگرانی های مربوط به حق نسخه برداری باشند تا تأیید نویسندگی انسان یا هوش مصنوعی. Brady Ridgway، بنیانگذار فنی ObraVera - که می تواند الگوهای رمزنگاری "اثرانگشت" در نوشتن و همچنین ضبط صداهای صوتی را انجام دهد - می گوید پلت فرم او برای ردیابی استفاده مجدد از مطالبی طراحی شده است که شما در پایگاه داده آنها به عنوان یک کاربر ثبت شده انسانی ذخیره کرده اید.

او توضیح می‌دهد که با یک مهر زمان و یک هش رمزنگاری، اگر محتوا «بعدا در جایی ظاهر می‌شود که قرار نیست باشد، یا شخص دیگری ادعا می‌کند که مال اوست، می‌توانیم پایگاه داده را جستجو کنیم و بگوییم: «این کلمات در این زمان توسط این شخص ایجاد شده‌اند.» Ridgway می‌گوید که این ممکن است منشا و مالکیت را نشان دهد، اما این به شخص ثبت‌شده بستگی دارد که اعلام کند آیا در ایجاد متن از هوش مصنوعی استفاده کرده است یا خیر. او به درگیری در ماه مه بر سر نویسنده ای اشاره می کند که متهم به برنده شدن جایزه داستان کوتاه مشترک المنافع با ارسالی که توسط هوش مصنوعی ساخته شده بود.

ریدوی می‌گوید: «به نظر می‌رسد همه موافق هستند که او کسی است که داستان کوتاه را ارسال کرده است. "این همه کاری است که نرم افزار انجام می دهد. می گوید که در این روز شخصی اعلام کرد که این نرم افزار فقط به کمک انسان بوده یا به کمک هوش مصنوعی نیست." نمی تواند تأیید کند که آیا این یک بیانیه درست است یا خیر. برخی استدلال می کنند که تلاش برای نهادینه کردن سیستم های بررسی برای نویسندگی انسان به سادگی غیرعملی است - و به هر حال ممکن است به زودی یک موضوع بحث برانگیز باشد.

جین فریدمن، نویسنده و کارشناس کسب و کار انتشاراتی، اخیرا در خبرنامه صنعتی خود به نام The Bottom Line استدلال کرد که با توجه به پیشرفت‌های Pangram و آشکارسازهای مشابه، دوران رسوایی‌های هوش مصنوعی احتمالا کوتاه خواهد بود. علاوه بر این، او نوشت، نویسندگان اکنون دیده‌اند که اگر بخواهند نوشته‌های تولید شده توسط هوش مصنوعی را به عنوان نوشته‌های خود بگذرانند، چه اتفاقی می‌افتد. فریدمن به WIRED می‌گوید که بعید است عوامل و ناشران هیچ روشی را برای تأیید نویسندگی انسان که «هزینه‌ای اضافی یا زمان اضافی داشته باشد» اجرا کنند، به ویژه به این دلیل که متعهد کردن آنها به استاندارد مشترک غیرممکن است.

او پیش‌بینی می‌کند که «توافق در این مورد مانند گله‌داری گربه‌ها خواهد بود، زیرا انتشارات در پذیرش فناوری‌های جدید، به‌ویژه فناوری‌های جدید توسعه‌یافته توسط خارج از صنعت، کند است». حتی اگر قرار باشد ناشران متنوع با نیازها و منابع بسیار متغیر در اطراف برخی از اشکال نظری احراز هویت متحد شوند، موانع باقی می‌مانند. فریدمن به مشکلات لجستیکی ادغام این معیار در مدل‌های تولیدی موجود اشاره می‌کند، و به مشکل ماندگار صدور گواهینامه «جعلی یا دستکاری شده» اشاره نمی‌کند. او در پایان می‌گوید: «اگر هر یک از اینها هزینه یا زمان اضافی دارد، آن را فراموش کنید.

فریدمن می‌گوید در حالی که ممکن است نویسندگان مایل به پرداخت برای آرامش خاطر باشند، نمی‌توانند اعتماد کنند که نمایندگان و ناشران مدرک نویسندگی را از هر برنامه مشخصی می‌پذیرند. در غیاب راه حل روشن، نویسندگان به حال خود رها می شوند. بارتز می گوید که از واکنش خوانندگان متعصب به احتمال فریب خوردن توسط هوش مصنوعی نگران است. او می‌گوید: «من شنیده‌ام که افرادی در Goodreads مورد بمباران نقد قرار می‌گیرند، زیرا برخی از غریبه‌ها احساس می‌کردند که این کتاب برای آنها مانند هوش مصنوعی به نظر می‌رسد و دیگران روی هم انباشته شده‌اند.

خوانندگانی را دیده‌ام که می‌گویند: «من هیچ چیز منتشر شده‌ای را بعد از سال ۲۰۲۲ نخواهم خواند، زیرا در آن صورت می‌توانم مطمئن باشم که هوش مصنوعی مولد در آن وجود ندارد.» این یک راه عالی برای مخفی کردن کل یک صنعت است. این اتفاق می افتد که کتاب آینده بارتز در سال 2027، «حساب خود را حذف کنید»، به طور مستقیم به هوش مصنوعی مولد می پردازد.

قهرمان داستان او نویسنده‌ای مسدود شده است که میانبر ناگواری را انتخاب می‌کند، و یک ربات چت هوش مصنوعی را وادار می‌کند تا از فیلم هیجان‌انگیز مورد علاقه‌اش تقلید کند - فقط خودش را در آن داستان اصلی گرفتار کرده و با مرگ حتمی روبرو می‌شود. بارتز متعجب است که آیا همین انتخاب برای هجو هوش مصنوعی او را در موقعیتی مخاطره آمیز قرار داده است؟ او می‌گوید: «من بخش‌هایی نوشته‌ام که بسیار شبیه به LLM هستند. «رونوشت‌هایی که من ساخته‌ام و مطالب بازاریابی آزاردهنده با صدای هوش مصنوعی از این شرکت ساخته‌شده هوش مصنوعی. و من نمی‌دانم—اگر هر یک از آن‌ها به‌صورت AI نوشته شده باشد، چه کار خواهم کرد؟»