با منافقان هوش مصنوعی آشنا شوید

دانشگاهی که اصطلاح هوش مصنوعی در آن ابداع شد، در هفتادمین سالگرد تولد این رشته به شیوه ای مناسب زنگ می زند: با یک رسوایی آکادمیک. ماه گذشته، سیان لیا بیلاک، رئیس کالج دارتموث، مقاله‌ای در آتلانتیک منتشر کرد با عنوان: «چرا من هوش مصنوعی بیشتری در دارتموث می‌خواهم». اکنون Beilock در حال بررسی این است که آیا معاون ارشد او بیش از حد از هوش مصنوعی استفاده کرده است یا خیر.

در 21 سپتامبر، روزنامه دانشجویی دارتموث گزارش داد که به نظر می‌رسد پروست سانتیاگو شنل برای نوشتن تمام 9 مقاله‌ای که امسال منتشر کرده است، به شدت به هوش مصنوعی اتکا کرده است - از جمله مقاله واشنگتن پست درباره دانش‌آموزانی که نوشته‌های خود را به هوش مصنوعی برون سپاری می‌کنند. پاسخ شنل به این اتهام کمکی به او نکرد. طبق مقاله دانشجویی، او یک بیانیه ایمیلی ارسال کرد که در آن اذعان کرد که از چت ربات‌های هوش مصنوعی به عنوان «ابزار کمکی» در نوشته‌های خود استفاده می‌کند، اما نقش آن‌ها را در فرآیند خود کم‌اهمیت می‌داند.

مقاله دریافت که حتی بیانیه Schnell به عنوان "100% AI-نوشته شده" در Pangram ثبت شده است، یک سرویس تشخیص هوش مصنوعی که ناقص است اما دارای نرخ خطای بسیار پایینی است. یکی از سخنگویان دارتموث به من گفت که نه بیلاک و نه شنل برای این داستان اظهار نظر نمی کنند.

[بخوانید: واکنش شدید پانگرام در پردیس‌های کالج آشکار می‌شود]

Schnell آخرین نمونه از یک پدیده طعنه آمیز است: افرادی که کارشان شامل نوشتن در مورد کاربردهای مناسب هوش مصنوعی است - یا حتی تنظیم قوانین استفاده از هوش مصنوعی برای دیگران - مدام گرفتار استفاده از هوش مصنوعی برای انجام آن می شوند. یک استاد دانشگاه استرالیایی بود که نظرش در مورد اهمیت نوشتن توسط دانشجویان حداقل تا حدی حاصل هوش مصنوعی بود. یک مدیر غیرانتفاعی بود که معلوم شد کتابش درباره آینده حقیقت در عصر هوش مصنوعی شامل نقل قول های ساخته شده توسط هوش مصنوعی است.

گزارشگر ضرب و شتم هوش مصنوعی بود که بنا بر گزارش‌ها پس از کپی کردن تصادفی نقل قول‌های اختراع شده توسط هوش مصنوعی در یکی از داستان‌هایش، کار خود را از دست داد. و یک کارشناس اطلاعات نادرست استانفورد بود که وقتی معلوم شد اعلامیه او مبنی بر حمایت از قانون ضد هوش مصنوعی حاوی استنادهای توهم‌آمیز ChatGPT است، مورد سرزنش یک قاضی قرار گرفت.

این یک چیز است که علنا ​​یا بی شرمانه از نوشتن هوش مصنوعی استقبال کنیم، مانند سرمایه دار میلیاردر که به راحتی نقش این فناوری را در مقاله وال استریت ژورنال خود تایید کرد (البته تنها پس از کشف آن). استفاده از هوش مصنوعی برای مقابله با استفاده های نادرست از هوش مصنوعی یک مورد دیگر است، و این یک سوال ناخوشایند را ایجاد می کند: چرا برخی از افرادی که با صدای بلند در مورد مشکلات این فناوری به ما هشدار می دهند، مدام به آنها سر می زنند؟

من با هر پنج نفر از افراد فهرست شده در بالا تماس گرفتم تا پاسخ بدهم، اما تنها کسی که پذیرفت با من صحبت کند، استیون روزنبام، نویسنده کتاب آینده حقیقت: چگونه هوش مصنوعی واقعیت را تغییر می‌دهد و مدیر اجرایی مرکز غیرانتفاعی رسانه پایدار بود. برخلاف برخی دیگر، روزنبام استفاده خود از هوش مصنوعی را در فرآیند نوشتن و ویرایش فاش کرد و او هرگز سعی نکرده به دیگران بگوید از آن استفاده نکنند. اما وقتی نیویورک تایمز در ماه مه گزارش داد که کتاب مملو از نقل قول‌های اشتباه تولید شده توسط هوش مصنوعی است، این او را از تحقیر نجات نداد.

من در آن زمان با او صحبت کردم و او به من گفت که احساس می کند توسط ChatGPT "خیانت" شده است. پنج ماه بعد، به نظر می رسد روزنبام مسئولیت اشتباهات را کمی بیشتر پذیرفته است. او به من گفت که در حال آماده شدن برای انتشار نسخه اصلاح شده کتابش با تمام اشتباهات تصحیح شده، یادداشت نویسنده و فصل جدیدی در مورد توهمات هوش مصنوعی (چه چیز دیگری است؟) است. او هنوز معتقد است که تقصیر بیشتر متوجه سازندگان این فناوری است تا کاربران آن. او گفت: "به عنوان یک فناوری، فوق العاده اغوا کننده است."

روزنبام گفت که استفاده از هوش مصنوعی را برای درک بهتر این فناوری آغاز کرده است. او به‌تدریج به‌عنوان یک شریک نویسندگی به آن تکیه می‌کرد که کار را هم آسان‌تر و هم کمتر احساس تنهایی می‌کرد. او تجربه خود از نوشتن با هوش مصنوعی را فرآیندی نامرتب توصیف کرد، فرآیندی که در آن کار انسان و ماشین در هم پیچیده می‌شود. او گفت: «خط بین تفکر و تحقیق و خواندن و ترسیم طرح و پیش نویس و نوشتن واقعا مبهم است.

یک راه حل ساده، البته، عدم استفاده از هوش مصنوعی است. روزنبام، با این حال، علاقه ای به آن ندارد. او گفت که همچنان قصد دارد از چت‌بات‌ها به‌عنوان یک همراه نوشتاری استفاده کند—فقط اکنون «با دقت بیشتری»، همه ادعاها و نقل‌قول‌های آن‌ها را قبل از پذیرش آن‌ها دوباره بررسی کند. او در عدم تمایل به کنار گذاشتن ابزارهایی که او را به دردسر انداختند، تنها نیست. اگرچه هر یک از افرادی که از هوش مصنوعی برای هشدار در مورد هوش مصنوعی دستگیر شده‌اند، به شکلی علنی در مورد این قسمت اظهار نظر کرده‌اند، هیچ‌یک با فحش دادن به این فناوری پاسخی ندادند.

روزنبام، به نوبه خود، فکر می کند که ما به سمت دنیایی پیش می رویم که در آن نوشتن با هوش مصنوعی معمول است و تنها چیزی که مهم است نتیجه است. او گفت: «فکر نمی‌کنم خوانندگان به نحوه تهیه سوسیس اهمیت دهند. "آنها اهمیت می دهند که خوشمزه است."

من خیلی مطمئن نیستم من نیز با استفاده از هوش مصنوعی به عنوان یک ابزار تحقیق در نوشته‌هایم آزمایش کرده‌ام. اما آتلانتیک سیاست سختگیرانه‌ای در برابر استفاده از نثر تولید شده توسط هوش مصنوعی دارد و من نیز همینطور. دریافته‌ام که داشتن یک خط قرمز شخصی هم مفید و هم روشن‌کننده است: ممکن است از یک ربات چت سؤال بپرسم، بازخورد آن را در مورد انتخاب کلمه یا توضیحی دریافت کنم، یا از او بخواهم در استدلال من سوراخ‌هایی ایجاد کند، اما از آن نمی‌خواهم که برای من بنویسد یا از نوشته‌هایش در پیش‌نویس‌های خودم استفاده کنم. فکر می‌کنم خوانندگان بدانند که هر کلمه‌ای که می‌خوانند توسط نویسنده انتخاب شده است و نه یک الگوریتم.

با این اوصاف، می توانم ببینم که چگونه تمایز بین استفاده از هوش مصنوعی برای تحقیق و نوشتن ممکن است برای برخی لغزنده به نظر برسد. به عنوان مثال، می توان تصور کرد که تعصبات یک چت بات می تواند در ایده های من نفوذ کند، اگر کلمات دقیق من نباشد. (پس باز هم، تعصبات موتور جستجوی رتبه‌بندی گوگل یا فیدهای رسانه‌های اجتماعی من نیز ممکن است.)

من نظریه دیگری در مورد اینکه چرا افرادی که به دیگران در مورد هوش مصنوعی هشدار می دهند، به نظر می رسد خودشان از آن استفاده می کنند، دارم. در سناریویی بسیار شبیه به سناریوی دارتموث، استاد مسئول یکپارچگی آکادمیک در دانشگاه وسترن سیدنی در ماه مه مقاله‌ای درباره اهمیت عدم واگذاری کار دانشجویان به هوش مصنوعی نوشت. کات الیس، معاون دانشگاه برای کیفیت و درستی، در The Sydney Morning Herald نوشت: «گوشه نشوید». "فکر خود را برون سپاری نکنید، هر چند که وسوسه انگیز باشد." به زودی مشخص شد که این مقاله حداقل تا حدی توسط هوش مصنوعی تولید شده است.

در آن مورد، یکی از سخنگویان دانشگاه از استفاده الیس از این فناوری به عنوان «پیچیده و مناسب» دفاع کرد، زیرا او قبل از اینکه از ابزار هوش مصنوعی بخواهد به او کمک کند تا در تهیه مقاله کمک کند، کارهای قبلی خود را وارد ابزار هوش مصنوعی کرده بود. الیس به Sydney Morning Herald گفت که این مقاله «توسط» هوش مصنوعی نوشته نشده است: «این مقاله با هوش مصنوعی نوشته شده است و تفاوت واقعا زیادی در اینجا وجود دارد.

بهانه الیس ممکن است برای دانش‌آموزانی که او آنها را مورد تنبیه قرار می‌داد بیهوده باشد، اما برای کسانی از ما که سعی می‌کنیم ذهن خود را به دورویی آشکار بپیچانیم، آشکار است. الیس در مقاله خود اشاره کرد که دانش آموزانی که از هوش مصنوعی برای نوشتن استفاده می کنند، تفکر خود را برون سپاری می کنند. او در دفاع از استفاده از هوش مصنوعی خود، بین نوشته (که برون سپاری کرده بود) و ایده ها (که ادعا می کرد اصلی هستند) تمایز قائل شد.

به همین ترتیب، شنل در مقاله خود ابراز نگرانی کرد که "دانشجویان اکنون می توانند بدون اجرای بسیاری از کارهای فکری که به نظر می رسد نثر نشان می دهد، نثر ماهری تولید کنند." با این حال، زمانی که با استفاده از هوش مصنوعی خود مواجه شد، ادعا کرد که «ایده‌ها و استدلال‌ها» را تالیف کرده است، حتی اگر ربات‌ها بخشی از نوشته‌ها را انجام دهند.

این محافظان یکپارچگی تحصیلی ممکن است درست بگویند که کاری که انجام داده‌اند تفاوت معنی‌داری با دانش‌آموزی دارد که تکالیف یک استاد را به یک چت بات وارد می‌کند و هر چیزی را که به بیرون می‌ریزد را تحویل می‌دهد. البته، دانش‌آموزان می‌توانند از هوش مصنوعی به روش‌های ظریف‌تری نیز استفاده کنند. بدون شک تعداد زیادی از دانشجویان متهم به تقلب با هوش مصنوعی، دفاعیاتی را ارائه کرده اند که بسیار شبیه دفاعیات الیس و شنل است.

نوشتن یعنی تفکر در میان منتقدان کسانی که از ابزارهای هوش مصنوعی برای نوشتن خود استفاده می‌کنند، به مضمون رایجی تبدیل شده است. چیزی که ما بارها و بارها در دفاع از نوشتن هوش مصنوعی می بینیم این است که به نظر نمی رسد افرادی که از هوش مصنوعی استفاده می کنند این اصل را برای خود اعمال کنند. و کارشناسان خطرات جعلی هوش مصنوعی مانند روزنبام و کارشناس اطلاعات نادرست استنفورد، جف هنکاک، به نظر می رسد توانایی خود را برای دوری از دروغ های هوش مصنوعی بیش از حد برآورد کرده اند. این یادآور چیزی است که جامعه شناس دبلیو.

فیلیپس دیویسون «اثر سوم شخص» را در رسانه‌های جمعی نامید: تمایل مردم به این باور که از پیام‌های متقاعدکننده مصون هستند، حتی اگر انتظار دارند بر دیگران تأثیر بگذارد.

این نوعی ریاکاری است و احساس همدردی با رهبران فکری که در حال انجام آنچه که علیه آن موعظه می کنند گرفتار می شوند، دشوار است. اما این واقعیت که حتی متخصصان هوش مصنوعی نیز در اتکای بیش از حد به این فناوری اشتباه می‌کنند، نشان می‌دهد که روزنبام به چیزی دست می‌یابد: چت‌بات‌ها ممکن است با تکذیب‌نامه‌های دقیقی همراه باشند که می‌توانند اشتباه کنند، اما در تعامل خود با کاربران به عقب خم می‌شوند تا به عنوان صادق و قابل اعتماد شناخته شوند.

همچنین این درست است که جامعه هنوز واژگانی برای همه روش‌های نوشتن با هوش مصنوعی که بین «تولید شده توسط هوش مصنوعی» و «کاملا نوشته‌شده توسط انسان» قرار می‌گیرد، ایجاد نکرده است.

اینجاست که من تصدیق می کنم که حتی خط روشن خودم در استفاده از هوش مصنوعی ممکن است مبهم تر از آن چیزی باشد که تصور می کنم. در روند نوشتن این داستان، من محور بحثم را برای گوگل و کلود توضیح دادم و از آنها نمونه هایی از ریاکاری در نوشتن هوش مصنوعی که ممکن است از دست داده باشم، خواستم. هیچکدام نتوانستند چیزی را که قبلا از آن مطلع نبودم، آشکار کنند. من با هوس، با کلود دنبال کردم و از او خواستم تا برخی از فرضیه‌ها را در مورد اینکه چرا شکاکان هوش مصنوعی ممکن است به توصیه‌های خود توجه نکنند، طوفان فکری کند.

من ایده‌های خودم را داشتم، و همچنین نظرات همکاران را جلب کرده بودم، اما می‌خواستم ببینم چت‌بات به چه چیزی می‌رسد. یکی از پیشنهادات آن به نظر من به عنوان نسخه واضح‌تری از اندیشه‌ای بود که در تلاش برای فرمول‌بندی آن بودم: «نوشتن این است که فکر کردن یک قانون برای افراد دیگر است». من از زبان کلود استفاده نکردم، اما مدل هوش مصنوعی مفهومی را که قبلا در مورد آن فکر می‌کردم خلاصه کرده بود. آن فرمول بدون شک نحوه تفکر من را در مورد چارچوب بندی این داستان آگاه کرد. آیا من هم اکنون یک ریاکار هوش مصنوعی هستم؟

برخی از این موارد را با خبرنگاری صحبت کردم که یک بار به خاطر داستانی که حاوی خطاهای ایجاد شده توسط هوش مصنوعی بود، دچار مشکل شد. ما به شرط ناشناس بودن مکاتبه کردیم زیرا آنها گفتند که بروز مجدد این حادثه می تواند به آینده شغلی آنها آسیب برساند. این درسی بود که آنها گفتند: "هوش مصنوعی یک ابزار برقی است، و مانند هر ابزار برقی، اگر به آن بی احتیاطی کنید، خطرناک است. شما می توانید فردی باشید که به همه هشدار داد که یک اره رومیزی می تواند انگشتان شما را قطع کند و یک روز باز هم انگشت خود را از دست بدهد، زیرا این خطر در ماشین وجود دارد. هر چه بیشتر از آن استفاده کنید افزایش می یابد."

وقتی اینطور به آن فکر می کنید، منطقی است که برخی از افرادی که به هوش مصنوعی متکی هستند همان کسانی هستند که در مورد خطرات آن هشدار می دهند. آنها عیب های آن را می دانند، اما قدرت آن را نیز می دانند. و آنها فقط نمی توانند خود را مجبور کنند که آن را رها کنند.