من نمی خواهم آنچه را که شما ننوشته اید بخوانم

افرادی که به ندرت نوشته‌های اصلی را تولید می‌کنند، ناگهان طرح‌های گسترده طراحی، طرح‌های تجاری، مستندات، ارائه‌ها، بلیط‌ها، درخواست‌های جذب، مقالات وبلاگ و خلاصه جلسات را تولید می‌کنند که همگی توسط هوش مصنوعی ایجاد شده‌اند. همش قابل خواندن نیست هوش مصنوعی به من کمک می کند بهتر و سریع تر بنویسم، اما از خواندن تقریبا هر چیزی که توسط هوش مصنوعی نوشته شده است خسته شده ام. در این مقاله، می‌خواهم ناراحتی‌ام را بیان کنم و توضیح دهم که چگونه در هوش مصنوعی برای نوشتن ارزش پیدا می‌کنم.

الگویی که من می بینم این است که مردم از هوش مصنوعی برای ساختن چیزی جدید استفاده می کنند، سپس از هوش مصنوعی برای خلاصه کردن گذشته نگر آنچه قبلا در یک سند طراحی ساخته اند استفاده می کنند. خواندن چنین سندی نه تنها دشوار است بلکه مجازات است. سند طراحی دیگر پیشنهادی برای ایجاد اجماع، همراهی افراد با شما، و اصلاح ایده ها از طریق تفکر آهسته و آگاهانه نیست - این خلاصه ای است که توسط یک ماشین، با جزئیات طاقت فرسا، بدون زمینه یا چشم انداز ساخته شده است. غیر قابل خواندن است. غیر انسانی.

نویسندگان این اسناد زمانی که مردم درگیر نیستند بی‌صبر می‌شوند و این کار سخت است، زیرا چیزی که ساخته‌اند در حال حاضر کار می‌کند. [1]

من همچنین بیشتر و بیشتر خلاصه‌های درخواست کشش را می‌بینم که به وضوح توسط ماشین‌ها برای ماشین‌ها نوشته شده است. آنها از نظر جزئیات غنی هستند: این به آن تغییر یافت، این چیزها تقسیم شدند، آن چیزها ادغام شدند، این دست نخورده باقی ماند، آزمایش هایی برای این اضافه شد، و غیره. اما من می پرسم: چرا این کار را می کنیم؟ ارزش چیست؟ این کار چقدر خطرناک یا فوری است؟ نظر من را از کجا می خواهید؟ به چه چیزی باید توجه کنم؟ همین امر در مورد بلیط ها یا خلاصه جلسات ساخته شده توسط هوش مصنوعی نیز صدق می کند. نوشته، مانند بیشتر و بیشتر جهان، از گزاره های خارج از زمینه تشکیل شده است.

من از کسی خواستم که یک پیام شخصی در مورد یک موضوع حساس برای من بنویسد که به وضوح با هوش مصنوعی کارگاهی انجام داده بود تا مکالمه را ظریف تر کند و من را آزار ندهد. اما پیام غیرشخصی، بی‌علاقه و از هم گسیخته شد. همه قسمت ها را داشت، اما در کل معنی نداشت. من علاقه ای به خواندن آن یا پاسخ دادن نداشتم. ترجیح می‌دهم کسی خودش باشد و با صدای خودش بنویسد، یا با کمی اشتیاق، حتی اگر نتواند کلمات را پیدا کند، یا خطر آزار دادن من را داشته باشد.

در روابط با دیگران، آسیب پذیری و ریسک وجود دارد. در برقراری ارتباط با هوش مصنوعی شما هیچ چیزی وجود ندارد و تلاش برای از بین بردن آسیب پذیری و ریسک، خود فرآیند رابطه را از بین می برد. همانطور که سایمون ساریس در Resist Summary می نویسد، مقاله ای که مدام به آن بازمی گردم:

من فکر می کنم باید تا آنجا که می تواند با تجربه گرایی خود، با حواس خود بنویسد و به خواننده توصیف خود را از زندگی یا رویدادها بدهد. - سایمون ساریس، خلاصه مقاومت

شاید تنبل‌ترین و توهین‌آمیزترین استفاده از نوشتن هوش مصنوعی که دیده‌ام: از کسی داشتم که از هوش مصنوعی استفاده می‌کند تا نظرات من را در مورد پیشنهاد خود به عنوان پاسخی که به من می‌دهد خلاصه کند! با تشکر من خودم بهتر از این نمی توانستم بگویم! [2]

سینتیا دانلوپ اخیرا نتایج نظرسنجی را در مورد خواندن مقالات نوشته‌شده با هوش مصنوعی با عنوان گزارش: نحوه واکنش توسعه‌دهندگان به پست‌های وبلاگ با بوی هوش مصنوعی به اشتراک گذاشته است. برای اکثر خوانندگان، اگر فکر می کنند مقاله ای با کمک هوش مصنوعی یا نویسنده AI است، خواندن را متوقف می کنند (78٪) و در آینده از نویسنده اجتناب می کنند (71٪). همانطور که برایان کانتریل در مورد این تحقیق در مقاله خود شورش خواننده نوشت: "مغز ما یک دستگیره بیرون رانده شده توسط LLM را می کشد و در اقدامی برای حفظ خود ما را از وسط جمله نجات می دهد."

قوی‌ترین نتیجه در این نظرسنجی این بود که مردم به‌طور قاطع، نوشته‌های خود نویسنده (98%) را با تمام نقص‌ها و ویژگی‌های خاص آن در مقایسه با بازنویسی بی‌روح توسط یک هوش مصنوعی ترجیح می‌دادند. معتبر نوشتن یکی از بهترین راه های ارتباط با مردم است. این من را به یاد نظری می اندازد که بیارن استروستروپ، خالق C++، در میزگردی که بیش از یک دهه پیش در مورد نوشتن کتاب در آن شرکت کردم، بیان کرد:

وقتی کتابی را می‌خوانم، واقعا احساس می‌کنم که اگر بتوانم صدای نویسنده را بشنوم که در سرم طنین‌انداز می‌کند - که با لهجه‌های عجیب و غریب و ویژگی‌های الگوهای گفتاری آنها کامل می‌شود - احساس می‌کنم چیزی موفق شده است. اگر متن خشک و آکادمیک به نظر می رسد، کسی متن خشک و آکادمیک دیگری نوشته است. و بنابراین، ارائه سخنرانی در مورد موضوع واقعا کمک می کند. و، برای بسیاری از مردم، ... وقتی آن را می خوانم می توانم آنها را بشنوم، و این خوب است. - بیارن استروستروپ [3]

هنگامی که شما کسی هستید که هوش مصنوعی را درخواست می کند، خروجی نوشته شده اغلب بسیار مفید است. اما این را با نوشتن موثر اشتباه نکنید. هنگامی که خروجی را می خوانید، از قبل زمینه های زیادی دارید - اعلان ها را فرموله کرده اید، محدودیت ها را تعیین کرده اید، و مصنوعاتی مانند اسناد، کد منبع، گزارش ها، آمار، تصاویر و غیره را ارائه کرده اید که منجر به خروجی می شود. می‌توانید خروجی را کم‌کم کنید و به سرعت تصمیم بگیرید که چه چیزی مرتبط و ارزشمند است در مقابل چه چیزی نامربوط یا اشتباه است. شما همچنین بخشی از این فرآیند هستید - از هوش مصنوعی درخواست می کنید و نتایج را می بینید - یک تماس و یک پاسخ.

شما دیدگاه انسانی را به ماشین می آورید. وقتی همان متن را برای شخص دیگری ارسال می‌کنید، متنی کم یا بدون متن دارند. آنها بخشی از فرآیند نیستند - هیچ آشکارسازی وجود ندارد - بنابراین تصمیم گیری در مورد اینکه چه چیزی مرتبط است در مقابل چه چیزی نیست بسیار دشوارتر است. آنها مجبورند به طور کامل بخوانند و هر خط را در نظر بگیرند و به درونیات یک ماشین نگاه کنند، به امید ایجاد زمینه. طبیعی است که خواندن را متوقف کنید.

اخیرا یک مقاله دانشگاهی نوشتم. [4] من به طور گسترده ای از هوش مصنوعی استفاده کردم و باعث شد روند نوشتن سریعتر و لذت بخش تر شود. اما هوش مصنوعی حتی یک خط از مقاله را ننوشت. من مقاله را در لاتک نوشتم. زمینه ای که من در اختیار هوش مصنوعی قرار دادم شامل راهنمای سبک مجله و الگوی LaTeX، تمام مقالاتی که قبلا در مجله منتشر شده بود، کد منبع سیستم های نرم افزاری که در مورد آنها می نوشتم، و پیکربندی، گزارش ها و معیارها برای استقرار تولید نرم افزار بود.

پس از نوشتن یک پاراگراف، بارها از هوش مصنوعی می‌خواهم که با ارجاع به کد منبع یا پیکربندی، یا بررسی گزارش‌ها یا معیارهای تولید، از صحت آنچه نوشته‌ام اطمینان حاصل کند. به عنوان مثال، اطمینان از اینکه به درستی توضیح داده ام کدام ستون ها در پایگاه داده ایندکس شده اند، یا ردیف های فایل های پارکت چگونه مرتب شده اند. این به من اجازه داد که در متن نوشتن بمانم، اغلب به پاراگراف بعدی می روم در حالی که هوش مصنوعی پاراگراف قبلی را تأیید می کند. این به من کمک کرد تا حذفیات و نادرستی های مهم را تشخیص دهم.

به‌طور قابل‌توجهی، معکوس کردن این فرآیند - درخواست از هوش مصنوعی برای نوشتن پاراگراف از روی زمینه‌ای که ارائه کردم، مانند توصیف نحوه عملکرد چیزی از روی کد منبع - هرگز ارزشمند نبود. نه یک بار. خواندن آن به طور مداوم ناخوشایند و اغلب نادرست بود.

چیز دیگری که به من کمک کرد در زمینه بمانم استفاده از هوش مصنوعی برای تکمیل نقل قول ها بود. جستجوی جزئیات یک مقاله، وب سایت یا کتاب، پر کردن قالب BibTeX و سپس ارجاع آن در متن خسته کننده است. در عوض، دستورالعمل‌های پرانتزی را برای هوش مصنوعی می‌گذارم تا به آنچه می‌خواهم اشاره کند، و سپس بدون گام برداشتن به نوشتن ادامه می‌دهم. [5]

هوش مصنوعی در یافتن اشتباهات املایی و گرامری فوق‌العاده خوب – در واقع بی‌رحمانه بود. در پیشنهاد ساده سازی جملاتی که خیلی طولانی یا نامشخص هستند عالی بود. [6] در ترسیم نمودارهای فنی در TikZ مهارت داشت، دوباره سرعت کار را افزایش داد و من را از یادگیری این نحو نجات داد. هوش مصنوعی حتی یک اشتباه بسیار ظریف پیدا کرد که در آن من از علامت گذاری نادرست در یک پاراگراف استفاده کرده بودم، چیزی که چهار بازبین انسانی که متخصص در سیستم بودند، همه آن را از دست دادند. [7]

تنها چیزی که هوش مصنوعی در نوشتن فوق العاده خوب بود چه بود؟ انتزاعی را نوشت - مختصرترین، مکانیکی ترین و غیرانسانی ترین بخش کل مقاله - در واقع انتزاعی ترین بخش. من آن را کاملا بدون تغییر اضافه کردم. شاید این نباید تعجب آور باشد، زیرا هوش مصنوعی در خلاصه، انتزاع و ارائه مجدد کار اصلی عالی است.

دست کم گرفتن نوشته هایی که روزی می تواند با هوش مصنوعی به دست آید، اشتباه است. ما هنوز در روزهای اولیه توسعه مدل هستیم، و مدل‌هایی که بیشتر ما استفاده می‌کنیم، به‌جای خلاقیت، آموزش داده شده‌اند که واقعی، مستقیم و درست باشند. با این حال، مقاله عالی مورات دمیرباس «ایمن‌ترین شغل از هوش مصنوعی» ممکن است نوشتن باشد، اشاره می‌کند که کیفیت نوشتن از LLM بالا رفته است و ممکن است بهبود آن دشوار باشد زیرا برخلاف برنامه‌نویسی، ریاضیات و حسابداری، ارائه یک فرمول روشن و خروجی قابل تأیید دشوار است. [8]

از آنجایی که LLM ها فاقد یک مدل ذهنی فعال از یک خواننده انسانی خاص هستند، آنها فقط برای احتمال آماری کلمه بعدی در یک مجموعه داده گسترده بهینه سازی می کنند. آنها نمی توانند با خواننده انسانی همدلی کنند، زیرا تجربه زیسته انسانی را ندارند. و دارای پوسته صفر در بازی هستند. - مورات دمیرباس، ایمن ترین شغل هوش مصنوعی ممکن است نویسندگی باشد

من علاقه مند به دو تلاش برای بهبود نوشتن هوش مصنوعی هستم که اخیرا با آنها برخورد کردم. اولین مورد ASD-STE100 Simplified Technical English است، استانداردی برای نوشتن اسناد فنی که از یک گروه کاری هوافضا در دهه 1980 به وجود آمد. این شامل دو بخش است: یک فرهنگ لغت کنترل شده و قوانین نوشتن در مورد دستور زبان و سبک. نسخه ای از ASD-STE100 برای استفاده با مدل های هوش مصنوعی ایجاد شده است. [9] ASD-STE100 برای تمام نوشتارهای تولید شده توسط هوش مصنوعی مناسب نیست - به طور خاص دستورالعمل‌های دستورالعمل واضح و آسان برای دنبال کردن را هدف قرار داده است.

من قصد دارم آن را برای دستورالعمل‌های نصب، ران‌بوک‌ها و اسناد مشابه امتحان کنم.

مدل دوم Pangram است، مدلی که برای تشخیص نوشتار هوش مصنوعی تنظیم شده است. برایان کانتریل در مقاله شورش خواننده اشاره می کند:

استفاده از LLM برای نوشتن به معنای باطل کردن قرارداد اجتماعی بین نویسنده و خواننده است: از ما خوانندگان نباید انتظار داشت که برای درک جمله ای که خود نویسنده برای خلق آن تلاش نکرده است، تلاش کنیم. - برایان کانتریل، شورش خواننده

نمی توانستم بیشتر موافق باشم. برایان آزمایش پنگرام را برای شناسایی نوشته‌های تولید شده توسط هوش مصنوعی که این قرارداد را نقض می‌کند آغاز کرده است و تا آنجا پیش رفته که تمام نوشته‌های عمومی در Oxide توسط پانگرام به‌عنوان نویسنده انسانی گزارش شود. ابزاری مانند این می تواند ما را از تنبل ترین و بدترین نوشتن هوش مصنوعی نجات دهد. [10]

وقتی می نویسیم، معنای کلمات ما همیشه مستقیم، واقعی یا مختصر نیست. به عنوان مثال می توان به شعر، ادبیات، ترانه، اساطیر، طنز و تئاتر اشاره کرد. ایین مک گیل کریست، که به اعتقاد من یکی از مهم‌ترین نویسندگان نسل ماست، در کتاب «موضوع با چیزها» می‌نویسد: «هر چه چیزی مهم‌تر باشد، در تلاش برای فروکاستن آن به زبان بیشتر باید تلاش کنیم.» از یک LLM بپرسید که فرمول قابل اعتماد برای عاشق شدن چیست. در نوشتارهای تولید شده توسط هوش مصنوعی، اطلاعات دقیق، توهم معنا را ایجاد می کند.

اما در تقلید از دانش، هوش و درک انسان، یک هوش مصنوعی که در مورد حقایق می نویسد با کیفیت نوشتن یک تجربه زنده بسیار متفاوت است. کل را نمی توان بدون از دست دادن معنی اساسی به اجزاء تجزیه کرد.

رویکرد مستقیم هدف خود را از بین می برد. به همین ترتیب، مواردی وجود دارد که فقط به صورت غیر مستقیم قابل انتقال است. برای بازیابی عمق آنچه گفته می شود، یا برای گفتن هر چیزی واقعا جدید، ما همیشه درگیر فراتر رفتن از زبان روزمره هستیم، که به معنای هوشیار بودن نسبت به آنچه به طور ضمنی گفته می شود. -ایان مک گیلکریست، موضوع چیزها

شاید احمقانه به نظر برسد که بگوییم نوشتن در تجارت، مهندسی یا علم باید شامل عدم قطعیت باشد، نه فقط حقایق و نتیجه‌گیری. اما عملیات، واکنش به حادثه، توسعه محصول، مهندسی عملکرد، جستجوی آسیب‌پذیری‌های امنیتی، بررسی عملکرد، بیانیه‌های ماموریت و بسیاری از تلاش‌های دیگر، همگی خلاقانه هستند و شامل عدم قطعیت هستند. روایت به طور منظم به اندازه حقایق و نتیجه‌گیری مهم است. همچنین به راحتی می توان LLM ها را به عنوان متفکران سیستمی خوب تبدیل کرد زیرا آنها می توانند چنین طیف گسترده ای از اطلاعات را ترکیب کنند.

با این حال، به سایمون ساریس باز می گردیم: «روایت در برابر فشرده شدن مقاومت می کند» و «برعکس خلاصه، توجه به جزئیات است».

علیرغم تاکید بر تفکر خطی و اصول اول، کار یک مهندس سیستم خوب، درست مانند کار یک انسان شناس یا روانشناس خوب، به سختی قابل بیان است و به خصوص به صورت خلاصه. لزوما نمی توانید با استفاده از یک فرمول موارد را مشاهده و یادداشت کنید. حتی نوشتن چیزها هم بخشی از زمینه را از دست می دهد. ناظر نیز بخشی از آن زمینه است. کار سیستمی همیشه حس کشف دارد، ناشناخته ها را باز نگه می دارد، رابطه با خود سیستم آشکار می شود و تمایل به غافلگیر شدن دارد. زبان معمولی همیشه کلمات را ندارد. [11]

ماهیت خروجی، به طور خلاصه، سرعت همه چیز است. اما نتیجه این است که شما مجبور نباشید مدل ذهنی پیچیده خود را از هر چیزی بسازید. من نگرانم که بدون یک مدل پیچیده در ذهن خود، فرد هرگز متوجه روابط پیچیده ای که در غیر این صورت از قلم افتاده است، نمی شود. از دست دادن توجه به جزئیات. - سایمون ساریس، خلاصه مقاومت

من نمی‌خواهم در دنیایی زندگی کنم که از هوش مصنوعی برای خلاصه کردن چیزهای مهم در متن غیرقابل خواندن استفاده می‌کنید و سپس من از هوش مصنوعی برای رمزگشایی آن استفاده می‌کنم. من می خواهم شما را بشنوم، نقص ها و همه چیز. تعبیر شما را از زیبایی شناسی، زیبایی، کیفیت، رابطه، زمان می خواهم. می خواهم بدانم چه احساسی داری. من از شما می‌خواهم که به من بگویید چه چیزی واقعا مهم است. من نمی خواهم خلاصه ای از حقایق و ارتباطات را جدا از تجربه و رابطه بخوانم. همانطور که ایین مک گیلکریست توضیح می دهد، نحوه توجه ما به جهان، ماهیت آنچه را که به وجود می آید تغییر می دهد، تنها جهانی که می توانیم بشناسیم. [12]

اگر از یک ماشین بخواهید کاری را برای شما انجام دهد، در معرض خطر این هستید که آنچه را که می خواهید، بلکه آنچه را که می تواند به خوبی انجام دهد، بخواهید. اگر آنچه که می تواند به خوبی انجام دهد خلاصه کردن است، و شما بر ابزار تکیه می کنید، می توانید سوالات خود را طوری تنظیم کنید که پاسخ های بهتری دریافت کنید. به نظر می رسد این کار مانند آموزش یک ماشین برای انجام آنچه می خواهید است، اما همچنین به خودتان آموزش می دهد که در مورد جهان به روشی خاص سؤال بپرسید. چه سوالاتی را حذف می کنید؟ - سایمون ساریس، خلاصه مقاومت

نوشتن عمدی احتمالا ارزشمندتر خواهد شد. افرادی که می نویسند و می نویسند تا فکر کنند، عمیق و با دقت فکر کنند، یا خلق کنند، به اشتراک بگذارند، یا چیزی مهم را بدون بیان صریح به تصویر بکشند، به نوشتن و تولید اثر اصلی ادامه می دهند. افرادی که هرگز نویسنده نبودند از هوش مصنوعی برای تولید متن های زیادی استفاده می کنند.

همانطور که متن های تولید شده توسط هوش مصنوعی را بیشتر و بیشتر می خوانیم، ممکن است متوجه تغییرات و اختلالات هوش مصنوعی نشویم، زیرا به هر حال سطحی تر شده ایم. جستجوی یقین انسانیت ما را محدود می کند. گاهی اوقات پیدا نکردن کلمات مهم تر است. من نمی خواهم آنچه را که شما ننوشته اید بخوانم.

در برخی موارد، اسناد طراحی مناسب نیستند، و استفاده از هوش مصنوعی برای همکاری سریع در اطراف نرم‌افزار کار شاید رویکرد بهتری برای اصلاح ایده‌ها و ایجاد اجماع باشد. ↩︎

در مثالی دیگر، گروهی از مردم روی یک پیشنهاد کار می‌کردند و از طریق تعدادی از صفحات ویکی، اجماع ایجاد می‌کردند. یک نفر جدید می خواست پیشنهاد را اصلاح کند. آنها به جای گذراندن فرآیند آشفته و رابطه‌ای کار با این گروه برای به‌روزرسانی صفحات ویکی موجود، از هوش مصنوعی برای تکثیر یک صفحه جدید ویکی، کپی کردن کار موجود و اضافه کردن پیچ و تاب خود استفاده کردند. ↩︎

من قبلا از این نقل قول در تکنیک های بهبود نوشتن فنی شما استفاده کرده ام. ↩︎

این مقاله پایگاه داده ای را که من ایجاد کردم توصیف می کند و امیدوارم در کنفرانس تحقیقات سیستم های داده نوآورانه (CIDR) پذیرفته شود. ↩︎

به عنوان مثال، من می‌نویسم: {TODO: reference the Amazon Aurora paper} و هوش مصنوعی بقیه موارد را بر عهده خواهد گرفت. ↩︎

من همچنین از هوش مصنوعی به عنوان ویرایشگر وبلاگم استفاده می کنم. این به من اعتماد به نفس بیشتری می دهد که یک مقاله را بدون اینکه شخص دیگری آن را تصحیح کند پست کنم. اما من فقط به هوش مصنوعی اجازه می دهم خطاها را شناسایی کند یا پیشنهاد دهد. من اجازه نمی دهم صدا یا دیدگاه من را بازنویسی و تغییر دهد. ↩︎

من در حال توصیف یک ادغام با ساختار log (LSM) بودم. ما ابتدا سطوح را نسل 1، نسل 2، نسل 3، یا به اختصار Gen1، Gen2، Gen3 نامیده بودیم. در مقاله، من LSM را به طور کلی تر با استفاده از L0، L1، L2 برای سطح 0، سطح 1، سطح 2 توصیف کردم. این به این معنی بود که همکاران من که این مقاله را می‌خواندند مجبور بودند L1 را به Gen2 در ذهن خود نگاشت کنند، که باعث شد اشتباه من در یک پاراگراف استفاده نادرست از L1 در حالی که منظور من از L2 بسیار سخت است. LLM آن را پیدا کرد، مشکلی نیست. ↩︎

مقاله جالب دیگری در مورد محدودیت های هوش مصنوعی برای نوشتن، به ویژه فردیت در درک، مهارت انسانی است که از هوش مصنوعی فرار می کند: چرا مدل های زبانی نمی توانند خوب بنویسند؟ توسط یاسمین سان در اقیانوس اطلس. ↩︎

با تشکر از کریس ریکومینی برای آگاه کردن من از این موضوع. ↩︎

بهترین متفکران سیستمی که من می شناسم، نویسندگان عالی هستند. من انتظار دارم که این مهارت مهم باقی بماند و شاید مهمتر شود. با بازگشت به مقاله مورات دمیرباس در مورد نویسندگی که قبلا به آن اشاره کردم، نتیجه می گیرد: "و شاید برنامه نویسی خود به شکلی از نویسندگی خلاقانه تبدیل شود، نظر بیشتر و معماری بیشتر شود." ↩︎

ایین همچنین تمایز بین درک - گرفتن جهان به عنوان یک کل - و دلهره - تسلط بر جهان را قائل است. کیفیت توجه متفاوت است. به نظر من جالب است که در حالی که دلهره به معنای تصرف یا گرفتن است، همچنین یک انتظار ترسناک یا ناآرام از آینده است. من به شدت توصیه می‌کنم سخنرانی Iain را در کالج رالستون تماشا کنید. ↩︎