من فکر می کنم تقریبا هرگز نباید از هوش مصنوعی برای نوشتن استفاده کنید

من فکر می‌کنم تقریبا هرگز نباید از هوش مصنوعی برای نوشتن استفاده کنید - یعنی برای انجام کاری که هنگام تایپ کلمات در صفحه انجام می‌دهید - چه برای یک پست وبلاگ، یک گزارش تحقیق، یک یادداشت، یک ایمیل متفکرانه، یک رمان، یا هر متن دیگری که هدفش انتقال یک ایده، یک استدلال، یک تحلیل یا سایر افکار 1 اساسی است. من فکر می‌کنم این مورد حتی زمانی که شما به هوش مصنوعی نکات دقیق، افکار دیکته‌شده یا زمینه‌های دیگر می‌دهید، و حتی زمانی که متن نوشته شده با هوش مصنوعی را ویرایش می‌کنید، صادق است. 2

من فکر می‌کنم اینطور است زیرا (1) فرآیند نوشتن بخشی ضروری از فرآیند تفکر است، (2) نوشتن با هوش مصنوعی به روش‌هایی مبهم و اشتباه است و (3) نوشتن با هوش مصنوعی (و عدم برچسب زدن به آن) گستاخانه و گمراه‌کننده است. من این نکات را با جزئیات بیشتر در زیر توضیح خواهم داد، اما ابتدا، چند صافی گلو.

همانطور که می دانید، من ضد هوش مصنوعی نیستم. من فکر می‌کنم استفاده از هوش مصنوعی برای بسیاری از بخش‌های دیگر فرآیندهای تحقیق و نوشتن، مانند رونویسی صدا، تجزیه و تحلیل داده‌ها، جستجوی اطلاعات، طوفان فکری، و ارائه بازخورد در مورد پیش‌نویس‌ها بسیار منطقی است. من همچنین فکر می‌کنم استفاده از هوش مصنوعی برای ویرایش خط و کپی، یا برای بازنویسی یک متن برای واضح‌تر یا دقیق‌تر کردن آن، خوب است، تا زمانی که همه ویرایش‌ها عمدا توسط یک انسان پذیرفته یا رد شوند. این فقط از هوش مصنوعی برای نوشتن متنی استفاده می کند که من مخالف آن هستم. 3

و بله، استفاده از هوش مصنوعی برای نوشتن مزایای مختلفی دارد. به عنوان مثال، این کار کمتر و سریعتر از نوشتن خودتان است. بنابراین معایب استفاده از هوش مصنوعی برای نوشتن باید قابل توجه باشد تا در کل بد باشد. همانطور که ممکن است تا به حال حدس زده باشید، من فکر می کنم آنها هستند.

و در نهایت، من فقط ادعایی درباره مدل‌های هوش مصنوعی دارم که اکنون وجود دارند و انتظار دارم در آینده نزدیک وجود داشته باشند. احتمالا در برخی مواقع مدل‌هایی وجود خواهند داشت که به اندازه کافی خوب هستند که تفویض نوشتن به آن‌ها منطقی باشد (اگرچه در آن مرحله ممکن است محول کردن کل فرآیند تحقیق یا نوشتن به صورت انتها به انتها منطقی تر باشد، زیرا علاوه بر نوشتن، آنها همچنین باید تمام یا بیشتر تفکر را انجام دهند).

هدف از انجام هر نوع تحقیق، ایجاد باورهای دقیق در مورد سؤالات مهم است که می توانید آن را با مخاطبان در میان بگذارید. یکی از بهترین راه ها برای انجام این کار به نظر من نوشتن است.

نوشتن در مورد چیزی، حتی چیزی که خوب می‌دانید، معمولا به شما نشان می‌دهد که آن‌طور که فکر می‌کردید نمی‌دانستید. بیان ایده ها در قالب یک آزمون سخت است. [...] نیمی از ایده هایی که به یک مقاله ختم می شوند، ایده هایی هستند که در حین نوشتن آن به آن فکر می کردید. در واقع، به همین دلیل است که آنها را می نویسم.

وقتی چیزی می نویسم، چیزی اساسی، هیچ بخشی از آن فرآیند نوشتن نیست که در آن فکر نکنم و نظرم را تغییر ندهم. همه چیز از طرح کلی گرفته تا تبدیل آن به متن و فقط جمله. اغلب تجربه‌ای دارم که در آن سعی می‌کنم طرح کلی را به یک محصول نهایی تبدیل کنم، و با یک انتقال بازی می‌کنم، و کار نمی‌کند، و می‌دانم، اوه، دلیل اینکه این انتقال کار نمی‌کند این است که در واقع این دو نقطه نباید کنار هم قرار گیرند. کاری که من در اینجا سعی می کنم انجام دهم اشتباه است.

و اگر طرح کلی را به یک LLM وارد کنم، متوقف نمی‌شود و در نظر می‌گیرم که شاید طرح کلی بد باشد. [...]

من کاملا موافقم که فرآیند نوشتن، فرآیند تفکر است، و من فکر می‌کنم که ما اکنون اثبات تجربی آن را داریم، زیرا شما ماشینی می‌سازید که نوشتن و تفکر را انجام می‌دهد، فقط به عنوان یک اثر جانبی ظاهر می‌شود.

اما هنگام نوشتن یک قطعه چند صفحه ای، حتی اگر یک پایان نامه قوی دارید، عمل مجبور کردن خود به نوشتن آن در جملات و پاراگراف ها برای ساختار استدلال، به شما نشان می دهد که حفره ها در کجای استدلال قرار دارند. این به شما نشان می دهد که کجا فرآیند تحقیق شما ناکافی بوده است. مواردی مانند: اوه، در واقع، چیزی وجود دارد که با چیزی که می خواهم بگویم متناقض است.

و از آنجایی که فردی اخلاق مدار معقول هستم، فکر می کنم تصدیق خواهم کرد که استدلال های متقابلی وجود دارد، یا باید اضافه کنم که نتیجه گیری قابل ادعای کامل کمتر از نتیجه ای است که من، نقل قول-بدون نقل قول، «دوست دارم بنویسم».

من اساسا با این برداشت ها موافقم. وقتی چیزی می نویسم اول باید بدانم چه می خواهم بگویم، یعنی باید به شواهد و استدلال ها فکر کنم و به باورهایی برسم. بنابراین نوشتن مرا وادار به انجام آن کارهایی می کند که برای هر پروژه نگارشی یا پژوهشی لازم است. برای هر پروژه ای از این دست، کسی باید همه چیز را در سر داشته باشد -- تمام شواهد، ملاحظات، استدلال ها، و اینکه چگونه اینها با هم تطابق دارند. نوشتن با هوش مصنوعی دوری از تفکر ضروری را آسان تر می کند.

وقتی چیزی می نویسم، تصمیمات کوچک زیادی در مورد عبارات و عبارات خاص می گیرم. این تصمیمات کوچک با هم به وضوح و صحت کلی متن کمک می کند.

برای مثال، اگر از Claude Fable 5 بخواهم «یک پاراگراف کوتاه برای معرفی مشکل قاچاق تراشه‌های هوش مصنوعی بنویسد»، موضوعی که درباره آن به طور گسترده نوشته شده و گزارش شده است، نتیجه می‌دهد:

از اکتبر 2022، ایالات متحده صادرات تراشه های پیشرفته هوش مصنوعی به چین را با هدف کند کردن پیشرفت چین در مرز هوش مصنوعی محدود کرده است. اما کنترل‌های صادراتی به اندازه اجرای آن‌ها قوی هستند، و تراشه‌های هوش مصنوعی فشرده، فوق‌العاده ارزشمند هستند و از طریق زنجیره‌های عرضه گسترده جهانی فروخته می‌شوند - ویژگی‌هایی که آنها را جذاب و امکان‌پذیر می‌کند تا قاچاق شوند. شبکه‌های انحرافی، GPUهای کنترل‌شده را از طریق واسطه‌ها در مکان‌هایی مانند سنگاپور، مالزی و امارات، با استفاده از شرکت‌های پوسته و اسناد جعلی برای انتقال آنها به چین، هدایت می‌کنند.

تخمین‌های مقیاس بسیار متفاوت است، از ده‌ها هزار تا شاید بیش از صد هزار تراشه سطح بالا در سال، و حتی پایین‌تر نشان‌دهنده محاسبات کافی برای آموزش و استقرار سیستم‌های هوش مصنوعی توانمند است. در همین حال، اداره صنعت و امنیت، که وظیفه نظارت بر تجارت چند صد میلیارد دلاری را بر عهده دارد، با بودجه و تعداد کارمندانی که برای یک مشکل بسیار کوچکتر مناسب تر است، عمل می کند. بنابراین قاچاق تراشه یکی از ستون های اصلی سیاست هوش مصنوعی ایالات متحده را تهدید می کند.

این وحشتناک نیست، و شاید حتی کاملا منطقی باشد، اما آیا من آن را چگونه می نویسم؟ نه، در واقع، کلود انتخاب های زیادی انجام داد که به نظر من به طور نامحسوس اشتباه یا بد بودند:

کلود می نویسد که "کنترل های صادراتی فقط به اندازه اجرا قوی هستند"، اما این به چه معناست؟ یا چیزی واضح می گوید (البته سیاست هایی که اجرا نمی شوند یا ضعیف اجرا می شوند کمتر مؤثر هستند) یا اصلا هیچ. 5

کلود می‌نویسد که تراشه‌های هوش مصنوعی «فشرده» هستند، که درست است، اما آنچه معمولا قاچاق می‌شود سرورهای هوش مصنوعی هستند که فشرده نیستند. به هر حال، مهمتر از آن، این مهم نیست، زیرا قاچاق تراشه های هوش مصنوعی به ندرت شامل پنهان کردن محصولات برای عبور از گمرک می شود. معمولا محصولات فقط به‌عنوان نوع دیگری از کالاها برچسب‌گذاری می‌شوند و به اصطلاح در معرض دید قرار می‌گیرند.

کلود می‌نویسد که «فروش از طریق زنجیره‌های عرضه گسترده جهانی» تراشه‌های هوش مصنوعی را «جذاب و قابل قاچاق» می‌کند. این به چه معناست؟ آیا قاچاقچیان می توانند راحت تر تراشه را از شرکت های خارج از ایالات متحده خریداری کنند؟ (تا همین اواخر، به نظر می‌رسد که قاچاقچیان می‌توانستند تراشه‌های هوش مصنوعی را از شرکت‌های مستقر در ایالات متحده با مشکل نسبتا کمی تهیه کنند.) آیا این امر باعث می‌شود که قاچاقچیانی که تعداد زیادی تراشه‌های هوش مصنوعی را در کشورهایی مانند مالزی خریداری می‌کنند کمتر جلب توجه کنند؟ (به نظر من این به درستی نزدیکتر است.) یا چیز دیگری است؟

کلود می نویسد که تخمین ها در مورد مقیاس قاچاق "به طور گسترده ای متفاوت است، از ده ها هزار تا شاید بیش از صد هزار تراشه گران قیمت در سال". این به معنای واقعی کلمه درست است، اما تخمین‌های پایین تقریبا به طور قطع اشتباه هستند، و تعداد واقعی احتمالا بسیار نزدیک‌تر به پایان بالاتری است که کلود ذکر کرده است، یعنی صدها هزار. 6 پس این گمراه کننده است.

همچنین، کلود یک سال را مشخص نمی‌کند، اما حجم قاچاق از اکتبر 2022 به شدت در نوسان بوده است، همچنین کلود مشخص نمی‌کند که چیپ «بالاترین» چیست (به نظر می‌رسد یک کالای لوکس است که ساخته شده و منحصرا به خاندان سلطنتی سعودی و دوشس‌های دوشس فروخته می‌شود).

کلود می نویسد که «حتی پایین ترین قسمت نشان دهنده محاسبات کافی برای آموزش و استقرار سیستم های هوش مصنوعی توانمند است». این عبارت ارزش اطلاعاتی ندارد. به نوعی، یک تراشه هوش مصنوعی برای آموزش و استقرار سیستم‌های هوش مصنوعی، چه توانا یا غیرقابل استفاده، اهمیت دارد. (و به هر حال «سیستم هوش مصنوعی توانمند» چیست؟ چرا مقدار کمی از محاسبات برای یک سیستم هوش مصنوعی توانا بیشتر از یک سیستم هوش مصنوعی ناکارآمد اهمیت دارد؟ اگر هر چیزی، ممکن است فکر کنید برعکس این موضوع صادق است، که سیستم هوش مصنوعی ضعیف تر از مقدار کمی محاسبات سود بیشتری می برد.)

کلود می نویسد که دفتر صنعت و امنیت (BIS) "وظیفه نظارت بر تجارت چند صد میلیارد دلاری را بر عهده دارد". در اینجا، خیلی بهتر است که فقط شماره را ذکر کنید.

کلود می نویسد که BIS "با بودجه و تعداد نیروی کار مناسب تر برای یک مشکل بسیار کوچکتر عمل می کند". اول، ما بودجه و تعداد کار BIS را می دانیم، بنابراین بهتر است آن اعداد را ذکر کنیم و آنها را زمینه سازی کنیم. دوم، «کوچکتر» بودن یک مشکل به چه معناست؟ آیا این به این معنی است که اهمیت کمتری دارد یا به تلاش کمتری برای حل آن نیاز دارد یا چیز دیگری؟ آیا موضوع مهم این نیست که منابع بیشتر برای BIS احتمالا اجرا را به طور قابل ملاحظه ای بهبود می بخشد، نه اینکه مقدار منابعی که BIS در حال حاضر دارد برای برخی مشکلات دیگر مناسب تر است؟

جمله آخر کلود، مبنی بر اینکه قاچاق تراشه های هوش مصنوعی «بنابراین تهدید می کند که یکی از ستون های اصلی سیاست هوش مصنوعی ایالات متحده را به طور بی سر و صدا از بین ببرد»، تحسین ناب محض است.

ممکن است یک یا دو موضوع مانند آن در یک متن اهمیت چندانی نداشته باشد، اما در تجربه من، نوشتن با هوش مصنوعی بسیار متراکم با عبارات غیر ضروری مبهم و نامحسوس است. توجه داشته باشید که این مشکل زمانی وجود دارد که به هوش مصنوعی زمینه های زیادی مانند یادداشت ها و طرح های نوشته شده بدهید. 7

کارشناسان انسانی متفاوت و بهتر از LLM فکر می کنند. انتخاب کلمات آنها، حتی موارد ظریف، منعکس کننده حساسیت هایی است که ممکن است خودشان از آن آگاه نباشند. به طور معمول، نثر یک متخصص نسبت به موضوعاتی که در آن متخصص هستند، حساس تر از خروجی یک مدل زبانی است. [...]

ممکن است به این صورت مخالفت کنید: البته من خروجی های LLM را قبل از ارسال می خوانم، و ایمیلی را ارسال نمی کنم، حتی مقاله را ارسال نمی کنم، مگر اینکه هر کلمه را تایید کنم! بنابراین، اعتراض ادامه می یابد، شما فکر می کنید که افکار بیان شده است. متن بهترین قضاوت متخصص شما را منعکس می کند - شاید حتی چیزی بهتر از بهترین قضاوت متخصص شما: بهترین قضاوت متخصص شما همراه با تخصص یک LLM.

من پاسخ می‌دهم: بین تکان دادن سر در حین خواندن چیزی و در واقع تولید مثمر ثمر، تفاوت شناختی بسیار زیادی وجود دارد. دو دلیل: اولا، وقتی متن روی صفحه قرار می‌گیرد، به راحتی می‌توان به‌صورت منفعل اجازه داد که کلمه تقریبی کافی باشد، نه اینکه در مورد انتخاب کلمه به همان شیوه‌ای فعال و پرتلاش که هنگام تولید نثر جدید انجام می‌دهیم فکر کنیم. دوم، همانطور که در بالا پیشنهاد کردم، من شک دارم که انسان‌ها، حتی متخصصان، درک خوبی از همه عواملی که انتخاب کلمه را شکل می‌دهند - همه چیزهایی که به آن حساس هستند، داشته باشند.

شما آن را کمی متفاوت بیان می کردید، و حتی اگر این یا چرا را نمی دانید، سیگنال متفاوتی ارسال و دریافت می شود.

من با این موافقم. اما در واقع خیلی بدتر از این است! هوش مصنوعی ها نه تنها متنی را می نویسند که غیرضروری مبهم و به طرز نامحسوسی اشتباه است، بلکه این کار را به گونه ای انجام می دهد که تقریبا حداکثر متقاعد کننده است! اگر هوش مصنوعی چیزی را که از او می‌خواهید درباره آن بنویسد به طور مثبت «نشناسد»، معمولا متوقف نمی‌شود و به شما می‌گوید که نمی‌داند. در عوض چیزی می نویسد که به اندازه کافی مبهم و بی معنی است که درست باشد یا چیزی که درست به نظر می رسد اما اینطور نیست یا لزوما نیست. البته انسان‌ها اغلب اشتباه و مبهم هستند، اما من فکر می‌کنم که ما به روش‌هایی که کمتر متقاعدکننده و راحت‌تر به آن توجه می‌شود، اشتباه و مبهم هستیم.

خواندن متن نوشته شده با هوش مصنوعی و تشخیص تمام مسائل کوچک به روشی که قبلا در مورد متن قاچاق تراشه هوش مصنوعی انجام دادم، به تلاش زیادی نیاز دارد. اگر چیز زیادی در مورد قاچاق تراشه های هوش مصنوعی نمی دانستم، احتمالا بیشتر مسائلی را که لیست کردم متوجه نمی شدم، مگر اینکه خیلی در مورد متن فکر می کردم. اما اگر به جای آن متن را خودم می نوشتم، نمی توانستم از توجه به جایی که گیج شده ام اجتناب کنم.

گاهی وقتی متنی را می نویسم، آن را می نویسم تا دیگران آن را بخوانند. به عنوان مثال، ممکن است بخواهم آن را به صورت آنلاین منتشر کنم، یا آن را برای بازخورد با همکاران به اشتراک بگذارم، یا آن را به عنوان ایمیل ارسال کنم، یا برای ناشر ارسال کنم. وقتی متنی را منتشر می‌کنم یا به اشتراک می‌گذارم، کسی که آن را می‌خواند احتمالا انتظار دارد که من در آنچه نوشتم فکر کنم، و به‌ویژه این که متن افکار من را نشان دهد. یا حداقل آنها باید چنین انتظاری داشته باشند و من از آنها می خواهم.

این قرارداد ضمنی بین خواننده و نویسنده است، که خواننده توجه آنها را جلب می کند و نویسنده آن را با چیزی ارزشمند، مانند اطلاعات یا سرگرمی، جبران می کند.

شاید من در اینجا ارزشمند باشم، اما نسخه‌ای از نوشته‌های من که یک LLM می‌تواند تولید کند همیشه چیزی را از دست می‌دهد که می‌توانم اضافه کنم. که باز هم به این دلیل نیست که -- بسیاری از زمینه ها وجود دارد که مدل ها بیشتر از من می دانند. اما هر کس هر زمان که بخواهد می تواند در مورد هر چیزی از کلود بپرسد.

اگر آن‌ها چیزی را می‌خوانند که من نوشته‌ام، یا به‌عنوان ویراستار تصمیم گرفتم جلوی آنها بگذارم، به این دلیل است که یک قرارداد ضمنی وجود دارد. من به آنها چیزی را پیشنهاد می کنم که در جای دیگری نتوانستند به دست آورند. این استفاده بهتر از زمان آنها خواهد بود تا صرفا درخواست مستقیم از مدل. و به همین دلیل است که من مستقیما از متن تولید شده توسط LLM استفاده نمی‌کنم - یا اگر استفاده می‌کردم، می‌خواهم قبل از صرف زمان در مورد آنچه که در آن وارد می‌شوید کاملا واضح باشم.

همه چیزهایی که در بالا در مورد آنها نوشتم، درباره خطاهای ظریف و مبهم، و همه چیزهایی که در مورد اینکه چگونه، وقتی یک متن با هوش مصنوعی نوشته شده است، شما نمی دانید که آیا نویسنده در آن فکر زیادی کرده است یا خیر -- همه این چیزها آن قرارداد را نقض می کنند. بنابراین وقتی متنی را می خوانم و متوجه می شوم که به طور کامل یا تا حدی با هوش مصنوعی نوشته شده است، اعتماد من به متن و نویسنده بلافاصله کاهش می یابد و منطقی فکر می کنم.

و به همه این دلایل، وقتی متن نوشته شده با هوش مصنوعی را تبلیغ می کنید، یا پیش نویس متن نوشته شده با هوش مصنوعی را برای کسی ارسال می کنید، فکر می کنم که شما بی ادب هستید. من فکر می‌کنم این شبیه فرستادن یک پیش‌نویس واقعا شلخته برای کسی و پنهان کردن این واقعیت است که واقعا شلخته نوشته شده است. و مگر اینکه خروجی های نوشته شده با هوش مصنوعی را به وضوح برچسب گذاری کنید، خواننده را گمراه می کنید که انتظار دارد متن شما متن شما باشد، به دقت فکر کنید و به طور خاص باورهای شما را نشان دهد.

البته می‌توانید با برچسب‌گذاری متن به‌عنوان نوشته‌شده با هوش مصنوعی یا اساسا با هوش مصنوعی، مسائل مربوط به بی‌ادبی و گمراه‌کننده بودن را برطرف کنید. با این حال، من گمان می کنم که این چیزی نیست که اکثر مردم می خواهند انجام دهند.

سؤال: آیا نمی‌توانم خروجی‌های نوشته‌شده با هوش مصنوعی را در یک متن بگنجانم، اگر به وضوح آنها را چنین برچسب‌گذاری کنم؟ پاسخ: بله، به نظر من بیشتر خوب است. به عنوان مثال، گاهی اوقات ممکن است یک تحقیق سطحی در مورد چیزی انجام دهم و برای اطلاعاتی به کلود تکیه کنم، و سپس ممکن است چیزی مانند این بنویسم: "کلود افسانه 5 به من می گوید که فلانی چنین است." 8 این می تواند زمانی مفید باشد که صرف زمان زیادی برای بررسی آن ادعای خاص منطقی نباشد. نکته مهم این است که خروجی به وضوح به‌عنوان AI-نوشته شده علامت‌گذاری شده باشد، بنابراین خواننده می‌تواند آن را به دلخواه (یا نه) تخفیف دهد.

سوال: پس من فقط می توانم این کار را برای کل متن انجام دهم، نمی توانم؟ پاسخ: فکر می‌کنم استفاده از هوش مصنوعی برای نوشتن یک متن کامل، تقریبا هرگز ایده خوبی نیست، حتی اگر به این عنوان برچسب زده شده باشد، حداقل اگر قصد دارید شخص دیگری آن را بخواند. دلیلش این است که من فکر می‌کنم یکی، نتیجه احتمالا بسیار بدتر از آنچه خودتان آن را نوشته‌اید، خواهد بود، و دوم، اگر متن شما را به‌عنوان نوشته‌شده با هوش مصنوعی انتخاب کنید، مردم (به درستی) نمی‌خوانند.

من فکر می‌کنم احتمالا نوشتن متن با هوش مصنوعی حتی اگر تنها کسی که آن‌ها را می‌خواند، اشتباه است، زیرا با انجام این کار، مزایای ذکر شده در دو بخش اول بالا را از دست می‌دهید.

سوال: آیا من، یک انگلیسی زبان غیر بومی که برای نوشتن به زبان انگلیسی مشکل دارد، می توانم از هوش مصنوعی برای نوشتن به زبان انگلیسی استفاده کنم؟ پاسخ: گاهی پیشنهاد می شود که این امر قابل قبول است، از جمله انجام بدون افشاگری. من به همه دلایلی که در بالا ذکر شد مخالفم. من فکر می کنم استفاده از هوش مصنوعی برای ترجمه متن نوشته شده به زبان مادری می تواند قابل قبول باشد، اما حتی در این صورت فکر می کنم بهتر است آن را فاش کنیم. به طور کلی، احساس من این است که هوش مصنوعی در حفظ وضوح و دقت در هنگام ترجمه بهتر از زمانی است که مثلا از یادداشت های نقطه گلوله تهیه می کند.

سوال: اگر ریسک‌ها بسیار زیاد باشد و استفاده از هوش مصنوعی برای تسریع در نوشتن ضروری، مثلا برای نوشتن یادداشت‌های خط‌مشی مرتبط با هوش مصنوعی، بسیار مهم و ارزشمند باشد، چه؟ پاسخ: فکر نمی‌کنم استفاده از هوش مصنوعی برای نوشتن واقعا سرعتم را زیاد کند؟ یا، من فکر می‌کنم در عمل راهی که می‌تواند کارها را تسریع کند، به خطر انداختن کیفیت است، و من فکر نمی‌کنم که در حاشیه کیفیت مصالحه کنید.

به عنوان مثال، DC در حال حاضر غرق در گزارش ها و انتشار خلاصه هایی است که تقریبا هیچ کس آنها را نمی خواند. آنچه کمیاب است، و آنچه واقعا به سیاستگذاران کمک می کند، تحلیل های دقیق تر و متفکرانه تر در مورد موضوعات مهم است.

من فکر می‌کنم در برخی شرایط استفاده از هوش مصنوعی برای نوشتن متون کوتاهی که عمدتا وظیفه هماهنگی یا تدارکات را دارند می‌تواند خوب باشد. به عنوان مثال، اگر در شغل شرکتی خود نیاز به نوشتن مکرر ایمیل‌های کوتاه و بسیار فرمول دارید، به نظر می‌رسد که پیش‌نویس با هوش مصنوعی و کمی ویرایش قبل از ارسال، اشکالی ندارد.

در اینجا ممکن است یک یا دو استثنا وجود داشته باشد. به عنوان مثال، اگر خودتان متن نوشته شده با هوش مصنوعی را به شدت بررسی کنید و به شدت ویرایش کنید، ممکن است *خوب باشد. اما ممکن است اینطور نباشد، و به هر حال انجام آن آسانتر یا سریعتر از نوشتن آن از ابتدا به نظر نمی رسد. من فکر می‌کنم در عمل، روشی که چنین نوشتنی این روند را تسریع می‌کند، به خطر انداختن کیفیت است.

آیا این متناقض است که من استفاده از هوش مصنوعی را برای طوفان فکری و تجزیه و تحلیل، که هر دو شامل تفکر پرتلاش هم هستند، تایید می کنم؟ مطمئن نیستم، اما فکر می‌کنم استفاده از هوش مصنوعی برای این چیزها احتمالا خوب است، تا زمانی که باورهای خود را در دستان نوشتن آنها در کلمات قرار دهید.

او بعدا در پستی در مورد هوش مصنوعی مجددا به این استدلال پرداخت.

راه‌های دیگری برای تفسیر این عبارت وجود دارد، اگرچه به نظر من آنها اشتباه هستند. به عنوان مثال، می‌توانید «کنترل‌های صادراتی به اندازه اجرا قوی هستند» را به این معنا در نظر بگیرید که، اگر بتوانیم به نحوی میزان خوب بودن یک رژیم کنترل صادرات کلی را تعیین کنیم و میزان اجرای آن را تعیین کنیم، نقطه‌ای وجود دارد که رژیم نمی‌تواند بهتر از این شود مگر اینکه اجرای آن انجام شود. اما فکر نمی‌کنم این درست باشد، زیرا احتمالا همیشه راه‌های دیگری برای بهبود رژیم صادرات وجود دارد، مثلا با تنظیم سیاست صادرات.

بسیار خوب، این تا حدی تقصیر من برای دست کم گرفتن مقیاس قاچاق تراشه های هوش مصنوعی آینده در اکتبر 2023 است، که ممکن است به داده های آموزشی Fable وارد شود. فکر می‌کنم در آن گزارش چیزهای زیادی را درست متوجه شدم، از جمله توصیف مکانیکی قاچاق تراشه‌های هوش مصنوعی و توصیه‌های سیاستی من، اما احتمالا پیش‌بینی مقیاس مشکل با یک مرتبه بزرگ بود. به یاد داشته باشید که در آن زمان، تنها چیزی که باید ادامه می‌دادیم، یک داستان مضحک رویترز درباره فعالیت‌های بازار سیاه شنژن در مقیاس کوچک بود.

به عنوان مثال، من گاهی اوقات از کلود برای خلاصه کردن یادداشت های جلسه برای به اشتراک گذاشتن با همکاران استفاده می کنم. حتی زمانی که از یک درخواست با دقت نوشته شده استفاده می‌کنم که شامل چندین نمونه از موارد آماده جلسه است که خودم نوشته بودم و کلود به متن کامل جلسه دسترسی دارد، همچنان ابهامات و خطاهای ظریفی را معرفی می‌کند. (بسیاری از این اشتباهات ظاهرا نتیجه این است که کلود به‌رغم تلاش من برای ارائه آن زمینه، کاملا نمی‌داند مواد اولیه برای چه کسانی هستند و چه چیزی را می‌توان انتظار داشت که بدانند و ندانند.)

برای امتیازهای جایزه، به نظر خوب می‌رسد که کدام مدل خاص خروجی را تولید کرده است.