من پرونده 335 صفحه ای آنتروپیک را از طریق یک آشکارساز نوشتن هوش مصنوعی اجرا کردم. خب خب خب…

به گفته پانگرام، پرونده SEC عمدتا انسانی Anthropic. Pangram / Busin ess Insider تصمیم گرفتم ببینم آیا آنتروپیک از کلود برای پیش نویس اسناد S-1 خود استفاده کرده است یا خیر.

بر اساس ابزار آشکارساز هوش مصنوعی Pangram، این پرونده 92 درصد توسط انسان نوشته شده است.

آیا این چیز خوبی است یا بد؟ من حتی مطمئن نیستم! پرونده مورد انتظار Anthropic S-1 امروز فرود آمد و همه چیزهای جالبی را در مورد برنامه ها و امور مالی فعلی این شرکت فاش کرد.

اما بزرگترین سوالی که داشتم این نبود که "آیا آنتروپیک فکر می کند که نابودی تصادفی بشریت یک خطر تجاری است؟" (بله) یا "چقدر پول از دست می دهند؟" (تعداد زیادی) یا "آیا احساس عجیبی است که بخشی از 50 درصد کارمندانی باشید که تعهد خود را مبنی بر اهدای مقداری از سهام خود برای منافع بیشتر انجام نمی دهند؟" (هنوز متعجبم - اگر این شما هستید، به من اطلاع دهید).

سوال من این بود: آیا آنها از هوش مصنوعی برای نوشتن این چیز استفاده کردند؟

برای اینکه بفهمم، کل پرونده 335 صفحه‌ای S-1 را از طریق Pangram، سرویسی که نشانه‌های نوشتن هوش مصنوعی را بررسی می‌کند، اجرا کردم. خوب، از نظر فنی، سعی کردم آن را از طریق خودم اجرا کنم، اما با چنین فایل عظیمی با مشکلاتی مواجه شدم. من با مدیر عامل و یکی از بنیانگذاران پانگرام مکس اسپرو تماس گرفتم و او فایل کامل را برای من اجرا کرد.

(من همچنین با Anthropic تماس گرفتم تا در مورد نتایج ابزار نظر بدهم. من پاسخی نشنیده‌ام - گمان می‌کنم روز شلوغی برای آنها باشد.)

و قبل از اینکه از من بپرسید چرا از سیستم واترمارکینگ رسمی هوش مصنوعی Anthropic برای بررسی استفاده نکردم، هنوز برای نرم افزارها در دسترس نیست.

در اینجا نتیجه پانگرام برای 259031 کلمه کامل در پرونده S-1 بود: طبق گفته پانگرام، 92 درصد از پرونده های Anthropics S-1 انسان است. Pangram / Business Insider خوب، خوب، خوب!

بنابراین در هر پانگرام مقدار کمی از هوش مصنوعی استفاده می شد. برخی از جملات و عباراتی را که می‌گفت با درجه اطمینان «بالا» حاوی استفاده از هوش مصنوعی پرچم‌گذاری کرد، مواردی مانند: «سرعت توسعه هوش مصنوعی بسیار سریع است، با نسخه‌های متوالی مدل‌هایی که در بازه‌های زمانی فشرده‌شده ظاهر می‌شوند، که اغلب در ماه‌ها به جای سال‌ها اندازه‌گیری می‌شوند».

اسپرو به من گفت: "خوانده من در نتیجه ای مانند این این است که نشان دهنده ویرایش سبک هوش مصنوعی یا استفاده از هوش مصنوعی در سطح جمله است." "به نظر نمی رسد که هیچ بخش مهمی از سند کاملا با هوش مصنوعی تولید شده باشد." نمونه‌ای از جمله‌ای که پانگرام آن را با اطمینان «بالا» به‌عنوان تولید شده توسط هوش مصنوعی پرچم‌گذاری کرد. پانگرام این یکی از محدودیت‌های چیزی مانند Pangram است که 100% کامل نیست و روشی که مردم امروزه از ابزارهای هوش مصنوعی برای ویرایش و تصحیح استفاده می‌کنند ممکن است بر نتایج تأثیر بگذارد.

همکار من آکی ایتو تمام پست های لینکدین و مقالات خود را در اینجا در Business Insider از طریق Pangram به عنوان یک آزمایش منتشر کرد و در نهایت با یک شگفتی کوچک روبرو شد: یک جمله در یک مقاله به عنوان AI نوشته شده بود. وقتی او به آن نگاه کرد، دید که ChatGPT به او پیشنهاد داده است که جمله اصلی خود را که توسط انسان نوشته شده بود، بازنویسی کند، و او عبارت جدید را پذیرفت.

(من از Grammarly، یک ابزار دستور زبان مبتنی بر هوش مصنوعی استفاده می‌کنم که عمدتا به جرایم مکرر من علیه کاما کمک می‌کند، اما گاهی اوقات پیشنهاد می‌کند که بازنویسی کنم، که گاهی آن را می‌پذیرم و گاهی رد می‌کنم، اگرچه نگرانم که ممکن است به عنوان AI پرچم‌گذاری شود).

بنابراین به نظر می‌رسد که آنتروپیک هنوز انسان‌های واقعی دارد - کوله‌های گوشتی آهسته، گران قیمت و خطاپذیر - این سند عظیم را فقط با کمک کمی از کلود در ویرایش نوشته است. این ممکن است برای تیم‌های IPO و S-1، یا حداقل S-1 برای شرکت‌های واقعی هوش مصنوعی مناسب باشد. (اگر شما یک بانکدار هستید که روی S-1 کار می کنید، به من ایمیل بزنید!)

من نمی توانم بگویم که آیا فکر می کنم این یک نشانه خوب یا بد برای آنتروپیک (و جهان) است؟

از یک طرف، آیا آنتروپیک نباید به اصطلاح غذای سگ خود را بخورد و با افتخار از هوش مصنوعی خود برای چنین چیزی استفاده کند؟ بایگانی S-1 مملو از نوع نوشته‌های دیگ بخار، بدون جذابیت و فنی است که تصور می‌کنید هوش مصنوعی برای جایگزینی انسان مناسب است. اگر آنتروپیک به دردسر داشتن انسان‌های واقعی (احتمالا با دستمزد بالا) هر یک از 250000+ کلمه را در اینجا بنویسد، خوب، ایمانش به محصول خودش کجاست؟ من نمی توانید به کلود برای نوشتن S-1 خود اعتماد کنید، آیا می توانید به آن برای درمان سرطان اعتماد کنید؟

از طرف دیگر، خدا را شکر که این 100٪ با هوش مصنوعی نوشته نشده است. زمانی که کمیسیون بورس و اوراق بهادار در حال بررسی هر کلمه ای است، ریسک بسیار بالاست. اگر می خواهید به مردم بگویید شرکت شما صدها میلیارد دلار ارزش دارد، حداقل یک انسان حضور پیدا کنید و آن را تایپ کنید، درست است؟

من حدس می‌زنم که بانکداران در همه جا می‌توانند نفس راحتی بکشند.

مقاله اصلی را در Business Insider بخوانید