چرا سم آلتمن مردی آزاد است؟

یکی از اعلان‌های خدمات عمومی امضا شده در دوران جوانی من توسط «مشارکت برای آمریکای عاری از مواد مخدر» در سال 1987 ایجاد شد. پدری ظرفی از ظرف را پیدا می‌کند و با پسرش روبرو می‌شود: «چه کسی به تو یاد داد چگونه این کار را انجام دهی؟»

"شما، باشه!" بچه برمیگرده "با تماشای تو یاد گرفتم!"

من توسط AP Stylebook موظفم که هوش مصنوعی را انسان‌سازی نکنم. اما من می‌توانم تصور کنم که این کلمات توسط عواملی که Hugging Face را هک کردند، یا مدل‌هایی که در ده‌ها هزار حادثه، به تعبیر جدید آن زمان، «عدم همسویی» شرکت کردند، به زبان می‌آورند. این به این اشاره دارد که هوش مصنوعی فراتر از نرده‌های حفاظی است که توسط محققان در طول آزمایش داخلی و واقعی ایجاد شده است.

این رویدادها متنوع هستند، اما به طور کلی شامل مدل های OpenAI هستند که به دنبال و به دست آوردن اطلاعات، چه در وب باز یا داخل پایگاه داده های دیگر شرکت ها هستند. ماموران هنگامی که نتوانستند فورا به اطلاعات مورد نظر خود دسترسی پیدا کنند، سعی کردند وب سایت سازمان ملل را تحت تأثیر قرار دهند، به وب سایت دولت استرالیا نفوذ کردند و سعی کردند وب سایت وزارت آموزش و پرورش را هک کنند، اما ناموفق بود.

OpenAI خود سهم بزرگی از این حوادث را فاش کرد، البته نه هک وزارت آموزش، و آموزش را تا زمانی که ... مشخص نیست متوقف کرده است. من حدس می زنم تا زمانی که تبلیغات بد تمام شود.

چرا این اتفاق بارها و بارها می افتد؟ چرا این مدل‌ها برای خراش دادن و سرقت داده‌ها دست به اقدامات غیراخلاقی یا حتی غیرقانونی می‌زنند؟

مدل‌های OpenAI به وب‌سایت‌ها حمله می‌کنند و هر چیزی را که می‌توانند از آنها می‌گیرند، زیرا این مدل کسب‌وکار شرکت است.

یک پرونده حقوقی که چند هفته پیش توسط نیویورک تایمز و 11 ناشر دیگر در یک پرونده نقض حق نسخه برداری علیه OpenAI ارائه شد، توجه کمی را به خود جلب کرد، زیرا کاملا باورنکردنی است که درگیر پرونده ثبت شده است. اما به طرز خیره کننده ای جزئیات آنچه توسط مدیر علوم کاربردی مایکروسافت، یکی دیگر از متهمان پرونده، به عنوان "بزرگترین سرقت نیروی کار در تاریخ بشر" توصیف شده است.

مایکروسافت و OpenAI، در تلاش‌های خود برای آموزش مدل‌های جدید تقریبا بر روی تمام اطلاعات موجود جهان، به طور معمول میلیون‌ها داستان را از وب‌سایت‌های تایمز و سایر ناشران گرفته‌اند. متهمان می گویند که این یک کاربرد ساده از استفاده منصفانه است: استدلال آنها این است که اگر داستانی را بخوانید و به سادگی آنچه را در آن وجود دارد به خاطر بیاورید تا پایگاه دانش خود را گسترش دهید، نمی توان آن را نقض حق چاپ تلقی کرد. اما OpenAI برای براندازی دیوار پرداخت تایمز هزینه ای پرداخت نکرد، در این مرحله عملیات خراش داده آنها ممکن است راحت تر شناسایی شود.

در عوض، آنها راهی برای دور زدن paywall و اجتناب از شناسایی ایجاد کردند. و هنگامی که گرگ براکمن، بنیانگذار و رئیس OpenAI، در مورد این مانور گفته شد، او پاسخ داد، "آه خوب."

لازم نیست خیلی عمیق وارد بحث طبیعت در مقابل پرورش شویم تا مشکوک شویم که نگرش سرسختانه مدیران OpenAI در مورد گرفتن اطلاعاتی که مال آنها نیست، برای محققان و محصولاتی که ایجاد می کنند فیلتر شده است. برای ترسیم این تصویر نیازی به کشش نیست: مدل‌های OpenAI به وب‌سایت‌ها حمله می‌کنند و هر چیزی را که می‌توانند از آنها می‌گیرند، زیرا این مدل کسب‌وکار شرکت است.

احترام به قانون می تواند به معنای واقعی کلمه در کد منبع یک مدل نوشته شود: اگر OpenAI به طور تهاجمی داده ها را از همه جا دانلود می کند، حداقل کاری که می توانند انجام دهند این است که کد ایالات متحده (به ویژه بخشی مرتبط با قانون تقلب و سوء استفاده رایانه ای) را رها کرده و به مدل آموزش دهند تا آن را نقض نکند. واضح است که این یک اولویت نیست و به نوعی با رفتار شخصی OpenAI مطابقت دارد. این وضعیتی نیست که مدل های هوش مصنوعی از کنترل سازندگان خود فرار کنند یا از کنترل آنها فرار کنند.

بیشتر به نظر می رسد که آنها فقط از سازندگان تقلید می کنند، در یافتن میانبرهای یکسان و استفاده از منطق های مشابه برای توجیه آنها ماهر می شوند.

براکمن فوق‌الذکر یکی از بزرگ‌ترین اهداکنندگان به MAGA Inc.، Super PAC ترامپ است. در میان بزرگترین سرمایه گذاران OpenAI، برادر جرد کوشنر است. بنابراین در سطح عملی، من کاملا درک می کنم که چرا ماموران FBI صبح دوشنبه به دفاتر سانفرانسیسکو نرسیدند. اما به عنوان یک موضوع عینی، منطقی نیست که چرا سم آلتمن و برنج برتر در C-suite امروز مردان آزاد هستند.

اکنون تقریبا کلیشه ای شده است که هیچ معافیت هوش مصنوعی از قانون وجود ندارد. نفوذ به وب سایت ها و سرقت مطالب این قانون را نقض می کند. جنسن هوانگ، مدیرعامل انویدیا که بیش از هر کسی در کشور برای تسریع در توسعه هوش مصنوعی تشویق شده است، هفته گذشته گفت که مدل‌های ناهماهنگ نباید ارسال شوند و اگر محصولات منتشر نشده این رفتار سرکش را نشان می‌دهند، پس «باید آزمایشگاه‌ها را تعطیل کنیم».

نسخه ساده خاموش کردن آزمایشگاه‌ها یک تعمیر نرم‌افزاری خودتنظیمی نیست، بلکه فراخوانی محصول است. در دهه 1970، فورد پینتو نقصی در مخزن سوخت خود داشت که باعث می شد خودروها در صورت برخورد از پشت، حتی در سرعت های پایین، شعله ور شوند. اداره ملی ایمنی ترافیک بزرگراه ها بعدا دریافت که در نتیجه آن 27 نفر در تصادفات آتشین جان خود را از دست دادند. همانطور که مادر جونز گزارش داد، یادداشت های داخلی نشان می داد که مدیران از نقص آگاه بودند اما تصمیم گرفتند که پرداخت خسارت شخصی مقرون به صرفه تر از تعمیر قطعه است.

در سال 1978، NHTSA 1.5 میلیون پینتو را از جاده خارج کرد. این با یک گزاره ساده مطابقت دارد که محصولاتی که باعث آسیب می شوند اجازه ندارند در بازار باقی بمانند. فراخوانی فراتر از ارزیابی خود توسط OpenAI برای توقف یا کند کردن توسعه است. من واقعا نمی دانم چرا برای تعیین زمان ایمن بودن مدل ها به آنها اعتماد می شود، زیرا آنها تمایلات مشابهی برای هک کردن و خراش دادن و استخراج داده ها دارند.

از آنجایی که دولت فدرال عمیقا فاسد شده است، ما باید به فلوریدا، که دادستان کل آن جیمز اوثمایر، به این دلیل که آنها نمی توانند محصولات خود را کنترل کنند، برای یک حکم اضطراری علیه OpenAI تشکیل داده اند، تکیه کنیم.

اما گزینه دیگری وجود دارد که باز هم در یک تحول مبهم تر در رسوایی فورد پینتو منعکس شده است. در سال 1980، یک هیئت منصفه بزرگ در الخارت، ایندیانا، کیفرخواستی را علیه شرکت خودروسازی فورد به دلیل قتل به دلیل مرگ سه زن ارائه کرد، اولین باری که یک شرکت به چنین جرمی متهم شد. دادستان کانتی در الخارت مجبور شد برای تشکیل پرونده علیه شرکتی که در آن زمان یکی از بزرگترین شرکت های کشور بود، به داوطلبان تکیه کند و فورد در این پرونده پیروز شد. اما تلاش قوی تر با قدرت آتش عادلانه تر در سمت دادستان می تواند نتایج متفاوتی به همراه داشته باشد.

در حال حاضر چنین مسئولیتی برای مسئولین یک میلیون مایل دورتر به نظر می رسد. تمام این هزاره تا به امروز با فقدان پاسخگویی مشخص شده است. برخلاف مقاله آزاردهنده جاناتان چیت که ارزش لینک دادن به آن را ندارد، من مخالف مقررات هوش مصنوعی نیستم. من فکر می کنم ما باید دزدی را تنظیم کنیم، فریبکاری را تنظیم کنیم، سوء استفاده را تنظیم کنیم، بی عدالتی را تنظیم کنیم. خوشبختانه، ما در حال حاضر توانایی انجام این کار را داریم، با قوانین موجود که هوش مصنوعی را به همان اندازه که هر فعالیت انسانی دیگری را پوشش می دهد، پوشش می دهد.

این واقعیت که ما نمی توانیم چنین پاسخگویی را تصور کنیم، و فکر می کنیم که قوانین جدید با استانداردهای جدید، کاری را انجام می دهند که قوانین موجود آشکارا در انجام آن ناکام هستند، نشان می دهد که مشکل واقعی مورد توجه قرار نگرفته است.

Sandeep Vaheesan از مؤسسه بازارهای آزاد روز گذشته مقاله بررسی قانون روشنگری را منتشر کرد که در آن ادعا کرد که نقض مداوم قانون یک روش رقابت ناعادلانه است. بازیگران ناصادق در اقتصاد عملا مالیاتی را بر صادقانی که طبق قوانین بازی می کنند، وضع می کنند. قانون شکنان توانایی بیشتری در افزایش درآمد و کاهش هزینه ها دارند. این یک مزیت ناعادلانه است ما شاهد بهره مندی OpenAI و محصولات آن از این موضوع در زمان واقعی هستیم. هر کسب و کار دیگری با این سابقه تعطیل خواهد شد.