افشاگر فیس‌بوک پشت «حساب اجتماعی» می‌گوید زاکربرگ با هوش مصنوعی «با آتش بازی می‌کند»

به Eye on AI خوش آمدید. بئاتریس نولان اینجاست. در شماره امروز:

افشاگر فیس بوک در شرط بندی هوش مصنوعی متا.

رهبری حقوق بشر OpenAI: آنچه ارتش می تواند با هوش مصنوعی انجام دهد "من را در شب بیدار نگه می دارد."

کارکنان ایمنی OpenAI اخراج شده از شرکت می خواهند از نظارت بر هوش مصنوعی محافظت کنند.

و رأی دهندگان به طور فزاینده ای هوش مصنوعی را تهدیدی برای کارگران آمریکایی می دانند.

ابتدا، یک یادداشت سریع: فورچون برین استورم AI به سانفرانسیسکو بازمی‌گردد تا فن‌آوران، کارآفرینان، مدیران فورچون گلوبال 500، سرمایه‌گذاران، سیاست‌گذاران و ذهن‌های باهوش را در میان بگذارد تا مبرم‌ترین پرسش‌ها درباره هوش مصنوعی را بررسی کنند. ما چگونگی استقرار و مقیاس‌بندی هوش مصنوعی توسط سازمان‌ها را در صنایع خود بررسی خواهیم کرد. بیا اونجا به من بپیوند برای حضور در حال حاضر اقدام کنید

این هفته فیلم The Social Reckoning به کارگردانی آرون سورکین که دنباله‌ای از شبکه اجتماعی است در سینماهای ایالات متحده اکران می‌شود. فیلم سال 2010 درباره چگونگی تأسیس فیس بوک بود. این یکی درباره لحظه حسابرسی شرکت است: تصمیم افشاگر فرانسیس هاگن در سال 2021 برای خروج از شرکت با ده ها هزار صفحه اسناد داخلی.

Haugen با بازی Mikey Madison در فیلم جدید، مدیر محصول در تیم یکپارچگی مدنی فیس بوک بود. او این اسناد را به جف هورویتز، خبرنگار وال استریت ژورنال، با بازی جرمی آلن وایت، داد و بعدا این اسناد مبنای یک سری داستان های تحقیقی و برنده جوایز شد که ژورنال آن را The Facebook Files نامید. از جمله، این سریال فاش کرد که محققان خود شرکت دریافته‌اند که اینستاگرام مشکلات تصویر بدن را برای برخی از دختران نوجوان بدتر می‌کند.

هاوگن شکایات افشاگران را به کمیسیون SEC ارسال کرد و در مجلس سنا شهادت داد و افشای او از آن زمان به موجی از شکایت علیه شرکت های رسانه های اجتماعی کمک کرد.

من این هفته با هاوگن در مورد اینکه چگونه فیس بوک (البته اکنون متا نامیده می شود) تغییر کرده است، از زمانی که او کناره گیری کرده است، آنچه او از فشار هوش مصنوعی مارک زاکربرگ، مدیرعامل متا می گوید، و آنچه او می خواهد کارمندان در آزمایشگاه های پیشرو از فیلم بگیرند، صحبت کردم.

هاگن به فورچون گفت: "امید من برای فیلم این است که مردم، به ویژه در آزمایشگاه های هوش مصنوعی مرزی، خود را در شخصیت فرانسیس هاگن ببینند. اگر چیزی را دیدند، احساس می کنند می توانند چیزی بگویند."

اما، در لحظه‌ای که صنعت هوش مصنوعی مملو از اضطراب وجودی است و حتی رهبران آن خواستار ترمز هستند، Haugen از توقف توسعه هوش مصنوعی دفاع نمی‌کند.

او گفت: «ما هرگز ممنوعیتی را که بتوانیم به درستی بررسی کنیم، انجام نداده‌ایم. "آهسته کردن سرعت فقط به این معنی است که هر کس نمی خواهد سرعت خود را کاهش دهد برنده است."

در عوض، او از بخش متفاوتی از طرح اخیر داریو آمودی حمایت می کند: حسابرسان مستقل. آمودی پیشنهاد کرد که آزمایشگاه‌های مرزی به ارزیاب‌های شخص ثالث دسترسی مستمر و «مانند کارمندان» را برای بررسی شیوه‌های ایمنی و گزارش رویدادها بدهند، و سام آلتمن، مدیر عامل OpenAI گفت که شرکت او نیز همین کار را انجام خواهد داد. هاوگن می‌گوید بهترین روش کاهش آسیب‌های هوش مصنوعی این است که این نوع حسابرسی توسط قانون در سراسر صنعت الزامی شود، روشی که حسابرسان خارجی حق دارند کتاب‌ها را در بانک‌ها بررسی کنند.

او گفت که شرکت‌های هوش مصنوعی در حال حاضر تحقیقات بسیار بیشتری نسبت به فیس‌بوک درباره محصولات خود منتشر می‌کنند، اما او این سوال را مطرح می‌کند که آیا آنچه منتشر می‌کنند منعکس کننده چیزی است که واقعا در داخل اتفاق می‌افتد.

در مورد متا، هاوگن تلاش‌های اخیر زاکربرگ در زمینه هوش مصنوعی را «بازی با آتش» می‌داند که ناشی از تمایل او به یک میراث مثبت است. او همچنین فکر نمی کند که شرکت از زمانی که او سوت زد تغییر کرده باشد. او گفت: «من تغییر فرهنگی را ندیده‌ام که نشان دهد آن‌ها...برگی جدید برگردانده‌اند.

متا هنوز در پشت آزمایشگاه های برجسته ای مانند Anthropic و OpenAI قرار دارد و زاکربرگ در عقب راندن تلاش های نظارتی برجسته بوده است.

او درباره موضع ضد مقررات زاکربرگ گفت: «او می‌خواهد به عقب بیفتد، بنابراین می‌خواهد تا زمانی که با بچه‌های بزرگ سر یک میز قرار نگیرد، هیچ محدودیتی وجود نداشته باشد، نه اینکه فقط وانمود کند که پسران بزرگ هستند.»

(فورچون برای اظهار نظر در مورد ادعاهای هاوگن با متا تماس گرفت، اما شرکت قبل از زمان انتشار پاسخی نداد.)

تعدیل محتوای هوش مصنوعی

اینکه چگونه متا محتوای مضر را در پلتفرم خود تعدیل می‌کرد، بخش بزرگی از افشاگری‌های Haugen در سال 2021 بود. برخی از اسناد داخلی که او گرفت نشان می‌داد که فیس‌بوک در حدود 3 تا 5 درصد از سخنان مشوق تنفر در این پلتفرم عمل کرده است، و او قبلا گفته بود تصمیم شرکت برای انحلال تیم یکپارچگی مدنی‌اش پس از انتخابات 2020 به او کمک کرد تا جلو بیاید.

سال گذشته، متا تعدیل محتوای خودکار خود را به سمت نقض‌های شدید تغییر داد و برخی از برنامه‌های بررسی واقعیت شخص ثالث خود را با سیستم یادداشت‌های انجمن به سبک X جایگزین کرد. امسال فراتر رفته است. در ماه مارس، اعلام کرد که برای اجرا کمتر به فروشندگان خارجی و پیمانکاران انسانی متکی خواهد بود و در ژوئن فایننشال تایمز گزارش داد که مدل‌های هوش مصنوعی قبلا حدود نیمی از درخواست‌های بازبینی انسانی را به عهده گرفته‌اند.

هاوگن انتظار دارد که مدل های بهتر اشتباهات کمتری داشته باشند و محتوای مضر بیشتری را دریافت کنند، اما نه همه آنها. او گفت که وقتی او را ترک کرد، شرکت حدود 5 درصد از محتوای مضر را جذب کرد. اما او پیش‌بینی می‌کند که حتی هوش مصنوعی بسیار پیشرفته نیز ممکن است تنها به 10 تا 20 درصد برسد، زیرا زبان بسیار ظریف است.

او گفت: "راه حل واقعی این است که سیستم ها را از ابتدا به گونه ای ایمن تر طراحی کنیم، نه فقط تلاش برای تمیز کردن آنها در پایان."

با آن، در اینجا اخبار بیشتری در زمینه هوش مصنوعی وجود دارد.

بئاتریس نولان beatrice.nolan@fortune.com @beafreyanolan

این داستان در ابتدا در سایت Fortune.com منتشر شد