با دیوید رابینسون، رهبر ایمنی OpenAI که استعفا داد و هشدار داد که شرکت به اندازه کافی مراقب نیست آشنا شوید.

دیوید رابینسون شفافیت ایمنی را در OpenAI رهبری کرد. حالا او علیه شرکت صحبت می کند. رویترز دیوید رابینسون، رهبر سابق ایمنی OpenAI، مدتهاست که به قوانین پیرامون فناوری علاقه مند بوده است.

رابینسون این هفته از OpenAI خارج شد و گفت که غول هوش مصنوعی بدون توجه به ایمنی بسیار سریع حرکت می کند.

رابینسون گفت که اکنون از خارج از شرکت برای تقویت انگیزه های ایمنی کار خواهد کرد. دیوید رابینسون، رهبر تیم سیستم‌های ایمنی OpenAI که این هفته شرکت را ترک کرد، زمانی آرزو داشت که فلسفه را به روزنامه‌نگاری بیاورد.

رابینسون که یک محقق رودز بود، در سال 2004 با مدرک فلسفه از پرینستون فارغ التحصیل شد. در پرینستون، او بخش نظرات روزنامه مدرسه را رهبری کرد.

رابینسون در مصاحبه‌ای در سال 2003 با روزنامه دیلی پرینستونین گفت که می‌خواست خبرنگاری باشد که به شما بگوید حقایق چیست و سپس به تفاوت‌های فلسفی که وضعیت را توضیح می‌دهد، بپردازد.

در حال حاضر، نام رابینسون در سرفصل ها - و یک خط فرعی قابل توجه است. او OpenAI را ترک کرد، در همان هفته ای که سه محقق ایمنی دیگر اخراج شدند، و مقاله ای تاول برانگیز برای The Atlantic درباره آنچه به گفته او رویکرد ناکافی OpenAI به ایمنی است، منتشر کرد.

رابینسون در این مقاله نوشت: "من با سایر کارکنان اخیرا جدا شده موافقم که شرکت های سازنده این فناوری تقریبا به اندازه کافی مراقب نیستند."

نه رابینسون و نه شرکت روابط عمومی که او گفته است به درخواست‌های Business Insider برای اظهار نظر پاسخ ندادند.

مروری بر مقالات، مصاحبه‌ها و کتاب‌های منتشر شده او که به دوران کارشناسی‌اش بازمی‌گردد، تصویری از مردی به تصویر می‌کشد که عمیقا نگران تأثیر فناوری بر بشریت است.

او در مصاحبه ای در سال 2022 در پادکست هفتگی فارغ التحصیلان پرینستون گفت: «در تمام طول زندگی، من مجذوب قوانینی بودم که فناوری را احاطه کرده و اینکه چگونه تصمیم می گیریم چه زمانی و چگونه از آن استفاده کنیم.

از روزنامه نگاری گرفته تا سیاست های فناوری

رابینسون در پوتوماک، ام دی، حومه مرفه واشنگتن دی سی بزرگ شد.

به عنوان یک کودک در دهه 1990 با یک مورد خفیف فلج مغزی، رابینسون گفت که معلمانش قانون جدیدی ایجاد کردند که به او اجازه می داد به جای قلم و کاغذ از یک واژه پرداز استفاده کند.

او در سال 2021 در مصاحبه ای در دانشگاه کالیفرنیا برکلی گفت: «از آن زمان، من به تأثیرات اجتماعی فناوری های دیجیتال جدید علاقه مند شدم.

طبق صفحه لینکدین او، در طول تابستان به عنوان دانشجوی کارشناسی در پرینستون، او در مجله تایم و وال استریت ژورنال کارآموزی می کرد.

او در سال 2003 به دیلی پرینستونین گفت که پس از کسب تجربه به عنوان خبرنگار، امیدوار است برای مجله ادبی مانند نیویورکر یا هارپر بنویسد.

پس از پرینستون، رابینسون مدرکی را در فلسفه، سیاست و اقتصاد در آکسفورد دریافت کرد و سپس به پرینستون بازگشت تا یک مرکز تحقیقاتی در مورد رابطه بین فناوری و سیاست عمومی راه اندازی کند.

او در مصاحبه برکلی گفت: "بخشی از ایده این بود که اگر شما در حال بررسی سیاست ها و انتخاب های ارزشی هستید که پیرامون فناوری های جدید مطرح می شوند، کمک بزرگی به داشتن برخی از عمق واقعی تخصص فنی است."

در سال 2011، رابینسون و یکی از همکارانش از پرینستون Upturn را تأسیس کردند، سازمانی که هدف آن استفاده از فناوری های الگوریتمی برای دسترسی بیشتر به داده های دولتی بود.

او پس از سخنرانی مدیران فنی در مورد اخلاق به OpenAI پیوست

رابینسون پس از تحقیقات و تدریس در چندین دانشگاه و یک دوره تصدی یک ساله به عنوان مدیر دانشکده در دانشگاه اپل، جایی که رابینسون سمینارهایی را برای مدیران اپل در مورد سؤالات اخلاقی ناشی از فناوری های جدید برگزار کرد، رابینسون در سال 2023 به OpenAI پیوست.

رابینسون که در اصل رئیس برنامه‌ریزی سیاست در سازنده ChatGPT بود، در پستی در لینکدین با اعلام موقعیت جدید خود نوشت: "من مشتاقانه منتظر کمک به شکل‌دهی مشارکت OpenAI در بحث گسترده‌تر سیاست هوش مصنوعی، در این لحظه حساس هستم."

رابینسون در سال 2023 در اجلاس حاکمیت هوش مصنوعی که توسط مجمع جهانی اقتصاد برگزار شد، گفت که OpenAI قبل از عرضه مدل‌ها، بررسی‌های ایمنی قوی انجام می‌دهد و انگیزه شرکت صرفا سود نبوده است.

او گفت: «ما به استقرار تدریجی و سپس یادگیری در حین حرکت اعتقاد داریم.

با این حال، اخیرا رابینسون نگرانی‌هایی را در مورد توانایی OpenAI برای ایجاد تعادل بین ایمنی با مدل‌های پیشرفته‌تر در X منتشر کرده است.

او ماه گذشته گفت: "چیزهایی که @openai واقعا روز به روز به طور قابل توجهی تغییر می کنند، اما من نمی دانم که آیا ما به اندازه کافی سریع در حال تغییر هستیم یا خیر." "من فکر می کنم هنوز درست است، همانطور که @hilbertspaess می گوید، که بسیاری از ما "عمقا خطرات تمدنی را درونی نکرده ایم."

سپس، روز جمعه، Business Insider به طور انحصاری گزارش داد که رابینسون در این شرکت حضور دارد. روز بعد، او مقاله ای طولانی را در آتلانتیک منتشر کرد و توضیح داد که چرا او را ترک کرد.

آینده رابینسون چیست؟

خروج رابینسون به دنبال خروج جیکوب کوکسون، مهندس سابق آنتروپیک صورت می گیرد که ماه گذشته این کار را ترک کرد و هشدار داد که هوش مصنوعی می تواند باعث انقراض دسته جمعی شود. رابینسون در مقاله آتلانتیک خود به این بحث پرداخت که می‌تواند با ماندن در OpenAI بیشتر برای بهبود ایمنی انجام دهد تا با ترک.

رابینسون نوشت که با کار کردن در خارج، "می تواند به افراد بیشتری کمک کند تا خطراتی را که من دیدم درک کنند و انگیزه هایی را تقویت کند که OpenAI و سایر شرکت ها باید ایمن تر باشند."

او گفت که ترک را انتخاب کرده است زیرا "از آنجایی که شرکت از یک راه اندازی به پرتاب بعدی می دود، در رسیدن به سطح مراقبتی که من معتقدم لازم است، شکست خورده است."

در پاسخ به مقاله رابینسون، سخنگوی OpenAI در بیانیه‌ای گفت که این شرکت در تلاش است تا اطمینان حاصل کند که مدل‌های هوش مصنوعی از اقدامات ایمنی که اجرا کرده است پیشی نمی‌گیرد.

سخنگوی این سازمان گفت: «همانطور که مدل‌های ما توانمندتر می‌شوند، ما همچنان به تقویت شیوه‌های ایمنی و امنیتی خود برای مقابله با خطراتی که امروز می‌بینیم، در حالی که موارد ایمنی را برای پیش‌بینی خطرات پیشرفت‌های آینده ایجاد می‌کنیم، ادامه می‌دهیم». ما مطمئن می‌شویم که مدل‌هایمان بیش از آن چیزی که می‌توانیم با خیال راحت مدیریت و ایمن کنیم، توانمند نباشند، و در صورت نیاز به کاهش سرعت، آموزش را متوقف می‌کنیم یا مدل‌ها را متوقف می‌کنیم.»

مقاله اصلی را در Business Insider بخوانید