رهبر حقوق بشر OpenAI: آنچه ارتش می تواند با هوش مصنوعی انجام دهد "من را در شب بیدار نگه می دارد"

در ماه ژوئن، سارا یاگر نقش غیرمعمولی را در OpenAI ایفا کرد و به اولین رهبر حقوق بشر و استقرار مسئولانه این شرکت تبدیل شد. او با توجه به تجربه 30 ساله خود در این زمینه و همکاری OpenAI با وزارت جنگ (DoW) روی برنامه های نظامی متمرکز شده است.

یاگر در مورد نقش خود روی صحنه سه شنبه در کنفرانس ScaleUp: AI در شهر نیویورک صحبت کرد و در آنجا به نگرانی های خود در مورد نهادهای نظامی که هوش مصنوعی را اتخاذ می کنند، به ویژه در درگیری های مسلحانه اشاره کرد.

یاگر گفت: «همه بسیار نگران هستند و به درستی نگران هستند. "این من را در شب بیدار نگه می دارد: "ارتش در مورد هدف قرار دادن با هوش مصنوعی چه خواهد کرد؟ و در مورد سلاح های خودمختار چطور؟ و همه اینها به کجا می رود؟"

ارتش‌ها در سراسر جهان به سرعت در حال استفاده از هوش مصنوعی در عملیات خود هستند زیرا سلاح‌های جدید و سیستم‌های خودمختار مانند پهپادها و روبات‌ها را توسعه می‌دهند.

یاگر اکنون این فرصت را دارد که با سوالات دشواری که از درون یکی از قدرتمندترین شرکت های هوش مصنوعی در جهان مطرح می کند، دست و پنجه نرم کند. یاگر گفت: "من همیشه می خواستم به جاهایی بروم و مردم را متقاعد کنم که حقوق بشر لزوما ایده غالب نبود." با پوزش از همکاران OpenAI، من اکنون در شکم هیولا هستم و در واقع مکان بسیار راحتی برای من است زیرا کاری که من دوست دارم انجام دهم، متقاعد کردن، بحث و مناظره است و امیدوارم سوزن را حرکت دهم.

OpenAI مدت کوتاهی پس از امضای قراردادی با DoW با DoW در اواخر فوریه برای استقرار سیستم‌های هوش مصنوعی پیشرفته در محیط طبقه‌بندی‌شده، معامله‌ای پرمخاطب که به دنبال درگیری عمومی بین DoW و Anthropic انجام شد، برای این کار به سراغ Yager رفت. آنتروپیک می‌خواست نرده‌هایی را در مورد نحوه استفاده ارتش از فناوری خود، به ویژه ممنوعیت نظارت عمومی و سلاح‌های کاملا خودمختار، که وزارت دفاع با آن موافقت نمی‌کند، قرار دهد.

سپس DoW آنتروپیک را یک ریسک زنجیره تامین نامید، در حالی که OpenAI وارد قرارداد شد و ادعا کرد که در جلب موافقت DoW با نرده‌های محافظ مشابه موفق بوده است.

او گفت که ایده کار در OpenAI برای یاگر "بله فوری" نبود، زیرا این ظن بود که شرکت ممکن است او را به عنوان "تمرین برندسازی" استخدام کند، همانطور که مصاحبه کننده روی صحنه بیان کرد، به این معنی که او می تواند شرکت را مسئول جلوه دهد - شخصیتی بدون تأثیر واقعی بر فناوری. اما یاگر در صحبت کردن با کارمندان، به‌ویژه «نسل جوانی که بسیار نگران چیزهایی هستند که می‌آفرینند و چه کسی در فرمان است، دقت لازم را انجام داد» و احساس کرد که مجبور است به آن بپیوندد تا ببیند آیا او می‌تواند تغییری ایجاد کند یا خیر.

از زمان پیوستن، او موفقیت هایی را در جهت گیری فناوری و همچنین نگرانی هایی در مورد اینکه به کجا می رود، داشته است. سی‌ان‌ان ماه گذشته گزارش داد که استفاده از هوش مصنوعی در برنامه‌های نظامی دشوار است، به طوری که ارتش ایالات متحده تقریبا یک کشتی نظامی چینی را بر اساس یک گزارش اطلاعاتی نادرست و تولید شده توسط هوش مصنوعی هدف قرار می‌دهد.

یاگر توانسته است مستقیما با محققان و مهندسان برای بهبود مدل‌ها کار کند، مانند اطمینان از اینکه آنها به توافقات بین‌المللی اساسی، از جمله قوانین جنگ، که در سال 1949 در کنوانسیون‌های ژنو پس از جنگ جهانی دوم وضع شده‌اند، پاسخ‌های مناسبی دارند. او متخصصان بین‌المللی را آورد تا «به معنای واقعی کلمه پشت صفحه‌کلید بنشینند و اعلان‌هایی را برای درگیری‌های بسیار بالا ارائه کنند» و از مهندسان خواست تا مدل‌ها را بر اساس پاسخ تغییر دهند. یاگر گفت: "این کار قبلا هرگز انجام نشده بود، بنابراین بسیار خوشحال کننده بود."

او فکر می‌کند که شرکت‌های هوش مصنوعی در تلاش هستند تا برای مسائلی مانند تعریف انسانیت و اخلاق، «چرخ را دوباره اختراع کنند». او با اشاره به توافق نامه های کنوانسیون ژنو گفت: "جوامع قبلا بسیاری از این چیزها را کشف کرده اند، و به آن حقوق بشر می گویند. این باید پایه باشد." من نمی‌خواهم یک شرکت هوش مصنوعی به من بگوید چه چیزی خوب است. اگر به صنعت اجازه دهیم تشخیص دهد چه چیزی خوب است، آنگاه برای همه رایگان است.

یاگر همچنین اشاره کرد که او از بحث در داخل سیلیکون ولی در مورد اینکه آیا هوش مصنوعی و به‌ویژه فناوری‌های عامل جدید باید حقوقی داشته باشند، کمی ناامید شده است. این چیزی است که OpenAI در طول فرآیند مصاحبه از او پرسید. او در آن زمان «نه» گفت و تأکید کرد که بر حقوق بشر تمرکز کرده است، اما از آن زمان بیشتر به این سؤال فکر کرده است. اکنون، او نسبت به گفتگوهای «بسیار مهم» در مورد «جایی که کارگزاران در ساختارهای قانونی، ساختارهای کارگری، ساختارهای مالیاتی قرار می‌گیرند» بازتر است، اما خاطرنشان می‌کند که این سؤالات موضوعی حقوقی نیستند.

او گفت: «این اصلا قابل مقایسه با حقوق بشر نیست و من واقعا دوست دارم که بتوانیم به حقوق بشر بازگردیم. جمعیت - عمدتا تاجران مناسب - شروع به کف زدن کردند. مصاحبه کننده روی صحنه گفت: «تشویق بزرگ برای آن».

یکی دیگر از نگرانی‌های او گروه‌های جمعیتی نسبتا جزیره‌ای است که هوش مصنوعی می‌سازند. به عنوان مثال، هفته گذشته پرزیدنت ترامپ ده ها تن از رهبران صنعت فناوری را در واشنگتن گرد هم آورد تا درباره ایمنی هوش مصنوعی بحث کنند. همه امضاکنندگان توافقنامه ایمنی داوطلبانه مرد بودند، و همانطور که عکس‌های گروه گسترده‌تر حاضر در یک رویداد ناهار نشان می‌دهد، همه شرکت‌کنندگان مرد بودند (به جز لیزا سو، مدیرعامل AMD).

یاگر گفت: «مردها فوق‌العاده هستند، اما این یک عکس بسیار مردانه بود که چه کسی در مورد هوش مصنوعی تصمیم می‌گیرد. یکی از مشکلات آن این است که هوش مصنوعی به طور اساسی تعادل قدرت را بین مردم در سراسر جهان تغییر می‌دهد، شما جوامع آسیب‌دیده را در آن بالا ندیدید.

یاگر خاطرنشان کرد که دولت به سرعت در حال استفاده از هوش مصنوعی است. او به نهادهای نظارتی، مانند دفتر پاسخگویی دولت و بازرس کل کمک می کند تا ابزارهایی را برای نظارت بر آنچه انجام می دهد بسازند. او گفت که مکانیسم پاسخگویی برای دموکراسی مهم است.

این داستان در ابتدا در سایت Fortune.com منتشر شد