دیوید رابینسون، رهبر ایمنی OpenAI، با بالا گرفتن تحولات تیم استعفا داد

سام آلتمن، مدیر عامل OpenAI، در کنفرانس DevDay این شرکت در روز سه شنبه در سانفرانسیسکو سخنرانی می کند. بلومبرگ/گتی ایماژ دیوید رابینسون، رهبر تیم سیستم های ایمنی OpenAI، در این شرکت حضور دارد.

یک سخنگوی به Business Insider گفت که او هفته گذشته استعفا داد.

این خروج تحولات بیشتری را به رتبه های ایمنی شرکت هوش مصنوعی اضافه می کند. دیوید رابینسون، رهبر تیم سیستم های ایمنی OpenAI، از این شرکت استعفا داد.

یکی از سخنگویان OpenAI روز جمعه به Business Insider گفت که رابینسون هفته گذشته ترک کرد و این یک لحظه دیگر از تحول در رتبه های ایمنی شرکت بود. رابینسون قبلا برنامه ریزی خط مشی شرکت را رهبری کرده بود.

رابینسون روی شفافیت ایمنی در شرکت کار کرد، از جمله کمک به توسعه و اشتراک کارت‌های سیستمی که اطلاعاتی در مورد مدل‌های آن ارائه می‌دهند.

او بلافاصله به درخواست ها برای اظهار نظر پاسخ نداد.

خروج رابینسون همراه با موجی از توجه به اقدامات ایمنی و کارکنان OpenAI است. این شرکت روز پنجشنبه به اشتراک گذاشت که راه خود را با سه محقق "جدا کرده" و گفت که آنها سیاست های خود را برای به اشتراک گذاری اطلاعات حساس نقض کرده اند.

پس از نقض امنیتی پرمخاطب Hugging Face، OpenAI با مجموعه ای از حوادث ایمنی دیگر دست و پنجه نرم می کند که در آن گفته است مدل های هوش مصنوعی خود بدرفتاری کرده اند.

پیشرفت در قابلیت‌های مدل، محققان و مدیران شرکت را بر آن داشته تا خواهان کاهش سرعت توسعه هوش مصنوعی باشند. سام آلتمن، مدیر عامل OpenAI، در کنفرانس توسعه دهندگان شرکت در روز سه شنبه، گفت که ایمنی و همسویی باید جلوتر از قابلیت های مدل باشد.

یوهانس هایدکه، رئیس ایمنی این شرکت نیز اوایل سال جاری این شرکت را ترک کرد.

رابینسون، در اوایل سپتامبر، در X نوشت که احساس می‌کند افراد در OpenAI با پیامدهای مدل‌های هوش مصنوعی بسیار توانمند بیدار می‌شوند و همچنین شک داشت.

او در X نوشت: همه چیز در OpenAI "واقعا روز به روز به طور قابل توجهی در حال تغییر است، اما من نمی دانم که آیا ما به اندازه کافی سریع در حال تغییر هستیم یا خیر."

نکته ای دارید؟ با این خبرنگار از طریق ایمیل به آدرس scouncil@businessinsider.com یا از طریق پیامک، سیگنال، تلگرام یا واتساپ به شماره 415-757-8198 تماس بگیرید. از یک آدرس ایمیل شخصی، یک شبکه WiFi غیرکار، و یک دستگاه غیر کاری استفاده کنید. در اینجا راهنمای ما برای به اشتراک گذاری ایمن اطلاعات است.

مقاله اصلی را در Business Insider بخوانید