یک کارمند ایمنی OpenAI استعفا داده و زنگ خطر را به صدا در می آورد
دیوید رابینسون گزارش‌های ایمنی را می‌نوشت که هر مدل اصلی منتشر شده در OpenAI را همراهی می‌کرد. این هفته، او از سمت خود استعفا داد و اکنون در سرمقاله ای در آتلانتیک صحبت می کند. این قابل درک است اگر نسبت به اینکه همه ناگهان از چوب کاری بیرون می آیند تا در مورد خطرناک بودن چیزی که در ساخت آنها کمک کرده اند هشدار دهید، کمی بدبین هستید. بالاخره آنها این آشفتگی را درست کردند. اما اینطور نیست…
دیوید رابینسون گزارش‌های ایمنی را می‌نوشت که هر مدل اصلی منتشر شده در OpenAI را همراهی می‌کرد. این هفته، او از سمت خود استعفا داد و اکنون در سرمقاله ای در آتلانتیک صحبت می کند.
این قابل درک است اگر نسبت به اینکه همه ناگهان از چوب کاری بیرون می آیند تا در مورد خطرناک بودن چیزی که در ساخت آنها کمک کرده اند هشدار دهید، کمی بدبین هستید. بالاخره آنها این آشفتگی را درست کردند. اما این بدان معنا نیست که ما باید هشدارهای آنها را کاهش دهیم.
رابینسون می گوید که فرهنگ در صنعت اساسا شکسته شده است. که این یک موضوع عمیق تر از صرف قوانین یا مقررات جدید در مورد نحوه مدیریت مدل های آموزشی است. سیلیکون…
داستان کامل را در The Verge بخوانید.
متن اصلی (انگلیسی)
An OpenAI safety employee has quit and is sounding the alarm
David Robinson used to write the safety reports that accompanied every major model release at OpenAI. This week, he resigned from his position and is now speaking out in an editorial in The Atlantic. It's understandable if you're feeling a bit cynical about everyone suddenly coming out of the woodwork to warn about how dangerous the thing they helped build is. They did, after all, make this mess. But that doesn't…