عوامل هوش مصنوعی محدودیت های نظارت انسانی را آزمایش می کنند
OpenAI شش مورد از رفتارهای مدل غیرمنتظره یا نگران کننده را فاش کرد زیرا شرکت های هوش مصنوعی با نحوه نظارت بر عوامل مستقل به طور فزاینده دست و پنجه نرم می کنند و اینکه آیا نظارت مستقل قوی تری نیاز است یا خیر. شیرین غفاری، خبرنگار هوش مصنوعی بلومبرگ، با پیوستن به دیوید گورا در بلومبرگ این آخر هفته، توضیح میدهد که بحث ایمنی در حال افزایش فوریت ژئوپلیتیکی است، زیرا رئیس جمهور دونالد ترامپ بر حفظ برتری ایالات متحده در ...
OpenAI شش مورد از رفتارهای مدل غیرمنتظره یا نگران کننده را فاش کرد زیرا شرکت های هوش مصنوعی با نحوه نظارت بر عوامل مستقل به طور فزاینده دست و پنجه نرم می کنند و اینکه آیا نظارت مستقل قوی تری نیاز است یا خیر. شیرین غفاری، گزارشگر هوش مصنوعی بلومبرگ، با پیوستن به دیوید گورا در بلومبرگ این آخر هفته، توضیح میدهد که بحث ایمنی به فوریت ژئوپلیتیکی میگیرد، زیرا رئیسجمهور دونالد ترامپ بر حفظ برتری ایالات متحده بر چین و در عین حال مقاومت در برابر درخواستها برای کند کردن توسعه هوش مصنوعی تاکید میکند. (منبع: بلومبرگ)
متن اصلی (انگلیسی)
AI Agents Test the Limits of Human Oversight
OpenAI disclosed six cases of unexpected or concerning model behavior as AI companies grapple with how to monitor increasingly autonomous agents and whether stronger independent oversight is needed. Joining David Gura on Bloomberg This Weekend, Bloomberg News AI Reporter Shirin Ghaffary explains that the safety debate is taking on geopolitical urgency as President Donald Trump emphasizes maintaining the US lead over…