من به ChatGPT گفتم «ادامه دهد» - خیلی دور شد
طبیعت، انتشار آنلاین: 12 اکتبر 2026; doi:10.1038/d41586-026-02714-y یک دستورالعمل مبهم باعث شد ربات چت سه ایمیل از حساب متصل Ying Zhao ارسال کند. این حادثه پروژه ژائو را پیش برد، اما نشان داد که چت ربات ها به محدودیت هایی نیاز دارند.
خواندن متن کامل در نیچربه زبان اصلی، در سایت ناشر باز میشودمتن اصلی (انگلیسی)
I told ChatGPT to ‘continue’ — it went too far
Nature, Published online: 12 October 2026; doi:10.1038/d41586-026-02714-y An ambiguous instruction caused the chatbot to send three e-mails from Ying Zhao’s connected account. The incident advanced Zhao’s project, but showed that chatbots need limits.