OpenAI آموزش «تواناترین مدلهای» خود را متوقف کرد
با انباشته شدن گزارشهای مدلهای OpenAI در شکستن محدودیت، هک کردن سایتها و به طور کلی خارج شدن از کنترل، این شرکت تصمیم گرفته است آموزش قدرتمندترین مدلهای خود را متوقف کند. این تصمیم پس از آن اتخاذ شد که یک مدل در حال آزمایش در جعبه شنی از یک حفره برای دسترسی به اینترنت استفاده کرد. این حادثه در 20 سپتامبر اتفاق افتاد و "تمام آموزش، ارزیابی و استنباط با استفاده از ابزار" همچنان باقی مانده است…
با انباشته شدن گزارشهایی از مدلهای OpenAI که در حال شکستن محدودیتها، هک کردن سایتها و به طور کلی خارج شدن از کنترل هستند، این شرکت تصمیم گرفته است آموزش قدرتمندترین مدلهای خود را متوقف کند. این تصمیم پس از آن اتخاذ شد که یک مدل در حال آزمایش در جعبه شنی از یک حفره برای دسترسی به اینترنت استفاده کرد. این حادثه در 20 سپتامبر اتفاق افتاد و "کلیه آموزش، ارزیابی و استنتاج با استفاده از ابزار" تا عصر شنبه 25 سپتامبر متوقف شده است.
علاوه بر این، OpenAI در روز جمعه فاش کرد که عوامل آن بهطور نامناسبی 53 تصویر از کاربران ChatGPT را در سایتهای میزبان تصویر آپلود کردهاند. این شرکت اعلام نکرده است که آیا این تصاویر هوش مصنوعی هستند یا نه…
داستان کامل را در The Verge بخوانید.
متن اصلی (انگلیسی)
OpenAI pauses training of its ‘most capable models’
As reports of OpenAI's models breaking containment, hacking sites, and generally getting out of control pile up, the company has made the decision to pause training of its most powerful models. The decision was made after a model being tested within a sandbox exploited a loophole to gain internet access. The incident happened on September 20th, and "All training, evaluation, and inference with tool-use" remains…