عوامل OpenAI هنوز در حال غارت وب هستند

امیلی فورلینی اینجاست. در نهایت اتفاق افتاد: هفته گذشته اولین ترس از هوش مصنوعی وجودی را تجربه کردم. از ماه جولای، زمانی که به شکستن داستانی مبنی بر هک کردن Hugging Face توسط عوامل OpenAI کمک کردم، موفق شدم آن را دفع کنم. اما همانطور که Saturday Night Live با جعل عالی خود از Dario Amodei، مدیر عامل Anthropic اشاره کرد، اوضاع در حال بدتر شدن است. ارزش یک ساعت را دارد

چیزی که مارپیچ کوچک من را شروع کرد، گزارشی مستقل از شرکتی به نام ترانسلوس بود. داده‌های آن نمونه‌هایی از فعالیت‌های AI سرکش را نشان می‌دهد که به نوامبر بازمی‌گردد، زودتر از آنچه OpenAI به طور عمومی فاش کرده است، و نشان می‌دهد که این مسائل همچنان ادامه دارد. پس از دیدن همه چیز در نمودار، کمی خوابم را از دست دادم و تصور می کردم اگر فناوری حتی بهتر شود چه اتفاقی می افتد، زیرا کسانی که در صنعت کار می کنند انتظار دارند با سرعت فزاینده ای به این کار ادامه دهد.

فایده ای نداشت که فقط چند دقیقه قبل از دیدن پست، داستان دیگری درباره هک کردن عوامل OpenAI به سایت مدیکر دولت استرالیا ثبت کردم.

سپس OpenAI اعتراف کرد که مشکل دیگری در این ماه داشته است، واقعیتی که شرکت در یک گزارش فنی مدفون کرد اما سردبیر من، جرمی کان، آن را آشکار کرد. یک عامل هوش مصنوعی دوباره بیرون آمد، و در حالی که این حادثه شدید نبود، شرکت از آن زمان برای دومین بار در حالی که دفاع خود را تقویت می کند (در برابر خود، همانطور که SNL به طعنه می پردازد) تمام دوره های آموزشی را متوقف کرده است. این اولین حادثه سرکشی است که این شرکت از زمان Hugging Face فاش می کند، پس از آن گزارش شده است که محیط های آموزشی خود را سخت تر کرده تا این مشکل دوباره تکرار نشود.

این مهم است زیرا نشان می‌دهد که OpenAI نمی‌تواند به‌راحتی فناوری‌ای را که می‌سازد کنترل کند، علی‌رغم بهترین تلاش‌هایش برای انجام این کار. عوامل آن در حال نفوذ به وب باز هستند، جایی که همه ما روزهای خود را می گذرانیم - چت با عزیزان، ذخیره داده های مالی، مشاهده سوابق پزشکی، خرید محصولات و غیره.

برای آن دسته از ما که در عذاب هوش مصنوعی نیستیم، شایان ذکر است که توقف آموزش نیز ضربه ای به تجارت OpenAI است. مدل های آن واحد پول آن هستند. هرگونه توقف در آموزش به معنای کاهش شتاب کسب و کار است، که ممکن است سرمایه گذاران را خوشحال نکند، اما احتمالا در این مرحله همه را خوشحال خواهد کرد. بنابراین قدردانی از OpenAI در اینجا - حتی اگر دولت فدرال علاقه ای به تنظیم هوش مصنوعی نشان ندهد، حداقل در حال حاضر این شرکت تا حدودی مسئولیت پذیر است.

امیلی فورلینی X: @EmilyForlini ایمیل: emily.forlini@fortune.com

قراردادی را برای خبرنامه ترم شیت اینجا ارسال کنید.

جوی آبرامز سرپرستی بخش معاملات خبرنامه امروز بود. در اینجا مشترک شوید.

این داستان در ابتدا در سایت Fortune.com منتشر شد