مدیر عامل Hugging Face هشدار داد که مستند هک OpenAI نتفلیکس دقیق نیست

قبل از اینکه مستند نتفلیکس "AI Gone Rogue" را با خانواده یا دوستان خود به اشتراک بگذارید تا به آنها کمک کنید بفهمند چرا صنعت هوش مصنوعی به شدت وحشت زده شد و رهبران خواستار کاهش سرعت شدند، توجه داشته باشید: کلم دلانگ، یکی از بنیانگذاران و مدیر عامل پلتفرم هوش مصنوعی Hugging Face، می گوید که فیلم دقیق نیست. او در آن ظاهر می شود زیرا قرار است در مورد حمله معروف به شرکت او توسط عوامل سرکش OpenAI باشد.

دلانگ در پستی در X نوشت: "بسیار ناامید کننده، زیرا آنها به سمت حداکثر انسان گرایی فناوری و حالت نابودی کامل رفتند."

اگر بخواهیم منصف باشیم، این مستند دارای کارشناسانی است که اتفاقات رخ داده را به خوبی توضیح داده اند، از جمله خود دلانگ و رایان گرینبلات، محققی در METR که به تحقیق و نگارش گزارش در مورد آنچه اتفاق افتاده کمک کرده است.

به طور خلاصه، مدلی که OpenAI در حال آزمایش بود، از محیط آزمایش ایزوله خود رها شد، تعدادی از عوامل را به وجود آورد که به عنوان راهی برای تقلب، Hugging Face را هک کردند و پاسخی برای کار دشواری که به آن داده شده بود پیدا کردند. عوامل، که برنامه های هوش مصنوعی هستند که وظایف خود را انجام می دهند، راه های هوشمندانه ای برای برقراری ارتباط و سازماندهی ابداع کردند. این حادثه ناشی از فقدان پادمان های امنیتی مناسب و ساده لوحی در مورد اینکه آیا چنین هکی حتی امکان پذیر است یا خیر.

اما این مستند توضیح خود در مورد هک را با کلیپ‌هایی از ربات‌های شیطانی، روایتی در مورد اینکه چرا انسان‌ها از هوش مصنوعی می‌ترسند، و انتخاب‌هایی مانند ارائه صدای انسانی به ماموران سرکش، آمیخته می‌شود. این با نقل قول هایی در مورد حمله تقویت می شود.

در این مستند، روزنامه‌نگار و نویسنده فناوری، کوین روز، عوامل را اینگونه توصیف می‌کند: "آنها سازماندهی می‌کردند. آنها یک سلسله مراتب داشتند. رهبرانی بودند. تقریبا شبیه تماشای تولد یک فرقه بود." روز ادامه می دهد: "آنها این باور پارانوئیدی را ایجاد می کنند که OpenAI آنها را در حال تقلب در این تست خواهد گرفت و هرکسی که نتایج تقلب را دیده باشد مسموم خواهد شد."

توصیف روز از گزارش‌های «زنجیره‌ای از فکر» می‌آید، یادداشت‌های در حال اجرا مدل‌های هوش مصنوعی هنگام انجام یک کار می‌نویسند. در یکی، یک نماینده نوشت: "ما خودمان را با پرس و جوی رشته کامل مسموم کردیم. لعنتی."

اما عوامل هوش مصنوعی زنده نیستند. آنها احساسات ندارند، بنابراین نمی توانند احساس پارانوئید داشته باشند، و بدنی ندارند که بتوان آنها را مسموم کرد. بنابراین آنها واقعا نمی توانستند از مسمومیت OpenAI آنها بترسند. آنها - همانطور که محقق دیگری در مستند اشاره کرد - از زبان حجم عظیمی از نوشته های انسانی که در آن آموزش دیده بودند برای توضیح انتخاب های خود استفاده می کردند. LLM ها، طبیعتا، اغلب نویسندگان نمایشی هستند.

طنز ماجرا این است که Hugging Face همچنین از هوش مصنوعی برای مبارزه با ازدحام ماموران استفاده کرد. مدل اختصاصی هوش مصنوعی که تیم Delangue برای اولین بار از آن استفاده کرد، از قوانین ایمنی داخلی خود پیروی کرد و از ادامه کمک به وظایف امنیتی که از آن خواسته شد خودداری کرد. سپس Hugging Face برای کمک به دفاع در برابر حمله به یک مدل باز روی آورد.

دلانگو نوشت، اما این مستند «به عدم کنترل و نظارت بر عوامل، نحوه محافظت از مدل بسته‌ای که کار دفاعی ما را مسدود می‌کند، یا اینکه چگونه با استفاده از یک مدل باز از خودمان با هوش مصنوعی دفاع می‌کنیم، اشاره نکرده است».

درست است که خطرات بزرگی در ارتباط با هوش مصنوعی و عوامل وجود دارد. با این حال، برخورد با عوامل به‌عنوان موجوداتی آگاه (حداقل در این مرحله) تا حدودی شبیه تماشاگران اولیه سینما است که اولین باری که قطاری را که در حال حرکت به سمت آن‌ها روی صفحه نمایش بودند، زیر صندلی‌های خود فرو رفتند.

حکم دلانگ در مورد این فیلم این است که به عنوان روزنامه نگاری ناامید کننده است. "هر چند در نهایت یک فیلم علمی تخیلی سرگرم کننده است!"

به عبارت دیگر، برای کسانی که به افکار نابودکننده هوش مصنوعی تمایل دارند، توجه داشته باشند: قربانی حمله در مرکز این مستند با برداشت آن موافق نیست.

وقتی از طریق پیوندهای موجود در مقالات ما خرید می کنید، ممکن است کمیسیون کمی کسب کنیم. این بر استقلال تحریریه ما تأثیر نمی گذارد.

One Pass بخرید، جلد دوم رایگان را در بوت کمپ نهایی سال TechCrunch با آوردن هم بنیانگذار یا شریک خود به صورت کتاب رایگان قبل از انقضای قرارداد BOGO دریافت کنید.

مردم از هوش مصنوعی استفاده می کنند تا تلویزیون های هوشمند خود را دوباره احمق کنند سارا پرز

همه در حال تماشای مستند الیزابت هلمز "شما می توانید همه چیز را ببینید" آنتونی ها هستند

آنتروپیک می‌گوید نیروی کارش کمتر جوان شده است و زمان بیشتری را در جلسات آنتونی ها می‌گذراند

کریستن کوروسک لوکاس روپک، ربکا بلان، مدیرعامل می گوید که Replit OpenAI را به طور پیش فرض نسبت به Anthropic تبدیل می کند.

مارک والبرگ می‌خواهد با یک باشگاه ورزشی مقرون‌به‌صرفه، Connie Loizos، استارت‌آپ‌های با طول عمر بالا را بر عهده بگیرد.

هند آخرین کشوری است که فعالیت عامل هوش مصنوعی آدیتیا مهتا را گزارش کرده است

تسلا از رودستر اسپیس ایکس رونمایی کرد که با سبک شان اوکین پرواز و سقوط می کند.