مدیر اجرایی Hugging Face هشدار داد که حملات سایبری تهدید می کند که هوش مصنوعی منبع باز کمی بازتر شود.

حمله اکتبر به OpenCode، که کلیدهای API شخص ثالث کاربران را هدف قرار داد و باعث آسیب مالی شد، آخرین نمونه است. این اتفاق به دنبال حادثه ای در تابستان امسال رخ می دهد که در آن یک عامل OpenAI ازدحام Hagging Face را در تلاشی آشکار برای پوشاندن ردهای آن پس از دسترسی به پاسخ های ارزیابی های امنیت سایبری نقض کرد.

خطرات محدود به پلتفرم هایی نیستند که مشارکت های جامعه باز را دعوت می کنند. روز دوشنبه، استارت‌آپ زیرساخت‌های هوش مصنوعی Fireworks، که به توسعه‌دهندگان کمک می‌کند تا مدل‌های هوش مصنوعی باز را اجرا و آموزش دهند، فاش کرد که مهاجمان به وزن مدل، مجموعه داده‌ها و اطلاعات صورت‌حساب برخی از مشتریان دسترسی داشته‌اند. این شرکت در حین بررسی، برخی از عملکردهای مجموعه داده سلف سرویس را به طور موقت غیرفعال کرد. در حالی که این حمله لزوما به دلیل باز بودن Fireworks نیست، اما نشان می دهد که چقدر اطلاعات ارزشمند در ارائه دهندگان زیرساخت هوش مصنوعی متمرکز شده است.

سلیمان در Equity گفت: «چیزهایی که من در مورد هدفمند کردن یک جامعه باز نگران هستم، همان چیزی است که آن را خاص می کند. ما لزوما سهل‌گیر هستیم. ما می‌خواهیم یک سرگرمی معمولی در زیرزمین خانه‌شان که وابستگی سازمانی ندارد، بتواند کمک کند.»

او در یک گفتگوی جداگانه اضافه کرد: "شما می خواهید مردم بتوانند فقط درخواست های جذب را ارسال کنند و به هر کسی بدون وابستگی معتبر اجازه مشارکت بدهند ... اما در این صورت بازنده هایی خواهید داشت که آن را برای بقیه خراب می کنند."

این سهل انگاری تنها چیزی نیست که مهاجمان را جذب می کند. انبوه اطلاعاتی که پلتفرم‌های باز میزبان میزبانی می‌کنند نیز آنها را هدف قرار می‌دهد. به گفته سلیمان، Hugging Face به دلیل مجموعه داده‌های ارزیابی که در اختیار دارد، به وسوسه‌ای برای ازدحام نمایندگان OpenAI تبدیل شد، در حالی که هدف OpenCode در این مورد از «کلیدهای شاداب API شخص ثالث» آن ناشی شد.

سلیمان در گفتگوی جداگانه به TechCrunch گفت: «ترکیب این ها ما را به اهداف اصلی تبدیل می کند. او افزود که "خطر بسته شدن منبع باز در زمانی که ما از حمایت عمومی بسیار زیادی برخوردار شده ایم" وجود دارد.

بخش اعظم صنعت اخیرا از مدل‌های هوش مصنوعی باز حمایت کرده است، از جمله مدل‌های هولناکی مانند Jensen Huang از Nvidia. و به طور فزاینده ای، دولت ها، شرکت ها و استارت آپ ها برای ساختن به مدل های باز تکیه می کنند.

پس در واقع یک عقب نشینی چگونه خواهد بود؟ از لحاظ نظری می‌تواند به معنای محدودیت‌هایی در مورد اینکه چه کسی می‌تواند مدل‌ها یا مجموعه داده‌ها را آپلود کند، تأیید هویت دقیق‌تر، یا بررسی بیشتر توسعه‌دهندگان قبل از دسترسی به ویژگی‌های خاص باشد. در حالی که این حرکت‌ها می‌توانند از پلتفرم‌ها در برابر مهاجمان محافظت کنند، همچنین می‌تواند مشارکت محققان و علاقه‌مندان مستقل در جوامعی را که قبلا از آنها استقبال می‌شد، دشوارتر کند.

در حال حاضر، Hugging Face در تلاش است تا از این مسیر اجتناب کند. سلیمان گفت که این شرکت ابزارهای نظارتی را برای شناسایی هک ها و همچنین اقداماتی برای جلوگیری از آنها تقویت کرده است. او خاطرنشان کرد، اما نگهداری نظارت ممکن است پرهزینه باشد، و هر پلتفرمی قادر به پرداخت آن نیست.

سلیمان گفت: «توکن‌های دسترسی اداری بخشی از چیزی بودند که به آن نماینده دسترسی بهتری می‌داد، بنابراین ما آنها را بسیار بیشتر از گذشته می‌چرخانیم». ما همچنین اکنون کنترل های شبکه سخت تری داریم."

به عبارت دیگر، اعتبارنامه‌هایی که به ادمین‌ها امکان دسترسی گسترده به سیستم‌های Hugging Face را می‌دهند، اکنون بیشتر تغییر می‌کنند، که به این معنی است که یک توکن دزدیده شده برای مدت زمان کمتری مفید خواهد بود.

بخش‌های دیگر اکوسیستم منبع باز با معاوضه‌های مشابه مرتبط با امنیت سروکار دارند. گیت هاب، بزرگترین میزبان پروژه های متن باز در جهان، با مهاجمانی که کدهای مخرب را به پروژه ها برای انتشار سریع بدافزارها تزریق می کنند، مبارزه می کند. این شرکت شروع به تشدید الزامات امنیتی برای انتشار بسته‌ها در رجیستری npm کرد، توکن‌های احراز هویت قدیمی‌تر را باطل کرد، و مدت زمان معتبر ماندن موارد جدید را محدود کرد.

Zach Steindler، مهندس GitHub که امنیت زنجیره تامین نرم‌افزار را مدیریت می‌کند، از طریق ایمیل به TechCrunch گفت که در حالی که اقدامات امنیتی می‌تواند جریان کار ایجاد شده را مختل کند، پلتفرم‌ها می‌توانند بدون محدودیت اساسی مشارکت، ایمن‌تر شوند.

Steindler گفت: «این کمتر به محدود کردن عملکرد و بیشتر در مورد رفتن و تعمیر چیزهایی است که در وهله اول ایمن نبودند. او خاطرنشان کرد که اسکریپت‌های نصب npm برای سال‌ها وجود داشته‌اند، اما حملات اخیر نشان می‌دهد که چقدر می‌توانند خطرناک باشند. GitHub با OpenJS - یک سازمان غیرانتفاعی که میزبان پروژه‌های منبع باز حیاتی ساخته شده با جاوا اسکریپت است - با رویکرد ایمن‌تر کار کرد.

به گفته اشتاینلر، همان منطق در مورد جایی که تیم‌های امنیتی تلاش می‌کنند صدق می‌کند: «امنیت به حداکثر رساندن تأثیر با منابعی است که در اختیار داریم، و من ترجیح می‌دهم روی شناسایی رفتار مشکوک و قابلیت‌های مهار سرمایه‌گذاری کنم: چیزهایی که همه حساب‌ها و روش‌های دسترسی را پوشش می‌دهند. رفتار مشکوک بدون توجه به اینکه چه کسی آن را نشان می‌دهد، مشکوک است.»

وقتی از طریق پیوندهای موجود در مقالات ما خرید می کنید، ممکن است کمیسیون کمی کسب کنیم. این بر استقلال تحریریه ما تأثیر نمی گذارد.

ربکا بلان یک گزارشگر ارشد در TechCrunch است که در آن تجارت، سیاست و روندهای نوظهور در شکل گیری هوش مصنوعی را پوشش می دهد. آثار او همچنین در فوربس، بلومبرگ، آتلانتیک، دیلی بیست و سایر نشریات ظاهر شده است.

می‌توانید با ارسال ایمیل به [email protected] یا از طریق پیام رمزگذاری‌شده در rebeccabellan.491 در Signal با ربکا تماس بگیرید یا آن را تأیید کنید.

نگاهی اولیه به Next TechCrunch Disrupt Disrupt، Startup Battlefield و موارد دیگر در سال آینده بازخواهد گشت و می توانید در خط مقدم باشید. برای لیست انتظار ما ثبت نام کنید

ماسک می گوید تسلا برخی از سپرده های Cybertruck را بازپرداخت می کند، از تصمیم برای پایان دادن به تولید Kirsten Korosec دفاع می کند.

تسلا ساخت Cybertruck را در سال 2027 شان اوکین متوقف خواهد کرد

کلود اکنون می تواند هزینه های شما را با ابزار جدید مالی شخصی خود عایشه مالیک تجزیه و تحلیل کند

سارا پرز می گوید تقریبا هیچ کس از عوامل هوش مصنوعی برای رزرو Uber خود استفاده نمی کند

متا استارتاپ کدنویسی هوش مصنوعی Conductor Lucas Ropek را خریداری کرد

با افزایش انتظار برای قدرت، مراکز داده به موتورهای جت قدیمی روی آورده اند