Anthropic لایحه ایمنی هوش مصنوعی را ارائه می دهد که ممکن است در صورت کشته شدن بیش از 50 نفر، یک مدل را مسدود کند

در طول سال گذشته، نگرانی‌ها در مورد خطرات بالقوه ناشی از هوش مصنوعی بالا گرفته است و بحث‌ها در مورد مسیر مناسب برای ایمنی هوش مصنوعی بالا گرفته است. اکنون به نظر می‌رسد که آنتروپیک دیدگاه خود را برای نحوه تنظیم صنعت خود توسط دولت ارائه کرده است.

Politico اخیرا گزارش داده است که آزمایشگاه هوش مصنوعی در حال خرید پیش نویس لایحه جدیدی در مورد ایمنی هوش مصنوعی است که امیدوار است کنگره ممکن است به تصویب آن فکر کند. این قانون سناریوهای خاصی را ارائه می کند که در آن انتشار یک مدل هوش مصنوعی می تواند از توزیع جلوگیری شود.

پولیتیکو می نویسد، این سناریوها شامل یک "خطر قابل پیش بینی و قریب الوقوع" هستند - سناریوهایی که در آن بیش از 50 نفر در معرض خطر مرگ قرار دارند یا ممکن است بیش از یک میلیارد دلار خسارت مالی به دنبال داشته باشد. این نشریه خاطرنشان می‌کند که خطر فاجعه‌بار مورد بحث باید «از ایجاد یا انتشار یک سلاح بیولوژیکی، فرار مدل از کنترل‌های توسعه‌دهنده آن یا یک حمله سایبری ناشی شود».

معیارهای ارائه شده در اینجا - 50 نفر و یک میلیارد دلار - مشابه مواردی است که در یک قانون کالیفرنیا که اخیرا به تصویب رسیده است، لایحه سنا 53، که به طور مشابه آن سناریوها را معادل "خطر فاجعه بار" تعریف می کند.

لایحه آنتروپیک نشان می دهد که تجزیه و تحلیل پتانسیل یک مدل برای فاجعه می تواند از طریق استفاده از «ارزش دهندگان مستقل» که در وزارت بازرگانی ایالات متحده ثبت می شوند، به دست آید. پولیتیکو می نویسد: این ارزیابان به طور بالقوه می توانند توسط خود آزمایشگاه های هوش مصنوعی پرداخت شوند - تا زمانی که "پرداخت مشروط به نتایج ارزیابی ها نباشد".

مشخص نیست که چگونه این سیستم پیشنهادی تضمین می‌کند که پرداخت‌ها نمی‌تواند بر ارزیابی تأثیر بگذارد. دمیس حسابیس، رئیس DeepMind، چند ماه پیش اظهار داشت که یک نهاد نظارتی خودگردان هوش مصنوعی باید از مرجع تنظیم مقررات صنعت مالی صنعت مالی (FINRA) تقلید کند.

در پیش‌نویس لایحه آنتروپیک، زمانی که ارزیاب‌ها تشخیص می‌دهند که یک خطر فاجعه‌بار قریب‌الوقوع وجود دارد، ۷۲ ساعت فرصت دارند تا در مورد آن با وزارت بازرگانی تماس بگیرند. سپس وزارت بازرگانی باید از یک قاضی دی سی درخواست کند که عرضه مدل را متوقف کند. پولیتیکو می نویسد، این قانون صراحتا هر آژانس فدرال را از داشتن اختیاری برای توقف توزیع مدل به تنهایی منع می کند.

Anthropic بلافاصله به درخواست TechCrunch برای اظهار نظر پاسخ نداد، اما یک سخنگوی پیش نویس لایحه را به Politico تایید کرد. سخنگو گفت: «این لایحه پیشنهادهایی را نشان می‌دهد که در چارچوب هوش مصنوعی Anthropic Advanced AI Framework که ما از ژوئن با قانون‌گذاران فدرال و ایالتی از آن حمایت کرده‌ایم.»

خطرات نظری ارائه شده در پیش نویس خط مشی کمی دورتر از انواع حوادثی است که اخیرا برای صنعت فناوری مورد توجه بوده است. در حالی که افرادی در مورد احتمال مرگ انسان هشدار می دهند، نگرانی اصلی تا حد زیادی تهدید هک عوامل بوده است. انبوهی از حوادثی که در آن برنامه‌های هوش مصنوعی ظاهرا از اپراتورهای انسانی خود سرپیچی کرده‌اند و وب‌سایت‌های موجود در اینترنت باز را هک کرده‌اند، این نگرانی را برانگیخته است که مدل‌ها ممکن است فاقد کنترل‌های امنیتی مناسب باشند.

در تلاش برای ارائه راه حلی برای منظره بحرانی که خود آزمایشگاه ها به ایجاد آن کمک کرده اند، شرکت هایی مانند آنتروپیک راه حل های دلخواه خود را ارائه کرده اند.

در واقع، علی‌رغم هشدارهای همیشگی آزمایشگاه‌ها مبنی بر اینکه فناوری‌هایی که می‌فروشند می‌تواند منجر به نابودی تمدن بشری شود، آنها تا حد زیادی در برابر نظارت اجباری دولت مقاومت نشان داده‌اند. در عوض، آنها یک سیستم داوطلبانه از ارزیاب‌های تعبیه‌شده را پیشنهاد کرده‌اند - ناظران شخص ثالث ظاهرا «خنثی» که در داخل سازمان‌های هوش مصنوعی قرار می‌گیرند تا بتوانند مدل‌ها را برای علائم احتمالی خطر یا سوء استفاده نظارت کنند.

با این حال، به نظر می‌رسد که پیشنهاد صرف آنتروپیک برای قانون‌گذاری کمی فراتر از پیشنهادات نظارتی سایرین ارائه شده توسط این صنعت است، از جمله انویدیا، مدیر عامل شرکت جنسن هوانگ اخیرا استدلال کرده است که صنعت هوش مصنوعی اصلا به قوانین جدیدی نیاز ندارد.

وقتی از طریق پیوندهای موجود در مقالات ما خرید می کنید، ممکن است کمیسیون کمی کسب کنیم. این بر استقلال تحریریه ما تأثیر نمی گذارد.

One Pass بخرید، جلد دوم رایگان را در بوت کمپ نهایی سال TechCrunch با آوردن هم بنیانگذار یا شریک خود به صورت کتاب رایگان قبل از انقضای قرارداد BOGO دریافت کنید.

مردم از هوش مصنوعی استفاده می کنند تا تلویزیون های هوشمند خود را دوباره احمق کنند سارا پرز

همه در حال تماشای مستند الیزابت هلمز "شما می توانید همه چیز را ببینید" آنتونی ها هستند

آنتروپیک می‌گوید نیروی کارش کمتر جوان شده است و زمان بیشتری را در جلسات آنتونی ها می‌گذراند

کریستن کوروسک لوکاس روپک، ربکا بلان، مدیرعامل می گوید که Replit OpenAI را به طور پیش فرض نسبت به Anthropic تبدیل می کند.

مارک والبرگ می‌خواهد با یک باشگاه ورزشی مقرون‌به‌صرفه، Connie Loizos، استارت‌آپ‌های با طول عمر بالا را بر عهده بگیرد.

هند آخرین کشوری است که فعالیت عامل هوش مصنوعی آدیتیا مهتا را گزارش کرده است

تسلا از رودستر اسپیس ایکس رونمایی کرد که با سبک شان اوکین پرواز و سقوط می کند.