Google DeepMind موسسه ای را برای گسترش بحث AGI راه اندازی می کند

محققان گوگل و گوگل دیپ مایند روز چهارشنبه موسسه DeepMind را راه اندازی کردند تا گفتگو در مورد هوش عمومی مصنوعی را پیش ببرند. این موسسه، شین لگ، یکی از بنیانگذاران DeepMind، جیمز مانیکا، مدیر اجرایی گوگل، و دمیس حسابیس، رئیس گوگل دیپ مایند، را به عنوان مدیران و لگ به عنوان سردبیر فهرست کرده است.

مؤسسه جدید قصد دارد دیدگاه‌های متفاوتی را بین Google، Google DeepMind و جامعه تحقیقاتی جهانی گسترده‌تر پیرامون AGI نشان دهد. در این اطلاعیه آمده است: «آنها همیشه موافقت نخواهند کرد و احتمالا نظر خود را تغییر خواهند داد، زیرا داده ها و اطلاعات بیشتری در مرزهای به سرعت در حال حرکت آشکار می شود.

مجموعه افتتاحیه چهار مقاله طیفی از موضوعات را پوشش می‌دهد: سیاست‌های اقتصادی برای مدیریت اختلال AGI بالقوه، حفظ استدلال مدل قابل خواندن برای انسان، اصول شکوفایی انسان، و چارچوبی برای ارزیابی مدل‌های هوش مصنوعی مرزی.

یکی از مقاله‌های محققان ایمنی DeepMind، روهین شاه و آنکا دراگان، استدلال می‌کند که کوچک شدن پنجره شفافیت هوش مصنوعی - توانایی دیدن و بررسی استدلال گام به گام مدل - اجتناب‌ناپذیر نیست. از آنجایی که معماری‌های جدید نظارت بر قدرتمندترین مدل‌ها را سخت‌تر می‌کنند، نویسندگان می‌گویند که توسعه‌دهندگان و تنظیم‌کننده‌ها باید مستقیما با مبادلات ایمنی مقابله کنند.

این می‌تواند به معنای محدود کردن "عمق سریال مات" باشد - مقدار محاسبات متوالی که یک مدل می‌تواند بدون ایجاد ردپای استدلالی قابل خواندن انجام دهد - یا نیاز به توسعه‌دهندگان برای نشان دادن اینکه سیستم‌های کمتر شفاف به همان اندازه قابل نظارت هستند.

در مقاله‌ای دیگر، Hassabis یک سازمان استانداردهای هوش مصنوعی به رهبری ایالات متحده را برای ارزیابی پیشرفته‌ترین مدل‌های هوش مصنوعی پیشنهاد می‌کند. بر اساس چارچوب او، توسعه‌دهندگان در ابتدا مدل‌ها را تا 30 روز قبل از انتشار به‌طور داوطلبانه برای بررسی ارسال می‌کردند. هنگامی که سیستم ارزیابی موثر ثابت شد، گذراندن آزمون‌های آن می‌تواند به یک الزام برای استقرار مدل‌های مرزی در ایالات متحده تبدیل شود.

این بدن ابتدا ارزیابی‌هایی را با مشورت شرکت‌های هوش مصنوعی طراحی می‌کرد، اما در نهایت ارزیابی‌های مستقل و فاش نشده - آنچه در این مقاله آزمایش‌های "برگزار شده" نامیده می‌شود - برای جلوگیری از تطبیق مدل‌های آزمایشگاهی با ارزیابی‌های شناخته‌شده، توسعه داد. Hassabis گفت که این چارچوب می‌تواند «در صورت لزوم جدی‌تر شدن وضعیت»، به‌طور بالقوه از جمله کاهش سرعت هماهنگ در میان توسعه‌دهندگان مرزی هوش مصنوعی، افزایش یابد.

این مقالات زمانی به دست می‌آیند که بحث ایمنی صنعت از بیانیه‌های نگرانی گسترده به سمت پیشنهادات مشخص برای افشای اطلاعات، بررسی‌های بیرونی و در صورت عقب افتادن اقدامات حفاظتی، کاهش سرعت هماهنگ شده است. این تغییر در این هفته تسریع شد زیرا رهبران صنعت عناصری از درخواست داریو آمودی، مدیرعامل Anthropic را برای "سرعت" توسعه هوش مصنوعی مرزی تایید کردند.

وقتی از طریق پیوندهای موجود در مقالات ما خرید می کنید، ممکن است کمیسیون کمی کسب کنیم. این بر استقلال تحریریه ما تأثیر نمی گذارد.

آخرین روز برای رزرو میز نمایشگاه، 18 سپتامبر است. سرنخ های پر تاثیر، دسترسی سرمایه گذاران، و کانون توجه برند در سالن نمایشگاه Disrupt را از دست ندهید.

استارت آپ فناوری پاک Fluxnium راهی برای بهره برداری از سوخت هسته ای 50000 ساله تیم دی چانت پیدا کرد.

مدل استدلال جدید Salesforce و Nvidia همه چیزهایی است که آزمایشگاه‌های هوش مصنوعی باید از جولی بورت بترسند.

جنسن هوانگ از ترامپ تماس گرفت و چیز دیگری را نیز به نمایش گذاشت، کانی لویزوس

9 استارت‌آپ پرطرفدار از آخرین روز نمایشی Y Combinator، به گفته VCs Marina Temkin Dominic-Madori Davis

تسلا می‌گوید سرانجام در تاریخ 1 اکتبر از نسل دوم رودستر آنتونی ها رونمایی خواهد کرد

Revolut نقض اطلاعات مشتری از طریق درخواست های جعلی دولت Jagmeet Singh را تأیید می کند

مت مولنوگ به کارکنان Automattic می‌گوید (ترول‌ها؟) و می‌گوید که پس از برکناری سارا پرز، مدیر عامل، دوباره کنترل را به دست گرفته است.