آیا Safeworld می‌تواند مردم را متقاعد کند که ربات‌های AI ژنرال به آنها آسیب نمی‌رسانند؟

روند بزرگ در ربات ها، واگذاری کلیدها به یک مدل هوش مصنوعی مولد است، اما این مسئله با خود یک مشکل را به همراه دارد: اینکه معماری مانند الگوریتم های سنتی قابل پیش بینی نیست. چگونه می توانید مطمئن شوید که انسان نمای جدید شما ایمن است؟

دکتر دینگ ژائو، که آزمایشگاه هوش مصنوعی ایمن در دانشگاه کارنگی ملون را اداره می کند، تقریبا در تمام دوران حرفه ای خود روی این مشکل کار کرده است. او اکنون به همراه کایل وانگ، مدیر استارت آپ کهنه کار و مهندس یادگیری ماشین، سیمو راچیدی، شرکتی به نام Safeworld را تاسیس کرده است که قصد دارد آن را حل کند.

"چالش ایمنی که ما در مورد آن صحبت می کنیم ترکیبی از یک ارزیابی احتمالی هوش مصنوعی مولد واقعا پیشرفته است - چگونه می توان خطر یک سیستم احتمالی را پذیرفت؟" ژائو می گوید. "بخش دوم که واقعا سخت است، بخش اعتماد است و برای استقرار یک ربات به هر دو نیاز دارید."

جاناتان لای، شریک a16z Speedrun به TechCurnch گفت: «زمان ایجاد استاندارد ایمنی در صنعت اکنون در حالی است که روبات‌ها در حال طراحی و استقرار هستند. زمانی که روبات هایی در خانه داشته باشید که با بچه ها برخورد می کنند و حوادث ایمنی ایجاد می کنند، دیگر خیلی دیر شده است.

تخصص Safeworld ارزیابی یک سیستم کنترل رباتیک در شبیه سازی هایی است که با مدل های واقعی انسانی پر شده است. این شبیه به چالشی است که شرکت هایی مانند تسلا یا ویو با آن مواجه هستند، که باید اطمینان حاصل کنند که وسایل نقلیه آنها به انواع حوادث غافلگیرکننده ای که ممکن است در جاده ها با آنها مواجه شوند، پاسخ مناسب دهند. اما ژائو معتقد است که این کار برای روبات‌ها دشوارتر خواهد بود، زیرا آنها در محیط‌های بدون ساختار کار می‌کنند و به این دلیل که هر تأسیساتی که در آن هستند استانداردهای ایمنی متفاوتی دارد.

وونگ گفت: "یکی از رایج ترین مناطق این است که یک گوشه کور در این کارخانه خاص وجود داشته باشد." "برای اطمینان از اینکه این ربات با انسان خاصی برخورد نمی کند چه سرعتی یا فاصله ایست نیاز دارید؟ مثلا اگر انسانی جعبه هایی را حمل کند، آیا ربات انسان را تشخیص می دهد یا خیر؟"

برای پاسخ به این سوال، Safeworld نسخه دیجیتالی از آن گوشه را در مدلی مانند Genesis یا MuJoCo می‌سازد، شبیه‌سازی رباتی را که در حال ارزیابی است، با استفاده از نرم‌افزار واقعی خود وارد می‌کند و سپس هزاران سناریو را اجرا می‌کند که در آن مدل‌های انسانی با ربات مواجه می‌شوند. به گفته ژائو، این سخت تر از آن چیزی است که به نظر می رسد، زیرا مردم غیرقابل پیش بینی هستند.

وونگ گفت: «سقوط و افتادن نیز نمونه خوبی از چیزی است که ما آزمایش های زیادی را با شبیه سازی انجام می دهیم. در غیر این صورت، باید برید و زمین بخورید و به دنبال ربات بیفتید، کاری که همیشه انجامش سخت است.

شباهت های مشخصی بین پلتفرمی که Safeworld در حال ساخت آن است و ابزارهایی که در داخل توسط سازندگان ربات استفاده می شود وجود دارد. با این حال، بنیان‌گذاران بر این باورند که ربات‌سازان فراتر از تخصص خاص خود، از شخص ثالثی می‌خواهند که کار آن‌ها را تأیید کند، البته اگر فقط اطلاعات مربوط به موارد ایمنی را بین رقبا به اشتراک بگذارد.

ژائو می‌گوید: «بسیاری از مردم این موضوع را دست‌کم می‌گیرند که حل برخی از این موارد حاشیه‌ای چقدر سخت خواهد بود. ما نگران این ربات در خلاء نیستیم، در نسخه ی نمایشی، بلکه رباتی است که در مقیاس بزرگ و با افرادی که به طور بالقوه قبلا هیچ رباتی کار نکرده اند، مستقر شده است.

ویشال دوگار، مدیر ارشد فناوری Gritt Robotics، در حال توسعه مغز هوش مصنوعی برای روبات‌هایی است که در حال حاضر به کارگران کمک می‌کند تا پانل‌های فتوولتائیک را در مزارع خورشیدی در مقیاس صنعتی نصب کنند و آرزوی انجام وظایف پیچیده‌تر ساختمانی را دارند. شرکت او با Safeworld در حال توسعه شبیه سازی های ایمنی خود است.

دوگار می‌گوید: «مشکل بسیاری از سیستم‌های ما این است که اثبات رسمی آن با انجام مقداری ریاضی، نوشتن برخی معادلات و گفتن بله، سیستم تأیید شده است که ایمن است، بسیار سخت است. "این لزوما باید به صورت تجربی انجام شود."

روبات‌های او در کنار کارگران انسانی کار می‌کنند و اطمینان از اینکه بازوی رباتیک آن به آن‌ها برخورد نمی‌کند، بدیهی است که در ذهن شماست. برای تأیید این امر در عمل مستلزم در نظر گرفتن انواع سناریوهای بالقوه است.

دوگار خاطرنشان می کند: «انسان ها ظواهر مختلفی دارند. بدن آنها می تواند در پیکربندی های مختلف باشد. آنها می توانند زانو زده باشند، ایستاده باشند. آنها ممکن است زمین بخورند و به طور بالقوه سقوط کنند. آنها می توانند خمیده باشند. آنها می توانند در حال دویدن باشند. شما باید به همه این رفتارهایی که انسان ها به طور بالقوه در این سایت ها نشان می دهند، همراه با تنوع در ظاهر انسان، لباس، اندازه، شکل، قد، رنگ پوست، پاسخ دهید.

هنوز هم برای Safeworld و هم برای هوش مصنوعی مولد در رباتیک روزهای اولیه است، و این شرکت هنوز در حال کشف بهترین مدل برای محصول خود است - یک پلتفرم برای کاربران خارجی، یا یک رویکرد مبتنی بر خدمات؟ - اما تیم مطمئن است که آنها مشکل درست را حل می کنند.

Zaho می‌گوید: «ما احتمالا اولین شرکت سودآور در این زمینه خواهیم بود. زیرا اگر کسی بخواهد مستقر شود، باید به ما پول بدهد تا وضعیت را مدیریت کنیم.»

وقتی از طریق پیوندهای موجود در مقالات ما خرید می کنید، ممکن است کمیسیون کمی کسب کنیم. این بر استقلال تحریریه ما تأثیر نمی گذارد.

قاضی فدرال، آنتونی ها را "نظارت جمعی بی رویه" می نامد

آمازون در پاسخ به عکس العمل مرکز داده، می گوید دیگر از NDA آنتونی ها استفاده نمی کند

گوگل فکر می کند استارشیپ اسپیس ایکس باید 1800 بار قبل از اینکه مراکز داده فضایی از زمین خارج شوند تیم فرنهولز

اولین نیروگاه زمین گرمایی پیشرفته جهان تنها در 23 ماه تکمیل شد تیم دی چانت

گوگل Gemini 4 Argon را منتشر کرد که قدرتمندترین مدل خود را Lucas Ropek می نامند

پنتاگون از ایلان ماسک و پالمر لاکی استفاده می کند تا به تصمیم گیری در مورد اینکه ارتش بعدی دومینیک مادوری دیویس چه کاری باید انجام دهد کمک کند.

OpenAI Dots را راه‌اندازی می‌کند، نماد عامل حباب‌انگیز خود Lucas Ropek