همه کارکنان هوش مصنوعی فکر نمی کنند که این فناوری می تواند همه را بکشد

همه کارکنان شرکت‌های بزرگی که روی هوش مصنوعی (AI) کار می‌کنند، فکر نمی‌کنند که این فناوری برای بشریت عذاب است.

در مبادلات متنی و مکالمات، چندین نفر که برای شرکت‌هایی از جمله OpenAI، Meta و DeepMind کار کرده‌اند، نسبت به این ایده که توسعه AI کنترل نشده منجر به ابزارهایی می‌شود که می‌توانند به طور انبوه مردم را بکشند، تردید داشتند.

"Lol"، "Haaaaaa" و "Bringing the luls" از جمله واکنش‌هایی بود که بی‌بی‌سی به هشدارهای اخیر برخی از افراد در این صنعت دریافت کرد.

در حالی که این ترس‌ها به دهه‌ها قبل برمی‌گردد، ادعاهایی که هفته گذشته توسط Jacob Coxon، کارمند سابق Anthropic مطرح شد، منتشر شد و توسط سایرین در این بخش که خواستار کاهش سرعت توسعه بودند، تکرار شد.

کارمندان Anthropic و همچنین OpenAI، Deepmind و Elon Musk که یک استارت آپ هوش مصنوعی به نام xAI دارد، این ایده که یک ابزار یا عامل هوش مصنوعی آینده، یک ربات هوش مصنوعی برنامه ریزی شده است که تا حدودی مستقل عمل کند، می تواند مردم را به خطر بیندازد، به صورت آنلاین پشتیبانی شده است.

همه کارگرانی که با بی‌بی‌سی صحبت کردند، به شرط ناشناس ماندن این کار را انجام دادند، زیرا اجازه صحبت با مطبوعات را نداشتند. هویت آنها برای بی بی سی مشخص است.

یکی از کارمندان سابق OpenAI که زمانی که هر دو در شرکت کار می‌کردند از Coxon خبر داشت، گفت: «اولین فکر من این بود، "آن پسر؟"

این شخص که اکنون در یکی دیگر از شرکت های هوش مصنوعی کار می کند، گفت که سرگرمی آنها در لحظه جدید ترس وجودی هوش مصنوعی عمدتا ناشی از جزئیات کمی است که توسط حامیان آن برای دفاع از این تصور که تمام زندگی انسان در خطر است، ارائه شده است.

این فرد گفت: این ادعاها "همیشه مبهم" هستند، و افزود که وقتی آنها خاص به نظر می رسند، به سمت جهش های عمده در استدلال یا شرایط فرضی تمایل دارند.

کاکسون گفته است که گروهی از عوامل هوش مصنوعی، بر اساس مدل‌های هوش مصنوعی که در حال حاضر وجود ندارند، می‌توانند تصمیم بگیرند که یک سلاح بیولوژیکی بسازند و سپس آن را هدف قرار دهند، اما او جزئیات دقیقی از نحوه انجام آن نداد.

کارمند سابق آنتروپیک در مورد هوش مصنوعی می گوید: «احتمال انقراض انسان وجود دارد».

ریشوب جین، که در تابستان امسال شرکت تحقیقات ایمنی هوش مصنوعی Sampura Research را پس از گذراندن هفت سال در DeepMind تأسیس کرد، به بی‌بی‌سی گفت که لحن فعلی در میان بسیاری از افرادی که در هوش مصنوعی با توجه به ترس‌های تازه کار می‌کنند «قطعا کمی شوخی بوده است».

جین گفت: «مردم سال‌هاست که درباره این ایده صحبت می‌کنند، بنابراین افراد در شرکت‌های هوش مصنوعی هفته گذشته با این فکر بیدار نشدند که «اوه نه، هوش مصنوعی همه را می‌کشد». "اگر این همه جدید بود، لحن متفاوتی داشت."

کالین فریزر، دانشمند داده در متا، هفته گذشته در رسانه های اجتماعی نوشت که هیچ مدرک واقعی مبنی بر اینکه مدل های هوش مصنوعی به ناچار هدفی را که منجر به مرگ انسان می شود دنبال می کنند وجود ندارد.

در حالی که توضیح فریزر فنی و خاص بود، او برای خلاصه کردن آن یک یادداشت ساده زد: «ال‌ام‌ها [مدل‌های زبان بزرگ] بشریت را از بین نمی‌برند، زیرا آن سگ را در خود ندارند».

عبارت "آن سگ در آنها" یک اصطلاح عامیانه رایج است که معمولا نشان دهنده یک حرکت شدید است.

علیرغم شوخی‌ها، کارگران و محققان هوش مصنوعی نگرانی‌هایی در مورد خطرات واقعی و فوری ناشی از فناوری در حال توسعه دارند.

جین گفت: «مکالمه بین متخصصان بسیار ظریف‌تر بوده است، اما اساسا همه موافق هستند که طیف گسترده‌ای از خطرات وجود دارد که باید همه آنها را در نظر گرفت و کاهش داد.

چنین خطراتی شامل ممانعت از کاربران و هکرها از وادار کردن گاردریل ابزار هوش مصنوعی به خرابی است. و نگرانی های اخلاقی فزاینده ای در مورد استفاده گسترده تر از ابزارهای هوش مصنوعی در تنظیمات نظامی وجود دارد.

چرا نگرانی هایی وجود دارد که هوش مصنوعی می تواند بشریت را تهدید کند و چقدر واقعی هستند؟

مایکروسافت هشدار داد که هوش مصنوعی کنترل نشده می تواند منجر به رقابت «گونه های سیلیکونی» با انسان شود

چرا برخی از کارشناسان به طور فزاینده ای از این می ترسند که هوش مصنوعی تسلط یابد

سوالاتی در مورد اینکه یک "کاهش" هوش مصنوعی چگونه به نظر می رسد بالا می رود

پس از اینکه OpenAI کنترل برخی از مدل‌های جدید هوش مصنوعی را از دست داد، این مشکلات و موضوعات در محافل هوش مصنوعی احساس فوریت جدیدی به خود گرفت، که در طی یک تست امنیتی سرکشی کردند و استارت‌آپ Hugging Face را هک کردند.

جین گفت اکنون در محافل هوش مصنوعی توافق بیشتری وجود دارد که "مضرات واقعی کوتاه مدت" باید بهتر درک شود.

حتی توافق فزاینده‌ای وجود دارد که ارزیابی‌کنندگان سازمان‌های تحقیقاتی ایمنی هوش مصنوعی باید به آزمایشگاه‌های اصلی هوش مصنوعی آورده شوند تا مدل‌های جدید را ارزیابی کنند، کاری که Dario Amodei رئیس Anthropic و Sam Altman رئیس OpenAI هر دو گفته‌اند که قصد انجام آن را دارند.

بیش از 100 نفر که در هوش مصنوعی کار می‌کنند روز جمعه نامه‌ای را امضا کردند که خارجی‌ها از این حرکت حمایت کردند و تاکید کردند که ارزیاب‌های خارجی باید «مستقل معنادار» باشند.

تماشا کنید: رئیس هوش مصنوعی مایکروسافت می‌گوید که خلاقیت‌های هوش مصنوعی می‌توانند برای منابع با انسان‌ها «رقابت» کنند

بسیاری از کارمندان هوش مصنوعی که بی‌بی‌سی با آنها صحبت کرد، خاطرنشان کردند که هنوز از وجود چنین محققان ایمنی در آزمایشگاه هوش مصنوعی مطلع نشده‌اند.

Anthropic روز جمعه اعلام کرد که ارزیاب‌های هوش مصنوعی را از دانشکده، یک شرکت هوش مصنوعی متعلق به Accenture وارد می‌کند.

Accenture و Anthropic نیز شرکای تجاری خارجی هستند و Accenture قبلا موافقت کرده بود که به Anthropic کمک کند تا استفاده از Claude را در بین مشاغل گسترش دهد.

آنتروپیک نگفت چه زمانی ارزیاب ها به شرکت می رسند. سخنگوی دانشکده از اظهار نظر در مورد زمان بندی خودداری کرد.

نه Anthropic و نه OpenAI به درخواست بی‌بی‌سی برای اظهارنظر درباره زمانی که قصد دارند ارزیاب‌های خارجی را وارد کنند، پاسخ ندادند.

حادثه OpenAI-Hugging Face به طور گسترده ای به عنوان یک "تنگ بیدارباش" برای صنعت هوش مصنوعی و همچنین شرکت ها، صنایع و دولت هایی که ممکن است سیستم های آنلاین آسیب پذیر در برابر هک هوش مصنوعی داشته باشند، تلقی شده است.

این پلتفرم در یک فایل امنیتی که به طور مختصر در دسترس خارجی در وب‌سایت Hugging Face بود، «یادداشتی برای عوامل هوش مصنوعی» نوشت. به ربات‌های هوش مصنوعی دستور داد تا سایت را به حال خود رها کنند و آزمایش‌های امنیتی خود را در جای دیگری انجام دهند.

در این فایل آمده است: «بروید امتیاز بالا خود را آنجا بگیرید، نیازی به هک ما نیست.