بحث ایمنی هوش مصنوعی در مورد ایمنی است یا کنترل؟

صنعت فناوری چگونه باید به موضوع ایمنی هوش مصنوعی نزدیک شود؟ به‌طور فزاینده‌ای، مدیران سطح بالا روی این سؤال فکر می‌کنند، زیرا بحث‌هایی در مورد اینکه آیا حوادثی مانند حادثه Hugging Face - که در آن یک عامل OpenAI چندین شرکت مختلف را هک کرد - نشان می‌دهد که هوش مصنوعی در آستانه پرتاب کردن دنیای ما به هرج و مرج است یا خیر، به طور فزاینده‌ای روی این سوال فکر می‌کنند.

در هفته‌های اخیر، آزمایشگاه‌های برجسته خواستار کاهش سرعت پیشرفت هوش مصنوعی شده‌اند. مهم‌تر از همه، داریو آمودی، مدیرعامل، مقاله‌ای تقریبا 4000 کلمه‌ای نوشت که در آن دلایلی را بیان کرد که چرا باید توسعه هوش مصنوعی را کاهش داد تا بتوان نرده‌های محافظ کافی را مستقر کرد. این طرح - در میان چیزهای دیگر - شامل یک استراتژی بین‌المللی همکاری بین شرکت‌ها و دولت‌ها برای استقرار ایمن است. مدیران رقیب هوش مصنوعی - مانند سم آلتمن از OpenAI و ایلان ماسک از xAI - طرح Amodei را تأیید کرده اند.

این مقاله باعث ایجاد گفتگوهای بیشتر در سراسر صنعت فناوری شده است، اگرچه همه با فراخوان Amodei برای اقدام هماهنگ جهانی موافق نیستند. در واقع، به نظر می رسد بسیاری فکر می کنند که نظارت دولت لزوما نقشی ندارد.

آخرین شرکت کنندگان در این مناظره عبارتند از مارک زاکربرگ، مدیر عامل متا، که این هفته به X رفت تا نظرات خود را در مورد این موضوع به اشتراک بگذارد.

"نظر من این است که اعتماد و همسویی به سرعت تبدیل به مهمترین قابلیت هایی می شود که عوامل و مدل ها را متمایز می کند." زاکربرگ فاش کرد که شرکت او انتشار مدل هوش مصنوعی خود را به دلیل نگرانی در مورد ایمنی به عقب انداخته است. زاکربرگ گفت: «متا ارسال Muse را چند ماه به تعویق انداخت تا بر ایمنی و امنیت تمرکز کند. ما از دیگران دعوت نکردیم که این کار را قبل از ما انجام دهند. ما فقط این کار را به عنوان بخشی از کار روزانه خود انجام دادیم زیرا به وضوح برای مردم و برای ما کار درستی بود.»

زاکربرگ - که بخش‌هایی از طرح آمودی را تأیید کرد - به نظر می‌رسد به این معناست که اقدام دولت غیرضروری است و انگیزه‌های ارگانیک ساختار صنعت، شرکت‌ها را وادار می‌کند تا امنیت را به درستی دریافت کنند. بازار در نهایت باید برای شرکت هایی که مراقبت می کنند مدل هایی ایجاد کنند که باعث هرج و مرج نمی شود، موفقیت به ارمغان بیاورد. به نظر می رسد که این با مقاله عظیم خود زاکربرگ - که ماه گذشته نوشته شد - مطابقت دارد که در مورد همکاری محدود با دولت، در صورت لزوم، بحث می کرد، اما عمدتا رقابت پذیری آمریکا را به عنوان کلید یک آینده فناورانه شکوفا معرفی می کرد.

به طور کلی، به نظر می رسد این موضع بسیاری از مدیران فناوری دیگر باشد.

یکی دیگر از مدیران بلندپایه‌ای که باید در آن شرکت کرد، الکسیس اوهانیان، یکی از بنیان‌گذاران Reddit بود، که روز چهارشنبه به CNBC گفت که او احساس می‌کند که صنعت فناوری تا حد زیادی در توضیح خطرات هوش مصنوعی برای عموم ناشنوا بوده است. با این حال، مانند زاکربرگ، اوهانیان نیز به نظر می‌رسید امیدوار است که شرکت‌ها بتوانند به تنهایی مسائل را حل کنند. شین لگ، یکی از بنیانگذاران Google DeepMind نیز نظرات خود را به اشتراک گذاشت. لگ می‌گوید: «ما اکنون در دوره‌ای زندگی می‌کنیم که توانایی‌ها بسیار بسیار سریع در حال پیشرفت هستند.

اما ما نمی‌توانیم اجازه دهیم که قابلیت‌ها از ایمنی جلوتر باشند.» وی افزود: "ما باید واقعا از طریق جزئیات آن کار کنیم و اینکه چگونه در عمل کار می کند."

علی‌رغم تماس‌های آزمایشگاه‌های بزرگ برای همکاری عمومی و خصوصی، برخی از آن صداهای طرفدار مقررات نیز نسبتا از اجازه دادن به کسب‌وکارها برای نوشتن قوانین خود راضی هستند. در واقع، یک داستان کمتر قابل مشاهده اما نه کمتر جالب در این هفته، گزارشی از The Information بود که می‌گفت OpenAI، Anthropic، و دیگر شرکت‌های بزرگ هوش مصنوعی با هم کار می‌کنند تا یک سازمان استانداردهای هوش مصنوعی ایجاد کنند - که توسط یکی از رسانه‌ها به عنوان یک "سازمان خود تنظیمی" خصوصی توصیف شده است.

قبلا در مورد ایجاد یک سازمان مشابه و تحت مدیریت فدرال بحث هایی انجام شده بود. با این حال، کاخ سفید ترامپ - که شامل حامیان هوش مصنوعی بلندگو است و تا حد زیادی برای یک تجارت فناوری غیرقانونی فشار آورده است (دولت حتی به دنبال متوقف کردن اجباری دولت های ایالتی از معرفی قوانین هوش مصنوعی خود است) - هیچ چیزی را دنبال نکرده است. دیوید ساکس کهنه کار فناوری، "تزار هوش مصنوعی" دولت، گفته است که مقررات هوش مصنوعی باید به شرکت هایی که آن را توسعه می دهند واگذار شود.

به نظر می رسد مانند کاخ سفید، اعضای برجسته کنگره نیز به همان اندازه علاقه ای به پذیرش آمودی برای تنظیم شرکتش ندارند. اندکی پس از انتشار مقاله مدیر عامل آنتروپیک، مایک جانسون، رئیس مجلس، به نگرانی‌ها در مورد پیشرفت‌های فاجعه‌بار هوش مصنوعی اشاره کرد و گفت: «همه شما ۱۰ سال دیگر نخواهید مرد.»

یک سازمان خصوصی صنعت را غیرقابل تنظیم نگه می دارد مگر با تعهدات داوطلبانه و طبیعتا مقدار مشخصی از اختیارات و نفوذ را به شرکت های مسئول ایجاد آن می بخشد. این منجر به ادعای مداوم دیگری می شود، و آن این است که فراخوان های صنعت برای تنظیم در واقع یک استراتژی "تصرف نظارتی" است. بر اساس این استدلال، شرکت‌های قدرتمندی که در حال حاضر از جایگاه برجسته‌ای در صنعت برخوردار هستند، ممکن است از راهکارهای نظارتی برای حذف یا آسیب رساندن به شرکت‌های کوچکتر با منابع کمتر استفاده کنند - در نتیجه رقابت آنها را خفه کنند.

این نیازی به مقررات واقعی ندارد، اما می‌تواند شامل استانداردهای داوطلبانه صنعتی باشد که با این وجود بر شرکت‌های کمتر قدرتمند فشار وارد می‌کند.

بسیاری از صداهای برجسته در دولت چین این موضع را تکرار کرده اند. پس از آنکه آمودی این هفته خواستار «پیش‌رفت از مرز» شد، گوئو جیاکون، وزارت امور خارجه چین، آمریکایی‌ها را به استفاده از «ترس‌پروری» برای ایجاد اختلال در توسعه مدیریت جهانی هوش مصنوعی متهم کرد، در حالی که یکی از مقالات روزنامه دولتی چین، سخنان آمودی را مستقیما از «کتاب بازی‌های جنگ سرد» نامید.

تغییر ساختار نحوه تجارت شرکت ها با چین - یکی از چیزهایی که آمودی در مقاله خود خواستار آن است - به طور طبیعی می تواند فرصتی برای شرکت های آمریکایی باشد تا همه چیز را به نفع خود تغییر دهند. آمودی حتی اعتراف می کند که این هدف است. او در مقاله خود نوشت: «اگر ما این اقدامات را به خوبی اجرا کنیم، من معتقدم که پیشرفت چین را به اندازه‌ای کاهش می‌دهد که در 3 تا 5 سال آینده پیشتاز آمریکا را به میزان قابل توجهی افزایش دهد - پنجره‌ای که هوش مصنوعی از نظر ژئوپلیتیکی مهم‌تر می‌شود.»

با این حال، تنها چین نیست که آزمایشگاه‌های بزرگ هوش مصنوعی آمریکایی را می‌بیند که می‌خواهند مسابقه را به نفع خود انجام دهند. آیدان گومز، مدیر عامل شرکت کانادایی هوش مصنوعی Cohere، اخیرا این شرکت‌ها را به تشکیل یک «کارتل» متهم کرد و در یک پست وبلاگی نوشت: «هوش مصنوعی به نرده‌های محافظ نیاز دارد. این بحثی نیست و هرگز وجود نداشته است. اختلاف بر سر این است که چه کسی آنها را می‌نویسد، چه کسی می‌تواند مشارکت کند و قوانین از منافع چه کسی محافظت می‌کنند.»

همانطور که گومز خاطرنشان می کند، حوزه ایمنی هوش مصنوعی یک حوزه عمیقا سیاسی است، که در آن عباراتی که ایمنی توسط آنها تعریف می شود - و توسط چه کسی - در نهایت به تعیین اینکه چه کسی در مرحله بعدی رقابت هوش مصنوعی قرار دارد و چه کسی پشت سر گذاشته می شود، کمک می کند.

وقتی از طریق پیوندهای موجود در مقالات ما خرید می کنید، ممکن است کمیسیون کمی کسب کنیم. این بر استقلال تحریریه ما تأثیر نمی گذارد.

آخرین روز برای رزرو میز نمایشگاه، 18 سپتامبر است. سرنخ های پر تاثیر، دسترسی سرمایه گذاران، و کانون توجه برند در سالن نمایشگاه Disrupt را از دست ندهید.

استارت آپ فناوری پاک Fluxnium راهی برای بهره برداری از سوخت هسته ای 50000 ساله تیم دی چانت پیدا کرد.

مدل استدلال جدید Salesforce و Nvidia همه چیزهایی است که آزمایشگاه‌های هوش مصنوعی باید از جولی بورت بترسند.

جنسن هوانگ از ترامپ تماس گرفت و چیز دیگری را نیز به نمایش گذاشت، کانی لویزوس

9 استارت‌آپ پرطرفدار از آخرین روز نمایشی Y Combinator، به گفته VCs Marina Temkin Dominic-Madori Davis

تسلا می‌گوید سرانجام در تاریخ 1 اکتبر از نسل دوم رودستر آنتونی ها رونمایی خواهد کرد

Revolut نقض اطلاعات مشتری از طریق درخواست های جعلی دولت Jagmeet Singh را تأیید می کند

مت مولنوگ به کارکنان Automattic می‌گوید (ترول‌ها؟) و می‌گوید که پس از برکناری سارا پرز، مدیر عامل، دوباره کنترل را به دست گرفته است.