حتی پادشاه انگلستان نیز در مورد هوش مصنوعی تردید دارد

پادشاه چارلز پنجشنبه میزبان یک نشست خصوصی با برخی از برجسته‌ترین نام‌های هوش مصنوعی و دولت بریتانیا، از جمله جنسن هوانگ انویدیا، رهبران OpenAI و Anthropic، وزیر جدید هوش مصنوعی بریتانیا، کانیشکا نارایان، و حتی رئیس سرویس اطلاعات خارجی بریتانیا بود. (پائولو بنانتی که به پاپ در مورد هوش مصنوعی مشاوره می دهد نیز آنجا بود).

اظهارات پادشاه در اجلاس سران قابل توجه بود زیرا خانواده سلطنتی معمولا به دلایل قانون اساسی مراقب انحراف بیش از حد به مسائل سیاسی هستند - و هوش مصنوعی یکی از داغ ترین موضوعات در حال حاضر در جهان است. پادشاه از رهبران حاضر در اتاق خواست تا راهی برای کنترل هوش مصنوعی "قبل از اینکه دیر شود" بیابند و افزود که توسعه سریع این فناوری - و "مواد" آن "هم جذاب و هم عمیقا نگران کننده است."

او با اشاره به پزشکی و علم به عنوان مثال، گفت: "هوش مصنوعی در حال حاضر ظرفیت بسیار زیادی برای بهبود و نجات زندگی نشان می دهد." با این حال، کسانی که این فناوری‌ها را ایجاد کرده‌اند، اکنون به طور فزاینده‌ای هشدار می‌دهند که هوش مصنوعی در معرض خطر توسعه ظرفیت‌های تاریک‌تر، شاید حتی برای از بین بردن زندگی است.» این اظهارات تنها چند هفته پس از استعفای یکی از محققان Anthropic مطرح شد و به صورت آنلاین نوشت که شرکت‌های هوش مصنوعی «در حال مسابقه دادن برای ساخت ماشین‌هایی هستند که بسیار باهوش‌تر از هر انسان دیگری باشد» و اینکه بشریت «ممکن است از این کار جان سالم به در نبرد».

پادشاه ادامه داد و گفت که باید به درستی «خطرات وجودی» را در نظر گرفت که چه اتفاقی می‌افتد اگر این فناوری به دست افراد اشتباه بیفتد و در «راه‌های بالقوه فاجعه‌بار» مورد استفاده قرار گیرد.

"مطمئنا، قبل از اینکه خیلی دیر شود، به ابزار کافی برای کنترل نیاز داریم؟" او گفت. هنگامی که پادشاه چارلز به پایان رسید، او از رهبران خواست راهی برای استفاده از مزایای هوش مصنوعی و ایجاد همکاری بین المللی و اجماع برای دستیابی به این نتیجه بیابند. (این اظهارات پس از آن بیان می شود که Anthropic دسترسی به مدل های Fable و Mythos خود را فقط برای مشتریان ایالات متحده قطع کرد و صحنه فناوری یورو را شوکه کرد و بسیاری را به فکر کردن درباره مفهوم حاکمیت هوش مصنوعی واداشت).

او در پایان سخنرانی خود گفت: "وظیفه پیش روی شما صرفا پیشرفت فناوری نیست، بلکه اطمینان از این است که آن را به طور محکم در خدمت بشریت، جامعه و جهان طبیعی قرار دهید." "در حالی که ما چیزهای جدید را در آغوش می گیریم، نباید چیزهای بی زمان را از دست بدهیم."

رسانه ها گزارش می دهند که او حدود 20 دقیقه در آنجا ماند و مهمانان را رها کرد تا در مورد این مسائل بین خودشان صحبت کنند. برای اجلاس پادشاه، OpenAI، مدیر مالی خود، سارا فریر را فرستاد، در حالی که آنتروپیک، تینو کوئلار را، که امور جهانی را رهبری می‌کند، فرستاد. هنگامی که برای اظهار نظر تماس گرفت، کوئلار گفت که این شرکت مفتخر است که در این بحث شرکت کرده است و از پادشاه به خاطر "برگزاری رهبران صنعت و صداها از سراسر جامعه برای بحث در مورد نقش هوش مصنوعی در خدمت به خیر عمومی سپاسگزار است."

این اولین باری نیست که پادشاه چارلز درباره چالش‌ها و مزایای هوش مصنوعی صحبت می‌کند، زیرا قبلا در سال‌های 2023 و 2024 این کار را انجام داده بود. با این حال، این اجلاس به‌ویژه به موقع است زیرا هوش مصنوعی همچنان بر هر صنعت، موضوع و شکل گفتگو تسلط دارد. در این ماه، سم آلتمن، ایلان ماسک، و داریو آمودی از آنتروپیک از OpenAI خواستار کاهش شتاب در توسعه هوش مصنوعی شدند، اما هوانگ از Nvidia و رئیس جمهور دونالد ترامپ به سرعت آن تماس ها را رد کردند. رئیس جمهور گفت: «ما در زمینه هوش مصنوعی چین را رهبری می کنیم.

ما پیشرفته‌ترین کشور جهان هستیم و صادقانه بگویم، من می‌خواهم آن را به همین شکل حفظ کنم، زیرا هر کسی برنده هوش مصنوعی باشد، برنده است.»

این نشان می دهد که با برخورد منافع فناوری بزرگ، سیاست و جامعه، موضوع چقدر پیچیده شده است. در سال گذشته، OpenAI و Anthropic از عرضه‌های اولیه عمومی پرفروش‌کننده انتقاد کرده‌اند، اگرچه OpenAI اخیرا اعلام کرد که برنامه‌های عرضه اولیه سهام خود در سال جاری متوقف شده است زیرا نگرانی‌ها در مورد ایمنی هوش مصنوعی همچنان ادامه دارد.

وقتی از طریق پیوندهای موجود در مقالات ما خرید می کنید، ممکن است کمیسیون کمی کسب کنیم. این بر استقلال تحریریه ما تأثیر نمی گذارد.

دومینیک-مادوری دیویس یک گزارشگر ارشد سرمایه گذاری خطرپذیر و استارتاپ در TechCrunch است. او در شهر نیویورک مستقر است.

می‌توانید با ارسال ایمیل به dominic.davis@techcrunch.com یا از طریق پیام رمزگذاری‌شده به شماره 1 646 831-7565 +1 در سیگنال، با Dominic تماس بگیرید یا آن را تأیید کنید.

آخرین روز برای رزرو میز نمایشگاه، 18 سپتامبر است. سرنخ های پر تاثیر، دسترسی سرمایه گذاران، و کانون توجه برند در سالن نمایشگاه Disrupt را از دست ندهید.

استارت آپ فناوری پاک Fluxnium راهی برای بهره برداری از سوخت هسته ای 50000 ساله تیم دی چانت پیدا کرد.

مدل استدلال جدید Salesforce و Nvidia همه چیزهایی است که آزمایشگاه‌های هوش مصنوعی باید از جولی بورت بترسند.

جنسن هوانگ از ترامپ تماس گرفت و چیز دیگری را نیز به نمایش گذاشت، کانی لویزوس

9 استارت‌آپ پرطرفدار از آخرین روز نمایشی Y Combinator، به گفته VCs Marina Temkin Dominic-Madori Davis

تسلا می‌گوید سرانجام در تاریخ 1 اکتبر از نسل دوم رودستر آنتونی ها رونمایی خواهد کرد

Revolut نقض اطلاعات مشتری از طریق درخواست های جعلی دولت Jagmeet Singh را تأیید می کند

مت مولنوگ به کارکنان Automattic می‌گوید (ترول‌ها؟) و می‌گوید که پس از برکناری سارا پرز، مدیر عامل، دوباره کنترل را به دست گرفته است.