آیا صنعت هوش مصنوعی واقعا آماده کاهش سرعت است؟

ما شاهد یک بحث بزرگ در مورد ایمنی هوش مصنوعی و کاهش بالقوه هستیم، زیرا داریو آمودی، مدیرعامل آنتروپیک، اخیرا طرحی را برای «پیش‌رفت از مرزها» منتشر کرده است، در حالی که جنسن هوانگ، مدیر عامل انویدیا، علنا ادعاهای رئیس‌جمهور دونالد ترامپ مبنی بر اینکه واکنش‌های هوش مصنوعی یک فریب است و مقررات غیرضروری است، تکرار کرده است.

در حالی که من از اینکه چه تعداد از رهبران صنعت به نظر می رسد از طرح Amodei حمایت می کنند شگفت زده شدم، شان اشاره کرد که این طرح در جزئیات کوتاه به نظر می رسد.

و هنگامی که کریستن از او پرسید که آیا ترکیبی از مقررات موجود و عملکرد بازار آزاد می‌تواند به تنهایی تدابیر کافی را فراهم کند، شان پاسخ داد: «ما در حال حاضر یک دولت فدرال داریم که مطمئنا به نظر نمی‌رسد مشتاق اجرای مقررات به طور کلی باشد، چه رسد به اینکه به طور خاص در اینجا صحبت کنیم.»

به علاوه، او استدلال کرد: «به نظر نمی‌رسد تعداد زیادی انتخاب مصرف‌کننده این بازار را هدایت کند، به این معنا که، بسیار خوب، اگر یکی از این شرکت‌ها واقعا کار بدی انجام دهد، تأثیری در تعداد لغو یا هر چیز دیگری خواهد دید.»

برای پیش نمایش مکالمه ما که برای طولانی و وضوح ویرایش شده است، به خواندن ادامه دهید.

آنتونی ها: شان، نظرت چیست؟ آیا ما واقعا قصد داریم "مرز را پیش ببریم"؟

شان اوکین: به دلایلی شبیه چیزی از «Point Break» به نظر می رسد. این فقط یک بیانیه بسیار کالیفرنیا است، مانند "ما در مرز قدم خواهیم گذاشت، برو."

من نمی دانم. هفته گذشته در این برنامه گفتم، فکر نمی‌کردم به سمت کاهش سرعت حرکت کنیم، تا حد زیادی به این دلیل که فکر نمی‌کنم این شرکت‌ها به گونه‌ای ساختار یافته باشند که این کار را انجام دهد.

بنابراین این یک تلنگر کاملا فوری از چیزی بود که یک هفته پیش گفتم، شنیدن این موضوع از داریو در Anthropic و سم در OpenAI و حتی ایلان ماسک تا حدی - و می‌توانیم به این موضوع بپردازیم که آیا این را باور داریم یا نه. من می گویم، فکر نمی کنم کاملا اشتباه کرده باشم، زیرا حتی با وجود این برنامه ریزی های سست که داریو در یک پست وبلاگ مطرح کرده و برخی از رهبران دیگر درباره آن صحبت کرده اند، احساس می کنم ما هنوز بسیاری از جزئیات را در اینجا نادیده می گیریم، نه تنها در مورد برخی از ادعاها در مورد اینکه چرا این افراد فکر می کنند خطرات و مخاطراتی وجود دارد، بلکه همچنین جزئیاتی در مورد اینکه منظور آنها از کاهش سرعت چیست.

آنتونی، می‌دانم که این مطالب را از نزدیک در آخر هفته گذشته خواندی، زیرا همه چیز در حال رخ دادن بود، بنابراین من کنجکاو هستم که آیا شما ممکن است سخاوتمندتر از من باشید، تا آنجا که بفهمید آنها می‌خواهند اینجا چه بگویند.

آنتونی: منظورم این است که من هم سوالاتی دارم. چیزی که واقعا برای من قابل توجه بود این واقعیت است که به نظر می رسید افراد زیادی در این صنعت نسبتا سریع در اطراف این موضوع متحد می شوند. حتی قبل از اینکه آمودی پست وبلاگ خود را منتشر کند، می دیدم که افراد دیگری نسخه ای از این [طرح،] را درست در روزهای منتهی به آن پست می کردند.

درک من این است که این پیشنهادات از جامعه ایمنی هوش مصنوعی بیرون آمده است. اینها چیزهایی است که مدتی است در حال رخ دادن هستند. آنها فقط چیزهایی نیستند که [آمودی] به تنهایی فکر کرده است. اما به نظر می‌رسید که بسیاری از مردم به نوعی آماده پذیرش این موضوع هستند و از برخی جهات، [این] دلگرم‌کننده است که ببینیم اجماع وجود دارد. اما من را نیز کمی شک می کند که این نشان دهنده گام های اصلی و واقعی به سمت کاهش سرعت است.

کرستن کوروسک: اول از همه، اجماع می تواند چیز خوبی باشد. همچنین می تواند سرآغاز تشکیل کارتل باشد. و بنابراین، بیایید روشن کنیم [درباره] چه کسی در اینجا صحبت می کنیم. ما در مورد آزمایشگاه های هوش مصنوعی مرزی صحبت می کنیم. و این خاص و مهم است.

شما یک دقیقه پیش گفتید که جزئیات واقعا واضح نیستند، اما ما می‌دانیم که ایده کلی در اینجا این است که ارزیاب‌های شخص ثالث مستقل وارد [شرکت‌هایی] مانند Anthropic یا OpenAI می‌شوند و اقدامات و حوادث ایمنی هوش مصنوعی را نظارت می‌کنند. اما ابهامات زیادی پیرامون آن وجود دارد.

سپس پیشنهاد دیگری برای هماهنگی شرکت های بزرگ هوش مصنوعی در کشورهای دموکراتیک در مورد استانداردها و محدودیت های ایمنی وجود دارد. و سپس این قطعه هماهنگی بین المللی. بنابراین این ایده های کلی در مورد این است.

همچنین اضافه می‌کنم که واکنش‌های قابل توجهی از سوی افراد بسیار خاص صورت گرفته است. و با کمال تعجب، برخی از افرادی که فکر نمی‌کردم از این موضوع عقب نشینی کنند. من حدس می‌زنم که واضح است، جنسن هوانگ، مدیرعامل انویدیا، که کلمات انتخابی خوبی داشت. نمی دانم نظر هیچ کدام از شما در مورد […] برخی از نظرات او و تماسی که از رئیس جمهور ترامپ روی صحنه داشت [در اجلاس سران همه در] چیست؟

سین: فکر می‌کنم جنسن می‌فهمد که تا حدی، او به عنوان بزرگسال در اتاق اینجا دیده می‌شود. جالب است، زیرا این پویایی است که به نظر من تغییر کرده است. اگر بخواهید یک سال، تقریبا دو سال پیش، از مردم بپرسید که چه کسی این نقش را ایفا می‌کند، زیرا این شرکت‌های هوش مصنوعی واقعا شروع به انفجار می‌کردند، فکر می‌کنم بسیاری از مردم به مایکروسافت و ساتیا نادلا اشاره می‌کردند، و من احساس می‌کنم که مایکروسافت - به دلایلی که نیازی نیست فعلا به آن‌ها بپردازیم - کنترل بزرگسالی در اتاق را از دست داده است.

البته تا حدی به این دلیل که نادلا گفت که قرار است گوگل را به رقص وادار کند، و سپس این اتفاق هرگز نیفتاد. و در واقع، برعکس، از بسیاری جهات اتفاق افتاد.

جنسن، فکر می‌کنم، نه تنها می‌داند که او باید بیشتر مردم را راضی کند و بنابراین می‌خواهد سنجیده‌ترین چیز را بگوید، بلکه یکی از مفیدترین رابط‌ها بین این حوزه و این دولت است، تا جایی که در حالی که در این کنفرانس بسیار پرمخاطب و پرمخاطب روی صحنه است، با او تماس می‌گیرد.

کرستن: [به] نظر شما در مورد اینکه او بزرگسال در اتاق و رابط است، او در موقعیتی است که می تواند این کار را انجام دهد. اما به نظر من، می‌توانم بگویم که [ظاهر او] که کمی صحنه‌سازی شده بود، یک قدم فراتر رفت و واقعا این واقعیت را برجسته کرد که انویدیا از هوش مصنوعی سود می‌برد که به شیوه‌ای بدون سرعت به جلو می‌رود.

من از بدبین بودن در مورد آن متنفرم، اما این به نوعی واکنش اولیه من به آن بود.

آنتونی: منافع ترامپ و هوانگ همسو هستند، و همچنین [هوانگ] آنچه را که می‌خواهد بشنود به [ترامپ] می‌گوید.

من فکر می کردم برخی از چیزهایی که او به طور خاص روی آنها تمرکز کرده بود ارزش کمی باز کردن را دارند. او ابتدا در مورد این ایده صحبت کرد: "ما کاهش سرعت نخواهیم داشت." جالب است، فقط این عبارت "کاهش سرعت" که زیاد مطرح شده است - اما در عین حال، آلتمن و آماد [از زبان کاهش سرعت استفاده خواهند کرد، اما کلمه ای که دوست دارند بیشتر استفاده کنند، "سرعت" است. درست است؟

و این سه پیشنهاد - آنهایی که شما همین الان توضیح دادید، کرستن - در تئوری، می‌توانند منجر به کند شدن کار شوند، اما آنها به صراحت این را نمی‌گویند. می گوید: "هی، ما در حال انجام برخی اقدامات ایمنی اولیه هستیم و از برخی افراد می خواهیم ما را زیر نظر داشته باشند." اما هیچ یک از این چیزها ذاتا نمی‌گویند که کارها باید کندتر از الان پیش بروند، حداقل آن‌طور که من می‌فهمم.

کرستن: پس من یک سوال از شان دارم. آیا نمی‌توانید در یک جامعه بازار آزاد، ما قوانین موجود را داریم، و همچنین [در] محیط رقابتی که در آن حمایت‌گرایی وجود ندارد، اگر چیزی ناامن وجود داشته باشد که توسط یک شرکت منتشر می‌شود، استدلال کنید که آنها دیگر نمی‌توانند یک شرکت قابل دوام باشند؟ و امروز تنظیم کننده هایی وجود دارند که می توانند این شرکت ها را دنبال کنند؟ یا این ایده را رد می کنید؟

سین: در یک خلاء، یا در بازاری که با یک سری فشارهای خارجی متفاوت تحریف نمی‌شود، بله، من فکر می‌کنم یک عنصر از آن وجود دارد. اما ما در حال حاضر یک دولت فدرال داریم که مطمئنا به نظر نمی رسد مشتاق اجرای مقررات به طور کلی باشد، چه رسد به اینکه به طور خاص در اینجا صحبت کنیم.

و ما همچنین در این وضعیت عجیب هستیم که - من واقعا راه درستی برای بیان آن نمی‌دانم، اما به نظر نمی‌رسد تعداد زیادی انتخاب مصرف‌کننده این بازار را هدایت کند، به این معنا که، بسیار خوب، اگر یکی از این شرکت‌ها واقعا کار بدی انجام دهد، تأثیری در تعداد لغو یا هر چیز دیگری خواهد دید.

به خصوص در حال حاضر، از آنجایی که آن‌ها وارد شرکت‌های تجاری شده‌اند و از فروش خدمات خود به شرکت‌ها پول بیشتری به دست می‌آورند، طبیعتا رأی دادن با دلارهایتان در آنجا سخت‌تر است. شرکت‌ها قرار نیست وسایل خود را جمع و جور کنند و از کدکس [OpenAI] به کد کلود [Anthropic] حرکت کنند، فقط به این دلیل که در اصل با کاری که OpenAI انجام داده موافق نیستند.

و سپس آن‌ها فقط با آنقدر پول سرمایه‌گذاری شناور می‌شوند که اگر واقعا با آن‌ها مواجه شوند، جذب هر یک از این ضررها برای آنها آسان‌تر می‌شود. بنابراین فکر می‌کنم از نظر تئوری ایده خوبی است، اما احساس می‌کنم در عمل، هیچ‌یک از اینها واقعا اتفاق نمی‌افتد.

وقتی از طریق پیوندهای موجود در مقالات ما خرید می کنید، ممکن است کمیسیون کمی کسب کنیم. این بر استقلال تحریریه ما تأثیر نمی گذارد.

آنتونی ها ویرایشگر آخر هفته TechCrunch است. او پیش از این به عنوان گزارشگر فناوری در Adweek، سردبیر ارشد در VentureBeat، گزارشگر دولت محلی در Hollister Free Lance و معاون محتوا در یک شرکت VC کار می کرد. او در شهر نیویورک زندگی می کند.

می‌توانید از طریق ایمیل anthony.ha@techcrunch.com با آنتونی تماس بگیرید یا آن را تأیید کنید.

آخرین روز برای رزرو میز نمایشگاه، 18 سپتامبر است. سرنخ های پر تاثیر، دسترسی سرمایه گذاران، و کانون توجه برند در سالن نمایشگاه Disrupt را از دست ندهید.

نوع جدیدی از مدل هوش مصنوعی از مخترع ChatGPT توسعه دهندگان تیم فرنهولز را هیجان زده کرده است.

OpenAI مدل های خود را گرفتار کرد که برای جانشینان یادداشت می گذاشتند تا رفتار بد ربکا بلان را پنهان کنند

مدیر مایکروسافت خراشیدن با هوش مصنوعی را «بزرگترین سرقت نیروی کار در تاریخ بشر» خواند، پرونده‌های جدید ویرایش نشده نشان می‌دهد که ربکا بلان

استارت آپ فناوری پاک Fluxnium راهی برای بهره برداری از سوخت هسته ای 50000 ساله تیم دی چانت پیدا کرد.

مدل استدلال جدید Salesforce و Nvidia همه چیزهایی است که آزمایشگاه‌های هوش مصنوعی باید از جولی بورت بترسند.

جنسن هوانگ با ترامپ تماس گرفت و چیز دیگری را نیز به نمایش گذاشت، کانی لویزوس