با دانشمند برتر آنتروپیک آشنا شوید که هسته اصلی بحث عذاب هوش مصنوعی امروز را پیش بینی کرد.

جرد کاپلان، مدیر ارشد علمی Anthropic. بلومبرگ/گتی ایماژ جرد کاپلان، یکی از بنیانگذاران Anthropic، بحث در مورد خطر هوش مصنوعی وابسته به هوش مصنوعی خود-بهبود را پیش بینی کرد.

کاپلان رهبری تحقیقات و مقیاس‌پذیری مسئولانه را در آنتروپیک بر عهده دارد و نقشی اساسی در مسابقه هوش مصنوعی ایفا می‌کند.

همکاران سابقش او را فردی تیزبین و معقول توصیف می کنند و می گویند نگرانی های او واقعی است. در مرکز بحث در مورد فاجعه مبتنی بر هوش مصنوعی، Anthropic وجود دارد. در مرکز آنتروپیک، جارد کاپلان قرار دارد.

بنیانگذار Anthropic در اواخر سال گذشته زنگ خطر را در مورد هوش مصنوعی به صدا درآورد: هیچ کس نمی داند چه اتفاقی می افتد اگر توسعه دهندگان مرزی هوش مصنوعی را به نقطه ای برسانند که به طور کامل خود را آموزش دهد. او به گاردین گفت که اجازه دادن به آموزش هوش مصنوعی می‌تواند منجر به "انفجار اطلاعاتی" شود، اما این "خطر نهایی" و "شاید بزرگترین تصمیم یا ترسناک‌ترین کاری است که باید انجام شود." او گفت که نقطه تصمیم گیری برای این فرآیند می تواند بین سال های 2027 تا 2030 برسد.

ما فقط طبق برنامه هستیم با پایان یافتن سال 2026، سیستم های پیشرفته هوش مصنوعی در حال حاضر به محققان کمک می کنند تا مدل هایی را در Anthropic و OpenAI بسازند.

کاپلان، فیزیکدانی که به پژوهشگر هوش مصنوعی تبدیل شده، OpenAI را ترک کرد تا در سال 2021 با مدیر عامل شرکت داریو آمودی و دیگران آنتروپیک را تأسیس کند. او نگرانی هایی را درباره خارج شدن خطرناک هوش مصنوعی از کنترل برخی اعتبار معتبر می دهد - نقش افسر ارشد علمی او در Anthropic یکی از تأثیرگذارترین مشاغل فناوری است. او بر تحقیقات فنی، ایمنی هوش مصنوعی و «سیاست مقیاس‌پذیری مسئولانه» آنتروپیک نظارت دارد. این وظیفه اوست که خطرات هوش مصنوعی قدرتمند را کاهش دهد.

افراد بیشتری به هشدار کاپلان گوش می دهند. Jacob Coxon، محققی که در اوایل این ماه از Anthropic استعفا داد، در پست X ویروسی خود مستقیما به اجازه دادن به هوش مصنوعی آموزش داد و نوشت که OpenAI و Anthropic با زندگی ما قمار می کنند. طبق نظرسنجی هفته گذشته پولیتیکو، حدود دو سوم آمریکایی‌ها اکنون فکر می‌کنند خطری وجود دارد که هوش مصنوعی بتواند بشریت را نابود کند.

این گفتگو به DC نیز رسیده است و قانونگذاران قوانین جدیدی را پیشنهاد می کنند و توجه جدیدی به نگرانی های طولانی مدت ایمنی هوش مصنوعی دارند. جفری لدیش، مهندس سابق Anthropic و بنیانگذار موسسه تحقیقات غیرانتفاعی ایمنی هوش مصنوعی Palisade، به Business Insider گفت که هنگام ملاقات با قانونگذاران، به اظهارات کاپلان اشاره کرد - به ویژه این ایده که خود قطار هوش مصنوعی می تواند باعث شود که از کنترل خارج شود.

لادیش گفت: "خوب است که افراد بیشتری از مهندسان، محققان و افرادی در شرکت بیشتر بشنوند که وظیفه آنها انجام روابط عمومی شرکت نیست." این وظیفه آنهاست که همه چیز را بفهمند.»

کاپلان که اکنون یک میلیاردر است، حتی زمانی که محققان هوش مصنوعی که با او کار کرده‌اند، می‌گویند که او به‌عنوان یک رهبر اصلی در آنتروپیک فعالیت می‌کند. شرکت حاضر نشد او را برای مصاحبه در دسترس قرار دهد.

کاپلان مدت ها قبل از دوران هوش مصنوعی با داریو آمودی آشنا شد

هوش مصنوعی دومین شغل کاپلان است. او زمانی با آمودی ملاقات کرد که آن دو به ترتیب در هاروارد برای فیزیک و پرینستون برای بیوفیزیک برای تحصیلات تکمیلی شرکت کردند. کاپلان در یک سخنرانی بنیاد هرتز در سال گذشته نقل کرد که آنها در نهایت به یک رویداد رفتند و با ارزیاب موسسه خیریه جدید GiveWell پیوند خوردند. آنها با هم دوست شدند و زمانی در سانفرانسیسکو به عنوان هم اتاقی با هم زندگی کردند.

در آن زمان، کاپلان از قبل قول داده بود. او یک مقاله تاثیرگذار فیزیک به نام "تئوری میدان موثر تورم" را نوشت. او قبل از بازگشت به شرق برای پیوستن به دانشکده جانز هاپکینز در سال 2012 در یک آزمایشگاه دپارتمان انرژی در منلو پارک و سپس در استنفورد کار کرد.

نیما ارکانی حامد، مشاور کاپلان در هاروارد، به یاد می‌آورد که قبل از گرفتن مقاله مشابهی از یک برنده مشهور نوبل، در مورد کاغذ تورم تردید داشت. آرکانی حامد به Business Insider گفت که قدرت کاپلان به عنوان یک فیزیکدان در دنبال کردن جایی است که یک "نقطه مفهومی بزرگ" به آن منتهی می شود و این او را برای هوش مصنوعی آماده کرد.

ارکانی حامد گفت: «این سبک کاملا مناسب زمینه‌ای است که جدید است و میوه‌های کم‌رنگ زیادی در آن وجود دارد.

کاپلان رویکرد خود را در مصاحبه ای در سال 2017 با مجله جانز هاپکینز خلاصه کرد، که همچنین عشق او به جیو جیتسو برزیلی را که اکنون در سیلیکون ولی محبوب است، نشان می دهد. "من می خواهم در برخی از سطوح ابتدایی گیج شوم؛ آیا ما سوال درستی می پرسیم؟" کاپلان گفت. "آیا ما از راه درست می پرسیم؟"

کاپلان از فیزیک به پیشرفت های هوش مصنوعی رسید

در اواخر دهه 2010، بسیاری از دوستان کاپلان در مورد هوش مصنوعی بحث می کردند، از جمله آمودی، که کار در OpenAI را آغاز کرده بود. کاپلان گفت که با گروهی از فیزیکدانان دیگر شروع به یادگیری بیشتر در مورد این فناوری کرد و به تدریج شروع به مشارکت در تحقیقات OpenAI به عنوان مشاور کرد.

در سال 2020، سد شکست. کاپلان رهبری یکی از مقالات برجسته هوش مصنوعی به نام «قوانین مقیاس‌بندی برای مدل‌های زبان عصبی» را بر عهده داشت که نشان می‌داد مدل‌های بزرگ‌تر نتایج بهتری به همراه داشته‌اند و رویکرد اساسی را برای رونق هوش مصنوعی متعاقب تعیین می‌کند.

کاپلان در یک سخنرانی در Y Combinator در سال 2025 گفت: "این چیزی بود که به وجود آمد زیرا من داشتم احمقانه ترین سوال ممکن را می پرسیدم." "به عنوان یک فیزیکدان، شما برای انجام این کار آموزش دیده اید."

سورن میندرمن، محقق هوش مصنوعی، انتشار این مقاله را اولین باری است که درباره کاپلان شنیده بود.

میندرمن که بعدا در مقالات دیگر با کاپلان همکاری کرد، گفت: "من آن را با هیجان به گروه خود ارائه کردم." "مردم خیلی شک داشتند. من فکر کردم، این یک کارگردانی عالی است."

در همان سال، کاپلان و سایر محققان OpenAI نیز مدل زبان بزرگ GPT-3 را معرفی کردند که به عنوان پایه‌ای برای ChatGPT عمل کرد.

OpenAI به عنوان یک آزمایشگاه تحقیقاتی در حال گسترش بود، اما کاپلان، آمودی و سایر محققان به زودی آن را ترک کردند. یکی از فراریان، تام براون، بعدا در پادکست Lightcone گفت که این گروه نماینده افرادی هستند که روند «قانون مقیاس‌پذیری» را جدی‌تر گرفته‌اند و معتقدند که باید برای زمانی آماده شوند که «بشریت کنترل را به هوش مصنوعی متحول‌کننده واگذار کند». کاپلان، آمودی، براون و دیگران آنتروپیک را در سال 2021 تأسیس کردند.

آرکانی حامد، مشاور سابق کاپلان، گفت که به خاطر می‌آورد که پنج سال پیش در مورد تأثیر آینده هوش مصنوعی بر فیزیک هیجان‌زده شده بود. ارکانی حامد گفت کاپلان به او گفت که بیشتر نگران این است که هوش مصنوعی به جامعه آسیب نرساند.

قمار بزرگ توسعه هوش مصنوعی

تا کنون، روند قوانین مقیاس پذیری حفظ شده است. آزمایشگاه‌های مرزی با استفاده از داده‌ها و قدرت محاسباتی بیشتر، قابلیت‌های هوش مصنوعی را ارتقا می‌دهند. آنتروپیک این پیشرفت‌ها را به مرز عرضه اولیه غول‌پیکر رسانده است.

این نقطه عطف مالی در همان زمانی است که نکته کاپلان در مورد خطر اجازه دادن به آموزش هوش مصنوعی به خود برجسته می شود. آمودی، چهره عمومی آنتروپیک، در مقاله‌ای اخیر گفت که آزمایشگاه‌های پیشرو باید توسعه را «سرعت» کنند.

آمودی نوشت: «از تابستان امسال، هوش مصنوعی به‌طور چشمگیری سریع‌تر پیشرفت کرده است، که عمدتا ناشی از توانایی رو به رشد هوش مصنوعی برای ساخت نسل بعدی هوش مصنوعی است. وی افزود: اگر کنترل نشود، می‌تواند از توانایی ما برای درک و کنترل این سیستم‌ها پیشی بگیرد، بنابراین باید با دقت زیاد دنبال شود.

دیوید دوونود در سال‌های 2023 و 2024 دو سطح پایین‌تر از کاپلان در تیم علمی هم‌ترازی آنتروپیک کار می‌کرد. او به خاطر می‌آورد که کاپلان برخی از آزمایش‌هایی را که خودش انجام داده بود به او نشان داد، و او به آسانی با آنها صحبت کرد، راندمان و معقول بود.

در حال حاضر، Duvenaud در حال تماشای Anthropic است که چگونه فناوری در حال ساخت خود را قدرتمند می کند. او به Business Insider گفت که دیدن رهبران شرکت‌ها برای «سوئیچ کشتن» نشان می‌دهد که چقدر خطر پیشرفت فرآیند به سمت جنوب را جدی می‌گیرند، و از اینکه اجازه دهد هوش مصنوعی به‌طور خودکار خودش را بهبود بخشد، احساس «وحشتناک» می‌کند.

دوونو گفت: "این یک قمار دیوانه کننده است، مهم نیست که چه باشد." "حتی اگر عاقل ترین انسان ها کسانی باشند که آن را اداره می کنند."

نکته ای دارید؟ با این خبرنگار از طریق ایمیل به آدرس scouncil@businessinsider.com یا از طریق پیامک، سیگنال، تلگرام یا واتساپ به شماره 415-757-8198 تماس بگیرید. از یک آدرس ایمیل شخصی، یک شبکه WiFi غیرکار، و یک دستگاه غیر کاری استفاده کنید. در اینجا راهنمای ما برای به اشتراک گذاری ایمن اطلاعات است.

مقاله اصلی را در Business Insider بخوانید