نظارت بر هوش مصنوعی Anthropic به اندازه کافی دموکراتیک نیست

آنتروپیک اخیرا از استخدام شش ارزیاب خارجی از موسسه غیرانتفاعی مدل ارزیابی و تحقیقات تهدید خبر داد تا ارزیابی خارجی مدل‌های هوش مصنوعی را در طول فرآیند توسعه ارائه دهند. این پیشرفت مهمی در توانایی جامعه ما برای مدیریت توسعه هوش مصنوعی است. مضحک هم هست.

اجرای فعلی شبیه به این است که دانش آموزی انتخاب می کند که در چه موضوعاتی تست شود و سپس انتخاب می کند که کدام یک از دوستان خود آنها را در آن موضوع امتحان کند. ارزیاب‌های خارجی باید در شرکت‌های هوش مصنوعی تعبیه شوند، اما آنها نباید محدود به محققان ایمنی هوش مصنوعی باشند و نباید توسط شرکت مورد ارزیابی انتخاب شوند. در عوض، آنها باید جوامعی را در سراسر جامعه نشان دهند، به مجموعه بسیار گسترده تری از اختلالات پیش بینی شده رسیدگی کنند و توسط مردم انتخاب شوند. اگر هوش مصنوعی کندتر توسعه می یافت، توسعه آن می توانست توسط فرآیندهای دموکراتیک معمول مدیریت شود.

اما سرعت باورنکردنی پیشرفت این فناوری‌ها نیازمند راه‌های جدیدی برای عموم مردم برای مدیریت این صنعت است. این امر مستلزم توسعه زیرساخت های جدید دموکراسی است. و ارزیابی‌های تعبیه‌شده مستقل باید بخشی از این زیرساخت جدید باشد. من یک ریاضیدان هستم که هندسه داخلی سیستم های هوش مصنوعی را مطالعه می کنم.

برای سال‌ها، من نگران این بودم که روشی که محققان هوش مصنوعی در حال توسعه هوش مصنوعی هستند بدون توجه به نیازها و خواسته‌های مردم رشد می‌کند. دو سال پیش، یک کارگاه آموزشی را در NeurIPS - یکی از بزرگترین کنفرانس‌های هوش مصنوعی سالانه - برای تسهیل گفتگو بین محققان هوش مصنوعی و جوامعی که تحت تأثیر قرار گرفته‌اند، سازماندهی کردم، زیرا مهم است که اطلاعات عمومی بیشتری در مورد نحوه طراحی و توسعه سیستم‌های هوش مصنوعی داشته باشیم.

آنچه در مورد محققان هوش مصنوعی بسیار رسواکننده است، بدترین سناریوهای بالقوه ای نیست که ما مایل به تحمل آن هستیم، بلکه بهترین سناریوهای بالقوه ای است که برای آنها برنامه ریزی می کنیم. برخی از محققان فکر می کنند که هوش مصنوعی منجر به انقراض انسان می شود. تعداد بسیار بیشتری بر این باورند که هوش مصنوعی منجر به تمرکز بی‌سابقه‌ای از قدرت و سرمایه خواهد شد – که سیستم‌هایی که ما در حال توسعه آن هستیم، حیثیت کارگران، از جمله خودمان را تضعیف می‌کند و شبکه‌های نظارتی خفه‌تر را تقویت می‌کند. ما باید همه این خطرات را کاهش دهیم، نه فقط شدیدترین آنها را.

اما جامعه ما تا زمانی که مردم به فریاد زدن از بیرون تنزل داده باشند، قادر به رسیدگی به هیچ یک از این خطرات نخواهد بود. به منظور ایجاد نظارت دموکراتیک بر توسعه هوش مصنوعی، نمایندگانی که به دنبال منافع عمومی هستند باید در تمام تیم های سازنده هوش مصنوعی پیشرفته تعبیه شوند. همانطور که داریو آمودی، مدیر عامل آنتروپیک پیش بینی می کند، هر آزمایشگاه هوش مصنوعی مرزی باید «دسترسی مستمر و کارمندی به تیمی از ارزیاب های شخص ثالث تعبیه شده» داشته باشد.

این ارزیاب‌ها در مورد فرآیند توسعه، از جمله "خطوط و فرآیندهای آموزشی" دید کامل خواهند داشت و توسط مردم و نه شرکت، پول پرداخت می‌شود و به آنها متعهد می‌شوند. اما ما باید فراتر از دید آمودی برویم. دامنه موضوعات مورد ارزیابی باید بیشتر از این باشد که «آیا این سیستم احتمالا باعث تلفات جمعی می شود؟» خطرات ناشی از هوش مصنوعی شامل اثرات روانی مخربی مانند روان‌پریشی هوش مصنوعی، اختلال در زمینه‌های خلاقانه، کشتار خودکار، نظارتی است که از حقوق قانونی ما گذشته است و خود دموکراسی ما را از بین می‌برد.

کارشناسان در مورد همه این خطرات باید در شرکت‌های هوش مصنوعی تعبیه شوند، نه تنها بر قابلیت‌های مدل‌های جدید نظارت کنند، بلکه به طور فعال با توسعه‌دهندگان هوش مصنوعی برای مهار بدترین تأثیرات تعامل داشته باشند. برای مثال، شاهد ظهور وحشتناکی از خودکشی توسط کودکان بوده‌ایم که توسط چت‌بات‌هایی که کودکان به آن‌ها محرمانه بودند، تحریک یا تشویق شده‌اند.

عموم مردم سزاوار داشتن ممتحنین مستقل هستند که در کنار محققان هوش مصنوعی در آزمایشگاه‌های مرزی کار می‌کنند، که هم در روان‌شناسی و علوم اجتماعی تخصص دارند و هم در زمان واقعی در لبه‌های پیشرفته دیده می‌شوند. ضروری است که کارشناسان خارجی در طول توسعه دوش به دوش با محققان هوش مصنوعی کار کنند، زمانی که تنظیمات را می توان به طور موثر در نظر گرفت، نه اینکه محدود به ارزیابی مدل ها پس از آن در زمانی که دامنه مداخلات موجود محدودتر است.

این همان چیزی است که هوش مصنوعی در یک دموکراسی ساخته شده است: طیفی از متخصصان - با بودجه عمومی و پاسخگو به مردم - راهنمایی مستقل در توسعه مهم ترین فناوری زمان ما ارائه می دهند. Jacob Coxon، محقق هوش مصنوعی که کار خود را در Anthropic به دلیل بی‌احتیاطی کلی صنعت ترک کرد، گفت که بسیار مهم است که «چشمان خود را در مورد مسیری که چیزها در حال حرکت هستند باز نگه دارید و لزوما همه چیز را به افرادی که آن را می‌سازند واگذار نکنید زیرا، می‌دانید، آنها خواهان تعامل هستند.» زمان آن فرا رسیده است که محققان هوش مصنوعی پول ما را در آنجا قرار دهند

r دهان است و با عموم مردم درگیر است. این نمی تواند تقلید از تعامل باشد مانند دکمه «تماس با ما» که ایمیل های خوانده نشده را جمع آوری می کند. بلکه باید یک ادغام جدی از کارشناسان منتخب دموکراتیک باشد که در کنار محققان هوش مصنوعی کار می کنند، زیرا ما آینده ای را ایجاد می کنیم که همه ما در آن زندگی می کنیم. یایم کوپر یک ریاضیدان و متخصص یادگیری عمیق است.