لینا خان در مورد وحشت Doomer and Ending AI Exceptionalism

در اینجا مشترک شوید: Apple Podcasts | Spotify | یوتیوب

همانطور که عوامل هوش مصنوعی "سرکش" سیستم ها را هک می کنند و رهبران درباره فاجعه هشدار می دهند، چه کسی باید مسئول شناخته شود؟ لینا خان، کمیسر سابق FTC استدلال می کند که ایالات متحده در حال حاضر بسیاری از ابزارهای نظارتی مورد نیاز را دارد. در این قسمت زنده از جشنواره آتلانتیک، چارلی وارزل مجری برنامه Galaxy Brain با خان در مورد اینکه چرا مکالمه مربوط به هشدار هوش مصنوعی احساس می‌کند، چگونه پول بر سیاست و مقررات تأثیر می‌گذارد، و برخی از روش‌هایی که اگر او هنوز رئیس FTC بود، با هوش مصنوعی برخورد می‌کرد، صحبت می‌کند.

متن زیر متنی از این قسمت است:

چارلی وارزل: من چارلی وارتزل هستم. و این Galaxy Brain است، نمایشی که در آن امروز در مورد آنچه در زمین باید درباره شرکت‌های هوش مصنوعی که می‌گویند محصولاتشان ممکن است همه ما را بکشد صحبت کنیم. و من به معنای واقعی کلمه فرد مناسبی برای صحبت در این مورد دارم، رئیس شرکت توسعه اقتصادی شهر نیویورک و رئیس سابق FTC در زمان جو بایدن، لینا خان. اما ابتدا کمی پیش زمینه.

کمی بیش از یک هفته پیش، جیکوب کوکسون، محقق Anthropic، کار خود را رها کرد و هشداری را منتشر کرد: او استدلال کرد که شرکت‌های هوش مصنوعی ایمنی را جدی نمی‌گیرند و به نقل از آنها «با جان ما قمار می‌کنند». محصولی که او در سه سال گذشته روی آن کار کرده بود از کنترل افرادی که آن را می ساختند خارج شد و به گفته او ممکن است روزی به بشریت پایان دهد. هشدار او همان چیزی بود که مدیران هوش مصنوعی، محققان، نوع دوستان موثر در انجمن‌ها، و محکومان منطقه خلیج، بیش از یک دهه است که با نگرانی درباره آن پست می‌کنند و کتاب‌های پرفروشی را در مورد آن می‌نویسند.

اما هشدار کاکسون کاری را انجام داد که همه آن هشدارها نتوانستند انجام دهند. مهار را شکست و یک گفتگوی ملی ایجاد کرد. قانونگذاران نگران خواستار برگزاری جلسات اضطراری هوش مصنوعی شدند. پرزیدنت اوباما در نظر داشت؛ سام آلتمن، داریو آمودی، مدیر عامل آنتروپیک، دمیس حسابیس، رئیس Google DeepMind، و ایلان ماسک، بنیانگذار SpaceXAI، همگی به اتفاق نظر نادری دست یافتند و خواستار کاهش سرعت توسعه هوش مصنوعی شدند. پرزیدنت دونالد ترامپ به همه اینها پاسخ داد و ترس از هوش مصنوعی را "فریب" خواند. همه چیز به سرعت در حال حرکت است.

اما یک چیز واضح است: مکالمه ایمنی هوش مصنوعی در مقیاس جهانی بین افراد داخلی و هنجارها به طور یکسان اتفاق می افتد.

و سؤالات تقریبا پایان ناپذیری در اینجا وجود دارد: این تهدید چقدر واقعی است؟ آیا این تبلیغات شرکتی و هوش مصنوعی بازاریابی است؟ اما مهم نیست که ریسک واقعی این شرکت‌ها را در کجا قرار می‌دهید، این سوال وجود دارد که در مورد آن چه کاری باید انجام دهیم. خود شرکت ها خواستار یک چارچوب نظارتی شامل حسابرسان مستقل مدل ها هستند. اما همه قانع نشده اند آیا همه این پیشرفت‌ها است یا شرکت‌های فناوری صرفا در تلاش هستند تا شرایط مطلوب و مناسبی را به دست آورند که آنها را در انحصار مجازی قفل کند؟ به عبارت دیگر، آیا همه صحبت های آنها جدی است یا این یک قدرت گرفتن است؟

مقررات شرکت هوش مصنوعی چگونه باید باشد؟ چرا در حال حاضر هیچ کس این شرکت ها را پاسخگو نمی داند؟ آیا به قوانین جدید نیاز داریم؟ یا باید از موارد موجود بهتر استفاده کنیم؟ تشابهات تاریخی در اینجا چیست؟ آیا ما در آب های ناشناخته ای هستیم یا این یک بحران عادی است که با سرعت غیرعادی و مقیاس غیرعادی در حال انجام است؟

لینا خان دوران حرفه‌ای خود را با بسیاری از این سؤال‌ها گذرانده است، به‌ویژه در مورد غول‌های فناوری سیلیکون ولی. او به عنوان رئیس FTC، بخشی از یک تغییر واقعی در اجرای قوانین ضد انحصار بود، با این استدلال که قوانین سنتی رقابت ایالات متحده شکسته شده و برای سیستم عامل های دیجیتال مناسب نیست.

اکنون، اواخر هفته گذشته، در حالی که بحث هوش مصنوعی درگیر بود، خان در X پست کرد که مقررات هوش مصنوعی باید این را در نظر بگیرد که «مجری‌های قانون در حال حاضر این اختیار را دارند که شرکت‌ها و مدیران اجرایی آنها را برای ایجاد و انتشار محصولات خطرناک، بررسی نشده یا معیوب متهم کنند.»

بنابراین، اعمال در این لحظه هوش مصنوعی چگونه به نظر می رسد؟ از اینجا کجا برویم؟ من روز پنجشنبه صبح در نیویورک در جشنواره آتلانتیک با لینا خان صحبت کردم. گفتگوی ما اینجاست

[ موسیقی ]

وارزل: از همه شما متشکرم که آمدید. من از آن قدردانی می کنم. ممنون لینا که اومدی اینجا

لینا خان: خیلی خوبه که اینجا هستم.

وارزل: من فقط می خواهم شیرجه بزنم. ما اینجا زمان محدودی داریم. و من می‌خواستم با اخباری شروع کنم که در طول یک هفته گذشته در حوزه‌های فناوری و سیاسی همه‌گیر بوده است، یعنی هشدار افشاگران تحقیقاتی هوش مصنوعی درباره خارج شدن از کنترل عوامل هوش مصنوعی که ممکن است «همه ما را بکشد». درخواست‌های سام آلتمن، داریو [آمودی]، ایلان ماسک، و دیگران برای کاهش سرعت توسعه، نقل قول «سرعت در مرز» است. شما اخیرا به زاویه تنظیم X اهمیت داده اید. اما ابتدا فقط می خواستم بپرسم، به نظر شما چرا این وحشت ایمنی اکنون در حال رخنه است؟

خان: خوب، فکر می‌کنم در چند سال گذشته شاهد پیش‌بینی‌های مختلفی در مورد آنچه ممکن است با این ابزارها بیفتد، بوده‌ایم. و مطمئنا به نظر می رسد که نقاط عطف مختلفی وجود داشته است که در آن افراد در این شرکت ها آنچه را که به طور بالقوه به عنوان یک تغییر پله ای از نظر قابلیت های خاص توصیف می کنند، دیده اند. به نظر می‌رسد اخیرا موارد بیشتری وجود داشته است که عامل‌ها اساسا آشکارا معیوب‌تر شده‌اند. برخی از مردم ممکن است آنها را سرکش بنامند، که واقعا فراتر از پارامترهای کاری هستند که مردم و انسانها آنها را برای انجام آنها تنظیم کرده بودند.

و بنابراین به نظر می رسد که این آخرین کاتالیزور باشد.

اما فکر می‌کنم، می‌دانید، اکنون چندین سال است که در پس‌زمینه ضربات طبل وجود دارد، از جمله زمانی که من به FTC بازگشتم، زمانی که ما شروع به مقابله با این سؤالات وجودی در اطراف کردیم، می‌دانید، آیا می‌توانیم ریشه‌کنی بشریت را ببینیم؟ و بیشتر از نان و کره از چگونه این ابزار در حال حاضر بر مردم در روز به روز خود را تحت تاثیر قرار؟ منظورم این است که برای اکثر آمریکایی‌ها، نحوه تعامل آنها با هوش مصنوعی از طریق یک ربات چت و تلاش برای دریافت خدمات مشتری است و در عوض در یک حلقه عذاب گیر افتاده‌اند.

درسته؟ بنابراین من فکر می‌کنم راه‌های زیادی وجود دارد که این امر آشکار می‌شود، و من فکر می‌کنم که گفت‌وگوی قانون‌گذاری-سیاست می‌تواند در سراسر این طیف اتفاق بیفتد.

وارزل: فکر می‌کنم برخی از نگرانی‌ها نیز از این ایده ناشی می‌شود که مدل‌هایی که این شرکت‌ها آموزش داده‌اند و می‌دانید که قدرت بسیاری از این چت‌بات‌ها را دارند، خودشان بسیار هستند – آنها بخشی از این جعبه سیاه هستند. درسته؟ مثلا، ما دقیقا نمی دانیم که با وزنه ها، تمرینات، و همه اینها چه اتفاقی برای آنها می افتد. وقتی در FTC بودید، زمانی که این بسیار جوان و جدید بود، چه نوع حسی در مورد آن سطح از شفافیت و آنچه ما نمی‌توانیم ببینیم، داشتید؟

خان: منظورم این است که مقدار زیادی وجود دارد که ما نمی‌توانیم ببینیم، که از نظر رابطه بین یک مجری یا تنظیم‌کننده و یک شرکت منحصر به فرد نیست، اما مطمئنا در این زمینه حادتر به نظر می‌رسد. اما، می دانید، ما قبلا با الگوریتم های جعبه سیاه مواجه بودیم. و وقتی یک مجری واقعا الگوریتمی است که منجر به نمایش یا عدم نمایش انواع محصولات می شود، چه کاری انجام می دهد؟ و این برای قوانین موجود ما چه معنایی دارد؟

من فکر می‌کنم الگویی که در لحظه‌های مختلف زمانی که یک فناوری جدید وارد می‌شود، دیده‌ایم این است که می‌تواند این عجله برای ایجاد کمی استثنایی در اطراف آن وجود داشته باشد، به‌ویژه در مقابل قوانین و مقررات موجود. و بنابراین یکی از چیزهایی که در زمانی که در دولت خدمت می‌کردم برای من بسیار مهم بود این بود که کاملا روشن کنم که هیچ گونه معافیت هوش مصنوعی از قوانین موجود در کتاب‌ها وجود ندارد. و من فکر می‌کنم که حتی در حال حاضر نیز شاهد تنش‌هایی در گفتگو پیرامون مقررات جدید هستیم که به نظر می‌رسد فرض می‌کند که این تحولات فعلی در خلاء قانونی اتفاق می‌افتد. و این فقط نادرست است.

همانطور که می دانید، اگر روی یکی از این شرکت ها کار می کنید، همچنان موظف هستید که قوانین حمایت از مصرف کننده، قوانین ضد تبعیض، قوانین ضد انحصار، رژیم های مسئولیت محصول را رعایت کنید. و بنابراین، می‌دانید که بخشی از آنچه من سعی کرده‌ام در گفتگو گنجانده شود، این درک است که ممکن است بخواهیم در مورد قوانین و مقررات جدید صحبت کنیم. و من فکر می کنم یک مورد خوب برای آن وجود دارد. اما فراموش نکنیم که تعهدات قانونی موجود کاملا اعمال می شود.

و برخی از آنچه که ما از این شرکت ها و مدیران آنها می شنویم نشان می دهد که مراقبت های قانونی که قبلا از این شرکت ها لازم است انجام نشده است.

وارزل: چرا فکر می کنید که همه در صنعت رفتار می کنند - و حتی، می دانید، برخی از سیاستمداران رفتار می کنند - مانند این شرکت ها معاف هستند؟ دلیل آن چیست؟

خان: این یک سوال عالی است. منظورم این است که فکر می‌کنم بخشی از آن کاملا به نحوه بازاریابی خود شرکت‌ها برمی‌گردد. و هنگامی که فشاری برای مقررات وجود دارد - منظورم این است که ما این را حتی در زمینه کریپتو دیده‌ایم، جایی که فشاری برای گفتن وجود داشت، خوب، قوانین امنیتی موجود اعمال نمی‌شوند. و، نگاه کنید، گاهی اوقات لازم است در مورد اینکه چگونه محصولات و خدمات جدید با رژیم قانونی موجود مطابقت دارند، فکر کنید.

اما چیزی که برای من نگران‌کننده است این است که ما پیشنهادی می‌بینیم که نوعی مصونیت عمومی یا معافیت کلی از الزامات قانونی موجود وجود دارد، زیرا چیزی بسیار جدید است. فکر می‌کنم، می‌دانید، ما باید یک پیش‌فرض، یک پیش‌فرض قوی، کافی بودن و کاربردی بودن همه قوانین موجود، و باری بر دوش تازه‌واردها داشته باشیم تا در واقع ثابت کنیم که چرا ممکن است نیاز به ترفندهای خاصی داشته باشند، برخلاف اینکه پیش‌فرض‌ها راه دیگری است.

وارزل: یک پاسخ وقتی پست گذاشتید، فکر می‌کنم آخر هفته بود، اما به نوعی درباره این ایده صحبت می‌کنیم، بیاد داشته باشیم که قوانینی در این زمینه داریم و این شرکت‌ها مستثنی نیستند - اما فکر می‌کنم این احساس وجود دارد که برخی افراد فکر می‌کنند که حتی بحث در مورد چارچوب‌های نظارتی جدید: آیا این فقط یک حواس پرتی از لحظه است؟ و، می‌دانید، من احساس می‌کنم که اینطور است، زیرا زمانی که دولت سعی می‌کرد شرکت‌های رسانه‌های اجتماعی را تنظیم کند، میل به برخی پارادایم‌های جدید یا، می‌دانید، مقرراتی وجود داشت که در واقع با چیز جدیدی که این شرکت‌ها مطابقت داشته باشد.

انجام می دادند. بنابراین آیا ما به چارچوب‌های جدید برای هوش مصنوعی نیز نیاز نداریم؟

خان: ما در نهایت ممکن است تصمیم بگیریم که واقعا به چیزی ملموس نیاز داریم، اما فکر می‌کنم بسیار دقیق است، اینکه قوانین موجود یا رژیم‌های نظارتی موجود ما کجاست؟ می‌دانید، در این مورد، به نظر می‌رسد فعالیت‌هایی در طول آموزش اتفاق می‌افتد، قبل از اینکه این محصولات وارد بازار شوند، جایی که می‌بینید کارمندان می‌گویند، می‌دانید، اینجاست که ما در واقع به نظارت بیشتری نیاز داریم.

می دانید، برای دیدن اینکه برخی از این توصیه ها به نظر می رسد بیشتر در رگه، می دانید، خودتنظیمی یا انطباق داوطلبانه در تلاش بوده است. یا شاید ما این حسابرسان شخص ثالث را داریم، اما یک رابطه بسیار راحت وجود دارد. و این فناوری‌های خاص ممکن است جدید باشند، اما یک تاریخ طولانی از مقررات اقتصادی وجود دارد که از راه‌آهن تا ارتباطات مخابراتی باز می‌گردد. و البته، همه اینها ابزارها و فناوری های متفاوتی هستند. اما درس های مهمی برای اینکه چه کار می کند و چه کار نمی کند وجود دارد.

حتی در پست وبلاگی که برخی از این مکالمات اخیر را برانگیخت، مدیر عامل به نظارت بانکی به عنوان یک آنالوگ بالقوه اشاره کرد، زمانی که شما اساسا افرادی از دولت دارید که بیشتر در بانک‌ها حضور دارند تا سعی کنند انواع خاصی از ریسک‌ها را ارزیابی کنند. و بنابراین من فکر می کنم سابقه طولانی ابزارهایی وجود دارد که ما باید آنها را استخراج کنیم تا بفهمیم چه چیزی در اینجا منطقی است.

اما من فکر می‌کنم این سطح اساسی وجود دارد که در آن چیزی در مورد گفتگوی کنونی واقعا ناموفق به نظر می‌رسد، جایی که از یک سو، شما این شرکت‌ها را دارید که اعلام می‌کنند فناوری‌ها و ابزارهایی که در حال توسعه هستند ممکن است در نهایت اثرات فاجعه‌باری در کنار آماده شدن برای عرضه عمومی و تبدیل شدن به میلیاردر و تریلیونر یک شبه داشته باشند. منظورم این است که اگر شما فقط آن مجموعه ای از حقایق را در نظر بگیرید و آن را در هر صنعت دیگری اعمال کنید، فکر می کنیم که مضحک است.

و بنابراین فکر می‌کنم به همین دلیل است که ما باید، می‌دانید، به این استثنایی بودن هوش مصنوعی که به نظر می‌رسد مکالمه فعلی را با چشمانی روشن آلوده می‌کند، نگاه کنیم.

وارزل: آره. من معتقدم، مانند سه روز پس از اینکه داریو آمودی، مدیر عامل آنتروپیک، گفت که احتمال معقولی وجود دارد که طی شش تا 12 ماه، یک گروه ربات بتواند کل اینترنت را در اختیار بگیرد. او در Salesforce بود و نرم‌افزار B2B را به عنوان خدماتی به مردم می‌فروخت، که اگر فکر می‌کنید انقراض در راه است، چیز عجیبی است.

در مورد حادثه OpenAI که برخی از مدل‌های آن وب‌سایت Hugging Face را هک کردند، می‌خواستم دیدگاه شما را در مورد آن بدانم: اینها مدل‌هایی هستند که رفتارشان متفاوت از آنچه مربیان می‌خواستند انجام می‌دادند، اما در آن مورد خاص، یک وب‌سایت را هک کردند. آیا فکر می کنید که OpenAI باید با عواقب قانونی، مانند آن مثال، مواجه شود؟

خان: سوال بسیار جالبی است. و مجموعه کاملی از قوانین وجود دارد که به طور بالقوه می توانند اعمال شوند. اما به طور خاص وقتی به قانون تقلب و سوء استفاده رایانه ای فکر می کنید، که یک قانون کیفری است. مجازات های کیفری اعمال می شود. مردم به خاطر نقض این قانون به زندان رفته اند. می دانید، معمولا عنصری از قصد وجود دارد که باید آن را پیدا کنید.

و بنابراین من می دانید، یک چیزی که مردم مطرح کرده اند این است، بسیار خوب، اما قصد مدل ها چگونه به نظر می رسد؟ و آیا واقعا می توانید آن را به شرکت نسبت دهید؟ من فکر می‌کنم این به این سؤال اساسی نیز برمی‌گردد که چه چیزی می‌توانست به طور منطقی شناخته شده باشد. و من فکر می کنم که هر چه بیشتر و بیشتر در حال دریافت اطلاعات اضافی هستیم، به نظر می رسد که این فقط یک حادثه دور از ذهن نبوده است.

در واقع مجموعه کاملی از رویدادها وجود داشته است که در آن مدل‌ها به شیوه‌هایی عمل می‌کنند که، می‌دانید، افراد نمی‌خواستند یا پیش‌بینی می‌کردند و ممکن است مرتکب جرم شده باشند. و بنابراین من کاملا فکر می‌کنم که نقطه‌ای وجود دارد که اگر می‌دانید فناوری شما و مدل‌هایی که روی آن‌ها کار می‌کنید این قابلیت را دارند، زیرا شما آن را می‌بینید، و همچنان به آن‌ها اجازه می‌دهید که به این روش عمل کنند، فکر می‌کنم یک سوال بسیار واقعی در مورد قصد و زمان وجود دارد.

وارزل: آره. آیا قصد دارید این مدل ها را ایجاد کنید که تا حد امکان مشارکتی و زیرکانه و هوشمندانه و تا حد امکان حلال مشکل باشند؟

خان: فکر می کنم مسئله دیگر اینجاست، می دانید، بسیاری از اطلاعاتی که در اینجا موجود است از این گروه به نام METR است که شامل-

وارزل: یکی از گروه های نظارتی.

خان: گروه های نظارتی. و، می دانید، آنها تقریبا مانند یک گروه داوطلبانه مدنی هستند که این کار را بدون هیچ مرجع نظارتی انجام می دهند. و بنابراین مشروط به این است که چه اطلاعاتی در اختیار آنها قرار می گیرد. اغلب اوقات، گزارش های آنها فقط برای نگاه کردن به مدل ها است. اما من فکر می‌کنم چشم‌انداز وسیع‌تری وجود دارد که ما باید درباره آن بفهمیم، اینکه انسان‌ها چه چیزی را می‌دانستند یا باید می‌دانستند، و واقعا چه شرکتی و باید در موقعیت بهتری برای ممنوع کردن یا محدود کردن آن بود؟ و من فکر می‌کنم برخی از آن‌ها هنوز هم بسیار مبهم است، زیرا این گزارش برای تمرکز بسیار خاص طراحی شده است

می دانید، فقط خود مدل ها و نمایندگان را ادامه دهید. بنابراین من فکر می‌کنم که ما واقعا به تصویر بزرگ‌تری خارج از چارچوب برخی بازرسی‌های داوطلبانه و موارد دیگر با توجه به اجرای قانون و مقررات واقعی نیاز داریم.

[ موسیقی ]

وارزل: بنابراین شما در X پست گذاشتید، می دانید، در مورد این صحبت می کنید، همانطور که گفتیم: دیوید ساکس که سرمایه گذارانش، پادشاه سابق هوش مصنوعی ترامپ، علنا ​​موافقت خود را با موضع شما اعلام کردند، که بعد از آن دیدم که گروهی از افراد، می دانید، در حال انجام شکلک های چشمی در این مورد بودند. و از یک طرف، صادقانه به نظر می رسد که فردی مانند ساکس، که می دانید، طرفدار اجازه دادن به توسعه هوش مصنوعی و همچنین زمانی بخشی از دولتی بود که بسیاری از نظارت ها را در اولویت قرار داده و بسیاری از آن را از بین برده، کمی ثروتمند به نظر می رسد.

اما آیا این به طور بالقوه نشانه ای است که هوش مصنوعی در حال دستکاری برخی از ائتلاف های سیاسی سنتی است؟

خان: ممکن است. منظورم این است که در این لحظه به خصوص جدید نیست. حتی وقتی به گفتگوی گسترده‌تر در مورد نحوه برخورد با تمرکز قدرت که در شرکت‌هایی مانند گوگل، آمازون و فیس‌بوک می‌دیدیم، بازمی‌گردید، این موضوع از قبل شروع به تقابل با برخی از آن‌ها کرده بود.

منظورم این است که می دانید، در سال 2019، من به عنوان کارمند برای کمیته فرعی ضد انحصار کمیته قضایی مجلس نمایندگان آمریکا کار می کردم و ما در حال انجام تحقیقات در مورد آمازون، فیس بوک، گوگل و اپل بودیم. و، می‌دانید، ما مواردی داشتیم که شما مترقی‌ترین عضو آن کمیته را داشتید، می‌دانید، سؤالی بپرسید که بسیار شبیه به سؤالی بود که محافظه‌کارترین عضو آن کمیته می‌پرسید، زیرا آنها، می‌دانید، عمیقا نگران تمرکز قدرت بودند.

و بنابراین، شما گروه پیشروی مجلس و گروه آزادی مجلس را داشتید، می‌دانید که در واقع روی برخی از این موارد از نزدیک کار می‌کردند.

من فکر می کنم ما شاهد برخی از این شکاف های دو حزبی در دولت گذشته بودیم. اما من فکر می‌کنم که ما آن را این بار کاملا در سقوط آزاد دیدیم، زیرا همانطور که اشاره کردید، یکی از اولین کارهایی که دولت ترامپ انجام داد این نبود که تحقیقات موجود را متوقف کند. آنها در واقع رفتند و تسویه حساب هایی را که قبلا با برخی از همین شرکت ها برقرار بود، لغو کردند. و بنابراین ما به تازگی دیدیم، شما می دانید، یک وضعیت واقعی رایگان برای همه از نظر اجرای قانون، وضعیت بسیار مقررات زدایی.

DOGE، می دانید که اساسا تلاش ها به از بین بردن دولت اداری کمک کرده است.

و بنابراین، می دانید، در حالی که من همیشه تشویق می شوم وقتی مجموعه وسیع تری از مردم وجود داشته باشند که بخواهند پشت موضعی قرار بگیرند که به نظر من درست است، من فکر می کنم چیزی کاملا گیج کننده در مورد افرادی وجود داشته است که همه طرفدار سرنگونی دولت بودند تا اکنون می گویند، در واقع، قوانین موجود وجود دارد. و، می دانید، ما به دولت نیاز داریم که فقط آنها را اجرا کند.

وارزل: من برخی از بحث‌ها در مورد این لحظه هوش مصنوعی را دیده‌ام که به عنوان انقراض در مقابل ضبط مقررات قاب گرفته شده است. و من کنجکاو هستم: در بخش نظارتی، مثلا، چگونه از تبدیل شدن به لحظه ای که این شرکت ها در حال تنظیم گفتگو هستند جلوگیری کنیم، درست است؟ مثلا، حتی زبانی که هم‌اکنون می‌بینیم، ظاهر می‌شود و از این عبارت استفاده می‌کنند که در مرز توسعه هوش مصنوعی است. و اکنون همه در مورد قدم زدن در مرز صحبت می کنند. مثلا، به نظر می‌رسد، در تنظیم شرایطی که همه ما با آن درگیر هستیم، بسیار خوب هستند.

با این حال، کنجکاو هستم: مثلا چگونه از موارد ضبط نظارتی اجتناب کنیم؟

خان: آره منظورم این است که در اینجا سابقه ای طولانی وجود دارد که چگونه تنظیم کننده ها دستگیر می شوند و چگونه دستگیر می شوند. و برخی از آن به نحوه تنظیم مقررات بستگی دارد. و آیا این طراحی شده است که، می دانید، آرامش زیادی بین حزب تنظیم شده و دولت داشته باشد؟ چه نوع حفاظتی را اعمال می کنید؟

من فکر می‌کنم، می‌دانی، انجام این گفتگو بدون صحبت در مورد نقش پول و سیاست و اینکه چقدر عادلانه است، می‌دانی که موج عظیم پولی که به انتخابات ما وارد می‌شود، کوته‌بینانه خواهد بود، جایی که، می‌دانی، افرادی که ممکن است بیشتر طرفدار تنظیم هوش مصنوعی یا تنظیم رمزنگاری باشند، باید پشت سر خود نگه دارند که اگر می‌بینند این کار را می‌کنند. علیه آنها

و بنابراین من فکر می کنم که این یک پویایی اصلی در اینجا نیز بوده است. من فکر می کنم همانطور که ما، می دانید، به این فکر می کنیم که اینجا چه باید بکنیم؟ کنگره کاملا باید بفهمد: چگونه می‌تواند تخصص فنی بیشتری را توسعه دهد تا بتواند بفهمد رژیم مناسب در اینجا چیست؟ و من فکر می‌کنم، می‌دانید، اکنون چندین دهه است که شاهد یک پروژه هماهنگ برای محدود کردن توانایی کنگره برای انجام این کار هستیم. منظورم این است که این به انقلاب گینگریچ 1994 برمی گردد، جایی که تلاش فعالی برای کاهش کارمندان کمیته انجام شد.

قبلا یک دفتر ارزیابی فناوری وجود داشت، جایی که کنگره قبلا تخصص فنی خود را در داخل داشت، و بسیاری از آن ها برچیده شد.

بنابراین من فکر می کنم که این گفتگوی فعلی در مورد اینکه ما در مورد هوش مصنوعی چه کار کنیم؟ می‌دانید، در لحظه‌ای می‌آید که ما شاهد این بودیم، می‌دانید، طبل آهسته تنزل کامل توانایی و ظرفیت حاکمیتی. و بنابراین چالش به همین دلیل تشدید می شود.