خداحافظ گوگل

این تصمیم آسانی نبوده است. من عاشق همکارانم و محیط کارم هستم و دریافت دستمزد هنگفت برای حل پازل های سرگرم کننده شگفت انگیز بوده است. اما هدف تیم من در نهایت این است که هوش مصنوعی بسیار ارزان‌تر و با تأخیر کمتر باشد، و فکر نمی‌کنم در حال حاضر این برای مردم خوب باشد: من کاملا معتقدم که پیشرفت هوش مصنوعی در حال حاضر بسیار سریع است (و در مورد مقصد نیز شک دارم). برای من عملا غیرممکن است که به پروژه دیگری در گوگل بروم که هوش مصنوعی را تسریع نکند (تا حدی به دلیل روابط من با نیوزلند، جایی که گوگل ترجیح می دهد مهندسی انجام ندهد)، بنابراین دستانم بسته است.

میلیون‌ها نفر در شتاب‌دهی هوش مصنوعی سهیم هستند و پایم را از روی شتاب‌دهنده برداشتن تأثیر بسیار کمی خواهد داشت... اما تأثیری ندارد. برخی از مهارت های من نادر است. من تلاش کردم تا بر رویدادها از داخل GDM تأثیر مثبت بگذارم، اما به نظر نمی‌رسد این تأثیر قوی باشد و من می‌توانم در خارج از Google نیز تأثیر بگذارم. وسوسه انگیز است که روی تأثیر کارم چشم بپوشم، اما این کار پیروی از عیسی نیست. من در وبلاگم بیشتر در مورد این مبادلات نوشته ام.

من دقیقا نمی دانم بعد از آن چه خواهم کرد. من به حفظ Pernosco و rr ادامه می‌دهم و در همین راستا قصد دارم بررسی کنم که چگونه AI کد اشکال‌زدایی را امروز انجام می‌دهد و اینکه آیا ابزارهای اشکال‌زدایی می‌توانند کمک کنند یا خیر. من ایده های پروژه دیگری دارم که می خواهم روی آنها کار کنم، برخی بالقوه سودآور هستند، برخی نه. شاید یک پروژه موجود پیدا کنم که قانع کننده باشد. من قطعا می خواهم کار آینده ام به طور واضح طرفدار انسان باشد.

اول، برای کسانی که من را نمی شناسند: من مدت زیادی در صنعت فناوری بوده ام و ارتباطات زیادی با سیلیکون ولی دارم، اما در نیوزلند زندگی می کنم، بنابراین خارج از حباب صنعت و همچنین خارج از حباب آمریکا زندگی می کنم. من یک مسیحی هستم، و در واقع یک پیر و گاه و بیگاه واعظ غیر روحانی در جماعت انگلیسی زبان کلیسای پروتستان چینی اوکلند در شهر داخلی اوکلند. یعنی من یک "برادر تکنولوژی" نیستم، و نه در "جامعه عقل گرا" که خود توصیف می شود ... اما فکر می کنم بسیاری از استدلال های آنها شایسته جدی گرفتن هستند.

من افکار زیادی در مورد هوش مصنوعی دارم، اما قصد ندارم همه آنها را در این پست توضیح دهم. به طور خلاصه، من فکر می کنم خطرات وجودی که بسیاری از مردم درباره آن هشدار می دهند شایسته جدی گرفتن هستند. بسیاری از پدیده‌های پیش‌بینی‌شده توسط «محکوم‌کنندگان» به وقوع پیوسته‌اند (مانند هک کردن پاداش، ناهماهنگی، مدل‌های فریبنده، آگاهی ارزشی مدل، ازدحام روان‌پریشی). با این حال، من متقاعد نشده ام که احتمال نابودی ASI 100٪ است. در عوض، من فکر می کنم خطر واقعی است اما نامشخص است - اما این خود بسیار هشدار دهنده است!

ما از نظر اخلاقی موظف هستیم تلاش گسترده ای برای به حداقل رساندن چنین خطری انجام دهیم و به احتمال زیاد این خطر به اندازه ای بالا است که هدف گذاری برای ASI در آینده نزدیک ذاتا غیرمسئولانه است. من همچنین در مورد سایر مسائل مرتبط با هوش مصنوعی بسیار نگران هستم: تسلیم شناختی، روان پریشی و تنهایی ناشی از هوش مصنوعی، تمرکز قدرت، اختلال اقتصادی، امنیت سایبری، عدم پاسخگویی و غیره. من فکر می‌کنم مزایای بالقوه هوش مصنوعی کاملا نامشخص است و در حال حاضر، اگر من مجبور به شرط‌بندی باشم، شرط می‌بندم که مزایای آن بیشتر از مزایای آن باشد... اما در مورد آن نیز مطمئن نیستم.

در اینجا مواردی وجود دارد که من به آنها اطمینان دارم. من مطمئن هستم که افرادی که در آزمایشگاه‌های هوش مصنوعی هشدارهایی درباره هوش مصنوعی صادر می‌کنند، عموما صادق هستند. من با افراد زیادی در Google Deepmind درباره این مسائل صحبت کرده‌ام و تقریبا همه آنها نگرانی‌های صمیمانه و جدی دارند، چه آنها را در ملاء عام بیان کنند یا نه. من هیچ مدرک محکمی ندیده‌ام که نشان دهد مردم ریسک هوش مصنوعی را به عنوان وسیله‌ای برای افزایش قیمت سهام شرکت یا کنترل کردن رقبای خود مطرح می‌کنند.

(فکر می‌کنم مقررات ملی و بین‌المللی به شدت مورد نیاز است!) من استدلال‌های زیادی به شکل «نمی‌توانید به آن افراد اعتماد کنید» دیده‌ام و شاید این درست باشد، اما همانطور که راسل مور اخیرا به شیوایی توضیح داد، چنین بی‌اعتمادی دلیل خوبی برای نادیده گرفتن هشدارهای آنها نیست.

من مطمئن هستم که تا زمانی که ما روی آن کار می کنیم، توانایی هوش مصنوعی به طور پیوسته در حال افزایش است. ای کاش هوش مصنوعی به نوعی فلات می‌افتد، یا توانایی‌های مهم شناختی انسان را شناسایی می‌کردیم که هوش مصنوعی بدون تغییر پارادایم هرگز تکرار نمی‌کرد، اما من انتظار ندارم که این آرزوها محقق شوند. پیشرفت مدل در معیارها سریعتر یا سریعتر از همیشه به نظر می رسد، و با آن، قابلیت های کیفی جدیدی همچنان در حال ظهور هستند. حتی اگر پیشرفت مدل امروز متوقف شود، می‌توانیم سال‌ها را صرف باز کردن قابلیت‌های جدید از طریق فرمان‌ها و مهارهای جدید کنیم.

به نظر می رسد بسیاری از مخالفان برجسته هوش مصنوعی (با نگاه کردن به شما، Zitron و Doctorow) فکر می کنند که AI نوعی کلاهبرداری است که واقعا کار نمی کند. من فکر می کنم این خواهد شد.

من بسیار مطمئن هستم که حتی اگر مسیری برای آینده ای بهتر از طریق هوش مصنوعی وجود داشته باشد، نرخ فعلی تغییر بسیار زیاد است. هوش مصنوعی سریعتر از آن چیزی است که انسانها می توانند به صورت فردی و جمعی آن را درک کنند و با آن سازگار شوند. افرادی که سعی در برنامه ریزی آینده خود دارند، به عنوان مثال. تلاش برای برنامه ریزی برای دنیایی که چندین سال در آینده وارد دانشگاه می شوند، دیگر نمی تواند آنطور که نسل های قبلی می توانستند انجام دهند. فکر نمی‌کنم قبلا چنین چیزی را دیده باشیم، قطعا در تغییرات تکنولوژیکی قبلی که در آن زندگی کرده‌ام (کامپیوتر، اینترنت، تلفن‌های هوشمند) نبوده‌ایم.

حتی در طول انقلاب صنعتی، نه تنها تغییرات بسیار کندتر بود، بلکه بخش‌های زیادی از فعالیت‌های انسانی وجود داشت که مستقیما تحت تأثیر ماشین‌های جدید قرار نمی‌گرفتند و نمی‌توانستند. این دیگر زیاد درست نیست.

چرا الان برو نه زودتر؟ این ربطی به موج اخیر استعفاهای ویروسی یا هشدارهای "کاهش هوش مصنوعی" ندارد. این یک تصادف است مدتی است که این تاریخ را در ذهن داشتم، زیرا از دوشنبه با دوستانم یک سفر ده روزه کوله پشتی طولانی برنامه ریزی شده دارم (آبل تاسمن و وانگاپکا) و می خواستم قبل از آن بروم.

من مستقیما روی قابلیت هوش مصنوعی کار نکردم، بلکه روی ابزارهای بهبود یافته برای طراحی تراشه‌های سخت‌افزاری کار کردم. من واقعا از این کار لذت بردم و مدتی به خودم گفتم این کار نسبتا بی ضرر است، اما با گذشت زمان خدا مرا مجبور کرد که با این واقعیت روبرو شوم که تأثیر اصلی این ابزارها تسریع در طراحی نسل جدیدی از تراشه‌های هوش مصنوعی خواهد بود که در صورت موفقیت، هوش مصنوعی را بسیار ارزان‌تر و سریع‌تر می‌کند - هوش مصنوعی را فراگیرتر می‌کند، و همچنین توانایی بیشتری را از آنجایی که ما یاد گرفته‌ایم توانایی‌های بیشتری را افزایش دهیم افزایش می‌دهد.

وظیفه من به عنوان یک کارمند خوب به این معنی بود که باید با مدیر اسکاپ خود صحبتی صادقانه داشته باشم و به آنها بگویم که در بهترین حالت تمایلی به دیدن موفقیت پروژه آنها ندارم! حتی بعد از آن هم می‌خواستم در تصمیمم واقعا مطمئن باشم، زیرا کار بزرگی که برای Google در نیوزلند داشتم احتمالا دیگر هرگز در دسترس نخواهد بود.

(ماندن در گوگل و تغییر به یک تیم مهندسی دیگر که هوش مصنوعی را تسریع نمی‌کند، غیرعملی بود، زیرا گوگل تیم‌های مهندسی دیگری در نیوزلند ندارد.) وظیفه ذکر شده من در قبال کارفرما و احترام من به مردم نیز عاملی بود برای اینکه خیلی ناگهانی کارم را ترک نکنم و تلاش کنم کارم را در وضعیت معقولی تحویل دهم.

بعدش چی؟ مهمترین چیزی که من در مورد آن مطمئن هستم این است که عیسی کتاب مقدس واقعی است و بنابراین خدا برنامه ای دارد که برای ما خوب است. نمی‌دانم آن طرح چیست (و ای کاش انجام می‌دادم) اما به من اجازه می‌دهد با وجود هرج و مرج هوش مصنوعی شب‌ها بخوابم. من انتظار دارم برنامه او شامل ادامه استفاده بهینه از استعدادهایم باشد. حتی اگر نقشه این است که عیسی بازگردد تا ما را از حماقت نجات دهد، بهتر است زمانی که او بازگردد مشغول باشیم! بنابراین، تا زمانی که استعدادی که خداوند به من داده ارزشمند است، می خواهم به کار ادامه دهم. همانطور که در بالا ذکر کردم، قصد دارم به حفظ Pernosco و rr ادامه دهم.

در زیر چتر Pernosco، من قصد دارم بررسی کنم که چگونه عوامل هوش مصنوعی کد را اشکال زدایی می کنند و آیا ابزارهای اشکال زدایی که می توانند آنها را در این زمینه موثرتر کنند یا خیر. من می خواهم از عوامل هوش مصنوعی برای زنده کردن برخی از ایده های پروژه سرگرمی خود استفاده کنم. من مشتاق به بهره‌مندی از مزایای هوش مصنوعی هستم، اما با احتیاط، به گونه‌ای که به نفع انسان باشد و ذهن خودم را تیز نگه دارد. تا جایی که بتوانم به تمرین و حمایت از آن در نیوزلند ادامه خواهم داد.