سم آلتمن درباره دو خطر بزرگ هوش مصنوعی هشدار می دهد

سام آلتمن بیشتر وقت خود را صرف توضیح این است که چگونه هوش مصنوعی می تواند جهان را به سمت بهتر شدن تغییر دهد و در مقابل قیامت ها عقب نشینی کند. با این وجود، مدیر عامل OpenAI ایده های نسبتا نگران کننده ای در مورد اینکه چگونه توسعه هوش مصنوعی می تواند منجر به یک فاجعه یا فاجعه شود، دارد. او در خلال یک قسمت از پادکست Figuring Out With Raj Shamani، چند مورد از این کابوس‌ها را با جزئیات ناراحت‌کننده بیان کرد.

این دو دیستوپیا از مشکلات تقریبا متضاد سرچشمه می‌گیرند: یا بشریت کنترل ماشین‌های قدرتمندتر را از دست می‌دهد، یا گروهی کنترل بیشتر فناوری را در دست می‌گیرند.

آلتمن می‌گوید: «یکی از آن‌ها این است که کنترل هوش مصنوعی از دست می‌رود و ما عمدا یا سهوا کنترل آینده را به سیستم‌هایی واگذار می‌کنیم که به‌طور باورنکردنی از ما توانایی بیشتری دارند و نمی‌توانیم آن را پس بگیریم». و دیگری مثل این است که یک شخص یا شرکت یا کشور نسبت به دیگران بسیار قدرتمند می شود.

سناریوی اول کمتر کلیشه ای خسته از قیام یک ربات و بیشتر تسلیم نرم انتخاب های بشریت به هوش مصنوعی است تا زمانی که پس گرفتن هیچ آژانسی از نرم افزار هوش مصنوعی غیرممکن باشد. دیگری یک سناریوی تخیلی-تخیلی مدرن‌تر، اگر هنوز کلیشه‌ای باشد: یک فناوری بسیار قدرتمند که توسط یک شخص یا شرکت کنترل می‌شود و همه را در رحمت خود قرار می‌دهد. هر دوی آنها به طور بی پایان توسط افراد در صنعت و سیاست گذاران مورد بحث قرار می گیرند، اما صدور هشدار آلتمن همچنان قابل توجه است.

آلتمن، از طریق OpenAI و ChatGPT، یکی از چهره‌های اصلی هوش مصنوعی برای کسانی است که حداقل چیزی را در مورد این فناوری و معایب آن شنیده‌اند. آلتمن بر این باور است که این قابلیت‌ها می‌توانند مزایای خارق‌العاده‌ای به همراه داشته باشند، اما نظرات او نشان می‌دهد که او نسبت به هرج و مرج احتمالی که هوش مصنوعی نیز به همراه دارد، خوش‌بین نیست.

واگذاری تصمیمات

در سال‌های اخیر، هوش مصنوعی پیشرفته به این دلیل که افراد کنترل را کنار می‌گذارند، تبدیل به یک نگرانی در دنیای واقعی شده است، زیرا این فناوری فراتر از پاسخ دادن به سؤالات ساده و به قلمرو تصمیم‌گیری حرکت کرده است. عوامل هوش مصنوعی در حال حاضر می توانند با وب سایت ها تعامل داشته باشند و وظایف پیچیده را انجام دهند و توسعه دهندگان در حال کار روی سیستم هایی هستند که کمتر و کمتر به نظارت انسانی نیاز دارند. هرچه این سیستم ها مسئولیت بیشتری داشته باشند، اگر اهداف آنها از آنچه مردم واقعا قصد داشتند متفاوت باشد، عواقب بیشتری خواهند داشت.

مهم است که به یاد داشته باشید آنچه که ما هوش مصنوعی می نامیم اکنون بر پیش بینی احتمال در اشکال مختلف متکی است. در حالی که بسیار قدرتمند است و از حجم عظیمی از داده ها استفاده می کند، در واقع نمی تواند مانند یک انسان قضاوت کند، و برای مضر بودن لازم نیست که مخرب باشد. به همین دلیل است که مدل‌ها هنگام شبیه‌سازی نحوه اداره یک کشور، انتخاب فاجعه‌بار استفاده از سلاح‌های هسته‌ای را به عنوان یک استراتژی انتخاب می‌کنند.

انسان ها ممکن است درک یا تایید نکنند که هوش مصنوعی چگونه هدفی را دنبال می کند، حتی اگر انسان ها این وظیفه را انجام داده باشند. و اگر مدل هوش مصنوعی قدرت کافی داشته باشد و در سیستم‌های حیاتی کافی تعبیه شده باشد، ممکن است افراد نتوانند آن را تغییر مسیر دهند یا متوقف کنند. به هر حال، یک سیستم هوش مصنوعی که به آن گفته می‌شود قفل جاده را کاهش دهد، ممکن است به طور منطقی به این نتیجه برسد که راه‌حل این است که جاده‌ها را حذف کنند یا به هر خودرویی که دارای Wi-Fi است دستور توقف کار را ارسال کند. آن سناریوی خاص بسیار بعید است، اما این واقعیت که در واقع غیرممکن نیست، به اندازه کافی نگران کننده است.

همه ما با مشکل انسانی تر انحصارهای فناوری و صنعتی آشنا هستیم که آلتمن در دیگر هشدار آخرالزمانی خود به هوش مصنوعی نیز تعمیم داد. بسیاری از مردم زنگ خطر را به صدا درآورده‌اند که چگونه در دست‌های بسیار کمی با تنظیم بسیار کم، قدرت بسیار زیادی وجود دارد. بودن دست آلتمن در میان آنها به این معنی نیست که او از این واقعیت انتقاد نخواهد کرد.

آلتمن می‌گوید: «من فکر می‌کنم در واقع برای جهان بسیار بهتر است که چندین تلاش هوش مصنوعی با رویکردهای کمی متفاوت وجود داشته باشد که با یکدیگر رقابت می‌کنند و راه‌های متفاوتی را ارائه می‌دهند. "من همچنین دوست ندارم تمرکز بیش از حد قدرت را دوست نداشته باشم. فکر می کنم این چیزی نیست که کار کند، بنابراین امیدوارم که این کار را نکنیم."

تحقیر آلتمن در تنش با جاه طلبی ها و اقدامات شرکتش است. ادعای اینکه OpenAI در حال حاضر از چندین جنبه مسلط است، مانند زیرساخت های هوش مصنوعی، نمونه ای از تسلط او است که او می گوید نگران آن است.

آلتمن گفت: "من فکر می کنم ما بیشترین کاربر و بهترین پشته را داریم، از تراشه ها گرفته تا مراکز داده، مدل ها تا چیزهای دیگری که به این نوع هوش فراوان در دستان مردم قرار می دهند. من فکر می کنم ما بهترین برند و ارزش هایی را داریم که افرادی که می خواهند از این فناوری استفاده کنند." با این حال، او مدعی شد: "ما می خواهیم دیگران موفق شوند و فکر می کنم مردم می توانند این را از ما احساس کنند."

قضاوت خوش بینانه

(اعتبار تصویر: Shutterstock/Meir Chaimowitz) علیرغم آن هشدارها، آلتمن اساسا در مورد اینکه هوش مصنوعی بشریت را به کجا می برد خوش بین است. او در پاسخ به سوالی درباره رشد فرزندانش در دنیایی که به طور فزاینده ای توسط فناوری شکل می گیرد، ابراز اطمینان کرد که مردم راه هایی برای سازگاری پیدا خواهند کرد. دیدگاه او نشان می دهد که او خطرات هوش مصنوعی را به عنوان چالش های جدی برای مدیریت می بیند تا دلایلی برای کنار گذاشتن توسعه آن.

آلتمن می‌گوید: «نمی‌دانم آینده چگونه خواهد بود، اما خیالم راحت است که به مردم اعتماد زیادی دارم تا بفهمند چگونه می‌توانند سازگار شوند و رشد کنند و جامعه را برای همه ما بهتر کنند.» "من فکر می کنم که جهان به احتمال زیاد به بهتر شدن ادامه خواهد داد."

این خوش‌بینی به برنامه‌های آتی OpenAI برای اعمال هوش مصنوعی در اکتشافات علمی نیز گسترش می‌یابد. او به دستاوردهای ریاضی اخیر به عنوان شواهدی اشاره کرد که نشان می دهد این فناوری ممکن است به نقطه ای نزدیک شود که بتواند به طور معناداری به تحقیقات بنیادی کمک کند.

آلتمن گفت: "من بسیار هیجان زده هستم که ببینم تا چه حد می توانیم هوش مصنوعی را برای کشف علم جدید پیش ببریم." او "ماشینی را پیش‌بینی می‌کند که می‌تواند به ما کمک کند جهان را بهتر درک کنیم، عمیق‌ترین بینش‌ها را در فیزیک کشف کنیم، درمان‌های پزشکی جدید، منبعی جدید از انرژی را کشف کنیم، چیزهایی که فکر می‌کنم حتی نمی‌توانیم تصور کنیم، اما درک علمی بهتر آنها را قادر می‌سازد. من بسیار هیجان‌زده هستم که ما برویم آن ماشین را بسازیم."