سام آلتمن اعتراف می کند که به خاطر برتری هوش مصنوعی باید "چند چیزهای بد" را بپذیریم

سام آلتمن، مدیر عامل OpenAI می‌گوید برای پیشرفت هوش مصنوعی و بهره‌مندی از مزایای رشد فناوری، باید آمادگی پذیرش برخی اتفاقات بد را داشته باشیم. و حدس بزنید چی؟ او راست می گوید! واضح است که حق با اوست، اگر فقط چند ثانیه به آن فکر کنید.

با این حال، این خط به‌عنوان نوعی اعتراف تاریک نشان داده می‌شود که آلتمن حاضر است دنیا را بسوزاند تا رویای بی‌ملاحظه‌اش را دنبال کند - برخلاف رقیبش، داریو آمودی از آنتروپیک، که خیلی بیشتر طرفدار رشد آهسته هوش مصنوعی و با نظارت صریح نظارتی دولت است. حالا ببینید، من قطعا فکر می‌کنم هوش مصنوعی شروع به ایجاد یک مشکل تصویری کرده است، و ای کاش مدیران اجرایی کمی مراقب حرف‌هایشان باشند و این تصور نادرست را به همه ندهند که اهمیتی نمی‌دهند که فناوری باعث آسیب‌های بزرگ شود.

اما در نهایت، آلتمن درست می‌گوید که فناوری جدید ارزشش را دارد، حتی اگر برخی از آسیب‌های مرتبط با آن وجود داشته باشد، اگر پیشرفت‌های کلی برای بشریت قابل توجه باشد. خودرو هر سال با هزاران مرگ همراه است، بنابراین فناوری وجود دارد که باعث آسیب‌هایی می‌شود - برخی از تلفات واقعی زندگی. اما ما این را می پذیریم، زیرا اتومبیل ها حمل و نقل را بسیار آسان کرده اند و فقط یک پیشرفت عظیم هستند. ما معاوضه را می پذیریم. ما همیشه این کار را انجام می دهیم. با هوش مصنوعی یا واقعا هر چیز دیگری، به راحتی می توان جنگل را به خاطر درختان از دست داد.

به راحتی می توان متوجه این آسیب شد – به عنوان مثال مقداری از دست دادن شغل – و از دست دادن مزایای عظیم آن: مثلا، تشخیص های پزشکی بسیار دقیق تر و اولیه که منجر به پیشرفت های عظیم در مراقبت های پزشکی و نجات جان هزاران یا میلیون ها نفر می شود. یا فقط دوباره ماشین بگیرید: ماشین‌های بدون راننده در واقع پیشرفت بزرگی در ایمنی هستند و می‌توانند سالانه جان هزاران نفر را نجات دهند. اما بله، یک جایی، در یک نقطه، یک ماشین بدون راننده تصادف می کند و مردم آن را به عنوان یک آسیب تشخیص می دهند. این استاندارد نباید به خودی خود ضرر داشته باشد، بلکه باید زمانی که در مقابل منافع اندازه گیری می شود، ضرر داشته باشد.

به نظر می رسد آلتمن این را درک می کند. این رقیب او در آنتروپیک است که این کار را نمی کند. Anthropic از کنگره یا رئیس‌جمهور می‌خواهد که محدودیت‌های سختی را در مورد سرعت رشد هوش مصنوعی تعیین کنند. آمودی فکر می کند که سیاستمداران صلاحیت انجام این تصمیمات را دارند. من نمی کنم. من بسیار شک دارم که دولت حدود درستی را تعیین کند. و در حالی که من طرفدار شکایت همه از دیگران نیستم، یکی از راه‌هایی که می‌توانید قوانینی را دریافت کنید که پاسخگوی آسیب‌های واقعی مردم باشند، این است که اجازه دهید همه چیز توسعه یابد.

اگر آسیبی توسط این فناوری ایجاد شود، کسی شکایت می‌کند و سپس شما تصمیمی از یک قاضی یا هیئت منصفه دریافت می‌کنید که در واقع به روشن شدن محدودیت‌های فناوری کمک می‌کند و آن را مهار می‌کند. برای مثال، هیچ قانونی وجود ندارد که به مک‌دونالد بگوید چقدر مجاز است قهوه‌اش را دم کند، اما در یک لحظه، زنی تمام بدنش را روی بدنش می‌ریخت و قهوه‌اش را می‌ریخت. او شکایت کرد، میلیون‌ها دلار برنده شد و مک‌دونالدز را رد کرد.

مردم اغلب این شکایت را به نوعی مضحک می خوانند، اما در واقع این نمونه ای از مکانیسم های بازار است که منجر به نوعی قانون گذاری می شود بدون اینکه دولت کاری انجام دهد. تعجب نمی‌کنم اگر در نهایت به این صورت باشد که ما مقررات خوبی در زمینه هوش مصنوعی داشته باشیم، نه اینکه کنگره یک مقررات کاملا خودسرانه را وضع کند، یا بدتر از آن، صرفا خود محصول را در اختیار بگیرد. به یاد داشته باشید که آمودی گفت که مایل است کنترل هوش مصنوعی را به گروهی از دولت ها بسپارد. ما آن را نمی خواهیم: ما رقابت می خواهیم.

این مزیتی است که ما به عنوان آمریکایی هایی داریم که از سیستم بازار آزاد سود می برند. حالا می‌دانم آلتمن می‌تواند کمی شوم به نظر برسد، وقتی به این موضوع اشاره می‌کند که دروغ‌های بی‌گناه را می‌توان قربانی کرد و قربانی خواهد شد، و ای کاش او این کار را نمی‌کرد! اما موضوع پابرجاست: همانطور که هوش مصنوعی بهتر و بهتر می‌شود، باید یاد بگیریم که در ازای رفاه و بهبود کلی سلامت، ثروت و امید به زندگی، برخی از نتایج منفی را تحمل کنیم. رابی سوو مجری برنامه تفسیری The Hill's Rising و سردبیر ارشد مجله Reason است.

این ستون رونویسی ویرایش شده از تفسیر روزانه اوست.