جورج تسیتیس: هیچ کس شخصا مسئول هوش مصنوعی نیست. این باید تغییر کند

تقریبا برای یک دهه، شرکتی را رهبری کردم که مردم محصولات آن را می بلعیدند. اگر مکمل های رشد موی ما باعث آسیب می شد، من مسئول بودم. نه فقط از نظر اخلاقی - قانونی. شبها مرا بیدار نگه می داشت. و این چیز خوبی بود. مسئولیت حقوقی شخصی ابزار قدرتمندی است. این امر رهبران شرکت‌ها را وادار می‌کند تا ایمنی محصولات خود را جدی بگیرند و به مصرف‌کنندگان نسبت به آن محصولات اعتماد کنند. در حال حاضر این چیزی نیست که باعث بی خوابی رهبران هوش مصنوعی شود. باید باشد.

برخی ممکن است فکر کنند که معرفی لایه دیگری از مسئولیت پذیری نوآوری را خفه می کند. تجربه شخصی من در ساخت شرکتی چند میلیارد دلاری چیز دیگری را می گوید. در صنعت من، قانون مدت‌هاست که بر این باور است که افراد مسئول شخصا برای ایمنی آنچه شرکت‌هایشان می‌فروشند، هستند. این مسئولیت‌پذیری برای ایجاد اعتماد مصرف‌کننده برای موفقیت کسب‌وکارم ضروری بود. می تواند همین کار را برای رهبران هوش مصنوعی انجام دهد.

امروز، از طریق Great Things™، یک مدل سرمایه‌گذاری جدید و دفتر خانواده‌ام، روی هوش مصنوعی و شرکت‌های دارای هوش مصنوعی سرمایه‌گذاری می‌کنم. سرمایه‌گذاری‌های من شامل شرکت‌های هوش مصنوعی مرزی مانند Anthropic و xAI، زیرساخت‌ها و شرکت‌های مرتبط با محاسبات مانند Positron AI، و پلت‌فرم‌های علمی و سلامت مبتنی بر هوش مصنوعی مانند Lila است که از هوش مصنوعی برای تسریع کشف استفاده می‌کند.

من معتقدم فناوری‌های هوش مصنوعی، در صورت استفاده ایمن، می‌توانند به حل برخی از سخت‌ترین مشکلات بشریت کمک کنند و پتانسیلی که در این شرکت‌ها می‌بینم واقعا هیجان‌انگیز است. بنابراین، سرمایه‌ام را پشت سر آنها می‌گذارم زیرا می‌خواهم آنها موفق شوند. اما به عنوان یک سرمایه گذار، من بخشی از اکوسیستمی هستم که نوآوری هوش مصنوعی را ممکن می کند. و من یک شکاف را مشاهده کرده ام: پاسخگویی حقوقی شخصی.

این شکافی است که باید پر شود. مدیران اجرایی در حال حاضر پشت شرکت‌های خود محافظت می‌شوند و جریمه‌های مالی شرکت‌ها برای سوء رفتار یا سهل انگاری اغلب به کسری از گردش مالی و ارزش‌گذاری آنها می‌رسد - فقط یک مورد دیگر. مسئولیتی که در نهاد شرکتی متوقف می شود مسئولیتی نیست. این یک هزینه است.

در همین حال، رهبران هوش مصنوعی می‌توانند تصمیماتی بگیرند که شخصا میلیاردها دلار از آن‌ها به دست آورند، در حالی که اگر اشتباهاتشان همه ما را در معرض خطر قرار دهد، شخصا هیچ ریسکی نمی‌کنند. این عدم تقارن غیر قابل دفاع است.

این نیست که هیچ اتفاقی نمی افتد. قوانین پیرامون هوش مصنوعی به سرعت در حال تغییر هستند. ایالات در سراسر ایالات متحده قوانین هوش مصنوعی خود را معرفی می کنند و کنگره در حال بررسی قوانینی است که الزامات ایمنی را بر شرکت های مرزی هوش مصنوعی تحمیل می کند. در پایان ماه سپتامبر، رهبران چندین شرکت بزرگ هوش مصنوعی به کاخ سفید رفتند و توافقنامه‌ای را امضا کردند که به کنترل‌های ریسک داخلی، ممیزی‌های مستقل و نظارت بر ایمنی در سطح هیئت‌مدیره متعهد می‌شود.

اینها مانند چارچوب های ایمنی که آزمایشگاه های پیشرو منتشر کرده اند، مراحل خوشایند هستند. اما هم چارچوب های ایمنی و هم توافق داوطلبانه هستند و وقتی نوبت به هوش مصنوعی می رسد، داوطلبانه کافی نیست. هنوز هیچ چیز افراد بالا را از نظر قانونی مسئول نمی‌داند.

ما یک سیستم حقوقی ساخته‌ایم که در آن بیشتر شرکت‌ها هستند که پرداخت می‌کنند اما به ندرت افرادی که آنها را رهبری می‌کنند. یک مدیر هوش مصنوعی که درآمد را به سرمایه گذاران اشتباه اعلام می کند، می تواند شخصا مسئول شناخته شود. با این حال، تصمیماتی که می تواند به هر چیزی از خودکشی فردی گرفته تا حملات سایبری در مقیاس بزرگ و بی ثباتی ژئوپلیتیکی کمک کند، بدون خطر قانونی شخصی اتخاذ می شود. ما قبلا دیدیم که در بخش دیگری از صنعت فناوری به کجا منجر می شود: رسانه های اجتماعی. با هوش مصنوعی، ریسک به طور بالقوه بسیار بالاتر است.

همانطور که از ساخت Nutrafol می دانم، مسئولیت شخصی نحوه اداره یک تجارت را تغییر می دهد. چک لیست ایمنی به شما می گوید که چه چیزی را آزمایش کنید. قرار گرفتن در معرض شخصی شما را در مورد آنچه در لیست نیست نگران می کند. شما تیم‌های خود را به سمت شناسایی خطرات، آزمایش آنها سوق می‌دهید و پیش از اینکه به مشکل تبدیل شوند، تدابیر ایمنی را اعمال کنید. مطمئن می‌شوید که مشکلات زودتر به سراغ شما می‌آیند، نه اینکه اجازه دهید در مسیر بالارفتن آنها برطرف شوند. و شما حاضرید سرعت خود را کاهش دهید یا نه بگویید، حتی زمانی که پول یا مزیت رقابتی روی میز است، زیرا نام شما به اتفاقات بعدی متصل است.

من می دانم که درخواست مسئولیت شخصی برای رهبران هوش مصنوعی گام مهمی است. اما هوش مصنوعی شبیه هیچ صنعت دیگری نیست. یک مکمل به دست افرادی می رسد که آن را انتخاب می کنند. هوش مصنوعی در تمام زندگی ما جاسازی می‌شود، چه در حال سوار شدن به هواپیما یا روشن کردن چراغ‌ها. همه ما «مشتریان» محصولات هوش مصنوعی هستیم. فن‌آوری‌های هوش مصنوعی در سیستم‌هایی که ما به آن‌ها وابسته هستیم، از شبکه‌های برق گرفته تا بیمارستان‌ها تا کلاس‌هایی که فرزندانمان در آن‌ها یاد می‌گیرند، تعبیه شده‌اند. یک شکست می تواند در یک شهر، یک کشور یا فراتر از آن موج بزند.

و برخلاف تقریبا هر محصول دیگری، افرادی که هوش مصنوعی می‌سازند هشدار داده‌اند که ممکن است روزی از کنترل انسان فرار کند. خطرات فوق العاده مستلزم مسئولیت پذیری فوق العاده است.

برای روشن بودن، من این بحث را ندارم که مدیران هوش مصنوعی باید برای هر شکست تنبیه شوند. همانطور که نمی توانستم تضمین کنم که همه محصولاتم بی نقص هستند، هیچ کس نمی تواند تضمین کند که یک سیستم هوش مصنوعی ایمن است. اما وقتی رهبران بدانند سیستم‌هایشان خطرات جدی دارد و آنها را ارسال می‌کنند - یا آنها را آزاد می‌کنند - به هر حال، وقتی بودجه ناکافی تیم‌های ایمنی خود را تامین می‌کنند یا هشدارهای آنها را نادیده می‌گیرند یا زمانی که مشکلات را از قانون‌گذاران و مردم پنهان می‌کنند، باید عواقبی داشته باشد. نه فقط برای شرکت برای افرادی که پشت این تصمیمات هستند.

این که این مسئولیت مدنی است یا کیفری در اختیار من نیست که بگویم. آستانه‌ها در کجا قرار می‌گیرند، آسیب‌ها به حساب می‌آیند، چه کسی چه چیزی را حسابرسی می‌کند - قانون‌گذاران، وکلا، فن‌آوران و اخلاق‌دانان باید تصمیم بگیرند. اما هر تعهدی که داشته باشند، یک مدیر ارشد به نام باید شخصا مسئول انجام آنها باشد. هنگامی که افراد در راس خطرات را می دانند، کاری که در مرحله بعدی انجام می دهند باید دارای خطرات شخصی واقعی باشد.

من معتقدم هوش مصنوعی این پتانسیل را دارد که زندگی همه را به سمت بهتر شدن تغییر دهد. اما مانند همه، من نگران خطرات آن هستم. مسئولیت حقوقی شخصی ذهن ها را بر ایمنی متمرکز می کند، اعتماد عمومی را ایجاد می کند و کمک می کند تا اطمینان حاصل شود که رقابت بین رهبران هوش مصنوعی برای برتری بیشتر به هزینه دیگران تمام نمی شود. این استانداردی است که برای مدت طولانی برای تولید محصولاتی که وارد بدن انسان می شوند اعمال می شود. اکنون باید برای کسانی که محصولاتی تولید می کنند که می توانند آینده بشریت را شکل دهند اعمال شود.

نظرات بیان شده در نظرات Fortune.com صرفا نظرات نویسندگان آنها است و لزوما منعکس کننده نظرات و اعتقادات Fortune نیست.

این داستان در ابتدا در سایت Fortune.com منتشر شد