اگر نتوانیم هوش مصنوعی را کنترل کنیم که اطلاعاتش را از کجا می گیرد، نمی توانیم کنترل کنیم

به نظر می‌رسید که جاکوب پاچوکی، دانشمند ارشد OpenAI، در 6 سپتامبر هشداری صادر کرد.

در «ذهن بیگانه»، او استدلال کرد که تکنیک‌های همسویی و نظارت فعلی ممکن است به زودی برای سرعت پیشرفت هوش ماشینی ناکافی باشند. او همچنین آینده‌ای را توصیف کرد که در آن هوش مصنوعی نقش فزاینده‌ای در بهبود هوش مصنوعی، فشرده‌سازی زمان در دسترس برای نظارت انسانی و پاسخ‌های سازمانی ایفا می‌کند.

بیشتر تحقیقات ایمنی هوش مصنوعی بر رفتار متمرکز است. به عنوان مثال، آنچه که یک سیستم هوش مصنوعی مجاز است انجام دهد، اقدامات آن چگونه نظارت می‌شود و انسان‌ها در کجا تاییدیه را حفظ می‌کنند. با این حال، هر اقدامی یک قدم زودتر شروع می‌شود، با قضاوت درباره اینکه چه اطلاعاتی سزاوار باور هستند.

آن گام اولیه فوق العاده مهم است.

هوش مصنوعی بر روی اطلاعاتی عمل می کند که شجره نامه آنها اغلب مبهم است

قبل از اینکه هوش مصنوعی پرداختی را ارسال کند، نرم افزار را بازنویسی کند یا تصمیمی را توصیه کند، ابتدا تصویری از جهان جمع آوری می کند. این تصویر می تواند از نتایج جستجو، سوابق شرکتی، مقالات تحقیقاتی و مواد تولید شده توسط سایر سیستم های هوش مصنوعی استفاده کند.

وب برای گردش ساخته شده است. اطلاعات به راحتی منتقل می شود، در حالی که اصل و نسب آن اغلب با انتقال از یک نشریه به نشریه دیگر محو می شود. یک ادعا می‌تواند در یک مقاله تحقیقاتی شروع شود، در یک خبر ظاهر شود، در یک پست وبلاگ فشرده شود و ماه‌ها بعد در یک موضوع انجمن ظاهر شود. زمانی که هوش مصنوعی با این بیانیه مواجه می شود، بازسازی مسیر بازگشت به شواهد اصلی ممکن است دشوار باشد.

اقتدار نیز فشرده می شود. یک مطالعه بررسی شده، یک اعلامیه شرکتی و یک پست ناشناس همگی می توانند به عنوان متن ارسال شوند. یک سیستم هوش مصنوعی می‌تواند آن‌ها را رتبه‌بندی کرده و در یک پاسخ صیقلی ترکیب کند، در حالی که خواننده تفاوت کمی بین شواهد مستند، حمایت و تکرار می‌بیند. اختلاف نظر پیچیدگی بیشتری می‌افزاید.

منابع معتبر مرتبا به نتایج متفاوتی می‌رسند، به ویژه در امور مالی، پزشکی، سیاست و فناوری نوظهور. هوش مصنوعی معمولا برای ارائه یک پاسخ مفید پاداش می گیرد، که باعث ایجاد فشار برای آشتی دادن تعارض در یک جمله می شود. عدم قطعیت دقیقا زمانی که سزاوار دیده شدن باشد به راحتی پاک می شود.

زمانی که هوش مصنوعی توانایی عمل را به دست آورد، عواقب آن به طور قابل توجهی افزایش یافت. یک نماینده می تواند معامله ای انجام دهد، خریدی را تأیید کند، نرم افزار را تغییر دهد یا از طرف شخصی پیامی ارسال کند. بنابراین یک ادعای نامشخص می تواند مقدمه یک اقدام غیرقابل برگشت باشد.

نظارت انسانی به شواهد بهتر بستگی دارد

اثربخشی نظارت انسانی به این بستگی دارد که بازبین اطلاعات برتر یا ابزار قابل اعتمادی برای بررسی آنچه که هوش مصنوعی استفاده کرده است داشته باشد. در بسیاری از تنظیمات، بازبین انسانی تنها با کسری از سرعت به همان وب که هوش مصنوعی جستجو کرده است دسترسی دارد. هوش مصنوعی می تواند هزاران صفحه را اسکن کند در حالی که مسئول تأیید از طریق خلاصه و تعداد انگشت شماری پیوند کار می کند. با افزایش قابلیت، بررسی خطر تبدیل شدن به یک امضای رویه ای به جای یک بررسی مستقل را دارد.

Pachocki می‌نویسد که توانایی OpenAI برای تکیه بر نظارت زنجیره‌ای فکری در حال کاهش است، زیرا استدلال پیچیده‌تر می‌شود و هوش مصنوعی توانایی بیشتری برای دستکاری فرآیند استدلال خود دارد. او خواستار آستانه های ایمنی است که می تواند توسط حسابرسان شخص ثالث، سازمان های دولتی یا نهادهای بین المللی اعمال شود.

این پادمان ها بر توانایی و رفتار حاکم است. نظارت قابل اعتماد همچنین مستلزم یک سوابق شواهد است که نشان دهد چه اطلاعاتی نتیجه‌گیری را ایجاد کرده است، هر ادعایی از کجا سرچشمه گرفته است، منبع چقدر قابل اعتماد است و اختلاف نظر معتبر کجا باقی مانده است. بدون آن سوابق، بازبین بیشتر در مورد پاسخ قضاوت می کند تا شواهد پشت آن.

هوش مصنوعی ضعیف ترین عادت وب را به ارث برده است

هوش مصنوعی یک فرهنگ اطلاعاتی را جذب کرد که حول محور سرعت، دسترسی و تکرار ایجاد شده بود. موتورهای جستجو، فیدهای اجتماعی، جمع‌آوری‌کننده‌ها و بازنشرها، دسترسی را بسیار کارآمد کرده‌اند. آنها همچنین دنیایی را تشویق کردند که در آن یک گزاره می‌تواند صدها بار ظاهر شود و در عین حال به یک منبع نامشخص برمی‌گردد.

هوش مصنوعی مولد این اثر را تشدید می کند زیرا سیستم های هوش مصنوعی اکنون موادی را تولید می کنند که سیستم های هوش مصنوعی بعدی می توانند آن را بخورند. یک ادعای ضعیف را می توان ایجاد کرد، خراش داد، خلاصه کرد و بازنشر کرد تا زمانی که تکرار به آن ظاهر اجماع بدهد.

این یک مشکل منشأ با پیامدهای مرکب ایجاد می کند. هر نسل اضافی می‌تواند بیانیه‌ای را بیشتر از شواهدی که آن را به وجود آورده است جدا کند. هنگامی که یک عامل مستقل آن بیانیه را قابل اعتماد می داند، زنجیره اطلاعات بخشی از زنجیره تصمیم گیری می شود. در حالی که برای مصرف کنندگان، این می تواند به معنای یک توصیه ضعیف باشد، برای یک موسسه مالی، بیمه گر یا سازمان دولتی، همین ضعف می تواند بر پول، دسترسی، امنیت یا خدمات عمومی تأثیر بگذارد.

هوش مصنوعی مستقل به یک سیستم منشأ نیاز دارد

امور مالی بگیرید. فعالیت های مالی جدی به سوابقی بستگی دارد که مشخص می کند چه کسی، تحت اختیار چه کسی، بر اساس چه شرایطی و با چه مسیر حسابرسی عمل کرده است. موسسات هزینه های زیادی را برای این سوابق هزینه می کنند زیرا اعتماد به چیزی بیش از یک نتیجه قابل قبول نیاز دارد. هوش مصنوعی مستقل به نظم و انضباط قابل مقایسه برای اطلاعات نیاز دارد.

ادعاها باید دارای منشائی باشند که از کپی و تغییر شکل باقی بماند. یک شخص یا یک نماینده باید بتواند یک بیانیه را به منشأ آن ردیابی کند، شواهد پشت آن را بررسی کند و ببیند که اظهارات چگونه در طول سفر تغییر کرده است. اختلاف نظر معتبر باید دست نخورده باقی بماند.

در جایی که منابع معتبر با هم اختلاف دارند، سیستم باید دیدگاه های رقیب و میزان اطمینان پشت هر یک را حفظ کند. برای یک عامل مستقل، عدم قطعیت می‌تواند به عنوان محرکی برای تحقیقات بیشتر، تایید انسانی یا یک دوره عمل محدودتر باشد.

مسئولیت پذیری نیز باید همراه با اطلاعات باشد. ادعایی از یک موسسه قابل شناسایی با شواهد پشتیبان مستحق برخورد متفاوت با ادعای غیرمنصوبی است که در ده ها صفحه تکرار شده است. هدف این است که هوش مصنوعی قبل از اینکه منابعی را متعهد کند یا از طرف کسی اقدام کند، حس غنی تری از کیفیت شواهد بدهد.

حکومت در یک سطح مشترک تعلق دارد. استانداردهای منشأ، روش‌های راستی‌آزمایی و قوانین پاسخ‌گویی به جای وابستگی به ترجیحات یک ارائه‌دهنده، به بررسی و مشارکت مستقل بسیاری از مؤسسات نیاز دارند.

افکار نهایی

پاچوکی استدلال می‌کند که تکنیک‌های همسویی و نظارت فعلی ممکن است به زودی سرعت آزمایشگاه‌ها را برای مقیاس‌گذاری مسئولانه ابزارهای هوش مصنوعی محدود کند، و او انتظار دارد تا زمانی که آستانه‌های ایمنی مشترک به وجود بیاید، سرعت خود را به صورت داوطلبانه کاهش دهد. او همچنین هشدار می‌دهد که پیشرفت مداوم می‌تواند هوش مصنوعی را به بهبودی بازگشتی برساند و هوش مصنوعی سهم بیشتری از توسعه خود را به همراه داشته باشد.

این امر باعث می‌شود هر شرکتی که سیستم‌های مستقلی می‌سازد، یک وظیفه اساسی داشته باشد. آنچه را که عامل می داند قبل از اقدام مشخص کنید و آن دانش را قابل حسابرسی کنید.

پادمان های رفتاری همچنان ضروری هستند. بنابراین مجوزها، ممیزی ها و تایید انسانی را انجام دهید. ارزش آنها زمانی به شدت افزایش می یابد که اطلاعات زیر هر تصمیم منشأ، زمینه و مسئولیت پذیری داشته باشد. بنابراین، مرحله بعدی ایمنی هوش مصنوعی با شواهدی که یک نماینده می بیند، اختیاراتی که به آن شواهد اختصاص می دهد و عدم اطمینانی که قبل از اقدام حفظ می کند، آغاز می شود.

استقلال مبتنی بر اطلاعات قابل تأیید به انسان ها مبنای قوی تری برای کنترل می دهد. اطلاعات مبهم ناظران را به قضاوت درباره تصمیماتی که بازرسی مبانی آنها دشوار است، وا می دارد.

Pachocki حق دارد هشدار دهد که پنجره آماده سازی ممکن است باریک باشد. صنعت باید از این پنجره برای ساختن سیستم‌هایی استفاده کند که بتواند نشان دهد دانش آن‌ها از کجا آمده است، قبل از اینکه به آن سیستم‌ها برای عمل در جهان اعتماد شود.

ما بهترین چت ربات هوش مصنوعی را برای تجارت معرفی کرده ایم.

این مقاله به عنوان بخشی از TechRadar Pro Perspectives، کانال ما برای معرفی بهترین و باهوش ترین ذهن ها در صنعت فناوری امروز تهیه شده است.

نظرات بیان شده در اینجا نظرات نویسنده است و لزوما نظرات TechRadarPro یا Future plc نیست. اگر مایل به مشارکت هستید، اطلاعات بیشتری را در اینجا بیابید: https://www.techradar.com/pro/perspectives-how-to-submit