مهندس اصلی AWS می گوید بهترین مهندسان وقتی صحبت از هوش مصنوعی به میان می آید «پارانوئید و تنبل» هستند.

دیوید یاناچک گفت که بهترین مهندسان «پارانوئید و تنبل» هستند. AWS دیوید یاناچک، مهندس اصلی در AWS، گفت که بهترین مهندسان «پارانوئید و تنبل» هستند.

او گفت که پارانویا او را در مورد خطرات احتمالی ایمنی هوشیار نگه می دارد.

او گفت که تنبلی به او انگیزه می‌دهد تا راه‌هایی برای جلوگیری از این خطرات و انجام کارها پیدا کند. بسیاری فکر می کنند که قضاوت و سلیقه ویژگی هایی است که قوی ترین مهندسان عصر هوش مصنوعی را متمایز می کند.

دیوید یاناچک، مهندس اصلی در AWS، فکر می‌کند که توسعه‌دهنده ایده‌آل ویژگی‌های دیگری نیز دارد.

او به Business Insider گفت که بهترین مهندسان این روزها نیز «پارانوئید و تنبل» هستند. او گفت که این ترکیب خوبی را هنگام کار با نمایندگان ایجاد می کند.

یاناچک که روی هوش مصنوعی و ایمنی کار می کند، گفت: «پارانوئید به این معنی است که من نسبت به اتفاقاتی که ممکن است رخ دهد، اگر به یک نماینده اجازه انجام کاری را بدون نظارت بدهم، بسیار حساس هستم.

او گفت که تنبلی به این معنی است که او نمی خواهد کارهای تکراری را به صورت دستی انجام دهد.

گردش کار جدید

در حالی که هوش مصنوعی اکثر وظایف کدنویسی را بر عهده گرفته است، Yanacek گفت که این گلوگاه اصلی نبود. مهندسان علاوه بر نوشتن کد واقعی، روزها را در انتظار تست های دستی، تایید کد و تغییرات طراحی می گذراندند. این فرآیندها مستلزم انتظار مداوم برای بررسی هم تیمی ها بود.

اکنون، مداخله انسان برای بحث‌های طراحی و بررسی‌های پیچیده محفوظ است، در حالی که عوامل بسیاری از کارهای دیگر را در یک حلقه انجام می‌دهند.

این حلقه‌ها شامل تولید کد، اجرای آزمایش‌ها، کار مجدد مشکلات و آماده‌سازی به‌روزرسانی‌هایی است که سپس ادغام و اجرا می‌شوند. در حالی که یک حلقه می‌تواند ساعت‌ها اجرا شود، Yanacek می‌تواند به پروژه‌های دیگر تغییر مکان دهد یا ویژگی‌های اضافی را در این مدت به محصول اضافه کند.

تنظیم نرده های محافظ مناسب

یاناچک گفت: برای اینکه جریان های کاری نمایندگی به طور موثر اجرا شوند و در زمان صرفه جویی کنند، نمایندگان باید به طور مستقل عمل کنند. بنابراین او بیشتر وقت خود را صرف تصمیم گیری می کند که کدام ابزارها می توانند بدون نظارت استفاده کنند، کدام اقدامات نیاز به تایید دارند، و این محدودیت ها کجا باید اعمال شوند.

برای انجام این کار، Yanacek مطمئن می‌شود که فایل «اعتماد خودکار» او سالم است. این مجموعه قوانینی است که مشخص می‌کند کدام ابزارها و دستورات یک عامل می‌تواند به طور مستقل استفاده کند، و کدام یک نیاز به علامت‌گذاری انسانی دارند.

یاناچک گفت: «من همیشه به آنچه در فایل اعتماد خودکار وجود دارد فکر می‌کنم، زیرا به این ترتیب بهره‌وری به دست می‌آید: با داشتن نماینده قادر به انجام کارها بدون نیاز به مدیریت کوچک تک تک فرمان‌هایی است که اجرا می‌شود.

هدف او این است که ناوگانی از نمایندگان داشته باشد که تماس های مناسب را بدون بررسی و تایید مداوم انجام دهند. این مستلزم سیاست‌های روشنی است که یک نماینده باید چه کاری انجام دهد و چه نباید انجام دهد.

یاناچک گفت: «بیشتر چیزی که من به آن فکر می کنم ایمنی هوش مصنوعی است. "و چون این کار را انجام می دهم، خوب می خوابم."

او گفت که مهندسان باید لایه‌ای از پارانویا و تنبلی داشته باشند تا بتوانند نسبت به اتفاقاتی که ممکن است بدون نظارت عمل کند، آگاه باشند. با این حال، آنها همچنین باید سیستم هایی را به اندازه کافی قابل اعتماد بسازند که نیازی به نظارت بر هر اقدامی نداشته باشند.

او گفت که هدف نهایی این است که کار به اندازه کافی از قبل انجام شود تا عامل به اندازه کافی قابل اعتماد باشد تا بدون نظارت کار کند تا بتواند قطعات خسته کننده را خودکار کند.

مقاله اصلی را در Business Insider بخوانید