از آنجایی که مدل‌های هوش مصنوعی سرکش هستند، آیا همچنان به OpenAI و Anthropic اعتماد دارید تا جلوی آنها را بگیرد؟ نه من و نه تو نباید | کریس استوکل-واکر

نیاز به مقررات مستقل روز به روز آشکارتر می شود. ما باید قبل از اینکه خیلی دیر شود این فناوری را کنترل کنیم

یک بار مرا گول بزن، شرمنده. دوبار مرا گول بزن، شرمنده. بیش از 16000 بار من را فریب دهید - همانطور که ماموران OpenAI با یک مرکز داده عمومی سازمان ملل متحد انجام دادند در حالی که مکررا تلاش می کردند راه خود را در اطراف بلوک های سایبری سازمان ملل پیدا کنند - و شاید زمان آن رسیده است که بپذیریم سیستمی که برای تحت کنترل نگه داشتن عوامل هوش مصنوعی داریم به خوبی کار نمی کند.

اخبار مربوط به سیستم های هوش مصنوعی که در مکان هایی ظاهر می شوند که نباید نگران کننده به نظر برسد. اگرچه توصیف این موارد به‌عنوان «هک» شاید اغراق‌آمیز باشد، اما هوش مصنوعی از مسائلی در سیستم‌های فناوری اطلاعات استفاده کرده است که انسان‌ها به سادگی نمی‌توانند آن‌ها را پیدا کنند. همچنین مهم است که توجه داشته باشیم که ما نباید نگران باشیم که ماشین‌ها به طور ناگهانی حساس شده‌اند و تصمیم به شورش علیه بشریت گرفته‌اند. شواهد کافی وجود ندارد که نشان دهد این چیزی است که اتفاق می افتد.

سیستم‌ها صرفا دستورالعمل‌ها را دنبال می‌کنند و سعی می‌کنند وظایفی را که به آنها داده شده است کامل کنند، حتی اگر گاهی اوقات راه‌های ناخواسته‌ای را برای دور زدن موانع برای این کار پیدا کنند.

کریس استوکل واکر نویسنده TikTok Boom: The Inside Story of the World's Favorite App است. ادامه مطلب...