نشست هوش مصنوعی: صنعت باید درس های ایمنی را از صنعت هسته ای بگیرد

یکی از محققان ارشد هوش مصنوعی گوگل گفت: صنعت هوش مصنوعی باید درس های ایمنی را از صنایع مهمی مانند هسته ای و زیست شناسی بپذیرد، در میان نگرانی ها در مورد آسیب های احتمالی که این فناوری می تواند ایجاد کند.

اما دمیس حسابیس، یکی از بنیانگذاران و رئیس Google DeepMind گفت که باید تعادل درستی بین تنظیم فناوری و استفاده از فرصت های ارائه شده توسط آن ایجاد شود.

او گفت که حوادث اخیر عوامل هوش مصنوعی "سرکش" و هک سیستم های شخص ثالث "شلات هشدار اولیه" بود.

او گفت: «سیستم‌ها هنوز آنقدر قدرتمند نیستند، بنابراین حوادث آنقدر بزرگ نیستند، اما اگر ما به عنوان یک صنعت و به‌عنوان شرکت‌ها و دولت‌ها به‌عنوان شرکت‌ها و دولت‌ها روی سیستم‌های امنیتی و ساخت جعبه‌های شنی امن برای آزمایش آن‌ها کار بیشتری انجام ندهیم، می‌توانند سال آینده و چند سال آینده را بررسی کنیم.» ما می‌توانیم بهترین شیوه‌ها را از سایر بخش‌هایی که با سیستم‌های حیاتی ایمنی سروکار داشته‌اند، بیولوژی یا هسته‌ای به ارمغان بیاوریم.»

من فکر می‌کنم درس‌های زیادی در مورد سیستم‌های مهار می‌توان آموخت و فکر می‌کنم ما باید این موضوع را جدی بگیریم و متخصصانی را از آن حوزه‌ها و همچنین به طور کلی از امنیت سایبری وارد کنیم.»

او گفت که هوش مصنوعی می‌تواند برای تقویت سیستم‌های دفاعی، رفع آسیب‌پذیری‌های سیستم‌های نرم‌افزاری قبل از استفاده مهاجمان از آنها استفاده شود. او گفت: «ما باید به طور نامتقارن دفاعی خود را تقویت کنیم تا از مهاجمان پیشی بگیریم.

کاهش 16 درصدی استخدام در سطح ورودی در بخش های تقویت شده با هوش مصنوعی

Hassabis از ایجاد یک سازمان استاندارد حمایت کرده است که به توسعه فناوری به "روشی ظریف، زیرک و پویا" کمک می کند و مسئولیت بیشتری را بر عهده آزمایشگاه های به اصطلاح مرزی می گذارد که در حال توسعه حوزه های جدیدی از فناوری بودند تا از ایمن بودن آن اطمینان حاصل کنند.

حسابیس گفت: «ما نمی‌خواهیم نوآوری، همه چیزهای شگفت‌انگیز ناشی از آن را خفه کنیم؛ ما آن چیزها را می‌خواهیم. اما حتی در بین افرادی که روی این موضوع کار می‌کنند، دانشمندان و محققانی که روی این موضوع کار می‌کنند، اتفاق نظر کاملی وجود ندارد که دقیقا چه خطراتی وجود دارد و چقدر بزرگ است.

ما می دانیم که آنها وجود دارند و باید آنها را کمیت کنیم. اما عدم اطمینان زیادی در مورد آن وجود دارد."

او گفت که چارچوبی مورد نیاز است که بتواند به سرعت برای آزمایش عناصر حیاتی سیستم‌ها، همگام با فناوری و متناسب با خطر سازگار شود.

او گفت: «یکی از مشکلات مربوط به مقررات این است که طبیعتا بسیار کند حرکت می کند و من فکر می کنم دولت ها باید سرعت حرکت فناوری را پیگیری کنند.

"اگر شما برای چیزی سه سال پیش قانونی وضع کنید، امروز منسوخ خواهد شد و احتمالا مشکلات واقعی را حل نخواهد کرد."

او همچنین بر نقش رو به رشد هوش مصنوعی در اکتشافات علمی تاکید کرد. علی‌رغم نگرانی‌ها در مورد تأثیرات زیست‌محیطی هوش مصنوعی، از جمله قدرت مورد نیاز برای راه‌اندازی مراکز داده و آبی که آنها را خنک می‌کند، Hassabis گفت که این فناوری می‌تواند برای ایجاد راه‌حلی برای بحران آب و هوا مورد استفاده قرار گیرد.

او گفت، با این حال، خلاقیت و قضاوت انسانی غیر قابل جایگزین خواهد ماند.

او گفت: «سخت‌ترین کار در علم در واقع پرسیدن و بیان سؤال درست است. این حتی سخت‌تر از یافتن پاسخ است، و من فکر می‌کنم رسیدن به فرضیه درست، حدس درست و سؤال درست به خلاقیت و قضاوت نیاز دارد.»

"تا کنون، سیستم‌های هوش مصنوعی ما ممکن است در کمک به حل مسائل خوب باشند. اما این دانشمند و هنرمند انسانی است که فرآیند خلاقانه و سوالی را که در آن مطرح می‌شود... در حال حاضر به نظر می‌رسد همیشه نوعی حلقه در دنیای واقعی وجود خواهد داشت."