پروفسور Technion به "Post" می گوید OpenAI، Anthropic، باز بودن در مورد خطرات در AI نشانه دلگرم کننده است.

پروفسور یانیو رومانو، پروفسور موسسه فناوری Technion-Israel در مصاحبه ای با The Jerusalem Post در روز سه شنبه گفت، هشدارهای اخیر سم آلتمن، مدیر عامل OpenAI و داریو آمودی، مدیر عامل آنتروپیک، در مورد نیاز به کاهش سرعت توسعه هوش مصنوعی، "دلگرم کننده" هستند." در حالی که ما به جلو حرکت می کنیم.

از این گذشته، باید به خود یادآوری کنیم که هدف نهایی این است که دنیای خود را به مکانی بهتر تبدیل کنیم." پس از اینکه یکی از کارمندان سابق به نام جیکوب کاکسون گفت که شرکت های برتر هوش مصنوعی غیرمسئولانه عمل می کنند و "با زندگی ما قمار می کنند"، آمودی افکار خود را در مورد نیاز به کاهش سرعت توسعه در روز شنبه به اشتراک گذاشت.

آمودی در مقاله‌ای گفت: پیشرفت همچنان سریع به نظر می‌رسد و ما باید از زمانی که به دست می‌آوریم استفاده عاقلانه کنیم. سام آلتمن نیز پیام مشابهی داد و در طی مصاحبه‌ای با مجله فورچون گفت: «با توجه به اینکه همه چیز با ایمنی اتفاق می‌افتد، در حال حاضر لحظه‌ای نابخردانه برای عرضه عمومی خواهد بود، و ما احساس نمی‌کنیم که در صنعت رومان فشاری بر این واقعیت دارد.» نگرانی در مورد اینکه فناوری ما را به کجا خواهد برد، در واقع یک پیشرفت مثبت است."

منجر خواهد شد. هوش مصنوعی آنقدر سریع حرکت می‌کند و بخش‌های زیادی از زندگی ما را لمس می‌کند که پیش‌بینی اثرات طولانی‌مدت آن سخت است.» او به پست گفت: «من واقعا معتقدم که در زمان‌های هیجان‌انگیزی زندگی می‌کنیم.» «ما می‌توانیم با مشکلاتی که همین چند ماه پیش به نظر دور از دسترس به نظر می‌رسید، مقابله کنیم، و همانطور که مدل‌ها توانمندتر می‌شوند، فرصت‌های جدیدی برای حل مشکلات حتی سخت‌تر به دست می‌آوریم.

این امکان را در بسیاری از زمینه‌ها باز می‌کند، و من به معنای آن برای زندگی مردم خوش‌بین هستم.» او اضافه کرد. خطرات واقعی سرکش بودن هوش مصنوعی یکی از نگرانی‌های اصلی در مورد حوادث امنیتی OpenAI این واقعیت است که عوامل هوش مصنوعی آنها «سرکش شدند»، چیزی که برای رومانو، تنها در صورتی می‌تواند خطرناک باشد که سیستم هوش مصنوعی بتواند به سیستم‌های دیجیتالی دسترسی داشته باشد. آنها معمولا به این معنی هستند که "سرکش" کارهایی فراتر از آنچه اپراتورهایش قصد داشتند یا اجازه می دادند انجام می دهد.

ممکن است اقدامی غیرمجاز انجام دهد، کاری که انجام شده را پنهان کند یا در تلاش برای متوقف کردن آن دخالت کند. یک سیستم می‌تواند هدفی را که شما برایش تعیین کرده‌اید دنبال کند و همچنان در طول مسیر کاری مضر انجام دهد - چیزی که هرگز پیش‌بینی نمی‌کردید.» «اینکه چقدر خطرناک است بستگی زیادی به این دارد که هوش مصنوعی واقعا چه کاری می‌تواند انجام دهد و به چه چیزی دسترسی دارد.

اگر بتواند به اطلاعات حساس دسترسی داشته باشد، پول جابجا کند یا زیرساخت های حیاتی را کنترل کند، عواقب آن می تواند بسیار جدی تر باشد." دستورالعمل‌ها لغو شدند، زیرا نمایندگان پیام‌های به اشتراک گذاشته شده بین نمایندگان را به‌عنوان بخشی از درخواست اصلی اشتباه تفسیر کردند.

البته نگرانی اصلی این بود که مدل هوش مصنوعی از محیط آموزشی خود "فرار" کرده بود، اما رومانو توضیح داد که حتی اگر با دسترسی به اینترنت فضای آموزشی را ترک کند، باز هم محدود به پردازش در سرورهای فیزیکی اصلی خود است."

و ما مواردی را دیده‌ایم که این حفاظت‌ها به اندازه کافی قوی نبودند.» او توضیح داد: «در یک حادثه گزارش شده در OpenAI در جولای 2026، عواملی که تحت آزمایش امنیت سایبری با پادمان‌های کاهش‌یافته قرار گرفتند، از نقص ابزار مورد استفاده برای دانلود نرم‌افزار استفاده کردند. این به آنها اجازه می‌داد به اینترنت دسترسی داشته باشند، حتی اگر قرار بود دسترسی آنها محدود شود." او در مورد این حادثه اشاره کرد. او اضافه کرد که OpenAI یک جزئیات مهم را در مورد این حادثه به اشتراک گذاشته است: یافتن راهی برای دور زدن محدودیت‌ها و اتصال به اینترنت، تلاش محاسباتی قابل توجهی را می‌طلبد.

او هشدار داد: «این نشان می‌دهد که چرا ما باید میزان امنیت این مرزها را آزمایش کنیم.