رئیس پژوهشگاه ICT: ورود اطلاعات سازمانی به سامانه‌های هوش مصنوعی می‌تواند به خروج داده‌ها منجر شود
رئیس پژوهشگاه فناوری اطلاعات نسبت به ورود اطلاعات سازمانی به ابزارهای هوش مصنوعی و احتمال خروج داده‌ها هشدار داد.
رئیس پژوهشگاه فناوری اطلاعات نسبت به ورود اطلاعات سازمانی به ابزارهای هوش مصنوعی و احتمال خروج داده‌ها هشدار داد.
رئیس پژوهشگاه ارتباطات و فناوری اطلاعات با اشاره به گسترش استفاده از ابزارهای هوش مصنوعی در سازمان‌ها، نسبت به وارد کردن اطلاعات و اسناد سازمانی در این سامانه‌ها هشدار داد و گفت این کار، در کنار تسریع فرایندها، می‌تواند به افشای اطلاعات و خروج داده‌های کشور منجر شود.
محمدحسین شیخی، رئیس پژوهشگاه ارتباطات و فناوری اطلاعات، در رویداد مساله‌محور هوش مصنوعی با اشاره به نقش روزافزون این فناوری در آینده کشورها گفت: «هوش مصنوعی آینده کشورها را تحت تاثیر قرار می‌دهد. این فناوری در تصمیم‌گیری‌ها و حکمرانی نیز نقش مهمی دارد و تقریبا حوزه‌ای وجود ندارد که هوش مصنوعی به آن مرتبط نباشد.» او با اشاره به کاربردهای گسترده هوش مصنوعی در حوزه‌های مختلف افزود:
شیخی یکی از مهم‌ترین ملاحظات فعلی در استفاده از ابزارهای هوش مصنوعی را موضوع حفاظت از داده‌ها دانست و گفت سازمان‌ها باید نسبت به اطلاعاتی که در این سامانه‌ها وارد می‌کنند، حساس باشند.
او گفت: «هنگام استفاده از هوش مصنوعی باید دقت کنیم تا اطلاعات ما از کشور خارج نشود. حتی در ارگان‌ها و سازمان‌ها، متن نامه‌ها و اطلاعات دیگر در هوش مصنوعی وارد می‌شود که اگرچه از یک جهت می‌تواند کارها را تسریع کند، اما ممکن است باعث لو رفتن اطلاعات و داده‌ها و انتقال آنها به خارج از کشور شود.»
رئیس پژوهشگاه ارتباطات در ادامه از برنامه این مجموعه برای حمایت از فعالیت جوانان در حوزه هوش مصنوعی و تبدیل ایده‌های پژوهشی به محصولات قابل عرضه در بازار خبر داد و گفت: «ما به‌عنوان پژوهشگاه ارتباطات از فعالیت جوانان در این حوزه استقبال می‌کنیم و برای تبدیل شدن ایده‌ها به محصولی که بتواند بازار داشته باشد تلاش می‌کنیم. محصول موفق، محصولی است که یک مدل کسب‌وکار موفق پشت آن باشد.»
به گفته شیخی، پژوهش زمانی ارزشمندتر است که بتواند به بازار متصل شود و میان ایده، محصول و بازار یک زنجیره کامل شکل بگیرد.
او هم‌چنین از برنامه پژوهشگاه برای برگزاری رویداد مسئله‌محور در حوزه امنیت سایبری خبر داد و گفت این رویداد می‌تواند با توجه به حضور شرکت‌های متعدد فعال در این حوزه و ورود گسترده هوش مصنوعی به امنیت سایبری در جهان، ظرفیت بالایی برای موفقیت داشته باشد.
در ادامه این رویداد، مژگان فرهودی، رئیس آزمایشگاه مرکز هوش مصنوعی پژوهشگاه ارتباطات، درباره برنامه‌های این مجموعه برای توسعه اکوسیستم هوش مصنوعی کشور گفت: «تلاش ما این است که با اکوسیستم هوش مصنوعی در کشور هم‌افزایی داشته باشیم و توسعه مدل زبانی بومی را در ایران دنبال کنیم.»
او یکی از مسیرهای مورد توجه پژوهشگاه را تشکیل کنسرسیوم‌هایی برای در اختیار قرار دادن داده‌های تخصصی به تیم‌های توسعه‌دهنده عنوان کرد و توضیح داد:
فرهودی این رویکرد را یکی از مسیرهای توسعه هوش مصنوعی در پیوند میان صنعت و دانشگاه دانست. او هم‌چنین از راه‌اندازی «بازارگاه خدمات هوش مصنوعی» در پژوهشگاه خبر داد و گفت این بازارگاه برای صنایع، کسب‌وکارها، دانشگاه‌ها و استارتاپ‌ها طراحی شده و خدماتی از جمله دسترسی به داده‌های آماده، مدل‌های آماده، زیرساخت پردازشی و ابزارهای مورد نیاز توسعه هوش مصنوعی را در اختیار آنها قرار می‌دهد.
رئیس آزمایشگاه مرکز هوش مصنوعی پژوهشگاه در ادامه با اشاره به سابقه سه‌ساله فعالیت این آزمایشگاه گفت تلاش شده از ظرفیت آزمایشگاه‌های مختلف برای توسعه فعالیت‌های هوش مصنوعی استفاده شود.
به گفته فرهودی، پژوهشگاه در حوزه ارزیابی راهکارهای هوش مصنوعی دو مسیر اصلی را دنبال می‌کند. مسیر نخست، ارزیابی محصول‌محور است و محصولاتی را شامل می‌شود که به بلوغ نسبی رسیده‌اند؛ برای مثال سامانه‌های احراز هویت که می‌توان عملکرد آنها را با آزمون و تهیه گزارش ارزیابی کرد و بهبود داد.
مسیر دوم، ارزیابی راهکارهایی است که برای حل مسائل واقعی تعریف می‌شوند. فرهودی برای توضیح این مدل، به نمونه‌ای از یک مساله در صنعت بیمه اشاره کرد که در آن تصاویر مربوط به خودروهای تصادفی در اختیار تیم‌ها قرار می‌گیرد و آنها باید میزان خسارت را با استفاده از هوش مصنوعی تخمین بزنند.
او تاکید کرد در این دسته از مسائل، ارائه یک راه‌حل صرفا پژوهشی کافی نیست و راهکار باید به مرحله کاربردی و عملیاتی برسد. به گفته او، همین مسائل معمولاً در نهایت به رویدادهای مساله‌محور پژوهشگاه منتهی می‌شوند تا در یک فضای رقابتی از ظرفیت جامعه پژوهشی و نخبگان برای حل چالش‌های واقعی استفاده شود.
فرهودی با اشاره به سابقه برگزاری این رویدادها گفت پژوهشگاه در زمستان ۱۴۰۲ رویداد تحلیل متن فارسی در شبکه‌های اجتماعی را برگزار کرده، در سال‌های بعد نیز رویدادهای تخصصی دیگری برگزار شده و در تابستان ۱۴۰۵ آخرین رویداد مساله‌محور هوش مصنوعی برگزار شده است. به گفته او، برنامه بعدی پژوهشگاه نیز راه‌اندازی رویداد هوش مصنوعی در حوزه سلامت است.
رئیس آزمایشگاه مرکز هوش مصنوعی پژوهشگاه ارتباطات درباره رویداد امسال گفت این دوره پنج چالش اصلی داشته است: «استخراج روابط از متون روزنامه رسمی، تشخیص کاداستر از تصاویر ماهواره‌ای، شناسایی خرابی بیرینگ، طراحی کمپین فروشگاهی و تخصیص منابع در شبکه‌های زنجیره.»
او گفت در این دوره در مجموع ۵۱ تیم خروجی نهایی خود را ارائه کرده‌اند و برندگان این رویداد نیز در همین برنامه معرفی خواهند شد.
به گفته فرهودی، برای پنج چالش این رویداد در مجموع حدود ۸۰۰ میلیون تومان جایزه نقدی در نظر گرفته شده است. علاوه بر جوایز نقدی، تیم‌های برگزیده امتیاز ویژه بنیاد ملی نخبگان دریافت می‌کنند و امکان انتشار مقالات آنها در مجله پژوهشگاه نیز در نظر گرفته شده است.
رویکرد پژوهشگاه در این رویدادها بر حل مساله‌های واقعی شرکت‌ها و صنایع استوار است؛ مسائلی که پس از تبدیل شدن به چالش‌های مشخص، در اختیار تیم‌های تخصصی قرار می‌گیرند تا راهکارهای خود را ارائه و در یک فضای رقابتی ارزیابی کنند.
فرهودی تاکید کرد هدف این رویدادها صرفا برگزاری یک مسابقه یا دریافت چند راهکار نیست، بلکه شبکه‌سازی تخصصی، شکل‌گیری همکاری میان صنعت و جامعه پژوهشی، توسعه راهکارهای کاربردی و در نهایت حرکت به سمت نوآوری و تجاری‌سازی است.