هوش مصنوعی به دسترسی به داده ها نیاز دارد. این بدان معنا نیست که باید آن را دید | نظر

مردم نباید طراحی یک سیستم هوش مصنوعی را درک کنند تا انتظار حفاظت معقول از اطلاعات مالی خود داشته باشند.

هنگامی که یک بانک از سوابق مشتری برای بهبود خدمات یا کشف تقلب استفاده می کند، مسئولیت محدود کردن مواجهه با آن موسسه است. من معتقدم که مسئولیت باید تا لحظه پردازش اطلاعات گسترش یابد.

همانطور که سازمان ها استفاده از هوش مصنوعی را گسترش می دهند، تعهدات حفظ حریم خصوصی به چیزی بیش از سیاست های مکتوب نیاز دارند. حکمرانی و قضاوت کارکنان مهم است، اما باید توسط اجرای فنی در لایه داده پشتیبانی شود.

رهبران باید بپرسند که آیا سیستم های آنها واقعا دسترسی به سوابق حساس را محدود می کند، نه اینکه صرفا به مردم دستور دهند که آنها را با دقت مدیریت کنند.

تصور کنید یک دستیار هوش مصنوعی به یک کارمند کمک می کند تا یک درخواست پرداخت را حل کند. اگر بتواند جزئیات حساب غیرمرتبط را بازیابی کند، حتی یک درخواست معمولی نیز می‌تواند اطلاعاتی فراتر از هدف خود را نشان دهد.

این سناریوی فرضی نشان می دهد که چرا یک ابزار مفید باید تنها دسترسی مورد نیاز خود را دریافت کند.

من می‌خواهم این مرز در سیستم گنجانده شود، با الزامات تأیید برای اقدامات حساس و یک نقطه تعریف‌شده هنگام پایان دسترسی.

کارمندان باید در این محدوده ها قضاوت کنند. آنها نباید برای طرحی که به دستیار مجوزهای گسترده غیر ضروری می دهد، جبران کنند.

این بررسی باید شامل پردازش باشد. رمزگذاری در حالت استراحت از رکوردهای ذخیره شده محافظت می کند و رمزگذاری در حین انتقال از آنها در حین سفر محافظت می کند.

هیچ یک به تنهایی تعیین نمی کند که وقتی نرم افزار با اطلاعات کار می کند چه اتفاقی می افتد. یک پایگاه داده محافظت شده همچنان می تواند فرآیندی را تغذیه کند که جزئیات حساس را قابل خواندن می کند.

از لحاظ تاریخی، پردازش مرسوم به طور کلی نیاز به رمزگشایی اطلاعات رمزگذاری شده قبل از تجزیه و تحلیل دارد. تحقیق در مورد رمزگذاری در حال استفاده در حال ایجاد جایگزین هایی برای وظایف خاص است.

NIST روش های رمزنگاری را توصیف می کند که امکان محاسبه بر روی اطلاعات رمزگذاری شده را فراهم می کند. به زبان ساده، برخی از سیستم‌ها می‌توانند نتیجه را بدون فاش کردن رکوردهای اساسی برای طرفی که محاسبه را انجام می‌دهد، محاسبه کنند.

این بدان معنا نیست که هر برنامه ای می تواند با هزینه یا سرعت قابل قبولی به این روش کار کند. این بدان معنی است که مدیران باید قبل از اینکه مواجهه را غیرقابل اجتناب تلقی کنند، آنچه را که امکان پذیر است بررسی کنند.

من آن تحقیق را بخشی از نظارت مسئولانه می‌دانم، در کنار کنترل‌هایی که می‌توانند درخواست تحلیل کنند و نتایج آن را دریافت کنند.

یک آزمایش خدمات مالی پتانسیل همکاری محافظت شده را نشان می دهد. در سپتامبر 2025، سوئیفت آزمایش‌هایی را گزارش کرد که شامل 13 بانک و 10 میلیون تراکنش مصنوعی بود.

شرکت‌کنندگان فناوری‌های تقویت‌کننده حریم خصوصی را با یادگیری فدرال ترکیب کردند، که به جای جمع‌آوری سوابق مشتری در یک مجموعه داده مشترک، مدل‌ها را به‌صورت محلی در هر موسسه آموزش می‌دهد.

به گفته سوئیفت، مدل مشارکتی در شناسایی تراکنش های متقلبانه شناخته شده دو برابر موثرتر از مدلی بود که بر روی مجموعه داده های یک موسسه آموزش دیده بود.

این آزمایشی با استفاده از داده های مصنوعی بود، نه اثبات نتایج معادل در بانکداری زنده. همچنین ثابت نمی کند که رمزگذاری در استفاده به تنهایی باعث بهبود شده است.

برای من، درس مفید این است که حفاظت از حریم خصوصی به عنوان یک توانمندسازی تجزیه و تحلیل، شایسته توجه است.

موسسات باید قبل از اینکه فرض کنند تنها انتخاب آنها اشتراک گذاری نامحدود یا رها کردن کار مفید است، بررسی کنند که آیا پادمان ها می توانند از همکاری مناسب حمایت کنند.

استانداردهای نظارتی همچنین حفاظت در طول پردازش را به رسمیت می شناسند. ماده 6 استانداردهای فنی نظارتی که از چارچوب DORA اتحادیه اروپا پشتیبانی می کند، به رمزگذاری داده های مورد استفاده در صورت لزوم، بر اساس طبقه بندی داده ها و ارزیابی ریسک می پردازد.

در مواردی که رمزگذاری امکان پذیر نباشد، محیط های پردازش محافظت شده یا اقدامات مشابه مورد نیاز است. من این ماده واجد شرایط را به عنوان دلیلی برای بررسی دقیق ریسک های پردازش خواندم.

فناوری نمی تواند همه سؤالات را حل کند. سازمان‌ها هنوز باید در نظر بگیرند که آیا اطلاعات باید جمع‌آوری شود و آیا مجوز مناسب برای استفاده از آن، از جمله زمانی که شناسایی نشده است یا خیر.

نیازهای محاسباتی، ادغام، مجوزهای دسترسی و مدیریت نتایج نیز به ارزیابی تعلق دارند.

رهبران می توانند این حمایت ها را در بودجه های از قبل تعیین شده تأمین کنند. به تعویق انداختن آنها ممکن است خطرات قابل اجتناب را به مشتریان منتقل کند.

رد کردن هر برنامه داده های حساس بدون ارزیابی پادمان ها ممکن است به معنای از دست دادن فرصت ها برای بهبود تشخیص تقلب یا سایر خدمات ارزشمند باشد.

قبل از تایید چنین پروژه ای، مدیران اجرایی باید نیاز به بررسی مستند داشته باشند که مشخص کند چه چیزی خوانا می شود، چه کسی می تواند به آن دسترسی داشته باشد، و کدام حفاظت متناسب با وظیفه است.

این بازبینی باید شامل آزمایش، اختیار استفاده از اطلاعات، یک مدیر اجرایی پاسخگو و توضیح ریسک های باقیمانده باشد.

هیچ رویکردی هر احتمال شکست را از بین نمی برد. اما می‌توان انتظار داشت که سازمان‌ها به جای پذیرش پیش‌فرض، مواجهه را توجیه کنند.

هوش مصنوعی مسئول باید حفاظت از اطلاعات را بخشی از استفاده از آن قرار دهد.

جکی پیترز یکی از بنیانگذاران و مدیر عامل Blind Insight است، یک شرکت فناوری که ابزارهای جستجو و تجزیه و تحلیل داده های رمزگذاری شده را برای سازمان هایی که اطلاعات حساس را مدیریت می کنند، توسعه می دهد. نظرات بیان شده متعلق به خود نویسنده است.