کارمندانی که از ChatGPT شخصی در محل کار استفاده می کنند؟ در اینجا کاری است که مدیران فناوری اطلاعات باید انجام دهند

مقاله توسط Vakaris Noreika، معاون تحقیق و توسعه محصول در NordLayer نوشته شده است

دوشنبه صبح، امنیت یک سازمان را مدیریت می‌کنید، و ناگهان ابزارهای امنیتی شما استفاده شخصی از ChatGPT را در یک لپ‌تاپ مدیریت‌شده پرچم‌گذاری می‌کنند، حتی اگر سازمان شما برای ChatGPT Enterprise پرداخت کند.

تعجب می کنید که کارمند چه چیزی را به ChatGPT ارسال کرده است. می تواند شرح شغل عمومی یا بلیط مشتری با اطلاعات تماس و جزئیات حساب داخلی باشد. شاید اسناد حساس دولتی، اگر خط کار شما همین باشد، همانطور که سرپرست CISA در سال 2025 انجام داد؟

قضیه فرضی است. در این مقاله 2 نسخه از یک رویداد را دنبال می کنیم.

در مرحله اول، ابزارهای امنیتی شما استفاده از حساب شخصی را شناسایی می کنند، اما هیچ چیز در پیکربندی فعلی شما آنچه را که در اعلان می رود بررسی نمی کند. در مرحله دوم، NordLayer AI Scout در مرورگر مدیریت شده با یک آشکارساز سفارشی که برای قالب شماره حساب مشتری شما روی "Block" تنظیم شده است، مستقر می شود.

شما با اصول اولیه شروع می کنید. فقط با کنترل‌های موجود، رویدادی را که از ChatGPT شخصی پرچم‌گذاری شده است، باز می‌کنید و مشخص می‌کنید که کدام هویت متعلق به چه چیزی است. کاربری که به ابزارهای امنیتی شما وارد شده است ممکن است یک آدرس ایمیل شرکتی داشته باشد. اما لاگین ChatGPT پشت رویداد ممکن است یک حساب شخصی جیمیل باشد.

این به شما 1 نفر، 2 هویت و 1 گفتگوی ناخوشایند را پیش رو می دهد.

با NordLayer AI Scout، حساب ChatGPT وارد شده در کنار مکالمه ظاهر می شود و این ابزار مکالمات ChatGPT جدید را به عنوان شخصی یا شرکتی طبقه بندی می کند.

فعالیت از طریق ایمیل کاری که ابزار MDM شما به دستگاه ارسال می کند، به شخص مرتبط می شود. همگام سازی دایرکتوری با Entra ID، Okta یا HiBob اطلاعات بخش، تیم و نقش را اضافه می کند.

در سناریوی اول، رویداد حفظ شده می گوید که کارمند از یک حساب شخصی استفاده کرده است. هیچ متن فوری و هیچ یافته داده حساسی ندارد، بنابراین نمی‌توانید ارسال را از روی آن بازسازی کنید.

بر اساس روش بررسی حادثه، از کارمند می خواهید که مکالمه را به شما نشان دهد. بهتر است درخواست را محدود نگه دارید و آن را به مبادله کاری در حول و حوش آن مهر زمان محدود کنید، مگر اینکه بخواهید از برنامه غذایی همکارتان یا سؤالات پزشکی بازدید کنید.

بیایید بگوییم، بلیط مشتری دقیقا همانجا در اعلان است، و پاسخ ChatGPT آن را به تفصیل مورد بحث قرار می دهد. شما اکنون شواهدی دارید که نشان می دهد اطلاعات مشتری به سرویس رسیده است.

با NordLayer AI Scout، یافته های مسدود شده را باز می کنید. برنامه افزودنی مرورگر، درخواست روی دستگاه را قبل از خروج بررسی کرده بود. یک آشکارساز پیکربندی شده با داده‌های مشتری مطابقت داشت و عمل «Block» ارسال را متوقف کرد.

سپس کارمند یک اخطار روی صفحه دید که پیام مسدود شده است. هیچ کس در تیم امنیتی نیازی به خواندن دستور برای این اتفاق نداشت.

تصویر واضح تری از نحوه استفاده کارمندان از ابزارهای هوش مصنوعی و عوامل کدنویسی در سراسر سازمان خود دریافت کنید، از جمله برنامه هایی که ممکن است خارج از لیست ابزار مورد تایید شما کار کنند.

NordLayer AI Scout را به مدت 30 روز امتحان کنید و این قابلیت مشاهده را فعال کنید.

به احتمال 99% این توضیح پیش پا افتاده است: جلسه شرکت منقضی شده بود، 2FA خیلی طولانی شد، مشتری ناراحت شد و برگه شخصی ChatGPT از قبل باز و وارد سیستم شده بود.

کارمند می‌گوید به همین دلیل است که آنها یک تبادل پشتیبانی مشتری را در چت جای‌گذاری کرده‌اند، «پیش‌نویس پاسخی که توضیح می‌دهد این مشتری نمی‌تواند به حسابش دسترسی داشته باشد» را تایپ کرده و «ارسال» را فشار داده‌اند.

بدون یک قانون مسدود کردن درخواست منطبق، درخواست به ChatGPT رسید. خوب بعد، باید بفهمید که آیا این اولین بار بود یا خیر.

بدون NordLayer AI Scout، شما به حافظه کارمند وابسته هستید. باید بپرسید که آیا قبلا بلیت‌های کامل را جای‌گذاری کرده‌اند، پیوست‌ها را آپلود کرده‌اند یا پیوندهای مکالمه مشترک ایجاد کرده‌اند، و به طور کلی آیا ChatGPT شخصی هر بار که جلسه شرکت منقضی می‌شود، برنامه B آنها می‌شود یا خیر.

همچنین ایده خوبی است که بپرسید آنها در مورد این سیاست چه فهمیدند. گاهی اوقات افراد به یاد می آورند که ChatGPT تایید شده است، اما فراموش می کنند که برای کدام فضای کاری و داده هایی کاربرد دارد.

بدون کنترل‌های اختصاصی سطح سریع، داده‌های مشتری به یک مکالمه کامل در یک حساب شخصی ChatGPT رسید. شما باید شواهد مورد نیاز خود را حفظ کنید و حادثه، حریم خصوصی یا مالک داده را به همراه داشته باشید.

سپس، بر اساس آنچه به اشتراک گذاشته شده است، قضاوت کنید که چقدر جدی است. اگر اعتبارنامه ها فاش شده باشند، نیاز به ابطال یا چرخش دارند. اگر سوابق مشتری باشد، ممکن است این فرآیند به ارزیابی حریم خصوصی نیاز داشته باشد. اگر متن عمومی چسبانده شده باشد، به هیچ وجه هیچ حادثه داده ای وجود ندارد، اما منطقی است که با کارمند درباره صندلی قدرتمندتر Enterprise صحبت کنیم که هزینه آن پرداخت می شود.

در هر صورت، باید نوشتن را دقیق نگه دارید، زیرا استفاده از حساب شخصی ثابت نمی کند که درخواست وارد آموزش مدل شده، عمومی شده است یا به کاربر دیگری رسیده است.

تأیید کردید که داده‌های شرکت از طریق حسابی خارج از ترتیبات تأیید شده وارد یک سرویس شده است - که بدون تزئین به اندازه کافی جدی است.

اگر از NordLayer AI Scout استفاده می کنید، فقط ثبت می کنید که قانون پیکربندی شده این ارسال را مسدود کرده است. این رویداد تلاش برای نقض خط‌مشی و کنترلی را نشان می‌دهد که آن را متوقف کرده است. اگر کارمند استفاده قبلی از حساب شخصی خود را ذکر کرد، شما آن را جداگانه ارزیابی می کنید.

شما در مورد 2FA کمک می کنید و از کارمند می خواهید وارد فضای کاری Enterprise شود و کار پشتیبانی را در آنجا تمام کند تا بتوانید عملکرد آن را ببینید. با این حال، اشتراک Enterprise به این معنی نیست که کارمندان می توانند هر چیزی را ارسال کنند، بنابراین شما همچنین تأیید می کنید که کار و داده مجاز هستند.

در سناریوی اول، محدودیت‌های مربوط به نمونه‌های شخصی و قوانین DLP اعمال شده را بررسی می‌کنید.

با NordLayer AI Scout، خط مشی اعلان را در برنامه افزودنی مرورگر تأیید می کنید.

«هشدار»، «تجدید» و «مسدود کردن» کارهای مختلفی انجام می‌دهند.

"هشدار" ارسال را متوقف می کند و به کارمند اجازه می دهد انتخاب کند که آیا به هر حال ارسال کند یا برگردد و متن را ویرایش کند. "Redact" مقدار مطابق را حذف می کند و بقیه را ارسال می کند. "Block" دستور را متوقف می کند. شما اقدامی را انتخاب می کنید که متناسب با هر دسته داده باشد.

سپس، حساب، دستگاه، محتویات تأیید شده، ارسال درخواست و مالک پاسخ را مستند می‌کنید. در نهایت، رفع دسترسی را ضبط می‌کنید و یک بررسی برای تکرار رویدادها برنامه‌ریزی می‌کنید.

در مجموع، در یک نسخه، داده های مشتری به ChatGPT شخصی رسید و نیاز به ارزیابی قرار گرفتن داشت. در دیگری، آشکارساز پیکربندی شده، درخواست را قبل از خروج از دستگاه مسدود کرد.

در هر دو نسخه، کارمند نیاز به دسترسی شرکتی دارد که صبح دوشنبه کار می کند. بدون آن، بلیط بسته می شود و تا فردا راه حل آماده خواهد شد.

Vakaris Noreika، معاون تحقیق و توسعه محصول، یک متخصص امنیت سایبری است که بر توسعه محصولات امنیتی تجاری در NordLayer، یک پلتفرم امنیتی شبکه آماده تعویض برای مشاغل، نظارت دارد. او سالها تجربه کار در زمینه اطلاعات تهدید، امنیت شبکه، حریم خصوصی داده ها و نظارت خودکار را دارد. او بر روی کنترل‌هایی تمرکز می‌کند که نوردهی را بدون ایجاد سربار عملیاتی غیرضروری کاهش می‌دهند.