کجا خط روی هوش مصنوعی ترسیم کنیم: درس هایی از پزشکی قانونی دیجیتال

هوش مصنوعی تقریبا بخشی از هر جریان کاری است. توسعه دهندگان از آن برای نوشتن و آزمایش کد استفاده می کنند، پشتیبانی مشتری برای رسیدگی به درخواست های معمول به آن روی می آورد، و تیم های امنیتی از آن برای تجزیه و تحلیل هشدارها و تحقیقات پشتیبانی استفاده می کنند. پزشکی قانونی دیجیتال و پاسخ حوادث (DFIR) نیز از این قاعده مستثنی نیست.

اما از آنجایی که کار پزشکی قانونی دیجیتال در چند دهه اخیر تکامل یافته است، یک درس ثابت است. ابزارها می توانند تحقیقات را پشتیبانی کنند، اما بازرسان مسئول کیفیت نتیجه گیری هایی هستند که به آنها می رسند. همانطور که هوش مصنوعی به طور فزاینده‌ای در جریان کار در صنایع ادغام می‌شود، چالش این است که بفهمیم ابزارهای هوش مصنوعی کجا می‌توانند کمک کنند و تخصص انسانی در کجا ضروری است – و مهمتر از آن اینکه سازمان‌ها باید در کجا خط بکشند.

جایی که هوش مصنوعی به ارزش می افزاید

برای تیم‌های پزشکی قانونی دیجیتال و واکنش حوادث، برخی از امیدوارکننده‌ترین برنامه‌های هوش مصنوعی نیز کاربردی‌ترین کاربردهای آن هستند.

با توجه به اینکه 90 درصد تحقیقات جنایی و تعقیب قضایی اکنون شامل یک عنصر دیجیتالی است، از تیم‌های DFIR خواسته می‌شود تا حجم عظیمی از داده‌ها را پردازش کنند. از فوریه سال جاری، بیش از 20000 دستگاه تنها در انگلستان و ولز در فهرست عقب مانده پزشکی قانونی دیجیتال باقی مانده است.

داده‌ها در نقاط پایانی، محیط‌های ابری، پلت‌فرم‌های ارتباطی و حساب‌های کاربری پخش می‌شوند و هوش مصنوعی می‌تواند به محققان در تریاژ کمک کند. می‌تواند آن اطلاعات را کارآمدتر پردازش کند و به شناسایی سرنخ‌های بالقوه کمک کند، ارتباط بین مجموعه‌های داده را مشخص کند، و سایر منابع شواهدی را که ممکن است نیاز به بررسی بیشتر داشته باشد برجسته کند.

برای مثال، می‌تواند به محققین کمک کند تا فعالیت‌های مربوطه را در چندین دستگاه، حساب‌ها و منابع داده مرتبط کنند، و از بازسازی جدول‌های زمانی رویدادها پشتیبانی می‌کند که در غیر این صورت چند روز طول می‌کشد تا به صورت دستی کنار هم قرار گیرند. همچنین می‌تواند به تمرین‌کنندگان در سازماندهی اطلاعات و ساختار گزارش‌ها کمک کند و به آن‌ها اجازه می‌دهد زمان کمتری را برای کارهای اداری و زمان بیشتری را برای تجزیه و تحلیل صرف کنند.

با استفاده مناسب، هوش مصنوعی می‌تواند زمان صرف شده برای کارهای دستی و تکراری را کاهش دهد و به پزشکان ماهر این امکان را می‌دهد که زمان بیشتری را صرف تحلیل و تصمیم‌گیری کنند که کارشان را به جلو می‌برد.

خطر برخورد با هوش مصنوعی به عنوان یک پاسخ

چالش این است که هوش مصنوعی اغلب آنقدر معتبر به نظر می رسد که مردم بیش از حد به خروجی های آن وابسته می شوند.

یکی از مهم ترین درس های پزشکی قانونی دیجیتال این است که هر ابزاری محدودیت هایی دارد. محققان با تجربه می دانند که ابزارهای پزشکی قانونی ممکن است اشتباه باشند. هوش مصنوعی تفاوتی ندارد. بزرگترین خطر هوش مصنوعی استفاده از آن بدون داشتن دانش اساسی مورد نیاز برای تشخیص اشتباه بودن آن است.

هوش مصنوعی مانند تحلیلگر جوان شما در بهترین روز است. می تواند الگوها را شناسایی کند، زمینه های مورد علاقه را برجسته کند و به پیشبرد کار کمک کند. اما هیچ سازمانی اجازه نمی دهد یک تحلیلگر جوان بدون نظارت و پاسخگویی در یک تحقیق حساس تصمیم نهایی را بگیرد. باید به هوش مصنوعی نیز به همان شیوه برخورد کرد.

مشکلات زمانی به وجود می‌آیند که سازمان‌ها خروجی‌های تولید شده با هوش مصنوعی را به‌عنوان پاسخ به‌جای چیزی که نیاز به تأیید اعتبار توسط فردی با تخصص برای به چالش کشیدن آنها دارد، در نظر می‌گیرند. هوش مصنوعی می تواند به شما در رسیدن به یک نتیجه کمک کند، اما این نباید به خودی خود نتیجه باشد.

دانستن اینکه کجا باید خط بکشد

حوزه‌های زیادی وجود دارد که هوش مصنوعی می‌تواند کار را تسریع و بهبود بخشد، اما مناطقی وجود دارد که هرگز نباید از هوش مصنوعی استفاده کرد. سازمان ها باید توجه کنند که این مرزها در کجا قرار دارند.

در پزشکی قانونی دیجیتال، هوش مصنوعی می تواند به شناسایی اطلاعاتی که نیاز به بررسی بیشتر دارند کمک کند. می تواند از تجزیه و تحلیل پشتیبانی کند و به محققان کمک کند کارآمدتر کار کنند. اما برای رسیدن به نتایج تحقیقاتی یا تعیین بی گناهی یا گناه نباید کورکورانه به آن اعتماد کرد.

این تصمیمات دارای پیامدهای قانونی، حرفه ای و تغییر دهنده زندگی است و قضاوت و مسئولیت پذیری انسان را غیرقابل مذاکره می کند.

همین اصل فراتر از پزشکی قانونی دیجیتال است. سازمان‌ها در هر بخش اکنون تصمیم می‌گیرند که چه میزان مسئولیت باید به هوش مصنوعی واگذار شود. پاسخ بسته به مورد استفاده متفاوت خواهد بود، اما سوال اساسی یکسان است - چه تدابیری برای جلوگیری از وابستگی بیش از حد افراد به خروجی‌های هوش مصنوعی وجود دارد، و چگونه متوجه می‌شوند که این خروجی‌ها اشتباه هستند؟

ایجاد چارچوب هایی برای پذیرش مسئولانه

این دقیقا همان سؤالاتی است که در حال حاضر توسط چارچوب های عملی جدید برای استفاده از هوش مصنوعی در پزشکی قانونی دیجیتال و پاسخ به حوادث مورد بررسی قرار می گیرد. آن‌ها سازمان‌ها را تشویق می‌کنند تا در نظر بگیرند که یک کار چقدر ریسک دارد، چگونه خروجی‌ها بررسی می‌شوند، و نظارت انسانی در کجا باید اجباری باقی بماند.

استفاده از هوش مصنوعی در DFIR نیاز به حکمرانی سختگیرانه دارد زیرا خطرات بسیار زیاد است. اشتباهات زمانی جدی گرفته می شوند که زندگی شخصی در خطر است، یا ممکن است یک محکومیت نادرست اتفاق بیفتد. با این حال، برای سازمان‌ها برای حفاظت از یکپارچگی تصمیم‌گیری‌ها و حصول اطمینان از ماندن انسان‌ها در صندلی رانندگی، نباید عواقبی به این شدت داشته باشد.

سازمان‌ها به جای رقابت برای گنجاندن هوش مصنوعی در هر فرآیند، ابتدا باید چارچوب‌های حاکمیتی را ایجاد کنند – از جمله آنچه که هوش مصنوعی هرگز نباید متولی آن باشد – سپس با موارد استفاده کم‌خطر که خروجی‌ها به راحتی قابل بازبینی یا معکوس هستند، شروع کنند. از آنجا، آن‌ها می‌توانند قابلیت‌ها را گسترش دهند و بررسی کنند که چگونه هوش مصنوعی می‌تواند به تیم‌هایشان کمک کند تا وظایف خود را بهتر انجام دهند و به‌جای داور نهایی، به‌عنوان یک ضرب‌کننده نیرو عمل کنند.

ما بهترین سازنده وب سایت هوش مصنوعی را معرفی کرده ایم.

این مقاله به عنوان بخشی از TechRadar Pro Perspectives، کانال ما برای معرفی بهترین و باهوش ترین ذهن ها در صنعت فناوری امروز تهیه شده است.

نظرات بیان شده در اینجا نظرات نویسنده است و لزوما نظرات TechRadarPro یا Future plc نیست. اگر مایل به مشارکت هستید، اطلاعات بیشتری را در اینجا بیابید: https://www.techradar.com/pro/perspectives-how-to-submit