هوش مصنوعی می‌تواند با پیدا کردن حفره‌های پنهان قبلی، سیستم‌های قانونی را بشکند

اگر هوش مصنوعی بتواند حفره های کد برنامه نویسی را پیدا کند، می تواند همین کار را با کدهای قانونی انجام دهد و راه را برای هرج و مرج هموار کند.

فلیکس رینگ، یکی از همکاران مهمان در لیفت‌لب و محقق حقوقی دانشکده حقوق استنفورد، پیشنهاد می‌کند که مدل‌های بزرگ زبان (LLM) به اندازه‌ای قدرتمند شده‌اند که می‌توانند با شناسایی ناسازگاری‌های قابل بهره‌برداری در مقیاس، سیستم‌های حقوقی را بشکنند.

رینگ و همکارش، لینوس فولکرتز، هفته گذشته در یک پست وبلاگی استدلال کردند: «سیستم‌های حقوقی پایه‌های نظم اجتماعی را به زبان طبیعی رمزگذاری می‌کنند». مانند سیستم های کامپیوتری، قانون مکتوب می تواند حاوی آسیب پذیری هایی باشد که منجر به بهره برداری می شود.

رینگ معتقد است در حالی که دادگاه‌ها تمایل دارند این آسیب‌پذیری‌های متن را از طریق تفسیر قانونی برطرف کنند، توانایی کشف ناسازگاری‌های مفید در قانون به روشی خودکار، توانایی سیستم حقوقی برای پر کردن شکاف‌ها را تحت تأثیر قرار می‌دهد.

او برای حمایت از پایان نامه خود، به کار اخیر سایر محققان حقوقی اشاره می کند که قوانین را به عنوان کد آسیب پذیر چارچوب بندی می کند، مانند "روزهای صفر قانونی: یک بردار خطر جدید برای سیستم های هوش مصنوعی پیشرفته" و "اشکالات سخت افزاری و نرم افزاری در سیستم حقوقی" [PDF].

قدمت این قیاس حداقل به سال 1999 برمی‌گردد، با کد لورنس لسیگ و قوانین دیگر فضای مجازی [PDF] و قانون قانون است: در مورد آزادی در فضای مجازی. لسیگ به ویلیام جی میچل در شهر بیت ها: فضا، مکان و شهر اطلاعات (1995) با این ایده که کد قانون فضای مجازی است، اعتبار می دهد و اضافه می کند که او "استعاره را از دیگران نیز گرفته است."

رینگ با پیشنهاد این که قانون کد است، این موضوع را تغییر داده است.

قیاس بین کد برنامه نویسی و کد قانونی تا حدی به خوبی کار می کند. قانون و قانون هر دو سهم خود را در قالب بندی و تشریفات مذهبی دارند. وقتی دادگاه ها به عنوان یک محیط زمان اجرا انتخاب می شوند، نقشه برداری از بین می رود - نتایج آزمایش غیر قطعی برای برنامه های تولید کار نمی کند.

جدای از ناپیوستگی‌ها، هدف رینج این است که مدل‌های هوش مصنوعی می‌توانند شکاف‌های قانونی را در مقیاسی آشکار کنند که ممکن است هرج و مرج را که در حال حاضر در اکوسیستم امنیتی نرم‌افزار مشاهده می‌شود به دنیای حقوقی بیاورد.

برای نشان دادن آن، رینگ و فولکرتز چندین شکاف بالقوه در قوانین آلمان را ذکر می کنند که با کمک LLM ها کشف کردند، و خاطرنشان کردند که آنها فقط سوء استفاده های قانونی را به اشتراک می گذارند که معتقدند نمی تواند آسیب جدی ایجاد کند.

به عنوان مثال، اصلاح مقررات بیماری های شغلی آلمان (BKV) مشمول الزام قانون اساسی برای استناد به مرجع قانونی آن است. اما رینگ و فولکرتز استدلال می کنند که این اصلاحیه یک مرجع لازم را حذف می کند. بنابراین، در تئوری، یک روزنامه‌نگار می‌تواند درخواست یک بیانیه منتشر نشده ارائه‌شده به شورای مشورتی بیماری‌های شغلی آلمان را تحت قوانین آزادی اطلاعات ارائه کند و یک ماده محرمانه را به چالش بکشد که محققان استدلال می‌کنند ممکن است نامعتبر باشد.

مثال دیگری که ذکر شد، یک قانون ویزای ترانزیت را توصیف می کند که ممکن است نامعتبر باشد، زیرا دولت نتوانسته مرجعی را که تحت آن قانون وضع شده است، شناسایی کند.

آنها نوشتند: "ما معتقدیم که با افزایش استدلال قانونی ارزان، سیستم های هوش مصنوعی می توانند عملکرد سیستم های حقوقی امروزی را به خطر بیندازند." "در چنین دنیایی، قانونگذاران باید به طور قابل توجهی روند قانون گذاری را سخت تر کنند، به عنوان مثال با استفاده از هوش مصنوعی پیشرفته."

وندی موسل، وکیل و شریک حقوق کار مستقر در سانفرانسیسکو، به The Register گفت که استفاده از هوش مصنوعی در زمینه حقوقی به سرعت در حال گسترش است.

Musell گفت: "برخی از دادگاه های کالیفرنیا، از جمله دادگاه عالی لس آنجلس، در حال آزمایش استفاده از هوش مصنوعی به عنوان منشی قانون هستند." "به طور کلی کارمندان حقوقی با تحقیق و تهیه پیش نویس نظرات برای بازبینی قاضی به دادگاه کمک می کنند. این بدان معناست که هوش مصنوعی این نقش را در دادگاه های خاص ایفا می کند. اصحاب دعوی اکنون باید در نظر بگیرند که هوش مصنوعی چگونه درخواست ها و پرونده ها را تجزیه و تحلیل می کند."

"این مورد حتی زمانی است که من شخصا منابع مختلف هوش مصنوعی را پیدا کرده ام که به نظر می رسد کج یا سوگیری دارند و اغلب در تجزیه و تحلیل دقیق مسائل حقوقی ناکام هستند. زمان زیادی بود که هوش مصنوعی برای فرآیند قانونگذاری بیاید."

اریک گلدمن، معاون پژوهش و استاد حقوق در دانشکده حقوق دانشگاه سانتا کلارا، به The Register گفت که استدلال رینگ دارای شایستگی است.

گلدمن گفت: "من فکر می کنم روش استفاده از هوش مصنوعی برای شناسایی شکاف های قانونی بالقوه منطقی است." با این حال، برای تعیین اینکه آیا شکاف های شناسایی شده توسط هوش مصنوعی واقعا شکاف هستند یا خیر، نیاز به بررسی دقیق انسانی دارد.

گلدمن گفت این ایده که قانونگذاران باید از هوش مصنوعی در طول فرآیند تهیه پیش نویس استفاده کنند، حداقل در کوتاه مدت جاه طلبانه است.

او توضیح داد: «قانون‌گذاران اغلب قوانینی را با طیف وسیعی از اهداف و اولویت‌ها پیش‌نویس می‌کنند و اجتناب از خلأهای قانونی به ندرت اولویت بالایی دارد. "اما بسیاری از مجالس قانونگذاری دارای مشاور قانونگذاری هستند که مسئول تبدیل لایحه های پیش نویس به متن نهایی قانونی هستند، و من می توانم ببینم که مشاور قانونگذار می تواند از استفاده از هوش مصنوعی برای شناسایی شکاف های پیش نویس به عنوان بخشی از پروتکل های پاکسازی استاندارد آنها سود ببرد." ®