هرگز از ChatGPT برای این پنج کار استفاده نکنید

این وکیل نیست، پزشک نیست و قطعا درمانگر شما نیست.

فهرست افرادی که با تایپ اطلاعات اشتباه در ChatGPT خود را وارد کرده اند همچنان در حال رشد است. مهندسان سامسونگ، مدیر موقت آژانس دفاع سایبری آمریکا، اصحاب دعوا که به طور مستقل به پرونده‌های قضایی اشاره می‌کنند، مردی که نمک خوراکی را با سدیم بروماید عوض کرد و از او پرسید که چگونه نمک را از رژیم غذایی‌اش حذف کند... فهرست خیلی طولانی است.

به پزشک، وکیل یا درمانگر چیزی بگویید و قانون از آن مکالمه محافظت می کند، اما گفتن ChatGPT یک مسیر حسابرسی ایجاد می کند. با توجه به اینکه چت‌های ChatGPT احضار شده، توسط یک دکمه اشتراک‌گذاری، نمایه‌سازی شده توسط Google و حفظ شده توسط حکم دادگاه پس از حذف - همه در 18 ماه گذشته، در اینجا یک خطر غیر صفر وجود دارد.

مطمئنا، ربات چت می‌تواند ابزار مفیدی برای تحقیق (بررسی کنید که نقل‌قول‌های موردی واقعی هستند)، کدنویسی (حتی ارسال اشکالات)، توضیح مفاهیم (هیچ ارتباطی بین اطمینان و دقت وجود ندارد) و تهیه پیش‌نویس (پیش از ضربه زدن به ارسال، درخواست را از ایمیل خود حذف کنید). اما مناطق زیر جایی است که بیش از 900 میلیون کاربر در هفته می توانند برای خود مشکل ایجاد کنند.

بنابراین برای این منظور، از ChatGPT (یا هر چت ربات هوش مصنوعی دیگری) استفاده نکنید...

دیمین شارلوتین، محقق حقوق و علم داده، یک پایگاه داده عمومی دارد که تا به امروز، بیش از 2000 تصمیم دادگاه در سراسر جهان توسط ChatGPT ثبت شده است. اینها مواردی هستند که یک قاضی استنادها، نقل قول ها یا استدلال های ساخته شده توسط هوش مصنوعی را در یک پرونده کشف کرده است.

اینجا فقط وکالت از خود طرفین دعوا نیست. در حالی که آنها با 1175 رکورد در زمان نگارش این مقاله در صدر فهرست قرار دارند، وکلا با 815 رکورد در رتبه دوم قرار دارند. به نظر می‌رسد که قضات از این جنجال‌ها خسته شده‌اند، زیرا دادگاه‌ها اخیرا جریمه‌های زیادی را تا محدوده هزاران دلار در تعداد فزاینده‌ای از موضوعات اعمال کرده‌اند. اگرچه ایالات متحده بیشترین تعداد پرونده ها را در این داده ها تشکیل می دهد، قضات در بریتانیا، آفریقای جنوبی، اسرائیل، استرالیا و اسپانیا همگی رفتار مشابهی داشته اند. جایی که ابزاری در آن موارد شناسایی شد، ChatGPT بیش از هر ابزار دیگری نامگذاری شد.

OpenAI اکتبر گذشته با به روز رسانی سیاست های استفاده ChatGPT به این موضوع پرداخت. آن خط‌مشی‌ها اکنون استفاده از خدمات آن را برای «مشاوره‌های متناسبی که نیاز به مجوز دارند» ممنوع می‌کنند، مگر اینکه یک متخصص دارای مجوز در آن شرکت داشته باشد. فراتر از نقل‌قول‌های نادرست، چت‌های ChatGPT هیچ امتیاز قانونی ندارند، بنابراین هر چیزی که در مورد اختلاف زنده در آن تایپ شود، برای وکلای طرف مقابل در کشف بازی منصفانه است. ادامه دهید و سؤالات کلی بپرسید مانند اینکه جرم چیست (اگر برای به خواب رفتن به کمک نیاز دارید عالی است)، اما سؤالات دقیق در مورد اختلاف خود را برای یک وکیل واقعی ذخیره کنید.

OpenAI در سال گذشته تخمین زد که 0.15 درصد از کاربران فعال هفتگی ChatGPT مکالماتی دارند که شامل شاخص های صریح برنامه ریزی بالقوه خودکشی است. این متأسفانه برای بیش از یک میلیون نفر در هفته جواب می دهد و صدها هزار کاربر دیگر علائم روان پریشی یا شیدایی را نشان می دهند. آلتمن گفته است که جوانان به ویژه با ChatGPT به عنوان یک درمانگر یا مربی زندگی رفتار می کنند و باز هم، هیچ چیز از این چت ها محافظت نمی کند.

والدین آدام رین 16 ساله در آگوست 2025 از OpenAI به دلیل مرگ نادرست شکایت کردند و ادعا کردند که ChatGPT افکار خودکشی پسرشان را قبل از مرگ تقویت کرده است. از آن زمان، OpenAI پاسخ های بحران خود را با نظرات بیش از 170 پزشک بازنگری کرده است. این شرکت همچنین کنترل‌های والدین را به ChatGPT اضافه کرده است، اگرچه کارشناسان ایمنی کودکان نسبت به ChatGPT برای نوجوانان تردید دارند، نسخه‌ای که در کنار این تغییرات راه اندازی شده است.

محققان دریافته‌اند که چت‌بات‌ها تمایل دارند باورهای موجود کاربر را از طریق پاسخ‌های غم‌انگیز تقویت کنند و در برخی موارد به جای به چالش کشیدن آن، تفکر هذیانی را تغذیه می‌کنند. به عنوان مثال، یک مشاجره با همسرتان را توصیف کنید، و این مدل به تنهایی بر اساس زمینه حساب کاربری شما کار خواهد کرد، و احتمالا بدون توجه به این موضوع، یک حکم تأییدکننده برای شما ارائه خواهد شد. قانونگذاران شروع به بیدار شدن از این موضوع کرده اند، زیرا ایالت هایی از جمله ایلینوی، نوادا و مین قوانینی را تصویب کرده اند که هوش مصنوعی را از ارائه درمان یا تصمیم گیری درمانی منع می کند.

ناگفته نماند که آپلود اسناد کاری محرمانه در یک چت بات شخص ثالث همیشه ایده بدی است. متأسفانه، به نظر می رسد بسیاری از مردم این را نمی دانند.

از قضا، مادو گوتوموککالا، سرپرست سابق آژانس امنیت سایبری و امنیت زیرساخت، این کار را نکرد. او تابستان گذشته حداقل چهار سند قرارداد را با علامت "فقط برای استفاده رسمی" در نسخه عمومی ChatGPT آپلود کرد که هشدارهای امنیتی و بررسی وزارت امنیت داخلی را آغاز کرد. حتی از آن طعنه آمیزتر، این ابزار برای اکثر کارمندان دیگر DHS در آن زمان مسدود شده بود. Gottumukkala برای استفاده از آن یک استثنای خاص درخواست کرد.

سناتور چاک گراسلی در فوریه سال جاری پی‌گیری کرد و خواستار توضیح درباره آنچه افشا شد، شد، اما به‌طور پیش‌بینی‌شده، هیچ‌کس واقعا پاسخگو نبود. Gottumukkala در نهایت در جای دیگری در DHS جابجا شد.

سامسونگ در ماه می 2023 پس از اینکه مهندسان کد منبع داخلی را در ChatGPT قرار دادند، ابزارهای هوش مصنوعی نسل را در دستگاه‌های شرکت ممنوع کرد. همراه با آن ممنوعیت، یک یادداشت داخلی بود که نشان می‌داد داده‌های ارسال شده به چنین پلتفرم‌هایی در سرورهای خارجی زندگی می‌کنند که بازیابی یا حذف آن‌ها دشوار است و ممکن است در نهایت برای کاربران دیگر افشا شود. در حساب‌های مصرف‌کننده، از چت‌ها نیز می‌توان برای آموزش مدل‌های جدید استفاده کرد، مگر اینکه انصراف داده باشید. اما داده‌های انصراف داده شده همچنان ذخیره می‌شوند و قابل نقض هستند و مشمول مراحل قانونی هستند.

چسباندن داده‌های مشتری یا هر چیزی که تحت کنترل‌های کارفرما یا NDAها در یک بحث شخصی ChatGPT قرار می‌گیرد، تقریبا همیشه یک جرم قابل احتراق است. یادداشت سامسونگ دقیقا همین را تهدید می کرد.

همان به‌روزرسانی خط‌مشی اکتبر 2025 که کاربران را از استفاده از ChatGPT به‌عنوان وکیل منع می‌کند، همچنین افراد را از درخواست مشاوره پزشکی از طریق ربات چت محدود می‌کند. HIPAA پزشکان، بیمه‌گران و شرکای تجاری آنها را مقید می‌کند، اما OpenAI را نمی‌پذیرد. بنابراین، داده‌های بهداشتی که به طور قانونی در پورتال بیمار یا بین پزشک و بیمار محافظت می‌شوند، اگر در ChatGPT فاش شوند، چنین محافظتی ندارند.

محققان دانشگاه نورث ایسترن در ماه ژوئیه گزارش دادند که در حالی که OpenAI مدیریت ChatGPT در مورد خودکشی و آسیب رساندن به خود را سخت‌تر کرده است، اما این تدابیر حفاظتی عمدتا به سایر شرایط گسترش نمی‌یابد. کار آنها نشان داد که مکالمات مربوط به شرایطی مانند اختلالات خوردن، بی‌خوابی، سوء مصرف مواد و اختلال دوقطبی، اقدامات حفاظتی را ایجاد نمی‌کند، و اینکه قصد پنهان کردن، احتمال شکست محافظت‌های هر مدل آزمایش‌شده را افزایش می‌دهد.

در یک مورد عجیب که توصیه های پزشکی ChatGPT بد شده بود، یک مرد 60 ساله سال گذشته سه هفته را در بیمارستان گذراند و از چت بات پرسید که چگونه کلرید را از رژیم غذایی خود حذف کند. او در نهایت متقاعد شد که برومید سدیم، یک ماده سمی با نیمه عمر طولانی، جایگزینی امن برای نمک خوراکی است. او آن را آنلاین خرید، سه ماه مصرف کرد و در بخش اورژانس مجروح شد و متقاعد شد که همسایه‌اش او را مسموم کرده است.

در حالی که پزشکان در مورد این مرد هرگز گزارش‌های چت او را ندیدند، ChatGPT زمانی که همان سؤال را به خود ربات دادند، برومید را به عنوان جایگزین کلرید ارائه کرد.

Fast Company ژوئیه گذشته نزدیک به 4500 مکالمه ChatGPT به اشتراک گذاشته شده را در نتایج جستجوی گوگل پیدا کرد. این موارد شامل مبادلاتی بود که اعتیاد، سوء استفاده و مبارزات سلامت روان را با جزئیات کافی برای شناسایی بالقوه نویسندگان آنها توصیف می کرد. چت‌ها به این دلیل پایان یافتند که افراد در منوی اشتراک‌گذاری کادر انتخاب «این گپ را قابل کشف کن» علامت می‌زدند که ظاهرا بدون اینکه بفهمند چه کار می‌کند اتفاق افتاده است. OpenAI به سرعت پاسخ داد و این ویژگی را ظرف یک روز پس از گزارش از بین برد و مکالمات را از گوگل پاک کرد.

به‌عنوان بخشی از دعوای حقوق مؤلف نیویورک تایمز، OpenAI در ماه مه 2025 دستور داده شد تا همه گزارش‌های چت مصرف‌کننده، حذف‌شده و مکالمات موقت شامل آن را حفظ کند. این تعهد تا 26 سپتامبر 2025 ادامه داشت و سیاهههای مربوط به آن پنجره در دسترس شاکیان باقی ماند. بعدا یک قاضی این دستور را فسخ کرد، به این معنی که OpenAI دیگر مجبور نیست تمام داده‌های ChatGPT خود را حفظ کند. اما برای چهار ماه، این اتفاق افتاد و ممکن است دوباره اتفاق بیفتد.

مهم است بدانید که ChatGPT به طور پیش فرض آنچه را که به آن می گویید به خاطر می آورد. این به طور قابل توجهی خطرات مربوط به موارد حساس مانند رمز عبور و جزئیات حساب را افزایش می دهد، زیرا می توانند در طول جلسات باقی بمانند و اگر حتی یک بار ذکر شود در مکالمات بعدی دوباره ظاهر می شوند. گذرواژه‌ها، کدهای ورود یک‌بار مصرف، شماره‌های تامین اجتماعی و گذرنامه، مشخصات کامل کارت یا حساب بانکی و عکس‌های مدارک شناسایی هرگز نباید در دستور کار قرار گیرند. هر یک از این موارد شما را در معرض خطر سرقت هویت قرار می دهد اگر چت نقض شود یا به طور دیگری به آن دسترسی پیدا کنید.

آلتمن برای رفع این مشکلات محرمانگی خواستار "امتیاز هوش مصنوعی" (البته که دارد) شده است. اما تا زمانی که قانون‌گذاران یکی را ایجاد کنند، فرض مطمئن این است که هر چیزی که در ChatGPT تایپ می‌شود می‌تواند روزی توسط شخص دیگری برای شما خوانده شود. اگر با آن راحت نیستید، آن را در یک اعلان قرار ندهید.