در این موقعیت‌های حساس از چت‌جی‌پی‌تی استفاده نکنید!
گزارشی از وب‌سایت «سی‌نت» هشدار داده است که کاربران ابزارهای هوش مصنوعی به‌ویژه چت‌جی‌پی‌تی، نباید در برخی موقعیت‌ها به این ابزار تکیه کنند.
این گزارش به قلم نلسون آگویلار تأکید دارد که اگرچه چت‌جی‌پی‌تی می‌تواند در یادگیری زبان، پخت غذا یا برنامه‌ریزی سفر مفید باشد، اما در برخی شرایط خاص نه‌تنها کارآمد نیست، بلکه می‌تواند خطرناک هم باشد.
بر اساس این گزارش، چت‌جی‌پی‌تی گاهی اطلاعات نادرست ارائه می‌دهد و با اطمینان کامل، داده‌های غلط را به‌عنوان حقیقت نمایش می‌دهد. از سوی دیگر، به‌روزرسانی اطلاعات آن همواره به‌روز نیست و این موضوع به‌ویژه در حوزه‌هایی با ریسک بالا اهمیت مضاعف دارد.
یکی از حوزه‌هایی که نباید از چت‌جی‌پی‌تی در آن استفاده کرد، تشخیص مشکلات سلامت جسمی است. کاربران تجربه کرده‌اند که پاسخ‌های آن ممکن است موجب ترس‌های بی‌مورد شود. همچنین در زمینه سلامت روان نیز این ابزار فاقد توانایی‌های انسانی مانند درک زبان بدن یا همدلی واقعی است.
در شرایط اضطراری مانند احتمال آتش‌سوزی یا نشت گاز، اتکا به چت‌جی‌پی‌تی می‌تواند وقت حیاتی را تلف کند. در چنین شرایطی تماس با خدمات اضطراری اولویت دارد. همچنین این ابزار برای مشاوره مالی یا تنظیم اظهارنامه مالیاتی نیز مناسب نیست، زیرا به اطلاعات شخصی، قوانین محلی یا اهداف مالی فرد دسترسی ندارد.
کاربران همچنین نباید اطلاعات حساس مانند قراردادها، مدارک شناسایی یا داده‌های مالی را وارد این ابزار کنند، چون احتمال نشت یا استفاده از داده‌ها برای آموزش مدل وجود دارد. استفاده از چت‌جی‌پی‌تی برای امور غیرقانونی یا تقلب در وظایف درسی نیز می‌تواند منجر به پیامدهای جدی مانند اخراج از مدرسه شود.
در حوزه اخبار فوری، چت‌جی‌پی‌تی به‌طور خودکار به‌روزرسانی نمی‌شود و برای دسترسی به اطلاعات لحظه‌ای بهتر است از منابع رسمی خبری استفاده شود. برای شرط‌بندی و پیش‌بینی مسابقات نیز این ابزار قابل اعتماد نیست. همچنین نوشتن وصیت‌نامه یا اسناد حقوقی باید تحت نظر وکیل باشد و هوش مصنوعی نمی‌تواند جایگزین مناسبی باشد.
در پایان، نگارنده هشدار می‌دهد که استفاده از چت‌جی‌پی‌تی برای خلق آثار هنری و انتساب آن به خود، اقدامی نادرست و غیراخلاقی است.
