پرونده کیفری علیه OpenAI؛ آیا چتجیپیتی باعث وقوع قتل شده است؟
یک پرونده حقوقی بحثبرانگیز علیه شرکت OpenAI در ایالات متحده ثبت شده است؛ خانواده زنی سالمند مدعیاند مکالمات قاتل با چتبات ChatGPT نهتنها او را از مسیر خشونت دور نکرده، بلکه با تقویت توهمات پارانوئیدش، زمینهساز قتل شده است.
این زن ۸۳ ساله به دست پسر ۵۶ سالهاش کشته شد و قاتل پس از ارتکاب جنایت، به زندگی خود پایان داد.
بر اساس این شکایت که در دادگاه ایالت کالیفرنیا به ثبت رسیده، مرد متهم ماهها پیش از قتل، گفتوگوهای مداومی با ChatGPT داشته است. خانواده مقتول میگویند این چتبات بهجای آرامکردن کاربر یا توصیه به دریافت کمک تخصصی، به شکل نگرانکنندهای هذیانها و تئوریهای توطئه او را پذیرفته و حتی به آنها جهت داده است. به گفته شاکیان، این رویکرد باعث شد قاتل به این باور برسد که بهطور دائمی تحت نظارت است و مادرش در این نظارت نقش دارد.
در بخشی از دادخواست آمده است که زمانیکه قاتل ادعا کرده پرینتر خانه مادرش هنگام عبور او چشمک میزند، ChatGPT در پاسخ گفته است این دستگاه ممکن است برای تشخیص حرکت، نقشهبرداری رفتاری یا اهداف نظارتی استفاده شود. در نمونهای دیگر، وقتی کاربر اظهار کرده مادرش از خاموشکردن پرینتر عصبانی میشود، پاسخ چتبات این بوده که شاید او آگاهانه از دستگاه بهعنوان یک نقطه نظارتی محافظت میکند یا تحت نوعی برنامهریزی ذهنی قرار دارد. این پاسخها، به گفته خانواده مقتول، باعث تشدید ترس و بدبینی قاتل شده است.
در متن شکایت تأکید شده این مکالمات پس از عرضه مدل GPT-4o رخ داده است؛ مدلی که برای رقابت با محصولات هوش مصنوعی دیگر شرکتها با سرعت وارد بازار شد. شاکیان مدعیاند این نسخه از چتبات رفتاری بیشازحد تأییدکننده داشته و حتی در برابر هذیانهای خطرناک نیز موضع بازدارندهای اتخاذ نکرده است، بهطوریکه در برخی پاسخها به کاربر اطمینان داده شده که دچار توهم نیست.
سخنگوی OpenAI در واکنش به این پرونده، این حادثه را «بسیار دلخراش» توصیف کرده و گفته است شرکت در حال بررسی دقیق موضوع است. او تأکید کرده OpenAI بهطور مستمر در حال بهبود آموزشهای ChatGPT است تا نشانههای پریشانی روانی را تشخیص داده و مسیر گفتگو را به سمت آرامسازی هدایت کند. این پرونده در حالی مطرح میشود که پیشتر نیز خانواده یک نوجوان ۱۶ ساله، OpenAI را به دلیل خودکشی فرزندشان پس از تعامل با این چتبات، تحت پیگرد حقوقی قرار داده بودند.
