چت جی‌پی‌تی مردی را به قتل دو فرزندش متهم کرد؛ ماجرا چیست؟
یک مرد نروژی پس از جستجوی نامش در chatgpt با اطلاعات نادرستی مواجه شد که طبق آن، او متهم شده بود به «قتل دو فرزند خود و تلاش برای کشتن فرزند سوم» که این ماجرا به شکایت از شرکت سازنده chatgpt یعنی OpenAI منتهی شده است.
«آروِه یالمار هولمن» تصمیم گرفت تا بررسی کند که جستجوی نامش در ChatGPT به چه اطلاعاتی برای ارائه به دیگران ارائه ختم می‌شود. اما با انجام این کار متوجه شد که چت‌بات هوش مصنوعی متعلق به OpenAI او را به‌عنوان «یک مجرم محکوم‌شده به ۲۱ سال زندان که دو فرزند خود را به قتل رسانده و برای قتل سومین پسرش تلاش کرده» معرفی می‌کند.
این مرد نروژی پس از مشاهده این اطلاعات توسط Noyb، گروه مدافعان حقوق دیجیتال اتحادیه اروپا از شرکت OpenAI طرح شکایت کرد.
به گفته Noyb، هوش مصنوعی ChatGPT نه تنها رویدادهایی که هرگز اتفاق نیفتاده‌اند را جعل کرده، بلکه اطلاعات شخصی قابل شناسایی مانند تعداد و جنسیت فرزندان هولمن و نام زادگاهش را با اطلاعات جعلی ترکیب کرده است.
اگرچه شرکت سازنده ChatGPT اظهار نظری درباره این موضوع نکرده، اما به نظر می‌رسد که در بروزرسانی اخیر این مشکل برطرف شده است، زیرا ChatGPT اکنون هنگام پرسش درباره افراد، اینترنت را نیز جستجو می‌کند.
اما از آنجا که OpenAI قبلاً اعلام کرده بود که نمی‌تواند اطلاعات را اصلاح کند و فقط می‌تواند آن‌ها را مسدود کند، داستان جعلی قتل فرزندان احتمالاً هنوز در داده‌های داخلی ChatGPT وجود دارد. Noyb ادعا می‌کند که تا زمانی که هولمن نتواند آن را اصلاح کند، این موضوع نقض GDPR محسوب می‌شود.
اتفاقاتی از این دست پیش‌تر نیز رخ داده بود. چند ماه پس از راه‌اندازی ChatGPT در اواخر سال ۲۰۲۲، یک شهردار استرالیایی پس از اینکه این چت‌بات به اشتباه ادعا کرد او به زندان رفته، تهدید به شکایت از OpenAI کرد. چند ماه بعد نیز یک مجری رادیویی به دلیل اتهامات جعلی مربوط به اختلاس ChatGPT از OpenAI شکایت کرد.
