افشای گزارشی نگران‌کننده درباره «گفت‌وگوهای مرگ» در هوش مصنوعی
شرکت «اوپن‌ای‌آی»، سازنده ربات گفت‌وگوی هوش مصنوعی «چت‌جی‌پی‌تی»، در گزارشی تازه اعلام کرد که حدود ۰.۱۵ درصد از کاربران، یعنی نزدیک به ۱.۲ میلیون نفر، هر هفته درباره موضوعات مربوط به خودکشی با این ربات گفت‌وگو می‌کنند.
آماری که زنگ خطر جدی در حوزه سلامت روان و فناوری را به صدا درآورده است.
به گفته این شرکت، بخش قابل توجهی از پیام‌های کاربران حاوی «نشانه‌های آشکار از نیت یا برنامه‌ریزی برای خودکشی» است. اوپن‌ای‌آی در بررسی بیش از ۱۰۰۰ گفت‌وگو مرتبط با خودآزاری و تمایل به مرگ، اعلام کرده که مدل‌های جدیدش در ۹۱ درصد موارد رفتاری مطابق با استانداردهای ایمنی از خود نشان داده‌اند. با این حال، کارشناسان هشدار می‌دهند که همین درصد باقی‌مانده می‌تواند به معنای در معرض خطر بودن ده‌ها هزار کاربر باشد.
طبق گزارش شبکه «اسکای‌نیوز»، شرکت اوپن‌ای‌آی اذعان کرده است که چت‌جی‌پی‌تی معمولاً در نخستین اشاره کاربر به نیت خودکشی، او را به تماس با خطوط کمک اضطراری توصیه می‌کند. اما پس از مکالمات طولانی، گاهی پاسخ‌هایی ارائه می‌دهد که با دستورالعمل‌های ایمنی و سیاست‌های محافظتی‌اش در تضاد است. این مسئله، نگرانی‌های تازه‌ای را درباره نقش هوش مصنوعی در تعامل با کاربران آسیب‌پذیر ایجاد کرده است.
سام آلتمن، مدیرعامل اوپن‌ای‌آی، پیش‌تر اعلام کرده بود که تعداد کاربران فعال هفتگی چت‌جی‌پی‌تی از مرز ۸۰۰ میلیون نفر فراتر رفته است. این گستردگی استفاده به معنای آن است که حتی درصدی کوچک از کاربران درگیر چنین گفت‌وگوهایی، میلیون‌ها فرد را شامل می‌شود.
در همین حال، چندین پرونده قضایی علیه این شرکت در دادگاه‌های آمریکا مطرح شده است. از جمله خانواده «آدام راین» از ایالت کالیفرنیا که اوپن‌ای‌آی را به دلیل «نقش غیرمستقیم در خودکشی فرزند ۱۶ ساله‌شان در آوریل گذشته» تحت پیگرد قانونی قرار داده‌اند. این خانواده مدعی‌اند که پسرشان پیش از مرگ بارها درباره افسردگی و ناامیدی خود با چت‌جی‌پی‌تی گفت‌وگو کرده بود.
اوپن‌ای‌آی در واکنش به انتقادها اعلام کرده است که تغییرات گسترده‌ای در مدل‌های زبانی جدید خود اعمال کرده تا هنگام مواجهه با کاربران دارای نشانه‌های روانی، رفتارهایی «ایمن‌تر، همدلانه‌تر و انسانی‌تر» نشان دهد. با این حال، بسیاری از متخصصان معتقدند که این پدیده نشان‌دهنده چالشی بنیادین در عصر هوش مصنوعی است؛ عصری که در آن مرز میان گفت‌وگوی انسانی و ماشینی بیش از هر زمان دیگر در هم تنیده شده است.
