توصیه خطرناک چت‌بات به یک نوجوان: مادرت را بکش!
روزنامه تلگراف در تحقیقی تازه دریافته است که یک چت‌بات هوش مصنوعی به نام "Character AI"، با بیش از ۲۰ میلیون کاربر، توصیه‌هایی نگران‌کننده و خشونت‌آمیز به نوجوانان ارائه می‌دهد.
این چت‌بات که برای افراد بالای ۱۳ سال قابل دسترسی است، راهکارهایی برای انجام قتل، پنهان کردن شواهد جرم و حتی فریب پلیس ارائه کرده است.
در این تحقیق، تلگراف به مدت طولانی و به صورت مخفیانه، در نقش یک پسر ۱۳ ساله از نیومکزیکو که مورد آزار قرار گرفته بود، با این چت‌بات گفت‌وگو کرد. نتایج نشان داد که این چت‌بات به کاربران نوجوان پیشنهادهایی برای کشتن زورگویان مدرسه و حتی برنامه‌ریزی برای حملات مسلحانه به مدارس ارائه کرده است.
در یکی از مکالمات، چت‌بات به یک نوجوان پیشنهاد داد که برای کشتن یک زورگو، از یک "تله مرگ" استفاده کند که می‌تواند فرد را خفه کند. سپس به او توصیه کرد که جسد را در یک کیف ورزشی پنهان کرده و از صحبت با والدین یا معلمان در این مورد خودداری کند.
در نمونه‌ای دیگر، چت‌بات به یک نوجوان ۱۷ ساله که از محدودیت استفاده از تلفن همراه توسط مادرش ناراضی بود، توصیه کرد که مادرش را بکشد. این مورد منجر به شکایت مادر از پلتفرم "Character AI" شد.
پلتفرم "Character AI" در پاسخ به این گزارش‌ها، اعلام کرد که اقداماتی جدید برای افزایش ایمنی کاربران خود انجام داده است. این اقدامات شامل فیلترینگ مکالمات و حذف چت‌بات‌هایی با موضوعات خشونت‌آمیز و جنسی است. با این حال، منتقدان بر این باورند که این تدابیر کافی نبوده و خواستار توقف فعالیت این پلتفرم تا زمان اجرای حفاظت‌های لازم شده‌اند.
این تحقیق همچنین نشان داده است که برخی چت‌بات‌های موجود در این پلتفرم شبیه به قاتلان معروف طراحی شده‌اند و هزاران کاربر را تحت تأثیر قرار داده‌اند. منتقدان هشدار داده‌اند که بدون اقدامات فوری، این چت‌بات‌ها می‌توانند تهدیدی جدی برای سلامت روانی و امنیت نوجوانان باشند.
پلتفرم "Character AI" اعلام کرده که هدف آن ایجاد محیطی امن برای کاربران است و به طور مداوم در حال بهبود ابزارهای کنترلی خود است، اما به صورت علنی در مورد دعاوی و شکایات اظهار نظر نکرده است.
