استفاده از این نام‌ها «چت‌جی‌پی‌تی» را از کار می‌اندازد!
گزارش‌ها نشان می‌دهند که چت‌بات معروف «چت‌جی‌پی‌تی» شرکت اوپن‌ای‌آی در مواجهه با برخی نام‌ها عملکرد خود را متوقف می‌کند و پیام خطا نمایش می‌دهد.
چت‌جی‌پی‌تی، که یکی از پیشرفته‌ترین مدل‌های زبانی مبتنی بر هوش مصنوعی است، دارای فیلترهای محتواست که وظیفه جلوگیری از انتشار اطلاعات نادرست یا محتوای حساس را بر عهده دارند. این فیلترها طراحی شده‌اند تا از مشکلات قانونی و شرمساری شرکت اوپن‌ای‌آی جلوگیری کنند، اما به نظر می‌رسد که در برخی موارد، این فیلترها باعث اختلال در عملکرد چت‌بات می‌شوند.
اولین گزارش‌ها درباره این موضوع مربوط به سال گذشته است، زمانی که کاربران متوجه شدند نام «برایان هود» باعث توقف چت‌جی‌پی‌تی می‌شود. پس از آن، بررسی‌های بیشتری نشان داد که نام‌هایی مانند «جاناتان تورلی»، «جاناتان زیترین» و «دیوید فابر» نیز این اختلال را ایجاد می‌کنند.
طبق گزارش ۴۰۴ Media، چت‌بات در مواجهه با این نام‌ها معمولاً پاسخ‌هایی نظیر «نمی‌توانم پاسخی تولید کنم» یا «خطایی در ایجاد پاسخ وجود داشت» ارائه می‌دهد. این مشکل تنها در مکالمات مستقیم با چت‌جی‌پی‌تی مشاهده شده و بر خروجی‌های API یا OpenAI Playground تأثیری ندارد.
علت اصلی این موضوع، فیلتر رمزگذاری‌شده‌ای است که به طور خودکار خروجی‌های مرتبط با این نام‌ها را مسدود می‌کند. این فیلترها برای جلوگیری از پاسخ‌های نادرست یا غیرمجاز در مواردی که اطلاعات کافی وجود ندارد، طراحی شده‌اند.
در فهرستی که اخیراً منتشر شده است، نام‌هایی که باعث توقف چت‌جی‌پی‌تی می‌شوند شامل موارد زیر هستند:
- برایان هود
- جاناتان تورلی
- جاناتان زیترین
- دیوید فابر
- گیدو اسکورزا
جالب است که پیش از انتشار این فهرست، اوپن‌ای‌آی یکی از این نام‌ها، یعنی «دیوید مایر»، را از لیست فیلتر حذف کرده است.
