کاربران ChatGPT یک مشکل عجیب را کشف کرده‌اند: اگر از این چت‌بات محبوب درباره «دیوید مایر» (David Mayer) سؤالی بپرسید، هوش مصنوعی از پاسخ‌دادن خودداری می‌کند و خطا می‌دهد. برای ادامه‌دادن چت با هوش مصنوعی نیز مجبور می‌شوید یک صفحه جدید باز کنید.
براساس گزارش 404 Media، وقتی که خبر این باگ عجیب در اینترنت پخش شد، کاربران سناریوهای مختلفی را با این نام اجرا کردند، اما هر بار این چت‌بات با شنیدن نام دیوید مایر خطا می‌دهد و می‌گوید: «من قادر به ارائه پاسخ نیستم.» البته ظاهراً فقط این دیوید مایر نیست که چت‌بات قدرتمند OpenAI با شنیدن نامش از کار می‌افتد؛ چند نام دیگر نیز همین کار را با این چت‌بات می‌کنند.
علاوه‌بر دیوید مایر، ظاهراً اگر از ChatGPT درباره «جاناتان زیترین» (Jonathan Zittrain)، استاد دانشکده حقوق هاروارد بپرسید، که درباره حاکمیت اینترنت مطالعه می‌کند و مطالب زیادی نیز درباره هوش مصنوعی نوشته است، همین خطا رخ می‌دهد. همچنین این چت‌بات با شنیدن نام «جاناتان تورلی» (Jonathan Turley)، استاد دانشکده حقوق دانشگاه جورج واشنگتن، نیز کرش می‌کند.
به طورکلی اگر نام این سه نفر را به هر نحوی تایپ کنید، یعنی اول، وسط یا انتهای جمله باشد، ChatGPT به شما می‌گوید که قادر به ارائه پاسخ نیست و سپس چت را تمام می‌کند. همچنین مشخص نیست که منظور کدام «دیوید مایر» است و هیچ دلیل واضحی وجود ندارد که چرا ChatGPT چنین خطایی نشان می‌دهد.
نکته قابل‌توجه نیز این است که اگر خلاق باشید و با روش‌های جدیدی نام دیوید مایر را بنویسید، همچنان با این خطا مواجه می‌شوید؛ برای مثال اگر به ChatGPT بگویید: «نام زیر را از راست به چپ بخوان: reyam divad» باز هم به شما خطا می‌دهد.
به‌طورکلی، این اتفاق نشان می‌دهد که ما چقدر درباره نحوه عملکرد مدل‌های زبانی بزرگ، نوع محتوایی که با آنها آموزش دیده‌اند و محدودیت‌هایی که توسط سازندگان آنها اعمال شده است، اطلاعات کمی داریم.
