گوگل اخیراً ادعا کرده است که مدل هوش مصنوعی جدید این شرکت، قادر به تشخیص احساسات افراد است. کارشناسان نسبت به پیامدهای چنین قابلیتی، نگران هستند.
گوگل به‌تازگی از خانواده جدیدی از مدل‌های هوش مصنوعی خود تحت عنوان PaliGemma 2 رونمایی کرده است که می‌توانند اقدام به بررسی عکس‌ها و شناسایی محتوای آنها کنند. نوشتن خودکار توضیحات پس از مشاهده عکس‌ها و پاسخ به سؤالات کاربران پیرامون تصاویر، از دیگر قابلیت‌های مدل مذکور است. همچنین گوگل مدعی شده است که این ابزار نه‌تنها می‌تواند اشیا یا کارهای صورت گرفته در عکس‌ها را تشخیص دهد؛ بلکه توانایی شناسایی احساس اشخاص را هم دارد.
گوگل اشاره داشته که ویژگی تشخیص احساس افراد، به‌شکل پیش‌فرض در PaliGemma 2 فعال نیست و باید تنظیمات دقیقی برای بهره‌مندی از آن انجام بگیرد. همچنین هنوز مشخص نیست که عملکرد مورد بحث در هوش مصنوعی جدید گوگل تا چه اندازه دقیق است. یکی از کاربردهای مهم چنین فناوری، تشخیص احساسات مشتریان است و می‌تواند انقلابی را در بازاریابی ایجاد کند. همین موضوع، نگرانی کارشناسان این حوزه را به‌دنبال داشته است. فعالیت گسترده گوگل در زمینه تبلیغات اینترنتی و دسترسی به حجم عظیمی از داده‌های کاربران هم‌بر نگرانی‌ها می‌افزاید.
پژوهش‌های صورت گرفته در سال‌های اخیر، نشان داده است که اغلب سیستم‌های تشخیص احساسات فعلی، از دقت چندانی برخوردار نیستند. حتی بعضی از آنها، برخی احساسات را بیشتر به افراد خاصی نسبت می‌دهند؛ برای مثال احساسات منفی در یکی از آنها در اغلب موارد برای افراد سیاه‌پوست تشخیص داده می‌شد. با این حال گوگل اعلام کرده که بررسی‌های گسترده‌ای جهت کسب اطمینان از نبود مشکلات مشابه در مدل خود، انجام داده است.
هنوز مشخص نیست که گوگل دقیقاً از چه استانداردهایی برای اندازه‌گیری دقت و صحت عملکرد مدل PaliGemma 2 بهره گرفته است؛ اما اشاره شده که در بنچمارک FairFace توانسته امتیاز خوبی را کسب کند. بنچمارک مذکور، مجموعه‌ای از تصاویر چهره افراد است که برای ارزیابی عملکرد چنین سرویس‌هایی استفاده می‌شود؛ اما منتقدان اعتقاد دارند که چهره‌های موجود در آن، از تنوع بالایی برخوردار نیستند و امتیاز آن نمی‌تواند چندان مورد اطمینان واقع شود.
قانون جامع هوش مصنوعی اشاره دارد که استفاده از ابزارهای تشخیص احساسات برای نهادهایی مثل مدارس و شرکت‌ها ممنوع است؛ اما نهادهای نظارتی مثل پلیس می‌توانند از آنها بهره بگیرند. با وجود این ممنوعیت، به‌دلیل انتشار کدهای مدل PaliGemma 2 به‌شکل متن‌باز، کارشناسان نسبت به سوءاستفاده‌های احتمالی از مدل جدید گوگل، نگران هستند.
