متا به‌تازگی اعلام کرده که یک ابزار اختصاصی به‌منظور قرار دادن واترمارک جهت تشخیص ویدئوهای ساخته شده با هوش مصنوعی، ساخته‌است.

تشخیص محتوای ساخته شده با هوش مصنوعی می‌تواند گامی مهم برای جلوگیری از انتشار مطالب نادرست و اخبار جعلی باشد. این موضوع درباره ویدئوهای ساخته شده با مدل‌های مولد، از اهمیت بیشتری برخوردار است؛ زیرا با شبیه‌سازی ظاهر افراد می‌تواند آسیب‌های جدی‌تری را هم به‌دنبال داشته‌باشد. طبق بررسی‌ها، میزان محتوای دیپ‌فیک از سال ۲۰۲۳ تا ۲۰۲۴ شاهد رشد ۴ برابری بوده است و این دسته از محتوا حدود ۷ درصد از کلاهبرداری‌های اینترنتی را شامل می‌شوند.

واترمارک ویدئوهای هوش مصنوعی چه کاربردی دارد؟

تقلید شخصیت افراد، هک کردن حساب‌های کاربری مخصوصاً حساب‌های بانکی و مهندسی پیچیده اجتماعی به منظور تاثیر گسترده در سطح جامعه از مواردی هستند که با محتوای دیپ فیک، بدست می‌آیند. اکنون متا برای مقابله با چنین پدیده‌هایی، ابزار اختصاصی برای گذاشتن واترمارک روی کلیپ‌های ساخته شده با هوش مصنوعی توسعه داده است. این ابزار که Meta Video Seal نام دارد به‌شکل متن‌باز ارائه شده و می‌توان آن را در سیستم‌های هوش مصنوعی فعلی بکار برد.

متا ابزارهای دیگری هم برای آسان‌تر کردن تشخیص محتوای هوش مصنوعی دارد که Watermark Anything و Audio Seal از جمله آنها هستند. «پیر فرناندز» که یکی از پژوهشگران هوش مصنوعی در متا است، اعلام داشته که ابزار جدید این شرکت از توانایی بهتری در تشخیص ویدئوهای غیرواقعی برخوردار است و می‌تواند با دقت بالاتری از محتوای واقعی حفاظت کند.

شایان‌ذکر است که بخش دیپ‌مایند گوگل هم ابزاری با نام SynthID ساخته‌است که آن هم برای واترمارک گذاشتن روی ویدئوها کاربرد دارد. مایکروسافت هم از ابزار مشابه خود برخوردار است. البته سرویس متا قابلیت‌های بیشتری در مقایسه با رقبا دارد که از جمله آنها می‌توان به توانایی پنهان‌سازی پیام در ویدئوها اشاره کرد.