یک استارتاپ چینی به نام «سند‌ای ال» اخیراً مدل هوش مصنوعی جدیدی به نام «مگی ۱» منتشر کرده که می‌تواند ویدیو تولید کند. این مدل که با تحسین چهره‌هایی مثل «کای-فو لی» (مدیر پیشین مایکروسافت ریسرچ آسیا) روبه‌رو شده، برای تولید ویدیو از یک تصویر اولیه استفاده می‌کند و به صورت مرحله‌به‌مرحله فریم‌ها را پیش‌بینی می‌کند.
به گزارش فارس، شرکت «سند‌ای ال» ادعا کرده که «مگی ۱» در مقایسه با دیگر مدل‌های متن‌باز، ویدیو‌هایی با کیفیت بالا و فیزیک واقع‌گرایانه‌تری تولید می‌کند. اما بررسی‌های «تک کرانچ» نشان می‌دهد که نسخه میزبانی‌شده‌ی این مدل، از فیلتر‌های سختگیرانهای استفاده می‌کند تا از نمایش تصاویر سیاسی حساس جلوگیری کند.
وقتی کاربران سعی کردند تصاویری مانند عکس «شی جین‌پینگ»، میدان تیان‌آن‌من، پرچم تایوان یا نماد‌های حمایت از آزادی هنگ‌کنگ را آپلود کنند، سیستم بلافاصله آنها را مسدود کرد. این فیلتر‌ها حتی به نام فایل‌ها هم وابسته نیستند و صرفاً محتوا را تحلیل می‌کنند. این یعنی حتی تغییر نام فایل هم باعث عبور از فیلتر نمی‌شود.
این نوع فیلترینگ تنها مختص «سند‌ای ال» نیست. شرکت‌های دیگر چینی مثل «هیلو‌ای ال» و «مینی مکس» هم اقدامات مشابهی انجام داده‌اند، اما «سند‌ای ال» حتی نسبت به آنها هم سخت‌گیرتر است؛ برای مثال، «هیلو‌ای ال» اجازه می‌دهد تصویر میدان تیان‌آن‌من آپلود شود، اما «سند‌ای ال» این مورد را هم فیلتر می‌کند.
دلیل اصلی این سخت‌گیری‌ها به قوانین سال ۲۰۲۳ چین برمی‌گردد که تولید هر نوع محتوایی که «وحدت کشور یا هماهنگی اجتماعی» را زیر سؤال ببرد، ممنوع کرده است. نکته جالب اینجاست که در حالی که شرکت‌های چینی محتوای سیاسی را به شدت فیلتر می‌کنند، نسبت به محتوای غیراخلاقی یا پورنوگرافی محدودیت‌های کمتری دارند.
برای مثال، برخی پلتفرم‌های ویدیوساز چینی فاقد محافظ‌هایی هستند که جلوی تولید تصاویر برهنه و غیرمجاز از افراد واقعی را بگیرد. این تفاوت در نحوه فیلترگذاری بین شرکت‌های آمریکایی و چینی، بحث‌های زیادی را در مورد خط‌قرمز‌های اخلاقی و سیاسی این فناوری‌ها به‌وجود آورده است.
