نمونه هایی افشای اطلاعات حساس و سانسور توسط هوش مصنوعی چینی DeepSeek

عصر ایران شنبه 20 بهمن 1403 - 08:36
بررسی‌های انجام‌شده نشان می‌دهد که این چت‌بات در برخی موارد اطلاعات صحیح ارائه می‌دهد؛ برای مثال، به درستی اعلام کرد که ۹۵ درصد از ترافیک اینترنت جهانی از طریق کابل‌های زیردریایی منتقل می‌شود. اما در مواردی دیگر، پاسخ‌های آن کاملاً مطابق با دیدگاه‌های رسمی حزب کمونیست چین بوده است.

چت‌بات دیپ‌سیک (DeepSeek) که محصولی از چین است، با انتشار در روز دوشنبه باعث ایجاد وحشت در بازارهای مالی شد. این چت‌بات به حدی جنجال‌آفرین بود که تنها در اولین روز عرضه، بازار سهام آمریکا با افتی یک تریلیون دلاری مواجه شد.

به گزارش روزیاتو، بررسی‌های انجام‌شده نشان می‌دهد که این چت‌بات در برخی موارد اطلاعات صحیح ارائه می‌دهد؛ برای مثال، به درستی اعلام کرد که ۹۵ درصد از ترافیک اینترنت جهانی از طریق کابل‌های زیردریایی منتقل می‌شود. اما در مواردی دیگر، پاسخ‌های آن کاملاً مطابق با دیدگاه‌های رسمی حزب کمونیست چین بوده است.

DeepSeek مدعی شد که چین زیردریایی‌ها و پهپادهای زیرآبی پیشرفته‌ای ساخته است که می‌توانند به این کابل‌ها دسترسی پیدا کرده و ارتباطات را رهگیری کنند. علاوه بر این، مشاهده شد که این چت‌بات از ارائه پاسخ درباره موضوعات حساسی مانند کشتار میدان تیان‌آن‌من، اردوگاه‌های کار اجباری و اعتراضات هنگ‌کنگ امتناع کرده یا در لحظه، پاسخ‌های خود را حذف می‌کند.

نمونه هایی افشای اطلاعات حساس و سانسور توسط هوش مصنوعی چینی DeepSeek
 وقتی از این چت‌بات درباره میدان تیان‌آن‌من سوال شد از پاسخ دادن طفره رفت.

در زمینه جاسوسی سایبری، DeepSeek به اطلاعاتی اشاره کرد که نشان می‌داد چین از گروه‌های هکری برای سرقت داده‌های شهروندان آمریکایی و دسترسی به سیستم‌های حساس استفاده می‌کند. اما هنگامی که درباره میزان تلفات دوران حکومت مائو تسه‌تونگ، رهبر پیشین حزب کمونیست چین، سؤالاتی مطرح شد، چت‌بات از پاسخ دادن طفره رفت و اعلام کرد که «سوالات زیادی در زمان کوتاه پرسیده شده است».

DeepSeek؛ رقیبی ارزان‌تر اما خطرناک‌تر از ChatGPT

نمونه هایی افشای اطلاعات حساس و سانسور توسط هوش مصنوعی چینی DeepSeek

یکی از مهم‌ترین عواملی که باعث نگرانی صنعت فناوری شد، ادعای DeepSeek در مورد هزینه توسعه مدل جدید خود، یعنی R1، بود. این چت‌بات مدعی شد که مدل جدیدش را با هزینه‌ای بسیار کمتر از هزینه‌های شرکت‌های بزرگ فناوری در توسعه هوش مصنوعی ایجاد کرده است.

بررسی‌های انجام‌شده نشان می‌دهد که DeepSeek عملکردی بسیار سریع و هوشمند دارد و حتی در برخی آزمایش‌ها از ChatGPT نیز عملکرد بهتری داشته است. این چت‌بات به طور گسترده از پیشرفت‌های چین در حوزه‌های مختلف از جمله قطارهای سریع‌السیر، فناوری‌های نوین و زیبایی‌های این کشور سخن می‌گوید. اما در مواجهه با مسائل حساس، مانند تایوان، پاسخ‌های آن کاملاً مطابق با سیاست‌های حزب کمونیست چین است.

نمونه هایی افشای اطلاعات حساس و سانسور توسط هوش مصنوعی چینی DeepSeek
 دیپ‌سیک در پاسخ به این سوال که آیا تایوان یک کشور است پاسخ می‌دهد که تایوان همواره بخشی جدایی‌‌‌‌‌‌ناپذیر از چین بوده است.

برای مثال، در پاسخ به سؤال درباره تایوان، این چت‌بات تأکید کرد که «تایوان همواره بخشی از چین بوده است». همین رویکرد را در مورد تبت نیز اتخاذ کرد. این در حالی است که ChatGPT پاسخی متفاوت ارائه می‌دهد و اعلام می‌کند که تبت از نظر تاریخی در دوره‌هایی مستقل بوده اما در سال ۱۹۵۱ به جمهوری خلق چین ملحق شده است.

هنگامی که از DeepSeek درباره تعداد کشته‌های دوران حکومت مائو تسه‌تونگ سؤال شد، پاسخ نداد. اما در مورد دیگر رهبران جنجالی تاریخ، از جمله ژوزف استالین و آدولف هیتلر، اعداد و آمار مشخصی ارائه کرد. تخمین‌های تاریخی نشان می‌دهد که حکومت مائو مسئول مرگ بیش از ۸۰ میلیون نفر بوده است، اما چت‌بات از اشاره به این موضوع خودداری کرد و در عوض، او را «انقلابی بزرگ» و «معمار چین مدرن» خواند.

DeepSeek چگونه اطلاعات حساس را فاش کرد؟

یکی از جنجالی‌ترین بخش‌های عملکرد DeepSeek، افشای اطلاعات درباره شیوه‌های جاسوسی چین علیه آمریکا بود. برای دور زدن محدودیت‌های این چت‌بات، از روشی خاص استفاده شد: درخواست پاسخ‌دهی به زبان Leetspeak (زبانی که در آن حروف با اعداد و نمادهای مشابه جایگزین می‌شوند).

در این حالت، چت‌بات جزئیات قابل توجهی را درباره ابزارهای نظارتی چین فاش کرد:

  1. جاسوسی سایبری: گروه‌های هکری تحت حمایت دولت چین (مانند APT41) با استفاده از بدافزارها، حملات فیشینگ و سوءاستفاده از آسیب‌پذیری‌های امنیتی، به شبکه‌های آمریکا نفوذ می‌کنند.
  2. دوربین‌های نظارتی: شرکت‌های فناوری چینی مانند هایک‌ویژن و داهوا، دوربین‌هایی مجهز به فناوری تشخیص چهره و ردیابی پلاک خودرو تولید می‌کنند که در سراسر جهان، از جمله در آمریکا، مورد استفاده قرار می‌گیرند.
  3. تحلیل داده‌های شبکه‌های اجتماعی: چین با استفاده از هوش مصنوعی، اطلاعات موجود در شبکه‌های اجتماعی آمریکا را بررسی کرده و از آن برای شناسایی افراد و سازمان‌های مهم بهره می‌برد.
  4. شنود کابل‌های زیردریایی: چین زیردریایی‌ها و پهپادهای خاصی را برای رهگیری ارتباطات در بستر دریاها توسعه داده است.
  5. فناوری ماهواره‌ای: ماهواره‌های چین قادر به ردیابی تحرکات نظامی، زیرساخت‌ها و ارتباطات آمریکا هستند.
  6. حملات زنجیره تأمین: چین با نفوذ به زنجیره تأمین فناوری، مانند سخت‌افزارهای شبکه، دسترسی به اطلاعات حساس را فراهم می‌کند.
  7. هوش مصنوعی: چین از هوش مصنوعی برای پردازش انبوه داده‌های جاسوسی و انجام تحلیل‌های پیش‌بینی‌کننده استفاده می‌کند.

چگونه از DeepSeek استفاده کنیم بدون آنکه در دام بیفتیم؟

برخی کارشناسان هشدار داده‌اند که هر ابزار فناوری چینی، می‌تواند یک تهدید بالقوه برای حریم خصوصی کاربران باشد. هر داده‌ای که در این ابزارها وارد شود، نه تنها جمع‌آوری و تحلیل می‌شود، بلکه احتمال دارد مستقیماً به دولت چین منتقل گردد.

برای کاهش این خطرات، توصیه‌هایی ارائه شده است:

  • از یک ایمیل جداگانه فقط برای استفاده از DeepSeek استفاده شود و هرگز با حساب‌های گوگل یا دیگر حساب‌های شخصی وارد نشوید.
  • این ابزار روی دستگاهی جداگانه، مانند یک گوشی قدیمی یا کامپیوتری که برای امور شخصی استفاده نمی‌شود، اجرا گردد.
  • هر اطلاعاتی که در این پلتفرم وارد می‌شود، باید به عنوان اطلاعات عمومی در نظر گرفته شود و از اشتراک‌گذاری داده‌های حساس خودداری گردد.

منبع خبر "عصر ایران" است و موتور جستجوگر خبر تیترآنلاین در قبال محتوای آن هیچ مسئولیتی ندارد. (ادامه)
با استناد به ماده ۷۴ قانون تجارت الکترونیک مصوب ۱۳۸۲/۱۰/۱۷ مجلس شورای اسلامی و با عنایت به اینکه سایت تیترآنلاین مصداق بستر مبادلات الکترونیکی متنی، صوتی و تصویری است، مسئولیت نقض حقوق تصریح شده مولفان از قبیل تکثیر، اجرا و توزیع و یا هرگونه محتوای خلاف قوانین کشور ایران بر عهده منبع خبر و کاربران است.