مدیرعامل آنتروپیک، «داریو آمودی»، در مقاله‌ای جدید به بررسی چالش‌های شفاف‌سازی عملکرد مدل‌های هوش مصنوعی پرداخته و گفته قصد دارد سازوکار این فناوری را تا سال 2027 آشکار کند. این شرکت قصد دارد در آینده‌ای نزدیک به شفافیت کامل در خصوص نحوه تصمیم‌گیری مدل‌های هوش مصنوعی دست یابد.

داریو آمودی، مدیرعامل آنتروپیک، در مقاله‌ای که به تازگی منتشر کرده، از نگرانی‌های خود درباره کمبود شفافیت در مدل‌های هوش مصنوعی پیشرفته سخن گفته است. او تأکید کرده که آنتروپیک می‌خواهد تا سال 2027 به شفاف‌سازی کامل در زمینه عملکرد مدل‌ها دست یابد. آمودی می‌گوید این کار نه‌تنها برای افزایش اعتماد در استفاده از هوش مصنوعی، بلکه برای جلوگیری از خطرات احتمالی آن در بخش‌های مختلف اقتصادی، امنیتی و فناوری ضروری است.

مدیرعامل آنتروپیک در این مقاله توضیح می‌دهد که شرکت آنها به‌طور خاص بر روی چگونگی تحلیل و درک فرایندهای تصمیم‌گیری مدل‌ها کار می‌کند. این شرکت درحال‌حاضر با استفاده از روش‌های جدید توانسته تا حدی به ردیابی مسیرهای فکری مدل ها دست یابد، اما آمودی اذعان دارد که هنوز مسیر طولانی‌تری در پیش است.

آنتروپیک امیدوار است که با پیشرفت‌های بیشتر در این زمینه، قادر به شفاف‌سازی دقیق‌تر و قابل اطمینان‌تر عملکرد مدل‌ها باشد، که این کار در نهایت می‌تواند مزایای تجاری و ایمنی فراوانی به‌همراه داشته باشد.

مدیرعامل آنتروپیک در مقاله‌ای که عنوان آن «فوریت تفسیرپذیری» است، اعلام کرده که این شرکت موفق شده پیشرفت‌های اولیه‌ای در ردیابی روند تصمیم‌گیری مدل‌های هوش مصنوعی خود داشته باشد. بااین‌حال، آمودی تأکید کرد که برای رمزگشایی کامل این سیستم‌ها به تحقیقات گسترده‌تری نیاز است؛ به ویژه با افزایش قدرت و پیچیدگی مدل‌ها.

آنتروپیک یکی از شرکت‌های پیشرو در زمینه «تفسیرپذیری مکانیکی» به شمار می‌رود؛ شاخه‌ای که هدف آن باز کردن جعبه سیاه هوش مصنوعی و درک دلیل انتخاب‌ها و تصمیمات این مدل‌هاست. به گفته آمودی، علی‌رغم پیشرفت‌های چشمگیر در عملکرد مدل‌های هوش مصنوعی، هنوز درک دقیقی از چگونگی تصمیم‌گیری آنها وجود ندارد.

او می‌گوید: «هنگامی که یک سیستم مولد، مثلاً یک سند مالی را خلاصه می‌کند، ما دقیقاً نمی‌دانیم چرا برخی کلمات را انتخاب می‌کند یا چرا با وجود دقت بالا، گاهی دچار اشتباه می‌شود.» آنتروپیک می‌خواهد دلیل این اتفاقات را بفهمد.

آمودی همچنین به گفته «کریس اولا» (Chris Olah)، هم‌بنیان‌گذار آنتروپیک، اشاره کرد که معتقد است مدل‌های هوش مصنوعی «بیشتر رشد می‌کنند تا ساخته شوند». به این معنا که اگرچه پژوهشگران توانسته‌اند عملکرد این مدل‌ها را ارتقا دهند، اما هنوز به‌طور کامل نمی‌دانند این فرایند به چه شکل اتفاق می‌افتد.