«داریو آمودی»، مدیرعامل شرکت هوش مصنوعی آنتروپیک، معتقد است که مدل‌های هوش مصنوعی امروزی کمتر از انسان‌ها دچار توهم خواهد شد. توهم زدن مدل‌های هوش مصنوعی به معنی آن است که این مدل‌ها اطلاعات جعلی می‌سازند و آن‌‌ها را طوری اراعه خواهند داد که گویی حقیقت دارند.

به گزارش تک کرانچ، مدیرعامل آنتروپیک که در نخستین اتفاقات گسترش‌دهندگان این شرکت در سانفرانسیسکو وجود یافته می بود، ادعا کرد که مقدار توهم زدن مدل‌های هوش مصنوعی کمتر از انسان‌ها است. آمودی این سخن بگویید‌ها را در جواب به این نوشته که توهمات هوش مصنوعی مانعی بر سر راه آنتروپیک برای دستیابی به AGI نیست نقل کرد.

توهم زدن یکی از مشکلات عمده گسترش مدل‌های هوش مصنوعی است

آمودی در این باره او گفت: «این واقعاً بستگی دارد که چطور آن را اندازه‌گیری کنید، اما گمان می‌زنم مدل‌های هوش مصنوعی به گمان زیادً کمتر از انسان‌ها دچار توهم خواهد شد، ولی توهمات آن‌ها به شکل‌های غافلگیرکننده‌تری ابراز می‌کند.»

مدیرعامل آنتروپیک یکی از خوش‌بین‌ترین افراد در صنعت هوش مصنوعی نسبت به دستیابی به هوش جامع مصنوعی (AGI) است. او سال قبل مقاله‌ای را انتشار کرد و او گفت که معتقد است شرکت‌های فعال در این حوزه می‌توانند تا سال ۲۰۲۶ به هوش جامع مصنوعی دست یابند. آمودی این چنین در نشست خبری روز قبل خود او گفت که پیشرفت به‌سوی دستیابی به این مقصد به‌طور مدام درحال انجام است.

در روبه رو، برخی دیگر از رهبران حوزه هوش مصنوعی اعتقاد دارند که توهم، مانعی بزرگ در مسیر دستیابی به هوش جامع مصنوعی است. برای مثال، «دمیس هسابیس»، مدیرعامل گوگل DeepMind، می‌گوید که مدل‌های جاری هوش مصنوعی تا این مدت حفره‌های بسیاری دارند و به سوال‌های بدیهی بسیاری جواب نادرست خواهند داد. برای مثال، اغاز همین ماه، شرکت آنتروپیک به علت توهم زدن یکی از مدل‌های این شرکت و اراعه اسامی نادرست در یک پرونده قضایی ناچار به عذرخواهی شد.

بااین‌حال، شواهدی وجود دارد که مشخص می کند مقدار توهم در مدل‌های هوش مصنوعی با توانایی استدلال پیشرفته درحال افزایش است. برای مثال، مدل‌های o۳ و o4-mini شرکت OpenAI نرخ توهم بالاتری نسبت به مدل‌های نسل قبلی این شرکت دارند و خود OpenAI تا این مدت علت این نوشته را کشف نکرده است.