آگاه: یکی از بیمه‌گذاران بازده مدل‌های هوش مصنوعی را بیش از حد پیچیده و در نتیجه غیرقابل اعتماد است. البته صنعت بیمه دلایل خوبی برای بیمناک شدن از هوش مصنوعی دارد. قابلیت AI Overview گوگل به اشتباه یک شرکت خورشیدی را به مشکلات حقوقی متهم کرد که این امر به شکایتی ۱۱۰ میلیون دلاری در ماه مارس منجر شد. شرکت ایر کانادا نیز سال گذشته مجبور شد طرح تخفیفی که چت‌بات شرکت آن را اختراع کرده بود، اجرا کند. همچنین کلاهبرداران سال گذشته از یک نسخه کلون دیجیتالی مدیر ارشد اجرایی شرکتی که بسیار واقعی به نظر می‌رسید، برای سرقت ۲۵ میلیون دلار از شرکت Arup در انگلیس طی یک تماس ویدئویی استفاده کردند.
آنچه واقعا شرکت‌های بیمه را می‌ترساند پرداخت غرامتی کلان نیست، بلکه ریسک سیستماتیک هزاران مطالبه همزمان در زمانی است که یک مدل هوش مصنوعی پرکاربرد دچار خطا شود. به‌گفته یکی از مدیران شرکت Aon، بیمه‌گران می‌توانند با یک ضرر ۴۰۰ میلیون دلاری برای یک شرکت کنار بیایند. آنچه از توان آنها خارج است، یک خطای عامل‌محور (agentic) در هوش مصنوعی است که به‌طور همزمان ۱۰ هزار خسارت ایجاد کند.