¿Qué sucede cuando el software que todo el mundo se apresura a adoptar se vuelve demasiado riesgoso para que nadie pueda asegurarlo? De acuerdo a Referencia del Financial Timesestamos a punto de descubrirlo.

Las principales aseguradoras, incluidas AIG, Great American y WR Berkley, están solicitando permiso a los reguladores estadounidenses para excluir de las pólizas corporativas los pasivos relacionados con la IA. Un asegurador describe los resultados de los modelos de IA al FT como “demasiado caja negra”.

La industria tiene buenas razones para estar asustada, nos recuerda la historia. La descripción universal de la IA de Google acusó falsamente a una empresa solar de tener problemas legales, lo que provocó una $110 millones demanda en marzo. El año pasado, Air Canada se quedó estancada al honrar un descuento chatbot inventado. Y el año pasado, los estafadores utilizaron una traducción clonada digitalmente de un detención ejecutor para robar. $25 millones de la firma de ingeniería de diseño Arup, con sede en Londres, durante una videollamada que parecía completamente verdadero.

Lo que positivamente aterroriza a las aseguradoras no es un plazo masivo; es el peligro sistémico de miles de reclamaciones simultáneas cuando interviene un maniquí de IA ampliamente utilizado. Como dijo un ejecutor de Aon, las aseguradoras pueden hacer frente a una pérdida de 400 millones de dólares para una sola empresa. Lo que no pueden manejar es un percance de IA agente que provoca 10.000 pérdidas a la vez.