La rápida evolución de la IA generativa ha conmocionado la economía mundial, transformando las industrias a un ritmo sin precedentes. Las aplicaciones basadas en IA, que antes se limitaban a los laboratorios de investigación, se utilizan ahora en prácticamente todos los sectores empresariales para mejorar la eficiencia, automatizar procesos y descubrir nuevos conocimientos.
Si bien los beneficios potenciales de estas tecnologías son innegables, la introducción de diferentes formas de IA generativa también plantea múltiples desafíos. Entre ellos se encuentran las vulnerabilidades de seguridad de los datos, las preocupaciones regulatorias y los riesgos para la reputación. Como resultado, una cuestión crítica a la que se enfrentan casi todas las grandes empresas hoy en día es garantizar que el poder de la IA se aproveche de manera responsable y sostenible.
Experiencias de AXA con la IA
AXA es una empresa multinacional que opera en 50 países y atiende a 95 millones de clientes con la ayuda de 154 000 empleados y distribuidores. Nuestro rendimiento empresarial depende de la recopilación y síntesis de cantidades masivas de datos de diversas fuentes y de la gestión rentable de procesos empresariales complejos.
Por lo tanto, la IA generativa presenta oportunidades sustanciales para AXA. Estas tecnologías se han convertido en una parte vital de nuestra estrategia, posicionándonos para continuar nuestro camino basado en «from payer to partner» y cumplir nuestro propósito de facilitar el progreso de la sociedad protegiendo lo que importa. Ahora utilizamos la IA en toda la cadena de valor de los seguros en más de cuatrocientos casos. Algunos ejemplos destacables incluyen:
- AXA fue una de las primeras grandes organizaciones en crear una herramienta de IA generativa, SecureGPT, que ahora utilizan empleados de todo el mundo.
- La plataforma Digital Risk Engineer de 色多多视频recopila continuamente datos de los dispositivos de monitorización del IoT en las instalaciones de los clientes. Al aprovechar la IA generativa, los datos pueden analizarse en tiempo real para detectar anomalías, lo que permite una intervención temprana para mitigar y reducir la gravedad de los fallos del sistema.
- La Plataforma Comercial Digital (DCP) del Grupo AXA ayuda a las organizaciones a gestionar la incertidumbre y mitigar los riesgos, en particular el cambio climático, la ciberseguridad y la inestabilidad geopolítica, mediante la supervisión de riesgos en tiempo real y el asesoramiento digital y humano para la prevención de riesgos.
En resumen, la IA generativa permite a nuestros empleados centrarse en tareas de mayor valor y mejora nuestra capacidad para ayudar a los clientes a crear negocios más sostenibles y resistentes.
Tres categorías de amenazas
Los beneficios potenciales de la IA generativa son sustanciales. Sin embargo, también lo son las amenazas. En pocas palabras, la IA generativa puede amplificar las amenazas existentes y crear otras nuevas.
Si bien la aplicación generalizada de la IA es un nuevo desarrollo en rápida evolución, hemos identificado tres grandes categorías de amenazas que las empresas deben tener en cuenta al integrar diferentes herramientas basadas en IA en sus operaciones.
La primera son las amenazas adversas. La IA ofrece excelentes oportunidades para los actores malintencionados.
- Las herramientas de suplantación de identidad basadas en IA pueden replicar voces y rostros, lo que permite estafas de phishing, fraude financiero y acceso no autorizado.
- Los modelos de IA entrenados con datos confidenciales o privados podrían filtrar o reproducir información confidencial, aumentando las amenazas a la ciberseguridad.
- La IA puede explotar vulnerabilidades a gran escala, lo que dificulta el mantenimiento de las ciberdefensas.
El segundo incluye las amenazas situacionales o internas a las que se enfrentan las empresas al incorporar la IA en sus negocios.
- La IA puede amplificar los sesgos sociales, lo que conduce a prácticas de contratación, préstamo y aplicación de la ley injustas o discriminatorias.
- Muchos sistemas de IA carecen de transparencia, el llamado problema de la «caja negra». Esto dificulta la comprensión o el cuestionamiento de sus decisiones, lo que conlleva riesgos de responsabilidad.
- La IA generativa a veces desarrolla información falsa pero que suena plausible, lo que plantea riesgos en aplicaciones legales, financieras y médicas.
- Las empresas que dependen demasiado de la IA pueden sufrir fallos sistémicos si los modelos funcionan mal o producen resultados inexactos.
La tercera categoría abarca las amenazas externas y ambientales, incluidos los riesgos sistémicos más amplios asociados a la IA.
- La gobernanza de la IA está evolucionando rápidamente, lo que expone a las empresas a responsabilidades legales y desajustes regulatorios en diferentes jurisdicciones.
- Los modelos de IA consumen mucha energía, lo que contribuye a la preocupación por el medio ambiente y a la huella de carbono.
- Muchas empresas dependen de unos pocos proveedores de IA, lo que da lugar a «monocultivos digitales» que son menos resilientes y más susceptibles a ciberincidentes catastróficos.
Se necesita claridad
Por tercer año consecutivo, el ciberriesgo se encontraba entre los tres primeros en el Informe de Riesgos Futuros de AXA 2024, y por primera vez, la IA y el big data fueron citados como la cuarta amenaza más importante.
Al mismo tiempo, y como era de esperar, la demanda de ciberseguros ha crecido exponencialmente. Hace veinte años, el ciberseguro era un producto especializado que cubría las violaciones de datos y las responsabilidades derivadas de la pérdida de información de los clientes. Los principales compradores eran empresas tecnológicas e instituciones financieras. Hoy en día, el ciberseguro, del que 色多多视频es uno de los principales proveedores, se considera tan esencial como la cobertura de propiedad o responsabilidad civil para la mayoría de las empresas.
Sin embargo, el seguro cibernético está diseñado principalmente para mitigar las pérdidas causadas por ciberataques, filtraciones de datos y otras amenazas digitales, al tiempo que proporciona un apoyo crucial en la respuesta a incidentes. Pero, como se ha señalado anteriormente, la IA generativa está ampliando el panorama de riesgos, y no siempre está claro hasta qué punto se cubren los riesgos relacionados con la IA.
Por ejemplo, si un sistema de IA funciona mal y causa daños físicos o pérdidas económicas, la cobertura podría estar incluida en el seguro de responsabilidad civil general o de productos. Del mismo modo, los equipos basados en IA, como los robots de fabricación automatizados, podrían estar cubiertos por un seguro de avería de equipos o de propiedad, incluso si el fallo de la IA no se menciona explícitamente. Del mismo modo, si la toma de decisiones impulsada por la IA conduce a un asesoramiento financiero, legal o médico incorrecto, el seguro de E&O podría cubrir las reclamaciones contra los profesionales que confiaron en el sistema de IA.
En otras palabras, los riesgos relacionados con la IA pueden o no estar cubiertos dentro de las coberturas existentes. Estas ambigüedades podrían exponer a los clientes a pérdidas financieras y dificultades legales.
Respuesta de AXA XL
色多多视频ha introducido recientemente una nueva cláusula en su póliza CyberRiskConnect, ampliando la cobertura para hacer frente a riesgos específicos asociados con el desarrollo y despliegue de modelos de IA generativa. Los principales riesgos cubiertos son:
- Envenenamiento de datos: Protección contra ataques que manipulan o contaminan los datos de formación utilizados en modelos de aprendizaje automático, lo que puede comprometer el rendimiento y la precisión del sistema de IA.
- Infracción de derechos de uso: Cobertura de responsabilidades derivadas del uso negligente de materiales con derechos de autor, licencias de software o propiedad intelectual en el desarrollo de IA.
- Violaciones legislativas: Cobertura de responsabilidad por incumplimiento de normativas, como la Ley de IA de la Unión Europea, que rige el desarrollo y la implementación de sistemas de IA.
Nuestros clientes buscaban ayuda para navegar por este territorio inexplorado. Con las aportaciones y comentarios de nuestros corredores, desarrollamos una solución de seguros innovadora y líder en el mercado para proporcionar una cobertura clara de estos riesgos y ayudarles a aprovechar la IA general sin temor a posibles riesgos y costes adicionales que podrían obstaculizar sus esfuerzos.
Consideraciones finales
Aunque las pólizas de seguro desempeñan un papel crucial, son solo una parte del planteamiento holístico que las empresas necesitan para prosperar en un mundo cada vez más volátil. La prevención es, como siempre, la prioridad.
En consecuencia, los gerentes de riesgos corporativos deben reforzar la gobernanza de la IA mediante:
- La implementación de controles de acceso y permisos para limitar el acceso a los sistemas de IA.
- La realización de rigurosas pruebas y validaciones de los modelos de IA antes de su despliegue.
- La implementación de mecanismos de supervisión y detección de anomalías para detectar problemas antes de que se vuelvan críticos.
- La formación y educación de los empleados sobre el uso responsable de la IA y los riesgos asociados.
- La implementación de políticas y procedimientos para garantizar el cumplimiento de las leyes y regulaciones de protección de datos y privacidad.
- Utilizar técnicas de cifrado y seguridad de datos para proteger los datos confidenciales utilizados por los sistemas de IA.
La IA presenta un área de riesgo nueva, compleja y en evolución que requiere una estrecha colaboración entre clientes, corredores y aseguradoras para comprender y reaccionar rápidamente ante un panorama de amenazas cambiante. 色多多视频se compromete a colaborar con los clientes y sus corredores para materializar las promesas que ofrece la IA mientras se sortean los peligros.
