Clave para gestión del riesgo de IA
Las empresas deben establecer políticas de gobernanza para la inteligencia artificial (IA), ya que cada vez más empleados utilizan la IA generativa en su trabajo diario con o sin la aprobación de sus organizaciones. Con el surgimiento de potenciales responsabilidades por IA, las brechas en la cobertura y en las nuevas exclusiones harían aún más vulnerables a las empresas frente a riesgos adicionales.
La gobernanza de la IA ayuda a las organizaciones en la gestión del llamado «uso de IA en la sombra» (shadow AI), donde los empleados utilizan la tecnología sin informar a sus superiores, dijo Donna Haddad, consejera general asociada de consultoría para las Américas y líder legal global de ética de IA en IBM. «Los empleados la utilizan, simplemente puede que los superiores no conozcan la forma en que lo hacen», afirmó.
Las políticas de gobernanza abordan cuestiones como garantizar la presencia de «un humano en el circuito» (a human in the loop) para todas aquellas decisiones que afectan la contratación o el crédito, por ejemplo, dijo Haddad. Las políticas también abordan temas de propiedad de los datos, de transparencia sobre la forma en que la IA es utilizada, evitando la utilización de resultados no deseados generados por la IA.
Riesgos Clave y la Dimensión del Seguro
Con un marco de gobernanza establecido, las organizaciones deben evaluar los riesgos potenciales, incluyendo la confidencialidad del cliente. «Sus empleados deben saber que, al subir material a internet, este puede ser recopilado por ChatGPT o por cualquier tecnología que esté siendo utilizada” dijo Haddad. Asimismo, existe el riesgo de socavación del privilegio abogado-cliente. «Una vez subido a internet, se renuncia al privilegio». Otros riesgos incluyen las infracciones de propiedad intelectual, donde las herramientas de IA recopilan material con derechos de autor, y la alucinación de la IA, donde esta herramienta crea contenido, como, por ejemplo, casos ficticios para documentos legales.
Las empresas enfrentan riesgos por el uso de la IA por parte de sus proveedores, por el creciente número de compañías de IA y por las medidas de seguridad implementadas, dijo Haddad. «Es realmente importante llevar un inventario. Luego, es necesario un proceso de revisión de extremo a extremo», añadió.
Brechas en la Cobertura y el Cambio de Pólizas
Muchas pólizas de seguro comercial ya existentes brindan cobertura para exposiciones de IA, dijo Kevin Kalinich, líder de colaboración global de activos intangibles en Aon. «En aproximadamente el 85% de los casos, los argumentos sobre la falta de aplicabilidad en las diferentes categorías de IA existen en las pólizas», afirmó. De alegarse que la IA instó a una persona a autolesionarse, las pólizas de responsabilidad civil general cubren las lesiones corporales o la muerte.
Sin embargo, de forma similar a la tendencia con la cobertura de «ciberseguro silencioso», las aseguradoras avanzan hacia la modificación en la redacción de las pólizas, de manera que las exposiciones a la IA queden excluidas, a menos que cuenten expresamente con una cobertura, explicó. Varias aseguradoras han emitido pólizas específicas de IA y los brókers han elaborado endosos para cubrir las exposiciones a la IA, dijo Kalinich.
FUENTE: www.commercialriskonline.com
