La inteligencia artificial se vuelve ubicua a medida que más y más aplicaciones se presentan con IA embebida. Y a medida que se lanzan más plataformas que utilizan información personal, como la biometría, surgen riesgos y aumenta la necesidad de agregar funciones de cumplimiento y gobernanza en la filtración de los datos.
Si bien la IA se basada en crear algoritmos para manejar una cantidad masiva de datos y sus patrones, ahora ha evolucionado con un nuevo giro. En lugar de solo reconocer modelos, la IA también está creando modelos, lo que eleva los retos para la industria, concluyó un panel de expertos en el Foro de Innovación de Mastercard LAC 2022, esta semana en Miami.
Esto pone en relevancia la necesidad que tiene la industria financiera por mejorar el tratamiento de su data para aprovechar los insights que puede arrojar, pero también para proteger la información sensible de sus clientes.
“Son humanos construyendo IA e IA construyendo IA”, señaló Raj Seshadri, presidente de datos y servicios de Mastercard, durante una conferencia sobre el poder transformador de la inteligencia artificial.
Gobernanza de datos en construcción
Efectivamente, el uso masivo de la IA tiene implicaciones, como señaló Navrina Singh, fundadora y directora ejecutiva de Credo AI y Young Global Leader del Foro Económico Mundial. Credo AI es una plataforma de gobernanza de inteligencia artificial que proporciona supervisión continua.
Las oportunidades y desafíos en la industria de IA están evolucionando rápidamente. Singh señaló algunas áreas que están generando mucha tensión. La primera es la estructura organizativa sistemática, en la que se tratan de alinear las partes técnicas involucradas, como el aprendizaje automático, con las partes involucradas no técnicas, como las políticas de cumplimiento, que se aseguran de contar con las estructuras de gobierno de datos adecuadas.
Otra área que tiene muchos desafíos es que, al ser una industria relativamente nueva y en constante cambio, no existen puntos de referencia (benchmark) para la elaboración de estándares transversales aplicables al ecosistema. “Hablando de equidad, como un ejemplo, no hay un estándar o punto de referencia establecido, no hay una definición y todos presentan su propio conjunto de políticas y su buena voluntad”, dijo Singh.
“Algunos de los desafíos que menciono darán forma a los estándares y benchmark: la falta de políticas de cumplimiento, la data, incentivos desalineados, las partes interesadas técnicas y de supervisión. No es solo un problema técnico. Está impactando a las sociedades en general”, agregó.
Singh abogó por la necesidad de que las empresas también inviertan recursos en la base de la gobernanza pública y destacó que los seres humanos tendrán un papel mucho más importante que desempeñar en la gran discusión sobre la IA.
