Hoy en día, los avances de la Inteligencia Artificial (IA) están ocurriendo a un ritmo exponencial. Muchos de quienes impulsan el desarrollo han sugerido que quizás las cosas van demasiado rápido. Elon Musk y un grupo de expertos propusieron hacer una pausa, alegando la posibilidad de riesgos potenciales para la sociedad.
Con todo, la realidad es que la IA se está adoptando amplia y rápidamente, proporcionando muchos beneficios. Pero se está implementando y desarrollando tan rápidamente que la supervisión estratégica y la gobernanza se vuelven aún más críticas para su uso responsable y la mitigación de riesgos.
Una reciente encuesta de la consultora Baker McKenzie, citada por el World Economic Forum (WEF), señala que de 500 ejecutivos de primera línea encuestados en EEUU, sólo el 4% piensa que los riesgos asociados con el uso de IA son significativos. Menos de la mitad dijo que tiene abordan cuestiones de IA a nivel de directorio.
Muchas organizaciones no están preparadas para la IA y subestiman los riesgos, lo que hace que la voluntad de implementar esta tecnología sea preocupante sin las medidas de seguridad adecuadas.
Afortunadamente, al establecer estructuras sólidas de gobernanza y supervisión, las organizaciones pueden resistir estas mareas tecnológicas sin importar dónde se encuentren en sus viajes de IA.
La nota del WEF apunta a que la solución a largo plazo para gestionar el riesgo relacionado con la IA dependerá del esfuerzo regulatorio conjunto entre legisladores y actores privados. Sólo así se podrá promover los códigos de práctica o los marcos de orientación que reconozcan tanto las oportunidades como los riesgos que presenta esta tecnología.
Con un marco seguro implementado, las organizaciones pueden permitirse implementar la tecnología de IA y aprovechar sus beneficios con mayor confianza.
Inteligencia Artificial generativa
En esta nueva fase de IA generativa, los principios básicos en torno a la adopción de IA, como la gobernanza, la responsabilidad y la transparencia, son más importantes que nunca, al igual que las preocupaciones sobre las consecuencias de una IA mal implementada.
Por ejemplo, los algoritmos no controlados pueden generar resultados sesgados y discriminatorios, perpetuando desigualdades y frenando la diversidad de la fuerza laboral. La privacidad de los datos son otra preocupación. La necesidad de invertir en ciberseguridad es cada vez mayor, en la medida en que la IA también puede ser utilizada por terceros mal intencionados.
Gobernanza
La IA también ha dado paso a nuevas consideraciones de propiedad intelectual, lo que plantea interrogantes sobre la a uién pertenecen las entradas y salidas de programas de terceros. Emergen entonces nuevas batallas por los derechos de autor.
Las organizaciones que implementan IA generativa también deben asumir que los proveedores externos de la tecnología recopilarán los datos introducidos en las herramientas y consultas de IA. En algunos casos, estos proveedores tendrán derechos de uso y divulgación de estos insumos.
La IA generativa está cambiando el paradigma y seguirán surgiendo riesgos en torno a casos de uso específicos. Para mantenerse a la vanguardia, las organizaciones deberán mover los enfoques actuales más allá de los esfuerzos aislados y reunir funciones discretas bajo el paraguas de un marco de gobernanza sólido.
En este entorno de alto riesgo aparece la figura del CAIO (sigla de Chief Artificial Intelligence Officer, equivalente a gerente de Inteligencia Artificial). Este ejecutivo o ejecutiva desempeñará un papel fundamental para garantizar que exista una gobernanza y supervisión relevantes, involucrando a Recursos Humanos en la capacitación y el fomento de un equipo multifuncional de IA en las empresas.