El Club Excelencia en Gestión, asociación multisectorial sin ánimo de lucro, que genera y comparte conocimiento sobre gestión y transformación de las organizaciones, ha celebrado la sesión ‘Iniciándonos en la IA: Fundamentos y aplicaciones prácticas’. Un taller online dirigido por Enric Delgado, director del equipo de Client Engineering de IBM en España, Portugal, Grecia e Israel. Ha ofrecido una clase magistral que ha servido para plasmar, entre otros aspectos, los riesgos que se pueden generar en las empresas al utilizar herramientas de inteligencia artificial generativa.
Delgado se ha referido concretamente a los modelos propios, diseñados bien desde el inicio desde las propias organizaciones a través de la inyección de una gran inversión, bien con la utilización de los llamados ‘modelos fundacionales’, con una base ya predefinida pero que se pueden transformar y personalizar con “pequeños retoques”.
Estas herramientas deben servir para mejorar la eficiencia y la productividad de manera ética y responsable, siempre con la supervisión humana por delante, puesto que dejar funcionar a la IA a su libre albedrío es una práctica plagada de riesgos que pueden poner en peligro la sostenibilidad de cualquier organización.
Estas son las 5 claves para evitar problemas si nuestra empresa utiliza IA generativa
1)Alucinaciones: Este término se refiere a los errores o distorsiones que pueden aparecer en la generación de texto e imágenes porque los algoritmos de nuestro modelo decodifican incorrectamente la información. Es decir: se crea contenido que no está basado en datos reales, incluyendo vídeos manipulados que representan a personas que hacen cosas que nunca han sucedido.
2)La alimentación del modelo: Hay que entrenar a nuestro modelo con datos lo más curados y filtrados posible, teniendo en cuenta aspectos legales y éticos. Es fácil, y no por ello lícito, utilizar datos protegidos, sensibles o personales, sin consentimiento, una grave falta que se debe evitar. Lo mismo ocurre con los datos sesgados que pueden promover resultados discriminatorios: por edad, género, religión, lugar de nacimiento, color de la piel, etc.
3)Utilización poco constructiva: Un mal uso de nuestros algoritmos (por ejemplo, introduciendo información falsa, insultos o palabras malsonantes) puede desembocar en la generación de (des)información tóxica y agresiva, que genere odio. O en el uso no consentido de la imagen de las personas, lo cual puede repercutir en un resultado negativo para la organización.
4)Modelos transparentes y explicables: Desde los puestos de liderazgo de cada organización es importante saber explicar cómo se han diseñado las herramientas personalizadas de IA, cómo se han entrenado y cómo se está siguiendo su evolución para comprobar que los modelos se están comportando como deben y atajar desviaciones. Incluso, publicarlo en la propia web como ejercicio de transparencia. Acciones de este tipo indican que se ha asumido una responsabilidad y un compromiso asociados al cumplimiento de la ley y de la ética, lo que aporta confianza.
5)Introducción en el motor de la gestión: El gobierno de una organización no sólo debe ser transparente de puertas hacia fuera y contar cómo funcionan sus algoritmos, también a nivel interno. Hay que hacer partícipes a todas las personas que trabajan en ella de cómo es y cómo funciona el modelo, cómo se va a introducir en los engranajes del día a día para facilitar la labor de los trabajadores y mejorar el rendimiento, etc. Aportar todo este conocimiento a los miembros de la organización es vital para mejorar los niveles de control y minimizar los riesgos.
En definitiva, la supervisión humana es vital para que la IA genere un impacto positivo en cualquier organización. De hecho, la apuesta por la innovación y la actualización constante en el ámbito tecnológico es una de las palancas de acción de esa Gestión 5.0 que está muy presente en el Modelo EFQM, modelo de gestión impulsado en España por el Club Excelencia en Gestión.
El Modelo EFQM es una herramienta que permite medir el grado de madurez de la gestión, a nivel integrado, de una organización, para afrontar de forma ágil la transformación, necesaria para la sostenibilidad de cualquier organización a lo largo del tiempo, buscando un equilibrio entre la mejora de su funcionamiento en el presente y su preparación para el futuro.
Cargando ...
