Carlos Méndez Garrido: “Las claves para una integración de la IA en las empresas centrada en las personas han de ser la transparencia, la seguridad y la autonomía”

Timia es una consultora de nueva generación, que nace con la IA en su ADN, lo que quiere decir que para nosotros la IA es un medio -no un fin-, y como tal lo aplicamos en todos nuestros proyectos para clientes como en la gestión diaria de la compañía (selección personal, finanzas, etc.).

Creo que complicado generalizar, y no existe una formula genérica que funcione para todo el mundo, pero sí existen ciertas prácticas que creo que pueden ayudar.

• Conocer cuáles son las principales ventajas que da la tecnología hoy en día; generación de contenido, generar resúmenes de información, asistentes virtuales, y personalización de contenidos, etc.
• Formar y evangelizar a la organización sobre la tecnología top-down y bottom-up.
• Enforcarse en lo que es sería la ‘fruta madura’; es decir, casos de uso donde haya un beneficio claro y directo.
• Adoptar la IA como una herramienta más en la actividad cotidiana de la organización.

Entrevista a Carlos Méndez Garrido, Director General de TIMIA

This is «Entrevista a Carlos Méndez Garrido, Director General de TIMIA» by APD on Vimeo, the home for high quality videos and the people who love them.

El uso ético de la IA es un tema interesante y con muchos matices que da para hablar largo y tendido. De una manera sencilla diría que lo que se busca es una IA que esté centrada en las personas (human-centric), cuyo propósito sea aumentar las capacidades del hombre y el bienestar social. Y aquí entran temas como la trasparencia (entender la lógica detrás de los algoritmos), evitar un uso dañino de la IA, controlar los sesgos en los modelos que se usen, velar por la autonomía de los modelos, cuidar los aspectos medioambientales, fomentar la seguridad…

En Timia, el uso ético, práctico y humano de la IA forma parte de como entendemos nuestro trabajo.

La UE ha definido un marco regulatorio basado en el tipo de riesgo, tanto para el desarrollo como para el uso, contemplando desde riesgos inaceptables hasta riesgos limitados. En este sentido, y bajo mi punto de vista, el caso que hay que prestar especial atención es el de los sistemas denominados de alto riesgo, donde entrarían sistemas de IA de gestión de infraestructuras críticas (utilities, transporte…), gestión educativa (acceso, evaluación, supervisión,…), gestión de trabajadores (selección, promoción,…), o el acceso y disfrute de servicios públicos y privados esenciales. En estos casos se tendrán que aplicar procesos de validación y supervisión en cuanto a la funcionalidad y pruebas del sistema, así como disponer de un sistema de gestión de riesgos.