Subrayando la importancia de aspectos como la transparencia, la seguridad o la autonomía de los modelos de IA, Carlos Méndez Garrido, Director General de Timia España, analiza en la presente entrevista los imprescindibles a la hora de integrar con éxito la IA en el seno de cualquier compañía.
Timia es una consultora de nueva generación, que nace con la IA en su ADN, lo que quiere decir que para nosotros la IA es un medio -no un fin-, y como tal lo aplicamos en todos nuestros proyectos para clientes como en la gestión diaria de la compañía (selección personal, finanzas, etc.).
Creo que complicado generalizar, y no existe una formula genérica que funcione para todo el mundo, pero sí existen ciertas prácticas que creo que pueden ayudar.
Entrevista a Carlos Méndez Garrido, Director General de TIMIA
This is «Entrevista a Carlos Méndez Garrido, Director General de TIMIA» by APD on Vimeo, the home for high quality videos and the people who love them.
El uso ético de la IA es un tema interesante y con muchos matices que da para hablar largo y tendido. De una manera sencilla diría que lo que se busca es una IA que esté centrada en las personas (human-centric), cuyo propósito sea aumentar las capacidades del hombre y el bienestar social. Y aquí entran temas como la trasparencia (entender la lógica detrás de los algoritmos), evitar un uso dañino de la IA, controlar los sesgos en los modelos que se usen, velar por la autonomía de los modelos, cuidar los aspectos medioambientales, fomentar la seguridad…
En Timia, el uso ético, práctico y humano de la IA forma parte de como entendemos nuestro trabajo.
La UE ha definido un marco regulatorio basado en el tipo de riesgo, tanto para el desarrollo como para el uso, contemplando desde riesgos inaceptables hasta riesgos limitados. En este sentido, y bajo mi punto de vista, el caso que hay que prestar especial atención es el de los sistemas denominados de alto riesgo, donde entrarían sistemas de IA de gestión de infraestructuras críticas (utilities, transporte…), gestión educativa (acceso, evaluación, supervisión,…), gestión de trabajadores (selección, promoción,…), o el acceso y disfrute de servicios públicos y privados esenciales. En estos casos se tendrán que aplicar procesos de validación y supervisión en cuanto a la funcionalidad y pruebas del sistema, así como disponer de un sistema de gestión de riesgos.
