Utilizar IA para acompañar aprendizaje no es equivalente a utilizarla para seleccionar, promocionar o disciplinar. El riesgo depende del propósito, los datos, las decisiones influidas y el daño posible. Por eso RR. HH. debe evaluar el caso de uso real y no la etiqueta comercial del producto.
Empezar por un mapa de decisiones
Documenta qué hace el sistema, qué recomendaciones genera, quién las recibe y qué decisión podría verse afectada. Si una salida puede influir en empleo, remuneración, asignación de tareas o evaluación, el nivel de control necesario aumenta.
Un asistente de práctica que propone preguntas al usuario tiene un perfil distinto de una herramienta que puntúa su idoneidad para una promoción.
Ocho controles mínimos
- Propósito definido: describir usos permitidos y prohibidos.
- Base y minimización de datos: recoger solo lo necesario y justificarlo.
- Transparencia: informar claramente cuándo se interactúa con IA.
- Separación de finalidades: no reutilizar datos de apoyo para disciplina.
- Acceso limitado: aplicar roles, registro y revisión de permisos.
- Supervisión efectiva: asignar una persona capaz de intervenir.
- Evaluación: probar calidad, sesgos, errores y efectos inesperados.
- Salida y reclamación: permitir detener el uso y cuestionar resultados.
Datos de bienestar: mayor prudencia
La información sobre estrés, salud o estado emocional puede ser especialmente sensible. Medir tendencias agregadas y voluntarias es diferente de construir perfiles individuales para decisiones laborales. La organización debe explicar quién ve qué, durante cuánto tiempo y con qué objetivo.
No todo lo técnicamente inferible debe inferirse. En desarrollo humano, la confianza es parte del mecanismo de impacto; perderla invalida el programa aunque el modelo funcione según sus métricas técnicas.
Qué aporta el AI Risk Management Framework
NIST organiza la gestión del riesgo en cuatro funciones: gobernar, mapear, medir y gestionar. El valor del marco está en convertir principios generales en responsabilidades y controles durante todo el ciclo de vida, no solo antes del lanzamiento.
El contexto del AI Act
El Reglamento Europeo de IA aplica un enfoque basado en riesgo y contempla usos de empleo entre las áreas que pueden requerir obligaciones elevadas. Además, existen prohibiciones y deberes de transparencia. La clasificación concreta debe revisarse con asesoramiento jurídico y evidencia del funcionamiento real.
Diseño de ChVmpionMind
La arquitectura de un acompañamiento responsable debe mantener a la persona en control de sus objetivos, limitar el uso de señales personales y reservar decisiones relevantes a humanos. La IA sostiene continuidad; no debe convertirse en juez invisible.
Checklist final: si un empleado pregunta “qué datos utiliza, quién los ve, qué decisión cambia y cómo puedo corregirlo”, la organización debería poder responder en menos de dos minutos y sin lenguaje evasivo.
Fuentes
- Unión Europea. AI Act. https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai
- AI Act Service Desk. Clasificación de sistemas de alto riesgo. https://ai-act-service-desk.ec.europa.eu/en/guideline-explorer
- NIST. AI Risk Management Framework. https://www.nist.gov/itl/ai-risk-management-framework
