La Comisión Europea publicó esta mañana el borrador de directrices sobre qué cuenta como sistema de IA de alto riesgo bajo el Anexo III del Reglamento de IA, en fase de consulta pública. La sección de empleo (punto 4) es más concreta que nada de lo que la Comisión había puesto por escrito hasta ahora, y dentro hay un ejemplo que cualquiera que opere una plataforma de talento de dos lados tiene que leer dos veces.
El ejemplo, en la página 66 del borrador, describe una plataforma en línea «diseñada para ayudar a consumidores a encontrar un proveedor de servicios autónomo», que usa una herramienta de matching con IA para ordenar proveedores y determinar cuáles se presentan a clientes potenciales. La conclusión de la Comisión no deja hueco: esto cae dentro del punto 4(a) del Anexo III, el sistema «afecta directa y significativamente a la selección de personas físicas», su salida condiciona el acceso a encargos futuros y «puede tener un impacto decisivo en la carrera de los trabajadores autónomos, así como en su sustento y sus derechos», y ninguna de las excepciones del artículo 6.3 resulta aplicable. Alto riesgo. Sin filtro disponible.
Ese párrafo se lleva por delante buena parte de la ambigüedad en la que vivía la categoría marketplace. El matching como verbo, cuando la salida la consume el lado comprador, está ahora explícitamente dentro del perímetro. Todo lo demás de la sección de RRHH del borrador se ramifica a partir de esa línea.
Qué dice de verdad el borrador sobre el matching
La lógica de la Comisión para el punto 4(a) es consistente en todos los ejemplos del capítulo, y conviene extraerla limpia porque casi todas las decisiones operativas de la IA en RRHH dependen ya de ella.
El ámbito personal es amplio. El punto 4 cubre «el empleo, la gestión de los trabajadores y el acceso al trabajo por cuenta propia», y la lectura que hace la Comisión del último término incluye explícitamente a freelancers, profesionales independientes, proveedores de servicios y trabajadores de plataforma, sea cual sea su vínculo contractual (párrafos 240 y 241). La noción de «lugar de trabajo» se define como cualquier espacio físico o virtual donde una persona realiza las tareas asignadas, incluido, por remisión, el trabajo coordinado a través de una plataforma.
Los disparadores de alto riesgo dentro del punto 4(a) son: publicar anuncios de empleo dirigidos, analizar y filtrar candidaturas, y evaluar candidatos. La Comisión trata los tres como verbos funcionales, no como etiquetas de producto. Todo lo que «influya de forma apreciable en el proceso de toma de decisiones», produciendo puntuaciones, rankings, categorías de encaje, listas cortas o perfiles de competencias que consume el lado que recluta, queda dentro.
El modelo es el mismo en los dos cuadrantes. La clasificación sigue a la audiencia.
El caso espejo es la única salida limpia. Dos de los ejemplos «fuera de ámbito» del capítulo son sistemas que recomiendan puestos a los candidatos y comparten esas recomendaciones exclusivamente con el candidato. Uno adapta el CV del candidato a una vacante abierta. El otro ordena vacantes para que las revise el candidato. En ambos el razonamiento de la Comisión es el mismo: el uso lo inicia y lo gestiona el candidato, el empleador nunca ve la salida, el sistema «ocurre fuera del proceso de reclutamiento y selección». Fuera del Anexo III.
El mismo motor. Distinta audiencia. Distinto régimen. La decisión de producto y la decisión jurídica son ahora la misma decisión, y la línea corta justo por la mitad de la superficie de producto de cualquier marketplace.
Dos exclusiones estructurales aprietan todavía más el régimen:
La elaboración de perfiles cierra el filtro. El último párrafo del artículo 6.3 excluye a cualquier sistema que realice elaboración de perfiles sobre personas físicas de poder acogerse a las exenciones del filtro. La Comisión lo subraya para los anuncios dirigidos (párrafo 250): si la segmentación se apoya en perfilado, el sistema es de alto riesgo, punto, sin escapatoria por tarea procedimental limitada.
El reconocimiento de emociones en el trabajo no es de alto riesgo, está prohibido. El artículo 5.1.f lo trata como práctica ilícita en sí misma. Cualquier sistema de matching, criba o evaluación que infiera emociones a partir del vídeo, la voz o el texto de un candidato queda fuera del debate de alto riesgo por completo. No puede desplegarse en absoluto (párrafo 242).
El ejemplo de la descripción de puesto enseña lo fina que es la prueba del verbo
La ilustración más clara de cómo funciona la línea viene de un segundo ejemplo del capítulo, en la página 64, sobre un sistema de IA que redacta descripciones de puesto.
En la primera versión, un recruiter humano fija los requisitos (título, titulaciones, competencias imprescindibles) y la IA solo redacta el texto. La Comisión lo clasifica como tarea procedimental limitada del artículo 6.3.a. Exento de alto riesgo. El sistema no influye de forma significativa en el proceso de candidatura; está haciendo lo que haría un copywriter.
En la segunda versión, la IA genera por su cuenta las titulaciones y competencias a partir de un brief de alto nivel, o asume tareas adyacentes que condicionan cómo se evaluará después a los candidatos. La clasificación pasa a ser condicional. Puede ser de alto riesgo, según cuánto se propaguen esas elecciones de arriba a las decisiones de abajo.
En la tercera versión, el mismo sistema además evalúa los CV recibidos contra la descripción que él mismo escribió. Alto riesgo. Sin exención posible. La Comisión es explícita: una herramienta que redacta los criterios y después puntúa candidatos contra esos criterios no puede considerarse una tarea procedimental limitada, por inocuo que parezca cada paso por separado.
La misma superficie de producto, tres clases de riesgo. La línea se mueve con el verbo, no con la funcionalidad.
La unidad de análisis no es el producto. Es el verbo del que se hace cargo el modelo. Escribir frente a decidir. Redactar frente a evaluar. Sugerir frente a seleccionar. Cuando cruzas la frontera del verbo cruzas la frontera de la clasificación, da igual cómo venga empaquetada la funcionalidad. Un humano aprobando una descripción que el modelo escribió y afinó para casar CV no basta para sacar al sistema. El verbo ya está delegado.
Qué mete dentro el borrador, con ejemplos
Leído contra el catálogo de productos de IA para RRHH que han salido en los dos últimos ciclos, el borrador cierra la puerta a una lista larga de patrones que hasta ahora vivían en una zona gris. Cada uno aparece nombrado, con ejemplo trabajado, dentro del punto 4(a). Ninguno se beneficia del filtro del artículo 6.3.
Herramientas automáticas de matching y ranking que procesan datos estructurados y no estructurados (CV, competencias, formación, colocaciones previas) y producen puntuaciones, rankings o categorías de encaje («top 5 candidatos», «encaje alto / bajo») para uso de recruiters internos o externos. La Comisión señala explícitamente que la existencia de discrecionalidad humana para «revisar, anular o complementar» las recomendaciones no cambia la clasificación, porque los rankings funcionan como insumo principal de la decisión.
Herramientas de sourcing de candidatos o contratistas que rastrean redes sociales, webs profesionales, portales de empleo y bases internas de CV con criterios predefinidos y generan listas cortas. La Comisión lo trata como efecto directo y significativo sobre la selección, con independencia de cómo se recojan los datos o de cómo se entregue la lista.
Matching de marketplace o plataforma que ordena proveedores autónomos para consumidores, el ejemplo con el que abríamos. Dentro de ámbito porque la salida condiciona oportunidades profesionales de personas físicas.
Anuncios de empleo dirigidos en plataformas sociales que van más allá de casar requisitos estrictos (acreditaciones, geografía) y priorizan audiencias usando señales de comportamiento o demográficas. La Comisión precisa que cuando esto se apoya en perfilado el sistema es automáticamente de alto riesgo; cuando no, sigue siéndolo si condiciona de forma significativa quién se entera de una vacante.
Sistemas de asignación de agencias de empleo que recomiendan candidatos a vacantes o vacantes a demandantes a partir de datos de CV procesados, clasificaciones ocupacionales y datos del mercado laboral, sobre todo cuando el personal se apoya en las recomendaciones para gestionar volumen.
Sistemas automáticos de verificación de antecedentes que producen puntuaciones o categorías de riesgo compuestas a partir de registros oficiales, historial de empleo, historial en redes y datos de crédito. La Comisión apunta el problema práctico: aunque haya formalmente un paso de revisión humana, en la práctica la salida del sistema pesa mucho en qué candidatos avanzan.
Sistemas de puntuación de respuestas de evaluación (escritas u orales) durante el reclutamiento, incluidas las entrevistas en vídeo conducidas por avatares que evalúan criterios lingüísticos y de contenido.
Lo que sobrevive, del lado del candidato, es lo inverso: un sistema que ayuda al candidato a adaptar su CV o a encontrar el puesto adecuado, con la salida compartida solo con el candidato. Ese es el patrón de diseño que la Comisión ha dibujado explícitamente.
Qué exime el borrador por el filtro del artículo 6.3
El otro lado del borrador también merece lectura atenta, porque dice qué no tiene que cargar con todas las obligaciones del Anexo III. Son sistemas que están dentro del caso de uso de empleo pero encajan en alguna exención del filtro.
Tareas procedimentales limitadas del artículo 6.3.a: verificación de acreditaciones profesionales contra registros oficiales con salida binaria de confirmación; agendado de entrevistas, incluidos ajustes de accesibilidad; envío de correos personalizados de acuse de recibo a las candidaturas.
Tareas preparatorias del artículo 6.3.d: reconocer y organizar la información de los CV recibidos en una base de datos interna que después consultan los propios recruiters. Aquí el encuadre de la Comisión importa: el sistema estructura, no evalúa.
Detección de patrones de decisión del artículo 6.3.c: auditorías retrospectivas de sesgo sobre datos históricos anonimizados de reclutamiento, siempre que la auditoría no influya en decisiones en curso ni evalúe a personas identificables.
Dos más que quedan fuera del punto 4(a) por completo: los anuncios genéricos de marca empleadora no ligados a una vacante concreta, y la monitorización de reputación del empleador sobre menciones anonimizadas.
El patrón es consistente en toda la lista de exentos. Cada sistema cumple una función acotada y definida cuya salida no condiciona de forma apreciable quién consigue el puesto. En cuanto cualquiera de ellos empieza a producir peso evaluativo, aunque sea puntuación blanda, aunque sea indirecto, cruza a la categoría de alto riesgo. El borrador es inusualmente explícito en que la prueba es funcional, no nominal.
La cláusula de abuelo y la ventana estratégica
Un detalle del texto general del Reglamento pesa más en este borrador que hasta ahora. El artículo 111.2 exime a los sistemas de alto riesgo introducidos en el mercado o puestos en servicio antes de la fecha de aplicación de las normas de alto riesgo. Esos sistemas no tienen que cumplir los requisitos del Anexo III salvo que sufran un cambio significativo de diseño después de esa fecha.
Para un proveedor de IA en RRHH, ese es el reloj estratégico. Los sistemas ya en producción conservan su posición jurídica actual mientras no se modifique materialmente su arquitectura. Cualquier reconstrucción, cualquier cambio relevante en el modelo, en la lógica de puntuación o en el plano de datos, mete al sistema en el nuevo régimen. La consecuencia es que los proveedores van a tener que elegir entre congelar los sistemas heredados, preservando la exención, y reconstruirlos bien bajo las obligaciones del Anexo III, con toda la pila de evaluación de conformidad, documentación, registro y vigilancia poscomercialización.
Los equipos que respeto en este espacio llevan más de un año trabajando contra la segunda opción, apostando a que la regulación aterrizaría más o menos donde ha aterrizado. Los que apostaron al revés están mirando ahora la cláusula de abuelo como una pausa táctica y no como una estrategia.
El verbo es la unidad
La lectura del texto de la Comisión a la que llegará casi todo el mundo esta semana es que el Reglamento ha salido más permisivo de lo esperado para algunas funcionalidades de RRHH y más estricto de lo esperado para los casos centrales de matching y evaluación. La Comisión ha trazado una línea que no coincide con la taxonomía de funcionalidades que usan los product managers. Coincide con la taxonomía jurídica de quién decide qué sobre quién.
Para marketplaces y negocios de plataforma la línea es más concreta que para casi cualquier otra categoría. El motor de matching mostrado al lado comprador carga con el Anexo III. El mismo motor mostrado al lado del talento no. El plano de datos se puede compartir. La superficie de producto no.
La traducción, para cualquiera que construya aquí, es dejar de discutir si el producto es de alto riesgo. El producto no es la unidad. El verbo es la unidad. Cada verbo del sistema recibe su propia clasificación. Las funcionalidades se componen. El riesgo también.
La ventana de consulta está abierta. El texto se va a mover antes de ser definitivo. Las decisiones de arquitectura que tomes contra este borrador son las que van a sobrevivir.