El reglamento europeo no solo regula a los gigantes tecnológicos. También obliga a la pyme que filtra currículums con un algoritmo o atiende a sus clientes con un chatbot.

Durante meses, muchas empresas celebraron la llegada de la inteligencia artificial a su operativa diaria. Criban candidatos en minutos, atienden clientes a cualquier hora y producen contenidos sin agencia. Pocas se preguntaron si esa operativa cumple la ley.

El Reglamento Europeo de Inteligencia Artificial (Reglamento UE 2024/1689), conocido como IA Act, se aplica de forma escalonada desde 2024. Una idea errónea se ha extendido entre pymes y autónomos: que la norma está pensada solo para OpenAI, Google o Microsoft. No es así. El reglamento también obliga a cualquier organización que utilice sistemas de IA en su actividad profesional, aunque no los haya desarrollado.

Cinco situaciones habituales muestran dónde está el riesgo.

1.  El filtro de currículums que nadie supervisa

Una empresa usa una herramienta de IA para descartar candidatos de forma automática. Los sistemas empleados en selección y gestión laboral están clasificados como de alto riesgo (Anexo III). Quien los utiliza debe garantizar supervisión humana, conservar registros, vigilar su funcionamiento e informar a los trabajadores afectados. Si el algoritmo penaliza, por ejemplo, las lagunas laborales asociadas a bajas de maternidad, la empresa se expone además a un problema de discriminación. Las multas por incumplir estas obligaciones alcanzan los 15 millones de euros o el 3 % de la facturación mundial.

Cómo aplicarlo: ninguna candidatura se descarta sin que una persona lo revise. Conviene exigir al proveedor documentación sobre sesgos y funcionamiento, y dejar constancia de cada decisión.

2.  El chatbot que se hace pasar por humano

Un asistente en la web o en WhatsApp responde con un tono tan natural que el cliente cree hablar con una persona. El reglamento impone una obligación de transparencia: el usuario debe saber que interactúa con una máquina, salvo que resulte evidente.

Cómo aplicarlo: basta con un aviso claro desde el primer mensaje, por ejemplo: «Soy un asistente virtual. Si lo prefieres, puedo derivarte a una persona del equipo».

3.  Marketing con contenidos sintéticos

Imágenes, voces clonadas o vídeos hiperrealistas generados por IA que simulan testimonios o situaciones reales. Quien difunde esto debe indicar que el contenido ha sido generado o manipulado artificialmente. Tanto este caso como el anterior pueden acarrear sanciones de hasta 15 millones de euros o el 3 % de la facturación.

Cómo aplicarlo: etiquetado visible en cada pieza y una regla interna clara: no se fabrican testimonios de clientes.

4.  Medir las emociones de la plantilla de colaboradores

Software que analiza microexpresiones o el tono de voz de los empleados en videollamadas o centros de atención telefónica para detectar estrés o desmotivación. El reconocimiento de emociones en el entorno laboral está prohibido (artículo 5) salvo por razones médicas o de seguridad. Es la infracción más grave del reglamento: hasta 35 millones de euros o el 7 % de la facturación mundial. Si ese análisis se aplica a clientes, la herramienta pasa a considerarse de alto riesgo y la empresa está obligada a informarles.

Cómo aplicarlo: revisar las funciones «analíticas» de las plataformas de contact center y videoconferencia, y desactivar cualquier módulo de análisis emocional dirigido a empleados.

5.  La caja negra que decide quién tiene crédito

Algoritmos o aplicaciones que evalúan la solvencia de una persona para conceder financiación o pagos aplazados. También se consideran alto riesgo: exigen explicabilidad, control humano y, en determinados casos, una evaluación de impacto en derechos fundamentales.

Cómo aplicarlo: toda denegación debe poder explicarse y revisarse por una persona, y el cliente debe tener una vía para impugnarla.

La clave: 3 pilares para cumplir sin frenar la innovación

La respuesta no pasa por prohibir la IA en la empresa, sino por gobernarla. Tres medidas marcan la diferencia:

●      Alfabetización en IA. El artículo 4, aplicable desde febrero de 2025, exige que el personal que utiliza estos sistemas tenga una competencia suficiente. La formación deja de ser un beneficio opcional y pasa a ser una obligación.

●      Inventario de herramientas y control de proveedores. La empresa debe saber qué sistemas de IA usa, para qué y con qué nivel de riesgo, y exigir por contrato garantías de cumplimiento y confidencialidad.

●      Supervisión humana real. Ninguna decisión que afecte de forma significativa a personas debería quedar en piloto automático. La última palabra corresponde a un profesional.

La IA Act no pretende frenar la innovación, sino acabar con la negligencia. La ventaja competitiva ya no depende solo de la potencia de los algoritmos, sino del rigor con el que se aplican. Las empresas que lo entiendan hoy evitarán sanciones y ganarán algo más difícil de recuperar: la confianza de sus clientes y de sus equipos.