¿Qué herramientas de IA puedes usar en tu empresa?
Como marco para que comprendas cómo puedes usar la IA en tu empresa, preguntamos a una IA acerca de cuáles son las herramientas que ofrece esta tecnología para ayudar a las corporaciones. Esta es su respuesta:
- Asistentes generativos y productividad general. Estas herramientas te ayudarán en tareas como redactar correos, resumir documentos, realizar lluvias de ideas o gestionar datos. Encontramos asistentes clave (en esta categoría entran ChatGPT, Claude, o Google Gemini) y espacios de trabajo integrados (por ejemplo, herramientas como Notion AI te permiten ordenar ideas y redactar textos dentro de tu misma documentación de empresa).
- Marketing y creación de contenidos. La IA puede ayudarte a diseñar campañas, optimizar correos o generar textos persuasivos. Por ejemplo, en materia de diseño y creatividad, programas como Canva ofrecen herramientas visuales automáticas, redimensionamiento y sugerencias para redes sociales. También puedes generar textos para publicidad con herramientas como Copy.ai.
- Atención al cliente y ventas. La automatización de respuestas al usuario y los chatbots entran en esta categoría y permiten dar respuesta a consultas frecuentes.
- Gestión de reuniones y operaciones. Labores de secretariado como la transcripción de reuniones y la elaboración de resúmenes de lo debatido son especialmente útiles. Lo mismo se aplica a la optimización de la gestión a través de, entre otras, Google Workspace y sus IAs integradas, que permiten dominar correos, generar hojas de cálculo y ordenar la información.
Más allá de todo ello, cada sector puede contar con IAs específicas diseñadas para optimizar su rama de actividad. Por ejemplo, en el marco de la abogacía, ya existen IAs jurídicas que transforman el contenido de sentencias y normas en argumentos y escritos con los que defender los intereses de los clientes del despacho. Ademas, existen IAs más complejas y polémicas que rozan (o sobrepasan) los límites de la legalidad: es el caso de las IA de reconocimiento facial usadas con fines de clasificación humana, las deep fake o los algoritmos puestos al servicio de la selección de personas como aptas o no para recibir un préstamo o conseguir una beca.
La gran duda es entonces cuál es el papel de la inteligencia humana en este nuevo marco de trabajo. ¿Es ético (y debe ser legal) delegar áreas de trabajo enteras a una IA, o es imprescindible la supervisión humana en todos estos procesos? ¿Puede delegarse la toma de decisiones estratégicas a una IA? ¿Cómo se reparten las responsabilidades en caso de error o ‘alucinación’? ¿De qué forma evitar el engaño o la manipulación del usuario mediante el uso de IA?
Todos hemos oído hablar de casos de discriminación y sesgos en la gestión de recursos humanos cuando se deja en manos de una IA la toma de decisiones en materia de contratación, promoción o despidos. Además, son frecuentes los casos de violación de derechos de autor por el uso de textos, imágenes o códigos por parte de la IA (y de su usuario) sin consentimiento. La generación de imágenes sexuales utilizando IA también ha despertado las alertas. Los retos en materia de protección de datos también son enormes, en un marco regulatorio a nivel europeo especialmente garantista.
La realidad es que la lista de retos y posibles vulnerabilidades seguirá aumentando a medida que se siga desarrollando e implantando esta tecnología en nuestras vidas. Precisamente por eso es tan importante contar con un marco legal claro y homogéneo en el que movernos con seguridad dentro del universo empresarial y profesional.
La Ley de Inteligencia Artificial en España: cómo afecta a las empresas
En este marco hemos recibido la noticia de que el Gobierno ya trabaja en la futura Ley de Inteligencia Artificial, una norma que dará mucho que hablar durante su tramitación, y que introduce al ordenamiento jurídico español el reglamento europeo de IA, en vigor de forma completa desde el 2 de agosto de 2026. En estas normas se combinan un enfoque regulador con el impulso a una innovación «segura, humanista y garantista». Ambas normas afectan de forma transversal a distintos sectores, incluyendo la empresa privada y las administraciones públicas.
Estas son las principales claves la Ley de Inteligencia Artificial para pymes y empresas en general, así como las principales obligaciones que emanan del Reglamento de IA europeo:
-
Las empresas usuarias de IA son responsables y pueden sufrir importantes sanciones
En concreto, se considera «responsable del despliegue» de los sistemas de IA a la persona física o jurídica o autoridad pública, órgano u organismo que «utilice un sistema de IA bajo su propia autoridad, salvo cuando su uso se enmarque en una actividad personal de carácter no profesional». Por tanto, las personas físicas no profesionales quedan excluidas.
-
Identificar el nivel de riesgo es clave
Las empresas que utilicen sistemas de IA deben identificar el nivel de riesgo de dichos sistemas para identificar cuáles son sus obligaciones. El reglamento clasifica la IA en cuatro niveles de riesgo, exigiendo desde medidas de transparencia para riesgos limitados hasta estrictas auditorías y supervisión humana para los sistemas de alto riesgo.
Sistemas de riego inaceptable
Es especialmente importante evitar el uso de sistemas de riesgo inaceptable, que son, entre otros, los que manipulan el comportamiento cognitivo, los que explotan vulnerabilidades de una persona o colectivo para alterar su comportamiento, los que realizan puntuación social (social scoring) o los que extraen emociones en el lugar de trabajo. Es el caso de los sistemas de IA que usan técnicas subliminales (imágenes o sonidos imperceptibles) para manipular decisiones sin consentimiento (por ejemplo, un chatbot que identifica usuarios con adicción al juego y les incita a entrar, con técnicas subliminales, en una plataforma de juego online).
También están prohibidos los sistemas que clasifican con biometría a las personas por raza u orientación política, religiosa o sexual (por ejemplo, un sistema de categorización facial biométrica capaz de deducir la orientación política o sexual de un individuo mediante análisis de sus fotos en redes sociales) o los que puntúan a individuos o grupos basándose en comportamientos sociales o rasgos personales como método de selección para, por ejemplo, denegarles la concesión de subvenciones o préstamos.
Sistemas de alto riesgo
El siguiente nivel es el de los sistemas de IA de alto riesgo: la mayoría de las obligaciones en torno al uso de IA en tu empresa se relacionan con el uso de este tipo de sistemas. Algunos ejemplos son:
- Los sistemas de IA que usan datos biométricos (sistemas de identificación biométrica a distancia, categorización biométrica según atributos o características sensibles o protegidos, sistemas de IA destinados al reconocimiento de emociones…).
- Los que afectan a infraestructuras críticas (por ejemplo, a la gestión del tráfico; o al suministro de agua, gas, calefacción o electricidad; etc.).
- Los relacionados con educación y formación profesional (para admitir o inadmitir a personas, para evaluar resultados de aprendizaje, para detectar comportamientos prohibidos durante un examen…).
- Los relativos a empleo, gestión de trabajadores y acceso al autoempleo (para la selección y contratación de personas, para filtrar solicitudes de empleo, para evaluar candidatos, para tomar decisiones que afecten a las condiciones laborales…).
- Los relativos al acceso y disfrute de los servicios privados esenciales y de los servicios y prestaciones públicas esenciales (por ejemplo, para decidir si una persona puede acceder o no a prestaciones públicas; para decidir sobre la solvencia económica de una persona; para evaluar riesgos en materia de seguros y tarifar al usuario; para valorar situaciones de emergencia en el marco de servicios de primera respuesta, como policía, bomberos o asistencia médica…), etc.
-
Ten en cuenta los principios éticos para el uso de la IA
Es importante usar como marco los llamados siete principios éticos para el uso de la IA que define la normativa comunitaria: acción y supervisión humanas; solidez técnica y seguridad; gestión de la privacidad y de los datos; transparencia; diversidad, no discriminación y equidad; bienestar social y ambiental, y rendición de cuentas. Esas directrices contribuyen al diseño de una IA coherente, fiable y centrada en el ser humano, en consonancia con los valores en los que se fundamenta la Unión.
En concreto, la supervisión humana es clave en caso de uso de sistemas de IA de alto riesgo, éstos pueden y deben ser vigilados de manera efectiva por personas físicas durante el período que estén en uso. Esta supervisión es responsabilidad de la empresa o profesional y debe tener como objetivo prevenir o reducir al mínimo los riesgos para la salud, la seguridad o los derechos fundamentales que pueden surgir.
También destaca la importancia de la transparencia y la comunicación. Las empresas son responsables de garantizar que los usuarios sean conscientes del uso de la IA, entre otros, de cara al uso de sistemas de categorización biométrica o de reconocimiento de emociones o sistemas de IA de uso general que generen o manipulen imágenes o contenidos de audio o vídeo que constituyan una ultra suplantación.
-
Las empresas, responsables de la alfabetización en materia de IA
Tanto proveedores como responsables del despliegue de sistemas de IA deben adoptar medidas precisas para garantizar que, en la mayor medida posible, su personal y demás personas que se encarguen en su nombre del funcionamiento y la utilización de sistemas de IA tengan un nivel suficiente de alfabetización en esta materia.
-
Un régimen sancionador con multas de hasta 35 millones de euros
En cuanto al régimen sancionador, la Ley se rige por principios de proporcionalidad y eficacia. Las sanciones pueden alcanzar hasta los 35 millones de euros o el 7 % del volumen de negocio en los casos más graves y hasta 500.000 euros o el 0,5 % del volumen de negocio en las más leves.
Eso sí, el texto proporciona flexibilidad para las autoridades en la aplicación de las sanciones, adaptándolas a la gravedad, intencionalidad o reincidencia. Además, se incorporan mecanismos que priorizan la corrección frente a la penalización, como las reducciones de sanción por pronto pago o la adopción de medidas correctoras, así como la consideración específica del tamaño empresarial para proteger a pymes y startups, en línea con lo indicado en el RIA.
-
Conoce el marco de gobernanza en España
La Ley concreta y establece un marco de gobernanza en España mediante la designación de autoridades notificantes y autoridades de vigilancia del mercado, encargadas de supervisar el cumplimiento de la normativa.
Entre otras cosas, establece que aquellos productos ya regulados por normas sectoriales, como maquinaria, juguetes, vehículos o productos sanitarios, mantendrán su misma autoridad notificante y autoridad de vigilancia del mercado, en línea con la propuesta del Reglamento de IA.
El resto de los sistemas no regulados por legislación de producto, como los relativos al empleo, biometría o educación, se atribuyen principalmente a la Agencia de Supervisión de Inteligencia Artificial (AESIA), así como a la Agencia Española de Protección de Datos (AEPD) y el Consejo General del Poder Judicial (CGPJ), en función del ámbito a supervisar.
También promueve un modelo de colaboración institucional reforzado, incluyendo mecanismos de coordinación entre autoridades y un punto de contacto único para cuestiones de supervisión a través de la AESIA.
Claves para cumplir con la normativa europea y española sobre IA en tu empresa
Partiendo de todo lo anterior, existen una serie de claves o pasos para cumplir con la normativa IA en tu empresa. Son los siguientes:
- Define tu rol. Si tu empresa es usuaria de sistemas de IA, deberás moverte en un marco de obligaciones específico para este rol. Por eso el primer paso consiste en identificar si tu empresa está obligada a cumplir con ciertas obligaciones en función de su papel en la cadena. No es lo mismo ser proveedor de sistemas de IA que ser responsable de despliegue, entre otros posibles roles.
- Considera si utilizas sistemas de IA de alto riesgo. La mayoría de las obligaciones en torno al uso de IA en tu empresa se relacionan con el uso de este tipo de sistemas.
-
Prepara un paquete de cumplimiento normativo en materia de IA. Necesitarás apoyo legal para identificar aquellos aspectos en los que es necesario actuar de forma preventiva, especialmente si utilizas sistemas de IA de alto riesgo. En concreto, es importante diseñar un sistema de gestión de riesgos (artículo 9 del Reglamento), cumplir con todos los requisitos en materia de gobernanza de datos; generar y conservar registros de comportamiento del sistema y garantizar la supervisión humana del sistema de IA, entre otras cosas.
-
Alfabetiza a los responsables del uso de sistemas de IA en tu organización. Las empresas deberán adoptar las medidas necesarias para formar a las personas encargadas de usar sistemas de IA de alto riesgo, así como auditar de forma activa su uso para reducir riesgos y evitar casos de mal uso.
-
Garantiza la transparencia. Es importante, especialmente en caso de uso de IA de alto riesgo, que el usuario tenga claro cuándo se está haciendo uso de estos sistemas de IA. Para ello puedes recurrir a avisos al usuario, mecanismos de etiquetado de contenidos sintéticos y protocolos internos de publicación cuando se utilicen sistemas capaces de generar o manipular texto, audio, imagen o vídeo. Muchos de los incumplimientos pueden derivar de quejas de personas afectadas.
Estas son solo algunas pinceladas de una normativa compleja que, sin embargo, es de aplicación a cualquier empresa que trabaje con herramientas de inteligencia artificial. Si tienes dudas al respecto, ponte en contacto con nuestro equipo de abogados especialistas en inteligencia artificial y evita incumplimientos y sanciones. Te ayudaremos a integrar estas herramientas de forma segura en tu organización.
