El año 2024 ha redistribuido las cartas del sector tecnológico en varios frentes simultáneos. Entre la entrada en vigor del reglamento europeo sobre inteligencia artificial, el auge de los agentes de IA autónomos y las crecientes tensiones sobre la ciberseguridad de las cadenas de suministro, el panorama tecnológico ya no se reduce a una carrera por el rendimiento. El marco regulatorio, los usos concretos en las empresas y las limitaciones técnicas dibujan un cuadro más matizado que los anuncios espectaculares del CES de Las Vegas.
AI Act: cuando la regulación europea redefine la innovación
El reglamento (UE) 2024/1689, publicado en el Diario Oficial de la Unión Europea el 12 de junio de 2024, constituye el primer marco jurídico vinculante en el mundo dedicado a la inteligencia artificial. Su lógica se basa en una clasificación de los sistemas de IA por nivel de riesgo, con obligaciones graduales que van desde la prohibición pura (puntuación social, manipulación subliminal) hasta simples requisitos de transparencia para los usos de bajo riesgo.
Este texto no regula una empresa en su totalidad. Cada sistema de IA debe ser evaluado individualmente según su uso y su contexto de despliegue. Concretamente, esto obliga a las organizaciones a inventariar sus herramientas, documentar cada caso de uso e integrar requisitos de trazabilidad en los contratos firmados con sus proveedores de IA.
La conformidad se convierte así en una tendencia tecnológica operativa. Los equipos técnicos deben formar a los colaboradores, implementar auditorías internas y adaptar sus procesos de desarrollo. Para las pymes, el costo de la conformidad sigue siendo una incógnita, y los retornos del terreno divergen sobre la capacidad de las pequeñas estructuras para absorber estas nuevas restricciones sin acompañamiento dedicado.
Persiste un ángulo muerto: la responsabilidad civil en caso de error de una IA no está cubierta por el AI Act. El reglamento regula la seguridad y la transparencia, pero la cuestión de quién indemniza a un paciente víctima de un diagnóstico erróneo o a un candidato excluido por un algoritmo de reclutamiento defectuoso sigue abierta ante las jurisdicciones nacionales.
Siguiendo las noticias del sitio Techronix, se mide hasta qué punto esta dimensión regulatoria ya influye en las decisiones tecnológicas de las empresas francesas, mucho más allá del único sector de la IA.
Agentes de IA autónomos: más allá de la generación de texto
La IA generativa dominó las discusiones en 2023 con la producción de texto, imágenes y código. En 2024, el giro se dirige hacia la agentificación. Los modelos ya no se limitan a responder a una solicitud aislada: encadenan tareas, interactúan con otros sistemas y toman decisiones intermedias sin validación humana en cada etapa.
Los casos de aplicación más avanzados se refieren a la gestión de cadenas de suministro y el mantenimiento predictivo industrial. Un agente de IA puede analizar los datos de sensores, desencadenar un pedido de piezas de repuesto y planificar una intervención técnica, todo de manera coordinada.
Los límites concretos de la autonomía
Esta creciente autonomía plantea preguntas que los datos disponibles aún no permiten resolver. La fiabilidad de los razonamientos en cadena sigue siendo desigual según los ámbitos. Un agente eficaz en logística puede producir resultados aberrantes en un contexto médico o jurídico, donde los márgenes de error aceptables son mucho más bajos.
Las empresas que despliegan estos agentes deben arbitrar entre varias restricciones:
- El grado de supervisión humana a mantener, que varía según el sector y el nivel de riesgo definido por el AI Act
- La calidad y la frescura de los datos de entrenamiento, de los cuales depende directamente la pertinencia de las decisiones automatizadas
- La integración a los sistemas existentes, a menudo diseñados para procesos secuenciales y no para agentes capaces de actuar en paralelo
La agentificación transforma la IA de una herramienta de producción en un actor decisional, lo que modifica en profundidad la manera en que los equipos técnicos conciben sus arquitecturas de software.
Ciberseguridad y cadena de suministro digital: la superficie de ataque se amplía
El desarrollo del teletrabajo y la multiplicación de interconexiones entre proveedores han ampliado considerablemente la superficie de ataque de las empresas. En 2024, la ciberseguridad de la cadena de suministro digital se impone como un tema de gobernanza, y no solo como un problema técnico.
La IA desempeña un doble papel en este ámbito. Por un lado, permite detectar comportamientos anormales en las redes con una reactividad que los equipos humanos solos no pueden alcanzar. Por otro lado, los ciberataques potenciados por la IA generativa ganan en sofisticación, especialmente en la creación de campañas de phishing personalizadas a gran escala.
Evaluar el riesgo del proveedor de otra manera
Los enfoques tradicionales de ciberseguridad se basaban en la protección del perímetro interno. Esta lógica ya no se sostiene cuando una empresa depende de decenas de proveedores de la nube, de API de terceros y de modelos de IA proporcionados por editores externos. Las organizaciones más avanzadas implementan una gestión continua de la exposición a amenazas, que mapea constantemente los puntos de vulnerabilidad a lo largo de toda la cadena de valor.
- La auditoría de seguridad puntual cede el lugar a una vigilancia en tiempo real de las dependencias de software
- Los contratos con los proveedores de IA ahora integran cláusulas de trazabilidad y notificación de incidentes
- La formación de equipos no técnicos en la detección de amenazas relacionadas con la IA se convierte en una prioridad en los planes de ciberseguridad
Robótica y energía: las infraestructuras físicas alcanzan al software
Las innovaciones de software captan la atención mediática, pero los avances en robótica basada en IA y en infraestructura energética condicionan la viabilidad de estas tecnologías a medio plazo. Los robots domésticos e industriales presentados en el CES 2024 integran capacidades de percepción y decisión alimentadas por modelos de IA incorporados.
Sin embargo, el consumo energético de los centros de datos relacionados con la IA plantea un problema estructural. El auge de los modelos generativos y de los agentes autónomos requiere una capacidad de cálculo creciente, lo que reabre el debate sobre la energía nuclear como fuente de energía para las infraestructuras digitales.
Las tendencias tecnológicas de 2024 no se leen como una lista de productos a comprar. Dibujan un ecosistema donde la regulación, la seguridad y las restricciones energéticas pesan tanto como el rendimiento bruto de los algoritmos. Las empresas que se beneficiarán de estas innovaciones serán aquellas que hayan comprendido que la conformidad y la robustez cuentan ahora tanto como la velocidad de adopción.
