Het jaar 2024 heeft de kaarten in de technologiesector op verschillende fronten opnieuw verdeeld. Tussen de inwerkingtreding van de Europese verordening inzake kunstmatige intelligentie, de opkomst van autonome AI-agenten en de toenemende spanningen op het gebied van cyberbeveiliging van toeleveringsketens, is het techlandschap niet langer een race om prestaties. Het regelgevend kader, de concrete toepassingen in bedrijven en de technische beperkingen schetsen een meer genuanceerd beeld dan de spectaculaire aankondigingen van de CES in Las Vegas.
AI Act: wanneer de Europese regelgeving innovatie herdefinieert
De verordening (EU) 2024/1689, gepubliceerd in het Publicatieblad van de Europese Unie op 12 juni 2024, vormt het eerste bindende juridische kader ter wereld dat is gewijd aan kunstmatige intelligentie. De logica ervan is gebaseerd op een classificatie van AI-systemen op basis van risiconiveau, met geleidelijke verplichtingen variërend van een algehele verbod (sociale scoring, subliminale manipulatie) tot eenvoudige transparantie-eisen voor toepassingen met een laag risico.
Deze tekst reguleert niet een bedrijf als geheel. Elk AI-systeem moet individueel worden geëvalueerd op basis van het gebruik en de context van de implementatie. Concreet verplicht dit organisaties om hun tools in kaart te brengen, elk gebruiksgeval te documenteren en eisen voor traceerbaarheid op te nemen in de contracten met hun AI-leveranciers.
Conformiteit wordt zo een operationele technologische trend. Technische teams moeten medewerkers opleiden, interne audits opzetten en hun ontwikkelingsprocessen aanpassen. Voor KMO’s blijft de kostprijs van naleving een onbekende, en de ervaringen op de werkvloer verschillen over het vermogen van kleine structuren om deze nieuwe verplichtingen zonder specifieke ondersteuning op te vangen.
Er blijft een blinde vlek bestaan: de civiele aansprakelijkheid in geval van een fout van een AI is niet gedekt door de AI Act. De verordening regelt de veiligheid en transparantie, maar de vraag wie een patiënt compenseert die het slachtoffer is van een foutieve diagnose of een kandidaat die wordt afgewezen door een falend wervingsalgoritme, blijft open voor de nationale rechtbanken.
Door het nieuws op de Techronix-website te volgen, kan men inschatten hoezeer deze regelgevende dimensie nu de technologische keuzes van Franse bedrijven beïnvloedt, ver voorbij de enige AI-sector.
Autonome AI-agenten: verder dan tekstgeneratie
Generatieve AI domineerde de discussies in 2023 met de productie van tekst, beelden en code. In 2024 verschuift de focus naar agentificatie. De modellen beperken zich niet langer tot het beantwoorden van een geïsoleerde vraag: ze voeren taken uit, interageren met andere systemen en nemen tussentijdse beslissingen zonder menselijke validatie bij elke stap.
De meest geavanceerde toepassingsgevallen hebben betrekking op het beheer van toeleveringsketens en industriële voorspellende onderhoud. Een AI-agent kan gegevens van sensoren analyseren, een bestelling van reserveonderdelen activeren en een technische interventie plannen, alles op gecoördineerde wijze.
De concrete grenzen van autonomie
Deze toenemende autonomie roept vragen op die de beschikbare gegevens nog niet kunnen beantwoorden. De betrouwbaarheid van ketenredeneringen is ongelijk, afhankelijk van de domeinen. Een goed presterende agent in de logistiek kan bizarre resultaten opleveren in een medische of juridische context, waar de aanvaardbare foutmarges veel lager zijn.
Bedrijven die deze agenten implementeren, moeten een afweging maken tussen verschillende beperkingen:
- De mate van menselijke supervisie die moet worden gehandhaafd, die varieert afhankelijk van de sector en het risiconiveau dat door de AI Act is gedefinieerd
- De kwaliteit en actualiteit van de trainingsgegevens, waarvan de relevantie van de geautomatiseerde beslissingen direct afhankelijk is
- De integratie in bestaande systemen, die vaak zijn ontworpen voor sequentiële processen en niet voor agenten die parallel kunnen handelen
Agentificatie transformeert AI van een productietool naar een besluitvormende actor, wat de manier waarop technische teams hun software-architecturen ontwerpen diepgaand verandert.
Cyberbeveiliging en digitale toeleveringsketen: het aanvalsvlak breidt zich uit
De ontwikkeling van telewerken en de toename van de onderlinge verbindingen tussen leveranciers hebben het aanvalsvlak van bedrijven aanzienlijk vergroot. In 2024 wordt cyberbeveiliging van de digitale toeleveringsketen een onderwerp van governance, en niet langer alleen een technisch probleem.
AI speelt een dubbele rol op dit gebied. Aan de ene kant maakt het het mogelijk om abnormaal gedrag op netwerken te detecteren met een reactievermogen dat menselijke teams alleen niet kunnen bereiken. Aan de andere kant versterkte cyberaanvallen door generatieve AI worden steeds geavanceerder, met name in het creëren van op maat gemaakte phishingcampagnes op grote schaal.
Leveranciersrisico anders evalueren
Traditionele benaderingen van cyberbeveiliging waren gebaseerd op de bescherming van de interne perimeter. Deze logica houdt geen stand wanneer een bedrijf afhankelijk is van tientallen cloudleveranciers, externe API’s en AI-modellen die door externe uitgevers worden geleverd. De meest geavanceerde organisaties implementeren een continue beheersing van de blootstelling aan bedreigingen, die voortdurend de kwetsbaarheidspunten in de hele waardeketen in kaart brengt.
- De eenmalige beveiligingsaudit maakt plaats voor real-time monitoring van software-afhankelijkheden
- Contracten met AI-leveranciers bevatten nu clausules voor traceerbaarheid en incidentmelding
- De training van niet-technische teams in het detecteren van AI-gerelateerde bedreigingen wordt een prioriteit in cyberbeveiligingsplannen
Robotica en energie: fysieke infrastructuren halen software in
Software-innovaties trekken de media-aandacht, maar de vooruitgangen in robotica gebaseerd op AI en energie-infrastructuur bepalen de levensvatbaarheid van deze technologieën op middellange termijn. De huishoudelijke en industriële robots die op de CES 2024 werden gepresenteerd, integreren waarnemings- en besluitvormingscapaciteiten die worden aangedreven door ingebedde AI-modellen.
Daarentegen de energieconsumptie van datacenters gerelateerd aan AI vormt een structureel probleem. De opkomst van generatieve modellen en autonome agenten vereist een toenemende rekenkracht, wat de discussie over kernenergie als energiebron voor digitale infrastructuren nieuw leven inblaast.
De technologische trends van 2024 zijn niet te lezen als een lijst van te kopen producten. Ze schetsen een ecosysteem waarin regelgeving, veiligheid en energiebeperkingen even zwaar wegen als de brute prestaties van algoritmen. De bedrijven die profiteren van deze innovaties zullen degenen zijn die hebben begrepen dat naleving en robuustheid nu even belangrijk zijn als de snelheid van adoptie.
