Das Jahr 2024 hat die Karten im Technologiesektor auf mehreren Fronten neu gemischt. Mit dem Inkrafttreten der europäischen Verordnung über künstliche Intelligenz, dem Aufstieg autonomer KI-Agenten und den zunehmenden Spannungen in der Cybersicherheit der Lieferketten ist die Tech-Landschaft nicht mehr nur ein Wettlauf um Leistung. Der regulatorische Rahmen, die konkreten Anwendungen in Unternehmen und die technischen Grenzen zeichnen ein differenzierteres Bild als die spektakulären Ankündigungen der CES in Las Vegas.
AI Act: Wenn die europäische Regulierung Innovation neu definiert
Die Verordnung (EU) 2024/1689, die am 12. Juni 2024 im Amtsblatt der Europäischen Union veröffentlicht wurde, stellt den weltweit ersten verbindlichen Rechtsrahmen für künstliche Intelligenz dar. Ihre Logik basiert auf einer Kategorisierung von KI-Systemen nach Risikoniveau, mit schrittweisen Verpflichtungen, die von einem vollständigen Verbot (Sozialbewertung, subliminale Manipulation) bis hin zu einfachen Transparenzanforderungen für Anwendungen mit geringem Risiko reichen.
Dieser Text reguliert nicht ein Unternehmen als Ganzes. Jedes KI-System muss individuell bewertet werden, je nach Nutzung und Kontext der Bereitstellung. Konkret zwingt dies die Organisationen, ihre Werkzeuge zu erfassen, jeden Anwendungsfall zu dokumentieren und Anforderungen an die Rückverfolgbarkeit in die Verträge mit ihren KI-Anbietern zu integrieren.
Die Konformität wird somit zu einem operativen Technologietrend. Die technischen Teams müssen die Mitarbeiter schulen, interne Audits durchführen und ihre Entwicklungsprozesse anpassen. Für KMUs bleibt die Kostenfrage der Konformität eine Unbekannte, und die Rückmeldungen aus der Praxis variieren hinsichtlich der Fähigkeit kleinerer Strukturen, diese neuen Anforderungen ohne spezielle Unterstützung zu bewältigen.
Ein blinder Fleck bleibt bestehen: Die zivilrechtliche Verantwortung im Falle eines Fehlers einer KI ist nicht durch den AI Act abgedeckt. Die Verordnung regelt Sicherheit und Transparenz, aber die Frage, wer einen Patienten entschädigt, der Opfer einer fehlerhaften Diagnose wurde, oder einen Kandidaten, der durch einen fehlerhaften Rekrutierungsalgorithmus ausgeschlossen wurde, bleibt vor den nationalen Gerichten offen.
Durch das Verfolgen der Nachrichten auf der Website Techronix wird deutlich, wie sehr diese regulatorische Dimension mittlerweile die technologischen Entscheidungen französischer Unternehmen beeinflusst, weit über den Bereich der KI hinaus.
Autonome KI-Agenten: Über die Textgenerierung hinaus
Generative KI dominierte 2023 die Diskussionen mit der Erstellung von Text, Bildern und Code. Im Jahr 2024 vollzieht sich der Wandel hin zur Agentifizierung. Die Modelle beschränken sich nicht mehr darauf, eine isolierte Anfrage zu beantworten: Sie führen Aufgaben aus, interagieren mit anderen Systemen und treffen Zwischenentscheidungen, ohne dass jede Phase eine menschliche Validierung erfordert.
Die fortschrittlichsten Anwendungsfälle betreffen das Management von Lieferketten und die industrielle vorausschauende Wartung. Ein KI-Agent kann die Daten von Sensoren analysieren, eine Bestellung von Ersatzteilen auslösen und einen technischen Eingriff planen, alles koordiniert.
Die konkreten Grenzen der Autonomie
Diese wachsende Autonomie wirft Fragen auf, die die verfügbaren Daten noch nicht beantworten können. Die Zuverlässigkeit der Kettenargumentation bleibt je nach Bereich ungleich. Ein leistungsfähiger Agent in der Logistik kann in einem medizinischen oder rechtlichen Kontext absurde Ergebnisse liefern, in dem die akzeptablen Fehlermargen viel geringer sind.
Die Unternehmen, die diese Agenten einsetzen, müssen zwischen mehreren Einschränkungen abwägen:
- Der Grad der aufrechtzuerhaltenden menschlichen Aufsicht, der je nach Sektor und dem durch den AI Act definierten Risikoniveau variiert
- Die Qualität und Aktualität der Trainingsdaten, von denen die Relevanz der automatisierten Entscheidungen direkt abhängt
- Die Integration in bestehende Systeme, die oft für sequenzielle Prozesse und nicht für Agenten, die parallel agieren können, konzipiert sind
Die Agentifizierung verwandelt KI von einem Produktionswerkzeug in einen entscheidungsfähigen Akteur, was die Art und Weise, wie technische Teams ihre Softwarearchitekturen entwerfen, grundlegend verändert.
Cybersicherheit und digitale Lieferkette: Die Angriffsfläche erweitert sich
Die Entwicklung von Homeoffice und die Zunahme der Interkonnektivität zwischen Anbietern haben die Angriffsfläche der Unternehmen erheblich vergrößert. Im Jahr 2024 wird die Cybersicherheit der digitalen Lieferkette zu einem Governance-Thema, nicht mehr nur zu einem technischen Problem.
Die KI spielt in diesem Bereich eine doppelte Rolle. Einerseits ermöglicht sie die Erkennung anormaler Verhaltensweisen in Netzwerken mit einer Reaktionsgeschwindigkeit, die menschliche Teams allein nicht erreichen können. Andererseits gewinnen Cyberangriffe, die durch generative KI verstärkt werden, an Raffinesse, insbesondere bei der Erstellung von groß angelegten, personalisierten Phishing-Kampagnen.
Das Risiko von Anbietern anders bewerten
Traditionelle Ansätze der Cybersicherheit basierten auf dem Schutz des internen Perimeters. Diese Logik hält nicht mehr, wenn ein Unternehmen von Dutzenden von Cloud-Dienstleistern, Drittanbieter-APIs und KI-Modellen, die von externen Anbietern bereitgestellt werden, abhängt. Die fortschrittlichsten Organisationen implementieren ein kontinuierliches Management der Bedrohungsexposition, das die Schwachstellen entlang der gesamten Wertschöpfungskette ständig kartiert.
- Das einmalige Sicherheitsaudit wird durch eine Echtzeitüberwachung der Softwareabhängigkeiten ersetzt
- Verträge mit KI-Anbietern beinhalten jetzt Klauseln zur Rückverfolgbarkeit und zur Meldung von Vorfällen
- Die Schulung nicht-technischer Teams zur Erkennung von KI-bezogenen Bedrohungen wird zu einer Priorität in den Cybersicherheitsplänen
Robotik und Energie: Physische Infrastrukturen holen die Software ein
Softwareinnovationen ziehen die mediale Aufmerksamkeit auf sich, aber Fortschritte in der KI-basierten Robotik und in der Energieinfrastruktur bestimmen die mittel- bis langfristige Lebensfähigkeit dieser Technologien. Die im CES 2024 vorgestellten Haushalts- und Industrieroboter integrieren Wahrnehmungs- und Entscheidungsfähigkeiten, die durch eingebettete KI-Modelle unterstützt werden.
Andererseits stellt der Energieverbrauch von KI-bezogenen Rechenzentren ein strukturelles Problem dar. Der Anstieg der generativen Modelle und autonomen Agenten erfordert eine steigende Rechenleistung, was die Debatte über die Kernenergie als Energiequelle für digitale Infrastrukturen neu entfacht.
Die Technologietrends von 2024 lesen sich nicht wie eine Liste von Produkten, die man kaufen kann. Sie zeichnen ein Ökosystem, in dem Regulierung, Sicherheit und Energieanforderungen ebenso wichtig sind wie die rohe Leistung der Algorithmen. Die Unternehmen, die von diesen Innovationen profitieren werden, sind diejenigen, die verstanden haben, dass Konformität und Robustheit mittlerweile genauso wichtig sind wie die Geschwindigkeit der Einführung.
