Seit Februar 2025 gelten erste Pflichten des EU AI Acts: Unternehmen müssen für ausreichende KI-Kompetenz sorgen, außerdem sind bestimmte KI-Praktiken mit unannehmbarem Risiko verboten. Unternehmen sollten ihre KI-Anwendungen jetzt systematisch erfassen und risikobasiert einordnen, weil weitere Pflichten schrittweise folgen.
Ziel des AI Acts ist laut EU-Kommission neben dem Schutz der Rechte von Verbraucherinnen und Verbrauchern ein verantwortungsvoller Einsatz von KI sowie die Förderung von Innovationen.
Weniger Bürokratie, mehr Innovation: Die Bundesregierung will die EU-Vorgaben nun innovationsfreundlich und schlank umsetzen. Zentrale Koordinierungsfunktion soll die Bundesnetzagentur erhalten. Ein Kompetenzzentrum soll KI-Know-how bündeln und es für Behörden und Unternehmen nutzbar machen.
Der Bundestag hat das deutsche Durchführungsgesetz zur EU-KI-Verordnung am 11. Juni 2026 beschlossen. Damit werden die Zuständigkeiten für die Aufsicht über KI-Systeme in Deutschland konkret geregelt. Eine zentrale Rolle soll künftig die Bundesnetzagentur übernehmen: Sie soll KI-Expertise bündeln, Behörden unterstützen und Unternehmen Orientierung bieten.
Außerdem ist mindestens ein KI-Reallabor vorgesehen, in dem innovative KI-Systeme praxisnah getestet werden können. Der Bundesrat muss dem Gesetz noch zustimmen.
KI entwickelt sich rasant, bringt Unternehmen und Industrien viele Verbesserungen und eröffnet ihnen neue Chancen – von smarter Datenanalyse bis hin zur Prozessautomatisierung. Dennoch birgt der Einsatz von KI viele Risiken, die es zu minimieren gilt. Mit der zunehmenden Verbreitung wächst die Verantwortung, KI sicher, transparent und ethisch vertretbar einzusetzen. Die Europäische Union hat mit dem EU AI Act, der am 2. August 2024 in Kraft getreten ist, nun erstmals einen umfassenden Rechtsrahmen geschaffen, um Innovation und Verbraucherschutz in Einklang zu bringen.
Der EU AI Act ist weltweit die erste umfassende Gesetzgebung zur Regulierung von künstlicher Intelligenz (KI) und legt klare Regeln für Unternehmen und Behörden fest. Die KI-Verordnung soll dazu beitragen, mehr Vertrauen in KI-Technologien zu schaffen, gleichzeitig sollen Innovationen gefördert werden.
Die KI-Verordnung verfolgt einen risikobasierten Ansatz zur Regulierung von KI-Systemen und teilt dazu KI-Anwendungen in vier verschiedene Kategorien ein:
Hierzu zählen besonders schädliche KI-Anwendungen mit hohem Missbrauchspotenzial, z. B.:
Hierzu zählen KI-Systeme, die sich gemäß KI-Verordnung potenziell nachteilig auf die Sicherheit der Menschen oder ihre Grundrechte auswirken. Wer diese herstellt oder verwendet, muss unter anderem eine adäquate Risikobewertung der Systeme gewährleisten, eine transparente Dokumentation und Nachverfolgung sicherstellen, menschliche Aufsicht gewährleisten und Sicherheitsmaßnahmen sowie den Datenschutz einhalten. Zu diesen KI-Anwendungen zählen z. B.:
Diese Kategorie umfasst weniger risikoreiche KI-Anwendungen für die im Gegensatz zur Hochrisikokategorie weniger strenge Verpflichtungen gelten, z. B.:
Hierzu zählen KI-Systeme, die keinerlei gesonderter gesetzlicher Verpflichtungen unterliegen, wie z. B.:
Unternehmen, Behörden und Organisationen, die beim Einsatz künstlicher Intelligenz die Vorgaben der europäischen KI-Verordnung beachten müssen, können dafür künftig einen Beratungsservice der Bundesnetzagentur in Anspruch nehmen. Das Angebot möchte betroffene Institutionen praxisnah dabei unterstützen, die neuen europäischen Vorgaben rund um den Einsatz und die Entwicklung von KI besser zu verstehen. Der KI-Service Desk hilft dabei, rechtliche Unsicherheiten zu reduzieren und so die Anforderungen der KI-Verordnung sicher umzusetzen.
Wer den AI Act nicht einhält, muss mit hohen Geldbußen rechnen – ähnlich wie bei der DSGVO:
Neben den Regulierungen sieht der AI Act auch die Notwendigkeit von Fördermaßnahmen für innovative und ethische KI-Lösungen an. Besonders kleine und mittlere Unternehmen (KMUs) sowie Start-ups sollen unterstützt werden.
Der EU AI Act gilt für alle, die künstliche Intelligenz innerhalb der Europäischen Union entwickeln, anbieten oder nutzen – unabhängig davon, ob sie in der EU ansässig sind oder nicht.
Dazu gehören vor allem Unternehmen, Start-ups, öffentliche Institutionen und Organisationen. Besonders betroffen sind Branchen mit Hochrisiko-KI, wie:
Die Einführung des AI Acts erfolgt schrittweise. Die EU-Länder müssen den AI Act jeweils in nationales Recht umsetzen:
(Stand Juni 2026)
Der gestaffelte Zeitplan gibt Unternehmen und Behörden die Möglichkeit, sich schrittweise auf die neuen Anforderungen einzustellen und rechtzeitig die notwendigen Maßnahmen zur Einhaltung des AI Act zu ergreifen.
Hier dreht sich alles ums Geld. Mit uns bleiben Sie auf dem Laufenden und erfahren alles über clevere Spartipps, lukrative Anlagemöglichkeiten, smarte Altersvorsorgen und News aus der Finanzwelt. Denn: Wissen zahlt sich aus!
Der EU-AI-ACT ist am 2. August 2024 in Kraft getreten. Erste Regelungen sind seit 2. Februar 2025 verpflichtend. Als EU-Verordnung gilt der AI Act unmittelbar, Deutschland regelt mit einem Durchführungsgesetz insbesondere Zuständigkeiten, Aufsicht und Bußgeldverfahren.
Der Bundestag hat den Gesetzentwurf am 11. Juni 2026 mit leichten Änderungen beschlossen. Der Bundesrat muss noch zustimmen.
Der EU AI Act ist das weltweit erste umfassende Gesetz zur Regulierung von künstlicher Intelligenz (KI). Er schafft einen einheitlichen Rechtsrahmen für den sicheren, transparenten und ethischen Einsatz von KI-Technologien in der Europäischen Union.
Der Einsatz von KI bringt nicht nur Erleichterungen und Verbesserungen, sondern auch Herausforderungen und diverse Risiken mit sich. KI kann tief in das Leben der Menschen eingreifen – von automatisierten Kreditentscheidungen bis hin zu Gesichtserkennungssystemen. Der AI Act stellt sicher, dass:
Der AI Act fordert auch:
Der AI Act soll zudem die Wettbewerbsfähigkeit Europas stärken:
