Seit Februar 2025 gilt die KI-Kompetenzpflicht, die sich aus Artikel 4 der KI-Verordnung (EU AI Act) ergibt. Betreiber und Anbieter von KI-Systemen müssen künftig sicherstellen, dass „ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI‑Systemen befasst sind, über ein ausreichendes Maß an KI‑Kompetenz verfügen […]“ (Art. 4 KI-VO). 

Was bedeutet KI-Kompetenz konkret? 

KI-Kompetenz umfasst: 

• Grundlegendes Verständnis von KI-Technologien 
• Kenntnis der Möglichkeiten und Grenzen von KI 
• Bewusstsein für potenzielle Risiken und ethische Aspekte 
• Fähigkeit zur verantwortungsvollen Nutzung von KI-Systemen 
• Verständnis der rechtlichen Rahmenbedingungen (incl. der Strafen bei Zuwiderhandlung) 

Die erforderliche Kompetenztiefe richtet sich dabei nach: 

• Der konkreten Rolle im Unternehmen 
• Dem spezifischen Einsatzbereich der KI 
• Der Art und Komplexität des genutzten KI-Systems 

Ziel des Gesetzgebers war es, eine KI-Kompetenz der Mitarbeiter sicher zu stellen, wobei er im Erwägungsgrund Nr. 20 der KI-Verordnung (des AI-Acts) auf den jeweiligen Kontext Bezug nimmt: 

 (…) Diese Konzepte können in Bezug auf den jeweiligen Kontext unterschiedlich sein (…) sowie — im Falle betroffener Personen — das nötige Wissen, um zu verstehen, wie sich mithilfe von KI getroffene Entscheidungen auf sie auswirken werden. 

Mitarbeiter aus verschiedenen Unternehmensbereichen bzw. verschiedenen Rollen haben ggf. unterschiedliche Schulungsbedarfe, was Breite und Tiefe der geforderten KI-Kompetenz angeht. 

Um den unterschiedlichen Anforderungen der Teilnehmer:innen entsprechend Rechnung tragen zu können, bieten wir alle Veranstaltungen entweder als Präsenz- oder Live-Online Veranstaltung an. Im Rahmen dieser Veranstaltungen ist ein direkter persönlicher Kontakt zwischen Teilnehmer:innen und Dozent:innen sichergestellt und es besteht die Möglichkeit auch konkrete Themen aus dem eigenen Berufskontext zu behandeln.

Wen betrifft die KI-Kompetenzpflicht? 

Die Verpflichtung gilt für: 

• Alle Anbieter von KI-Systemen 
• Alle Unternehmen, die KI-Systeme*) einsetzen   
• Alle Mitarbeiter die mit KI-Systemen*) arbeiten oder mit diesen in Berührung kommen 
• Externe Dienstleister, die im Auftrag des Unternehmens mit KI-Systemen*) arbeiten oder mit diesen in Berührung kommen   

*) KI-Systeme in diesem Kontext sind z.B. Tools wie Microsoft Copilot als Teil von Microsoft 365 (vormals Office 365), Modelle von OpenAI (z.B. ChatGPT, GPT 4o, o1, o3, etc.), anthropic (Claude), Cohere (z.B. commandR) etc. sowie selbst bzw. im eigenen Auftrag entwickelte und trainierte Sprachmodelle (GPTs oder KI-Frontends welche die vorgenannten Systeme per API nutzen), selbst wenn diese ausschließlich lokal bzw. in geschützten eigenen Cloud-Umgebungen gehostet sind und keinerlei Zugang zum Internet haben. KI-Systeme in diesem Kontext sind jedoch auch ERP und CRM-Systeme (z.B. SAP, Salesforce, Oracle, etc.) oder HR-Tools (z.B. Personio) die zur Bereitstellung ihrer Funktionalität KI-Algorithmen nutzen bzw. Daten an Backend-Systeme weiterleiten die diese Algorithmen nutzen. 

Wichtig: Diese Pflicht gilt unabhängig von der Unternehmensgröße und der Risikoklassifizierung des verwendeten KI-Systems.

Warum ist KI-Kompetenz wichtig? 

Die KI-Kompetenzpflicht sollte nicht nur als rechtliche Anforderung, sondern auch unternehmerisch gewertet werden, da sie folgende Punkte sicherstellt: 

• Gesteigerte Effektivität: Die sichere und effektive Nutzung von KI im Unternehmensalltag.
• Geschäftsrisiken: Unternehmen, die die KI-Kompetenz vernachlässigen, riskieren Wettbewerbsnachteile und potenzielle Geschäftsverluste aufgrund von Fehlern oder ineffizientem Einsatz von KI-Systemen. 
• Vermeidung von Reputationsschäden: Verstöße gegen den AI Act können das Ansehen eines Unternehmens langfristig schädigen, was sich negativ auf Kundenbeziehungen und Geschäftsmöglichkeiten auswirken kann.
• Erhöhung der Wettbewerbsfähigkeit: Nur KI-kompetente Mitarbeiter können diese Technologie und deren weitere Entwicklung zum Wohle Ihres Unternehmens einsetzen.
• Minimierung persönlicher Haftungsrisiken: Geschäftsführer welche ihren Pflichten zur Sicherstellung der KI-Kompetenz nicht ordnungsgemäß nachkommen, dürfen davon ausgehen hierfür in Haftung genommen zu werden.  

Doch auch wenn Artikel 4 des EU AI Acts - der die Sicherstellung der KI-Kompetenz betrifft - anders als andere Pflichten nicht direkt mit monetären Strafen belegt ist, sollte man seine Umsetzung im Unternehmen sicherstellen - eine Missachtung kann ggf. ernsthafte Konsequenzen nach sich ziehen: 

• Indirekte finanzielle Strafen: Mangelnde KI-Kompetenz kann zu Verstößen gegen andere Bestimmungen des AI Acts führen, die mit hohen Bußgeldern belegt sind. Unternehmen riskieren Strafen von bis zu 30 Millionen Euro oder 6% des weltweiten Jahresumsatzes für schwere Verstöße.  
• Haftungsrisiken: Fehlende KI-Kompetenz kann zu Fehlern im Umgang mit KI-Systemen führen, welche wiederum Haftungsrisiken und potenzielle Schadensersatzforderungen nach sich ziehen können.  
• Datenschutzverstöße: Unsachgemäßer Umgang mit KI-Systemen aufgrund mangelnder Kompetenz kann zu DSGVO-Verstößen führen, die mit Geldstrafen von bis zu 20 Millionen Euro oder 4% des weltweiten Jahresumsatzes geahndet werden können.  
• Urheberrechtsverletzungen: Fehlende KI-Kompetenz kann zu unbeabsichtigten Urheberrechtsverletzungen führen, die Abmahnungen, Schadensersatzforderungen und Unterlassungsklagen nach sich ziehen können.

Zusammenfassung 

Die Frist zur Sicherstellung der KI-Kompetenz im Unternehmen läuft bis zum 2. Februar 2025. Damit war die zur Umsetzung zur Verfügung stehende Zeit für die allermeisten Unternehmen vielfach zu knapp bemessen. Zunächst sind keine harten Kontrollen zu erwarten - was sich jedoch in Zukunft ändern dürfte. Rechtliche und externe Haftungsrisiken gilt es jedoch durch AI-Act Konformität auszuschließen bzw. zu minimieren.

Das KI-Lehrangebot der d2twelve-Akademie ist AI Act konform 

Die d2twelve Akademie bietet ein stetig wachsendes Programm an Lehr- und Weiterbildungsveranstaltungen im Bereich der Künstliche Intelligenz an.  

Ziel ist es Fachkräfte mit den notwendigen Kenntnissen und Fähigkeiten auszustatten, um einerseits den Anforderungen des AI Acts gerecht zu werden - was jedoch noch bedeutender ist, ihnen die notwendigen Skills an die Hand zugeben diese sich stetig weiterentwickelnde Technologie für sich und ihr Unternehmen ideal zu nutzen. 

Sie möchten aktiv werden?

Kontaktieren sie uns für individuelle Beratung und maßgeschneiderte Schulungsangebote zum Thema KI-Kompetenz (AI Literacy).