Der AI Act der Europäischen Union ist ein bahnbrechender Vorschlag, der darauf abzielt, Künstliche Intelligenz (KI) umfassend zu regulieren und sicherzustellen, dass diese Technologien ethisch vertretbar, sicher und transparent entwickelt und genutzt werden. Angesichts des exponentiellen Wachstums von KI-Systemen und ihrer weitreichenden Auswirkungen auf Wirtschaft, Gesellschaft und Innovation nimmt die EU eine Vorreiterrolle ein, um Risiken zu minimieren und gleichzeitig die Wettbewerbsfähigkeit zu sichern.

Das Ziel dieses Positionspapiers ist es, eine tiefgreifende Analyse des AI Acts zu geben, die aktuellen Entwicklungen und Implikationen zu beleuchten und Empfehlungen zu formulieren, wie die EU eine Balance zwischen Innovation und Regulierungen gewährleisten kann.

1. Der Rahmen des AI Act

Der AI Act baut auf einem risikobasierten Ansatz auf, der vier Kategorien umfasst: inakzeptable Risiken, hohe Risiken, begrenzte Risiken und minimale Risiken. Jede Kategorie hat spezifische regulatorische Anforderungen und Pflichten, um eine effektive Kontrolle und Überwachung sicherzustellen.

1.1 Inakzeptable Risiken

Inakzeptable Risiken betreffen Anwendungen von KI, die gegen die Grundrechte verstoßen oder die öffentliche Sicherheit gefährden. Diese Anwendungen sind vollständig verboten. Beispiele hierfür sind KI-gestützte Systeme zur sozialen Bewertung oder manipulative Verhaltensbeeinflussung.

1.2 Hohe Risiken

Hohe Risiken umfassen KI-Systeme, die in kritischen Bereichen wie Gesundheit, Verkehr, Beschäftigung oder Strafverfolgung eingesetzt werden. Solche Systeme müssen strenge Anforderungen in Bezug auf Datensicherheit, Genauigkeit, Transparenz und Nachvollziehbarkeit erfüllen. Anbieter und Nutzer dieser Systeme sind verpflichtet, regelmäßige Audits durchzuführen und Konformitätsbewertungen vorzulegen.

1.3 Begrenzte und minimale Risiken

Systeme mit begrenzten Risiken müssen keine strengen Prüfungen durchlaufen, sondern lediglich Transparenzanforderungen erfüllen. Dazu zählen beispielsweise Chatbots oder KI-basierte Empfehlungsdienste. Systeme mit minimalen Risiken, wie KI-gestützte Spiele, unterliegen keiner besonderen Regulierung.

2. Die Rolle der Innovation und Wettbewerbsfähigkeit

Ein wesentlicher Aspekt des AI Acts ist die Förderung von Innovation. Es gibt Bedenken, dass strenge Regulierungen die Innovationskraft der europäischen Unternehmen beeinträchtigen könnten. Das AI Act-Dokument sieht jedoch vor, dass die Regulierung auf eine Weise gestaltet wird, die einen Raum für Experimentiermöglichkeiten und Forschungsinitiativen zulässt, insbesondere durch sogenannte Regulatory Sandboxes. Diese bieten einen sicheren Rahmen für Unternehmen, um neue KI-Technologien zu testen, bevor sie auf den Markt gebracht werden.

3. Daten- und Datenschutzfragen im Kontext des AI Acts

Der AI Act steht in engem Zusammenhang mit bestehenden Datenschutzregelungen wie der DSGVO. Es ist von entscheidender Bedeutung, dass KI-Systeme den Datenschutzanforderungen gerecht werden, um Missbrauch und Verletzungen von Datenschutzrechten zu vermeiden. Der AI Act fordert explizit eine sorgfältige Datenverarbeitung und -überwachung, insbesondere für Systeme mit hohem Risiko.

4. Herausforderungen bei der Umsetzung

Die Umsetzung des AI Acts wird von verschiedenen Herausforderungen begleitet:

• Technologische Komplexität: KI-Systeme sind oft intransparent und schwer nachvollziehbar, was ihre Bewertung erschwert.
• Fragmentierung innerhalb der EU: Unterschiedliche Mitgliedstaaten könnten den AI Act unterschiedlich interpretieren und umsetzen, was zu regulatorischen Unterschieden und Wettbewerbsvorteilen führen könnte.
• Fehlende Expertise: Die Umsetzung erfordert hochspezialisierte Fachkenntnisse, die nicht in allen Mitgliedstaaten gleichermaßen verfügbar sind.

5. Empfehlungen und Schlussfolgerungen

Um den Erfolg des AI Acts zu gewährleisten, schlägt dieses Positionspapier folgende Maßnahmen vor:

1. Schaffung klarer Leitlinien und Schulungsprogramme: Um sicherzustellen, dass alle Akteure den AI Act einheitlich verstehen und umsetzen können, sind klare Leitlinien und Schulungsprogramme für Unternehmen und Behörden erforderlich.
2. Förderung der internationalen Zusammenarbeit: Angesichts der globalen Natur der KI ist eine internationale Koordinierung unerlässlich. Die EU sollte mit anderen Regionen zusammenarbeiten, um globale Standards für die KI-Regulierung zu entwickeln und so den fragmentierten Ansatz zu vermeiden.
3. Investitionen in KI-Forschung und -Entwicklung: Die EU muss ihre Investitionen in KI-Forschung und -Entwicklung deutlich erhöhen, um mit globalen Konkurrenten wie den USA und China Schritt zu halten.
4. Regulatory Sandboxes stärken: Der Ausbau von Regulatory Sandboxes sollte priorisiert werden, um Unternehmen einen sicheren Raum für die Entwicklung und Erprobung neuer Technologien zu bieten.

Fazit

Der AI Act stellt einen wichtigen Schritt zur Regulierung von KI in Europa dar und könnte das Fundament für eine sicherere, ethischere und innovativere KI-Zukunft bilden. Es wird jedoch entscheidend sein, dass die EU die richtige Balance zwischen strenger Regulierung und Förderung von Innovation findet, um ihre globale Wettbewerbsfähigkeit zu sichern und gleichzeitig die Grundrechte zu schützen.

---

Diese Analyse basiert auf den im Future of European Competitiveness Dokument genannten Empfehlungen​(The future of European …).

Der EU AI Act, der ab August 2024 in Kraft ist, bringt weitreichende regulatorische Änderungen für den Einsatz von Künstlicher Intelligenz (KI) in der Europäischen Union. Unternehmen, die KI-Systeme entwickeln, einsetzen oder vertreiben, müssen jetzt Maßnahmen ergreifen, um die gesetzlichen Vorgaben zu erfüllen und gleichzeitig wettbewerbsfähig zu bleiben. Im Folgenden finden Sie konkrete Handlungsempfehlungen für Unternehmen, um die Compliance mit dem EU AI Act sicherzustellen.

1. Klassifizierung Ihres KI-Systems

Der erste Schritt besteht darin, das Risikoprofil Ihres KI-Systems zu bestimmen. Der EU AI Act unterteilt KI-Systeme in folgende Kategorien:

• Unakzeptables Risiko: Systeme, die verboten sind, wie Social Scoring oder manipulative Systeme, die Menschen in ihrem Verhalten täuschen.
• Hohes Risiko: Systeme, die in Bereichen wie Gesundheit, Sicherheit, Bildung, Strafverfolgung oder kritischen Infrastrukturen verwendet werden.
• Geringes oder minimales Risiko: KI-Systeme mit geringer Auswirkung auf die Rechte und die Sicherheit von Menschen.

Empfehlung: Analysieren Sie Ihre bestehenden und geplanten KI-Systeme und bestimmen Sie, ob sie als hochriskant eingestuft werden. Nutzen Sie dazu die im AI Act bereitgestellten Kriterien​(2024.07.12 AI Act – fin…).

2. Technische und organisatorische Maßnahmen

Unternehmen, deren KI-Systeme als hochriskant eingestuft werden, müssen strenge technische und organisatorische Maßnahmen umsetzen:

• Transparenz und Nachvollziehbarkeit: Stellen Sie sicher, dass die Funktionsweise des KI-Systems für die Nutzer und Regulierungsbehörden nachvollziehbar ist.
• Datenqualität und Verzerrungsfreiheit: Verwenden Sie qualitativ hochwertige, repräsentative und nicht diskriminierende Datensätze für das Training Ihres KI-Systems.
• Technische Dokumentation: Erstellen Sie eine umfassende technische Dokumentation, die die Funktionsweise und die verwendeten Datenquellen detailliert beschreibt.

Empfehlung: Entwickeln Sie interne Prozesse zur kontinuierlichen Überwachung und Dokumentation der Konformität Ihrer KI-Systeme. Diese sollten regelmäßig überprüft und aktualisiert werden, um den gesetzlichen Anforderungen zu entsprechen​(2024.07.12 AI Act – fin…).

3. Konformitätsbewertung und Zertifizierung

Hochriskante KI-Systeme müssen einer Konformitätsbewertung unterzogen werden. Diese Bewertung kann entweder intern durchgeführt werden (Selbstzertifizierung) oder erfordert die Beteiligung einer externen benannten Stelle.

Empfehlung: Kontaktieren Sie benannte Stellen und planen Sie frühzeitig eine Konformitätsbewertung ein. Achten Sie darauf, dass alle technischen und datenschutzrechtlichen Anforderungen vor der Bewertung erfüllt sind, um Verzögerungen zu vermeiden​(2024.07.12 AI Act – fin…).

4. Datenschutz und Cybersicherheit

Datenschutz und Cybersicherheit sind zentrale Aspekte des EU AI Act. Unternehmen müssen sicherstellen, dass KI-Systeme personenbezogene Daten gemäß der Datenschutz-Grundverordnung (DSGVO) verarbeiten und dass Cybersicherheitsmaßnahmen vorhanden sind, um die Integrität und Vertraulichkeit der Daten zu schützen.

Empfehlung: Implementieren Sie ein Datenschutz-Managementsystem, das sicherstellt, dass alle datenschutzrechtlichen Anforderungen erfüllt werden. Führen Sie regelmäßige Audits und Sicherheitsüberprüfungen durch, um die Cybersicherheit zu gewährleisten​(2024.07.12 AI Act – fin…).

5. Post-Market Monitoring

Nach dem Inverkehrbringen eines KI-Systems müssen Unternehmen ein System zur Überwachung der Leistung und der Sicherheit des KI-Systems einrichten. Dieses Monitoring umfasst die Sammlung von Rückmeldungen und die Erkennung von möglichen Risiken, die während der Nutzung auftreten können.

Empfehlung: Entwickeln Sie ein systematisches Post-Market-Monitoring, das potenzielle Probleme frühzeitig erkennt und Maßnahmen zur Risikominderung ermöglicht. Stellen Sie sicher, dass alle Vorfälle unverzüglich den zuständigen Behörden gemeldet werden​(2024.07.12 AI Act – fin…).

6. Schulung und Awareness

Ein weiteres zentrales Element des EU AI Act ist die Förderung von AI Literacy in Unternehmen. Mitarbeiter sollten ein Verständnis dafür haben, wie KI-Systeme funktionieren, welche Risiken bestehen und wie diese gemanagt werden können.

Empfehlung: Führen Sie Schulungen für Ihre Mitarbeiter durch, insbesondere für jene, die direkt mit der Entwicklung, Implementierung oder Nutzung von KI-Systemen befasst sind. Schaffen Sie ein Bewusstsein für ethische Aspekte, Datenschutz und die Anforderungen des EU AI Act​(2024.07.12 AI Act – fin…).

7. Erstellung einer Konformitätserklärung

Unternehmen, die hochriskante KI-Systeme bereitstellen, müssen eine Konformitätserklärung ausstellen, die bestätigt, dass das System den Anforderungen des EU AI Act entspricht.

Empfehlung: Erstellen Sie frühzeitig eine Konformitätserklärung für Ihre KI-Systeme und hinterlegen Sie diese zusammen mit der technischen Dokumentation. Diese Dokumente müssen auf Anfrage den zuständigen Behörden zur Verfügung gestellt werden​(2024.07.12 AI Act – fin…).

Fazit

Der EU AI Act stellt Unternehmen vor neue Herausforderungen, bietet aber auch die Chance, die Akzeptanz von KI-Systemen durch Transparenz, Sicherheit und ethische Standards zu erhöhen. Unternehmen sollten jetzt aktiv werden, um ihre KI-Systeme auf die Einhaltung der neuen Vorschriften vorzubereiten. Eine frühzeitige Implementierung der vorgeschriebenen Maßnahmen minimiert rechtliche Risiken und stärkt das Vertrauen der Nutzer.

Durch die sorgfältige Umsetzung dieser Schritte können Unternehmen ihre Position im europäischen Markt sichern und gleichzeitig zur Entwicklung sicherer und vertrauenswürdiger KI beitragen.