European Artificial Intelligence Act – die europäische Regulierung von KI-Anwendungen ist bereits weit fortgeschritten

Anwendungen ist bereits weit fortgeschritten
Der “Vorschlag für eine Verordnung des europäischen Parlaments und des Rates zur Festlegung harmonisierter Vorschriften für Künstliche Intelligenz (Gesetz über Künstliche Intelligenz) und zur Änderung bestimmter Rechtsakte der Union“ – kurz, der Artificial Intelligence Act (AI Act) – der EU zielt darauf ab, KI in Europa zu regulieren. Das Dokument ist eine umfangreiche, aber sehr interessante Lektüre, da es eine risikobasierte Klassifikation von KI-Anwendungen sowie eine sehr allgemeine und breite Definition von KI Methoden enthält. Hinzu kommt, dass es Vorschläge zu Zertifizierungsanforderungen für Anbieter von KI-Systemen enthält.  

Die im Annex I des AI Acts gegebene Definition von KI ist sehr breit gehalten und umfasst (zitiert aus dem AI Act):

1. Konzepte des maschinellen Lernens, mit beaufsichtigtem, unbeaufsichtigtem und bestärkendem Lernen unter Verwendung einer breiten Palette von Methoden, einschließlich des tiefen Lernens (Deep Learning);
2. Logik- und wissensgestützte Konzepte, einschließlich Wissensrepräsentation, induktiver (logischer) Programmierung, Wissensgrundlagen, Inferenz- und Deduktionsmaschinen, (symbolischer) Schlussfolgerungs- und Expertensysteme;
3. Statistische Ansätze, Bayessche Schätz-, Such- und Optimierungsmethoden.

Diese Definition ist statisch und kann daher die hochdynamische Weiterentwicklung dieses Forschungsgebietes nicht berücksichtigen. Sie ist auch sehr breit angelegt, da auch statistische Modelle und klassische Optimierverfahren aus dem Gebiet des sog. Operations Research (OR) enthalten sind. Diese Gebiete als Teilgebiete der KI zu definieren ist nicht unumstritten. Da viele statistische Methoden und OR-Verfahren seit Jahrzehnten im industriellen Einsatz sind, könnte der AI Act der EU damit auch auf derartige etablierte Anwendungen Auswirkungen haben.
 

Die European Digital SME Alliance hat den vorgeschlagenen Entwurf aus Sicht innovativer KMUs analysiert (Zusammenfassung vom März 2022) und Vorschläge zur Anpassung gemacht. Die sieben Hauptanliegen umfassen diese Bereiche:

1. Der AI Act kann die Innovationskräfte europäischer Digitalunternehmen einschränken.
2. Die Definition von KI im Anhang I des AI Acts ist zu breit angelegt.
3. Einige reale Anwendungsrisiken von KI sind nicht adäquat berücksichtig (z.B.: KI Systeme, die Falschinformationen, Fehlformationen oder Deep Fakes erzeugen; KI Systeme, die psychologische Profile von natürlichen Personen aus gesammelten oder öffentlich verfügbaren Datenquellen analysieren; KI Systeme, die natürliche Personen daraufhin bewerten, ob sie Zugang zu wichtigen Versicherungen wie beispielsweise eine Krankenversicherung erhalten, oder das anbietende Unternehmen dabei unterstützen, den Versicherungsbeitrag zu bestimmen). 
4. Die Kosten für die Vorbereitung, Durchführung, und Aufrechterhaltung einer entsprechenden Zertifizierung werden für KMUs problematisch sein.
5. Standardisierung und Zertifizierung sind wesentliche Aspekte des AI Acts, aber KMUs sind in den entsprechenden Organisationen und Institutionen stark unterrepräsentiert.
6. Die vorgeschlagenen Haftungsrichtlinien und Vermarktungsprozesse spiegeln nicht wider, dass KI Systeme typischerweise agil entwickelt werden.
7. Die vorgeschlagenen Reallabore („sandboxes“) erfüllen die Bedürfnisse von KMUs nicht.

Das Positionspapier zum AI Act vom September 2021 erläutert spezifische Aspekte und aus Sicht von KMUs problematische Aspekte im Detail. Der AI Act wird sowohl für Hersteller wie auch Anwender von KI Systemen relevant sein. Die EU sollte berücksichtigen, dass KMUs im Bereich KI aufgrund ihrer Agilität in hohem Maße zur europäischen Innovationskraft beitragen. Ein komplizierter und teurer regulatorischer Rahmen für die KI könnte dieses dynamische KMU Umfeld signifikant beeinträchtigen.