Sachverständige bewerten EU-Verordnung zur KI unterschiedlich

Zeit: Montag, 26. September 2022, 14 bis 16 Uhr
Ort: Berlin, Paul-Löbe-Haus, Sitzungssaal 2.600

Der Entwurf für eine EU-Verordnung zur Regulierung Künstlicher Intelligenz (KI) wird von Sachverständigen unterschiedlich bewertet. Das wurde während einer öffentlichen Anhörung des Ausschusses für Digitales am Montag, 26. September 2022, deutlich. Im April 2021 wurde ein Vorschlag für einen ersten Rechtsrahmen vorgelegt, der unter anderem auch eine Risikoeinstufung für KI-Systeme hinsichtlich von Grundrechten, Sicherheit und Privatsphäre vorsieht. Während beispielsweise Prof. Dr. Patrick Glauner von der Technischen Hochschule Deggendorf vor einer Überregulierung warnte, die vor allem kleine und mittelständische Unternehmen (KMU) träfe, lobte Dr. Joachim Bühler, Geschäftsführer beim TÜV-Verband, den „risikobasierten Ansatz“ der Verordnung. Reguliert werde lediglich der Hochrisikobereich, der einen Anteil von fünf bis 15 Prozent habe, sagte er.

Glauner: Definition der Kommission viel zu breit gewählt

Die Definition von KI sei in dem Verordnungsentwurf der Europäischen Kommission viel zu breit gewählt, kritisierte Patrick Glauner. Er umfasse sogar einen Taschenrechner, der natürlich keine KI sei. Die bisherigen Einengungsversuche  seien nicht erfolgreich gewesen, befand er. Eine schärfere Definition sei wichtig, weil es eben ausdrücklich nicht um eine Software-Regulierung gehen solle.

Aktuell sehe der Entwurf im Grunde jede Google-Suche als Hochrisikoanwendung an, kritisierte Glauner. Die Anforderungen an die Hochrisikoanwendungen seien aber schlichtweg technisch unerfüllbar. Mit der KI-Verordnung in dieser Form werde Künstliche Intelligenz in Europa unmöglich gemacht, lautete sein Fazit.

Andrulis: Wir müssen aktiv mitgestalten wollen

Aus Sicht von Jonas Andrulis, Gründer und Geschäftsführer des KI-Unternehmens Aleph Alpha, ändert sich KI gerade fundamental. Sei sie früher von einer Vielzahl individueller Algorithmen geprägt gewesen, werde es in Zukunft weniger Anwender geben, die generalisierte Intelligenz anbieten „und Dinge möglich machen, die eine neue Ära der Mensch-Maschine-Zusammenarbeit definieren“.

Der Einfluss auf das Wirtschaftswachstum werde generell sehr hoch eingeschätzt – oberhalb von Dampfmaschine, Buchdruck oder Elektrizität. „Die Frage ist nicht, ob diese Entwicklung stattfindet, sondern nur, ob wir sie aktiv mitgestalten wollen“, sagte Andrulis. „Wenn wir die KI nicht selbst bauen können, wird unsere Welt fremdbestimmt werden“, so der Experte.

Backes: Wichtiger Schritt für Deutschland und Europa

Prof. Dr. Dr. h.c.Michael Backes, Gründungsdirektor und Geschäftsführer des CISPA Helmholtz Center for Information Security, sagte, die KI-Verordnung könne ein wichtiger Schritt für Deutschland und Europa sein, um Rechtssicherheit zu schaffen und den KI-Einsatz zu regulieren.

Allerdings sei der bisherige Entwurf „an manchen Stellen deutlich zu breit gefasst“. Umfasst werde im Grunde jede Software. Diejenigen, die von Grund auf die transparenten und fairen Systeme erarbeiten, dürften nicht behindert werden, verlangte er. Nur so sei sicherzustellen, dass europäische Forscher „nicht strukturell benachteiligt sind gegenüber China und den USA“. Die KI-Verordnung müsse daher innovationsfördernd gestaltet werden.

Bühler: Innovationsfähigkeit erhalten, ohne Sicherheitsinteressen zu vernachlässigen

Laut TÜV-Geschäftsführer Bühler ermöglicht der risikobasierte Ansatz der Verordnung Innovationen für Unternehmen und berücksichtigt zugleich das berechtigte Sicherheitsinteresse der Gesellschaft angesichts neuer Technologien. So werde die Innovationsfähigkeit Europas erhalten, ohne die Sicherheitsinteressen zu vernachlässigen, sagte er.

Der Sachverständige Jürgen Geuter sieht den Entwurf stark auf Zukunftsnarrativen aufsetzen. „Wir versuchen jetzt Regelungen aufzuschreiben, für eine Fiktion, die in fünf bis zehn Jahren Realität sein soll“, sagte er. Es bestehe die Frage, ob KI-Systeme tatsächlich reglementiert werden müssen. Zwar könnten diese tatsächlich diskriminieren, „wenn sie so eingesetzt werden“. Das entstehe aber immer aus der Situation heraus, wenn KI-Systeme, oft als Teil größerer Infrastruktursysteme, implementiert würden.

Müller fordert strengere Verpflichtungen für die Betreiber

Dr. des. Angela Müller von der AW AlgorithmWatch gGmbH wies darauf hin, dass sich der Verordnungsentwurf auf Anbieter konzentriere. Diskriminierende und ungerechte Auswirkungen seien aber nicht einzig auf technische Effekte zurückzuführen.

„KI-basierte Systeme sind sozio-technische Systeme, die in einem bestimmten gesellschaftlichen Kontext eingesetzt werden, der die Auswirkung des Systems unweigerlich beeinflusst“, sagte sie. Daher müsse der Fokus auch daraufgelegt werden, auf welche Weise KI-Systeme eingesetzt werden. Es brauche also viel strengere Verpflichtungen für die Betreiber der Systeme.

Muller: Verordnung aus Sicht der Grundrechte beleuchten

Catelijne Muller von der Organisation ALLAI begrüßte die Verordnung, „auch wenn sie nicht perfekt ist“. Ziel der Verordnung sei es, die Gesundheit, die Sicherheit und die Grundrechte vor negativen Einflüssen der KI zu schützen. Problematisch sei beispielsweise, wenn etwa in der Strafverfolgung durch KI schon die Übereinstimmung von Charaktereigenschaften mit anderen Verdächtigen ausreichend sein könne, um eine Strafverfolgung in Gang zu setzen.

Auch könnten Menschen von der Teilnahme an erlaubten Demonstrationen abgehalten werden, weil sie davon ausgehen müssten, dass biometrische Gesichtserkennungssysteme ständig im Einsatz sind und zu Verdächtigungen führen. Deshalb müsse die KI-Verordnung aus Sicht der Grundrechte beleuchtet werden, verlangte Muller.

Suchy: Rechtssicherheit für Unternehmen schaffen

Durch den Entwurf könne mehr Rechtssicherheit für Unternehmen geschaffen werden, „was deutlich dazu beiträgt, die Akzeptanz für die Nutzung von KI in der Breite der Deutschen Wirtschaft zu erhöhen“, befand Oliver Suchy vom Deutschen Gewerkschaftsbund (DGB). Dies sei angesichts der noch immer rudimentären Nutzung von KI in der Arbeitswelt dringend geboten.

Damit der EU-Vorschlag seine Wirkung zur Entfaltung bringen kann, seien jedoch noch deutliche Nachbesserungen erforderlich, sagte der DGB-Vertreter. Dies gelte insbesondere für die Reichweite des geplanten Hochrisiko-Bereichs sowie für die geplanten Regularien hinsichtlich der Überprüfung der Konformitätsbewertung sowie die Ausgestaltung im Verhältnis Anbieter-Nutzer-Dritte. (hau/26.09.2022)