Regulierung von ADM-Systemen

Berlin: (hib/SCR) Die Mitglieder der Enquete-Kommission Künstliche Intelligenz haben sich am Montag in ihrer Sitzung mit Feinheiten einer möglichen Regulierung algorithmischer Entscheidungssysteme (ADM-Systeme) befasst. Fünf Sachverständige trugen dazu in öffentlicher Sitzung unter Leitung von Kommissions-Mitglied Ronja Kemmer (CDU) vor.

Katharina Zweig, sachverständiges Mitglied der Kommission und Leiterin des Algorithm Accountability Lab der Technischen Universität Kaiserslautern, betonte in ihrem Vortrag, dass eine Regulierung nur für einen kleinen Teil von ADM-Systemen notwendig sei, nämlich solche mit lernenden Komponenten und die über Menschen entscheiden. Zweig verwies dazu auf ein bereits in einer früheren Sitzung diskutiertes Kritikalitäts-Modell, das die Regulierungsanforderungen anhand der Intensität des Eingriffes bestimmt.

Roberto V. Zicari (Initiative Z-inspection) betonte in seinem Vortag die Bedeutung von Vertrauen im Einsatz von KI-Systemen. Zicari verwies zudem wiederholt auf Empfehlungen der Datenethik-Kommission. Er empfahl unter anderem, dass der Staat keine proprietären KI-Systeme einsetzen sollte, die mit Berufung auf Geschäftsgeheimnisse Transparenz verhinderten.

Matthias Spielkamp (Algorithmwatch) fordert von der öffentlichen Verwaltung zudem, pro-aktiv über den Einsatz von ADM-Systemen zu informieren. Zudem sprach er sich für ein EU-weites ADM-Register aus.

Rebekka Weiß (Bitkom) forderte, in der Debatte nicht nur die Risiken, sondern auch die Chancen des Einsatzes von ADM-Systemen hervorzuheben. Durch ihren Einsatz ließen sich beispielsweise Diskriminierungen besser erkennen. Die Verbandsvertreterin betonte, dass die Selbstregulierung eine Chance biete. Eine Unterregulierung sei indes auch schädlich, da so nicht das erforderliche Vertrauen hergestellt werden könne.

Lina Ehrig (Verbraucherzentrale Bundesverband) betonte, Vertrauen sei kein Selbstläufer, aber wichtig, damit Verbraucher entsprechende Systeme annehmen würden. Ein Regulierung anhand des Schädigungspotentials sah Ehrig als sinnvoll an. Sie forderte zudem, Standardisierung und Normung anzugehen.