KI-Enquete legt Abschlussbericht vor
Berlin: (hib/SCR) Die Enquete-Kommission „Künstliche Intelligenz - Gesellschaftliche Verantwortung und wirtschaftliche, soziale und ökologische Potenziale“ hat ihren Abschlussbericht (19/23700) vorgelegt. Der mit Anlagen über 800 Seiten starke Bericht enthält zudem Sondervoten aller Fraktionen zu einzelnen Punkten des Berichtes.
Die Kommission stellt ihre Ausarbeitung unter das Leitbild einer „menschenzentrierten KI“. Das bedeute, „dass KI-Anwendungen vorrangig auf das Wohl und die Würde der Menschen ausgerichtet sein und einen gesellschaftlichen Nutzen bringen sollten“. Unter dieser Prämisse ließe sich das positive Potenzial dieser Anwendungen ausschöpfen und das Vertrauen der Anwender am besten begründen und bestärken. „Dieses Vertrauen ist grundlegender Schlüssel für die gesellschaftliche Akzeptanz und den wirtschaftlichen Erfolg dieser Technologie“, schreibt die Kommission. Den Erfolg wiederum benötige es, um eine KI „europäischer Prägung“ zu etablieren. In dem Bericht grenzt die Kommission eine „KI made in Germany“ beziehungsweise „KI made in Europe“ von chinesischen beziehungsweise US-amerikanischen Ansätzen ab.
Den Schwerpunkt des Berichts bilden die Berichte der Projektgruppen. Die Kommission hatte sich in diesen in zwei Phasen umfassend mit den Themenbereichen „KI und Wirtschaft“, „KI und Staat“, „KI und Gesundheit“, „KI und Arbeit, Bildung, Forschung“, „KI und Mobilität“, „KI und Medien“ befasst und dazu umfangreiche Bestandsaufnahmen und Handlungsempfehlungen entwickelt.
Im Bereich der Inneren Sicherheit spricht sich die Kommission beispielsweise beim staatlichen Einsatz von KI-Anwendung für die Beachtung einer Kosten-Nutzen-Kalkulation und der Verhältnismäßigkeit aus. Die Bundesregierung wird zudem dazu aufgefordert, „sich auch in Zukunft auf internationaler Ebene rüstungskontrollpolitisch für eine weltweite Ächtung von tödlichen autonomen Waffensystem“ einzusetzen.
Vom Einsatz von KI-Anwendung in der Verwaltung verspricht sich die Kommission positive Effekte. So ließen sich Verwaltungsvorgänge mit hohen Fallzahlen automatisieren. „In den Behörden könnten Assistenzsysteme eine deutliche Effizienzsteigerung von Verwaltungsvorgängen bewirken, Anfrageaufkommen und Themen nachvollziehbarer machen, eine höhere Nutzerzufriedenheit gewährleisten und zur Kostensenkung beitragen“, wird in dem Bericht angeführt. Voraussetzung dafür sei aber die Digitalisierung der Verwaltung. In diesem Zusammenhang schlägt die Kommission weiter vor, den Einsatz von KI-Anwendungen in Verwaltungsprozessen transparent zu machen und Bürgern im Zuge eines Widerspruchsverfahrens einen Rechtsanspruch auf eine Bearbeitung durch einen Menschen einzuräumen.
Im Bereich der Wirtschaft sieht die Kommission beispielsweise Start-ups „als wesentlichen Treiber der KI-Transformation“. Hierfür werden etwa Fonds und Fördermöglichkeiten vorgeschlagen, Änderungen an Vergabeverfahren, um auch Start-ups die Möglichkeit einzuräumen, an diesen teilzunehmen. Zudem schlägt die Kommission ein Update der betrieblichen Mitbestimmung vor. „Die Akzeptanz unter den Beschäftigten und die erfolgreiche Implementierung von KI hängt maßgeblich von frühzeitiger Information und Beteiligung ab“, heißt in dem Bericht. Die Kommission spricht sich zudem gegen automatisierte Entscheidungen bei Personalfragen aus. Es müsse weiterhin gewährleistet werden, dass weiterhin Menschen entscheiden.
Handlungsbedarf konstatiert der Bericht im Bildungsbereich. Hier sei der Staat gefordert, „umfangreiche Maßnahmen schon im schulischen Bereich zu initiieren, die die Bildung im Feld der KI, insbesondere in den MINT-Fächern, aber auch im Sinne einer domänenübergreifenden, interdisziplinären Bildung befördern, damit auch in der Folge genügend junge Menschen die Lehrangebote an den Hochschulen vollumfänglich nutzen können“. Auch im Bereich der Aus- und Weiterbildung sollen nach Vorstellung der Kommission KI-Kompetenzen verstärkt vermittelt werden.
Mit Bezug auf den Gesundheitsbereich wird die Bundesregierung aufgefordert, mit den relevanten Akteuren zusammen „eine umfassende Strategie zum Einsatz von KI im Gesundheitsbereich“ aufzulegen. Diese soll unter anderem Maßnahmen zur beschleunigten Digitalisierung im Gesundheitsbereich und zur Verbesserung der Datenverfügbarkeit für die Forschung enthalten. Zu klären seien auch Lücken und Unsicherheiten beim Einsatz von KI-Anwendungen in diesem Bereich. Die Kommission fordert zudem, den Zugang zu solchen Anwendungen allen Patienten zu ermöglichen, aber dabei die Patientensouveränität zu wahren, insbesondere das Recht auf Nichtwissen.
Im Feld der Mobilität sieht die Kommission unter anderem beim Ausbau der digitalen Infrastruktur Handlungsbedarf. „Ohne eine flächendeckende und reibungslos funktionierende digitale Infrastruktur werden viele technisch mögliche Entwicklungen ungenutzt bleiben. Der Ausbau dieser digitalen Infrastruktur in Deutschland muss deswegen Priorität haben“, heißt es in dem Bericht.
Die Kommission hat zudem übergreifende Themenbereiche identifiziert, wie zum Beispiel die Bereiche „KI und Daten“. „KI und der Umgang mit Risiko“, „KI und Forschung“ und „KI und ökologische Nachhaltigkeit“. Mit Blick auf Daten fordert die Kommission unter anderem den Aufbau einer europäischen Infrastruktur und verweist auf die GAIA-X-Pläne. Zudem soll Unternehmen der Zugang zu und das Teilen von Daten erleichtert werden, was aus Sicht der Kommission mögliche Anpassungen im Kartellrecht sowie im Wettbewerbsrecht erfordert. Den Aufbau der Dateninfrastruktur stellt die Kommission dabei in den größeren Zusammenhang der Technologiesouveränität. Hier bestünden etwa auch mit Blick auf die Hardware-Produktion Defizite. Aus Sicht der Enquete-Kommission muss daher die KI-Forschung mit mehr Ressourcen ausgestattet und der Transfer von Forschung in die Anwendung verbessert werden. Zur Stärkung des KI-Forschungsstandorts Deutschland müssten zudem die Vergütung angepasst werden, um ausländische Fachkräfte zu gewinnen und hiesige zu halten.
Regulatorisch sieht die Kommission beispielsweise die Datenschutzgrundverordnung als guten Handlungsrahmen für KI-Anwendungen. Anpassungsbedarf bestehe möglicherweise bei der rechtlichen Einordnung der Anonymisierung von Daten. Umstritten war innerhalb der Kommission laut Bericht die „generelle und ex ante Einteilung von KI-Systemen in Risikoklassen“. Grundsätzlich sollen laut Kommission sektorenspezifische Regelungen gegebenenfalls um KI-spezifische Vorgaben erweitert werden. Aufsicht und Durchsetzung sollten grundsätzlich bei den sektoralen Aufsichtsbehörden bleiben. Mit Blick auf Haftungsregelungen sieht die Kommission keinen grundsätzlichen, umfassenden Handlungsbedarf; das Konzept der E-Person für autonome Systeme lehnt die Kommission in diesem Zusammenhang ab.
Hinsichtlich ökologischer Nachhaltigkeit im Zusammenhang mit KI schlägt die Kommission unter anderem der Bundesregierung vor, die in ihrer KI-Strategie angestrebte Förderung von Anwendungen zum Nutzen von Umwelt und Klima ambitioniert auszubauen und umzusetzen. Zudem empfiehlt die Kommission, die Datenbasis zu positiven und negativen Effekten von KI-Anwendungen auf den Energieverbrauch zu verbessern.
Zu dem unter dem Stichwort Bias diskutierten Risiko diskriminierender KI-Anwendung empfiehlt die Kommission, den Transfer bereits bestehender Forschungserkenntnisse zu Diskriminierungserkennung und -vermeidung in den Software-Entwicklungsalltag zu fördern. Individuen müssten zudem in die Lage versetzt werden, sich gegen Diskriminierung durch KI zu wehren. „Um dies sicherzustellen, braucht es, wenn KI über Menschen urteilt, einen Anspruch auf Transparenz, Nachvollziehbarkeit und Erklärbarkeit von KI-Entscheidungen, damit eine gerichtliche Überprüfung automatisierter Entscheidungen möglich ist“, heißt es in dem Bericht.