Diskriminierungsfreiheit und Daten im Fokus

Die Mitglieder der Enquete-Kommission „Künstliche Intelligenz – Gesellschaftliche Verantwortung und wirtschaftliche, soziale und ökologische Potenziale“ haben sich am Montag, 3. Juni 2019, unter Leitung des stellvertretenden Vorsitzenden Stefan Sauer (CDU/CSU) schwerpunktmäßig mit dem Thema Daten befasst. Vier Sachverständige trugen dazu in öffentlicher Sitzung im Rahmen eines Fachgespräches vor. Zuvor hatte die Philosophin Prof. Dr. Judith Simon von der Universität Hamburg in der Sitzung öffentlich zu Fragen von Gerechtigkeit und Diskriminierungsfreiheit referiert. Die den Vorträgen jeweils folgende Fragerunde fand in nichtöffentlicher Sitzung statt.

„Diskriminierung ein Effekt technisch-methodischer Entscheidungen“

Judith Simon konzentrierte sich in ihrem Vortrag vor allem auf Aspekte der Diskriminierung, die sie als „ungerechtfertigte Ungleichbehandlung von Gleichen oder ungerechtfertigte Gleichbehandlung von Ungleichen“ verstand. Im Kontext der Künstlichen Intelligenz (KI) problematisierte die Inhaberin des Lehrstuhls für Ethik in der Informationstechnologie, dass beim maschinellen Lernen Prognosen und Empfehlungen die Vergangenheit in die Zukunft fortschrieben, weil dort mit Daten der Vergangenheit trainiert werde.

Dadurch könnten „bestehende gesellschaftliche Ungerechtigkeiten durch den Einbau in scheinbar neutrale Technologien verschleiert und potenziell verstärkt werden“, warnte die Philosophin. Diese Diskriminierung sei ein Effekt von „technisch-methodischen Entscheidungen“ und erfolge nicht unbedingt mit Absicht.

„Anforderungen für Software-Entwickler formulieren“

Simon mahnte an, gesetzliche Anforderungen zu formulieren, die Software-Entwickler etwa verpflichten, Maßnahmen zur Minimierung von Diskriminierung nachzuweisen. Zudem bedürfe es der Anreize in Form von Forschungsförderung. Simon warb für den Auf- beziehungsweise Ausbau gut ausgestatteter Institutionen für eine „angemessene Aufsicht und Kontrolle“.

Anforderungen an die Minimierung von Diskriminierung sollten sich grundsätzlich an der Eingriffstiefe sowie daran, ob ein System unumgänglich ist, orientieren. Simon betonte zudem, dass nicht nur die Software-Entwickler in der Pflicht seien: „Welche Kriterien für Gerechtigkeit in welchem Kontext angemessen sind, ist keine technische, sondern eine gesellschaftliche und politische Frage.“

SAP einziger wesentlicher europäischer Akteur

Im zweiten Fachgespräch des Tages standen verschiedene Aspekte des Themas Daten im Fokus. Stefan Heumann, Vorstandsmitglied der Stiftung Neue Verantwortung sowie sachverständiges Mitglied der Enquete-Kommission, stellte Ergebnisse einer Studie zu Datenpools der Stiftung („Wettbewerb um Daten – Über Datenpools zu Innovationen“, April 2019) dar. Heumann betonte die Bedeutung, die Daten in der Plattform-Ökonomie einnehmen. Führend seien dabei Unternehmen aus den USA, aber auch aus China. In Europa gebe es mit Ausnahme von SAP keine wesentlichen Akteure.

Heumann stellte unterschiedliche Modelle für Datenpools vor und skizzierte elementare Herausforderungen für die Anwendung in Europa. So müssten Unternehmen vom Mehrwert von Datenkooperationen überzeugt werden. Zudem bedürfe es der Rechtssicherheit mit Bezug auf kartellrechtliche sowie datenschutzrechtliche Fragen. Technologisch bestünde Bedarf für Standards im Bereich Daten und maschinelles Lernen sowie für die Weiterentwicklung dezentraler KI-Modelle. Governanceseitig sei zudem über Regen für Datenpools nachzudenken, führte Heumann aus.

„Architektur für Datensouveränität schaffen“

Prof. Dr. Boris Otto vom Fraunhofer-Institut für Software- und Systemtechnik stellte Grundzüge des Projekts „International Data Space“ (IDS) vor. Ziel der Initiative sei es, eine Architektur für „Datensouveränität in der Plattform-Ökonomie“ zu schaffen. So solle der Fluss der Daten über verschiedene Plattformen hinweg unter Wahrung der Datensouveränität ermöglicht werden.

Datensouveränität bedeute dabei die Selbstbestimmung des Datengebers über die Verwendung der Daten. Dies sei Voraussetzung dafür, dass Unternehmen ihre Daten überhaupt teilten. Otto sah die Politik in der Pflicht, entsprechende Rahmenbedingungen etwa durch die gesetzliche Verankerung von Grundsätzen zu schaffen.

„Standards für die Datenqualität definieren“

Prof. Dr. Norbert Pohlmann (Westfälische Hochschule Gelsenkirchen) umriss zunächst Chancen des KI-Einsatzes im Bereich Cyber-Sicherheit. KI-Systeme könnten etwa zur Unterstützung und Entlastung von Cyber-Sicherheitsexperten dienen. Im Hinblick auf den Bereich Daten empfahl der Leiter des Instituts für Internet-Sicherheit unter anderem, Standards für die Datenqualität von KI-Systemen zu definieren und zu etablieren.

Enorm wichtig, gerade für den Mittelstand, sei zudem die Förderung einer „leistungsstarken KI-Infrastruktur“, sagte Pohlmann und verwies etwa auf die Notwendigkeit europäischer Datenpools.

„Vielversprechende Grundlage für neue KI-Anwendungen“

Elisa Lindinger von der Open Knowledge Foundation thematisierte den Zugang zu öffentlichen Daten. Diese seien „eine vielversprechende Grundlage für neue KI-Anwendungen“ etwa in der Städte- oder Verkehrsplanung, sagte Lindinger. Der Zugang sei in Deutschland allerdings nicht gegeben. Dies könne durch ein bundesweites Transparenzgesetz ermöglicht werden, regte die Sachverständige an.

Zudem müsse „Open by Default“ zur Maxime öffentlicher Verwaltungsarbeit werden. Im Umgang mit öffentlichen Daten mahnte Lindinger den Schutz personenbezogener Daten an. Sie verwies auf bestehende technische Verfahren und internationale Ansätze, die zeigten, „wie offene Daten, Datensouveränität und Datenschutz Hand in Hand gehen können“. (scr/03.06.2019)

Die Enquete-Kommission „Künstliche Intelligenz – Gesellschaftliche Verantwortung und wirtschaftliche, soziale und ökologische Potenziale“ hat ihre Reihe mit Fachgesprächen am Montag, 3. Juni 2019, unter Leitung des stellvertretenden Kommissionsvorsitzenden Stefan Sauer (CDU/CSU) fortgesetzt.

Gerechtigkeit und Diskriminierungsfreiheit

Ein Fachgespräch zum Thema „Künstliche Intelligenz und Ethik“ wurde durch einen etwa zehnminütigen Impulsvortrag von Prof. Dr. Judith Simon von der Universität Hamburg zu den Begriffen Gerechtigkeit und Diskriminierungsfreiheit eröffnet. Nach einem nichtöffentlichen Teil ging es gegen 14 Uhr öffentlich weiter mit einem Fachgespräch zum Thema „Künstliche Intelligenz und Daten“. Zunächst hält Dr. Stefan Heumann, der sachverständiges Mitglied der Enquete-Kommission ist, einen Impulsvortrag zum Thema „Wettbewerb um Daten“.

Anschließend sprach Prof. Dr. Boris Otto vom Fraunhofer-Institut für Software- und Systemtechnik/International Data Space über „Datenmanagement“. „Datensicherheit“ lautete das Thema des Impulsvortrags von Prof. Dr. Norbert Pohlmann von der Westfälischen Hochschule Gelsenkirchen. Um „Öffentliche Daten“ ging es anschließend im Impulsvortrag von Elisa Lindinger von der Open Knowledge Foundation. Danach wurde die Sitzung nichtöffentlich fortgesetzt. (vom/03.06.2019)

Liste der geladenen Sachverständigen

• Prof. Dr. Judith Simon, Universität Hamburg
• Prof. Dr. Boris Otto („Datenmanagement“), Fraunhofer-Institut für Software- und Systemtechnik/International Data Space
• Prof. Dr. Norbert Pohlmann („Datensicherheit“), Westfälische Hochschule Gelsenkirchen
• Elisa Lindinger („Öffentliche Daten“), Open Knowledge Foundation