Von der Tagesordnung des Bundestages am Freitag, 7. Juli 2023, abgesetzt wurde die Debatte eines Antrags der CDU/CSU-Fraktion mit dem Titel „AI Act – Für eine engagierte und innovationsfreundliche Mitgestaltung Deutschlands bei der Regulierung Künstlicher Intelligenz in Europa“ (20/7583). Ursprünglich geplant war auch eine Aussprache zu einem Antrag der AfD zur „Umsetzung deutscher Positionen im Rahmen der Trilog-Verhandlungen zur Verabschiedung eines europäischen Gesetzes über Künstliche Intelligenz (AI Act)“ (20/7578). Beide Vorlagen sollten zur weiteren Beratung an den federführenden Digitalausschuss überwiesen werden. 

Antrag der Union

Die Unionsfraktion fordert in ihrem Antrag, Unklarheiten zum Verhältnis einzelner Anforderungen des AI-Acts zu anderen EU-Rechtsvorschriften im Sinne des Vorschlags des europäischen Parlaments zu bereinigen. Damit solle Rechtsunsicherheiten für die Entwickler von Künstlicher Intelligenz (KI) vorgebeugt werden, schreiben die Abgeordneten. Dazu gehörten einheitliche Begrifflichkeiten in den Gesetzen. Auch soll nach dem Willen der Fraktion die Definition von KI noch enger gefasst werde, sodass der Kern der KI-Definition beim Maschinellen Lernen liege.

Weiter fordert die Fraktion die Bundesregierung auf, sich dafür einzusetzen, dass der AI-Act in allen EU-Mitgliedstaaten einheitlich ausgelegt und durchgesetzt wird. Deutschland dürfe nicht „durch eine zu restriktive Auslegung oder Zersplitterung der Aufsichtsstruktur in eine wettbewerbsmindernde Position geraten“ wie sie teilweise im Bereich des Datenschutzes und der Datenschutz-Grundverordnung (DSGVO) zu beobachten gewesen sei, schreiben die Abgeordneten in dem Antrag.

Die Dokumentationspflichten für Foundation Models sollen dem Antrag zufolge analog zur Systematik des Digital Services Act (DSA) nur für sehr große Entwickler gelten. Es müsse sichergestellt werden, dass „jederzeit eine Anpassung an die aktuellen technologischen Entwicklungen“ möglich sei, wozu auch eine zeitnahe Evaluierung der Verordnung gehöre, heißt es im Antrag weiter.

Antrag der AfD

Die AfD-Fraktion hat einen Antrag vorgelegt (20/7578) in dem sie unter anderem vor einer Überregulierung Künstlicher Intelligenz (KI) in Deutschland und der Europäischen Union warnt. Allen Vereinbarungen zu Regelungsaspekten soll eine „ausgewogene Risiko- und Chancenabwägung“ zugrunde liegen, fordern die Abgeordneten. Die Bundesregierung solle sich in den anstehenden Trilog-Verhandlungen für ein europäisches Gesetz über KI dafür einzusetzen, dass die Regulierung von als Hochrisikosystem klassifizierten KI-Systemen nicht ohne Berücksichtigung der spezifischen Anwendung erfolge. Die geforderte Risikoklassifizierung von KI-Systemen durch die Unternehmen dürfe zudem „nicht zu administrativ und finanziell prohibitiven Innovationshürden für KMU und KI-Startups“ führen, schreiben die Abgeordneten in dem Antrag weiter.

Maßnahmen zur Innovationsförderung sollten zudem ergänzt werden um Regelungen, die „Kooperationscluster mit Start-ups, KMU und wissenschaftlichen Einrichtungen“ sowie deren Zugang zu Kapitalgebern für Anwendungsentwicklung und Vermarktung von KI-Lösungen fördern. Weiter soll nach dem Willen der Fraktion die Überprüfung von Reisedokumenten mithilfe von KI-Anwendungen sowie KI-Anwendungen zum Grenzschutz nicht untersagt werden. Das Verbot von Social Scoring-Systemen solle auch für private Akteure gelten, schreiben die Abgeordneten. (lbr/hau/06.07.2023)

Von der Tagesordnung des Bundestages am Freitag, 22. September 2023, abgesetzt wurde die Beratung eines Antrags der CDU/CSU-Fraktion mit dem Titel „Europäische KI-Verordnung – Für eine engagierte und innovationsfreundliche Mitgestaltung Deutschlands bei der Regulierung Künstlicher Intelligenz in Europa“ (20/7583) und eines Antrags der AfD zur „Umsetzung deutscher Positionen im Rahmen der Trilog-Verhandlungen zur Verabschiedung eines europäischen Gesetzes über Künstliche Intelligenz (AI Act)“ (20/7578). Ursprünglich sollten die beiden Vorlagen nach der Debatte an den federführenden Ausschuss für Digitales überwiesen werden. 

Antrag der Union

Der Antrag zielt darauf ab, Unklarheiten zum Verhältnis einzelner Anforderungen des AI-Acts zu anderen EU-Rechtsvorschriften im Sinne des Vorschlags des europäischen Parlaments zu bereinigen. Damit solle Rechtsunsicherheiten für die Entwickler von Künstlicher Intelligenz (KI) vorgebeugt werden, schreiben die Abgeordneten. Dazu gehörten einheitliche Begrifflichkeiten in den Gesetzen. Auch soll nach dem Willen der Fraktion die Definition von KI noch enger gefasst werde, sodass der Kern der KI-Definition beim Maschinellen Lernen liege.

Weiter fordert die Fraktion die Bundesregierung auf, sich dafür einzusetzen, dass der AI-Act in allen EU-Mitgliedstaaten einheitlich ausgelegt und durchgesetzt wird. Deutschland dürfe nicht „durch eine zu restriktive Auslegung oder Zersplitterung der Aufsichtsstruktur in eine wettbewerbsmindernde Position geraten“ wie sie teilweise im Bereich des Datenschutzes und der Datenschutz-Grundverordnung (DSGVO) zu beobachten gewesen sei, schreiben die Abgeordneten in dem Antrag. 

Die Dokumentationspflichten für Foundation Models sollen dem Antrag zufolge analog zur Systematik des Digital Services Act (DSA) nur für sehr große Entwickler gelten. Es müsse sichergestellt werden, dass „jederzeit eine Anpassung an die aktuellen technologischen Entwicklungen“ möglich sei, wozu auch eine zeitnahe Evaluierung der Verordnung gehöre, heißt es im Antrag weiter.

Antrag der AfD

Die AfD warnt in ihrem Antrag unter anderem vor einer Überregulierung von KI in Deutschland und der EU. Allen Vereinbarungen zu Regelungsaspekten soll eine „ausgewogene Risiko- und Chancenabwägung“ zugrunde liegen, fordern die Abgeordneten. Die Bundesregierung solle sich in den anstehenden Trilog-Verhandlungen für ein europäisches Gesetz über KI dafür einzusetzen, dass die Regulierung von als Hochrisikosystem klassifizierten KI-Systemen nicht ohne Berücksichtigung der spezifischen Anwendung erfolge. Die geforderte Risikoklassifizierung von KI-Systemen durch die Unternehmen dürfe zudem „nicht zu administrativ und finanziell prohibitiven Innovationshürden für KMU und KI-Startups“ führen, schreiben die Abgeordneten in dem Antrag weiter.

Maßnahmen zur Innovationsförderung sollten zudem ergänzt werden um Regelungen, die „Kooperationscluster mit Start-ups, KMU und wissenschaftlichen Einrichtungen“ sowie deren Zugang zu Kapitalgebern für Anwendungsentwicklung und Vermarktung von KI-Lösungen fördern. Weiter soll nach dem Willen der Fraktion die Überprüfung von Reisedokumenten mithilfe von KI-Anwendungen sowie KI-Anwendungen zum Grenzschutz nicht untersagt werden. Das Verbot von Social Scoring-Systemen solle auch für private Akteure gelten, schreiben die Abgeordneten. (lbr/hau/19.09.2023)

Zeit: Mittwoch, 15. Mai 2024, 9.30 Uhr
Ort: Berlin, Marie-Elisabeth-Lüders-Haus, Sitzungssaal 3.101

In Deutschland gibt es gute Ansätze für die Erforschung und Entwicklung von Künstlicher Intelligenz (KI) – doch an diese solide Ausgangslage muss unter anderem mit Investitionen und internationalen Kooperationen angeknüpft werden, um den Anschluss nicht zu verlieren. Das wurde bei einer öffentlichen Anhörung zum Thema „Künstliche Intelligenz als Schlüsseltechnologie für Deutschlands Zukunft stärken“ des Ausschusses für Bildung, Forschung und Technikfolgenabschätzung am Mittwoch, 15. Mai 2024, deutlich. Grundlage der Anhörung war ein Antrag der CDU/CSU-Fraktion (20/8414) mit gleichnamigem Titel.

Der Ausschussvorsitzende Kai Gehring (Bündnis 90/Die Grünen) sagte zu Beginn der Anhörung, dass sich die Mitglieder des Ausschusses über die Bedeutung von Zukunftstechnologien wie Künstlicher Intelligenz bewusst seien. KI sei ein zentraler Innovationstreiber, so Gehring. Daher müssten die Chancen von KI bestmöglich genutzt und die Risiken minimiert werden. 

Einheitliche KI-Strategie gefordert

Der Sachverständige Jörg Bienert vom KI Bundesvorstand Berlin (auf Vorschlag der Fraktion der CDU/CSU zur Anhörung eingeladen) kritisierte, dass sich die EU vorwiegend auf die Regulierung der Künstlichen Intelligenz konzentriere, während die USA massiv in die Entwicklung der Technologie investiere. Unternehmen in der EU seien mittlerweile „zu 80 Prozent von digitalen Services aus Übersee abhängig“, so Bienert. 

Der Sachverständige forderte eine einheitliche KI-Strategie der Ministerien und Bundesländer und mehr Investitionen, ansonsten werde Deutschland den Anschluss im Bereich der KI verpassen und von ausländischen Anbietern abhängig werden. Um unabhängig zu bleiben, brauche Deutschland zudem zusätzliche eigene Supercomputer mit enormer Rechenleistung.

„Staat muss gute Bedingungen schaffen“

Dem widersprach Prof. Dr. Boris Hollas von der Hochschule für Technik und Wirtschaft in Dresden (eingeladen auf Vorschlag der AfD-Fraktion). Gegen die Errichtung von Supercomputern in Deutschland sprächen beispielsweise die hohen Stromkosten hierzulande, sagte Hollas. Er erklärte zudem, dass Supercomputer an den Forschungseinrichtungen in Deutschland bisher vorrangig für Wissenschaftler ausgerichtet seien. Unternehmen sollten daher besser Cloud-Computing-Dienste nutzen. Außerdem brauche es „gewaltig viel Rechenleistung“, um große KI-Modelle zu errichten. Diese Rechenleistung zu erreichen, sei mit den bisherigen Supercomputern in Deutschland schwierig. 

Hollas nannte es Aufgabe des Staates, dafür zu sorgen, gute Bedingungen für Unternehmen zu schaffen, damit diese nicht in die USA abwanderten.

Bürokratie-Abbau und Investitionen

Auch Prof. Dr. Ute Schmid von der Otto-Friedrich-Universität Bamberg (auf Vorschlag der SPD-Fraktion zur Anhörung eingeladen) forderte mehr Engagement dafür, dass der Nachwuchs im Bereich KI nicht in die USA abwandere. Deutschland müsse mehr dafür tun, damit die besten Köpfe ins Land kommen, sagte Schmid. Dabei helfen könnte beispielsweise ein Abbau der Bürokratie, so die Sachverständige. 

Schmid sagte, es brauche beides: Investitionen in Spitzenforscherinnen und Spitzenforscher von KI und Investitionen in die allgemeine Bildung über KI. So müsse es heutzutage Bestandteil aller Studiengänge sein, KI sicher und souverän zu nutzen und deren Konsequenzen einschätzen zu können. Schmid forderte zwar, dass in eine staatliche digitale Infrastruktur investiert werden müsse, dennoch seien gemeinsame europäische Strategien ebenso sinnvoll. 

„Es braucht mehr Manpower und Geld“

Prof. Dr. Katharina Morik (auf Vorschlag von Bündnis 90/Die Grünen eingeladen) setzte sich ebenfalls für gemeinsame europäische Projekte ein. Auch forderte die Sachverständige vom Lamarr-Institut der TU Dortmund, Post-Docs im Bereich der KI unbefristet zu beschäftigen, sodass Talente, die in Deutschland ausgebildet wurden, nicht direkt nach Amerika gingen. Zudem sollten junge Wissenschaftlerinnen und Wissenschaftler mehr Rechte und Kompetenzen bekommen, um den stufenweisen Aufbau von KI in den Universitäten voranzubringen. 

Morik hob außerdem bisherige Errungenschaften im Bereich der KI hervor: „Wir sollten die Erfolge der KI nicht ignorieren, sondern auf sie aufbauen“. So gebe es zwar gute Ansätze in der KI-Forschung in Deutschland, doch es brauche mehr „Manpower und Geld“. 

Antragsverfahren für KI-Projekte

Auch Prof. Dr. Kristian Kersting von der TU Darmstadt (auf Vorschlag der CDU/CSU-Fraktion zur Anhörung eingeladen) forderte mehr staatliche Investitionen in die Forschung und Entwicklung von KI. Aktuell sei der globale Wettlauf um Rechenleistung im vollen Gange, so Kersting. Der Sachverständige befand, dass der Bedarf an Rechenleistung für KI-Modelle nicht nur ein aktuelles geopolitisches Druckmittel sei, sondern zukünftig dazu beitragen werde, dass Wirtschafts- und Wissenschaftsräume noch mehr miteinander konkurrieren. 

Kersting monierte, dass es Deutschland an der digitalen Infrastruktur mangele. Zudem forderte er, Antragsverfahren in der Wissenschaft für KI-Projekte anzupassen und zu verkürzen. Denn für „schnelllebige Technologien wie KI“ seien die bisherigen Antragsverfahren der Wissenschaftsförderung zu langsam.

Entwicklung von KI-basierten Anwendungen

Nicole Büttner-Thiel vom Bundesverband Deutsche Startups (auf Vorschlag der FDP-Fraktion zur Anhörung eingeladen) sagte, dass im vergangenen Jahr in Deutschland 341 neue Startups mit direktem KI-Bezug gegründet worden seien. Das zeige Standort-Stärke, so Büttner-Thiel. 

Dennoch fehlte es der Sachverständigen an „Geschwindigkeit, Entschlossenheit und Investitionsbereitschaft“ im Bereich der Entwicklung und Erforschung von KI-basierten Anwendungen. Insbesondere wenn Startups an die Börse gehen wollen, sei Deutschland als Unternehmensstandort nicht optimal geeignet. Büttner-Thiel forderte Initiativen zur Förderung solcher Vorhaben. 

Supercomputer statt Cloud-Computing-Dienste

Prof. Dr. Wolfgang Nagel (auf Vorschlag der SPD-Fraktion zur Anhörung eingeladen) befand, dass es Supercomputer geben müsse, da Cloud-Computing-Dienste nicht für große KI-Modelle ausreichten. Dennoch sagte Nagel, dass es zukünftig nicht auf der ganzen Welt Rechenzentren geben werde, die enorme Leistungen von etwa einer bis einhundert Milliarden Rechenoperationen aufbringen könnten. Solche Rechenzentren seien auch zukünftig die Ausnahme, sagte der Sachverständige. 

Nagel betonte, dass auch die Energieeffizienz der Supercomputer nicht außer Acht gelassen werden dürfe. (cha/15.05.2024)

Von der Tagesordung abgesetzt wurde eine Vorlage der Unionsfraktion die „Künstliche Intelligenz als Schlüsseltechnologie für Deutschlands Zukunft stärken“ soll. Der so betitelte Antrag (20/8414) aus dem September 2023 stand ursprünglich am Freitag, 14. Juni 2024, zur Abstimmung. Vom Ausschuss für Bildung, Forschung und Technikfolgenabschätzung wurde zu der Vorlage ein Beschlussempfehlung erwartet. 

Beraten wird auch der Bericht des Ausschusses für Bildung, Forschung und Technikfolgenabschätzung gemäß Paragraf 62 Absatz 2 derGeschäftsordnung des Bundestages (20/11213) zu dem Antrag. Der Regelung zufolge kann eine Fraktion zehn Sitzungswochen nach Überweisung einer Vorlage verlangen, dass der Ausschuss durch den Vorsitzenden oder Berichterstatter dem Bundestag einen Bericht über den Stand der Beratungen erstattet. Auf Verlangen ist der Bericht auf die Tagesordnung des Bundestages zu setzen. 

Antrag der CDU/CSU

Die Unionsfraktion hält es für den richtigen Weg, die Infrastruktur für Bedürfnisse von Künstlicher Intelligenz (KI) und Deep Learning zu erweitern, um die Entwicklung großer KI-Modelle vor allem für Start-ups und Open Source in Deutschland und Europa zu verbessern. Durch Deep Learning werden Maschinen in die Lage versetzt, selbstständig und ohne menschliches Zutun ihre Fähigkeiten zu verbessern.

Aus Sicht der Abgeordneten ist es notwendig, die Hardware zu erweitern und eine eigene „Governance-Struktur“ zu schaffen, die einen primären Zugang für nationale und europäische Start-ups sowie kleine und mittlere Unternehmen für das Trainieren von KI-Modellen ermöglicht – und zwar ohne komplexe Antragsverfahren und Konkurrenzsituationen mit anderen Nutzungen.

„Staat als strategischer Ankerkunde“

Als erprobt und geeignet für die Förderung von Technologie betrachtet die Fraktion den Staat, der als „strategischer Ankerkunde mit vorkommerzieller Beschaffung“ positioniert werden soll. Dazu sollen Entwicklungsaufträge für Produkte und Dienstleistungen im Wettbewerb vergeben werden, noch bevor diese fertig sind.

In der vergangenen Wahlperiode sei dies bereits erfolgreich bei Trägerraketen und Quantentechnologien des Deutschen Zentrums für Luft- und Raumfahrt (DLR) erprobt worden. Ein solches Vorgehen will die Fraktion über Wettbewerbe und vorkommerzielle Beschaffung anwenden, um KI-Start-ups, zu denen auch universitäre KI-Ausgründungen gehören, stärker zu fördern.

„Entwicklung maschineller Lernverfahren fördern“

Die Bundesregierung wird unter anderem aufgefordert, die Integration von Quantencomputern in Höchstleistungsrechner zu forcieren und den Aufbau von Plattformen für quantenunterstützte KI sowie die Entwicklung von quantenunterstützten maschinellen Lernverfahren systematisch zu fördern. Sogenannte On-Premise-KI-Lösungen – auf eigenen Servern betriebene Software – müssten für die Bundesverwaltung und für Bildungseinrichtungen etabliert und bereitgestellt werden.

Darüber hinaus verlangen die Abgeordneten, das Engagement des Bundes bei der der KI-Fachkräftegewinnung zu erhöhen und internationale Talente anzuwerben. Auch müsse die Finanzierung der aufgebauten KI-Professuren langfristig sichergestellt werden, was besonders für die KI-Professuren der Alexander-von-Humboldt-Stiftung gelte. (vom/hau/11.06.2024)

Der Bundestag hat am Freitag, 28. Juni 2024, einen Antrag der CDU/CSU-Fraktion mit dem Titel „Künstliche Intelligenz als Schlüsseltechnologie für Deutschlands Zukunft stärken“ (20/8414) mit der Mehrheit der Koalitionsfraktionen und der Linken bei Enthaltung der AfD-Fraktion abgelehnt. Der Abstimmung lag eine Beschlussempfehlung des Ausschusses für Bildung, Forschung und Technikfolgenabschätzung (20/11996) zugrunde.

Gegenstand der Aussprache war auch der Bericht des Ausschusses für Bildung, Forschung und Technikfolgenabschätzung gemäß Paragraf 62 Absatz 2 der Geschäftsordnung des Bundestages (20/11213) zu dem Antrag vom September 2023. Dieser Regelung zufolge kann eine Fraktion zehn Sitzungswochen nach Überweisung einer Vorlage verlangen, dass der Ausschuss durch den Vorsitzenden oder Berichterstatter dem Bundestag einen Bericht über den Stand der Beratungen erstattet. Auf Verlangen muss der Bericht auf die Tagesordnung des Bundestages gesetzt werden.

Antrag der CDU/CSU

Die Unionsfraktion hält es für den richtigen Weg, die Infrastruktur für Bedürfnisse von Künstlicher Intelligenz (KI) und Deep Learning zu erweitern, um die Entwicklung großer KI-Modelle vor allem für Start-ups und Open Source in Deutschland und Europa zu verbessern. Durch Deep Learning werden Maschinen in die Lage versetzt, selbstständig und ohne menschliches Zutun ihre Fähigkeiten zu verbessern.

Aus Sicht der Abgeordneten ist es notwendig, die Hardware zu erweitern und eine eigene „Governance-Struktur“ zu schaffen, die einen primären Zugang für nationale und europäische Start-ups sowie kleine und mittlere Unternehmen für das Trainieren von KI-Modellen ermöglicht – und zwar ohne komplexe Antragsverfahren und Konkurrenzsituationen mit anderen Nutzungen.

„Staat als strategischer Ankerkunde“

Als erprobt und geeignet für die Förderung von Technologie betrachtet die Fraktion den Staat, der als „strategischer Ankerkunde mit vorkommerzieller Beschaffung“ positioniert werden soll. Dazu sollen Entwicklungsaufträge für Produkte und Dienstleistungen im Wettbewerb vergeben werden, noch bevor diese fertig sind.

In der vergangenen Wahlperiode sei dies bereits erfolgreich bei Trägerraketen und Quantentechnologien des Deutschen Zentrums für Luft- und Raumfahrt (DLR) erprobt worden. Ein solches Vorgehen will die Fraktion über Wettbewerbe und vorkommerzielle Beschaffung anwenden, um KI-Start-ups, zu denen auch universitäre KI-Ausgründungen gehören, stärker zu fördern.

„Entwicklung maschineller Lernverfahren fördern“

Die Bundesregierung wird unter anderem aufgefordert, die Integration von Quantencomputern in Höchstleistungsrechner zu forcieren und den Aufbau von Plattformen für quantenunterstützte KI sowie die Entwicklung von quantenunterstützten maschinellen Lernverfahren systematisch zu fördern. Sogenannte On-Premise-KI-Lösungen – auf eigenen Servern betriebene Software – müssten für die Bundesverwaltung und für Bildungseinrichtungen etabliert und bereitgestellt werden.

Darüber hinaus verlangen die Abgeordneten, das Engagement des Bundes bei der KI-Fachkräftegewinnung zu erhöhen und internationale Talente anzuwerben. Auch müsse die Finanzierung der aufgebauten KI-Professuren langfristig sichergestellt werden, was besonders für die KI-Professuren der Alexander-von-Humboldt-Stiftung gelte. (hau/cha/28.06.2024)