Sebastian Striegel (GRÜNE):
Frau Präsidentin! Meine sehr verehrten Damen und Herren! Ich verzichte darauf, eine KI-generierte Rede von ChatGPT vorzutragen. Es gilt doch besser das selbst gedachte und gesprochene Wort. Spannender hingehen könnte sein, zu welchem Ergebnis die KI kommt, sollte sie die bisherige Debatte zusammenfassen müssen. Es scheint mir doch so zu sein, dass wir es hier mit einer etwas unterkomplexen Sichtweise auf diese Thematik zu tun haben. Es klingt doch bei dem einen oder anderen Redner, der einen oder anderen Rednerin so, als wäre KI einfach eine Fortsetzung des Bisherigen: Digitalisierung, toll, neue Chancen. Ich fürchte, es ist etwas deutlich anderes. Der wirklich disruptive Charakter dieser Technologie ist in der Debatte noch überhaupt nicht deutlich geworden. Der lohnt sich anzuschauen; nicht weil man irgendwie Doom-Mongering machen möchte und sagen wollte: Ab jetzt gibt es nur noch eine Dystopie. Ich glaube, dazu gehört, sich bei einem solchen Epochenbruch zu fragen, was das für uns bedeutet.
Ich meine, es kann sinnvoll sein, einen Blick zurück auf die erste Wissensmedienrevolution der Moderne zu werfen. Der moderne Buchdruck mit beweglichen Lettern und Druckerpresse als Grundlage der massenhaften und günstigen Vervielfältigung von Schriftwerken schuf eine neue Wissenswelt mit frappierend ähnlichen Fragen wie bei der sich heute auftuenden KI-Welt.
Gutenbergs Erfindung des Buchdrucks wurde im Übrigen in Magdeburg als eine der ersten 30 Städte weltweit umfassend praktiziert. Die Stadt durfte bis zu ihrer Zerstörung im Dreißigjährigen Krieg den vom Herzog Caspar Aquila - gelebt hat er von 1488 bis 1560 - verwandten Ehrentitel „Unseres Herrgotts Kanzlei“ führen. In Magdeburg bestanden zu dieser Zeit die Voraussetzungen, die eine Verbreitung der Ideen Martin Luthers ermöglichten. Die Erfindung des Buchdrucks beschleunigte den Erfolg der Reformation. Luthers Lehre konnte sich mithilfe massenweise hergestellter Flugblätter verbreiten. Nur in Magdeburg konnte unbeschränkt protestantisches Schriftgut gedruckt werden. Hoffentlich können wir bei Artificial Intelligence hieran anknüpfen und den Zug der Zeit erwischen. Intel könnte ein Beschleuniger dafür sein.
Aber zurück in die Vergangenheit. Die Erfindung des Buchdrucks vor 500 Jahren zog nach sich: schnelle Dividenden und einen Gründerboom mit völlig neuen Geschäftsmodellen, Verbotsdebatten, um aus der Sicht der Herrschaft unkontrollierbare Massentexte zu unterbinden, Qualitätsdebatten, für wen was verfügbar sein sollte und was nicht, praktizierte Zensur, aber auch Wissenszuwachs und Explosion der Wissensverbreitung. All das sei erwähnt, um wenigstens ansatzweise die Umwälzungen infolge einer technischen Neuerung anzureißen. Gleichzeitig muss klar sein: KI ist für eine ungleich größere Zahl an Menschen unmittelbar verfügbar. Das potenziert ihre Wirkung im Guten wie im Schlechten.
Die Analogien zur heutigen Zeit erschließen sich von selbst. Wenn nicht, dann hilft ChatGPT dabei. Fragen Sie doch einmal nach den gesellschaftlichen Veränderungen infolge der Erfindung des Buchdrucks mit beweglichen Lettern. In die Zukunft gesprungen wird es ähnlich sein wie heute. Wie lebten, so fragt Werner Enke, die Menschen vor der Erfindung von PC und Smartphone? - Man weiß es nicht, sie sind ja alle ausgestorben.
Die Implikationen der neuen Technik werden so umfassend sein, dass an deren Ende KI normal und im Alltag so integriert ist, dass sie nicht mehr wegzudenken ist. Einige Herausforderungen dieser Entwicklung können wir ableiten - siehe Buchdruck , andere sind noch nicht einmal ansatzweise erkennbar. Das macht umso wichtiger, sich damit kritisch und andauernd auseinanderzusetzen.
(Zustimmung bei den GRÜNEN)
Wie jede technische Entwicklung kann deren Gebrauch und Fortentwicklung im Guten wie im Schlechten genutzt werden. Jedes Werkzeug kann Neues erschaffen oder gefährdend eingesetzt werden. Die gesellschaftliche Aufgabe wird fortwährend sein, uns darüber zu verständigen und entsprechend wirkende Regelungen zu schaffen sowie durchzusetzen.
Mit finalen Antworten tue ich mich dabei schwer. Auch wenn ChatGPT und Anwendungen zur Erzeugung von Bildern, ja ganzen Videos, erst heute in aller Munde bzw. auf jedermanns Smartphone verfügbar sind, so ist künstliche Intelligenz schon viel länger ein Thema und die Frage, wie künstliche Intelligenz reguliert werden soll, eben nicht gänzlich unbeantwortet.
Der Europarat beriet in der letzten Woche über die Konvention mit dem Titel „Convention on Artificial intelligence, Human Rights, Democracy and Rule of Law“. Verhandelt wird darin unter anderem, ob KI-Anwendungen nachvollziehbar sein müssen bei dem, was sie berechnen, und, wenn ja, nach welchen Prinzipien das zu geschehen hat. Das KI-Komitee des Europarats hatte sich das Ziel gesetzt, bis November 2023 ein fertiges Abkommen auszuarbeiten.
Die EU arbeitet derzeit an einer Verordnung, dem AI Act, der die rechtlichen Fragen rund um KI regeln soll. Gestern hat sich das EP darauf geeinigt: Als verbindliches KI-Gesetz sollen für alle Branchen und den Staat Regeln geschaffen werden. Spätestens mit der verpflichtenden Umsetzung in nationales deutsches Recht wird das für uns auch konkret und verpflichtend. Das vor wenigen Tagen gestartete Verwaltungsverfahren der deutschen Landesdatenschutzbehörden - mit dem Gegenstand ChatGPT und gerichtet an deren Entwicklerfirma Open AI - prüft den bereits geltenden Rechtsrahmen der Datenschutz-Grundverordnung in Bezug auf diese KI ab.
Auf welcher Rechtsgrundlage erfolgt die Sammlung der personenbezogenen Daten? Wie wird der Kinder- und Jugendschutz gesichert, damit Daten von unter 13-Jährigen nicht gesammelt werden? Wie werden die bestehenden Informationspflichten des Plattformbetreibers erfüllt? - Hierbei stehen im Regelungsfokus die Rohinformationen und Algorithmen, die mittels Musteranalyse dieser Daten die Leistung von menschlicher Intelligenz imitieren.
Dazu lassen sich aus meiner Sicht nachvollziehbare Anforderungen definieren. Künstliche Intelligenz muss auf der Grundlage demokratischer und humanistischer Werte entwickelt und zum Wohl von Mensch und Umwelt eingesetzt werden. Die systematische Funktionsweise von Algorithmen und die Verwendung von Daten müssen transparent und nachvollziehbar sein. Das ist derzeit bei ChatGPT nicht der Fall. Es darf nicht darum gehen, Innovation zu verunmöglichen. Aber einen Prototyp zum allgemeinen Gebrauch freizugeben, ohne bereits geltende Regeln zu befolgen und die nötige Sicherung zu treffen, geht nicht; auch nicht bei einer Webanwendung wie ChatGPT.
Daran anschließend erwächst eine stetig wachsende Liste von Sekundäreffekten aus der Qualität von KI-Anwendungen. Fragen und Regelungsbedarfe im Großen wie im Konkreten kommen auf. Wie gestaltet sich das Urheberrecht auf durch KI zusammengesetzte Werke, seien es Bilder, Texte, Sprachsequenzen usw.? Liegen die bei den eigentlichen Kreatoren, den Anwendenden über ihre Aufgabenstellung oder den Betreibenden der KI-Anwendung? Zu welchen Anteilen werden diese Rechte verteilt, um auch Ökonomisierung und Monetarisierung zu regeln? Wie wird die Demokratie herausgefordert, wenn sich mit überschaubarem Aufwand Propaganda in unbegrenzten Mengen kreieren lässt? Wie soll die Diskriminierung von Gruppen verhindert werden, wenn eine künstliche Intelligenz mit Bias in Auswahlprozesse einbezogen wird? Wie kann Widerspruch gegen KI-Entscheidungen ausgestaltet werden, z. B. beim Scoring oder bei der Kreditwürdigkeit? Wie können Menschen befähigt werden, KI zu erkennen? Wie soll man mit KI in unterschiedlichster Art umgehen? Wie muss sich Bildung verändern, um Kindern und Jugendlichen Potenziale und Gefahren von KI deutlich zu machen?
Im Widerspruchsrecht gegenüber der KI-Technologie liegt zumindest ein Schlüsselansatz, der Fragen um diese Technologie berührt. Es sollte zwingend das Recht gelten, KI-Entscheidungen zu kennzeichnen und bei Bedarf stattdessen eine Beurteilung durch einen Menschen verlangen zu können. Neben technischer Diskriminierung besteht gerade auch bei bereits kleinen Fehlern im Datenmaterial die Gefahr, dass sich, wenn mit diesen weitergerechnet wird, der Fehler multipliziert.
(Beifall bei den GRÜNEN)
Um diesen Fragen beizukommen, ist gerade auch für Sachsen-Anhalt ein treffendes Thema, die Aufsichtsbehörden fachlich, fundiert und mit genügend Ressourcen auszustatten und eben nicht dem politischen Belieben der jeweils Regierenden zu überlassen. Es gilt, die Einhaltung hoher Standards sicherzustellen, ohne in Abhängigkeit von Technologien zu geraten, die nicht unseren Ansprüchen an Privatheit und Transparenz genügen. - Herzlichen Dank.
(Beifall bei den GRÜNEN)