Matthias Büttner (Stendal) (AfD):
Sehr geehrte Frau Präsidentin! Geschätzte Kollegen! Meine sehr geehrten Damen und Herren! Ich hoffe, dass ich trotz meiner angeschlagenen Stimme einigermaßen zu verstehen bin.
(Zuruf von der AfD: Jawohl!)
Seitdem der Chatbot ChatGPT im vergangenen November für die Öffentlichkeit freigegeben wurde, gibt es einen regelrechten Hype um diese Anwendung und auch um die künstliche Intelligenz, die dahintersteckt. Doch was ist ChatGPT eigentlich? Wir haben es schon oft gehört, ich habe jedoch das System dazu selbst befragt. ChatGPT ist ein großes Sprachmodell, das auf der GPT-3.5-Architektur von OpenAI trainiert wurde. Seine Programmierung und Funktionalität ermöglichen es ihm, auf eine Vielzahl von Fragen und Anfragen zu antworten, indem es auf ein umfangreiches Wissen und Erfahrung zugreift, das während seines Trainings aufgebaut wurde. Obwohl es keine menschliche Intelligenz hat, kann es auf eine Vielzahl von Themen und Situationen reagieren und versuchen, hilfreiche Antworten bereitzustellen. - So also zumindest beschreibt ChatGPT sich selbst, wenn man es danach fragt.
Eigentlich ist die Idee dieses Systems auch nicht besonders neu. Denn die Geschichte von Chatbots geht bereits in die 1960er-Jahre zurück. Auch an künstlicher Intelligenz wird bereits seit 1955 geforscht. Auch viele Unternehmen arbeiten schon seit Jahren mit dieser Art von System, z. B. im Bereich des Kundenservice. Hier können Anfragen, die in den Bereich des First-Level-Support fallen, unter Umständen gleich beantwortet werden oder werden automatisiert an die entsprechenden nachgeordneten Stellen zur Bearbeitung zugewiesen.
Das Ganze spart selbstverständlich Ressourcen im Personalbereich, die jedes Unternehmen gern in attraktiveren und sinnvolleren Bereiche zur Entwicklung des Unternehmens einsetzen kann. So könnte künstliche Intelligenz auch im Bereich der Verwaltung sinnvoll eingesetzt werden. Gerade im Hinblick auf die Digitalisierung von Behördengängen würden dem Bürger so viel Zeit und Nerven erhalten bleiben. Aber auch die Verwaltung selbst würde durch effektiveres Personalmanagement profitieren können.
Was unterscheidet aber ChatGPT nun von den bereits existierenden Systemen? Was macht es so besonders und ist dieser Hype damit gerechtfertigt? Die bisher existierenden, ich sage einmal, traditionellen Chatbots, z. B. aus dem eben beschriebenen Szenario, arbeiten mit vorprogrammierten Antworten und Skripten.
Falls sich aufgrund von veränderten Bedingungen oder Gegebenheiten eine Antwort als falsch oder, zeitlich betrachtet, als überholt herausstellt, muss ein Mensch eingreifen, indem er eine Antwort korrigiert oder neu hinzufügt.
ChatGPT ist im Gegensatz dazu in der Lage, aufgrund des Machine-Learning-Ansatzes den Kontext von Gesprächen zu verstehen, also anhand von vorherigen Anfragen und Antworten eine angemessene Antwort zu generieren, dazuzulernen und sich so eventuell auch selbst korrigieren.
Jede Antwort durch ChatGPT ist dabei nahezu in perfekter sprachlicher Ausführung. Somit ist eben nicht zu erkennen, dass dieser Text durch eine Maschine erstellt wurde. Dabei gibt es auch so gut wie keinerlei thematische Begrenzungen. Das System hat Zugang zu einer Vielzahl von Informationen und Datenbanken und kann gefühlt auf alles antworten.
Die Software ist sogar dazu imstande, einen Programmcode zu erzeugen, diesen mit Syntaxhinweisen zu versehen, den Code selbst auf Fehler zu untersuchen, zu bereinigen und damit auch lauffähig zu machen.
Diese digitale Wunderwaffe ist zum einen für jeden frei zugänglich eine einfache Registrierung auf der Webseite reicht dazu aus und zum anderen völlig kostenfrei. Zwar gibt es wohl ein Abo für eine Premiumvariante; mit dieser kauft man aber wohl nur eine höhere Verfügbarkeit ein und keinen Mehrwert an anderen Funktionalitäten. Diese digitale Wunderwaffe dominiert aktuell die digitale Welt.
Das alles mag zwar für den technikbegeisterten Menschen irgendwie beeindruckend klingen. Aber wie immer gibt es auch eine Kehrseite der Medaille.
Sie beschreiben in der Begründung zu der Aktuellen Debatte selbst die aktuelle Problematik an Schulen und Hochschulen mit der automatisierten Erstellung von Haus- und Studienarbeiten. Eine komplexe Fleißarbeit für Schüler ist also binnen Sekunden erstellt, ausgedruckt, vielleicht sogar noch handschriftlich abgeschrieben, und dann auch schon zur Abgabe bereit - das Ganze selbstverständlich in einer Qualität, die in der Regel eine gute oder sogar sehr gute Bewertung mit sich bringen würde. Der Lerneffekt für den Schüler bleibt dabei selbstverständlich völlig außen vor. Für den Pädagogen ist es nicht ohne Weiteres erkennbar, dass es sich um eine automatisiert erstellte Arbeit handelt.
Natürlich arbeitet man schon an einer Art Gegensoftware für dieses Problem. Texte werden anhand dieser Software geprüft um festzustellen, ob es sich um menschengemachte Texte handelt oder ob diese KI-generiert sind. In der Praxis würde das aber bedeuten, dass ein Lehrer Schularbeiten einscannen muss, diese dann mittels einer OCR-Software irgendwie weiter digital verwendbar macht das kann im Übrigen schon die erste erhebliche Fehlerquelle sein und dann mit dieser Gegensoftware überprüft.
Aktuell soll diese Software vor allem für englische Texte belastbare Ergebnisse liefern. Die deutsche Textabfrage funktioniert noch nicht so richtig. Selbst bei den englischen Texten haben Testläufe ergeben, dass nur in jedem vierten Fall ein von einem Computer geschriebener Text auch als solcher identifiziert wurde.
Gleichwohl gibt es natürlich auch das Problem, dass in 9 % der Fälle fälschlicherweise von Menschen formulierte Texte einer Maschine zugeordnet wurden. Das ist also auch fast jeder zehnte Fall. Dabei reden wir noch immer von englischen Texten. Diese desaströsen Testwerte zeigen schon deutlich auf, dass wir in naher Zukunft nicht mit einer Lösung für den deutschsprachigen Raum rechnen können.
Aber angenommen, diese Lösung gäbe es und sie würde vollumfänglich funktionieren. Sind wir einmal ehrlich: Welcher Lehrer hat denn ein Interesse daran, sich noch diese zusätzliche Arbeit zu machen? Jeder Lehrer würde damit quasi im Nebenjob Plagiatsdetektor werden müssen. Ich wage einmal zu behaupten, dass vielleicht vor allem ältere Lehrer, die bereits im Spätherbst ihres Berufslebens stehen, sich solche Dinge eigentlich nicht mehr aneignen möchten. Diesen Mehraufwand wird unterm Strich also kaum einer leisten wollen. Dabei haben wir schon seit Jahren einen Lehrernotstand zu verzeichnen.
Diese Herausforderungen im Bildungsbereich sind selbstverständlich nicht das einzige Problem. Ein weiteres Risiko wird durch die Programmierfähigkeiten dieses Systems in der allgemeinen IT-Sicherheit entstehen. Sind bisher weniger qualifizierte Cyberkriminelle an ihren eigenen Fähigkeiten bei ihren Vorhaben gescheitert, haben sie nun ein mächtiges KI-Tool an ihrer Seite, das ihnen bei der Ausführung behilflich ist.
Sicherheitsforscher konnten mit diesem System ohne Probleme und mit einfachsten Befehlen Phishing-Mails mit bösartigen Anhängen, Schadcode und gar vollständige Infektionsketten erzeugen, um damit auf fremde Computer zugreifen zu können. Ich denke, man braucht nicht allzu viel Fantasie, um zu ahnen, dass die Bedrohungen in diesem Bereich zunehmen werden.
In Italien das haben wir auch schon gehört ist der Chatbot übrigens durch die Datenschutzbehörde mittels Geoblocking gesperrt worden, unter anderem deswegen, weil erhebliche Jugendschutzbedenken bestehen. So können Kinder für sie absolut unangebrachte Inhalte angezeigt bekommen.
Zudem sieht die italienische Datenschutzbehörde die Möglichkeit, dass der Bot falsche Fakten herbeihalluziniert und somit Falschinformationen verbreitet. Das kann kein dauerhafter Zustand sein, zumal eine solche Sperre leicht durch VPN-Server umgangen werden kann und somit eben keine wirkliche Lösung für die Probleme bietet.
Es gibt also noch viele offene Fragen, die auf diesem Gebiet beantwortet werden müssen. Wir dürfen auf diesem Gebiet nicht blauäugig weiter forschen, ohne vorher grundsätzliche Spielregeln festgelegt zu haben.
Im Übrigen habe ich erst überlegt, mir diese Rede zu Demonstrationszwecken vollständig von ChatGPT schreiben zu lassen, habe aber gesehen, dass genau das kürzlich jemand im Europaparlament gemacht hat. Deswegen habe ich ChatGPT lediglich gebeten, mir einen Schlusssatz zu einer differenzierten Rede zu diesem Thema zu geben. Dieser lautet wie folgt:
In Anbetracht der Potenziale und Herausforderungen, die mit künstlicher Intelligenz verbunden sind, bleibt es wichtig, dass wir uns kontinuierlich mit den ethischen, sozialen und rechtlichen Implikationen auseinandersetzen, um sicherzustellen, dass wir die Vorteile von Technologien wie ChatGPT nutzen können, ohne dabei die grundlegenden Werte unserer Gesellschaft zu gefährden. - Ich denke, das ist ein ziemlich passender Abschluss. - Vielen Dank für Ihre Aufmerksamkeit.
(Beifall und Bravo! bei der AfD)