You are here: Medien und Informatik » ChatGPT

ChatGPT & Schule

Worum geht es?

Die Veröffentlichung einer Testversion des KI-Chatbots ChatGPT im November 2022 hat zu einem Hype in sozialen Medien und Massenmedien geführt. Oft wird auch die Frage gestellt, welche Auswirkungen KI-Sprachgeneratoren wie ChatGPT auf die Schule haben. Dieser Text liefert Einordnungen der PHSZ zum Thema.

Allgemeine Einordnung

Die Veröffentlichung von ChatGPT im November 2022 machte eine längere und grössere Entwicklung öffentlich sichtbar. Vergleichbar mit der Markteinführung des iPhones im Jahr 2007 ist ChatGPT nicht aus dem Nichts entstanden und hat nicht komplett neue und unerwartete Eigenschaften. iPhone wie ChatGPT gelang es aber, bestehende bzw. sich entwickelnde Technologien so zu vereinen und zu nutzen, dass sie in grösserem Umfang wahrnehmbar wurden und als Beginn einer jeweils neuen Ära gelten.

zeitraeume-chatgpt.png

Bei der Einschätzung von ChatGPT gilt es nun verschiedene Abstraktions- und damit verbundenen Zeiträume zu unterscheiden. Gewisse, versionsspezifische Eigenschaften haben eine Gültigkeit von wenigen Wochen, während gewisse grundlegende Aspekte nicht spezifisch für ChatGPT sind, dafür aber Jahre oder gar Jahrzehnte Gültigkeiten haben werden. Vermutlich gilt auch für CHatGPT die Aussage von Roy Amara, dass Menschen dazu neigen, Kurzfristiges zu überschätzen und Langfristiges zu unterschätzen (Biblionetz:w03364).

Technische Perspektive

  • ChatGPT ist nur ein Schritt in einer längeren Entwicklung

  • Die Grenze des Möglichen ist nicht einfach zu benennen

  • ChatGPT ist ein sehr allgemeines Werkzeug, das mehr auf Breite als auf Tiefe setzt
    ChatGPT ist ein generisches Werkzeug, das auf breite Anwendung ausgelegt ist. Es ist deshalb in allen Aspekten weniger leistungsfähig als bereits existierende und zukünftig entstehende Spezialwerkzeuge.

  • ChatGPT beruht primär auf einem Sprachmodell und ist keine Logik-Maschine
    GPT3 und Co. bauen ihre Antworten primär aufgrund von statistisch zu erwartenden Wörtern und Sätzen zusammen, deren Wahrscheinlichkeiten sie in ihrem Textkorpus gefunden haben. Es kommt deshalb mitunter vor, dass sie sachliche und/oder logische Fehler generieren.

  • Bei der Diskussion gilt es kurzlebige Versionseigenschaften von mittelfristigen Produkteigenschaften und insbesondere von langfristigen Technologieeigenschaften zu unterscheiden
    • Versionsspezifisch: Bei der seit Dezember 2022 verfügbaren Version von ChatGPT handelt es sich um eine Testversion zur Verbesserung des Dienstes. Die Interaktionen von Testnutzenden fliessen automatisiert und/oder manuell in den Dienst ein, so dass ChatGPT bereits nach einer Woche ganz anders auf gewisse Anfragen reagiert. Somit sind derzeit sogar Aussagen zum konkreten Dienst ChatGPT manchmal nur von zeitlich sehr begrenzter Gültigkeit.
    • Produktspezifisch und darum langfristig nicht relevant für die Diskussion sind u.a. folgende Punkte:
      • ChatGPT beruht auf einem Textkorpus von 2021 und bezieht bei Antworten das aktuelle Internet nicht mit ein
        Dies ist aber eine operative Begrenzung der Entwickler:innen und kein grundsätzliches Hindernis.
      • ChatGPT zitiert derzeit nicht korrekt (Zitierstil) und erfindet mitunter Quellen.
        Dies sind beides Eigenschaften, die sich leicht korrigieren lassen in anderen Produkten, da sich sowohl die korrekte Zitierweise automatisieren und automatisiert prüfen lässt als auch eine automatische Prüfung auf die Existenz von Quellen leicht machbar ist.

  • KI-Sprachroboter-Erkennungssoftware wird ein Wettrüsten auslösen, aber keine sichere Erkennung bringen
    Die Entwicklung von Programmen zur Erkennung von KI-generierten Texten (wie z.B. GPT-Zero) wird ein Wettrüsten zwischen KI-Textgenerierung und KI-Texterkennung auslösen, da KI-Textgenerierungsprogramme die verfügbaren Erkennungsprogramme als zusätzlichen Filter / Trainingsmöglichkeit nutzen werden (GAN-Netzwerk mit Erkennungsalgorithmus als Diskriminator). Es wird somit vermutlich langfristig nicht möglich sein, computergenerierte Texte zuverlässig automatisiert erkennen zu können.
    • Das Wettrüsten hat begonnen
      Turnitin hat in einem YoutTube-Video die Erweiterung ihres Dienstes um die Erkennung von generiertem Text angekündigt.

Gesellschaftliche Perspektive

Im Folgenden werden nur gesellschaftliche Aspekte aufgeführt, die einerseits spezifisch sind für KI-Textgeneratoren und andererseits Konsequenzen haben für die Schule, die über "Das sollte man in der Schule thematisieren" hinausgehen:

  • ChatGPT & Co. sind Werkzeuge, die ab jetzt im Leben zur Verfügung stehen und nicht mehr verschwinden werden.
    Natürlich wird noch eine gewisse Zeit vergehen, bis diese Werkzeuge allgemein und dauerhaft zur Verfügung stehen werden (ChatGPT ist derzeit nur eine Testversion, die auch wieder verschwinden könnte). Längerfristig ist aber davon auszugehen, dass solche Werkzeuge ab jetzt für alle (frei) verfügbar sein werden.
    • Es ist denkbar, dass ChatGPT & Co. Suchmaschinen bis zu einem gewissen Grad als Werkzeuge ablösen werden.
      Viele Beta-user von ChatGPT berichten, dass sie angefangen haben, ChatGPT als Ersatz für eine Suchmaschine zu verwenden. Es mehren sich auch die Stimmen, welche KI-Chatbots als Gefahr für traditionelle Suchmaschinen und das damit zusammenhängende Geschäftsmodell von Werbeanzeigen zwischen den Suchbegriffen als bedroht ansehen. Microsoft hat bereit angekündigt, die Technologie in die Suchmaschine Bing übernehmen zu wollen.) (Quellen siehe Biblionetz:a01506)
    • ChatGPT & Co. werden in anderen Produkte und Plattformen integriert werden
      (Microsoft hat bereits angekündigt, die Technologie in Office-Programme übernehmen zu wollen.)
  • ChatGPT & Co. vereinfachen und vergünstigen das Erstellen von Text massiv.
    Das wird vermutlich mindestens folgende Konsequenzen haben (die für die Allgemeinbildung relevant sind):
    • Die Informationsflut wird noch einmal um eine Grössenordnung ansteigen
      (Quellen und Kritik siehe Biblionetz:a01490)
    • Die Flut an Fake-News dürfte weiter zunehmen
      (Quellen siehe Biblionetz:a01493)
    • Das Erkennen von Fake-News aufgrund von sprachlichen Fehlern dürfte schwieriger werden
    • Phishing-Angriffe dürften künftig sprachlich fehlerfrei und evtl. extrem personalisiert sein
      Bisher konnte man davon ausgehen, dass die meisten Phishing-Versuche sprachlich eher holprig und fehlerhaft formuliert und inhaltlich eher allgemein gehalten waren. GPT3 & Co. ermöglicht künftig sprachlich perfekte und inhaltlich angepasste Anfragen. (17.01.23 Bericht von heise.de)

Folgende Aspekte erachten wir als entweder nicht schulspezifisch oder nicht KI-Sprachgeneratoren-spezifisch:

  • Es ist unklar, ob KI-Sprachgeneratoren das Recht am geistigen Eigentum verletzen
    KI-Sprachgeneratoren arbeiten mit Daten, die sie durch die Verrechnung von digital vorliegenden Dokumenten gewonnen haben, die dem Urheberrecht unterliegen. Auch wenn keine Textpassagen direkt übernommen werden, gibt es Stimmen, die in dieser ungefragten Verwendung dieser Dokumente eine Verletzung des geistigen Eigentums sehen.
    Unabhängig von der juristischen Einschätzung erachten wir dies nicht als schulspezifisch zu klärende Frage. KI-Sprachgeneratoren mit der Begründung einer ungeklärten Rechtslage in der Schule nicht zu thematisieren oder verwenden, scheint uns keine zielführende Strategie zu sein. (Mehr zu diesem Aspekt z.B. bei netzpolitik.org)

  • Die Verwendung aktueller KI-Sprachgeneratoren ist nicht datenschutzkonform möglich
    Die aktuellen KI-Sprachgeneratoren sind nur cloudbasiert zugänglich und lassen sich derzeit nicht lokal oder auf eigenen Servern installieren. Die Anbieter stellen die KI-Sprachgeneratoren derzeit oft kostenlos zur Verfügung um statistische Nutzungsdaten zu erheben. Es ist deshalb davon auszugehen, dass Nutzungsdaten erhoben werden, die nicht mit den jeweils lokal geltenden Datenschutzverordnungen konform sind.
    Das Phänomen, dass attraktive digitale Dienste nicht datenschutzkonform sind, ist in der bisherigen Entwicklung der digitalen Transformation häufig und nicht auf KI-Sprachgeneratoren beschränkt. Da diese Diskussion bereits seit langem sehr intensiv geführt wird und uns keine KI-Sprachgeneratoren-spezifischen Aspekte dieser Diskussion bekannt sind, verzichten wir darauf, diese Diskussion am Beispiel KI-Sprachgeneratoren erneut aufzurollen.

Bedeutung für die Schule

  • Die Bedeutung von Medienkompetenz nimmt nochmals zu
    Wenn durch KI-Textgeneratoren die allgemeine Informationsflut und insbesondere auch der Umfang und Perfektionsgrad von Fakenews nochmals um eine Grössenordnung zunimmt, so nimmt auch die Bedeutung von Medienkompetenz zu, die unter anderem künftig auch das Erkennen und den Umgang mit computergenerierten Texten umfassen muss.

  • Umgang mit KI-Textgeneratoren als Teil von information literacy
    Wenn KI-Textgeneratoren ein wichtiges Instrument der Recherche werden und bis zu einem gewissen Grad "traditionelle" Suchmaschinen ersetzen oder mindestens ergänzen werden, so muss der Umgang mit KI-Textrobotern Teil der Allgemeinbildung werden.

  • KI-Textgeneratoren als mehrperspektivisches Thema in der Schule
    Das Verständnis und die kompetente Nutzung von KI-Textgeneratoren gehört künftig zur Allgemeinbildung. Dabei reicht - wie auch bei bisherigen (digitalen) Werkzeugen und Medien - eine reine Anwendungskompetenz nicht. Schülerinnen und Schüler sollten das Thema aus den drei Dagstuhl-Perspektiven betrachtet haben:
    • Wie funktionieren KI-Textgeneratoren technisch?
      Um die Potenziale und die Grenzen von KI-Sprachgeneratoren besser abschätzen und die Systeme effektiv und effizient nutzen zu können, ist ein grundlegendes Verständnis ihrer Funktionsweise notwendig. Es ist eine bisher noch nicht zufriedenstellend gelöste Aufgabe der Informatikdidaktik, hier entsprechende Modelle und Unterrichtsmaterial zu erarbeiten und erproben.
    • Wie wirken sich KI-Textgeneratoren gesellschaftlich aus?
      KI-Textgeneratoren werden unser Leben und Arbeiten beeinflussen. Aus diesem Grund ist es notwendig, dass sich Schülerinnen und Schüler mit gesellschaftlichen und kulturellen Aspekten dieser Technologie auseinandersetzen.
    • Wie lassen sich KI-Textgeneratoren ganz konkret nutzen?
      Um KI-Textgeneratoren im Alltag nutzen zu können, sind - wie bei allen (digitalen) Werkzeugen und Medien - gewisse Anwendungskompetenzen notwendig. Es ist aber wichtig, die Thematisierung von KI-Textgeneratoren in der Schule nicht auf diese Anwendungskompetenz zu beschränken.

  • Weitere Zunahme des kognitiven Anspruchsniveaus
    Mit der Verfügbarkeit von KI-Textgeneratoren steigt das kognitive Anspruchsniveau für das berufliche und gesellschaftliche Leben weiter. Wenn auch geistige Routinetätigkeiten zunehmend automatisiert werden können, sind Menschen einerseits mit den Produkten dieser automatisierten Prozesse konfrontiert und müssen sich andererseits mit den sich ergebenden noch komplexeren Herausforderungen beschäftigen.

  • Sich weiter öffnende Kompetenzschere?
    Im Zuge der bisherigen Digitalisierung hat sich gezeigt, dass gute Schülerinnen und Schüler neue (digitale) Werkzeuge und Medien besser zu ihrem eigenen Nutzen einsetzen können als schlechtere Schüler:innen. Dies hat bereits in der Vergangenheit zu einer Vergrösserung des Leistungsspektrums geführt. Dies dürfte bei KI-Textgeneratoren nicht anders sein.
    (Mehr zur Hypothese des digitalen Schereneffekts: Biblionetz:w03389)

  • Motivationsprobleme aufgrund verfügbarer Automatisierung?
    Bisher nicht geklärt ist die Frage, ob sich aufgrund der Verfügbarkeit von automatisierter Texterstellung und Textübersetzung Motivationsprobleme bei Schülerinnen und Schülern ergeben, weil diese keinen Sinn darin sehen, eine Kompetenz zu erlernen, die bereits automatisiert verfügbar ist. (Es handelt sich in einem gewissen Sinn um eine ähnliche Diskussion, wie sie bereits mit dem Kopfrechnen seit der Verfügbarkeit von Taschenrechnern stattgefunden hat.)

  • Detailfragen der Integration versus des Verbots von KI-Textgeneratoren in spezifischen Unterrichtssituationen
    Ähnlich wie beim Taschenrechner wird sich künftig auch bei KI-Textgeneratoren die Frage stellen, in welchen Unterrichtssituationen aus welchen didaktischen Gründen die Verwendung von KI-Textgeneratoren erlaubt bzw. verboten sein wird.

  • Potenziale für Materialerstellung und Rückmeldungen an Schülerinnen und Schüler
    Grundsätzlich bieten KI-Sprachgeneratoren das Potenzial, personalisiertes Unterrichtsmaterial und (individuelle) Rückmeldungen an Schülerinnen und Schüler generieren zu lassen. Es ist aber noch nicht geklärt, wie didaktisch passend sich solche Texte generieren lassen und welche evtl. unerwünschten Nebenwirkungen sich ergeben können, wenn Computersysteme gewisse Aufgaben übernehmen, die bisher von Lehrpersonen geleistet worden sind.
    (Entsprechende Forschungen und Projekte sind oft unter den Stichworten Intelligent tutoring system (ITS), learning analytics oder Adaptivität zu finden.)

  • Gewisse Prüfungsformate sind künftig anfällig für Betrug
    Schriftliche Aufgaben und Prüfungen ohne entsprechende Aufsicht und/oder Gegenmassnahmen können künftig zum Teil einfach mit KI-Sprachgeneratoren gelöst werden. Entsprechende Beispiele sind bereits zahlreiche auf dem Internet zu finden.
    • Individuelle Fragestellungen schützen nicht mehr vor möglichem Betrug
      Vor dem Aufkommen von KI-Textgeneratoren hat es gereicht, statt allgemeiner sehr individuelle Fragestellungen zu formulieren ("Beschreibe den Feldzug von Napoleon aus der Sicht eines russischen Bauern") weil die Antwort auf exakt diese Fragestellung noch nicht auf dem Internet verfügbar war. Heutige KI-Textgeneratoren liefern jedoch auch auf solche Fragestellungen Antworten.
    • Plagiatserkennungssoftware verliert massiv an Bedeutung
      Plagiatserkennungssoftware erkennt derzeit nur Textstellen, die praktisch wortwörtlich von einer anderen Quelle übernommen worden sind, jedoch nicht Texte, die mit einem KI-Textgenerator erstellt worden sind. Stehen KI-Textgeneratoren zur Verfügung, werden schlaue Studierende und Schüler:innen diese so einsetzen, dass Plagiatserkennungssoftware nicht mehr anschlagen wird. Damit verliert sie an Bedeutung.
    • Mündliche Prüfungen sind eine mögliche Massnahme gegen Betrug mit ChatGPT & Co.
      ...
    • Engere Betreuung von Schüler:innen und Studierenden hilft gegen den Betrug von ChatGPT & Co.
      (Quellen und Zitate siehe Biblionetz:a01474)
    • Prozessportfolios können helfen, die Entstehung von Werken zu dokumentieren
      ...
  • Aktuell verfügbare Handreichungen sind meist nur kurzfristig hilfreich
    Derzeit werden zahlreiche Handreichungen für die Nutzung von ChatGPT im Unterricht publiziert. Diese Anleitungen sind aufgrund der raschen Veränderung von ChatGPT und der Gefahr einer Beendigung einer freien Verfügbarkeit des Dienstes vermutlich nur von sehr kurzfristiger Gültigkeit.

Konkrete Beispiele

Weiterführende Informationen

Kontakt

Diese Seite entstand im Umfeld der Professur "Digitalisierung und Bildung". Bemerkungen und Hinweise sind willkommen: beat.doebeli@phsz.ch

Die Fassung vom 26.01.2023 dieser Seite ist auch als PDF downloadbar PDF-Dokument.
(Zitationsvorschlag: Döbeli Honegger, Beat (2023). ChatGPT & Schule. Einschätzungen der Professur "Digitalisierung und Bildung" der Pädagogischen Hochschule Schwyz. Version 1.28 vom 26.01.2023, doi:10.5281/zenodo.7573314)

chatGPT.png

English Version

The version dated 26.01.2023 of this page can also be downloaded as an english PDF document PDF-Dokument.