ChatGPT & Co. und Schule
Allgemeines
Weiteres
Vertiefendes
Weiterführendes
Unser Material
Unsere Kurse
Webtechnisches
Sprachgeneratoren benötigen sehr viel Energie
Insbesondere das erstmalige Training von Sprachgeneratoren ist sehr rechen- und damit energieintensiv. Derzeit wird aber intensiv nach sparsameren Trainingsverfahren geforscht, so dass dieser Aspekt mittelfristig an Bedeutung verlieren könnte.Beim Energiebedarf von Sprachgeneratoren müssen zwei Phasen unterschieden werden:
- Das Training der Sprachmodelle
- Die Nutzung der Sprachmodelle.
Insbesondere das erstmalige Training von Sprachmodellen benötigt sehr viel Energie. Da aber Sprachmodelle nur einmal trainiert und danach millionenfach genutzt werden, spielt auch der Energiebedarf bei der Nutzung eine grosse Rolle.
Eruierung des Energiebedarfs
Es ist derzeit nicht einfach, verlässliche Aussagen zum Energiebedarf von grossen Sprachmodellen zu erhalten, da die Unternehmen keine entsprechenden Zahlen publizieren. Zudem ist zu erwarten, dass unterschiedliche Sprachmodelle je nach Grösse einen unterschiedlichen Energiebedarf haben.
Weitere Entwicklung
Derzeit ist die weitere Entwicklung des Energiebedarfs schwer vorauszusagen. Die Tatsache, dass erste Sprachmodelle lokal verfügbar sind mit einer Leistungsfähigkeit, die bis vor kurzem nur serverbasiert verfügbar war, zeigt, dass Energiesparpotenzial vorhanden ist.
Weiterführende Informationen
- Biblionetz:a1508 Large Language Models benötigen viel Energie
- Biblionetz:t30033 ChatGPT-style search represents a 10x cost increase for Google, Microsoft
Kommentare
Kontakt
Die Website gmls.phsz.ch ist eine seit Dezember 2022 laufend erweiterte Sammlung von Einordnungen der Professur "Digitalisierung und Bildung" der Pädagogischen Hochschule Schwyz zur Frage, welche Auswirkungen generative Machine-Learning-Systeme wie ChatGPT auf die Schule haben.
Lizenz: Die Website steht unter einer CC-BY-ND-Lizenz, Bilder und Texte dürfen somit unter Quellenangabe an anderen Orten verwendet werden.
Zitationsvorschlag: Döbeli Honegger, Beat (2023). ChatGPT & Co. und Schule. Einschätzungen der Professur "Digitalisierung und Bildung" der Pädagogischen Hochschule Schwyz. https://gmls.phsz.ch/ (abgerufen am 04 Apr 2024)