KI im Ranzen: Hat ein deutscher Verlag heimlich Schulbücher generiert?

In einer Zeit, in der Schüler für die Nutzung von ChatGPT bestraft werden, sorgt ein Bericht von Computer Bild für Fassungslosigkeit: Ein renommierter deutscher Bildungsverlag soll umfangreiche Passagen seiner neuen Schulbuchreihen mittels künstlicher Intelligenz erstellt haben.

Was als Effizienz-Tool für Autoren gedacht war, entpuppt sich nun als potenzieller Imageschaden für die gesamte Branche. Denn die Vorwürfe wiegen schwer: Mangelnde Transparenz, sachliche Fehler und ein fehlendes Lektorat durch echte Experten.

Die Anatomie des Falls: Effizienz vor Qualität?

Die Vorwürfe kamen ans Licht, als aufmerksame Lehrkräfte in aktuellen Werken für Gesellschaftswissenschaften und Deutsch stilistische Auffälligkeiten und faktische Ungenauigkeiten entdeckten. Typische KI-Floskeln und merkwürdige Satzkonstruktionen ließen den Verdacht erhärten, dass hier großflächig Sprachmodelle wie GPT-4 zum Einsatz kamen, um Produktionskosten zu senken.

Die kritischen Punkte im Überblick:

• Fehlende Kennzeichnung: In vielen Fällen wurden die Texte als Eigenleistung des Verlags oder der Autoren ausgegeben, ohne auf die generative KI hinzuweisen.
• Halluzinationen: Berichten zufolge schlichen sich historische Ungenauigkeiten und falsche Quellenverweise ein – ein absolutes No-Go für staatlich zugelassene Bildungsmedien.
• Didaktische Mängel: KI kann zwar Informationen zusammenfassen, versteht aber oft nicht den didaktischen Aufbau, der für den Lernprozess von Schülern entscheidend ist.

Wenn die KI im Geschichtsbuch lügt

Technisch gesehen ist die Erstellung von Texten durch LLMs (Large Language Models) für Verlage extrem verlockend. Anstatt Monate auf ein Manuskript zu warten, liefert der Prompt in Sekunden ein fertiges Kapitel. 

Doch genau hier liegt die Falle: Ohne ein extrem engmaschiges Human-in-the-Loop-Verfahren schleichen sich Fehler ein, die im Bildungswesen fatale Folgen haben können.

Wenn eine KI im Geschichtsbuch Jahreszahlen „erfindet“, weil die Wahrscheinlichkeitsrechnung des Algorithmus das so vorgibt, untergräbt das das Vertrauen in die Institution Schule.

Meinung

Ich finde es ist einfach eine Frechheit - anders kann ich es nicht bezeichnen. Wir sitzen hier an unseren Setups und nutzen selbst täglich KI, um Prozesse zu optimieren, aber im Bildungsbereich gelten andere Regeln. Dass Verlage versuchen, ihre Margen zu optimieren, indem sie die redaktionelle Sorgfaltspflicht an einen Algorithmus auslagern, ist ein Schlag ins Gesicht für jeden engagierten Pädagogen.

Meiner Meinung nach ist KI ein fantastisches Hilfsmittel für die Recherche oder Strukturierung, aber sie darf niemals die letzte Instanz sein – schon gar nicht bei Schulbüchern. Wir bringen Kindern bei, Quellen kritisch zu hinterfragen, und dann liefern ihnen die Verlage ungeprüften KI-Output vor? Das ist scheinheilig.

Wir fordern bzw. sind für eine klare Kennzeichnungspflicht: Wo KI drinsteckt, muss KI draufstehen. Die Qualitätssicherung muss durch Fachredakteure erfolgen, nicht durch automatisierte Korrektur-Bots. Wenn wir die Bildung unserer Kinder einem „halluzinierenden“ System überlassen, sparen wir an der Zukunft unserer Gesellschaft.

Der Skandal um KI-generierte Schulbücher zeigt die Schattenseiten des KI-Hypes. Während die Technologie enorme Chancen bietet, führt der blinde Einsatz zur Kostenersparnis zu massiven Qualitätsverlusten in der Bildung. Transparenz und menschliche Expertise müssen im Bildungssektor unantastbar bleiben.