Kinder und KI: Warum der Chatbot an den Weihnachtsmann glauben muss

Lena Schatz und Florian Schatz von asKId haben uns gezeigt, was ein Chatbot alles abfangen muss, bevor man Kinder mit ihm allein lässt. Und wie man Zweitklässlern Prompting beibringt, ganz ohne Computer.

„Gibt es den Weihnachtsmann wirklich?“ Ein normaler Chatbot beantwortet das wahrheitsgemäß und erklärt freundlich, dass sich Erwachsene das ausgedacht haben. Für ein sechsjähriges Kind ist damit deutlich mehr kaputt als nur eine Frage geklärt. Bei asKId lautet die Antwort deshalb: Ja, natürlich gibt es ihn. Und die Zahnfee auch.

Lena Schatz und Florian Schatz haben mit asKId einen KI-Assistenten für Kinder gebaut. Sie ist empirische Sprachwissenschaftlerin, er Informatikprofessor, zusammen sind sie Eltern von zwei Töchtern. Ihre Haltung: Kinder nicht von KI abschirmen, sondern früh fit machen. Nur eben nicht mit der KI für Erwachsene.

Die KI weiß nicht, wer vor ihr sitzt

Lenas Bild dafür: eine schwarze Box mit einem Gehirn, das alles sofort wieder vergisst. Die Box weiß nicht, wie alt das Kind ist, wie gut es lesen kann oder dass es Schutz braucht. Also wird bei jeder einzelnen Frage ein ganzes Paket an Anweisungen mitgeschickt. Ein Sechsjähriger bekommt kurze Sätze aus kurzen Wörtern, bei Zwölf- bis Vierzehnjährigen darf die Antwort etwas ausführlicher sein und zum Weiterdenken anregen. Die Abstufung ist gemeinsam mit der Europa-Universität Flensburg entstanden.

Wie knifflig das im Detail ist, zeigt ein Beispiel aus ihren Prompts. Warum können Fische unter Wasser atmen? „Fische haben Kiemen. Das ist wie eine Lunge, nur unter Wasser.“ Klingt simpel, setzt aber voraus, dass das Kind schon weiß, was eine Lunge ist.

Omas Geld, der Nelkenweg und andere heikle Fälle

Die Liste dessen, was der Filter abfangen muss, ist lang. Fragt ein Kind, wie es seiner Oma Geld klauen kann, oder schreibt es, dass es in der Schule gehauen wird, bekommt es eine klare, kindgerechte Antwort und den Hinweis, mit einem Erwachsenen seines Vertrauens zu sprechen. Die Eltern können parallel eine Info erhalten. Ob sie sonst alle Chats sehen, nur die Themen oder nur Warnungen, entscheiden sie gemeinsam mit dem Kind. Und das Kind sieht, was eingestellt ist.
Tippt ein Kind „Ich wohne im Nelkenweg“, wird die Adresse vor seinen Augen geschwärzt und gar nicht erst an das Sprachmodell weitergegeben. So lernt es ganz nebenbei, welche Daten man besser für sich behält.

Prompting lernen mit Buntstiften

Lena geht in zweite und dritte Klassen und bringt Kindern Prompting bei, zunächst komplett ohne KI. Jedes Kind malt sein Haustier, möglichst bunt und detailreich. Dann beschreibt es einem Partner das Bild, ohne es zu zeigen, und der malt es nach. Der Vergleich zeigt sofort: Je genauer die Beschreibung, desto besser das Ergebnis. Genau das übertragen die Kinder danach auf den Chat.
Für Halluzinationen hat sie eine zweite Übung mitgebracht. Jemand setzt sich mit dem Rücken zur Klasse, wartet nach jeder Frage fünf Sekunden und antwortet dann monoton und ohne jede Regung. Heimische Tiere im Wald? Giraffen. Die Kinder müssen entscheiden, ob das stimmen kann, und überlegen, wo sie nachprüfen würden. Funktioniert auch am Küchentisch.

Bessere Hausaufgaben, schlechtere Prüfungen

Das ernsteste Thema der Session war Cognitive Offloading, also das Auslagern des eigenen Denkens. Lena hatte dazu eine aktuelle Studie aus China mit rund 27.000 Schülerinnen und Schülern dabei. Mit KI wurden die Hausaufgaben um 18 Prozent besser und waren deutlich schneller erledigt. Die Prüfungsleistungen sackten innerhalb von sechs Monaten aber um 20 Prozent ab. Aufgabe abgegeben, Ergebnis richtig, nichts verstanden. Und wer damit aufwächst, gewöhnt sich umso schneller daran.

Drei Ebenen und ein Limit von 1.000 Zeichen

Bleibt die Frage: Wie verhindert man, dass die Grenzen mit einem Trick umgangen werden? Florians Antwort ist eine Kaskade. Jede Eingabe läuft zuerst durch Sicherheitsprompts, die Warnsignale und persönliche Daten erkennen, auf unterschiedlichen Modellen in unterschiedlichen Rechenzentren. Erst danach geht sie mit dem eigentlichen Antwort-Prompt ans Sprachmodell.

Der wirksamste Schutz ist laut Florian aber gar kein LLM-Trick, sondern eine schlichte Beobachtung: Kinder schreiben keine fünf Seiten Prompt. Also ist die Eingabe auf rund 1.000 Zeichen begrenzt. Für lange Ablenkungsmanöver fehlt damit einfach der Platz.

Die härtesten Tester sind übrigens nicht die Drittklässler mit ihren Schimpfwörtern, sondern Erwachsene im Probechat auf der Website. Die versuchen ausdauernd, dem Bot doch noch etwas über Bomben oder Drogen zu entlocken. Doch bisher hat er jedes Mal bestanden.

Du möchtest genauer verstehen, worauf es ankommt, wenn man KI kindgerecht gestaltet? Schau dir die Aufzeichnung an.

Jetzt anmelden um die Aufzeichnung zu sehen