Ein Fachbeitrag zur AIED-Konferenz 2025 mit einer Übersicht zu vier Feldern, in denen der Einsatz von (Gen)KI in der Bildung sowohl positive als auch negative Folgen haben kann: (1) Kognition, (2) Handlungsfähigkeit, (3) Emotionalität & Identität sowie (4) ethische Aspekte. Die Autor:innen formulieren abschliessend drei Empfehlungen für eine effektive Integration von KI- / GenKI-Werkzeugen in Bildungskontexte.

Positive Effekte von (Gen)KI im Kontext von Bildung

Eine ganze Reihe von empirischen Studien verweist auf (potenziell) positive Aspekte der Nutzung von KI / GenKI-Werkzeugen im Kontext von Bildung und Entwicklung:

Intelligente tutorielle Systeme (ITS) können den Lernerfolg erhöhen.
Persönliche Tutoren auf der Basis von generativer KI können die negativen Effekte von fehlenden Lehrpersonen reduzieren und selbstorganisiertes / selbstreguliertes Lernen unterstützen.
(Gen)KI-Werkzeuge können jederzeit sofortiges Feedback zu Aktivitäten / Leistungen von Lernenden geben.

Aber

Eine ganze Reihe von Studien verweist auch auf (potenziell) nachteilige Aspekte der Nutzung von KI / GenKI-Werkzeugen im Kontext von Bildung und Entwicklung. Im Rahmen eines Konferenzbeitrags für AIED 2025 (International Conference on Artificial Intelligence in Education) hat eine Autorengruppe (Favero et al. 2025) eine übersichtliche Zusammenstellung der potenziellen Nachteile zusammengestellt und Empfehlungen zur Nutzung ausgesprochen.

Systematik der Risiken

Die Autor:innen gliedern die mit der Nutzung von (Gen)KI-Werkzeugen verbundenen Risiken in vier Bereiche:

Kognition / Informationsverarbeitung u.a. “Kognitive Faulheit” (cognitive offloading) und Beeinträchtigung des kritischen Denkens.
Handlungsfähigkeit u.a. Beeinträchtigung von eigenständigem Denken und Gefahr von Passivität.
Emotionalität und Identität u.a. Verstärkung von schwach ausgeprägter Selbstwirksamkeit oder Techno-Stress.
Ethische Aspekte u.a. Verlust von privaten Experimentierräumen (ohne eine im Hintergrund mitlaufende / mitbeobachtende KI) und Sorgen um Datenschutz.

Die nachfolgende Abbildung zeigt die angesprochenen vier Felder - jeweils mit den potenziell förderlichen Aspekten (äusserer Kreis) und den potenziell risikobehafteten Aspekten (innerer Kreis).