Digitales Fachgespräch „KI an der Schule“

Künstliche Intelligenz (KI) im Unterricht?

Das OECD Berlin Centre hat am Donnerstag, 2. Oktober 2020 zwei Diskussionpanels über Zoom organisiert zum Thema „KI in der Schule“.

Eine Zusammenfassung der Diskussion sowie die Aufnahme des gesamten Events finden sich auf dem Blog des OECD Berlin Centre.

Es folgt ein persönlicher Kommentar zu den Eindrücken aus den beiden Panels sowie einige Aussagen von den Diskutierenden.

1. Panel: Was KI-basierte Systeme schon heute in der Bildung leisten

Begrüssung: Felise Maennig-Fortmann | Referentin Bildungspolitik, Konrad-Adenauer-Stiftung

Moderation: Jan-Martin Wiarda | Wissenschafts- und Bildungsjournalist

Matthias Rumpf | stv. Leiter OECD Berlin Centre

Diskutant*innen:

Martin Arndt | Leiter des Referates Qualitätsentwicklung im Bildungswesen, Landesamt für Schule und Bildung, Sachsen

Arndt Kwiatkowski | Mitgründer und Geschäftsführer von bettermarks GmbH

Anke Langner | Professorin für Erziehungswissenschaft und Projektleiterin der Universitätsschule Dresden

Inge Molenaar | Mitbegründerin der niederländischen E-Learning Platform Ontdeknet und Assistant Professor an der Radbound University, Nijmegen

Ein viel versprechender Titel und viele offene Fragen. Im Folgenden gehe ich auf fünf Themen der Diskussion ein. Digitalisierung, Daten(-schutz), Rolle der Lehrperson, Bias durch KI sowie internationale Einordnung.

Digitalisierung

Die Diskussion startet mit Fragen rund um digitale Ressourcen in der Schule. Der Umgang mit diesen Ressourcen muss von den Schülerinnen und Schülern (SuS) wie auch von den Lehrpersonen gelernt werden. Dabei soll das Ziel nicht aus den Augen verloren werden. Obwohl viele noch eher ängstlich über die Digitalisierung im Schulkontext denken, kann sie dabei helfen Bildungsziele zu unterstützen und dieselben auch zu ermöglichen. So kann Digitalisierung auch dabei unterstützen Lernkurven individuell zu gestalten.

Daten und Datenschutz

Digitalisierung hat Informationen für Maschinen lesbar gemacht. Dies leider nicht ohne Verluste und dessen muss man sich bewusst sein, wenn man sich fragt, was KI mit diesen Daten machen kann. Im gleichen Atemzug fällt da auch das Thema Datenschutz. Welche Daten sind vorhanden? Welche Daten werden benötigt? Welche Daten können wir respektive dürfen wir nutzen? M. Arndt bringt dazu ein, dass es keinen Digitalisierungsprozess ohne Datenschutzabklärung mehr gibt. Besonders im Kontext der Schule und den Personendaten der SuS soll der Datenschutz seriös abgeklärt sein.

Rolle der Lehrperson

A. Langner leitet das Projekt „Universitätsschule“ in Dresden. Dieses Projekt beinhaltet die Entwicklung einer Schulsoftware mit Lehrpfaden, die mit Hilfe von KI den Lernweg unterstützt. A. Langner betont dabei, dass die Software um die Schule herumentwickelt werden muss und die Verantwortung der Lehrpersonen nicht abnehmen soll und kann. Damit spricht sie einen weiteren wichtigen Punkt der Skeptiker an. A. Kwiatkowski von bettermarks GmbH stützt diese Aussage und führt gleich an, dass KI die Aufgabe von Fachspezialisten vereinfachen oder sogar abnehmen kann, aber nie einen Pädagogen, eine Pädagogin ersetzen wird. KI kann jedoch in einem grossen Haufen von Daten Zusammenhänge erkennen, die durch Lehrpersonen nicht entdeckt werden und somit wichtige Erkenntnisse bringen.

Bias durch KI

Bias wird durch KI verstärkt, wenn diese nicht kontrolliert werden. I. Molenaar ergänzt, dass auch Lehrpersonen den Bias verstärken können, beispielsweise durch Lieblingsschüler.

Internationale Einordnung

Deutschland, wie auch ganz Europa, hinkt im Vergleich zu Asien und den U.S.A. eher nach. Dies wird jedoch als positiv wahrgenommen, da der Datenschutz in Europa eine wichtigere Rolle spielt und somit den Prozess beeinflusst. Wo also soll KI gepusht werden und wo nicht? Es besteht Einigkeit darüber, dass nicht alles getrackt und überwacht werden sollte. Denn digital bedeutet nicht unbedingt zentral.

Kommentar

Die grösste Frage, die für mich nach diesem Diskussionspanel offen bleibt, ist die Frage von sozioökonomischen Faktoren. Wie können diese einbezogen und auch erkannt werden? Wie erkennt ein System Fehler, die nicht aus fehlendem Wissen, sondern einer Konzentrationsstörung heraus entstehen?

2. Panel: KI in der Schule – wie könnte der Rahmen für einen verantwortungsvollen Einsatz aussehen?

Impulsvortrag: Stéphan Vincent-Lacrin | stv. Leiter der OECD-Abteilung für Innovation in der Bildung, Paris

Diskutant*innen:

Stephan Bayer | Gründer und Geschäftsführer von Sofatutor

Kai Maaz | Professor für Soziologie und Geschäftsführender Direktor des Leibniz-Instituts für Bildungsforschung und Bildungsinformation

Gesa Ramm | Direktorin des Instituts für Qualitätsentwicklung an Schulen Schleswig-Holstein (IQSH)

Romy Stühmeier | Kompetenzzentrum Technik-Diversity-Chancengleichheit e. V., Vorsitzende der AG Bildung der Initiative D21

Schlusswort: Ludger Gruber | Landesbeauftragter und Leiter Politisches Bildungsforum NRW, Konrad-Adenauer-Stiftung

Das zweite Diskussionspanel startet mit einem Impulsvortrag von S. Vincent-Lacrin. Müssen alle alles verstehen, was KI macht auch vor deren Nutzung? Seine Antwort lautet: Ja und nein. Es soll erklärt werden, aber nicht den Prozess stoppen. S. Bayer von Sofatutor bläst ins gleiche Horn mit Blick auf den Datenschutz. Datenschutz ist wichtig und muss genau geklärt werden. Nach einer grundsätzlichen Abklärung sollte Datenschutz jedoch übergeordnet monitorisiert werden. Datenschutz soll also nicht mehr als Handbremse oder Ausrede zählen. An diesem Punkt wird noch die wichtige Unterscheidung von schwacher und starker KI gemacht und nochmals betont, dass diese Diskussion sich um schwache KI dreht.

Wer trifft im Unterricht mit KI die wichtigen Entscheidungen? Die Entscheidungen, wie es mit einem Schüler, einer Schülerin weitergehen soll, wird bei der Lehrperson bleiben. Dies auch wenn viele Informationen für die Entscheidung durch Informationen von der KI kommen. Hier fügt R. Stühmeier noch an, dass die Klärung des Mindsets eine der wichtigsten Aufgaben ist, bevor KI in der Schule eingesetzt wird.

Nach einigen spannenden Aspekten driftete die Diskussion wieder schnell in die Digitalisierung und die Angst der Lehrpersonen, dass sie durch die Digitalisierung ihr Erklärmonopol verlieren. Es folgten weitere Aussagen, die gezeigt haben, dass die Diskussion um Hardware, Digitalisierung und Schule als sozialen Raum noch viel Klärungsbedarf haben. Diese Fragen sind jedoch noch weit von KI und ihrem Einsatz in der Schule entfernt. Es steht ausser Frage, dass sich die Pädagogik verändert und dass Lehrpersonen den Umgang mit der Technologie lernen müssen.

S. Bayer bringt den Punkt, dass Software erst genutzt werden muss, damit überhaupt Daten generiert werden können, die für Vorschläge von KI notwendig sind (recommendation algorithm). Dies bedingt, dass die entsprechende Hardware bereitgestellt werden muss.

Kommentar

Die Diskussion hat gezeigt, dass das Thema KI im Unterricht für viele noch sehr weit weg ist. Die meisten Personen beschäftigen sich noch mit der Digitalisierung im Kontext der Schule und welche Veränderungen diese mit sich bringt. Die Angst vor der Technologie und der Veränderungen für den Lehrberuf scheint sehr gross zu sein. Persönlich kann ich die Angst nur wenig nachvollziehen. In meinen Augen kann die Technologie repetitive Aufgaben der Lehrperson abnehmen und somit mehr Zeit für den sozialen Aspekt schaffen. Dies zeigt sich am Beispiel „flipped classroom“ sehr gut. Es steht ausser Debatte die Schule als sozialen Raum zu ersetzen. Entgegen der Angst einiger Digitalisierungsskeptiker kann die Digitalisierung diesem Aspekt im Kontext der Schule mehr Raum geben.

 

Virtual Conferences: Pro & Contra

The REMOTE conference at ASU, Arizona State University, was my second fully virtual conference. It impressed me. Although many things could be better, this is —I think—, so far, state of the art. In the following video, you’ll get a few impressions.

What this conference did very well

  • Most talks were done by two people plus a moderator. It’s much more lively than when someone is on their own.
  • Every session was synchronous, had a timeslot and was recorded.
  • A few minutes after a session the recordings were online.
  • There were many different chatrooms. The participants were listed and could be reached by chat or mail.
  • Schedules could be saved and downloaded to one’s calendar.
  • You could get into a session a few minutes in advance and have a look at the handouts.
  • You could watch sessions simultaneously (if you were brave).
  • The chat and the Q&A (informal and formal communication) in every session were separate channels. If you had a real question or if you needed help, you could write into the Q&A.

If I’m not mistaken, it was organised using the product by inxpo. The price tag is quite impressive. But maybe it’s worth it. Let’s look at the pros and cons of virtual conferences in general!

In General

Pro

  • Content/parts/sessions can be asynchronous (pre- or post-recorded)
  • It’s much easier and comfortable for shy people. 😉
  • Ther are no additional travel and accomodation costs.
  • It’s time efficient.
  • You can switch between rooms/sessions (if something’s boring).
  • It’s possible to attend conferences around the world.
  • Participants attend from all over the world. (Diversity, equity,…)

Contra

  • Discipline to attend may lack! It’s hard if work is just in another window on your computer.
  • It’s tiring to sit a few hours in front of the screen. (Some conferences offer ‚Chair Yoga‘ sessions once or twice a day!)
  • Although possible, it’s harder to connect to other people.
  • If there are many participants all writing in a chat, it is IMPOSSIBLE to read what’s going on.

Anything we should add to the list? Please drop me a line!

Best,
Sarah Frederickx

Lehrszenarien

Unsere Lehrszenarien sind online. Entstanden ist die Sammlung im Herbst 2019. In diesem Frühling wurden sie mit einem Haufen Anleitungen ergänzt!

Die Zusammenstellung hat die folgenden groben Teile:

Serious Games

Tagung vom 16. & 17. Januar 2020, Collegium Helveticum

Serious Games for Ethics Training in Medicine

Summary in German; Report in English

Zusammenfassung

Das ‚Institute of Biomedical Ethics and History of Medicine‘ der UZH hat ein ‚Serious Moral Game‘ entwickelt, um die Sensitivität der Medizinstudierenden in ethischen Fragestellungen zu erhöhen. Ob dies gelingt, ist noch nicht geklärt; weitere Studien folgen. Nach einer ausführlichen Einführung zum Spiel ‚uMed‘ durften wir es selber spielen.

Celia HodentGame UX (user experience) consultant, war aber das Highlight der Tagung. Ihr Vortrag und die ‚Masterclass‘ waren dem Thema Spieldesign-Psychologie und kognitive Verzerrungen gewidmet.

Der untenstehende Bericht (auf Englisch), besteht aus den Beiträgen von Celia Hodent und beinhaltet Spannendes zu unserem Hirn, unserem Denken, ‚Dark Patterns‘ und was ein Lernspiel im Vergleich zu anderen Spielen zusätzlich benötigt.

The Brain

First the basics! Our human brain is wonderful but:

  • Perception is subjective
  • Attention is scarce
  • Memory is fallible

Because of this, we can be fooled very easily. (The internet is full of videos where this is shown over and over again. Or think of optical illusions!)

Try this: Test Your Awareness: Basketball

This is also fun: Test Your Awareness: Whodunnit

It is very important for designers to be aware of our brain limitations. For example, they cannot overuse our attention span. They cannot assume that we will see something while we are focussed on something else. And so on.

In UX Design two main topics are important: Usability and Engage-ability.

Usability

Regarding usability, of the seven topics Celia Hodent identified two are the most important ones:

  • Signs & Feedback
  • Clarity
  • Form Follows Function
  • Consistency
  • Minimum Workload
  • Error Prevention / Recovery
  • Flexibility
Slide Usability

The motto of game design on usability is: Where is the challenge? Make everything else as simple as possible!

Make everything else as simple as possible! Really! If the challenge of the game is not spatial or memory training, help the players with additional cues (to find out where they are), provide mini-maps and more.

Game accessibility guidelines

Because ’slow thinking‘ requires energy, we use ‚fast thinking‘, whenever possible!

Thinking, Fast and Slow – Wikipedia
Thinking, Fast and Slow is a best-selling book published in 2011 by Nobel Memorial Prize in Economic Sciences laureate Daniel Kahneman.It was the 2012 winner of the National Academies Communication Award for best creative work that helps the public u…

 

Definitions translated from Bertram Köhler’s commentary:

  • [Fast thinking] works automatically and quickly, largely effortlessly, and without deliberate control.
  • [Slow thinking] is attention-controlled and carries out strenuous and complicated mental operations in orderly steps, which are controlled consciously.

Engage-ability

To reach engagement on parts of the player, watch out for the following three areas:

  • Motivation
  • Emotion
  • Game flow

Motivation is of primary importance and can be achieved through making the players feel competent, giving them autonomy, and creating a sense of progression. The content, goal or focus of the game should be relatable and have meaning.

Dark Patterns & Nudges

Sometimes players don’t do what the designers want them to do. In many games (and in many other contexts) dark patterns are used to trick or force the players in doing or buying something they don‘t necessarily want.

UX is against dark patterns because they are good for commercial reasons but not for the user.

Dark patterns make use of the scarcity of our attention and our many cognitive biases.

Examples of dark patterns:

  • Guilt-tripping
  • Loss aversion
  • FOMO (Fear of missing out)
  • Pay to win / Pay to remove friction
  • Social obligation
  • Lootboxes tied to monetization

As an example, Snapchat ruthlessly punishes disengagement through social obligations. It‘s scary.

Nudges are much better than dark patterns. Nudges also make us do things we may not do without a nudge but for our own good. Examples are seatbelts and smoking bans. They are (just) milder versions of dark patterns and very paternalistic! So, nudges should only be used based on consent of the community and population. See „Examples of engineering of the environment“ below for more examples and fun nudges.

Dark Patterns

Dark Patterns are tricks used in websites and apps that make you buy or sign up for things that you didn’t mean to. The purpose of this site is to spread awareness and to shame companies that use them.

 

Implicit Biases & Inclusion

Because of slow and fast thinking, because of our limited energy, because of our cognitive biases, we have blindspots. And: We are blind to our blindness. This is a very difficult position to be in. This is also the reason why we don’t think about diversity if it is not around us.

Group dynamics, specifically group pressure, —remember the Ash experiment— and cognitive dissonance relate to many biases. Bandwagon effectgroupthink, and herd behavior are biases related to group dynamics. „Three cognitive biases are components of dissonance theory. The bias that one does not have any biases, the bias that one is ‚better, kinder, smarter, more moral and nicer than average‘ and confirmation bias.“

Cognitive dissonance (Wikipedia)

It’s very uncomfortable for us to accept that we are biased (because we’re human). So, don’t point fingers; people don’t want to feel discomfort. It will backfire if you do!

In a study (not mentioned) an added reflection task made the results worse (no change in comparison to positive change). Reflection may be a problematic task especially if done in groups, and it is —if we’re honest— mostly uncomfortable for us.

If you want to change behavior,…

  • Education
  • Enforcement
  • Engineering (of the environment; more fun, easier, etc.)

Examples of Engineering of the Environment

Engineering is the most efficient and the fastest!

Memory is fallible. Attention is scarce. Perception is subjective and is influenced by so many things (anchoring, language choice, group pressure,…). We have to accept that we are biased and find out what to do to change the system.

Cognitive Bial Codex Graph

List of cognitive biases (Wikipedia)

Cool infographic by Visual Capitalist: 50 Cognitive Biases

Educational Game

For an educational game, you need one more ingredient (than for a ’normal‘ game)! On top of usability and engage-ability, you need to have at least some kind of transfer of the learning content. It is a pity that most educational games may train skills but don’t offer transfer tasks.

Take-away message: Usable, motivational and transferable.

AI and Bias

Some people think that we should use AI (Artificial Intelligence) in many contexts, like law or education. They think, because AI is a machine, that it will not be biased. Let’s see about that!

Let’s translate the phrase ‚He is a doctor‘ and ‚She is a doctor‘ with Google Translate into Turkish:

O bir doktor

The Turkish language doesn’t have gender pronouns, and that is why both sentences are the same. In English, this sentence should be translated as „This/that person is a doctor“ to be more or less accurate. Now, some time ago, translating the Turkish sentence back into English with Google Translate you would get ‚He is a doctor‘ and if you did the same with ’nurse‘, you would get ‚She is a nurse.‘ That is a flagrant bias.

The point here is that AI uses human data. Human data is biased, and AI may well have the power to perpetuate and reinforce biases. Fortunately, some people are sensitive to the topic and correct biases. Nowadays, Google Translate will show you both translations. (Google hasn’t learned French yet. The sentence „C’est son pull“ translates into „It’s his sweater“ although it could just as well mean „It’s her sweater“.)

Take away message: Change the environment, design it!

Gender neutrality in genderless languages (Wikipedia)

A Game That Really Fights Bias