4 Grenzen und Gefahren

Grenzen

Die Startseite ChatGPT zeigt folgende Informationen zum System.

Examples

• „Explain quantum computing in simple terms“ →
• „Got any creative ideas for a 10 year old’s birthday?“→
• „How do I make an HTTP request in Javascript?“→

Capabilities

• Remembers what user said earlier in the conversation
• Allows user to provide follow-up corrections
• Trained to decline inappropriate requests

Limitations

• May occasionally generate incorrect information
• May occasionally produce harmful instructions or biased content
• Limited knowledge of world and events after 2021

Kinderkrankeiten?

Frage an ChatGPT: Kannst du mir eine Zusammenfassung des Buches von Amélie Nothomb «Les Catilinaires» schreiben?

ChatGPT antwortet: Ja, gerne! «Les Catilinaires» ist ein Roman von Amélie Nothomb, der erstmals 2009 veröffentlicht wurde. Die Geschichte spielt in Japan und handelt von einer jungen belgischen Frau namens Amélie, die als Übersetzerin für ein japanisches Unternehmen arbeitet. […]

Leider ist die gelieferte Zusammenfassung, die vom Buch «Ni d’Ève, ni d’Adam» (und nicht von «Les Catilinaires»).

Solche Anfragen sind wahrscheinlich zurzeit besser von Google beantworten zu lassen. 😉

Kreativität

Es wird sich noch zeigen, wie kreativ AI werden kann. Es beeindruckt mich überhaupt nicht, dass ChatGPT einen perfekten Lektionsplan nach Standardschema vorbereiten kann. Leider wird ChatGPT wahrscheinlich jede Lektion wieder genau gleich planen, und ich leide mit den Schüler:innen, die immer den gleichen Aufbau in jeder Unterrichtslektion über sich ergehen lassen müssen.

Gefahren

Die grösste Gefahr ist wahrscheinlich die endlose Aufrechterhaltung von Falschinformationen und somit auch eine Verstärkung von Bias (Voreingenommenheit, Befangenheit). Auf der anderen Seite ist die Ausrottung solcher Fehlgriffe anscheinend auch möglich. (Dies hat mir ein Freund erzählt; ich konnte den Artikel dazu noch nicht lesen.) Das Aufdecken von Bias ist gegebenenfalls deswegen schneller möglich.

Im Kontext der Forschungspraxis sind folgende Bereiche kritisch (Quelle: Präsentation im HoFoNa-Lunch by Ronny Roewert, Folie 13):

• Datenschutz
• Ethik
• Urheberrecht
• Korrektheit und Transparenz
• Machtstrukturen und Geschäftsmodelle