5.5 KI, Ethik und berufliche Bildung
(1) Zum einen stellen sich ethische Fragen, die sich eher auf den Bereich berufliche (Bildung) beziehen. In den Berufsfeldern stellen sich dabei zum Teil natürlich unterschiedliche Fragen. Hier aber mal ein paar Beispielszenarien und Fragen:
Chatbots können für die Beantwortung von Kundenanfragen z.B. im Handel eingesetzt werden. Dadurch wird Kommunikation quasi rund um die Uhr online möglich.
Das eröffnet die Frage, ob ein Leben offline überhaupt noch möglich ist?
Ein Mähdrescher ist mit einem KI-System ausgestattet, um mögliche Gefahrenquellen im Feld z.B. Gegenstände, Tiere zu identifizieren. Das Risiko eines Maschinenschadens, der häufig sehr kostspielig ist, kann dadurch reduziert werden. Das System sammelt zahlreiche Daten. Unter anderem, wann die Maschine still stand. Das sind zwar keine direkten personenbezogenen Daten, aber es könnten Rückschlüsse über Pausenzeiten von Mitarbeitenden gezogen werden.
(2) Zum anderen wirft der Bereich (berufliche) Bildung ethische Fragen auf. In dem Video haben wir mit Prof. Dr. Sigrid Hartong von der Helmut-Schmidt-Universität Hamburg über die Risiken von Learning Analytics gefragt. Sie bezeichnet das als Kipppunkte. Also die Momente, in denen die potenziell vielversprechenden Technologien negative Konsequenzen haben und welche ethischen Fragen das aufwirft.
Reflexion
Alle in den vorherigen Lerneinheiten diskutierten Aspekte, wie Transparenz, Fairness und menschliche Aufsicht spielen auch bei KI-Anwendungen in der Bildung eine zentrale Rolle. Und doch gibt es weitere Besonderheiten. Es müssen nämlich auch gezielt ethische Bildungsfragen gestellt werden. z.B. Was ist der Zweck des Lernens? Welche pädagogischen Mittel sollen gewählt werden? Wie soll das Verhältnis von Technik und Lehrpersonen gestaltet werden?
Auch hier wollen wir ein paar ausgewählte Szenarien zur Verdeutlichung vorstellen:
Szenario 1: Laut der DSGVO haben Personen das Recht, darüber zu entscheiden, ob Daten erhoben werden dürfen. Stellen wir uns das im KI-Kontext vor. Soll eine KI-Anwendung zum Einsatz kommen, so müssten die Schüler*innen gefragt werden, ob sie damit einverstanden sind und eine Datennutzungsvereinbarung abschließen, bzw. die Erziehungsberechtigten. Was passiert, wenn man damit nicht einverstanden ist? Kann man das sagen, ohne Nachteile zu erfahren und wie findet dann der Unterricht statt? Einige Schüler*innen lernen KI-gestützt und die andere ohne?
Szenario 2: Mithilfe von Learning Analytics lässt sich vorhersagen, wie hoch die Wahrscheinlichkeit ist, dass ein Lernender oder eine Lernende einen Kurs, eine Prüfung usw. nicht besteht. Auf dieser Grundlage können individualisierte Lernpfade vorgeschlagen werden. Aber – diese Vorhersagen können auch das Potenzial einschränken. Wenn einem Lernenden schlechte Leistungen vorhergesagt werden und er deshalb in eine Lernumgebung mit niedrigem Niveau gesteckt wird, wird er oder sie dann nicht der Möglichkeit beraubt, gute Leistungen zu erbringen?
Aktivität
Welche ethischen Fragen siehst Du im Bildungskontext? Verfasse einen Kommentar. 👩💻👨💻
Vertiefung
Auf dieser Website findest Du ein kuratiertes Verzeichnis von Bildungsressourcen für das Lehren und Lernen über die Ethik der künstlichen Intelligenz. 👉 Zur Website