Formative bringt Tools auf den Markt, die von ChatGPTsKünstlicher Intelligenz (KI) unterstützt werden. Diese Plattformintegrationen bergen so viel Potenzial, sowohl um die Grenzen dessen zu erweitern, was Formative tun kann, als auch um Lehrern und Schülern wertvolle Zeit im Klassenzimmer zurückzugeben. Wir von Formative wissen jedoch auch, dass mit großer Macht auch große Verantwortung einhergeht. Wenn Sie eine Google-Suche über KI oder ChatGPT durchführen, werden Sie wahrscheinlich Artikel über Vorurteile finden.

Da KI-Tools mit Hilfe des World Wide Web "trainiert" werden, ist ihre Lernfähigkeit auf das beschränkt, was online existiert. So groß das Internet auch sein mag, vieles von dem, was Sie dort finden, spiegelt eine sehr begrenzte Bevölkerungsgruppe wider: hauptsächlich Menschen in der westlichen Welt, während wir auf der ganzen Welt eine Vielfalt von Gedanken, Rassen, Geschlechtern, Glaubenssystemen und sozioökonomischen Status haben.

KI-Tools repräsentieren im Allgemeinen nicht diese breiten Perspektiven. Wenn solche Tools vor allem von einer bestimmten Bevölkerungsgruppe lernen, werden ihre Ergebnisse so verzerrt, dass sie ähnliche Vorurteile gegenüber Menschen mit vielen Privilegien aufweisen. So geben zum Beispiel sowohl DALL-E 2 als auch Stable Diffusion bei den meisten Aufforderungen, die sich auf Menschen beziehen, hauptsächlich weiße Personen aus.

Dennoch bemühen sich die Entwickler dieser Programme - und vieler ähnlicher Programme -, ihre Ergebnisse zu diversifizieren. Wenn man das Potenzial für Voreingenommenheit erkennt und sich damit auseinandersetzt - und darauf achtet, KI-Ergebnisse sorgfältig auf voreingenommene Inhalte hin zu untersuchen -, kann man solche Fälle reduzieren. Formative iststets bemüht, diese Fragen bei der Entwicklung von KI-Anwendungen im Auge zu behalten.

Zu diesem Zweck haben wir fünf Tipps vorbereitet, die Ihnen dabei helfen, Verzerrungen beim Einsatz von KI-integrierten Lerntools zu minimieren. Denn die beste Art, Probleme zu vermeiden, ist, proaktiv zu sein und im Vorfeld darüber nachzudenken. Außerdem erhöht diese Arbeit auch die Qualität des Tools selbst.

• Seien Sie konkret! Wählen Sie Ihre Formulierungen mit Bedacht. Wenn Sie eine KI um eine Aufforderung bitten, fügen Sie spezifische Wörter hinzu, um den Anwendungsbereich der KI zu erweitern. Anstatt um einen Aufsatz über alle Parkbesucher zu bitten, könnten Sie um einen analytischen Aufsatz von genau fünf Absätzen bitten, der sich auf die verschiedenen Erfahrungen und Talente der Parkbesucher konzentriert.

• Überprüfung! Gehen Sie nicht davon aus, dass die Antwort einer KI wahr und fehlerfrei ist. KI-Tools können nicht immer einen bestimmten Kontext unterstützen und haben oft Schwierigkeiten, einen sarkastischen Tonfall zu verstehen. Überprüfen Sie immer alles, was eine KI für Sie erstellt: Lesen Sie es, stellen Sie es in Frage und stellen Sie sicher, dass nichts fehl am Platz ist.

• Beurteilen Sie kritisch! Nachdem Sie die Arbeit der KI überprüft haben, seien Sie kritisch. Wenn Sie geschlechtsspezifische Beispiele verwenden, sind diese gleichmäßig aufgeteilt? Wenn Sie Inhalte von Menschen suchen, die durch einen Park spazieren, hat die KI eine vielfältige Darstellung von Rassen, Alter, Geschlechtsausdruck, Körpergröße und Fähigkeiten geliefert?

• Hinzufügen! Wenn Sie feststellen, dass die von der künstlichen Intelligenz generierte Arbeit nicht abwechslungsreich genug ist, insbesondere wenn eine Stimme oder eine Person in einem bestimmten Thema vorkommen sollte, fügen Sie zusätzliches Material hinzu, das über das hinausgeht, was die künstliche Intelligenz geliefert hat.

• Fördern Sie die Diversifizierung! Der beste Weg, um Vorurteilen entgegenzuwirken, ist die Erweiterung der Demografie von Menschen, die im MINT-Bereich (Wissenschaft, Technologie, Ingenieurwesen und Mathematik) arbeiten. Dieser Prozess könnte einfach bedeuten, junge Menschen zu ermutigen, MINT-Interessen zu erkunden; er könnte auch bedeuten, sich mit Organisationen wie We All Code zu engagieren, die sich dafür einsetzen, MINT in häufig übersehene und historisch ausgegrenzte Gemeinschaften zu bringen.

KI und ChatGPT sind mächtige Werkzeuge, die die Möglichkeiten von Einzelpersonen und Unternehmen erweitern. Wir sind begeistert von diesen technologischen Fortschritten, aber wir wissen auch, dass eine Verlangsamung und Überprüfung der KI-Ergebnisse dazu beitragen wird, dass wir diese Werkzeuge mit der größtmöglichen Verantwortung nutzen.