Von Gewalt und Todesgedanken in Weiler bis hin zum dramatischen Doppelselbstmord am Ende Romeo und JuliaShakespeares Werke sind voller beunruhigender Themen. Schülerarbeiten zu diesen Werken enthalten oft Formulierungen, die aus dem Kontext gerissen für KI-Systeme, die Signale von Schülern in Krisensituationen erkennen sollen, beunruhigend wirken können.
Kontextverständnis zur Reduzierung falscher Positivmeldungen
Wenn ein KI-System Klassenarbeiten wie Romeo und Julia auf der Suche nach Anzeichen von Selbstverletzung oder Gewalt markiert, gilt dies als falsch-positives Ergebnis. Diese falsch-positiven Ergebnisse können besonders frustrierend sein, wenn 20 oder mehr Schüler einer Klasse an derselben auslösenden Aufgabe arbeiten.
Lightspeed Alert sucht proaktiv nach Hinweisen auf hilfsbedürftige Schüler, indem es Online-Suchanfragen, Google- und Microsoft-Produktivitätspakete und andere Quellen durchsucht. Neue Machine-Learning-Funktionen in Lightspeed Alert reduzieren Fehlalarme, wie sie beispielsweise bei Shakespeare-Aufgaben auftreten, deutlich. Sie erfassen und verstehen den gesamten Text, einschließlich des Kontexts, um zu erkennen, ob der Inhalt bedenklich ist. Neben dem Kontext können diese Modelle auch Humor und übertriebene Sprache verstehen.
Zu den Inhaltstypen, die keine Warnungen mehr auslösen, gehören (aber nicht ausschließlich – die vollständige Liste ist umfangreich):
- Romeo und Julia, Wer die Nachtigall stört, Macbeth, Und Weiler Hausaufgaben.
- Chemie-Hausaufgaben (d. h. nicht relevante Erwähnungen von Natriumnitrat).
- Hausaufgaben mit Bezug auf Schlachten, Kriege oder Dinge, die von Natur aus gewalttätig sind, im Kontext aber keine Rolle spielen.
- Schulberichte/Recherchen zum allgemeinen Suizidbewusstsein und der nationalen Suizid-Hotline.
- Warnungen, die nicht besorgniserregende Wörter enthalten, die dieselben Buchstaben wie ein besorgniserregendes Wort haben (z. B. „Bearbeiten“ enthält dieselben Buchstaben wie „sterben“, ist aber nicht besorgniserregend).
- Hausaufgaben zum Thema Fortpflanzung/sexuell übertragbare Krankheiten und sexuelle Gesundheit.
- Verweise auf das Gedicht „If we must die“ von Claude Mckay.
- Die gleiche Warnung wird übermäßig oft dupliziert.
Eine Grundlage für zukünftiges Lernen schaffen
Da sich die Bereiche maschinelles Lernen und künstliche Intelligenz rasant weiterentwickeln, investiert Lightspeed kontinuierlich in unsere Lightspeed Alert-Technologie, um das Produkt weiter zu verbessern. Die neuen Machine-Learning-Funktionen bilden die Grundlage für die kontinuierliche Verbesserung und Aktualisierung des Modells. Dazu gehören regelmäßige Updates, um aktuelle Informationen (z. B. neuen Slang) zu integrieren und die Genauigkeit weiter zu verbessern.
