Lightspeed Alert™ fügt leistungsstarke neue Funktionen für maschinelles Lernen hinzu, um die Genauigkeit zu erhöhen

Von Gewalt und Gedanken an den Tod in Weiler bis zum dramatischen Doppelselbstmord am Ende Romeo und JuliaDie Werke Shakespeares sind voller beunruhigender Themen. Studentenaufgaben zu diesen Arbeiten enthalten oft Formulierungen, die, wenn man sie aus dem Zusammenhang reißt, den Eindruck erwecken könnten, dass sie sich auf Systeme der künstlichen Intelligenz (KI) beziehen, die darauf ausgelegt sind, Signale von Studenten in Krisensituationen zu melden.

Den Kontext verstehen, um Fehlalarme zu reduzieren

Wenn Klassenarbeiten wie „Romeo und Julia“ von einem KI-System auf der Suche nach Anzeichen von Selbstverletzung oder Gewalt markiert werden, gilt dies als falsch positiv. Diese Fehlalarme können besonders frustrierend sein, wenn 20 oder mehr Schüler in einer Klasse alle an derselben auslösenden Aufgabe arbeiten.

Lightspeed Alert sucht proaktiv nach Anzeichen dafür, dass Schüler Hilfe benötigen, indem es Online-Suchen, Google- und Microsoft-Produktivitätssuiten und andere Quellen durchsucht. Neue maschinelle Lernfunktionen, die Lightspeed Alert hinzugefügt wurden, reduzieren Falschmeldungen wie bei Shakespeare-Aufgaben erheblich, indem sie einen vollständigen Textkörper einschließlich des umgebenden Kontexts erfassen und verstehen, um zu erkennen, ob der Inhalt besorgniserregend ist. Zusätzlich zum Kontext können diese Modelle Humor und übertriebene Sprache verstehen.

Zu den Arten von Inhalten, die keine Warnungen mehr auslösen, gehören (ohne darauf beschränkt zu sein – die vollständige Liste ist umfangreich):

• Romeo und Julia, Um die Nachtigalldrossel zu töten, Macbeth, Und Weiler Hausaufgaben.
• Chemie-Hausaufgaben (d. h. nicht relevante Erwähnungen von Natriumnitrat).
• Hausaufgaben, die sich auf Schlachten, Kriege oder Dinge beziehen, die von Natur aus gewalttätig sind, aber im Kontext nicht von Belang sind.
• Schulberichte/Untersuchungen zum allgemeinen Suizidbewusstsein und zur nationalen Suizid-Hotline.
• Warnungen, die nicht besorgniserregende Wörter enthalten, die dieselben Buchstaben wie ein besorgniserregendes Wort haben (z. B. „edit“ enthält dieselben Buchstaben wie „die“, ist aber nicht besorgniserregend).
• Hausaufgaben im Zusammenhang mit Fortpflanzung/sexuell übertragbaren Krankheiten und sexueller Gesundheit.
• Verweise auf das Gedicht „If we must die“ von Claude Mckay.
• Die gleiche exakte Warnung wird übermäßig oft dupliziert.

Aufbau einer Grundlage für zukünftiges Lernen

Da sich die Bereiche maschinelles Lernen und künstliche Intelligenz weiterhin rasant weiterentwickeln, investiert Lightspeed laufend in unsere Lightspeed Alert-Technologie, um das Produkt noch weiter zu verbessern. Die neuen Fähigkeiten des maschinellen Lernens bilden die Grundlage für die kontinuierliche Verbesserung und Aktualisierung des Modells, einschließlich regelmäßiger Aktualisierungen, um die neuesten Informationen (z. B. neuen Slang) zu integrieren und die Genauigkeit noch weiter zu verbessern.