Internetfilter an US-Schulen soll Suizidabsichten erkennen

Schulcomputer in den USA können eine Software erhalten, die per KI aus dem Surfverhalten der Schüler Rückschlüsse auf mögliche Selbstmordabsichten ziehen soll.

In Pocket speichern vorlesen Druckansicht 302 Kommentare lesen
Computer in Schule

(Bild: dpa, Marc Tirl/Symbolbild)

Lesezeit: 2 Min.

Eine neue Software kann auf Schulcomputern in den USA das Surfverhalten der Schüler per Künstlicher Intelligenz auf Suizidabsichten hin untersuchen und bei Verdacht einen Verantwortlichen informieren. Der Hersteller GoGuardian – spezialisiert auf Internetfilter und Verwaltungstools für Chromebooks – bietet sein Produkt "Beacon" als eine Art Frühwarnsystem für auffälliges Verhalten an.

Die Software ist für Computer gedacht, die von den Schulen ausgegeben werden. GoGuardian arbeitet mit Schulen in etwa 4000 Schulbezirken in den USA zusammen, in denen 5,3 Millionen Schüler (bis zum 12. Schuljahr) lernen.

Findet die GoGuardian-Software "Beacon" auffälliges Surfverhalten, kann das System beispielsweise einen Schulpsychologen oder Schulberater informieren. Dieser erhält auf der Verwaltungsoberfläche der Software Einblick in die Identität des Schülers und in das Verhalten, das den Alarm ausgelöst hat.

Das System stuft auffälliges Verhalten in fünf Kategorien ein: Unter "Allgemeine Suizid-Recherche" fällt demnach bereits, wenn ein Benutzer nach Statistiken zu dem Thema sucht. Die weiteren Kategorien sind "Suizidgedanken", "Hilfe und Unterstützung", "Selbstverletzung" und "Aktives Planen". Unter letztere Kategorie fällt etwa eine Internetsuche nach "wie bindet man eine Schlinge".

Die Verwaltungsoberfläche von "Beacon" zeigt den Gefährdungsstatus eines Schülers (hier: "allgemeine Suizidgedanken") und statistische Angaben.

(Bild: GoGuardian)

Eine Schule könne selbst entscheiden, ob zu einem gefährdeten Schüler weitere Informationen angezeigt würden wie der Kontakt zu den Eltern oder zu örtlichen Behörden, oder Notizen zur Einstufung der Gefährdung und ergriffenen Gegenmaßnahmen. Der GoGuardian-CEO verweist auf eine einjährige Testphase des Systems, in der es 2000 Meldungen pro Woche gegeben haben soll, wie Engadget schreibt. Darunter sollen Fälle gewesen sein, bei denen die vom Schulpersonal informierten Eltern gerade noch rechtzeitig eingreifen konnten.

Die Suizidrate in den USA liegt mit 13,7 pro 100.000 Einwohner (Stand 2012) zwar in einem mittleren Bereich (Deutschland: 13,0); jedes Jahr nehmen sich knapp 45.000 US-Bürger das Leben. Jedoch steigt die Zahl der Selbsttötungen in den USA seit 1999 deutlich an. Daher ist dieses Thema stärker ins öffentliche Bewusstsein gelangt, insbesondere die Suizide von Schülern bzw. Teenagern.

Chromebooks sind an US-Schulen weit verbreitet und laufen mit einem eigenen Betriebssystem (ChromeOS). Seit Jahren schon überholen sie dort zahlenmäßig Systeme von Apple und Microsoft, die diesen Markt zuvor dominiert haben. Allerdings gibt es auch schon länger Kritik am Übermitteln der Daten von Schülern an Google. (tiw)