Når skole-elever pønser på noget slemt

Computere i skolen er ganske almindelige, og de kan bruges til mange praktiske og sjove ting – ud over naturligvis at smugle ny viden ind i elevernes hoveder.

I USA får computerne fra det netop startede nye skoleår en ekstra funktion. De skal måle, om deres bruger – altså barnet eller teenageren – er så deprimeret, at der er fare for selvmord.

Det er softwarehuset GoGuardian, der tilbyder den nye selvmords-detektor. Den er døbt Beacon og skal supplere GoGuardians andre typer skole-software. Det er f.eks. apps, der begrænser elevernes muligheder for at surfe på internet og udelukker bestemte websider efter lærernes og skolernes ønske.

Beacon bruger kunstig intelligens til at forstå, hvor skole-eleverne browser på internet. Er det f.eks. besøg i online fora, der beskæftiger sig med selvmord – eller websider med våben og deslige – slår Beacon straks alarm til klasselæreren og/eller skolens psykolog.

Med et særligt kodeord kan lærer og skole-psykolog så åbne Beacon programmet for at følge den pågældende elevs færden på internet. Og det er nok meget godt. For selvom Beacon rummer kunstig intelligens, er softwaren ikke så klog, at den kan adskille, om eleven besøger f.eks. selvmords-forma af egen drift eller som del af en research opgaven.

Uden at skole-eleven kan se det, inddeler Beacon ham eller hende i flere trin af skade-risiko. Niveauerne går fra generel research i selvmord, over begyndende selvmords-ideer og selv-skade til aktiv planlægning af et selvmord som f.eks. hvordan man binder en stabil løkke på et reb til hængning.

GoGuardian har prøvekørt Beacon programmet i et par år, inden de nu sendes på markedet. I testforløbet begyndte app’en at blinke rødt op til 2.000 gange om ugen – og i mange tilfælde er lærere, forældre og skole-psykologer blevet alarmeret om, at der er noget galt med et barn eller en teenager.

Når man hører og læser om de mange skole-skyderier med dødsfald, som foregår i USA, forstår man måske godt, at et program om Beacon bliver udviklet. Men jeg synes sgu, at det er uhyggeligt, du….