Le cabinet de curiosités d'Infosuicide.org
Nous les relayons essentiellement comme matière à penser et à débattre.
Aidez nous à alimenter une réflexion...
Analyser le clavier des ados pour éviter les suicides ? C'est l'idée de ce logiciel pour repérer les comportements à risque
Anne Pinsolle
Publié le 11/12/2024 https://www.femmeactuelle.fr/*
Un logiciel inclus dans les claviers des ordinateurs portables des adolescents pourrait permettre de prévenir des idées suicidaires et ainsi éviter des drames, a révélé The New York Times le 9 décembre 2024.
L’intelligence artificielle au service du meilleur. Oui, c’est possible. Depuis l’apparition de ces technologies, on se pose parfois des questions sur leurs bienfaits pour la population. Mais cette fois, un logiciel pourrait permettre de sauver de nombreux adolescents. En effet, il permet de détecter les automutilations et les idées suicidaires chez les jeunes. Toutefois, pour en bénéficier, il faut pour l’instant posséder un ordinateur portable fourni par l’école.
Aux États-Unis, une loi exige que ces appareils soient équipés de filtres pour garantir une utilisation sûre d’Internet. Des entreprises spécialisées dans la technologie éducative responsables de ces filtres ont également trouvé un moyen de lutter contre les comportements suicidaires et d’automutilation, a révélé The New York Times le 9 décembre 2024. Comment ? En utilisant un outil qui scanne ce que les élèves saisissent sur leur clavier. Les membres du personnel scolaire sont alertés s’il y a des mots ou expressions inquiétants et peuvent alors agir.
Un logiciel qui mérite d’être amélioré
Des millions d’écoliers américains sont aujourd’hui soumis à ce type de surveillance. Si des mots-clés ou des phrases utilisés sont déterminés comme étant graves, certains élèves peuvent être retirés de leur classe pour faire l’objet d’un contrôle. En dehors des heures de cours, et si les parents ne peuvent pas être contactés par téléphone, les forces de l’ordre ont alors la possibilité de se rendre au domicile de l’élève concerné pour faire un état des lieux de son état mental. Mais ces filtres mériteraient des améliorations, puisqu’il y a de nombreuses erreurs, perturbant notamment les élèves.
Un logiciel néfaste pour la vie privée des élèves ?
Il est aujourd’hui impossible de révéler dans quelle mesure ces outils sont précis, ou de mesurer leur impact, positif ou négatif. En effet, leurs données restent entre les mains des entreprises technologiques privées. Mais les alertes peuvent avoir des conséquences néfastes. Les organisations de défense des droits de l’homme ont notamment mis en garde contre les risques pour la vie privée et l'équité des élèves. Si ce logiciel permet de révéler des élèves luttant silencieusement et d’en sauver d’autres, certaines visites des forces de l’ordre au domicile d’élèves les ont aussi traumatisés.
