De nombreuses enquêtes montrent que l'utilisation intensive du réseau social facilite la déprime. Mais de cela Facebook ne parle pas dans son billet qui annonce le déploiement d'un système d'intelligence artificielle capable de détecter les comportements suicidaires.

Ce système va analyser des posts des utilisateurs. Lorsque des comportements suicidaires seront détectés chez certaines personnes celles-ci se verront envoyer des informations et des contacts appropriés. Des proches ou des personnes en mesure d'agir seront également alertés. Le système attirera aussi l'attention des modérateurs.

Bien sûr ce système, dont l'intention est peut-être purement altruiste, pose à nouveau le problème de la protection des données personnelles et de leur utilisation. Si bien que le système ne sera pas déployé en Europe, au moins dans un premier temps.

En effet le nouveau règlement RGPD qui entre en vigueur en 2018 définit ainsi le traitement automatisé des données

Toute forme de traitement automatisés des données personnelles consistant en l'utilisation de données pour évaluer certains aspect d'une personne, en particulier pour analyser et prédire sa performance au travail, sa situation économique, sa santé, ses préférences personnelles, ses centres d'intérêts, sa fiabilité, son comportement sa localisation ou ses mouvements.

Ce règlement ajoute La personne concernée a le droit de ne pas faire l'objet d'une décision fondée exclusivement sur un traitement automatisé, y compris le profilage, produisant des effets juridiques la concernant ou l'affectant de manière significative de façon similaire.

Le système de Facebook n'est donc pas conforme à ce règlement. Il pourra peut-être le devenir plus tard, au minimum en donnant à l'utilisateur la possibilité de donner explicitement son consentement à ce traitement particulier des données personnelles.