Cette semaine, Facebook a révélé avoir supprimé 8,7 millions de contenus qui enfreignent les règles anti-exploitation des enfants du réseau social, et tout cela grâce aux nouvelles technologies. L'intelligence artificielle et la technologie d'apprentissage automatique, qui ont été déployées l'année dernière par la société, étaient responsables de la suppression de 99 % de ces messages, a déclaré Antigone Davis, responsable mondiale de la sécurité de Facebook, dans un article de blog.
La nouvelle technologie vérifie les messages sur la nudité des enfants et même d'autres contenus qui lui sont confiés. Si nécessaire, des photos et des rapports sont transmis au Centre national pour les enfants disparus et exploités.
Le réseau social de Mark Zuckerberg exploite déjà la technologie de correspondance de photos pour pouvoir comparer les photos nouvellement téléchargées avec des images familières d'exploitation d'enfants et de pornographie vengeresse. Les nouveaux outils permettent désormais d'empêcher la diffusion de contenus non identifiés via la plateforme.
Quoi qu'il en soit, la technologie n'est pas encore parfaite, de nombreux parents se plaignant que les photos de leurs enfants ont été supprimées, même si elles n'ont pas été explicitement considérées comme inappropriées.
À travers le message, Davis a déclaré que pour "éviter même le potentiel d'abus, nous avons pris des mesures sur le contenu non sexuel ainsi que sur les photos apparemment bénignes d'enfants dans le bain" et qu'une telle "approche globale" est l'une des raisons pour la suppression de tant de contenu.
Comme nous pouvons le constater, l'utilisation de l'IA peut également être très utile aux travailleurs. Pour rappel, une ancienne modératrice de contenu de Facebook a récemment poursuivi l'entreprise en alléguant que la visualisation de milliers d'images violentes l'avait amenée à développer un trouble de stress post-traumatique.
D'autres employés responsables de l'opération commentent également les effets psychologiques du travail et mentionnent également que Facebook n'offre aucun type de formation, de soutien ou de compensation financière.
