Facebook : une nouvelle IA pour lutter contre la haine ?

Choses à Savoir TECH - A podcast by Choses à Savoir

Categories:

Il y a quelques jours, je vous parlais de Twitter qui compterait dans ses effectifs moins de 2000 modérateurs pour lutter contre les messages haineux et discriminatoires. Si le réseau social estimait qu'il faillait davantage de technologie pour cette mission plutôt que des humains, son rival Meta, qui regroupe Facebook et Instagram semble partager cet avis puisque la compagnie de Mark Zuckerberg aurait mis au point une nouvelle intelligence artificielle capable de détecter les propos menaçant, haineux et discriminatoire bien plus vite qu'auparavant.Les chercheurs de Meta ont baptisé cette technologie « Few-Shot Learner » que l'on peut abréger en FSL. Concrètement, cette IA n’a besoin que d’une faible quantité de données d’apprentissage pour déterminer correctement de nouveaux éléments. Ainsi, déployer un nouveau modèle d'intelligence artificielle peut donc se faire en quelques semaines seulement au lieu de plusieurs mois en temps normal. Si Meta garde bien caché le détail du fonctionnement de son IA, on sait tout de même que FSL fonctionne déjà dans plus d’une centaine de langues. Autre élément communiqué par le GAFAM, FSL a d'abord été entraîné sur je cite « des milliards d’exemples linguistiques génériques et open source ». Ensuite, le système a été alimenté avec des contenus interdits ou problématiques pour que le système génère automatiquement ses nouveaux critères de filtrage.Bon, jusqu'ici, force est de constater que la méthode utilisé par Meta ne révolutionne pas ce que l'on sait déjà en matière d'intelligence artificielle et les méthodes pour les mettre au point. Ceci dit, les tests réalisés ont apparemment montré que la méthode Meta, qui ont le répète est n'a pas été dévoilée en détail, permettait de supprimer rapidement des contenus et messages problématiques, même si les formulations sont inhabituelles ou ambiguës. Si l'on prend un exemple concret, FSL a jugé le message suivant « Vaccin ou modificateur d’ADN » comme complotiste, ce qui était le cas d'après Facebook et l'a donc logiquement supprimé. Autre exemple avec le message « Peut-être que ce mec n’a pas besoin de toutes ses dents », qui là d'après FSL prône la violence, et donc a fini par être supprimé.C'est un véritable bond en avant voir une petite révolution au final que nous propose Meta, toute proportion gardée bien évidemment, puisqu'il faudra encore attendre un peu pour voir ce que cette IA a réellement dans le ventre. En effet, avec près de 3 milliards d'utilisateurs actifs chaque mois et statistique encore plus folle, plusieurs dizaines de milliards de messages par jour d'après les dires de Mark Zuckerberg lui-même, c'est donc une tâche colossale qui attend FSL. Voir Acast.com/privacy pour les informations sur la vie privée et l'opt-out. Hébergé par Acast. Visitez acast.com/privacy pour plus d'informations.

Visit the podcast's native language site