Nouvelle recherche de Thorn et de la WeProtect Global Alliance

Analyser les menaces et les tendances technologiques urgentes

Chez Thorn, nous savons que presque tous l’innovation technologique dans nos vies numériques apporte des opportunités et des risques – et a souvent des implications en matière de sécurité pour les enfants en ligne. C’est pourquoi nous accordons la priorité à la réalisation de recherches originales dans notre domaine et pourquoi nous collaborons avec un éventail de partenaires pour élargir la portée et l’impact de cette recherche.

Pour identifier de manière proactive les technologies clés susceptibles d’avoir un impact significatif sur la lutte contre les abus et l’exploitation sexuels des enfants à l’ère numérique, Thorn s’est récemment associé à l’Alliance mondiale WeProtect sur le Analyse d’horizon des technologies en évolution projet.

Cette enquête a rassemblé l’expertise et les points de vue d’environ 300 parties prenantes mondiales de tous secteurs pour analyser les tendances technologiques les plus urgentes et leurs effets potentiels, intentionnels et involontaires, sur la sécurité des enfants en ligne.

Avant de plonger dans des technologies spécifiques, voici quelques points à retenir de l’initiative de recherche conjointe :

Plusieurs technologies doivent être considérées ensemble. Aucune technologie ne peut être l’unique objectif. Les technologies mises en évidence dans ce rapport ne fonctionnent pas de manière isolée et les enfants ou les délinquants ne les utilisent pas non plus de manière indépendante. S’attaquer à une seule technologie à la fois risque de créer des lacunes critiques en matière de protection.La vie privée d’un enfant fait partie intégrante de sa sécurité. Le débat autour de la protection des enfants contre les abus en ligne présente souvent une fausse dichotomie : suppression de la vie privée avec surveillance, ou réaction aux rapports d’abus après que l’abus ou le signalement de l’abus a eu lieu. Aucun des deux extrêmes n’est holistique en matière de protection de la sécurité et des droits des enfants.La technologie est à la fois un risque et une solution. Si la technologie a accéléré les risques d’abus et d’exploitation sexuels des enfants, elle est également essentielle pour lutter contre ces méfaits. Toutefois, l’élaboration de solutions efficaces nécessite une expertise diversifiée et spécialisée ainsi qu’un solide soutien intersectoriel et public.

Vous trouverez ci-dessous un aperçu général des technologies examinées dans le rapport. Cependant, ces technologies sont complexes. Pour une compréhension plus approfondie de chacun, nous vous recommandons de lire le rapport complet:

IA prédictive:

Qu’est-ce que c’est : Le rapport définit « l’IA prédictive » comme un terme générique désignant une gamme de technologies d’apprentissage automatique capables de reconnaître des modèles et de faire des prédictions sans être explicitement programmées pour le faire.Implications : L’IA prédictive tient promettent d’accélérer les efforts pour détecter les abus sexuels contre les enfants à grande échelle, mais risque également de promouvoir des contenus et des connexions nuisibles auprès des utilisateurs s’ils ne sont pas mis en œuvre avec soin.

Intelligence artificielle générative :

Qu’est-ce que c’est : Le rapport utilise « Intelligence artificielle générative » (IA générative) comme terme désignant une gamme de technologies d’apprentissage automatique (ML) capables de générer de nouveaux contenus (images, vidéos, texte et audio) sans être explicitement programmées pour le faire. Implications : L’IA générative peut permettre, et permet déjà, la création rapide de nouveaux contenus CSAM, réduisant ainsi les obstacles pour les délinquants. (Vérifier L’initiative Sécurité dès la conception de Thorn pour en savoir plus sur la façon dont nous conduisons un changement positif dans l’espace de l’IA générative).

Chiffrement de bout en bout (E2EE):

Qu’est-ce que c’est : E2EE est une méthode de sécurisation des données telle que seuls les utilisateurs approuvés peuvent accéder au contenu des données. Vous pouvez en apprendre davantage à la page 20 du rapport complet.Implications : E2EE offre de précieuses protections de confidentialité pour les données individuelles, quel que soit l’utilisateur ou le type de données. Cependant, ces outils ont également été utilisés comme armes par des délinquants cherchant à trafiquer du matériel pédopornographique, à soigner les enfants et à isoler les victimes des dispositifs de protection intégrés dans les espaces publics en ligne et hors ligne. Les autres technologies examinées dans le rapport incluent la réalité étendue, la décentralisation et l’informatique quantique.

Ce rapport marque une étape importante dans la promotion d’une réflexion continue et intersectorielle sur les tendances émergentes et futures. Il permet de mieux équiper l’écosystème de la sécurité des enfants pour répondre aux défis et opportunités changeants auxquels les enfants sont confrontés dans le monde numérique. À mesure que ces efforts se poursuivent, de nouveaux investissements dans des initiatives de recherche qui exploitent les connaissances des technologues, des enquêteurs, des professionnels de la confiance et de la sécurité et d’autres experts de première ligne devraient générer des rendements significatifs. Une analyse prospective régulière et une collaboration multidisciplinaire sont essentielles pour répondre de manière proactive aux menaces émergentes.

Des recherches supplémentaires et la sécurité dès la conception des cadres sont nécessaires pour approfondir notre compréhension et établir la sécurité des enfants comme principe fondamental des nouvelles technologies. Plus important encore, en impliquant les jeunes acteurs et en sensibilisant le public, nous garantirons que nous accordons la priorité à la construction d’un monde numérique sûr et dynamique pour la prochaine génération.

Lire le rapport complet pour un aperçu complet de la manière dont ces technologies interagissent avec la sécurité des enfants en ligne et de ce que cela signifie pour l’avenir de la protection de l’enfance à l’ère numérique.

Nous remercions nos amis de WeProtect Global Alliance pour leur collaboration sur ce projet et pour leur engagement envers un objectif que nous partageons : créer un avenir plus sûr pour les enfants.