Le PEReN a remis à ses trois ministres de tutelle (Économie, Numérique, Communication) son rapport d’activité pour l’année 2024. Retours sur une année riche en matière d’appui technique à la régulation des plateformes numériques.| À la une on PEReN
Dans le cadre du réseau international des instituts de sécurité de l’IA, le PEReN, en tant que membre de l’INESIA, a pris part à un nouvel exercice conjoint portant sur l’évaluation d’agents IA. Publication de la méthodologie et des résultats obtenus.| www.peren.gouv.fr
La percée de l’IA générative a mis au jour de nouveaux enjeux autour de la collecte automatisée des contenus de sites web notamment de presse. À la demande du ministère de la Culture, le PEReN publie un état des lieux des protocoles d’opt-out, ou réservation de droits, travail réalisé courant 2024 pour sa direction générale des médias et des industries culturelles (DGMIC).| www.peren.gouv.fr
Dans le cadre du réseau international des instituts de sécurité de l’IA, le PEReN, au travers de l’INESIA, a pris part à un exercice conjoint de tests pour l’amélioration des méthodologies d’évaluation multilingue des LLM. Publication du rapport d’évaluation des résultats.| www.peren.gouv.fr
La CNIL, l’ANSSI, le PEReN et le projet IPoP du PEPR Cybersécurité lancent PANAME, un projet visant à développer un outil pour auditer la confidentialité des modèles d’IA.| www.peren.gouv.fr
Comment relier du contenu généré à du contenu original, au sein d’un jeu de données ? Face aux complexités théoriques et d’implémentation des approches visant à établir un lien de causalité, le PEReN a prototypé, à partir de la méthode dite de « recherche des plus proches voisins », un procédé plus frugal. Bien qu’imparfait, il permet d’objectiver des relations et d’ouvrir une discussion. À découvrir dans le nouveau PEReN Lab.| www.peren.gouv.fr
Comment savoir à quel détecteur de contenus artificiels se fier en fonction du contenu testé ? À l’approche du Sommet pour l’action sur l’IA, le PEReN et Viginum ouvraient début janvier les premières briques logicielles d’un outil d’évaluation des performances et de la robustesse d’une série de modèles de détection. Gros plan sur cette architecture open-source à l’état de l’art et les résultats des premiers tests menés.| www.peren.gouv.fr
À un mois du Sommet pour l’action sur l’IA, le PEReN et Viginum invitent chercheurs et experts à participer au développement d’un commun numérique consistant en un méta-détecteur de contenus artificiels. Fondé sur une architecture open-source, l’outil recourt à une collection de détecteurs à l’état de l’art.| www.peren.gouv.fr
Basé sur les revenus publicitaires, le modèle économique de la grande majorité des réseaux sociaux vise à maximiser leur temps d’utilisation. Les leviers technologiques mobilisés étant peu à la main des usagers, des voix s’élèvent en faveur d’une « ouverture » des réseaux sociaux pour « redonner le choix aux utilisateurs ». Avec quels impacts sur eux et sur les plateformes ces pistes sont-elles envisageables ? Ce n° 9 d’« Éclairage sur… » fait le point.| Pôle d'Expertise de la Régulation Numérique on PEReN
Les innovations fulgurantes en matière d’IA placent aujourd’hui à la portée de tous la réalisation d’hypertrucages (deepfakes) photos et vidéos. Toutefois, avec quelle facilité les technologies disponibles permettent-elles d’obtenir des productions réalistes ? En partenariat avec la CNIL, le PEReN a mené l’expérience.| Pôle d'Expertise de la Régulation Numérique on PEReN
L’OSI vient de publier une définition stricte, conforme à ses standards, de la notion d’open source appliquée à l’IA. Comment les modèles les plus répandus ou associés à des licences particulières y répondent-ils ? Toute la lumière avec le comparateur élaboré par le PEReN !| Pôle d'Expertise de la Régulation Numérique on PEReN
Soumises à une obligation de transparence, les plateformes de mobilité publient chaque année des indicateurs sur l’activité des travailleurs des plateformes de livraisons et de VTCs. Pour l’édition 2023 du bilan de l’ARPE, le PEReN renouvelle sa contribution à l’analyse de ces données.| Pôle d'Expertise de la Régulation Numérique on PEReN
Le PEReN a remis à ses trois ministres de tutelle (Économie, Numérique, Communication) son rapport d’activité pour l’année 2023. Retours sur une année riche en matière d’appui technique à la régulation des plateformes numériques.| www.peren.gouv.fr
L’IGAC a rendu le 16 juillet dernier ses conclusions sur l’impact de la part individuelle du pass Culture sur l’intensification et la diversification des pratiques culturelles des jeunes. Retour sur l’appui technique du PEReN à cette étude.| www.peren.gouv.fr
L’écosystème de la publicité en ligne repose en grande partie sur l’usage de cookies tiers pour améliorer la pertinence des annonces présentées aux internautes. Désireux de proposer une alternative technologique à ce ciblage jugé trop intrusif, Google lançait en 2019 son programme Privacy Sandbox. Dans ce nouvel opus d’« Éclairage sur… », le PEReN actualise son décryptage des enjeux techniques et économiques des solutions développées par le géant américain.| www.peren.gouv.fr
Soumises à une obligation de transparence, les plateformes d’emploi publient, depuis 2022, des indicateurs sur l’activité des travailleurs des plateformes de livraisons ou de VTCs. Le PEReN a étudié ces données nouvelles et propose une première analyse critique inédite.| www.peren.gouv.fr
Open source, transparence, ouverture : ces concepts émaillent de plus en plus les discours sur l’IA. L’accroissement inédit des capacités des modèles, surtout génératifs, suscite de nombreuses questions sur leur cadre d’entraînement et de diffusion. Ce nouvel Éclairage sur… explore les formats de licences et leur adéquation aux besoins des acteurs.| www.peren.gouv.fr
L’écosystème de la publicité en ligne repose en grande partie sur l’exploitation de cookies tiers permettant d’améliorer la pertinence des annonces présentées aux internautes. Désireux de proposer une alternative technologique à ce ciblage publicitaire traditionnel jugé trop intrusif, Google lançait en 2019 son programme Privacy Sandbox. Dans son n°3 d’ « Éclairage sur », le PEReN décrypte les enjeux économiques, techniques et en matière de données privées entourant...| www.peren.gouv.fr