Au sommaire :
- IA : une nouvelle règlementation en faveur de la transparence
- Nouvelles lignes directrices chinoises – Projets de loi au Pérou
- La France dans la base Retraction Watch
- Témoignage, leçons d’une fraude
- Ressources pratiques
- Science :détection automatique des images problématiques – Plaidoyer pour de bons indicateurs quantitatifs
- Du côté de l’Ofis
- Les dernières nominations
- Les événements à venir
À LA UNE
Intelligence artificielle : une nouvelle règlementation en faveur de la transparence
L’IA générative change nos façons de faire de la recherche. Les enjeux d’intégrité scientifique liés à ces évolutions conduisent les institutions à revoir leur code de bonnes pratiques, partout dans le monde et la transparence est le maître mot.
Alexei Grinbaum, spécialiste d’éthique numérique, éclaire ces enjeux pour l’Ofis. Il explique pourquoi l’obligation règlementaire de marquer les contenus générés par IA est une avancée pour l’intégrité scientifique.
Pour accompagner les utilisateurs et utilisatrices d’IA générative dans leurs pratiques de recherche, l’Ofis appelle leur vigilance sur certains points cruciaux.
VU D’AILLEURS
La Chine publie de nouvelles lignes directrices pour une recherche responsable
Concernant l’utilisation d’IA générative, les directives sont assez comparables aux recommandations qui foisonnent ailleurs dans le monde. À savoir que tout contenu ou résultat utilisant de l’IA générative doit être clairement identifié comme tel, que les méthodes utilisées doivent être explicitées et que cette utilisation doit être appropriée et conforme à la règlementation. Quelques usages sont bannis comme « l’utilisation directe » d’IA générative dans les demandes de financement et d’approbation de travaux de recherche.
En l’absence de version anglaise sur le site du ministère chinois, celle que l’Ofis vous donne à lire a été réalisée en utilisant le modèle de traduction multilingue mbart-large-50-many-to-many-mmt (611M paramètres), en accès libre sur HuggingFace.
Pérou : deux projets de loi pour lutter contre les fraudes
Face à une augmentation des fraudes dans les publications scientifiques, deux nouvelles lois sont en passe d’être votées au Pérou. Se développe notamment dans le pays une pratique qui consiste à payer pour avoir son nom dans la liste des auteurs d’un article sans l’avoir écrit. Pour certains observateurs, cette dérive est nourrie par un système de points qui lie l’octroi de financements au nombre de publications. Ces lois donneraient plus de pouvoir aux universités publiques et au conseil national de la science, de la technologie et de l’innovation technologique (qui coordonne et finance la recherche) pour lutter contre ces dérives et les sanctionner. A l’issue du vote, ce sera le cadre légal le plus sévère d’Amérique latine envers les fraudeurs.
EN GRAPHE
La place de la France dans les notices recensées par Retraction Watch
Profitant de l’accès désormais ouvert à la base de données de Retraction Watch, le service DATA AEFInfo a produit une analyse infographique sur la part de la France dans ces données. Elle montre qu’avec 745 notices concernant des articles dont au moins un des auteurs travaille dans un établissement de recherche français, cette part représente 1,5 % du total. À comparer aux 3 % que pèse la production scientifique française dans la production mondiale. L’analyse précise que 72 % des notices publiées portent sur des rétractations (les autres concernent des corrections, des mises en garde ou des réintégrations). Elle détaille également le nombre de ces notices au fil des ans :
PARTAGE D’EXPÉRIENCE
Témoignage : les leçons d’une fraude
Tous les référents et référentes à l’intégrité scientifique le savent, les directeurs et directrices d’équipes de recherche qui y ont été confrontés aussi : un cas de fraude dans une équipe fait toujours des dégâts importants et force à interroger la responsabilité collective. Le témoignage de Rosalind A. Coleman, aujourd’hui retraitée, le rappelle. Espérant que son expérience serve à d’autres, elle raconte comment, en tant que directrice de laboratoire, elle a réagi à la fraude de l’un de ses post-docs.
RESSOURCES PRATIQUES
AI in research, vu par UKRIO
L’ office britannique à l’intégrité scientifique, UKRIO, a rassemblé différentes ressources et conseils sur l’utilisation de l’IA en recherche. Avec un parti pris fort concernant l’utilisation de l’IA pour le peer review, puisqu’il s’affiche clairement contre.
Il met aussi en avant les productions du centre de recherche sur le cancer (CRUK), dont un guide publié en septembre 2023 et le poster « Tips for using generative AI like a scientist » créé par Andrew Porter, conseiller à l’intégrité scientifique à l’institut CRUK de Manchester.
Signatures d’articles
bonnes pratiques en recherche biomédicale
Les tensions autour de la liste des auteurs d’un article scientifique sont l’une des premières sources de conflits et de manquements à l’intégrité scientifique. En particulier en recherche biomédicale. Ce webinaire de l’Inserm explique les bonnes pratiques pour éviter ces problèmes.
Semaine de la publication intègre
COPE (Committee on Publication Ethics) a mis en ligne les vidéos de certaines sessions de l’édition 2023 de sa publication integrity week. La session Artificial intelligence and peer review donne un panorama intéressant des nombreuses questions ouvertes que suscite ce sujet.
Fake science
panorama des méconduites et contre-feux pour déjouer les pièges
Guillaume Cabanac, titulaire de la chaire « dépollution de la littérature scientifique » de l’Institut universitaire de France partage le diaporama de cette conférence sur HAL. Pour comprendre, entre autres, les stratégies des PaperMills et revues prédatrices, renforcées par la puissance des outils numériques.
À lire aussi
2024, détection automatique des images problématiques chez Science
Dans son premier éditorial de 2024, Holden Thorp, rédacteur en chef de Science, fait le vœu de renforcer l’intégrité scientifique et la confiance en la science cette année. Il y annonce équiper les 6 journaux du groupe d’un outil d’IA d’analyse d’images (Proofig) pour atteindre cet objectif. La lutte contre la prolifération de duplications, de modifications ou de tout autre type de falsification d’images délibérée dans leurs publications est devenue une priorité.
Plaidoyer pour les indicateurs quantitatifs dans l’évaluation des chercheuses et chercheurs
L’idéal d’une évaluation qualitative des chercheuses et chercheurs se heurterait à la réalité du terrain, selon le point de vue de John Ioannidis, publié dans Plos Biology. Trop gourmand en ressources humaines, ce type d’évaluation ne serait pas réalisable partout et ne serait pas non plus exempt d’erreur, ni de subjectivité. En particulier, dans des environnements sans moyens suffisants et « non méritocratiques ». Pour J. Ioannidis, les indicateurs quantitatifs ont certes des limites mais leur rejet sans discernement peut aggraver les injustices et inégalités. En revanche, utilisés judicieusement, normalisés grâce aux bases de données globales désormais ouvertes et gratuites, dans une démarche centralisée et publique pour éviter les biais et les coûts locaux, ils contribueraient à améliorer les pratiques de recherche, à moindre coût.
Du côté de l’Ofis
L’intégrité scientifique dans le code de la recherche
Depuis le décret du 27 décembre 2023, entré en vigueur au 1 janvier 2024, le code de la recherche comprend désormais l’ensemble des dispositions législatives et des décrets sur l’intégrité scientifique. Cette fiche fait le point sur ces dernières évolutions.
Veille scientifique
Tous les bulletins sont à retrouver dans l’espace dédié « Veille scientifique ».
Le bulletin de décembre 2023 est en ligne :
En tête des sujets du mois : les affiliations tentaculaires, une mauvaise pratique qui se répand. L’impact des modèles éditoriaux des publications scientifiques sur l’incidence et la gestion d’articles erronés ou frauduleux. Faut-il mieux encadrer la communication des experts scientifiques envers les décideurs publics ?
NOMINATIONS
Les nouveaux référents et nouvelles référentes à l’intégrité scientifique nommées en France
Janvier 2024 : Marc Samama, AP-HP
Février 2024 : Bruno Allard, INSA Lyon
AGENDA
20 mars 2024, 14h-18h
Quel avenir pour le score SIGAPS ? Enjeux pour l’évaluation et le financement de la recherche biomédicale en France
Ce colloque organisé par le Hcéres et l’Ofis a un double objectif. D’une part, analyser les effets du recours au score SIGAPS en tant qu’outil d’allocation de fonds et en matière de pratiques d’évaluation ; explorer les tensions éventuelles avec les exigences de l’intégrité scientifique. D’autre part, débattre de propositions d’évolution de ce système. Outre des représentants des ministères concernés (Santé et Enseignement supérieur et Recherche), y interviendront notamment Thierry Damerval (PDG de l’ANR), Alain Fischer (Président de l’Académie des sciences), Guillaume Gellé (Président de France Universités), Manuel Tunon de Lara (PU-PH, responsable de la « mission pour la rénovation de la recherche biomédicale »).
Contact
Vous avez une question, une suggestion, vous voulez partager une expérience ? Contactez-nous.
Hélène Le Meur, Responsable de l’infolettre
Hcéres