Évaluation par les pairs
Dans les disciplines scientifiques, l'évaluation par les pairs (ou peer review selon l'expression anglophone couramment utilisée) désigne l'activité collective des chercheurs qui jugent de façon critique les travaux d'autres chercheurs (leurs « pairs »).
Présentation
L'évaluation par les pairs est un principe fondamental de la recherche scientifique, que ce soit pour les sciences dites « exactes » ou les sciences humaines et sociales. Elle est utilisée aussi bien pour ce qui concerne la publication d'articles dans des revues que pour le recrutement et l'avancement des enseignants-chercheurs et le financement de leurs projets de recherche. Dans cet article cependant, seul le premier volet est abordé[1].
Objet
Cette évaluation peut porter sur :
- une recherche précise soumise pour publication dans une revue scientifique (ou destinée à être présentée à une conférence). L'avis du comité de lecture est essentiel dans la décision d'accepter ou non la publication (ou la présentation) ;
- un projet de recherche proposé à un financement par une institution publique (comme le CNRS) ou privée (comme une fondation). Il s'agit alors de financer ou non le projet, et si oui à quel montant ;
- l'ensemble des travaux d'un chercheur, notamment lors du recrutement à un poste, mais aussi dans le cadre d'une procédure de contrôle (généralement périodique) ;
- l'ensemble des travaux d'un groupe de chercheurs ou d'un établissement entier, dans le cadre d'une procédure de contrôle (généralement périodique).
Comités de lecture
Les comités de lecture font partie intégrante de la démarche scientifique. Le parcours normal d'un nouveau résultat depuis sa découverte jusqu'à sa reconnaissance par la communauté scientifique passe en effet par la publication des travaux qui ont permis d'y aboutir dans des revues scientifiques où ils seront soumis à la critique des chercheurs travaillant dans le même domaine. Traditionnellement, la diffusion des travaux scientifiques se fait essentiellement au travers de conférences et de comptes rendus écrits qui, afin d'être acceptés, doivent d'abord faire l'objet d'une critique attentive par un nombre restreint d'experts nommés par l'organisateur de la conférence ou le comité éditorial de la revue scientifique. La même évaluation a lieu en ce qui concerne les revues scientifiques des sciences humaines et sociales. Néanmoins, une part plus importante du travail en ces domaines échappe aux revues, étant donné que celui-ci peut utiliser d'autres supports, en particulier les livres.
Certaines revues scientifiques ont poussé le système du comité de lecture jusqu'à inviter un très grand nombre voire l'ensemble des chercheurs du domaine à critiquer les articles qu'elles publient : c'est le commentaire ouvert aux pairs (anglais : open peer review[2]). Seules les critiques jugées les plus intéressantes sont finalement publiées avec l'article original ainsi que, souvent, une réponse des auteurs à leurs critiques. C'est, par exemple, le cas de la revue Behavioral and Brain Sciences[3].
L'apparition des systèmes de publications en libre accès a légèrement changé la donne en matière de diffusion scientifique. En effet, selon l'une des modalités associées à ce système, les auteurs peuvent déposer dans un répertoire en libre accès leurs prépublications, c'est-à-dire les manuscrits des articles qu'ils soumettent à des revues. Ceux-ci deviennent donc disponibles, du moins dans leur forme initiale, longtemps avant leur éventuelle publication. Un exemple de ce type de répertoire est arXiv, qui héberge des prépublications en physique, mathématiques et informatique, notamment. Précisons cependant qu'il existe quelques règles restreignant légèrement le dépôt dans arXiv : un article doit être soumis depuis une adresse électronique hébergée par une institution scientifique et un auteur publiant pour la première fois peut devoir faire endosser sa soumission par une personne ayant déjà soumis avec succès un article[4].
Fonctionnement
Dans le cas d'une publication dans une revue scientifique, le manuscrit proposé par un ou plusieurs chercheurs est reçu par le directeur de la revue, ou rédacteur en chef. Ce dernier est généralement un chercheur réputé dans son domaine, qui assume bénévolement cette fonction. Ses tâches consistent principalement à choisir, en collaboration avec le comité éditorial, les membres du comité de lecture, et à assurer la communication entre les relecteurs et les auteurs de l'article.
À la réception du manuscrit, le directeur décide, après une lecture rapide, si l'article est potentiellement publiable dans la revue. La pertinence de la question évoquée et l'intérêt des résultats pour les lecteurs de la revue sont évalués, en fonction des critères de publication propres à la revue. La proportion de manuscrits refusés dès cette première phase est très variable selon les revues ; ce pourcentage s'élève à 90 % pour des revues multidisciplinaires comme Nature ou Science selon leurs dires[5].
Dans le cas où le directeur décide de poursuivre le processus, il contacte plusieurs (le plus souvent deux) spécialistes dont le profil correspond aux thèmes et aux techniques abordés dans l'article. Ces spécialistes disposent alors de quelques semaines pour lire le manuscrit de manière approfondie et rédiger un rapport livrant leur impression générale sur l'article, ainsi que leurs commentaires précis sur d'éventuelles erreurs ou imprécisions.
Le directeur prend alors connaissance des rapports des membres du comité de lecture, et fait part aux auteurs de sa décision de publier ou non l'article. L'éditeur suit fréquemment l'avis des relecteurs, mais sa décision reste indépendante. En cas de doute, par exemple si les rapports sont manifestement contradictoires, le directeur peut faire appel à une troisième, voire une quatrième évaluation. Dans tous les cas, il transmet aux auteurs une lettre d'explications sur sa décision, ainsi qu'une copie des rapports. Outre l'acceptation et le rejet sans conditions, la décision peut être plus nuancée (acceptation sous réserve de corrections, ou invitation à soumettre une nouvelle version).
Traditionnellement, les rapports sont anonymes, seul le nom du directeur étant connu des auteurs. De son côté, le nom des auteurs peut être connu ou non des relecteurs ; on parle alors d'évaluation à simple ou double insu, respectivement. Cependant, de plus en plus de revues encouragent une gestion transparente du processus, et autorisent, voire imposent, la divulgation des noms des membres du comité de lecture. Quelques-unes vont même jusqu'à rendre publics les rapports des relecteurs, anonymes ou non.
Critiques
Une des critiques les plus courantes au sujet du processus d'évaluation par les pairs est qu'il est lent, et qu'il faut généralement plusieurs mois, voire plusieurs années, dans certains domaines, pour qu'un article finisse par être publié. En fait, une grande partie des communications, dans certains domaines comme l'astronomie et l'économie, se font avant l'évaluation par les pairs, au moyen de prépublications soumises sur des répertoires tels qu'arXiv. Certaines initiatives se développent pour organiser la revue par les pairs des prépublications, dans de multiples domaines, tel que Peer Community in.
D'autres critiques portent sur l'aptitude réelle de l'évaluation par les pairs à garantir la qualité des articles[6].
Mario Biagioli a suggéré que l'évaluation des livres et articles encourageait la prudence et l'autocensure, à la manière de ce qui se passait au début de l'Europe moderne. Il montre comment le mécanisme de l'évaluation par les pairs est issu des rouages de la censure des livres, et comment il a rapidement été intégré à la production de la valeur académique, et se demande si cette méthode n'est pas aujourd'hui revenue à l'exercice d'une censure [7].
Défaillances
Le système est quelquefois contourné d'une façon qui nuit à l'intégrité scientifique. Ainsi en 2012, un chercheur sud-coréen, Moon Hyung-in, est accusé d'avoir publié un certain nombre d'articles en en rédigeant lui-même les critiques. Il soumettait ses manuscrits à des journaux qui acceptaient les experts suggérés par l'auteur ; il utilisait de faux noms et des adresses mail qu'il contrôlait pour proposer des critiques[8] - [9].
Un autre cas spectaculaire de truquage de l'examen par les pairs est révélé en mai 2013 par Ali Nayfeh, alors rédacteur en chef du Journal of Vibration and Control. L'enquête dévoile 130 faux reviewers. Finalement, 60 articles ont été trouvés comme présentant des preuves de falsification de l'examen par les pairs, d'implication dans le réseau de citation ou les deux. Peter Chen, ingénieur à l'époque à l'Université nationale d'éducation de Pingtung (NPUE) à Taïwan, était coauteur de pratiquement tous les articles en question[9].
En 2022, la revue d'Elsevier rétracte une cinquantaine d'articles parce qu'ils ont tous été acceptés sur « l'avis positif d'un rapport d'examinateur illégitime »[10].
Notes et références
- James B. Riding, « An evaluation of the process of peer review », Palynology, vol. 0, no 0, , p. 2151052 (ISSN 0191-6122, DOI 10.1080/01916122.2022.2151052, lire en ligne, consulté le )
- Anne Baillot et Anthony Pecqueux, « Débat : Comment l’évaluation ouverte renouvelle-t-elle la conversation scientifique ? », sur The Conversation (consulté le )
- Voir son site ici.
- (en)The arXiv endorsement system. Récupéré le du site Arxiv.
- (en) « Decisions, decisions », Nature Neuroscience, vol. 5, no 10, , p. 917 (lire en ligne [PDF]).
- (en)Nielsen, Michael (2009, 8 janvier). Three myths about scientific peer review. Récupéré du blogue de l'auteur.
- (en)Biagioli, Mario (2002). From Book Censorship to Academic Peer Review.
- « L’évaluation par les pairs, un processus défaillant dans la recherche », Le Monde.fr, (lire en ligne, consulté le )
- (en) Cat Ferguson, Adam Marcus et Ivan Oransky, « Publishing: The peer-review scam », Nature, vol. 515, no 7528, , p. 480–482 (ISSN 0028-0836 et 1476-4687, DOI 10.1038/515480a, lire en ligne, consulté le )
- (en-US) Author Adam Marcus, « Elsevier journal retracts nearly 50 papers because they were each accepted on the “positive advice of one illegitimate reviewer report” », sur Retraction Watch, (consulté le )