[PDF] La loterie des notes au bac: un réexamen de larbitraire de la

View - Download La loterie des notes au bac: un réexamen de larbitraire de la

Previous PDF

Next PDF

Les Documents de Travail de l'IREDU

Working Papers

Institut de Recherche sur l'Education

Sociologie et Economie de l'Education

Institute for Research in the Sociology and Economics of Education

La loterie des notes au bac

Un réexamen de l'arbitraire de la notation des élèves

Bruno Suchaut

Mars 2008

DT 2008/3

Pôle AAFE - Esplanade Erasme - B.P. 26513 - F 21065 Dijon Cedex Tél.+33 (0)3 80 39 54 50 - Fax +33 (0)3 80 39 54 79 iredu@u-bourgogne.fr- http://www.u-bourgogne.fr/iredu

La loterie des notes au bac

Un réexamen de l'arbitraire

de la notation des élèves

Bruno Suchaut

Irédu-CNRS et Université de Bourgogne

Mars 2008

La question de la notation à l'école n'est pas récente, les nombreuses études réalisées sur ce

thème mettent toutes en évidence l'incertitude de la mesure des performances scolaires des

élèves par les notes et les divers biais associés à cette pratique évaluative (Merle, 1996, 1998,

2007). Ce sont les psychologues qui ont le plus contribué à l'étude de la notation dans une

perspective docimologique (Noizet, 1961 ; Pierron, 1963 ; Noizet, Caverni, 1985). Pour la

majorité d'entre eux, ces travaux ont consisté à montrer de façon expérimentale le manque de

validité et de fidélité des épreuves d'examen. Ce constat est à présent bien établi et ce texte

n'a pas l'ambition d'exposer des analyses novatrices en ce domaine, il s'agit simplement de

témoigner à nouveau du caractère aléatoire de la notation sur la base d'une expérimentation

mobilisant des données récentes. A l'heure où l'on s'interroge en France sur les procédures

d'évaluation et de certification des élèves, notamment au niveau du baccalauréat, une analyse

réalisée sur des données actuelles ne peut qu'alimenter la réflexion sur la pertinence des

évaluations certificatives et plus spécifiquement des examens qui balisent la scolarité des

élèves.

L'objet d'étude n'est pas nouveau dans la mesure où, dès les années 1930, la notation des

épreuves du baccalauréat a fait l'objet d'une célèbre recherche (Laugier, Weinberg, 1936). A

cette époque, la commission française pour l'enquête Carnégie a réalisé des analyses

statistiques sur les notes en soumettant à 5 correcteurs, 100 copies dans 6 disciplines. Les

résultats bien connus de cette recherche ont mis en évidence de forts écarts de notation entre

les différents correcteurs dans les disciplines littéraires, mais aussi, de façon moins marquée,

dans les disciplines scientifiques. Cette recherche a également permis de souligner

l'incertitude du jugement professoral qui pèse sur les résultats à l'examen du baccalauréat car

environ 30% des candidats peuvent être admis ou ajournés selon la composition du jury. Il a fallu attendre les années 1990 pour que le baccalauréat fasse l'objet de nouvelles études, confirmant les tendances passées en matière d'écarts de notation entre correcteurs (Merle,

1996).

Notre démarche est limitée puisqu'elle se centre essentiellement sur l'examen et l'analyse de

la variété de la notation à des copies du baccalauréat. L'objectif est de confirmer, sur la base

de données actuelles, l'incertitude de la notation à l'examen. Après un bref rappel des conclusions des travaux sur la notation des élèves, ce texte rendra compte d'une 1 expérimentation menée dans 2 académies sur des copies de baccalauréat en sciences économiques et sociales (S.E.S.) soumises à la correction d'un large échantillon de professeurs. I Ce que l'on sait sur la notation des élèves

La notation est une pratique persistante et généralisée dans le système éducatif français.

Depuis le début de l'école élémentaire jusqu'au terme des études supérieures, les productions

des élèves sont fréquemment et régulièrement not ées. Il existe bien sûr des situations où des

enseignants et des établissements se basent sur d'autres outils pour évaluer les résultats des

élèves, mais ces usages ne sont pas majoritaires. La simplicité de la notation en fait en partie

son succès, le chiffrage des performances des élèves est en effet lisible aisément par tous les

acteurs : les enseignants, les élèves et leurs parents. Pour l'enseignant, la notation peut également être utilisée plus ou moins indirectement comme un instrument de pouvoir sur les

élèves traduisant une gratification ou une sanction. La persistance de cette pratique peut aussi

se lire comme un frein à un changement plus global des pratiques pédagogiques. L'abandon des classements et des notes conduirait ainsi à une autre conception de l'évaluation et peut- être même à une autre école (Perrenoud, 1991). Les nombreuses critiques associées à la notation concernent plusieurs dimensions. Une

première a trait à la qualité de la mesure des connaissances et des compétences des élèves, la

note ne rendant compte qu'imparfaitement des performances. Ainsi, les corrélations relevées

entre les scores obtenus à des tests de compétences scolaires et des notes d'épreuves du bac

sont faibles (Jouvanceau, 1989). Par ailleurs, la relation entre les notes obtenues en cours d'année et les notes au bac n'est pas non plus parfaite (Chatel, 1994). C'est aussi le cas au

niveau du collège où l'examen des corrélations entre notes au brevet, contrôle continu et

épreuve commune amènent à s'interroger sur la validité des différentes mesures (Murat,

1998). Ces relations imparfaites tiennent au fait que la notation est toujours contextualisée :

elle est attribuée par un enseignant, dans une classe, dans un établissement et à un élève particulier.

Les caractéristiques individuelles de l'élève et celles de son environnement scolaire vont donc

engendrer des biais récurrents tout au long de la carrière scolaire des élèves (Duru-Bellat,

Mingat 1993). Ces biais ont été étudiés dans de nombreuses recherches et concernent les caractéristiques personnelles des individus : attributs physiques (Nilson, Nias, 1977), sociaux (Weiss, 1969 ; Pourtois, 1978) et sexués (Spear, 1989). Le niveau (Caverni, Fabre, Noizet ,

1975) et le statut scolaire (Bonniol, Caverni, Noizet , 1972) de l'élève conditionnent

également le jugement de l'enseignement et se traduisent aussi par des biais de notation. L'objet n'est pas ici de recenser les résultats de ces travaux, on mentionnera simplement qu'à

niveau de compétences identique, les élèves vont être évalués différemment par leurs

2

enseignants : les élèves de milieux sociaux défavorisés, les élèves au passé scolaire difficile et

en retard scolaire sont ceux qui sont les plus pénalisés. Le contexte de scolarisation n'est pas non plus indépendant des pratiques en matière de

notation. Selon l'établissement fréquenté, les performances des élèves sont évaluées

différemment. Les collèges, recevant un public d'origine populaire et de faible niveau scolaire, ayant tendance à être plus indulgents, alors que ceux scolarisant un public plus

favorisé et de niveau scolaire élevé font preuve de plus de sévérité (Duru-Bellat, Mingat,

1993). Les pratiques de notation reflètent alors un aspect de politi

ques d'établissement différenciées qui doivent être lues en complémentarité d'autres mécanismes comme l'orientation et la sélection des élèves.

Les conséquences des aléas et des biais de la notation sur les élèves ne sont pas négligeables.

Tout d'abord au niveau psychologique, la réussite scolaire conditionnant encore plus qu'auparavant la vie professionnelle et sociale, la validation des acquis prend une importance toute particulière dans la vie de l'élève ou de l'étudiant. Les examens sont donc source d'angoisse et de stress non négligeables. En outre, tout au long du cursus scolaire, la notation

va témoigner de la réussite ou de l'échec de l'élève. Or, on connaît les conséquences de

l'échec sur les comportements des élèves : la réussite a tendance à engendrer la réussite et

l'échec à engendrer l'échec. Ce phénomène, qui s'exprime comme une prophétie qui se réalise

d'elle-même (Self-Prophecy), a été étudié dans les célèbres travaux de Rosenthal et Jacobson

(1968). Ces conséquences sont d'autant plus regrettables qu'elles découlent d'une mesure chiffrée imprécise de la performance scolaire. L'influence de la notation concerne aussi les

parcours des élèves. De nombreux travaux, réalisés dans des contextes scolaires très variés,

ont bien mis en évidence les inégalités produites par la notation dans les décisions de

redoublement et d'orientation, la notation étant très marquée par le contexte de la classe ou de

l'établissement (Duru-Bellat, Mingat, 1993 ; Jarousse, Leroy-Audouin, 1997 ; Jarousse, Suchaut, 2002 ; Mingat, Rakotomalala, Suchaut, 1999).

II L'expérimentation sur les copies du bac

L'expérimentation a été réalisée dans 2 académies au cours de 2 années scolaires consécutives

(2006 et 2007). Dans chacune des académies, 3 copies d'élèves ayant passé le bac (en juin

2006 et en juin 2007) ont été soumises à la correction d'une trentaine de professeurs de

sciences économiques et sociales 1 . Les enseignants devaient attribuer une note à chacune des

3 copies et formuler des commentaires écrits justifiant la note. Dans chaque académie, les

copies ont été choisies de sorte à avoir une production d'un " bon » niveau (note obtenue au

bac : 15) et deux copies jugées moyennes (une copie ayant obtenu 9 et une copie ayant obtenu 1

Cette expérimentation a été réalisée dans les académies de Dijon et de Besançon et a servi de support à une

formation à l'évaluation à destination des professeurs de sciences économiques et sociales. Les enseignants n'ont

pas eu connaissance des notes effectivement obtenues par les auteurs des copies au baccalauréat. 3

11 au bac). L'échantillon total rassemble 98 notes (3 notes pour chacun des 34 correcteurs de

l'académie 1 et 3 notes pour chacun 32 correcteurs de l'académie 2). Des notes très variées pour une même copie Le tableau 1 présente l'ensemble des données collectées dans le cadre de cette expérimentation. Tableau 1 : Notes attribuées aux 6 copies de S.E.S. par les 66 correcteurs

Académie 1 Académie 2

Notes Notes

Correcteurs

Copie 1 Copie 2 Copie 3

Correcteurs

Copie 4 Copie 5 Copie 6

1 6 9 10 35 7 15 10

2 7 6 10 36 10 11 8

3 12 7 14 37 10 13 8

4 7 5 14 38 9 11 8

5 11 15 13 39 6 9 4

6 8 5 17 40 8 13 9

7 7 9 15 41 9 12 7

8 11 7 14 42 9 14 8

9 7 12 8 43 9 13 7

10 8 11 11 44 6 13 9

11 8 13 12 45 7 13 9

12 7 12 15 46 9 14 7

13 15 8 17 47 8 10 8

14 11 9 13 48 13 15 10

15 11 14 9 49 11 11 8

16 8 6 15 50 12 10 7

17 6 16 11 51 8 12 6

18 14 8 12 52 7 15 9

19 11 7 14 53 12 16 7

20 13 7 9 54 8 17 10

21 5 10 14 55 11 13 14

22 9 12 13 56 9 12 9

23 8 9 14 57 13 15 8

24 9 6 17 58 8 11 8

25 6 8 11 59 9 15 5

26 10 9 13 60 10 15 8

27 8 8 11 61 3 16 6

28 7 9 14 62 7 8 6

29 9 6 13 63 9 13 10

30 7 10 16 64 10 12 7

31 7 9 18 65 9 14 8

32 9 8 12 66 7 12 9

33 10 8 13

34 6 8 9

4 Sur l'ensemble des 198 notes, la moyenne est de 10 avec un écart-type de 3, les notes variant de 3 à 18. L'examen du tableau par colonne montre qu'il existe, pour chaque copie, des

variations très fortes d'un correcteur à l'autre dans les 2 académies. Une première étape est de

décrire la répartition des notes attribuées à une même copie par les différents correcteurs de

l'échantillon. Le tableau 1 présente les principaux paramètres statistiques des distributions des

notes des 6 copies. Tableau 2 : Paramètres des distributions des notes attribuées aux 6 copies

MinimumMaximumMoyenneEcart-typeMédiane Mode

Académie 1 (N = 34)

Copie 1 5 15 8,8 2,4 8,0 7

Copie 2 5 16 9,0 2,7 8,5 8

Copie 3 8 18 13,0 2,5 13,0 14

Académie 2 (N = 32)

Copie 4 3 13 8,8 2,1 9,0 9

Copie 5 8 17 12,9 2,1 13,0 13

Copie 6 4 14 8,0 1,8 8,0 8

Les répartitions reflètent tout d'abord un phénomène statistique classique puisque les distributions se rapprochent de la loi gaussienne avec une concentration des notes autour de la moyenne et de la médiane. A titre d'illustration, le graphique 1 permet d'avoir une image concrète de la distribution des notes relative à la copie n°3.

18171615141312111098

Notes 7 6 5 4 3 2 1 0

Nombre de correcteurs

Graphique 1 : Distribution des notes attribuées à la copie n°3 5 Un deuxième constat concerne la dispersion associée aux distributions avec des valeurs

extrêmes très éloignées de la moyenne. Pour 4 copies l'écart maximal est de 10 points et il est

de 9 et 11 points pour les deux autres copies, ce qui est considérable. Les écart-types, qui fournissent une mesure statistique de la dispersion moyenne des notes, présentent également des valeurs élevées (de 1,8 à 2,7 points). Ces données récentes confirment donc bien

l'incertitude de la notation des élèves, les notes d'une même copie pouvant fortement varier

d'un correcteur à l'autre. A titre d'illustration, l'é lève auteur de la copie n°2 (qui a réellement obtenu 9 à l'examen du bac), selon que sa copie soit corrigée par l'un ou l'autre des 34

correcteurs, a une chance sur 6 d'obtenir une note supérieure à 12, mais aussi... un risque sur

6 d'obtenir une note inférieure à 6 !

L'origine des différences de notation

Il s'agit ici de chercher à expliquer statistiquement l'origine des différences entre les notes en

fonction des variables disponibles dans l'expérimentation. Un premier facteur explicatif peut concerner les échantillons de correcteurs, ceux-ci se différenciant par leur académie

d'appartenance et le sujet de l'examen, lui-même différent d'une année sur l'autre. Il n'existe

pas de différences statistiquement significatives entre les moyennes des notes relevées sur

chacun des échantillons de correcteurs (10,2 pour l'académie 1 et 9,9 pour l'académie 2). Les

notes ne se différencient donc pas selon l'appartenance à une académie ou une autre ou, si l'on examine cela sous un autre angle, d'un sujet d'examen à un autre. Un second facteur est l'élève auteur de la copie puisque nous disposons sur l'ensemble de

l'échantillon des copies provenant de 6 élèves différents (3 dans chaque académie). Rappelons

que les copies ont été choisies de sorte à avoir deux copies moyennes (notes de 9 et de 11) et

une bonne copie (note de 15). Le tableau suivant présente les résultats des comparaisons de

moyennes (t de Student pour échantillons appariés) réalisées sur chaque série de 3 copies dans

chaque académie. Ces résultats nous indiquent que dans les 2 académies, et en moyenne, les correcteurs distinguent dans leur notation la " bonne » copie (copie 3 et copie 5) des deux autres. Les deux copies moyennes (respectivement la 1 et la 2 et la 4 et la 6 pour les

académies 1 et 2) présentent des différences plus faibles (0,2 et 0,8 points) que l'écart réel

initial de 2 points (entre les notes 9 et 11). Il y a donc bien, en moyenne, sur les 2 échantillons, une capacité des correcteurs à discriminer les copies, même si, comme nous

l'avons déjà évoqué, les écarts intercorrecteurs pour une même copie sont considérables.

6 Tableau 3 : Comparaison des moyennes entre les copies

Différence moyennest de Student

Académie 1 (N = 34)

Copie 1 et copie 2 -0,2 0,3 n.s.

Copie 1 et copie 3 -4,2 7,3 ***

Copie 2 et copie 3 -4,0 5,4 ***

Académie 2 (N = 32)

Copie 4 et copie 5 -4,1 7,9 ***

Copie 4 et copie 6 +0,8 1,9 **

Copie 5 et copie 6 +4,8 11,6 ***

n.s. : non significatif, ** : significatif au seuil de 5%, *** : significatif au seuil de 1%

Le troisième facteur est central dans notre démonstration et concerne le correcteur lui-même.

Les informations précédentes (tableau 1) invitent à mesurer l'ampleur de la variété des notes

entre les correcteurs. En même temps, il est possible de répondre à une question

complémentaire qui est celle de la régularité ou de la cohérence des jugements de chacun des

correcteurs lors de la correction des 63 copies. Instabilité de la notation d'un même correcteur

On pourrait penser qu'un même correcteur est fidèle à sa pratique en matière de notation. Or,

on sait depuis longtemps (Hartog, Rhodes, 1935) qu'il existe des phénomènes de variations

importants relevés dans la constance des corrections d'un même examinateur dus à différents

facteurs liés au correcteur lui-même (fatigue, distraction etc...), mais aussi au contexte de correction, dont l'ordre de correction des copies (Bonniol, 1965 ; Bonniol, Piolat, 1971). Ces

facteurs ne peuvent jouer qu'à la marge dans notre expérimentation, le nombre de copies étant

beaucoup trop faible. Il est possible en revanche de montrer que les enseignants n'ont pas la

même constance dans leur évaluation en termes d'indulgence ou de sévérité, et c'est donc

davantage la modification des critères de corrections, d'une copie à l'autre qui peuvent être

évoqués. Compte tenu de la structure des données, notamment du rapport entre le nombre de copies et le nombre de correcteurs 2 , deux analyses statistiques ont été réalisées pour mettre en

évidence ce phénomène. La première consiste à réaliser une analyse de variance selon un plan

à mesures répétées (ANOVA pour échantillons appariés) dans laquelle on considère que

chaque sujet (en l'occurrence ici un correcteur) est associé à plusieurs mesures (les 3 notes de

la série de copies). Trois sources de variation sont identifiées dans cette analyse : entre les

copies, entre les correcteurs et une source de variation due à l'erreur expérimentale.

Les tableaux 4 et 5 présentent les résultats des analyses de variance réalisées sur les 2

échantillons de correcteurs.

2

Les conditions de l'expérimentation n'ont pas permis d'envisager que chaque correcteur puisse corriger un

nombre important de copies, ce qui limite évidemment les possibilités d'analyses statistiques. 7 Tableau 4 : Analyse de variance des notes : plan à mesures répétées (académie 1) Source de variation Somme des carrésDegrés de libertéCarré moyen F

Intercopies 379,8 2 189,9 25,5 ***

Intercorrecteurs 165,5 33 5,0 0,67 n.s.

Erreur 491,5 66 7,4

Totale 1036,9 101

*** : significatif au seuil de 1% , n.s. : non significatif

Tableau 5 : Analyse de variance des notes

: plan à mesures répétées (académie 2) Source de variation Somme des carrésDegrés de libertéCarré moyen F

Intercopies 436,6 2 218,3 65,2 ***

Intercorrecteurs 174,5 31 5,6 1,7 n.s.

Erreur 207,4 62 3,3

Totale 818,5 95

*** : significatif au seuil de 1% , n.s. : non significatif Les résultats des ANOVA sont assez comparables sur les deux échantillons puisque seules les variations intercopies sont significatives 3 . Le fait que les variations entre les correcteurs (intercorrecteurs) soient faibles et non significatives montre qu'il n'existe pas d'effets de régularité en matière de sévérité ou d'indulgence sur cet échantillon 4 . Enfin, la part de

variance due à l'erreur d'échantillonnage est importante (elle est plus forte dans la première

académie que dans la deuxième) et témoigne de l'aspect aléatoire de la notation. Autrement

dit, d'autres échantillons de correcteurs auraient donné lieu à des distributions de notes différentes. Une seconde possibilité pour tester cette instabilité dans les pratiques de correction, est de

calculer des corrélations entre les notes attribuées aux différentes copies. Un coefficient de

corrélation affichant une valeur élevée signifierait que les correcteurs se classeraient de la

même manière en terme de sévérité ou d'indulgence pour les 3 copies corrigées. Le tableau

suivant présente, pour chaque série de copies, les coefficients de corrélations entre les notes.

Les résultats sont nets car aucune corrélation positive et significative n'est relevée. Cela

signifie que les correcteurs les pl us sévères (ou les plus généreux) pour une copie particulière ne sont pas ceux qui font preuve de plus de sévérité (ou d'indulgence) pour les 2 autres copies. C'est même la tendance inverse qui se manifeste quand on compare la notation des copies 2 et 3 : les correcteurs sévères pour la copie 2, on tendance à évaluer avec plus d'indulgence la copie 3 et réciproquement. 3

Les variations entre les copies représentent 37% des variations totales des notes pour l'académie 1 et 53% pour

l'académie 2. 4

Les termes " sévérité » et " indulgence » ont un sens très relatif puisque l'on ne dispose pas de réelle référence

pour juger dans l'absolu du degré d'indulgence ou de sévérité des correcteurs. 8 Tableau 6 : Corrélations entre les notes attribuées aux copies dans les deux académies

Académie 1 (N = 34)

Copie 1 Copie 2

Copie 2-0,13 n.s.

Copie 3+0,08 n.s. -0,30 n.s.

Académie 2 (N = 32)

Copie 4 Copie 5

Copie 5+ 0,07 n.s.

Copie 6+0,23 n.s. +0,28 n.s.

n.s. : non significatif Le graphique suivant permet d'examiner plus en détail la logique de notation des différents correcteurs en ce qui concerne les copies 2 et 3 5 ; les axes matérialisent les notes des copies et

les points représentent les 34 correcteurs de l'académie 1. Si les correcteurs étaient aussi

généreux (ou indulgents) pour la notation des deux copies, les points seraient sensiblement alignés sur une droite avec une pente positive. Autrement dit, le classement des correcteurs

sur une échelle d'indulgence (ou de sévérité) serait identique pour les deux copies, ce qui est

loin d'être le cas ici. Seuls quelques correcteurs semblent être réguliers. C'est par exemple le

cas pour les correcteurs 26 et 14 qui attribuent aux deux copies la note moyenne relevée sur l'échantillon. De même, les correcteurs 2, 20 et 34 jugent les deux copies très défavorablement en leur accordant des notes très faibles. Les correcteurs ne semblent donc

pas être constants dans leur pratique de notation. Ainsi, le correcteur 15 a attribué la note de 9

à la copie n°3 (soit l'une des plus faibles notes associées à cette copie) alors qu'il a attribué la

note de 14 à la copie n°2 (soit l'une des notes les plus élevées de l'échantillon). De même, le

correcteur 6 a noté sévèrement la copie n°2 (note de 5 sur 20) alors qu'il est beaucoup plus

généreux pour la copie n°3 (note de 17 sur 20). 5

Les lignes pointillées représentent la moyenne des notes sur l'ensemble de l'échantillon des 34 correcteurs.

9

4 6 8 10121416

Note copie 2

81012141618

Note copie 3

1 2quotesdbs_dbs47.pdfusesText_47

[PDF] loterie green card 2018

[PDF] Lotissement de 4 maisons

[PDF] lotus blanc resort

[PDF] loubain ville

[PDF] loubaki j'invoque l'eau

[PDF] loubaki loussalat facebook

[PDF] loubaki loussalat j'invoque l'eau

[PDF] loubaki slam france

[PDF] louis antoine de bougainville

[PDF] Louis Aragon

[PDF] Louis Aragon - L'affiche Rouge

[PDF] louis aragon books

[PDF] louis aragon est-ce ainsi que les hommes vivent

[PDF] louis aragon francais

[PDF] louis aragon il n'y a pas d'amour heureux