Issues and arguments in the measurement of second language pronunciation

This thesis examines systematic sources of variance in raters' judgments of second (L2) language speech, including rater cognitive and experience variables, rating scale properties, and characteristics of the speech, in order to better understand influences on raters' scoring decisions. The thesis culminates in the development of an empirically-based L2 comprehensibility scale that describes, with greater precision, the quality of speech that is characteristic at different comprehensibility levels. Study 1 examines the effect of individual differences in raters' cognitive abilities on their ratings of L2 speech. Thirty music majors and 30 non-music majors rated 40 L2 speech samples for comprehensibility, accentedness, and fluency and were additionally assessed for musical ability, phonological memory, and attention control. Results showed that music majors assigned significantly lower ratings than non-music majors solely for accentedness, particularly for low ability learners. However, phonological memory and attention control did not influence their ratings.Study 2 examines the effects of two additional sources of variance—rating scale length and rater experience—on raters' judgments of L2 comprehensibility, accentedness, and fluency. Twenty experienced and 20 novice raters judged 38 L2 speech samples using 5-point or 9-point numerical rating scales. In addition, raters' perceptions of the rating process were elicited through verbal protocols and interviews. Results showed that experienced and novice raters achieved high consensus about the highest and lowest scoring L2 speakers but had difficulty differentiating between scale levels in the absence of guidance from the rating instrument. Finally, the goal of Study 3 was to construct an L2 comprehensibility scale rooted in raters' perspectives of influences on their judgments, and characteristics of the L2 speech. To this end, 19 speech measures used to analyze 40 L2 speech samples were examined in relation to 60 raters' mean L2 comprehensibility ratings and three ESL teachers' indications of their most salient scoring criteria. Overall, a wide range of measures contributed to listeners' comprehensibility judgments, with vocabulary and fluency measures distinguishing between low-level learners, grammatical and discourse-level measures distinguishing between high-level learners, and word stress distinguishing between all levels. Taken together, these papers advance our understanding of raters' perspectives in L2 pronunciation assessment.Cette thèse examine les sources de variation systématique dans le jugement des évaluateurs de la production orale en langue seconde (L2)—incluant les variables cognitives et l'expérience des évaluateurs, les propriétés des échelles de compétences, et les caractéristiques du discours—afin de mieux comprendre les influences sur le jugement des évaluateurs. La thèse se termine par l'élaboration d'une échelle empirique de compréhensibilité en L2 qui décrit, avec plus de précision, la qualité linguistique qui caractérise des niveaux différents de compréhensibilité. La 1ère étude évalue l'impact des différences individuelles dans les capacités cognitives des évaluateurs sur leurs jugements de productions orales en L2. Trente étudiants faisant leur baccalauréat en musique et 30 étudiants inscrits à d'autres facultés ont évalué 40 échantillons d'un discours L2 en fonction de sa compréhensibilité, la perception de son accent, et sa fluidité. De plus, les participants ont été évalués pour leur aptitude musicale, leur mémoire phonologique, et leur contrôle de l'attention. Les résultats démontrent que les étudiants en musique évaluent le volet de la perception de l'accent des échantillons du discours de façon plus sévère, surtout pour les apprenants de L2 de faible niveau. Toutefois, la mémoire phonologique et le contrôle de l'attention n'exercent aucune influence sur l'évaluation des évaluateurs. La 2e étude examine les effets de deux sources de variation additionnelles—la longueur de l'échelle de compétence et l'expérience des évaluateurs—sur l'estimation des évaluateurs de la compréhensibilité, de la perception de l'accent, et de la fluidité du discours L2. Vingt évaluateurs expérimentés et 20 évaluateurs novices ont jugé 38 échantillons d'un discours L2 en utilisant des échelles numériques à 5-points ou à 9-points. De plus, le cheminement cognitif qui à mené les évaluateurs à leur choix de score ont été obtenues par des protocoles verbaux et des entretiens. Les résultats montrent que les évaluateurs expérimentés et novices sont parvenus à un consensus sur les échantillons de discours de plus haut niveau et de plus bas niveau, mais ont éprouvé des difficultés à différencier entre les niveaux de l'échelle en l'absence de directives de l'instrument. Enfin, l'objectif de la 3e étude vise à construire une échelle de compréhensibilité en L2 ancrée dans les commentaires des évaluateurs sur les facteurs qui ont influencés leurs jugements et, en fonction des caractéristiques du discours L2. À ces fins, 40 échantillons du discours L2, analysés au moyen de 19 mesures linguistiques, ont été examinés par rapport aux jugements de compréhensibilité de 60 évaluateurs, et par rapport aux critères d'évaluation de trois enseignants d'anglais langue seconde. Les résultats montrent qu'un grand éventail de mesures contribue aux jugements de compréhensibilité des évaluateurs. Les apprenants de bas niveau se différencient par le biais des mesures de vocabulaire et de fluidité tandis que les apprenants de haut niveau se différencient plutôt par les mesures de grammaire et de discours et enfin, l'accent de mot permet de différencier les apprenants de tous niveaux confondus. L'ensemble de ces résultats avancent notre compréhension des perspectives des évaluateurs dans l'évaluation de la prononciation