What Would Cicero Write?

Recent developments in Transformer language models now allow users to predict the probability of different sentences and to predict missing words more accurately than before. This new information and perspective can be used to form judgments on novel textual emendations and to further quantify existing historical editorial judgments. We examine the importance of analyzing an author’s corpus, and the impact of the Good-Turing theory of frequency estimation when predicting missing words. We will also outline some of the limits of what Transformer language models can do, and how to practically evaluate them.Les développements récents des modèles de langage Transformer permettent désormais à leurs utilisateurs de prévoir la probabilité de différentes phrases et de prévoir les mots manquants avec plus de précision qu’auparavant. Ces nouvelles informations et perspectives peuvent être utilisées pour évaluer de nouvelles modifications textuelles et pour apprécier davantage les choix éditoriaux adoptés dans les éditions plus anciennes. Nous examinons l’importance de l’analyse du corpus d’un auteur, et l’impact de la théorie de Good-Turing sur l’estimation de la fréquence lorsque l’on formule des hypothèses sur les mots manquants. Nous soulignerons également certaines des limites de ce que les modèles de langage Transformer peuvent faire, et comment les évaluer de manière pratique.I recenti sviluppi dei modelli linguistici Transformer permettono ora agli utenti di predire la probabilità di frasi diverse e di prevedere le parole mancanti in modo più accurato di prima. Queste nuove informazioni e queste nuove prospettivepossono essere utilizzate per giudicare nuove emendazioni testuali e per valutare ulteriormente le scelte editoriali adottate nel passato. Esaminiamo qui l’importanza dell’analisi del corpus di un autore e l’impatto della teoria di Good-Turing sulla stima della frequenza quando si ipotizzano le parole mancanti. Delineiamo anche alcuni dei limiti di ciò che i modelli linguistici Transformer possono fare e come valutarli praticamente