eScriptorium : un outil pour la transcription automatique des documents
Le but de l’eScriptorium, dans sa finalité, est de concevoir un outil de production pour des éditions numériques et pour toute la chaîne nécessaire, dont la transcription représente ici la première brique. Nous bénéficions déjà à l’heure actuelle de cette brique, et bientôt, nous aurons aussi l’annotation d’images selon les principes d’Archetype, et l’annotation du texte (par ex. philologique, historique, linguistique) avec TEI.
L’idée est d’utiliser cette brique que nous venons de créer pour entraîner la machine à réaliser des transcriptions automatiques de nos livres et manuscrits écrits dans quasiment toutes les écritures, et ce, à partir d’images numériques. Cela revêt un grand intérêt car nous disposons actuellement de mille – voire de millions de manuscrits, livres, documents numérisés et disponibles en ligne. De ce fait, si vous disposez, par exemple, d’un long document ou d’un important corpus et que vous souhaitez le retranscrire, eScriptorium pourra vous être très utile. Aussi, une transcription même approximative de documents inconnus, peut-être des centaines de documents, pourrait être utile, par exemple dans le but de trouver des témoins d’un texte ou pour faire une comparaison de contenu de différents manuscrits.
Pour commencer, il faut importer les images du/des document(s). Vous pouvez simplement faire glisser les fichiers depuis votre propre ordinateur. Autrement, le site est liée au standard de IIIF (International Image Interoperability Framework) qui est utilisé par plusieurs bibliothèques du monde, et l’Équipex Biblissima y est bien impliquée. Si vos documents sont disponibles sur IIIF, il vous faudra simplement trouver l’adresse IIIF du document, la soumettre à eScriptorium, et le logiciel commencera l’importation de toutes les images automatiquement. Voici une vidéo qui présente l’importation automatique de toutes les images d’un manuscrit à partir de Biblissima Collections :
Evidemment, eScriptorium n’a pas de caractère magique. Nous savons que la mise en page des documents est très diverse, et que vous ne souhaitez pas forcément transcrire une page entière. Le principe d’apprentissage de la machine est donc de créer des exemples pour montrer à la machine ce que vous voulez obtenir en guise de résultat. Vous pouvez donc annoter les images des pages dans eScriptorium, pour que la machine comprenne quelles lignes de texte il lui faut transcrire et quelles sont celles, au contraire, qui n’ont pas d’intérêt pour votre travail. La machine apprendra ensuite à distinguer les pages automatiquement. Voici une vidéo qui montre le système par défaut de reconnaissance des régions dans eScriptorium :
Cette deuxième vidéo montre le processus pour corriger les résultats :
Après avoir repéré les lignes, il est possible de commencer la transcription. Encore une fois, nous savons très bien qu’il existe différentes approches et normes de transcription, est c’est à vous de décider de la norme à utiliser. Tout d’abord, vous devez créer des exemples, écrits à la main, pour montrer à la machine ce que vous voulez obtenir comme résultat, pour qu’elle puisse apprendre vers quoi vous tendez et savoir travailler ensuite automatiquement. Vous pouvez taper le texte à la main, ligne par ligne, ou importer un texte en format XML Page ou ALTO, ou copier-coller un texte une page à la fois comme on peut l’observer dans cette vidéo :
Après avoir montré vos exemples à la machine, cette dernière les apprend, puis elle transcrit le reste de vos documents, produisant une transcription que vous pouvez télécharger en format texte ou XML. Cette vidéo montre comment lancer le processus de transcription automatique :
Voici une vidéo présentant l’exportation des textes et l’entrainement de la machine :
Il est évident que ce processus implique un certain travail dans un premier temps : ceci est chose normale car la magie n’existe pas, et les documents sont compliqués, ce qui les rend d’autant plus intéressants. Si vous disposez d’un document court, ou de nombreux documents courts et très différents les uns des autres, alors il ne sera peut-être pas nécessaire d’utiliser la machine. En revanche, si votre document est long ou votre corpus conséquent, ce logiciel pourrait vous être très utile.
De plus, il existe un autre aspect de ce logiciel : il s’agit de publier et de diffuser des modèles déjà entraînés. Pour donner un exemple, nous sommes en train de créer des machines entraînées à la transcription de l’arabe, de l’hébreu, du syriaque et du latin. Si vos documents sont écrits dans ces écritures, vous pouvez commencer à travailler à partir de ces machines déjà existantes. D’ailleurs, si vos documents sont écrits dans un style d’écriture différent des exemples précédemment cités, ou si vous utilisez une norme différente pour la transcription, vous pouvez tout de même déjà commencer à travailler avec une machine entraînée et la ré-entraîner selon vos propres besoins. Dans ce cas, vous aurez besoin de beaucoup moins d’exemples rédigés à la main, parce que la machine aura déjà atteint un certain niveau d’entrainement et il suffira alors de l’adapter à vos besoins spécifiques.
Le logiciel est basé sur les recherches de Ben Kiessling, ingénieur dans notre équipe et doctorant en co-tutelle à l’EPHE. Il est l’un des meilleurs experts au monde dans la transcription automatique de manuscrits, surtout pour les écritures dites « non-latines ».
Le logiciel est déjà utilisé par quelques projets comme Vietnamica, un « ERC Advanced Grant » porté par Philippe Papin avec Marc Bui, Sofer Mahir sur la transcription automatique des manuscrits hébraïques médiévaux, et le projet LECTAUREP en collaboration avec INRIA et les Archives nationales. Il est aussi utilisé par le « Open Islamicate Texts Initiative Arabic-script Optical Character Recognition Project » (OpenITI AOCP). Soutenu par le Mellon Foundation, le partenaires du projet sont l’University of Maryland College Park (UMD), Aga Khan University (AKU), Universität Wien (UW), et Northeastern University. Ils utilisent eScriptorium comme un « user-friendly digital text production pipeline with a wide range of new OCR enhancements and expanded text export functionality » dans OpenITI, qui est « a multi-institutional effort to construct the first machine-actionable scholarly corpus of premodern Islamicate texts».
Après Scripta, eScriptorium est désormais soutenu par un projet européen, RESILIENCE dont l’EPHE est partenaire (avec Denis Pelletier, Peter Stokes et autres). Il fait aussi partie du dossier de l’Equipex+ Biblissima+, et bénéficie du soutien du Domaine d’Intérêt Majeur Sciences Texte et Connaissances Nouvelles (DIM STCN), de l’EPHE et d’autres centres dans le but d’acquérir un ordinateur à haute performance pour l’entraînement de la machine au sein du projet ManuscriptologIA. eScriptorium est co-dirigé par Daniel Stökl Ben Ezra et Peter A. Stokes.
Pour aller plus loin, voici quelques liens et publications :
- Le carnet de recherche d’eScripta (et donc eScriptorium) : escripta.hypotheses.org
- Le site web de Kraken, l’engine de Ben Kiessling pour la transcription qui est utilisée par eScriptorium : kraken.re
- Le code source d’eScriptorium : gitlab.inria.fr/scripta/escriptorium
- Le code source de Kraken : github.com/mittagessen/kraken
- Des référentiels de modèles entraînés : github.com/mittagessen/kraken-models and zenodo.org/communities/ocr_models/
- Kiessling, B., Stökl Ben Ezra, D., Miller M. BADAM: A Public Dataset for Baseline Detection in Arabic-script Manuscripts, HIP@ICDAR 2019. (2019)
- Kiessling, B.; Tissot, R., Stökl Ben Ezra, D., Stokes P.A. eScriptorium: An Open Source Platform for Historical Document Analysis, OST@ICDAR 2019. (2019)
- Kiessling, B. Kraken – A Universal Text Recognizer for the Humanities. DH 2019 (2019).
L’eScriptorium représente le volet numérique du projet Scripta-PSL. Nous remercions Andréas Stauder, Ivan Guermeur, le comité de Scripta et l’IRIS PSL car sans leur soutien le logiciel n’existerait pas, ainsi que RESILIENCE RI pour leur soutien qui débutera à l’été 2020. RESILIENCE et donc eScriptorium bénéficient du soutien du programme cadre de recherche et d’innovation de l’Union européenne Horizon 2020 sous la convention de subvention (Grant Agreement) n° 871127.
OpenEdition vous propose de citer ce billet de la manière suivante :
Peter A. Stokes (30 juin 2020). eScriptorium : un outil pour la transcription automatique des documents. EphéNum. Consulté le 3 décembre 2024 à l’adresse https://doi.org/10.58079/ofzq
Is there an eScriptorium version for Chrome or Android?
eScriptorium itself runs on a web server, and so you can connect to it using your web browser including via an Android phone. There is no dedicated Android app, if that’s what you mean, but it would not be difficult to create one using the API. We don’t have the resources to do this ourselves, but we would be very happy to discuss how it might be done. We are also in the process of redesigning the interface, and part of this will be to make it more mobile-friendly.
I hope that answers your question, but if not then do get in touch again.
Bonjour
nous sommes intéressés par : eScriptorium 6
comment pouvons-nous nous le procurer.
salutations et merci pour l’information
Louise
Bonjour,
Merci pour votre intérêt. La réponse la plus simple est que vous pouvez installer eScriptorium gratuitement à partir du code source (https://gitlab.com/scripta/escriptorium/), et vous pouvez trouver des modèles en ligne, par example ici : https://zenodo.org/communities/ocr_models/
En même temps, cette réponse implique une certaine connaissance de l’informatique et l’accès à un ordinateur de haute puissance avec des GPUs. Si non, cela dépend de votre situation, mais il y a des équipes et des consortia qui ont les competences requises en informatique et les moyens d’acheter une machine ensemble, par example le DIM STCN et le DIM MAP (https://www.dim-humanites-numeriques.fr et https://www.dim-map.fr), ou RESILIENCE dans l’avenir. Vous pourriez être déjà associée à un tel consortium (peut-être sans même savoir), et dans ce cas vous auriez accès par leur intermédiaire.
En tout cas, vous pouvez me contacter directement avec plus de détails sur votre situation et nous pourrons voir si nous pouvons trouver une solution pour vous.
J’espère que cela vous aidera un peu, même si cette réponse n’est pas très simple !
Peter Stokes