{"word_count": 3038, "character_count": 21189}
Les expressions régulières sont un outil extrêmement utile pour réaliser des opérations complexes de recherche-remplacer sur des grandes quantités de texte, qui nous semble d&#8217;intérêt général pour tous les chercheurs en sciences sociales. On en présente ici le principe, la syntaxe et comment les utiliser concrètement.Un outil indispensable pour les travailleurs du texteNous passons notre temps, en sciences sociales, à manipuler des données textuelles : réponses ouvertes à un questionnaire, noms de personnes, lieux, caractéristiques sociales, mais aussi articles de presse, correspondances, transcriptions d&#8217;entretiens, jusqu&#8217;aux textes scientifiques que nous produisons. Or, pour traiter de telles données avec un ordinateur, il est fréquent de devoir effectuer des transformations systématiques, à des fins qui vont d&#8217;un nettoyage avant importation pour une analyse statistique, jusqu&#8217;à une conformation à des normes typographiques avant publication. Pourquoi programmer pour écrire ?Parmi les outils que nous utilisons couramment, certains permettent d&#8217;effectuer de telles modifications, en particulier R et OpenOffice/LibreOffice ou Word. Chacun a déjà utilisé les fonctions de recherche et de &#8220;rechercher-remplacer&#8221; de Word ou équivalent. On présente ici une généralisation de ces fonctions qui permet d&#8217;automatiser rapidement presque toutes les opérations textuelles imaginables. Pour les utiliser, il suffit d&#8217;un langage de programmation (par exemple R, Python, etc.) ou d&#8217;un bon éditeur de texte. Parmi les logiciels de traitement de texte, LibreOffice et OpenOffice permettent de faire la même chose ; c&#8217;est le cas aussi de Word (mais avec une syntaxe assez différente, qu&#8217;on n&#8217;évoquera pas ici).Nous avons donc sous la main des logiciels dotés de fonctions à même de nous épargner des heures de travail fastidieux, mais bien souvent nous ne savons pas les utiliser, ou nous ne savons même pas qu&#8217;elles existent. Le sujet peut paraître compliqué au premier abord, et si vous regardez rapidement la suite de ce billet, vous risquez de ne voir que des signes cabalistiques rebutants. Pas d&#8217;inquiétude toutefois : les expressions régulières ne sont pas faites pour être lues, mais pour être faciles à écrire. Ce billet propose une introduction à ce sujet, afin de montrer la logique de cet outil, à la fois très simple et puissant. Car le plus important n&#8217;est pas de connaitre les expressions régulières, mais d&#8217;en comprendre le principe et savoir ce qu&#8217;il est possible de faire avec. Après quoi, il existe de nombreuses aides que même les chercheurs expérimentés consultent souvent.Le principe : faire repérer des formes textuelles à l&#8217;ordinateurSupposons que, pour les individus d&#8217;une population dont on veut faire une prosopographie, on ait saisi une liste de dates et lieux de naissance dans un fichier texte (ou un vecteur de type character sous R) &#8211; ici des membres des Francs Tireurs et partisans (FTP) :né le 3 juillet 1897, à Rennes (35)né le 13 mai 1893, à Le Chambon-Feugerolles (42)née en 1895, à Tauriac (47)né le 2 octobre 1896, à Louey (65)née le 1er janvier 1908, à Końskowola -- Pologne (99)…Comment transformer cette série de lignes de texte, dont la structure est toujours la même, en une autre série de lignes de texte, chacune comportant uniquement l&#8217;année de naissance ? Si on sait réaliser cette opération, alors on pourra faire de même pour le département et les autres données qui nous intéressent, et transformer ce texte en base de données prête pour l&#8217;analyse. Concentrons-nous donc sur l&#8217;année.À conceptualiser, l&#8217;opération est très simple. Il suffit, dans chaque ligne, de rechercher l&#8217;année, de la mémoriser, puis de remplacer le contenu de la ligne par elle. Comment repérer l&#8217;année ? À l&#8217;œil nu, rien de plus facile : c&#8217;est le nombre composé de quatre chiffres. On pourrait aussi remarquer qu&#8217;elle ici est le deuxième nombre de chaque ligne, ou encore le premier nombre qui soit suivi immédiatement d&#8217;une virgule, etc. Toutes ces désignations de formes textuelles sont ce qu&#8217;on appelle des motifs (patterns, en anglais).Si on se décide pour cette première caractérisation de l&#8217;année, la procédure qu&#8217;on souhaitera effectuer pourra alors s&#8217;écrire, en langage humain :Dans chaque ligne,  Remplace: l'ensemble de la ligne  Par: le premier nombre à quatre chiffres trouvéLe travail est donc très simple à penser. Mais s&#8217;il doit être répété sur un grand nombre de lignes, c&#8217;est fastidieux. Certains vont donc employer un esclave doctorant, mais un programme informatique de quelques lignes le fait aussi bien. Et le travail de programmation qui peut paraître compliqué au premier abord est en réalité très simple à écrire, au point que c&#8217;est une solution plus rapide (et même plus sûre) que de recopier manuellement les informations qui vous intéressent, et ce dès que vous avez plus que quelques lignes[1].En effet, la moitié du travail, à savoir l&#8217;écriture de la procédure &#8220;comme si on faisait à la main&#8221; est déjà réalisée. Il ne reste plus qu&#8217;à savoir comment la faire comprendre à l&#8217;ordinateur, et comment la lui faire exécuter. La syntaxe qui permet de traduire les instructions précédentes pour l&#8217;ordinateur, d&#8217;indiquer les motifs qu&#8217;on désire repérer, est appelée expressions régulières, en anglais regular expressions, souvent abbrevié en regex[2]. Il en existe plusieurs variantes. R utilise une syntaxe très puissante et très répandue, appelée PCRE ou parfois &#8220;de type perl&#8221;[3], comme à peu près tous les langages de programmation généralistes.Bases de la syntaxeLes expressions régulières sont donc une syntaxe pour décrire de manière assez naturelle des formes textuelles à un ordinateur. Cela n&#8217;a rien d&#8217;évident a priori, mais on va voir comment désigner des fragments de formes comme &#8220;n&#8217;importe quoi&#8221;, &#8220;quatre chiffres exactement&#8221;, &#8220;au moins une majuscule&#8221;, etc. La syntaxe comportera, inévitablement, des symboles un peu cabalistiques, mais il ceux-ci ne sont pas nombreux, et l&#8217;important est qu&#8217;ils se combinent comme du Lego.Classes de caractères et quantificateursLa syntaxe des expressions régulières se compose de deux types d&#8217;éléments : des groupes de caractères (par exemple : les chiffres, les lettres, les espaces, mais aussi des groupes que l&#8217;on peut définir soi-même, comme les lettres a et c, les chiffres de 0 à 7…)[4], et des quantificateurs (par exemple : un, deux, zéro ou un, un ou plus, entre 4 et 7, un nombre quelconque, etc.). On utilise ici cette convention graphique : gras pour les groupes de caractères, italique pour les quantificateurs.Une expression régulière est ainsi une suite de groupe de caractères, chacun accompagné d&#8217;un quantificateur. Par exemple : un certain nombre de lettres, au moins un espace, exactement quatre chiffres.Les groupes de caractères les plus courants sont les suivants (en PCRE) :\w : les lettres (w pour word)\d : les chiffres (d pour digit)\s : les espaces (s pour spaces)[A-Z] : les majuscules[abd;_] : les lettres a, b, et d, le point-virgule (;), et l&#8217;underscore (_). : n&#8217;importe quel caractère (excepté le saut de ligne)k : la lettre k(k|\d{2}) : la lettre k, ou bien deux chiffresIl existe également leur négation :\W : tout sauf les lettres\D : tout sauf les chiffres\S : tout sauf les espace[^A-Z] : tout sauf les majuscules[^abd;_] : tout sauf a, b, d, le point-virgule (;) ou l&#8217;underscore (_)Maintenant les quantificateurs :* : zéro ou plus+ : un ou plus? : zéro ou un{2} : deux exactement{2,5} : entre 2 et 5 inclus{,6} : entre 0 et 6 inclus{6,} : six ou plus{2;5} : exactement deux ou cinq(pas de quantificateur) : un exactementUne absence de quantificateur désigne une et une seule occurrence. Ainsi, le motif abc correspond à un a, puis un b, puis un c, soit exactement le texte abc, comme d&#8217;habitude.Avec ces bases, on peut déjà aller très loin. Revenons à l&#8217;exemple des FTP : on peut maintenant écrire le motif correspondant à quatre chiffres : \d{4} (ou \d\d\d\d, c&#8217;est la même chose).Donc, si on veut extraire les années de l&#8217;exemple donné précedemment, on va chercher à écrire : &#8220;Dans chaque ligne, cherche un fragment de la forme \d{4}, et garde-le en mémoire&#8221;.Mémoriser des fragments du texte analyséLes expressions régulières servent à repérer des morceaux de texte correspondant à un motif que l&#8217;on écrit de façon formelle. Mais si on veut réutiliser ces morceaux de texte, il faut pouvoir les mettre en mémoire, et ensuite accéder au contenu de cette mémoire.Pour cela, la syntaxe consiste à entourer ce qu&#8217;on veut mettre en mémoire de parenthèses. Ainsi, pour chercher et mettre en mémoire quatre chiffres, on écrira l&#8217;expression régulière (\d{4}).Une fois appliqué cette expression régulière à une chaîne de caractères, le premier élément correspondant (ici le premier nombre à quatre chiffres trouvé) est stocké dans la variable \1 (ou parfois $1).Ainsi, pour extraire l&#8217;année de né le 3 juillet 1897, à Rennes (35), on écrira : si tu trouves le motif (\d{4}) dans cette chaîne de caractères, renvoie-moi \1.Caractères spéciauxVous aurez remarqué qu&#8217;on utilise certains caractères pour écrire les expressions régulières : \ { } ( ) [ ] . + ? - *, etc. Comment écrire pour dire qu&#8217;on veut identifier de tels caractères dans un texte, qui pourrait en contenir ?Pour cela, on les fait simplement précéder de \, pour signaler qu&#8217;il ne faut pas les considérer comme caractères spéciaux, mais comme caractères réels. Ainsi, pour trouver un + dans un texte, on écrira dans l&#8217;expression régulière \+.Il existe également d&#8217;autres caractères spéciaux, qu&#8217;on ne peut pas écrire normalement avec les touches du clavier. Il s&#8217;agit des espaces comme les sauts de ligne, de page, les tabulations ; ils s&#8217;écrivent comme suit, respectivement : \n, \f, \t.Enfin, deux caractères spéciaux très commodes indique le début et la fin de la ligne : ^ et $, quand ils sont placés au début et à la fin de la regex. Ils s&#8217;écrivent aussi, respectivement, \A et \Z.Ainsi, une ligne complète, contenant un nombre à quatre chiffres avec potentiellement des choses avant, et potentiellement des choses après, peut s&#8217;écrire ainsi :^.*(\d{4}).*$Pour la lire il faut détailler sa composition :^ : début du fragment de texte,.* : n&#8217;importe quelle chaine de texte (peut contenir 0 caractère),(\d{4}) : quatre chiffres, à garder en mémoire,.* : n&#8217;importe quelle chaine de texte (peut contenir 0 caractère),$ : fin du fragment de texte.Il ne reste plus qu&#8217;à insérer ce motif dans un exemple d&#8217;utilisation concrète. Utilisation concrèteQuels logiciels utiliser, pour faire des recherches ou du rechercher-remplacer ? On présente ici deux solutions possibles : R et LibreOffice. Chacune utilise une variante de la syntaxe présentée ici, mais les différences ne commencent à être visibles que dans les cas compliqués, donc on peut les négliger.On va effectuer maintenant la même opération avec ces deux outils, sur l&#8217;exemple du début : sélectionner l&#8217;année dans une série de lignes de renseignements d&#8217;état-civil.Les expressions régulières en RLa première chose à savoir, pour écrire des expressions régulières en R, est qu&#8217;il faut doubler tous les backslashes[5] : on n&#8217;écrit pas \d mais \\d.Ensuite, admettons que nos lignes de texte soient représentées par un vecteur de type character. Il est alors facile d&#8217;effectuer pour l&#8217;ensemble des éléments de ce vecteur une opération de recherche des éléments qui correspondent à une regex, ou de recherche et remplacement sur ces éléments. Fonctions de base de R : grep() et gsub()La recherche utilise la fonction grep(regex, vecteur) &#8211; dont le nom signifie Globally search a Regular Expression and Print. Plus précisément, pour s&#8217;assurer qu&#8217;elle emploie la syntaxe qu&#8217;on a évoquée ici, il convient d&#8217;ajouter l&#8217;option perl = TRUE. Cela permet d&#8217;indiquer qu&#8217;on utilise la syntaxe PCRE. Cette fonction renvoie les numéros de position dans le vecteur recherché des éléments qui correspondent à la regex, ce qui est particulièrement utile pour sélectionner des lignes d&#8217;un dataframe (par exemple, df[grep(regex, df$var), ]). Elle peut aussi renvoyer les éléments eux-mêmes, avec l&#8217;option value = TRUE. Enfin la fonction grepl(regex, vecteur) &#8211; ne me demandez pas ce que signifie le l &#8211; renvoie TRUE ou FALSE pour chaque élément du vecteur, selon qu&#8217;il corresponde à la regex.Les commandes suivantes les montrent en action :&#62; naiss &#60;- c(&#34;né le 3 juillet 1897, à Rennes (35)&#34;,             &#34;né le 13 mai 1893, à Le Chambon-Feugerolles (42)&#34;,             &#34;née en 1895, à Tauriac (47)&#34;,             &#34;né le 2 octobre 1896, à Louey (65)&#34;,             &#34;née le 1er janvier 1908, à Końskowola -- Pologne (99)&#34;)&#62; grep(&#34;\\d{4}&#34;, naiss, perl = TRUE)[1] 1 2 3 4 5&#62; grep(&#34;\\d{4}&#34;, naiss, perl = TRUE, value = TRUE)[1] &#34;né le 3 juillet 1897, à Rennes (35)&#34;[2] &#34;né le 13 mai 1893, à Le Chambon-Feugerolles (42)&#34;[3] &#34;née en 1895, à Tauriac (47)&#34;[4] &#34;né le 2 octobre 1896, à Louey (65)&#34;[5] &#34;née le 1er janvier 1908, à Końskowola - Pologne (99)&#34;&#62; grep(&#34;\\d{6}&#34;, naiss, perl = TRUE)integer(0)&#62; grepl(&#34;^née&#34;, naiss, perl = TRUE)[1] FALSE FALSE  TRUE FALSE  TRUELa première ligne crée un vecteur avec cinq arguments. La deuxième nous indique que la chaine de caractère demandée (4 chiffres à la suite) est présente dans les lignes 1, 2, 3, 4 et 5; et la troisième nous retourne les chaines en question grâce à l&#8217;option value = TRUE. La quatrième montre que la chaine de caractère 6 chiffres d&#8217;affilée n&#8217;est présente nulle part (integer(0)). Enfin, la dernière teste si elle commence (&#34;^) par née et donc si la personne est une femme.Le rechercher-remplacer s&#8217;effectue avec la fonction gsub(regex, remplacement, vecteur) &#8211; abréviation de Global SUBstitution. De la même manière, on conseille d&#8217;utiliser l&#8217;option perl = TRUE. Ainsi :&#62; gsub(&#34;^.*(\\d{4}).*$&#34;, &#34;\\1&#34;, naiss, perl = TRUE)[1] &#34;1897&#34; &#34;1893&#34; &#34;1895&#34; &#34;1896&#34; &#34;1908&#34;Attention, la fonction gsub() laisse inchangées les chaînes de caractères qui ne correspondent pas à la regex :&#62; gsub(&#34;^né .*(\\d{4}).*$&#34;, &#34;\\1&#34;, naiss, perl = TRUE)[1] &#34;1897&#34;[2] &#34;1893&#34;[3] &#34;née en 1895, à Tauriac (47)&#34;[4] &#34;1896&#34;[5] &#34;née le 1er janvier 1908, à Końskowola - Pologne (99)&#34;À noter que dans ces deux fonctions on peut utiliser l&#8217;option ignore.case = TRUE, qui permet de ne pas tenir compte de la casse des lettres et traîter de manière équivalente majuscules et minuscules, ce qui peut être utile.Ces fonctions font partie des outils de base en R. Il en existe d&#8217;autres, qui peuvent être plus pratiques, dans des modules dédiés à la manipulation de texte.Modules utiles pour traiter du textestringrLe module stringr dispose, pour les mêmes usages, de str_detect(vecteur, regex) (attention à l&#8217;inversion !), et de str_replace_all(vecteur, regex, remplacement). Plus précisément, str_detect() fait le même travail que grepl(). Il existe aussi str_extract(vecteur, regex), qui peut être très pratique, et correspond exactement à ce qu&#8217;on veut ici. On les invoque, ainsi que la syntaxe perl, de la manière suivante :&#62; str_detect(naiss, perl(&#34;\\d{4}&#34;))[1] TRUE TRUE TRUE TRUE TRUE&#62; str_replace_all(naiss, perl(&#34;^.*(\\d{4}).*$&#34;), &#34;\\1&#34;)[1] &#34;1897&#34; &#34;1893&#34; &#34;1895&#34; &#34;1896&#34; &#34;1908&#34;&#62; str_extract(naiss, perl(&#34;\\d{4}&#34;))[1] &#34;1897&#34; &#34;1893&#34; &#34;1895&#34; &#34;1896&#34; &#34;1908&#34;stringiTrès complet pour travailler avec des caractères exotiques et de manière générale un excellent outil pour traiter du texte en R, le module stringi comprend les fonctions stri_detect_regex(vecteur, regex) et stri_replace_all_regex(vecteur, regex, remplacement), ainsi que stri_extract_first_regex(vecteur, pattern) (et d&#8217;autres du même type, comme stri_extract_all_regex(vecteur, pattern)). Il n&#8217;est pas nécessaire d&#8217;indiquer que l&#8217;on utilise des regex de type perl, car c&#8217;est la syntaxe qu&#8217;il utilise par défaut[6]. Attention, ici les éléments mis en mémoire se rappellent avec $1, $2 etc., plutôt que \\1, \\2, etc., cf. deuxième des lignes suivantes :&#62; stri_detect_regex(naiss, &#34;\\d{4}&#34;)[1] TRUE TRUE TRUE TRUE&#62; stri_replace_all_regex(naiss, &#34;^.*(\\d{4}).*$&#34;, &#34;$1&#34;)[1] &#34;1897&#34; &#34;1893&#34; &#34;1895&#34; &#34;1896&#34; &#34;1908&#34;&#62; stri_extract_first_regex(naiss, &#34;\\d{4}&#34;)[1] &#34;1897&#34; &#34;1893&#34; &#34;1895&#34; &#34;1896&#34; &#34;1908&#34;Avec LibreOffice/OpenOfficeNul besoin de passer par un logiciel de statistiques pour utiliser des expressions régulières. LibreOffice et OpenOffice peuvent également effectuer des recherches et des remplacement de cette manière. La syntaxe qu&#8217;ils utilisent est documentée en détail ici pour LibreOffice, là pour OpenOffice, mais dans les deux cas les bases sont les mêmes que ce qu&#8217;on a présenté ici.Pour les utiliser, il faut aller dans le menu &#8220;Édition&#8221; et y choisir &#8220;Rechercher &#38; Remplacer&#8221;; puis, dans la fenêtre qui s&#8217;ouvre alors, cocher la case &#8220;Expressions régulières&#8221;. Les valeurs mises en mémoire se retrouvent avec $1, $2, etc. Pour notre exemple, cela donne :Rechercher/Remplacer sous LibreOfficeEt on obtient le même résultat qu&#8217;avec R.Pour Word la fonction de recherche/remplacement avancée est basée sur une syntaxe assez différente, appelée fréquemment wildcards. Elle est moins pratique sur certains aspects, mais permet bien de décrire le formattage du texte (italique, gras, etc.) &#8211; voir la documentation ici.ConclusionVoilà, vous êtes maintenant équipé pour transformer le texte de départ en un tableau de données ou un dataframe, avec les expressions régulières. Vous pouvez vous entraîner, par exemple en R, à créer un dataframe dont les variables (colonnes) seraient l&#8217;année de naissance, le mois de naissance, mais aussi le sexe, et le département voire le pays de naissance, de chaque individu.Dans des prochains billets, on verra comment traiter des cas plus complexes, en termes d&#8217;éléments de syntaxe mais aussi d&#8217;outils logiciels pour aider à appréhender des regex complexes.Sélectionner manuellement l&#8217;année dans une ligne et en effacer le reste prendra quelques secondes, en fonction de la maîtrise des raccourcis clavier par l&#8217;opérateur. Pour quelques cas c&#8217;est acceptable, mais pour mille cas cela revient facilement à plusieurs heures, sans compter l&#8217;épuisement de l&#8217;opérateur. En revanche, écrire le &#8220;programme&#8221; nécessaire pour le faire de manière automatisée prend quelques dizaines de secondes, et l&#8217;exécution est quasiment instantanée. &#160;&#8617;Le terme français considéré plus correct, mais presque jamais employé, est celui d&#8217;expressions rationnelles. &#160;&#8617;Le nom de PCRE signifie Perl-Compatible Regular Expressions. Cette dénomination est le nom d&#8217;une syntaxe d&#8217;expressions régulières compatibles avec celles de Perl, un langage créé dans les années 1980 précisément pour faire des manipulations de texte, et qui a longtemps été la référence dans ce domaine. En fait deux syntaxes sont disponibles en R, POSIX et PCRE, mais la base est la même. Celle de Word est assez différente, et plus restreinte, mais il utile de la connaître ou au moins de savoir ce qu&#8217;on peut en faire; on l&#8217;évoquera prochainement. &#160;&#8617;Les groupes de caractères sont aussi appelés classes de caractères. &#160;&#8617;La raison en est qu&#8217;on écrit les regex sous la forme de chaînes de caractères, qui ont une syntaxe pour écrire certains caractères spéciaux (proche de celle mentionnée ici pour les caractères spéciaux des regex), que R interprète ensuite pour y lire la &#8220;vraie&#8221; chaîne de caractères que l&#8217;on a voulu exprimer. Comme le backslash (\) est l&#8217;un de ces caractères spéciaux, et qu&#8217;on écrit justement les caractères spéciaux en les faisant précér eux-mêmes d&#8217;un backslash, la syntaxe pour communiquer un backslash à R dans une chaîne de caractères est \\ (i.e. &#34;… \\ …&#34;). Pour voir comment R interprète les chaînes de caractères, on peut utiliser la fonction cat() : essayer par exemple cat(&#34;\&#34;), cat(&#34;\\&#34;), cat(&#34;\d&#34;), cat(&#34;\\d&#34;). &#160;&#8617;Plus précisément stringi est basé sur la syntaxe ICU, mais qui est très proche de PCRE. &#160;&#8617;