{"word_count": 1455, "character_count": 11531}
En dépit de critiques récurrentes, on trouve des informations très utiles sur l&#8217;encyclopédie en ligne Wikipédia. Et, à condition de savoir les lire (i.e. de pratiquer la critique des sources), elle peut constituer une mine d&#8217;or pour les chercheurs. D&#8217;aileurs, vous pourriez y contribuer, ou contribuer.Comment faire pour collecter automatiquement ces informations ? De la même manière qu&#8217;on l&#8217;a déjà fait, mais le site impose de respecter certaines règles. Examinon-les en repartant de l&#8217;exemple des édifices religieux à Paris, traité dans un précédent billet. Cette fois, on s&#8217;intéresse au culte musulman.L&#8217;exemple des lieux de culte musulman à ParisParmi les différents sites qui répertorient lieux du culte musulman à Paris, Wikipédia semble bien renseigné. Une rapide consultation montre une liste d’environ 75 sites, qu’on va récupérer afin de pouvoir la traiter (statistiques, visualisation), ou la sauvegarder. Assurément, on n’est pas en mesure de dire si elles sont fréquentées, toujours actives, ou si la liste est complète (mais des gens ici ou là ont sûrement une idée - ainsi que l’administration française, comme le montrait la thèse de S. Jouanneau).Et on peut remarquer au passage une distinction qu’on ne retrouve pas chez d’autres groupes religieux plus établis : plus de la moitié des endroits recensés sont des “simples” salles de prières, et pas des édifices spécifiquement religieux (ce qui a sûrement trait à la croissance différentielle des groupes religieux, comme à leur histoire).Sur Wikipédia, les données sont souvent présentées sous forme de tableaux. Ceux-ci sont décrits par une balise &#60;table&#62; dans le code source. Dans ce cas, leur extraction est très simple, grâce à la fonction readHTMLTable (présentée ici également), que l&#8217;on va utiliser.Le premier &#8220;tableau&#8221; de la page est la table des matières de l&#8217;article, donc on s&#8217;intéresse au deuxième (mosquées), et au troisième (salles de prière). La fonction readHTMLTable peut s&#8217;utiliser directement avec l&#8217;URL (l&#8217;adresse) de la page, dans ce cas on extrait les tableaux comme ceci :# Moduleslibrary(RCurl)library(XML)# Adresse de la page Wikipédialieux.islam.url &#60;-  &#34;http://fr.wikipedia.org/wiki/Liste_des_mosqu%C3%A9es_de_Paris&#34;# Récupération directe des tableauxlieux.islam.tableaux &#60;- readHTMLTable(lieux.islam.url)mosquees      &#60;- lieux.islam.tableaux[[2]]salles.priere &#60;- lieux.islam.tableaux[[3]]Si on vérifie le contenu de salles.priere, on peut vérifier que ça fonctionne. Reste un problème d&#8217;accents, qui se traduit par des choses comme \u0080 (Mac OS) ou des caractères bizarres (Windows) et des avertissements ésotériques comme &#8220;it is not known that wchar_t is Unicode on this platform&#8221;. Il s&#8217;agit d&#8217;un malentendu d&#8217;encodage, c&#8217;est-à-dire d&#8217;interprétation des caractères accentués &#8211; qu&#8217;on traitera en détail prochainement [1].Pour y remédier, on va adopter une procédure légèrement plus longue. Cela va nous permettre également de se conformer aux conditions d&#8217;utilisation de Wikipédia, et plus généralement aux bonnes pratiques de collecte automatique de données.Collecter, à quelles conditions ?Collecter automatiquement des données peut être grisant, mais il ne faut pas oublier que l&#8217;opération peut être coûteuse pour l&#8217;hébergeur (en termes de bande passante, donc d&#8217;infrastructures matérielles), et que le droit protège la propriété des données : ce n&#8217;est pas parce que vous pouvez les consulter qu&#8217;elles sont à vous. Les sites peuvent, au-delà du droit, se protéger par divers outils techniques. Certains vous bloqueront l&#8217;accès en cas de non-respect des conditions d&#8217;utilisation ; il est donc vivement conseillé de lire celles-ci pour savoir ce que vous êtes autorisé à faire, et comment.Chez Wikipédia, les données sont librement accessibles, aux conditions des licences Creative Commons et GNU Free Documentation License : en gros, citer vos sources, ne pas en faire un usage commercial, etc. (un peu comme pour ce blog). Concernant la collecte automatisée de données, la règle veut qu&#8217;on se présente, qu&#8217;on donne les moyens au webmaster de vous contacter par email, et qu&#8217;on évite de revenir trop régulièrement. À défaut, l&#8217;accès vous sera bloqué après quelques requêtes. On va donc utiliser des fonctions qui permettent de charger des pages web tout en envoyant nos coordonnées au serveur.Pour cela, et toujours avec R, on prend un chemin découpé en plusieurs étapes. Les fonctions de très &#8220;haut niveau&#8221;, c&#8217;est-à-dire qui font beaucuop d&#8217;opérations complexes en une seule fois, ne permettent en effet pas toujours de contrôler assez finement la communication avec le serveur. Notre programme commence donc par la préparation d&#8217;une ligne, appellée User-Agent, qu&#8217;on envoie au serveur pour lui signaler notre identité (personnelle et logicielle) lorsqu&#8217;on lui demande une page [2].Ici, cette ligne est de la forme &#8220;RCurl (mon.adresse@moi.net)&#8221;, RCurl étant le &#8220;navigateur&#8221; qu&#8217;on utilise. On la communique comme ceci :# Modules utilisés icilibrary(RCurl)library(XML)# Adresse (URL) de la pagelieux.islam.url &#60;-  &#34;http://fr.wikipedia.org/wiki/Liste_des_mosqu%C3%A9es_de_Paris&#34;# Identifiant que l'on envoie à Wikipedia pour se présenter# À remplacer par votre email !mon.adresse.mail &#60;- &#34;mon.adresse@moi.net&#34;# Assemblage du message qui va être envoyéidentifiant &#60;- paste(&#34;RCurl&#34;, &#34; (&#34;,                     mon.adresse.mail, &#34;)&#34;,                     sep=&#34;&#34;)# Requêtepage.brute &#60;- getURL(url = lieux.islam.url,                     useragent = identifiant)# On traite ensuite cet objet, pour en analyser la structurepage.lignes &#60;- readLines(tc &#60;- textConnection(page.brute))               close(tc)page.parsed &#60;- htmlTreeParse(page.lignes,                             useInternalNodes=TRUE,                             asText=TRUE)La variable page.brute est le contenu de la page web chargée, en HTML. On la transforme en lignes (page.lignes), puis on analyse sa structure (parse). On pourra ensuite appliquer la fonction de lecture simplifiée des tableaux vue précédemment. Mais avant cela on va enlever les accents du texte.Enlever les accentsL&#8217;intérêt de cette procédure est d&#8217;avoir un contrôle fin sur les opérations de téléchargement et de transformation de la page web. En particulier, on va pouvoir enlever les accents du texte, ce qui évitera toute confusion d&#8217;encodage [3].On utilise ici une fonction que l&#8217;on a détaillée ailleurs, et que l&#8217;on appelle Unaccent().Le moment le plus propice pour appliquer cette fonction, dans les opérations traitement de la page, est lorsqu&#8217;elle est sous forme de lignes, à l&#8217;étape page.lignes. Les accents (ou plutôt l&#8217;encodage) sont à ce moment correctement traités.Le programme intégralOn reprend ainsi les morceaux présentés plus haut. Au passage, on englobe les opérations dont le résultat ne nous intéresse pas dans une fonction, ce qui évite de les garder en mémoire.# Modules utileslibrary(RCurl)library(XML)# Adresse (URL) de la pagelieux.islam.url &#60;-  &#34;http://fr.wikipedia.org/wiki/Liste_des_mosqu%C3%A9es_de_Paris&#34;# Identifiant que l'on enverra à Wikipedia pour se présenter# À remplacer par votre email !mon.adresse.email &#60;- &#34;mon.adresse@moi.net&#34;# Définition d'une fonction d'enlèvement des accents (et des '`^&#34;)Unaccent &#60;- function(text) {  text      &#60;- gsub(&#34;['`^\&#34;]&#34;, &#34; &#34;, text)  text.unac &#60;- iconv(text, to=&#34;ASCII//TRANSLIT&#34;)  text.unac &#60;- gsub(&#34;['`^\&#34;]&#34;, &#34;&#34;, text.unac)  return(text.unac)}# Fonction de téléchargement, enlèvement des accents,# et analyse (parsing) de la structure HTMLGetUnaccentURL &#60;- function(url.page, email='') {  identifiant &#60;- paste(&#34;RCurl&#34;, &#34; (&#34;,                       email, &#34;)&#34;,                       sep=&#34;&#34;)  page.brute &#60;- getURL(url = url.page,                       useragent = identifiant)  page.lignes &#60;- readLines(tc &#60;- textConnection(page.brute))                 close(tc)  page.lignes.unac &#60;- Unaccent(page.lignes)  page.parsed &#60;- htmlTreeParse(page.lignes.unac,                               useInternalNodes=TRUE,                               asText=TRUE)  return(page.parsed)}# Téléchargement de la page sur les lieux de culte musulmanlieux.islam &#60;- GetUnaccentURL(url.page = lieux.islam.url,                              email = mon.adresse.email)# Extraction des tableauxmosquees      &#60;- readHTMLTable(lieux.islam, which=2)salles.priere &#60;- readHTMLTable(lieux.islam, which=3)Et voilà [4] !On peut maintenant cartographier ces résultats : il suffit de géocoder les adresses obtenues.La distribution géographique apparaît clairement localisée dans l&#8217;Est parisien, soit les quartiers les moins bourgeois de la capitale ; plus le quinzième arrondissement. Les salles de prière sont globalement situées dans les mêmes quartiers que les mosquées, mais avec de fortes variations.En deux mots, le problème est le suivant : les fichiers informatiques sont constitués d&#8217;octets, des blocs élémentaires de mémoire qui peuvent prendre chacun 256 valeurs. Pour communiquer un texte, il faut transformer la suite des caractères en une série d&#8217;octets, donc de valeurs entières entre 0 et 255, et pour cela utiliser un code. Si le code employé pour déchiffrer la suite de ces valeurs numériques n&#8217;est pas le même que celui employé la créer, alors cela déforme le texte initial. Les &#8220;encodages&#8221; désignent, dans le sens usuel (qui est assez imprécis), les différents codes utilisés, dont les plus généraux se nomment ASCII, iso&#8211;8859&#8211;1 (ou Latin&#8211;1), ou encore Unicode / UTF&#8211;8. &#160;&#8617;Cette méthode n&#8217;est pas vraiment un outil de sécurisation : il est possible de déclarer une fausse identité sans difficulté, et le serveur n&#8217;a aucun moyen de le contrôler. En réalité, elle est utilisée sur le web avec une visée surtout pratique : en déclarant quel est votre navigateur et sa version (par exemple, &#8220;Mozilla/5.0 (X11; Ubuntu; Linux i686; rv : 15.0) Gecko/20100101&#8221; désigne Firefox 15.0 pour Ubuntu), le serveur peut savoir comment vous envoyer une page adaptée aux capacités techniques du navigateur, ou au format d&#8217;écran de votre machine (ordinateur, téléphone mobile, tablette, etc.). &#160;&#8617;Plus précisément, les caractères latins non-accentuées, disons le clavier américain, sont transcrits de la même manière par les différents encodages occidentaux standards. On peut donc se tromper d&#8217;encodage dans l&#8217;interprétation de tels textes, le résultat est toujours correct. Désaccentuer un texte permet ainsi de ne (presque) plus se soucier des questions. &#160;&#8617;On aurait pu, en réalité, éviter d&#8217;enlever les accents, en appliquant la transformation suivante à la fin (et avec un équivalent pour salles.priere) : for(i in 1:length(mosquees)) {mosquees[[i]] &#60;- iconv(from=&#34;UTF-8&#34;, to=&#34;LATIN1&#34;, mosquees[[i]])}. Celle-ci est applicable au résultat de l&#8217;extraction directe des tableaux, mais ne permet pas de se conformer à la politique d&#8217;identification de Wikipédia. &#160;&#8617;