{"word_count": 3263, "character_count": 21409}
On essaye de nous faire croire que l'intelligence artificielle est une « révolution ». Et s'il n'en était rien ? Ne peut-on pas voir tout simplement la logique d’un processus qui remonte au moins aux cinquante dernières années ? La bureaucratie nous a poussés à mettre en place dans tous les domaines de la vie de tous les jours des procédures simples, permettant à tout-à-chacun de se dégager de toute responsabilité, de ne plus avoir à faire preuve d'intelligence. Les algorithmes font peur, on se demande où se trouve l’ « humain » dans ces procédures décisionnelles… Et s’il avait déjà disparu depuis bien longtemps ?Assurance et procédures bureaucratiquesComme l’avait montré Crozier (1963), la bureaucratie apparaît comme un mode d’organisation rationnel, dans lequel les administrés sont protégés du clientélisme et de l’arbitraire par la mise en place de règles objectives. Car la bureaucratie n'est pas uniquement une administration hiérarchisée (et étatique), c'est surtout un ensemble de normes, de procédures et de formalités qui englobent toutes les activités humaines. Les assureurs, par exemple, ont rapidement compris l’intérêt de ces procédures. Dans le contexte des accidents de la route, le règlement des accidents matériels se fait selon la « Convention IRSA » (Convention d’Indemnisation directe de l’assuré et de Recours entre Sociétés d’Assurance automobile) lorsque deux véhicules sont impliqués (succédant à la convention dite IDA, créée en 1968). Après une évaluation des dommages réalisée par un expert, l’assureur établit lui-même la responsabilité de son assuré et l’indemnise directement des dommages matériels et préjudices subis. Il se retourne ensuite contre le ou les assureur(s) adverse(s) selon les modalités de recours établies par la convention. Cette convention repose sur l’utilisation de barèmes, correspondant à 13 cas d’accidents classiques : le cas 51 par exemple est relatif à une collision entre deux véhicules, dont l’un reculait ou effectuait un demi-tour, et dans ce cas, la responsabilité est normalement entière (100%) pour le conducteur du véhicule effectuant une marche arrière (ou un demi-tour). Dans le cas des accidents corporels, la procédure est moins transparente, mais la loi dite Badinter a proposé de mettre en place un mécanisme simple (pour la victime mais aussi, finalement, pour l'assureur du conducteur), avec comme objectif « d'améliorer la situation des victimes d'accidents de la circulation et d'accélérer les procédures d'indemnisation ». Pour ce faire, plusieurs barèmes sont utilisés. Par exemple, l'Incapacité Permanente Partielle (I.P.P.) mesure la « réduction de potentiel physique, psycho-sensoriel ou intellectuel dont reste atteinte une victime » et se traduit par un pourcentage d'incapacité permanente, selon une échelle de 1 à 100, correspondant à un « barème indicatif des déficits fonctionnels séquellaires en droit commun ». Si ce barème est officiellement « indicatif » , le suivre permet d’éviter d’avoir à se justifier. Toute l’évaluation de l’indemnisation va reposer sur des « certificats médicaux », devenus les pièces administratives fondamentales, eux-mêmes de plus en plus normalisés, et répondant à des formes, et des normes spécifiques. Dans une logique très bureaucratique, ces procédures entendent éviter que l’empathie ne soit favorisée. Le développement de normes procédurales a aussi cet objectif : mettre à distance les victimes, pour qu’une neutralité puisse s’exercer, que l’objectivité puisse être (prétendument) assurée et la justice être effective. Cette forme d’indifférence n’est-elle pas la base du quotidien de l’assurance ? Les gestionnaires de sinistres ne souhaitent-ils pas avoir le maximum de distance avec la personne qui appelle car le toit de sa maison a pris feu, ou parce que sa femme est à l’hôpital suite à un accident de la route ?La production bureaucratique de l’indifférenceBauman (2002) montre que cette « production de l’indifférence » émerge souvent d’une configuration extrêmement banale, caractéristique de toutes les sociétés modernes, à savoir le couplage de la « division fonctionnelle du travail » et la « substitution de la responsabilité technique à la responsabilité morale ». En décrivant la bureaucratie au Pakistan, Hull (2012) explique que « ces procédures sont élaborées non pas à cause d'une logique de rationalisation, mais parce que les fonctionnaires se protègent en les déployant vigoureusement et largement ». Ce n'est pas étonnant qu’Adolf Eichmann ait choisi cette ligne de défense, lors de son procès, en avril 1961. En fait, quand on relit Arendt (1966), présente lors du procès quant à la responsabilité d’Adolf Eichmann dans la mise en œuvre de la « solution finale » (envoyée alors par The New Yorker à Jérusalem pour témoigner), elle nous présente un personnage « robotisé », désubstantialisé, n’ayant fait qu’obéir aux ordres. Sans revenir sur la réalité historique du rôle d’Eichmann et la mise en scène du procès, l’analyse d’Hannah Arendt de la bureaucratie est intéressante. Le sous-titre du livre, la « banalité du mal », se caractérise par l’incapacité d’être affecté par ce que l’on fait et le refus de juger, comme tout bureaucrate analysant une situation au travers du prisme d’un formulaire, devenant un robot, dont la responsabilité serait remise en cause par une obéissance mécanique aux ordres. Ce dernier serait finalement « représentatif d’un système […] bureaucratique, dans lequel chaque individu n’est qu’un rouage aveugle […] exécutant mécaniquement des ordres venus de l’autorité respectée ». La thèse d’Arendt (pour reprendre les mots de Cesarani (2010)) est en effet « qu’Eichmann disait la vérité lorsqu’il se présentait comme un fonctionnaire dénué de passion, comme un infime rouage dans la vaste machine exterminatrice, et lorsqu’il affirma qu’il aurait très facilement pu être remplacé par quelqu’un d’autre ». Obéir aux ordres, suivre une procédure rend alors Eichmann coupable, mais la question de la responsabilité reste ouverte (en particulier en distinguant la responsabilité individuelle, et la responsabilité collective). Revenant justement sur la question de la responsabilité quelques années plus tard, Arendt (2005) s’interroge, « comment juger sans se cramponner à des standards, à des normes préconçues et à des règles générales sous lesquelles subsumer les cas particuliers ? ». La bureaucratie peut rassurer par sa rationalité, mais effrayer par l’indifférence qu’elle engendre.Car la bureaucratie n’a rien de nouveau. Les scribes de l’antiquité étaient les premiers bureaucrates, comme l’affirme Wilford (2001). Plus récemment, si Karl Marx s’est penché sur la bureaucratie de l’industrie pour étudier la domination de la bourgeoisie et du capitalisme, Max Weber a montré que la bureaucratie s’accommode de toute forme de pouvoir. Il écrit ainsi que « la véritable domination [s’exerce] dans le maintien de l’administration au quotidien », « la bureaucratie se caractérise par l’impossibilité beaucoup plus grande que l’on a d’y échapper ». L’entreprise est le lieu privilégié du développement d’une bureaucratie, « l’exigence d’une calculabilité et d’une prévisibilité aussi rigoureuse que possible favorise l’essor d’une couche spéciale d’administrateurs et impose à celle-ci un certain type de structuration » (cité par Claude Lefort). Pour Max Weber, la bureaucratie n’est pas un parasite (comme le pensait Marx) mais une composante fondamentale du capitalisme. La sous-traitance, l’externalisation, le travail à flux tendu ne sont possibles que grâce à des pratiques basées sur une bureaucratie plus importante. Il convient de codifier toutes les informations aussi finement que possible, refuser toute approximation dans les décisions, en certifiant et en normalisant, détaillant la répartition des tâches. Le cloisonnement protège les collaborateurs du sentiment de responsabilité. Les « silos » sont devenus les « paradis des experts ». La forme segmentée et séquentielle du travail protège alors les membres de l’organisation comme le montre Dupuy (2011).La recherche sans fin de normesCette production de l’indifférence a été longuement étudiée par Michael Herzfeld, qui montré la spécificité de la bureaucratie d’état en tant que puissance publique, et concrétisant le déni de toute différence : « elle offre la capacité effective et généralisée de rejeter ceux qui ne rentrent pas dans les catégories préétablies et considérées comme normale » comme le note Hibou (2012). C’est aussi ce que note Sainati &#38; Schalchi (2007) en étudiant l’importance de la bureaucratie et des normes dans la dérive sécuritaire des dernières années, « chaque individu-citoyen est appréhendé en fonction de la catégorie délinquante à laquelle il est censé appartenir. Chacun est nécessairement suspect d’avoir commis, de vouloir ou de pouvoir commettre une infraction. Cette politique d’intolérance sociale va achever de transformer la justice (surtout la justice pénale) en système bureaucratique total… ».L’inflation normative, qui s’observe dans le monde de la justice, aussi été observée dans monde de la finance, avec le recul des instances étatiques (banques centrales, autorité des marchés financiers, régulateurs divers) qui n’interviennent plus directement, mais au travers l’imposition de règles administratives de plus en plus strictes. On pensera aux règles de gestion de type Bâle II, mais aussi les différentes cloisons qui s’érigent entre les diverses activités (banque de dépôt et banque d’affaire, activités de conseil et activités de marché, par exemple). La gestion des risques est fondamentalement bureaucratique, passant par des normes, des grilles, des codes qui vont engendrer des réactions automatiques. Ce reporting donne une vision très simplifiée de l’activité, mais cette synthétisation de l’information permet de prendre des décisions plus rapidement. Cette phase semble indispensable compte tenu des spécificités de chacune des branches, empêchant presque d’avoir une vision globale sur l’activité de la banque. Cet ensemble de règles et de procédures permet aussi de « se protéger » : face à l’incertitude (judiciaire), la meilleure manière de se défendre est de respecter des procédures et des règles. Le but n’est pas d’éviter une faillite, mais de se protéger en cas d’accusation. Le respect des règles devient alors plus important que leur finalité. Ces règles semblent être une réponse politique aux différentes crises traversées par le monde bancaire. Cette inflation bureaucratique apporte une forme de tranquillité et de confort, tout en créant une forme de dilution des responsabilités. Comme le note Hibou (2012), « au nom de la responsabilité individuelle, chacun se doit de respecter les normes, mais le respect des normes vaut comme défaussent des responsabilité en cas de problème » (rappelant au passage l’affaire Kerviel). C’est ce que note par exemple Brunson &#38; Jacobsson (2002) lorsqu’ils affirment que la culture de l’audit est certes une culture de la responsabilité, mais d’une responsabilité individuelle. La responsabilité collective est d’autant plus diluée que les gouvernements délèguent leur pouvoir de régulation aux acteurs privés de façon floue si la norme est adoptée, les techniques de traçabilité permettront de remonter jusqu’à l’individu responsable de l’acte à l’origine d’une défaillance; tandis que si la norme ne n’est pas, personne ne sera responsable.Et cette recherche de normes est sans fin. Ainsi, nombre d’opposants à l’agriculture industrielle se sont opposé à la normalisation des produits alimentaires, et en réponse, ont développé des normes de consommation biologique. Ces dernières ont alors été remises en question par les réseaux locaux, qui ont souhaité soutenir le concept de « manger local », et pour être reconnu, ont adopté de nouvelles normes. La réponse à des procédures est une surenchère de procédures. Max Weber le disait en 1920, « quand ceux qui sont soumis au contrôle bureaucratique cherchent à échapper à l'influence des appareils bureaucratiques existants, normalement cela n'est possible qu'en créant une organisation propre qui sera également sujette à la bureaucratisation ».De l'homme à la machine ou voir les machines comme des êtres humains...MacDonald a longtemps été soucieuse d'assurer la permanence d'un produit homogène partout dans le monde. Dans la logique du mode d'organisation communément appelé Taylorisme, l'entreprise a écrit un guide de procédures, expliquant les bons gestes à faire pour saler les frites, remplir un verre de soda, etc. Dans les centres d'appels, des procédures sont suivies très scrupuleusement par les employés, avec une gestion des files d’appel, les scénarios qui s’affichant sur l’écran, et l'employé n’ayant plus qu’à le dérouler. Simone Weil évoquait une « organisation scientifique du travail », où le travail était déshumanisé, réduit à l'état d'énergie mécanique. Le Taylorisme a été l'expression dans les usines de cette fascination pour la science, voyant l'être humain comme une machine. Mais il n'y a rien de nouveau, puisqu'au milieu du XVIIème siècle Thomas Hobbes écrivait « étant donné que la vie n'est rien d'autre qu'un mouvement de membres, dont le commencement est en quelque partie principale intérieure, pourquoi ne pourrions-nous pas dire que tous les automates (des engins qui se meuvent eux-mêmes, par des ressorts et des roues, comme une montre) ont une vie artificielle? ».Les ordinateurs ont été inventés pour soulager d'un certain nombre de tâches répétitives en déroulant un algorithme mis en œuvre par un être humain. Les tours de Hanoï sont un jeu très simple, très répétitif... mais se résolvant par un algorithme incroyablement simple. C'est probablement pour ça que ce « jeu » est encore enseigné dans tous les cours d'informatiques et d'algorithmiques, car le « jeu » en tant que tel est en fait rapidement très ennuyeuxi. Dans bon nombre de formations, on n'enseigne plus la créativité, mais des ensembles de procédures à suivre. La méthode dite de Box &#38; Jenkins pour faire des prévision est une longue procédure qu'on se contente de suivre à la lettre, mécaniquement : on stationnarise la série, on la modéliser par un processus autorégressif, puis on valide les hypothèses. Et si ça ne marche pas, on recommence.L'actuariat, en tant que sciences, repose sur un ensemble de procédures simples. Par exemple pour construire un tarif, on commence par constituer une base, en utilisant les informations de souscription, on va regarder le nombre de sinistres de chaque police, et on va utiliser un modèle pour décrire cette variable de comptage (classiquement une régression de Poisson). Si on souhaite faire des choses plus avancées, on va utiliser une partie des données pour construire le modèle, et une autre pour tester les prédictions de notre modèle. On fera la même chose sur les coûts de sinistres. La démarche est simple : on collecte des données, on estime un modèle, on teste le modèle, éventuellement on retient le meilleur si on a le choix entre plusieurs. C'est tellement simple qu'un ordinateur pour presque le faire tout seul...Des machines partout !?Depuis des dizaines d'années, les organisations essayent de mettre en place des procédures permettant d'éviter toute part d'arbitraire (d'humanité ?) dans une prise de décision. En parallèle les ingénieurs ont développés des machines de plus en plus performantes pour répéter inlassablement des tâches routinières. A partir de ce double constat, on ne peut pas s'étonner de voir les machines de plus en plus présentes, partout. C'est tout du moins la thèse défendue par Susskind &#38; Susskind (2015) qui anticipe de nombreuses transformations de la majorité des professions, allant au delà d'une simple robotisation des tâches routinière (y compris pour des professions juridiques, comme le voit Remus &#38; Levy (2015)).Mais il ne faut pas se tromper, si les machines remplacent les hommes, elles ne sont pas des hommes pour autant. Par exemple, la responsabilité revient toujours à une personne : le concepteur de la machine, son opérateur – qui possède quelques connaissances techniques – ou l'utilisateur – qui bien souvent n'en possède aucune. Abiteboul (2016) va encore plus loin en posant la question éthique sous-jacente, à savoir « un système informatique peut-il se voir attribuer une responsabilité » (et rejoignant les questionnements d'Hannah Arendt). Mais au delà de la responsabilité, on peut arguer que les machines n'ont aucune intention. Elles accomplissent parfois des tâches complexes, mais parce qu'elles ont été programmées pour le faire. C'est la beauté de l'ingénierie : un téléphone (aussi intelligent soit-il) n'est qu'un ensemble de composants électroniques pouvant effectuer des calculs de plus en plus complexes (parfois il peut le localiser sur une carte et me proposer un chemin rapide pour rejoindre un restaurant), mais le téléphone ne veut rien. Un traducteur automatique permet de traduire un texte en quelques secondes, mais seulement parce qu'il a été programmé pour ça, alors que si un enfant apprend une langue, c'est parce qu'il comprend que c'est une étape indispensable pour communiquer avec ses parents. Si je tape une phrase dans une langue inconnue dans un traducteur, je suis impressionné d'obtenir une réponse qui ait du sens. Mais si je maîtrise (un tant soit peu) les deux langues, je suis au contraire souvent déçu, espérant probablement mieux. Ces machines sont souvent très prévisibles, ce qui est à la fois une qualité et un défaut. N'est-ce pas ce qu'on demande à tout ingénieur ? La machine doit être fiable, obéir au doigt et à l'œil. La première différence entre l'homme et la machine est que l'homme peut désobéir. Et c'est sa plus grande richesse !Un mot qui revient sans cesse quand on pratique la science des données est le mot « apprentissage » (on parle de "machine learning"). On nous explique que la machine tente de reproduire la démarche humaine de l'être humain lorsqu'il apprend. L'enfant apprend à reconnaître les lettres, puis apprend à les mettre bout à bout pour écrire des mots, de manière assez consciente puisqu'il est guidé le plus souvent par son instituteur. Il apprend aussi à reconnaître de visages, de manière souvent inconsciente cette fois. La machine apprend aussi à reconnaître des écritures manuscrites, ou des visages. La machine va faire des erreurs, mais elle va aussi « apprendre de ses erreurs », et elle va s'améliorer. Comme un être humain ? Ce n'est pas aussi simple que ça. L'enfant va se décourager plusieurs fois avant de savoir lire correctement, et il va persévérer. On retrouve le « conatus » cher à Spinoza, cet effort que fait toute chose qui existe effectivement, cette persévérance dont fait preuve tout être vivant. Et souvent, cet apprentissage se fait dans la douleur. Si une machine se trompe, reconnaissant un "5" alors qu'il s'agissait d'un "3", elle commet une erreur, et pour elle ça s'arrête là. Pour l'enfant qui espérait avoir 5 bonbons et qui n'en a que 3, il ressentira réellement l'erreur. Que dire de cette personne qui pensait avoir un rendez-vous important à 15 heures, et qui arrive deux heures en retard ?Penser qu'un téléphone puisse être intelligent est probablement révélateur de ce qu'on pense être l'intelligence. Mais les machines sont très loin de pouvoir remplacer les êtres humains. Elles n'en ont pas l'envie, et heureusement, tant qu'elles ne seront pas programmées à le faire, cela ne risque pas d'arriver.ReferencesAbiteboul, Serge 2016. Informaticiens, tous coupables ? Le Monde, 1er septembre 2016Arendt, Hannah 1966. Eichmann à Jérusalem : Rapport sur la banalité du mal. Folio Histoire.Arendt, Hannah 2005. Responsabilité et jugement. 2005.Bauman, Zygmunt 2002. Modernité et Holocauste. La Fabrique.Brunson, Niels &#38; Jacobsson, Bengt. . 2002. A World of Standards. Oxford University Press.Cesarani. David. 2010. Adolf Eichmann .Tallandier.Crozier, Michel. 1963. Le Phénomène bureaucratique. Seuil.Dupuy, François. 2011. Lost in Management.: La vie quotidienne des entreprises au XXIe siècle. Seuil.Herzfeld, Michael. 1992. The Social Production of Indifference. The University of Chicago Press.Hibou, Isabelle. 2012. La bureaucratisation du monde à l’ère néolibérale, La Découverte.Hobbes, Thomas. 1651. Leviathan. (version Folio Essais)Hull, Matthew. 2012. Government of Paper The Materiality of Bureaucracy in Urban Pakistan. University of California Press.Lefort, Claude. 1979. Éléments d’une critique de la bureaucratie, Paris, Gallimard.Remus, Dana &#38; Levy, Frank Can Robots Be Lawyers? Computers, Lawyers, and the Practice of Law. Working PaperSainati, Gilles &#38; Schalchli, Ulrich. 2007. La décadence sécuritaire. La Fabrique.Susskind Richard &#38; Susskind Dana. 2015. The Future of the Professions: How Technology Will Transform the Work of Human Experts. Oxford University Press.Weber, Max. 1921. La domination légale à direction administrative bureaucratique. Paru dans Économie et Société.Weil, Simone 1999. L’Enracinement, Œuvres, Quarto Gallimard.Wilford, John 2011. Greek Tablet May Shed Light on Early Bureaucratic Practices. New York Times, 4 Avril 2011i On peut d'ailleurs se demander si les situationnistes n'avaient pas raison lorsqu'ils critiquaient la société fordiste (bureaucratique), dans laquelle la certitude de ne pas mourir de faim avait été échangé contre le risque de mourir d'ennui.