{"word_count": 1413, "character_count": 12325}
Ce colloque international, organis&#233; par le LinX (laboratoire interdisciplinaire de l'Ecole Polytechnique), aura lieu les 18 et 19 juin &#224; Saclay et &#224; Paris.ArgumentaireDepuis plusieurs ann&#233;es, l&#8217;intelligence artificielle a fait l&#8217;objet d&#8217;analyses qui insistent sur son caract&#232;re contraignant. Elles peuvent viser &#224; d&#233;montrer, &#224; partir d&#8217;une relecture des textes cybern&#233;tiques, &#8220;l&#8217;essence totalitaire&#8221; du dispositif technologique, qui r&#233;duit les individus &#224; devenir des &#233;l&#233;ments format&#233;s et programm&#233;s, objets d&#8217;un calcul universel (Vioulac, 2018). L&#8217;analyse peut aussi porter sur les effets d&#8217;individuation nouveaux induits par les algorithmes, que ce soit via la production d&#8217;une nouvelle forme d&#8217;individualit&#233; constitu&#233;e par &#8220;la soci&#233;t&#233; de ciblage&#8221; (Chamayou, 2015) ou encore via la mise en valeur des effets de &#8220;court-circuitage&#8221; algorithmique de l&#8217;attention et des volont&#233;s individuelles (Citton, 2017). Plusieurs travaux ont op&#233;r&#233; une reprise conceptuelle de la notion foucaldienne de gouvernementalit&#233; pour l&#8217;appliquer aux usages algorithmiques de la statistique et aux nouvelles formes de normativit&#233; qui s&#8217;y expriment (Rouvroy et Berns, 2013). Les effets destructeurs des algorithmes sur les savoirs et les d&#233;sirs ont enfin fait l&#8217;objet d&#8217;investigations, par exemple autour du concept de &#171;&#160;soci&#233;t&#233; automatique&#160;&#187; (Stiegler, 2015).Analys&#233;e comme l&#8217;aboutissement de la rationalit&#233; calculatoire, l&#8217;IA est largement pens&#233;e sur le registre du calcul et de ce qu&#8217;il produit. Ce colloque interdisciplinaire (philosophie, sciences humaines et sociales, informatique, statistiques, mais aussi art) se propose de revenir sur ce pr&#233;suppos&#233;. Par contraste avec ces travaux, son est de r&#233;fl&#233;chir sur les formes et sur les limites de ces calculs. En d&#8217;autres termes, il s&#8217;agit de s&#8217;interroger sur ce qui, dans l&#8217;intelligence artificielle, &#233;chappe au calcul.Plusieurs pistes pourront alors &#234;tre explor&#233;es&#160;:Des communications pourront porter sur ce que l&#8217;IA ne parvient pas, ou ne parvient qu&#8217;imparfaitement, &#224; calculer. Ainsi, pour les voitures autonomes, ce qui rel&#232;ve de la n&#233;gociation non-verbale entre conducteurs.trices &#233;chappe encore largement aux algorithmes ; plus g&#233;n&#233;ralement l&#8217;impossibilit&#233; pour l&#8217;IA de saisir le contexte (Dreyfus, 1992), ou encore l&#8217;ensemble des &#8220;r&#233;flexes s&#233;mantiques&#8221; acquis durant l&#8217;exp&#233;rience d&#8217;une vie (French, 1990) et m&#234;me, plus globalement, les valeurs s&#233;mantique et non uniquement syntaxiques (Searle, 1980) sont des critiques traditionnelles qui sont faites aux algorithmes.Ce faisant, si les algorithmes d&#8217;intelligence artificielle rel&#232;vent bien d&#8217;une rationalit&#233; calculatoire, toute une partie du monde leur &#233;chapperait - soit qu&#8217;elle n&#8217;est pas mise en donn&#233;e, soit qu&#8217;elle n&#8217;est pas calculable. Le non-calculable constituerait alors la/une borne de l&#8217;intelligence artificielle. Dans cette perspective, les discours (enthousiastes ou inquiets) sur l&#8217;intelligence artificielle surestimeraient son champ d&#8217;application possible et donc la capacit&#233; &#224; produire les effets qui lui sont attribu&#233;es. Une telle hypoth&#232;se, qui devrait &#234;tre &#233;tay&#233;e, ouvre alors vers d&#8217;autres interrogations. Comment d&#233;finir ce non-calculable, entendu comme limite ? L&#8217;est-il circonstanciellement - c&#8217;est-&#224;-dire qu&#8217;il pourrait &#234;tre sans cesse repouss&#233; par les avanc&#233;es en intelligence artificielle - ou absolument ? Peut-il &#234;tre d&#233;fini de mani&#232;re normative (la loi informatique et libert&#233;s dispose ainsi qu&#8217;une d&#233;cision administrative faisant grief ne peut &#234;tre prise de mani&#232;re exclusivement automatis&#233;e) et suivant quels crit&#232;res ? Est-il constitu&#233; positivement, comme une classe d&#8217;objets d&#233;finis, ou bien n&#233;gativement, simplement comme la cons&#233;quence des limites des dispositifs techniques (erreurs, bugs, puissance limit&#233;e) ? Poser ainsi la question permet de r&#233;inscrire cette interrogation dans celles sur la non-calculabilit&#233; &#160;qui a gouvern&#233; les math&#233;matiques depuis leur fondements (G&#246;del, 1931 ; Turing, 1936 ; Chaitin, 2004).&#192; cette limite externe s&#8217;en ajoute une autre, cette fois li&#233;e &#224; la m&#233;thode et que l&#8217;on peut qualifier d&#8217;interne. La critique classique du caract&#232;re &#8220;opaque&#8221; des algorithmes d&#8217;intelligence artificielle pourra ici &#234;tre &#233;voqu&#233;e. Dans quelle mesure la critique de l&#8217;inexplicabilit&#233;, ou celle de l&#8217;absence de d&#233;monstration exacte (Boelaert et Ollion, 2018 ; Schubbach, 2019), est-elle toujours d&#8217;actualit&#233; ? En quoi cette inexplicabilit&#233; renvoie-t-elle &#224; ce qui, dans l&#8217;IA, &#233;chappe au calcul ? Les d&#233;veloppements r&#233;cents destin&#233;s &#224; d&#233;velopper l&#8217;explicabilit&#233; de l&#8217;IA, ceux destin&#233;s &#224; favoriser l&#8217;identification causale (Athey, 2017) offrent-ils des moyens &#8220;d&#8217;ouvrir la bo&#238;te noire de l&#8217;IA&#8221;, et si oui &#224; quelles conditions, et pour quels r&#233;sultats? Des communications pourront &#234;tre propos&#233;es dans ce sens, qui pourront aussi rappeler certains des d&#233;bats relatifs &#224; l&#8217;histoire du domaine, o&#249; la question de l&#8217;explicabilit&#233;, et de la calculabilit&#233;, ont &#233;t&#233; centraux - par exemple dans les querelles entre les paradigmes connexionnistes et symboliques (Crevier, 1997; Cardon et al., 2018). Des pr&#233;sentations relatives &#224; la place de la pr&#233;diction en sciences (en g&#233;n&#233;ral, ou par rapport &#224;&#160;l&#8217;explication) pourront utilement &#233;clairer ces d&#233;bats.Une troisi&#232;me ligne d&#8217;interrogation pourrait porter sur les conditions de production des dispositifs d&#8217;IA, et ainsi interroger les discours totalisants qui les d&#233;crivent comme des syst&#232;mes automatis&#233;s fond&#233;s sur la seule puissance du calcul. La plupart des algorithmes sont en effet entra&#238;n&#233;s par des individus dont on oublie d&#8217;&#233;voquer l&#8217;activit&#233; de pr&#233;paration, de nettoyage et d&#8217;alimentation des donn&#233;es. L&#8217;apprentissage automatique est largement nourri par le travail invisible de milliers de personnes, ces &#8220;travailleurs du clic&#8221; (Casilli 2018) pay&#233;s peu ou parfois pas &#224; entra&#238;ner les algorithmes. Loin d&#8217;&#234;tre un syst&#232;me enti&#232;rement automatis&#233;, l&#8217;apprentissage machine actuel repose sur des interventions humaines r&#233;currentes. Les communications pourront alors porter sur ce travail humain d&#8217;entra&#238;nement des machines. L&#8217;IA peut-elle y &#233;chapper (par exemple en d&#233;veloppant des m&#233;canismes de cumulativit&#233; via des proc&#233;d&#233;s de transfer learning), ou est-elle condamn&#233;e &#224; s&#8217;appuyer toujours sur ce travail de l&#8217;ombre? On pourra aussi s&#8217;interroger sur les effets de cet entra&#238;nement toujours particulier sur les r&#233;sultats que proposent les algorithmes, et sur les situations qu&#8217;ils ne peuvent pas prendre en compte (invitant ainsi prolonger les r&#233;flexions classiques sur les biais et sur leurs origines afin de les mettre en discussion avec la th&#233;matique de la journ&#233;e d&#8217;&#233;tude). On pourra encore se demander ce que les crit&#232;res d&#8217;&#233;valuation des algorithmes de learning, largement organis&#233;s autour de l&#8217;am&#233;lioration de performances pr&#233;dictives sur quelques jeux de donn&#233;es devenus classiques (MNIST, ImageNet), a fait &#224; la logique calculatoire de l&#8217;IA, &#224; la fois en termes d&#8217;&#233;tablissement d&#8217;un langage commun, mais aussi en termes de limites pour appr&#233;hender des cas qui diff&#233;rerait de l&#8217;&#233;talon commun.D&#8217;autres r&#233;flexions pourront &#234;tre explor&#233;es. La capacit&#233; auto-productive de certains algorithmes (de type apprentissage par renforcement) ne remet-elle pas en cause la vision de l&#8217;IA comme application stricte d&#8217;une rationalit&#233; algorithmique contenue dans ses donn&#233;es d&#8217;entra&#238;nement &#8211; aussi biais&#233;es soient-elles. Les exemples d&#8217;&#339;uvres d&#8217;art produites &#224; partir de r&#233;seaux de neurones de type generative adversarial networks ne sont-ils pas une invitation &#224; reposer la question de l&#8217;automatisation, tout en s&#8217;interrogeant sur la cons&#233;quence de cette capacit&#233; productive&#160;?Intervenant&#183;esParmi les intervenant.es qui ont d&#233;j&#224; confirm&#233; leur venue : Mich&#232;le Sebag, directrice du laboratoire de recherche en informatique ; Antonio Casilli, chercheur sur le digital labor, auteur de En attendant les robots (2019) ; David Bates, chercheur &#224; Berkeley, ancien directeur du Berkeley Center for NewMedia.OrganisateursFran&#231;ois Levin (&#201;cole polytechnique - philosophie)Etienne Ollion (CNRS - sociologie)Conditions de soumissionLes propositions de communication, qui peuvent &#233;maner de disciplines aussi diverses que la philosophie, les SHS, l&#8217;&#233;conomie, le droit ou l&#8217;art mais peuvent &#233;galement provenir de sp&#233;cialistes en machine learning seront &#224; envoyeravant le 1er mars 2020&#224; l&#8217;adresse suivante&#160;: francoislevin01@gmail.com (une page maximum).Les r&#233;ponses seront donn&#233;es dans le cours du mois de mars.Bibliographie indicativeSusan Athey, &#8220;Beyond Prediction: Using Big Data for Policy Problems,&#8221; Science, February 3, 2017David Bates, &#8220;Automacity, Plasticity and the deviant Origins of artificial intelligence&#8221;, In Plasticity and pathology : On the Formation of the Neural Subject, pp.194-218, ed. Fordham University, 2015Julien Boelaert, &#201;tienne Ollion, &#8220;The Great Regression. Machine Learning, Econometrics, and the Future of Quantitative Social Sciences&#8221;, Revue fran&#231;aise de sociologie 2018/3 (Vol. 59), p. 475-506.Dominique Cardon, Jean-Philippe Cointet, Antoine Mazi&#232;res, &#8220;La revanche des neurones. L&#8217;invention des machines inductives et la controverse de l&#8217;intelligence artificielle&#8221;, R&#233;seaux, 2018/5 (n&#176; 211)Antonio Casilli, En Attendant les robots, Seuil, 2018Gregory Chaitin, &#8220;Leibniz, Randomness and the Halting Probability&#8221;, 2004Gr&#233;goire Chamayou, &#8220;Avant-propos sur les soci&#233;t&#233;s de ciblage&#8221;, revue Jef Klak, 2015Yves Citton, &#8220;Le court-circuitage n&#233;olib&#233;ral des volont&#233;s et des attentions&#8221;, Multitudes n&#176;68, 2017Hubert Dreyfus, What Computers Still Can't Do: A Critique of Artificial Reason, The MIT Press, 1992Robert French, &#8220;Subcognition and The Limits of the Turing Test&#8221;, Mind, 1990, 99, pp. 53-66.Kurt G&#246;del, &#8220;Sur les propositions formellement ind&#233;cidables des Principia Mathematica et des syst&#232;mes apparent&#233;s&#8221;, 1931Catherine Malabou, Que faire de leur cerveau bleu ?, Puf, 2017Luciana Parisi, &#8220;La raison instrumentale, le capitalisme algorithmique et l&#8217;incomputable&#8221;, Multitudes, 2016Antoinette Rouvroy et Thomas Berns, &#8220;Gouvernementalit&#233; algorithmique et perspectives d'&#233;mancipation&#8221;, R&#233;seaux, 2013Arno Schubbach, &#8220;Judging machines: philosophical aspects of deep learning&#8221;, Synthese, 2019J.R. Searle, &#8220;Minds, Brains and programs&#8221;, The Behavioral and Brain Sciences, vol. 3, Cambridge University Press, 1980Bernard Stiegler, La Soci&#233;t&#233; automatique, tome I, Fayard, 2015 Alan Turing, &#8220;On Computable numbers&#8221;, 1936Jean Vioulac, Approche de la criticit&#233;, PUF, 2018