Archives par étiquette : Recherche

Les machines vont-elles nous remplacer ?

C’est le titre traduit d’un excellent article de la MIT Technology Review que l’on trouve en ligne: Will Machines Eliminate Us? J’en fournis ici une traduction tant je trouve qu’il vient contrebalancer l’avalanche de promesses et d’exubérance médiatiques et scientifiques…

Les gens qui craignent que nous soyons sur la point d’inventer des machines dangereusement intelligentes comprennent mal l’état de l’informatique.

par Will Knight – le 29 janvier 2016

yoshua.bengio_machinesYoshua Bengio dirige l’un des groupes de recherche les plus avancés dans un domaine de l’intelligence artificielle (AI) en fort développement et connu sous le nom d’apprentissage profond ou « deep learning » (voir fr.wikipedia.org/wiki/Deep_learning). Les capacités surprenantes que le deep learning a données aux ordinateurs au cours des dernières années, de la reconnaissance vocale de qualité humaine à la classification des images jusque des compétences de conversation de base, ont généré des avertissements menaçants quant au progrès que l’AI fait vers l’intelligence humaine, au risque peut-être de même de la dépasser. Des personnalités comme Stephen Hawking et Elon Musk ont même averti que l’intelligence artificielle pourrait constituer une menace existentielle pour l’humanité. Musk et d’autres investissent des millions de dollars dans la recherche sur les dangers potentiels de l’AI, ainsi que sur les solutions possibles. Mais les déclarations les plus sinistres semblent exagérées pour nombre de gens qui sont en fait directement impliquées dans le développement de la technologie. Bengio, professeur de sciences informatiques à l’Université de Montréal, met les choses en perspective dans un entretien avec le rédacteur en chef de la MIT Technology Review pour l’AI et la robotique, Will Knight.

Faut-il se soucier de la rapidité des progrès de l’intelligence artificielle ?
Il y a des gens qui surestiment grossièrement les progrès qui ont été accomplis. Il y a eu beaucoup, beaucoup d’années de petits progrès derrière un grand nombre de ces choses, y compris des choses banales comme plus de données et plus de puissance de l’ordinateur. Le battage médiatique n’est pas de savoir si les choses que nous faisons sont utiles ou pas – elles le sont. Mais les gens sous-estiment combien la science doit encore faire de progrès. Et il est difficile de séparer le battage médiatique de la réalité parce que nous voyons toutes ces choses épatantes qui, à première vue, ont l’air magiques.

Y a t-il un risque que les chercheurs en AI « libérent le démon» accidentellement, comme Musk le dit ?
Ce n’est pas comme si quelqu’un avait tout à coup trouvé une recette magique. Les choses sont beaucoup plus compliquées que l’histoire simple que certaines personnes aimeraient raconter. Les journalistes aimeraient parfois raconter que quelqu’un dans son garage a eu cette idée remarquable, et puis qu’une percée a eu lieu, et tout à coup nous aurions l’intelligence artificielle. De même, les entreprises veulent nous faire croire à une jolie histoire : « Oh, nous avons cette technologie révolutionnaire qui va changer le monde – l’AI est presque là, et nous sommes l’entreprise qui va la fournir. » Ce n’est pas du tout commet cela que les choses fonctionnent.

Qu’en est-il de l’idée, au centre de ces préoccupations, que l’AI pourrait en quelque sorte commencer à s’améliorer d’elle-même et alors devenir difficile à contrôler?
Ce n’est pas comme cela que l’AI est conçue aujourd’hui. L’apprentissage automatique ou « machine learning » (voir fr.wikipedia.org/wiki/Apprentissage_automatique) est un processus lent et laborieux d’acquisition d’information à travers des millions d’exemples. Une machine s’améliore, oui, mais très, très lentement, et de manière très spécialisée. Et les algorithmes que nous utilisons ne ressemblent en rien à des virus qui s’auto-reproduiraient. Ce n’est pas ce que nous faisons.

« Il nous manque quelque chose de fondamental. Nous avons fait des progrès assez rapides, mais ils ne sont toujours pas au niveau où nous pourrions dire que la machine comprend. Nous sommes encore loin de cela. »

Quels sont quelques-uns les grands problèmes non résolus de l’AI?
L’apprentissage non supervisé est vraiment, vraiment important. En ce moment, la façon dont nous enseignons aux machines à être intelligentes est que nous devons dire à l’ordinateur ce qu’est une image, même au niveau du pixel. Pour la conduite autonome, l’homme étiquette des quantités gigantesques d’images de voitures pour montrer quelles parties sont des piétons ou des routes. Ce n’est pas du tout comme cela que les humains apprennent, et ce n’est pas comme cela que les animaux apprennent. Il nous manque quelque chose de fondamental. C’est l’une des choses les plus importantes que nous faisons dans mon laboratoire, mais il n’y a pas d’application à court terme – cela ne va probablement pas être utile pour construire un produit demain. Un autre grand défi est la compréhension du langage naturel. Nous avons fait des progrès assez rapides au cours des dernières années, c’est donc très encourageant. Mais ce n’est toujours pas au niveau où nous pourrions dire que la machine comprend. Ce serait vrai si nous pouvions faire lire un paragraphe à la machine, puis lui poser une question à ce sujet, et la machine répondrait d’une manière raisonnable, comme le ferait un humain. Nous sommes encore loin de cela.

Quelles approches au-delà de l’apprentissage profond seront nécessaires pour créer une véritable intelligence de la machine ?
Les efforts traditionnels, y compris le raisonnement et la logique – nous avons besoin de marier ces choses avec l’apprentissage profond afin d’avancer vers l’AI. Je suis l’une des rares personnes qui pensent que les spécialistes de l’apprentissage automatique, et en particulier les spécialistes de l’apprentissage profond, devraient accorder plus d’attention aux neurosciences. Les cerveaux fonctionnent, et nous ne savons toujours pas pourquoi à bien des égards. L’amélioration de cette compréhension a un grand potentiel pour aider la recherche en AI. Et je pense que les gens en neurosciences gagneraient beaucoup à s’intéresser à ce que nous faisons et à essayer d’adapter ce qu’ils observent du cerveau avec les types de concepts que nous développons en apprentissage automatique.

Avez-vous jamais pensé que vous auriez à expliquer aux gens que l’AI n’est pas sur le point de conquérir le monde? Cela doit être étrange.
C’est en effet une préoccupation nouvelle. Pendant de nombreuses années, l’AI a été une déception. En tant que chercheurs, nous nous battons pour rendre la machine un peu plus intelligente, mais elles sont toujours aussi stupides. Je pensais que nous ne devrions pas appeler ce domaine celui de l’intelligence artificielle, mais celui de la stupidité artificielle. Vraiment, nos machines sont idiotes, et nous essayons juste de les rendre moins idiotes. Maintenant, à cause de ces progrès que les gens peuvent voir avec des démos, nous pouvons maintenant dire: « Oh, ça alors, elle peut effectivement dire des choses en anglais, elle peut comprendre le contenu d’une image. » Eh bien, maintenant que nous connectons ces choses avec toute la science-fiction que nous avons vue, cela devient, « Oh, j’ai peur! »

D’accord, mais c’est tout de même important de penser dès maintenant aux conséquences éventuelles de l’AI.
Absolument. Nous devons parler de ces choses. La chose qui me rend le plus inquiet, dans un avenir prévisible, ce n’est pas que des ordinateurs prennent le pouvoir dans le monde entier. Je suis plus préoccupé par une mauvaise utilisation de l’AI. Des choses comme de mauvaises utilisations militaires, la manipulation des gens par le biais de publicités vraiment intelligentes; aussi, l’impact social, comme beaucoup de gens perdant leur emploi. La société a besoin de se réunir et de trouver une réponse collective, et ne pas laisser la loi de la jungle arranger les choses.

Will Knight est le rédacteur en chef pour l’AI de la MIT Technology Review. Il couvre principalement l’intelligence des machines, les robots, et l’automatisation, mais il est intéressé par la plupart des aspects de l’informatique. Il a grandi dans le sud de Londres, et a écrit sa première ligne de code sur un puissant Sinclair ZX Spectrum. Avant de rejoindre cette publication, il travaillait comme éditeur en ligne au magazine New Scientist. Si vous souhaitez entrer en contact, envoyer un e-mail à will.knight@technologyreview.com.

Crédit – Illustration par Kristina Collantes

Sciences et technologies émergentes, pourquoi tant de promesses? (Partie 4)

Suite et fin de ce que j’ai retenu de Sciences et technologies émergentes, pourquoi tant de promesses? (pour mémoire voici les liens aux partie 1, partie 2 et partie 3).

1316845933

Les derniers chapitres de cet excellent ouvrage essaient d’explorer des pistes pour résoudre le problème de l’excès de promesses qui est devenu un système. Dans le chapitre IV.2, il est question de désorcèlement, je l’ai lu comme une analyse critique du vocabulaire employé par ceux qui promettent. Le chapitre parle assez longuement du mouvement transhumaniste, la promesse des promesses! « […] décrire comment ces acteurs produisent certes, mais surtout détournent, reconfigurent et amplifient ces mêmes promesses […] face à des consommateurs passifs et naïfs ». [Page 261] et plus loin « [mais] les transhumanistes sont d’abord des militants, la plupart du temps ni ingénieurs, ni praticiens, […] tentant des réponses à des questions pas encore posées ou mal posées, […] d’où un corpus bien caricatural, » au point de parler de « secte » en citant Jean-Pierre Dupuy, « une pensée brouillonne, souvent contestable ». [page 262]

Dans la chapitre IV.3, les auteures explorent des approches non conventionnelle, signe possible d’un désarroi pour répondre « scientifiquement » aux promesses. Ainsi celles-ci ont-elles contribué à la création d’une bande dessinée pour répondre à une autre bande dessinée qui souhaitait vulgariser et promouvoir la biologie de synthèse.

Adventures_Synthetic_Biology

Enfin le dernier chapitre explore des scenarii face à l’explosion des promesses, comme l’idée d’augmenter le nombre de prix Nobel. Nouvelle promesses?!! Plus concrètement, l’auteur montre bien que les promesses initiales ne sont pas suivies dans les faits: « Le phénomène d’attentisme de l’investissement, ou déficit d’innovation, est par contre moins reconnu, quoique largement répandu: l’effet des promesses générales et diffuses entretient l’intérêt des acteurs mais trop d’incertitudes les retiennent d’investir dans des cycles de promesses-exigences concrets. » [Page 297] « Un jeu est à l’œuvre qui se poursuit tant que les joueurs se conforment aux règles, […] ils sont prisonniers du jeu. […] Ils peuvent aussi en sortir, si les circonstances s’y prêtent, et alors le jeu s’effondre. » [Page 298]

En conclusion, au delà d’une description très riche de nombreux exemples de promesses scientifiques et techniques, les auteurs ont bien montré comment un régime des promesses s’est bâti à travers les interactions entre différents acteurs (les chercheurs eux-mêmes, les décideurs politiques, sociaux et économiques qui les financent, et le grand public qui espère et angoisse). Le rapport au temps, non seulement le futur, mais aussi le présent et le passé, est joliment décrit, sans oublier un certain désir d’éternité. Et enfin, on découvre surtout que les promesses ont conduit à une multitude de débats qui étaient peut-être, pour ne pas dire tout à fait, inutiles, tant l’on pourrait peut-être découvrir que les promesses ne pourront jamais être tenues, dès même l’instant où elles ont été prononcées…

Sciences et technologies émergentes, pourquoi tant de promesses? (Partie 3)

Voici mon troisième article relatif au livre Sciences et technologies émergentes, pourquoi tant de promesses? Après les considérations générales sur le système des promesses, le livre présente les contributions décrivant des domaines spécifiques:

I.3 : les nanotechnologies
II.1 : les semiconducteurs à travers la loi de Moore
II.2 : le Big Data
II.3 : les Digital Humanities
III.1 : les neurosciences et la psychiatrie
III.2 : le Human Brain Project (HBP)
III.3 : la médecine personnalisée
III.4 : la biodiversité et la nanomédecine
IV.1 : la procréation médicalement assistée
IV.2 : la médecine régénératrice

1316845933

Chaque chapitre est intéressant pour le lecteur curieux car chacun montre les dynamiques entre promesses et attentes des acteurs (chercheurs, politiques, grand public). Le chapitre consacré au HBP est en particulier intéressant dans la description de la déconnexion entre contenu et forme. « Comment se fait- que le HBP ait « gagné la compétition » malgré le déficit d’évidences à même de fonder pragmatiquement la pertinence scientifique et la légitimité organisationnelle de ses ambitieux objectifs ? Nous développons ici l’hypothèse que ce déficit, reproché après coup, a été à la fois masqué et pallié par la production de promesses façonnées de manière à anticiper et/ou répondre de manière efficace à des enjeux politiques, économiques, sociaux et sanitaires, inscrits à l’agenda des « défis à relever ». [Page 166] La crédibilité du HBP scellée par cette décision s’est construite […] selon un processus d’adaptations et de validations réciproques dans le double registre de la politisation de la science et de la scientifisation de la politique. En d’autres termes, nous montrerons que l’une des conditions importantes de cette crédibilité a été la co-production réussie d’une congruence stratégique entre les promesses [des scientifiques] et l’agenda des enjeux politiques. [Page 171] L’assemblage entre connaissance du cerveau et forme de vie sociale s’est opéré essentiellement dans l’ordre du discours. […] Dans cette situation contrastée, l’inflation discursive autour du cerveau et des neurosciences semble bien être le corollaire d’un déficit d’évidences, comme si elle venait pallier, positivement ou négativement, les écarts entre l’actuel et le futur, l’avéré et le possible, le manque et le désir. Cette caractéristique ordinaire des projets de big science a pour conséquence l’élaboration et la mise en œuvre d’une rhétorique prophétique qui vise à anticiper la possibilité d’une avenir meilleur en empruntant aux registres de l’espoir et de la promesse. » [Page 176-77]

Je reviens à une citation du chapitre 3 qui me parait essentielle comme conclusion à ce nouveau post: Les véritables progrès des techno-sciences viendront moins de leur capacité à tenir des promesses que de leur capacité à s’en passer, à hériter de manière critique de l’époque des grandes promesses technologiques. Il ne s’agit pas de briser une idole, mais d’apprendre à en hériter. [Page 111]

Sciences et technologies émergentes, pourquoi tant de promesses? (Partie 2)

Voici déjà une suite à mon article d’hier qui décrivait le 1er chapitre de Sciences et technologies émergentes, pourquoi tant de promesses? Dans le chapitre 2 (aussi intéressant que le premier), il est question de rapport au temps, de « présentisme », « futurisme » et de sa place dans le régime des promesses. Il y a le joli passage suivant :

1316845933

Depuis La nouvelle Atlantide, les spéculations futuristes ont accompagné l’essor des sciences modernes. Et au XXe siècle, Jean Perrin a scellé une nouvelle alliance entre la science et l’espérance. Mais pour lui, c’est la science qui précédait et suscitait l’espérance alors que désormais, c’est plutôt l’espérance qui meut la recherche. Les technosciences renversent, en effet, l’ordre des questions qui enchainait la suite des trois critiques de Kant : « Que puis-je connaître ? » question traitée dans La Critique de la raison pure, puis la question « Que puis-je faire ? » traitée dans la Critique de la raison pratique, puis la question « Que puis-je espérer ? » abordée dans la Critique du jugement. Au contraire dans les politiques scientifiques actuelles, on détermine ce qu’on doit faire et ce qu’on peut éventuellement acquérir comme savoir en cernant les espoirs, les promesses. (Page 50)

Il y a pourtant un paradoxe déjà exprimé dans le premier chapitre entre un futurisme avec les termes de promesse, prospective et prophétie qui nous projettent et un présentisme particulièrement marqué par la mémoire qui fige le passé et fait du futur une menace qui n’éclaire plus ni le passé, ni le présent. Au point de parler de présentification du futur…

De plus, il est question du futur comme choc, de « crise » du temps due à l’accélération. A l’impression d’incompréhension et d’impuissance, s’ajoute l’expérience de la frustration, du stress provoqué par l’accélération du rythme de vie, la déception d’une promesse liée à la modernité, où les techniques étaient supposées nous faire gagner du temps, nous émanciper.

Autre confusion : la planification et la feuille de route caractéristiques des projets technologiques s’est glissée dans les projets de recherche où il est question de production de savoir, alors que dans une recherche, il est impossible de garantir un résultat. Mais l’auteur montre par deux exemples, que cette évolution est complexe.

Dans le cas des nanotechnologies, il y a bien eu feuille de route avec deux premières étapes relativement prévisibles de production de composants suivie d’une troisième étape plus spéculative sur des systèmes couronnée par une quatrième étape où il est question d’émergence, tout cela « au mépris de la contingence, de la sérendipité et des bifurcations possibles », non pas pour prédire, mais « linéariser la production des connaissances ». la feuille de route prévoit l’imprévisible en annonçant une émergence, en combinant un scénario rassurant de contrôle avec un scénario d’émergence, ce qui permet d’inspirer confiance et en même temps de faire rêver. (Pages 55-56)

Dans le cas de la biologie de synthèse « malgré des convergences manifestes avec les nanotechnologies », le développement rapide se fait sans feuille de route. « Une commune intention – le design du vivant – rassemble ces trajectoires de recherche. » Et il est plus question de refaire le passé (« 3.6 milliards d’années de code génétique ») que d’imaginer des futurs. Le futur devient abstrait et il est question de preuve de concept. Et d’ajouter que dans une science normale au sens de Kuhn, ces preuves de concepts seraient tombées dans l’oubli. Le paradoxe est qu’il n’est pas question de vrai ou de faux, mais de design, sans nécessaire fonctionnalité.

Dans le premier cas, « prédiction ou prospective sont convoquées comme la base indispensable pour une stratégie fondée sur des choix rationnels », « le futur est tourné vers le présent. » Dans le second cas, il est question de « tracter le présent. » et de « fuite hors du temps. » On fédère et mobilise sans objectif nécessaire. Le futur est virtuel abstrait, vidé de toute culture et humanité ; la vie de l’homme augmenté ressemble au repos éternel…

En définitive, l’économie des promesses reste rivée sur le présent, soit en faisant du futur un point de référence pour guide l’action au présent, soit en cherchant à éterniser le présent.

Les chapitres trois et quatre sont moins théoriques en décrivant d’une part de nouveaux exemples dans le domaine des nanotechnologies et d’autre part comment la Loi de Moore est devenue une loi alors qu’elle n’était qu’une vision prospective des progrès des semi-conducteurs. Peut-être bientôt une suite sur les autres chapitres…

Sciences et technologies émergentes, pourquoi tant de promesses? (Partie 1)

Sciences et technologies émergentes, pourquoi tant de promesses? est le titre d’un ouvrage issu d’un collectif d’auteurs, sous la direction de Marc Audétat, politologue et chercheur à l’Interface Sciences-Société de l’Université de Lausanne. Ce n’est pas un livre de lecture facile, il est assez exigeant, mais il pose des question importantes.

J’ai déjà rendu compte sur ce blog de livres qui parlent d’une certaine crise de la science, par exemple dans La Crise et le Modèle Américain, à propos des livres « La science à bout de souffle » ou « La bulle universitaire. Faut-il poursuivre le rêve américain? » Ou encore dans Rien ne va plus, livre de Lee Smolin, sans oublier la critique plus violente des promesses de la technologie selon Peter Thiel dans La Technologie, notre salut.

1316845933

Ce nouvel ouvrage explore les promesses liées à la science et la technologie au point de parler d’une économie des promesses. Il s’agit d’un ouvrage collectif ce qui n’en rend pas la lecture aisée, mais la diversité des points en est aussi sans doute une richesse. Je n’en ai pas achevé la lecture et j’y reviendrai certainement. Dans le premier chapitre, P.-B. Joly décrit le régime des promesses techno-scientifiques. Il commence par introduire les concepts d’imaginaire et de vision [Page 33], ce « couple de concepts prend en compte la façon dont les sources d’inspiration diverses interviennent dans la création technique. […] L’imaginaire donne une apparence presque tangible à des concepts et idéaux qui en sont a priori dépourvus [… et devient] un sens commun qui fonde l’action en société. […] Le concept de vision est proche de celui d’imaginaire, mais à une échelle plus réduite. Il s’apparente à celui de « mythe rationnel » utilisé pour analyser les dynamiques de l’action collective dans des contextes de changement. […] Des coalitions d’acteurs se forment autour de ces visions d’un ordre prospectif et contribuent à leur dynamique. […] Si l’on admet cette distinction conceptuelle entre imaginaires (à des échelles amples – la Nation – et s’inscrivant dans la longue durée) et visions (caractéristiques de coalitions d’acteurs et actives sur des périodes de moyenne durée), se pose la question de l’interaction entre les deux. »

« A la différence des visions et des imaginaires, pour lesquels le contenu des agencements techniques prime, ce qui est essentiel pour les promesses techno-scientifiques, c’est l’instauration d’une relation, la création d’un horizon d’attente. […] Les promesses sont essentielles dans la création technologique, car elles permettent aux acteurs de l’innovation de légitimer leurs projets, de mobiliser des ressources et de stabiliser leur environnement. […] Toute promesse techno-scientifique doit convaincre un large public qu’elle conditionne un avenir meilleur que les solutions alternatives, même si la réalisation de la promesse requiert des transformations majeures, parfois douloureuses. » (L’auteur mentionne l’histoire de l’électricité ou de la révolution verte comme solution de la faim dans le monde)

« Notre concept de promesses techno-scientifiques s’est systématisé pour devenir, depuis une quarantaine d’années, le mode de gouvernance des nouvelles techno-sciences (les biotechnologies et la génomique, les nanotechnologies, les neuroscience, la biologie synthétique, la géo-ingénierie, etc.) La construction d’une promesse techno-scientifique répond à deux contraintes contradictoires : la contrainte de nouveauté radicale et celle de crédibilité. […] (Et j’interprète que) pour que cette demande soit crédible, il faut disqualifier les solutions alternatives. [De plus] Pour qu’une théorie scientifique soit crédible, sa validité n’est ni nécessaire, ni suffisante. […] Les promesses techno-scientifiques doivent bénéficier du soutien d’un cercle de spécialistes. Sinon, elles ne peuvent pas résister aux oppositions qui se manifestent soit dans les arènes scientifiques, soit dans les arènes publiques. On observe une version extrême lorsque les spécialistes se réfèrent à des lois naturelles pour faire croire au caractère inéluctable de l’évolution technologique. (Exemples : loi de Moore et loi de Gabor.) Ainsi, en principe, les promesses génériques ne sont pas soumises à des tests de validité. »

Enfin cette intensification est renforcée par trois éléments complémentaires [page 39] :
– l’avenir constitue plus une menace qu’une source d’espoir ;
– la recherche et l’innovation sont souvent présentées comme la seule façon de résoudre les problèmes ;
– les acteurs de la recherche doivent démontrer leurs impacts sociétaux.

Ce qui conduit à des pathologies [pages 40-43] :
– le mythe d’un public en proie à des peurs irrationnelles et qu’il convient d’éduquer devient un schéma intangible;
– les promesses se transforment en bulles spéculatives ;
– la radicalité de la nouveauté et des incertitudes crée des discours contradictoires, sources de méfiances car les effets produits d’une telle radicalité ne sont pas prédictibles et en expérimentant, le technologue devient apprenti-sorcier et la société, laboratoire ;
– enfin les promesses conduisent à des discussions interminables sur des fictions, sur des questions qui n’ont parfois rien à voir avec la réalité des recherches.

En conclusion Joly pense que ce régime de promesses est l’un des ennemis du futur en raison de la séparation nette qu’il créée entre ceux qui formulent la promesse et ceux qui sont censés l’accepter. La reconnaissance de ce régime et de ces problèmes est donc un impératif préalable.

A la lecture de ce premier chapitre, j’ai retrouvé les préoccupations sociétales de Cynthia Fleury, dont j’ai déjà dit le plus grand bien dans une digression sur l’article « Le transhumanisme, c’est de la science fiction ». Nos sociétés démocratiques sont en crise, et la méfiance face aux politiques et face aux experts n’a jamais été aussi forte. La problématique de la recherche et de l’innovation sont une des composantes de cette crise. Je suis donc impatient de découvrir la suite de ce très intéressant (et important) ouvrage…