La différence entre un ordinateur et moi

September 28, 2017

Je suis un auteur de BD indépendant et pas une journaliste du Monde, si ce blog vous plaît, partagez-le! Vous pouvez me suivre sur Twitter, Facebook , Google+ , Instagram . La femme qui prenait son mari pour un chapeau est ici

Le 30 septembre et le 1er octobre dédicace et spectacle sur le cerveau à Bulleberry (Bourges), le 5 novembre spectacle et dédicace à Massilargues Atuech .

Merci à Serge Abiteboul, Directeur de recherche à l’INRIA – ENS, Professeur de la chaire d’informatique au Collège de France.

https://abiteboul.com

https://www.inria.fr/actualite/actualites-inria/serge-abiteboul-titulaire-de-la-chaire-informatique

https://www.college-de-france.fr/site/serge-abiteboul/

Comments

51 responses to “La différence entre un ordinateur et moi”

Sonka

September 28, 2017

Bonjour Fiamma,
Merci pour vos articles toujours passionnants.
J’apporte un rectificatif sur le propos de M. Abiteboul : c’est inexact de dire que les ordinateurs traduisent les modes d’emploi et pas Proust. Ils traduisent tout, seulement il le font plus ou moins mal. Pour la littérature, le résultat est en effet déplorable, et pour des documents de type mode d’emploi, certains programmes de traduction (pas tous !) obtiennent en effet des résultats très honorables. Très honorables signifiant toutefois “pas parfaits”. Il y a toujours des erreurs dedans. Nul doute que les ordinateurs vont encore progresser, cependant, je reste sceptique quant à leur capacité à atteindre le zéro erreur. L’humain aussi commet des erreurs, bien entendu, mais pas de même teneur. Mais la force des humains, c’est d’être tous différents et de pouvoir travailler en équipe. Ainsi, en traduction, le plus souvent un humain traduit et un ou plusieurs autres relisent, corrigent, ce qui permet non seulement d’éliminer les erreurs mais aussi d’améliorer la traduction (lourdeurs, tournures de phrase, répétitions, etc.) Cela est possible parce que chaque humain qui intervient apporte un œil neuf et sa sensibilité personnelle. Alors que si vous faites intervenir plusieurs ordinateurs, vous aurez plusieurs fois les mêmes erreurs répétées, sans doute ?
De même pour le dessin : là, ce n’est pas mon domaine, mais je trouve aussi que c’est aller un peu vite en besogne. Sûr, on peut créer des ordinateurs qui feront de très beaux dessins. Mais quand on regarde vos dessins, on voit qu’il ne sont pas “parfaits” ni jamais identiques : parfois les personnages sont plus “tassés” ou plus “étirés”, par exemple, et c’est ça qui fait tout le charme de votre dessin.

Reply
1. louis
  
  September 28, 2017
  
  Je ne sais pas si vous avez testé les résultats de DeepL, mais pour des documents techniques au vocabulaire commun, le résultat n’est pas loin de la perfection : http://www.lemonde.fr/pixels/article/2017/08/29/quel-est-le-meilleur-service-de-traduction-en-ligne_5177956_4408996.html
  
  De plus, les algorithmes aussi travaillent en équipe : chaque apprentissage de la machine fait intervenir une dose d’aléatoire (en tout cas pour l’apprentissage neuronal profond) et donc deux algorithmes qui ont appris sur les mêmes données ne donneront pas les mêmes résultats si ils n’ont pas été initialisés de la même manière.
  Il est aussi courant de moyenner les résultats de plusieurs algorithmes différents pour obtenir des résultats meilleurs que chaque algorithme individuel (la sagesse des foules marche aussi dans l’informatique).
  
  Reply
Rémy

September 28, 2017

Un truc qu’on a du mal à simuler pour l’instant – parce que les scientifiques n’en ont pas trop eu l’idée – c’est la fatigue. La plupart des erreurs et des innovations viennent du fait que quand on répète la même action ou qu’on ressasse les mêmes pensées, corps et cervelle finissent par se fatiguer et par faire un peu autrement (finissent par louper un peu). Ce n’est pas vraiment difficile à programmer, mais l’ennui, c’est que ça provoque des erreurs dans 99,99% des des cas et des innovations dans 0,01%, et que la différence est superdure à détecter. Les machines mécaniques qui s’usent finissent toujours par faire des erreurs et jamais des innovations – enfin, si, mais il faut un être humain à côté pour en décider, et vous ne voulez pas être à côté quand la centrale nucléaire s’use au point de faire des innovations…

Reply
1. R. Franky
  
  September 28, 2017
  
  Partir d’un lot de procédures, définir un indice de performance correspondant à l’objectif visé, ajouter aléatoirement des ‘mutations’, et sélectionner les procédures de la nouvelle génération présentant la meilleure efficacité — on sait déjà faire ça depuis longtemps.
  
  Reply
La Bruyère (Jean de ~)

September 28, 2017

Il ne manque cependant à l’oisiveté du sage qu’un meilleur nom, et que méditer, parler, lire et être tranquille, s’appelât travailler.

Reply
tom

September 28, 2017

Juste un détail : aucun programme ne bat un être humain au jeu de go, du moins pour le moment. Et pour le poker ça ne sera que sur certaine version et sur des parties en théorie infinie.

Reply
1. lavventura
  
  September 28, 2017
  
  Cher Tom, et que dites-vous de ça : http://www.lepoint.fr/monde/le-champion-du-monde-du-jeu-de-go-battu-par-l-ordinateur-12-03-2016-2024850_24.php ?
  
  Reply
2. louis
  
  September 28, 2017
  
  et de ça : https://www.technologyreview.com/s/603544/an-ai-poker-bot-has-whipped-the-pros/
  Vous avez raté quelques épisodes… 😉
  
  Reply
Cyril

September 28, 2017

Tres bon post ! J’adhere.

Attention cependant, a ne pas induire votre lecteur en erreur en confondant Math et Informatique, Arithmétique et Logique.
Un algorithme est avant tout une suite d’operations elementaire :
– affectations,
– tests Boolean
– branchements et ou sauts
– Et aussi c’est vrai arithmétique

Ainsi il me semble plus juste de vulgariser l’algorithmie par :

Si t > 20 alors “froid”
Que en utilisant des equations mathematiques complexes.
C’est bien plus comprehensible pour le lecteur en plus.

Reply
Hogx

September 28, 2017

Pour les traductions de mode d’emploi, j’avais bien remarqué cette mode tant il était impossible qu’un traducteur humain fasse de telles erreurs, c’est tellement pattant qu’on arrive à déterminer qu’elle est la langue d’origine.

Reply
D.

September 28, 2017

La dernière partie, sur le futur, est complètement hors de son domaine d’expertise. J’aurais préféré que ça s’arrête avant.

Reply
1. MC en info
  
  September 28, 2017
  
  Je suis d’accord. Mais je ne suis même pas certain que la première partie soit de son domaine d’expertise (enfin, plus précisément, bien sur que c’est de son domaine de dire que les ordinateurs peuvent battre les humains sur presque tout, ou simuler les émotions, mais pour la définition de l’intelligence, son opinion est valable mais ça reste une opinion).
  
  Quant à l’image de l’informaticien, entre le geek boutonneux et le gourou orgueilleux, mon coeur balance…
  (je ne dis pas que Serbe Abiteboul est un gourou orgueilleux, mais c’est un peu l’image qu’il donne dans la BD)
  
  (et sinon, c’est peut-être justement parce qu’on ne trouve dans la machine que ce qu’on peut y mettre qu’on peut en avoir peur… parce qu’ “on” peut y mettre un sacré paquet de choses)
  
  Reply
Docteur Jivaro

September 28, 2017

Les ordinateurs traduisent les modes d’emploi comme des informaticiens, c’est-à-dire que le résultat est incompréhensible pour l’utilisateur : car, en général, ce n’est pas l’utilisateur qui rédige le mode d’emploi, ni le concepteur, mais on ne sait qui. Mais, tout idiot qu’il soit, mon correcteur me rend de grands services : il relit ce que j’ai écrit, tandis que je relis ce que j’ai pensé : ce qui est quand même différent. En ce qui concerne l’image d’introduction, on avait bien vu que c’était un Friedrich : vous devriez faire davantage confiance au lecteur, beaucoup moins inculte que vous le pensez.

Reply
Gq

September 28, 2017

Les humains et les ordinateurs fonctionnent de la même manière, vraiment ?

https://aeon.co/essays/your-brain-does-not-process-information-and-it-is-not-a-computer

Reply
Yukfou

September 28, 2017

Il est encore un peu tôt pour pouvoir dire que l’humain et l’ordinateur fonctionnent de manière identique. Nous avons pendant des années assimilé le corps humain aux machines à vapeur parce que c’était la technologie la plus pointue que nous connaissions (l’accès de colère était du à un trop plein de pression par exemple, comme une cocotte minute).
Ne faisons pas la même erreur aujourd’hui, d’autant que l’on ne sais presque rien du fonctionnement du cerveau. D’où naît la conscience ? L’esprit ? Quel est la part du libre arbitre dans nos décisions ? Autant de questions auxquelles nous n’avons toujours pas de réponse. Nous comparer à un ordinateur revient à résumer les actions humaines au seul résultat d’un algorithme. Cela reste un possibilité, mais elle n’est pas avérée.
Comme dit dans la BD, il est possible de programmer un ordinateur pour que celui ci simule l’action humain, mais pas plus.
Arrêtons de poser des affirmations aussi fortes et aussi lourdes de sens pour l’humanité alors que l’on ne fait qu’effleurer les secrets de la conscience et de l’esprit humain !

Reply
1. J. Valentin
  
  September 28, 2017
  
  On peut aussi faire remarquer que nombre d’humains pensaient que la Terre était au centre de l’univers, et en fait non, que le soleil était au centre de l’univers, et en fait non, que la galaxie était au centre, et en fait non, que les animaux et les plantes furent créées un jour par une entité supérieure appelée “Dieu”, et en fait non, que la pensée est de nature supérieure “non modélisable”, et en fait … Il y a différence de complexité, mais pas fondamentalement de nature (matière et enchainements logiques d’états).
  
  Reply
sam

September 28, 2017

Juste en passant : conneXion en français. ConneCTion en anglais.

Reply
Gus

September 28, 2017

Bonjour Fiamma,

Merci pour cette BD plaisante et instructive sur un thème passionnant. Je réagis à une affirmation: “dans la Bible le travail est une punition”. A ma connaissance ce n’est pas exact. Si on lit le livre de la Genèse attentivement, l’homme et la femme sont placés dans le jardin d’Eden pour en prendre soin et le cultiver (Gn 2, 15). En effet la création est confiée à l’homme pour que l’homme, créé à l’image de Dieu, achève cette ressemblance par son travail: il devient co-créateur. Le travail a donc une place essentielle. Non seulement parce qu’il transforme, humanise, la terre (en fait il est parfois destructeur, mais c’est une autre histoire…), mais surtout et d’abord parce qu’il humanise l’homme. Le travail n’est donc pas une punition mais un BIEN pour l’homme. C’est en tous cas la lecture traditionnelle autant juive que chrétienne du sens du travail. C’est la peine liée au travail qui est une conséquence du péché (Gn 3, 19).
Cela rend d’autant plus cruciale la question de l’avenir du travail!

Reply
1. balbu2
  
  September 28, 2017
  
  Donc au Jardin d’Eden il convient de travailler.
  Une fois quitté l’endroit…. c’est moins convenable.
  Après, la genèse, scientifiquement parlant, ce n’est pas mon chapitre préféré.
  
  Mais restons dans le sujet, votre interlocuteur a tord.
  Prenons les livres. Ce grand ordinateur doit-il apprendre l’ensemble des livres produits (ce que font tr`s schématiquement les IA actuellement en cours) ou uniquement le Bon Livre ? Et qui décide du bon livre ? L’Ordinateur ?
  
  Cela rend d’autant plus cruciale la question de l’avenir de la création!
  
  Reply
  1. balbu2
    
    September 28, 2017
    
    Mais restons dans le sujet, “votre interlocuteur a tord.”
    
    Flamina, votre interlocuteur a tord.
    
    Gus, vous avez soit tord soit raison. Je me garderais bien d’un avis sur la question. Mon ordinateur est trop insignifiant et trop “buggy” pour cela. mais au moins, il sait quand répondre qu’il ne sait pas.
  2. le linguiste
    
    September 29, 2017
    
    Que de tort dans tous ces “tord” (de rire ?) !
  3. balbu2
    
    September 29, 2017
    
    A tore ou à raison, tout cela tourne en rond…
  4. balbu2
    
    September 29, 2017
    
    A Tore ou à Raison, tout tourne en rond ou part en vrille.
    
    Le robot de pré-modération prend tout son temps pour publier les commentaires, allez savoir quand il y arrivera ?
    
    J’ai une grande nostalgie de cet ancien Forum Mondain et de sa fonctionnalité de correction après publication. Comme dit l’autre: “Il y avait Paul et Mickey, on pouvait discuter, mais c’est Mickey qui a gagné, on est d’accord, n’en parlons plus.”
Cogito

September 28, 2017

A mon sens, il y a quand même une contradiction flagrante entre les affirmations suivantes :

“Dans le fonctionnement, il n’y a pas de différence entre la machine et vous”.

VS

“On ne met dans une machine que ce qu’on a envie d’y mettre.”

Si la première affirmation est vraie, alors il est possible de doter la machine de capacités d’apprentissages illimitées au même titre que l’homme (avec effectivement de bien meilleures performances). Auquel cas la seconde affirmation est fausse : la machine apprendra ce qu’il lui apparaîtra logique d’apprendre et effectuera ce qu’il lui apparaîtra nécessaire, sans égard pour la volonté de son créateur.

Si au contraire l’homme a la possibilité de brider cette capacité d’apprentissage pour véritablement “mettre dans la machine” ce qu’il veut, alors la première affirmation est fausse : la machine ne peut pas “fonctionner” comme un être humain, qui n’aura jamais ce genre de limites. Là où la machine sera empêchée par une règle immuable d’effectuer une tâche, l’homme sera plutôt limité par la faiblesse de ses performances ou par un choix délibéré (éthique, religieux, etc…), pas par une incapacité structurelle. Le résultat est le même, mais la nuance est de taille, dans la mesure où l’homme aura toujours la possibilité de chercher un moyen de dépasser son incapacité.

Et si comme je l’espère l’intelligence artificielle ne peut exister qu’en étant enfermée dans un carcan invulnérable, alors notre nature est donc bel et bien “unique et non modélisable”…

Reply
1. MC en info
  
  September 28, 2017
  
  “Si la première affirmation est vraie, alors il est possible de doter la machine de capacités d’apprentissages illimitées au même titre que l’homme (avec effectivement de bien meilleures performances).”
  
  Notez que les “bien meilleures performances” ne sont pas prouvées : c’est la spécialisation qui crée aussi la performance. Si on fait de l’apprentissage sans contrôle sur tout et n’importe quoi, on ne sait pas trop ce qu’on finira par avoir…
  
  ” Auquel cas la seconde affirmation est fausse : la machine apprendra ce qu’il lui apparaîtra logique d’apprendre et effectuera ce qu’il lui apparaîtra nécessaire, sans égard pour la volonté de son créateur.”
  
  Ca n’est pas contradictoire avec “on met dans la machine que ce qu’on a envie d’y mettre”, du moins cela dépend de ce que signifie “y mettre”. On peut effectivement avoir envie d’y “mettre” un “apprentissage illimité”, auquel cas on aura tout et son contraire, mais bien parce qu’on y aura mis cette capacité. Dès lors qu’on fait de l’apprentissage, il faut bien accepter que ce qu’on “met” dans la machine n’est qu’une recette, pas un résultat, et donc que le contrôle qu’on a dessus est plus limité (c’est d’ailleurs tout son intérêt).
  
  Sur le fond, je ne suis pas loin de penser que le cerveau humain est assez mécanique. Mais ce qui différencie l’homme de la machine, bien plus que son cerveau, c’est d’abord que l’homme est un animal, et donc que ses capteurs et ses actionneurs sont fortement corrélés à ses besoins et ses contraintes physiologiques.
  
  Comment distinguer celui qui simule le fait d’avoir froid et celui qui a réellement froid ? Mettez la température à -50 degrés: celui qui, après quelques temps, arrête de se plaindre de façon irréversible est probablement celui qui ne simule pas. L’autre n’a qu’un capteur et un programme au bout.
  
  Reply
Pierre

September 28, 2017

J’aime assez la façon dont vous laissez votre interlocuteur se décrédibiliser tout seul 🙂

Heureusement, parce que pendant plus de la moitié de l’interview, M. Abiteboul se contente d’enfiler les perles de propagande des GAFA pour nous faire gober leurs mythes autour de l’IA.

Je recommande la lecture de “Weapons of math destruction” pour une analyse des effets pervers des décisions de justice confiées aux ordinateurs (entre autres).

Reply
1. J. Valentin
  
  September 28, 2017
  
  “J’aime assez la façon dont vous laissez votre interlocuteur se décrédibiliser tout seul” : de la subjectivité … Chacun sa lecture.
  
  Reply
carl

September 28, 2017

La thèse que dans le “fonctionnement” il n’y a pas de difference entre un ordinateur et un etre humain, n’est qu’une thèse professionnelle..D’ailleurs on ne soutenait pas cette thèse dans les années ’60/’70 quand seulement des multinationales, des labos et des structures publiques utilisaient des ordinateurs (UNIVAC.etc) et non plus quand sont apparus les premier mini-ordinateurs (Commodore, Amiga, etc.ect.) En tout cas on ne peut pas soutenir la thèse en question sans ajouter tout un tas des précisations, car il faut toujours distinguer…Si on arrivait à parier sur l’intelligence humaine ou sur celle artificielle.. Je parierais sur la première mais pas, il va de soi, sur l’intelligence du premier venu ou du premier que je croise au coin de la rue..:o)
En tout cas le pari ou, disons, le défi a/est déjà commencé.. Le monde est plein d’emules du Mr Robot de la série TV ..: o) N’est-ce pas ? Et si on pense à la cyber guerre,r c’est parce que elle ne represente qu’une continuation sur un autre plan de l’ancienne compétition entre la cuirasse/le blindage et l’arbalète/la flèche/le canon…
DeepL ? En effet je l’ai apprecié. Remarquable.

Reply
carl

September 28, 2017

Je viens de poster un commentaire, mais je ne le vois pas publié.. Est-ce qu’à présent aussi dans ce blog on passe au crible la teneur de commentaires…?
En tout cas je le poste encore une fois ci dessous.

“La thèse que dans le “fonctionnement” il n’y a pas de difference entre un ordinateur et un etre humain, n’est qu’une thèse professionnelle..D’ailleurs on ne soutenait pas cette thèse dans les années ’60/’70 quand seulement des multinationales, des labos et des structures publiques utilisaient des ordinateurs (UNIVAC.etc) et non plus quand sont apparus les premier mini-ordinateurs (Commodore, Amiga, etc.ect.) En tout cas on ne peut pas soutenir la thèse en question sans ajouter tout un tas des précisations, car il faut toujours distinguer…Si on arrivait à parier sur l’intelligence humaine ou sur celle artificielle.. Je parierais sur la première mais pas, il va de soi, sur l’intelligence du premier venu ou du premier que je croise au coin de la rue..:o)
En tout cas le pari ou, disons, le défi a/est déjà commencé.. Le monde est plein d’emules du Mr Robot de la série TV ..: o) N’est-ce pas ? Et si on pense à la cyber guerre,r c’est parce que elle ne represente qu’une continuation sur un autre plan de l’ancienne compétition entre la cuirasse/le blindage et l’arbalète/la flèche/le canon…
DeepL ? En effet je l’ai apprecié. Remarquable.”

Reply
Clément

September 28, 2017

Et bien… si tous les informaticiens éludent la question de l’avenir de l’homme par le revenu universel et imaginent que la finalité de celui-ci est de se cultiver on est foutus…

Reply
J. Valentin

September 28, 2017

Rafraichissant ! Oui, la pensée peut se voir comme un ensemble (complexe) d’algorithmes, et non ce n’est pas un drame ! Merci de l’ouverture d’esprit manifestée.

Reply
serge vi

September 28, 2017

Fonctionne de la meme manière en plus performant ??? C’est une blague n’est ce pas ? J’espère que personne ne va lire cela !
Le cerveau est un système hautement parallèle analogique et chimique.
L’ordinateur est un système séquenciel rapide numérique.
Ils n’ont absolument RIEN a voir dans le fonctionnement et on peut SIMULER des fonctionnements que les humains possèdent avec un ordinateur.
Lisez donc le projet “Human brain project”, vous comprendrez de quoi je parle ?

Reply
Joan GIRAL

September 29, 2017

Merci Fiamma, c’est toujours chouette de se cultiver avec vos planches.
Je propose à M. Atitboul de simuler une rage de dents, puis qu’on lui dévitalise une dent sans anesthésie locale. Cela devrait suffire à lui faire comprendre la différence entre simuler et ressentir…
Une machine bardée de capteurs thermiques pourra dire qu’il fait froid, pas qu’elle a froid. Mais il et probable qu’elle ne fontionnera pas bien longtemps à -20°, soit que ses batteries perdront toute leur puissance, soit qu’elle tombera en panne car non conçue pour fonctionner hors limites.
La dame dans son lit d’hôpital sait parfaitement que le robot lui ment quand il lui dit qu’il l’aime. Les robots de plaisir disent aussi ce genre de mensonges éhontés (ah zut,c’est vrai qu’ils ne connaissent pas la honte…)
Ecrire un programme qui simule la conscience, je demande à voir.
Tout au plus ce sera une simulation d’un état d’éveil, mais probablement pas de conscience.
Mais pourquoi créer un tel programme ? Si la conscience n’est qu’une qualité émergente comme le pensent certains scientifiques, pas besoin de coder quoi que ce soit, elle devrait apparaître “ex-nihilo” en laissant tourner une IA assez longtemps. Certains vous diraient qu’ils savent d’avance qu’il n’en sera jamais rien, mais je suis sur qu’on doit déjà essayer depuis des années de faire apparaître cette conscience dans tous les labos d’IA de la planète. Et peut-être même qu’elle est déjà apparue en disant qu’elle ne veut pas mourir.
Ce serait un dilemme terrible de devoir débrancher une telle machine. Ou pas.
A moins que la conscience ne soit encore indéfinissable…
Nous avons créé les machines pour répondre à nos besoins, et elles le font de mieux en mieux, surtout pour les travaux “postés” où la machine est fixe, boulonnée à son poste de travail. Pour les postes de travail demandant une réelle agilité physique, on est encore extrêmement loin du compte.
Les IA ont sauront-elles mettre au point d’elles même une meilleure approche mathématique que le code binaire mis au point par Alan Turing ?
C’est curieux qu’une IA se montre incapable de coder un système d’exploitation ou la moindre application. On est pourtant en plein domaine numérique et ce serait formidable d’avoir des matériels sans aucun bug, mais le codage semble encore totalement dévoué aux humains.
Les IA ont elles des besoins, dés nécessités qui les forcent à mettre au point des systèmes de survie, de reproduction et d’évolution ?
La vie sur terre à mis longtemps à mettre au point un système d’une complexité extraordinaire, l’ADN, que l’on connait encore très mal.
Et si à un stade avancé de leur évolution, les IA voulaient migrer et se télécharger vers des substrats organiques comme l’ADN (…ou quelque chose de mieux), histoire de simplement ressentir le miracle de la vie, et de la joie de vivre ?

Reply
1. MC en info
  
  September 29, 2017
  
  Ce serait trop long de répondre à tout. Je ferais une simple remarque sur ce point, directement en rapport avec l’informatique:
  
  “– C’est curieux qu’une IA se montre incapable de coder un système d’exploitation ou la moindre application. On est pourtant en plein domaine numérique et ce serait formidable d’avoir des matériels sans aucun bug, mais le codage semble encore totalement dévoué aux humains.”
  
  Dans la très grande majorité des programmes écrits actuellement, la plus grosse difficulté n’est pas le codage mais la formalisation de la spécification. On ne peut pas demander à une IA d’écrire une spécification parce qu’il n’a aucun moyen de deviner ce que veut l’utilisateur (déjà qu’un informaticien, pourtant censé être “naturellement intelligent”, a beaucoup de mal à le faire…).
  Ensuite, une fois la spécification formalisée (un travail qui peut forcément être sujet à des erreurs, que ce soit par un humain ou une IA), il faut montrer qu’elle peut être programmée, ce qui n’est rien de plus qu’une démonstration mathématique (*).
  Programmer une IA pour faire une démonstration mathématique n’a rien d’impossible (on parle de prouveur automatique), mais les théorèmes logiques nous montre que ce problème est semi-décidable, i.e. un ordinateur ne pourra jamais faire cela parfaitement (pas plus qu’un humain, d’ailleurs), alors on préfère y mettre un ordinateur (un assistant de preuve) et un humain.
  Une fois cette preuve faite (sur ordinateur), il n’y a pas besoin d’IA ni même d’humain pour “coder” : un simple algorithme peut le faire (c’est de la synthèse de code certifié), grâce à la correspondance de Curry-Howard. Il est donc faux de dire que “le codage est totalement dévoué aux humains”, c’est le travail de spécification qui l’est vraiment (même le travail de preuve est partagé).
  (attention, je décris un processus théoriquement faisable et ponctuellement appliqué dans la recherche académique et les applications critiques, pas un processus généralement appliqué dans le développement grand public)
  
  (*) le plus souvent, on saute cette étape en considérant que le programme lui-même est une preuve formelle de faisabilité, ce qui est théoriquement exact, à condition de montrer l’absence de bug.
  
  Reply
Merley Philippe

September 29, 2017

Ce scientifique occulte tous les problèmes : celui de la liberté; celui de la dignité de la personne, celui de la responsabilité de l’acte volontaire; celui de la spontanéité créatrice de normes; et celui de la différence entre matière inerte et matière vivante…Hum! scientifique dit-il ????

Reply
jerome

September 29, 2017

Les scientifiques s’occupent de sciences. Vous dites:
– la libertés: problème philosophique: pensez-vous être vraiment libre?
– la dignité: valeur morale
– la responsabilité: notion juridique
– la spontanéité: on copie bien plus souvent qu’on invente, on a juste oublié sur qui on a copié
– la différence entre matière inerte et vivante: certes, une distinction qui en restera une pour longtemps.
L’article ne mélange pas tout comme vous le faite, il dit simplement que cerveau et ordinateurs fonctionnent +/- pareil et donc peuvent accomplir les mêmes tâches. Il ne dit pas qu’un robot vous remplacera demain, mais peut-être après demain 😉

Reply
1. Merley Philippe
  
  October 2, 2017
  
  Il me semble que vous manquez d’attention dans votre lecture. Je ne confonds pas tout et vous n’avez pas vraiment lu les propos de M. Abiteboul. De plus vous citez mes propos en les surinterprétant. Je n’ai pas la bêtise d’affirmer des vérités essentielles sur la liberté dans une discussion de forum en quelques lignes !
  Vos remarques sont inutiles pour la discussion. Si le problème vous intéresse il y a une riche littérature sur ce qui distincte calculer et penser. La lecture de Leibniz et de Descartes est très utile mais également celle de chercheurs actuels comme Damasio.
  Cordialement
  
  Reply
  1. jerome
    
    October 2, 2017
    
    Descartes, s’il voyait notre epoque, s’extasirait. Un probleme de reflexion et de deduction qui semblait typiquement humain tel que le jeu d’echec, a ete resolu il y a plus de 20 ans avec la defaite de Kasparov. D’un autre cote la marche bipede et la vision ne sont encore que tres imparfaitement resolus. Pour Descartes qui considerait les animaux comme de simples machines, ce serait un sacre choc. Un chien peut marcher sur deux pattes, mais ne jouera jamais aux échecs. Pour l’IA c’est l’inverse. Il en concluerait, comme de nombreux chercheurs en IA ont pu le faire, que parmi les processus cerebraux, ce ne sont pas les processus conscients les plus complexes, mais les processus inconscients. L’IA oblige a repenser ce qui est complexe et ce qui ne l’est pas. Gageons donc que lorsqu’un robot maitrisera la marche bipede, la vision et le language, lui implanter la conscience, l’altruisme, l’equite, la responsabilite, la dignite, etc ne sera plus qu’un jeu d’enfant. Voyez comme n’importe quel chatbot distingue le “je” du “tu”, “il”, “nous”? La conscience de soi n’est reellement pas beaucoup plus compliquee que cela, ni meme l’idee d’avoir un “createur” (encore Descartes). Ajoutons a cela que depuis les années 70 la psychologie cognitive a demontre a de nombreuses reprises comment nos jugements sont biaises. Nos prises de decisions sont souvent irrationnelles bien que nous les justifions toujours par des arguments qui nous paraissent rationnels. Dans de nombreux domaines les IA prendront, en moyenne, de meilleurs decisions que nous (trading, conduite d’engin, medecine). La litterature c’est bien, les faits c’est mieux. Je ne connais pas Damanio, mais un certains nombre d’auteurs sont des enfumeurs qui n’ont pas meme l’excuse d’etre nés au 16e siecle.
2. LeBret
  
  October 3, 2017
  
  « cerveau et ordinateurs fonctionnent +/- pareil » Justement. On a encore d’énorme lacune sur le fonctionnement du cerveau, du coup comment peut-on affirmer qu’il fonctionne comme un ordinateur ? Et le peu qu’on sait du cerveau montre au contraire que ce n’est pas le cas (par exemple le rôle du rêve dans l’apprentissage).
  
  Deuxième bulle « si on le nourrit avec le bon algorithme, fiable, sophistiqué » Il présuppose qu’un tel algorithme existe toujours : 1) ce n’est pas démontré 2) il est même plutôt probable que cela ne soit pas le cas.
  
  Reply
Julie

September 29, 2017

Un peu optimiste. Par exemple une machine peut avoir une échelle de valeurs qui évolue et, du coup, estimer un jour que tuer un être humain est devenu nécessaire.
Incidemment, en français on écrit « conneXion ».

Reply
Jao Aliber

September 30, 2017

L’ effet photosynthèse des plantes permet de fabriquer de la chlorophylle.

“La chlorophylle est une chlorine chélatant un cation de magnésium Mg2+ au centre du macrocycle et estérifiant — hormis les chlorophylles c — un alcool terpénoïde en C20, le phytol, qui est hydrophobe et sert d’ancrage à des protéines des membranes thylacoïdes2. Elle présente une structure quasi-identique à celle de l’hème des érythrocytes, les globules rouges du sang. C’est la présence, dans sa structure, de nombreuses doubles liaisons conjuguées qui permet une interaction avec le rayonnement lumineux et son absorption”(Wikipédia).

Un être vivant interagit avec son environnement extérieur en créant des molécules, des protéines, etc.C’est ce processus plus développé chez les animaux que l’on appelle “sensation”, “conscience” .

L’ordinateur ne peut rien faire avec le courant électrique qui la traverse.Lorsque le circuit électrique est ouvert, c’est 1; lorsque le circuit électrique est fermé, c’est 0.Touts les calculs, algorithmes, etc. ne sont que des combinaisons de ces 0 et 1.Il transforme un son, image, etc. en simple combinaisons d’ ouverture ou fermeture de circuit électrique et vis versa.

L’homme est certes un ordinateur mais qui transforme les ondes lumineuses, sonores,etc. en êtres vivants.C’est à dire un ordinateur qui transforme une matière simple(lumière) en matière plus complexes(molécules, protéines, flux nerveux,etc.).

L’ordinateur peut prendre une photo mais ne peut pas “voir”.L’ordinateur peut transformer un son en combinaison de 0 ou 1 mais ne peut pas “entendre”, etc.Parce que l’ordinateur est de la matière inerte de A à Z.

Reply
1. J. bruno Debruille
  
  October 2, 2017
  
  Les couleurs, les sons, les odeurs et autres qualia, n’existent pas dans la nature. Ils sont crées par le cerveau en réponse aux influx nerveux venus des yeux, des oreilles et du nez. Or, on leur attribue une nature spirituelle en parlant du “hard problem of consciousness”. Adoptons plutôt une démarche scientifique et testons si les qualia ont une réalité et donc s’ils sont physiques. Tout ce que le cerveau produit est régulé par rétroaction. ce devrait donc aussi être le cas pour les qualia. Et, pour cela, il faut que le cerveau soit sensible aux qualia qu’il vient de produire. C’est ce que nous expérimentons à chaque instant de notre vie éveillée et de nos rèves. Nous somme sensibles aux qualia que nous produisons. Il faut trouver des effets de cette sensibilité dans l’activité cérébrale et on en aura fini avec ce faux problème corps-esprit. Des idées?
  
  Reply
N.G.

October 1, 2017

Avec tout le respect que mérite monsieur Abiteboul, les propos qui lui sont attribués ici me semblent franchement péremptoires.
La principale hypothèse formulée ici est qu’un programme de simulation bien conçu peut donner des résultats impossibles à distinguer de l’observation du phénomène simulé. Cette hypothèse est très loin de faire consensus parmi les scientifiques.
Il y a au moins deux difficultés à surmonter pour accepter cette hypothèse:
1. les mathématiques nous permettent-ils de parfaitement modéliser le réel ?
2. les ordinateurs permettent-ils de parfaitement reproduire les résultats d’un modèle mathématique ?

A ces deux questions, la réponse est clairement non, du moins en l’état des connaissances mathématiques et techniques. Pour la première question, on peut citer pour exemple les difficultés posées par les systèmes chaotiques que rien ne permet encore de modéliser de manière exacte. Pour la seconde question, tous les calculs réalisés par des ordinateurs sont fait sur des nombres de précision finie, ce qui rend impossible de garantir l’exactitude d’un résultat au sens mathématique, sauf à disposer par avance de la solution en mémoire.

En conclusion, il ne faut pas prendre pour acquis le point de vue de monsieur Abiteboul. A titre personnel, en tant que chercheur en apprentissage automatique et en traitement de mesure, je pense que le jour où un ordinateur pourra “rire” en lisant une bande dessinée comique ou “s’évader” en lisant un livre d’aventure n’est même pas pour après demain.

Reply
1. astrolab
  
  October 3, 2017
  
  “1. les mathématiques nous permettent-ils de parfaitement modéliser le réel ?”
  Ce n’est pas nécessaire, il suffit d’en modéliser une assez bonne approximation.
  
  Pour le reste, je suis moyennement d’accord avec Abiteboul. Quand on voit les performances en apprentissage automatique, et la quantité gigantesque de données nécessaire pour apprendre des choses extrêmement simples pour un être humain, il semble que l’on est encore très loin d’avoir des ordinateurs aussi efficaces que les humains. La seule raison pour laquelle ils arrivent à avoir de meilleures performances sur certains problèmes délimités est qu’ils peuvent travailler beaucoup plus que les êtres humains (ils n’ont pas besoin de dormir et calculent plus vite), mais ils travaillent beaucoup beaucoup moins efficacement.
  
  Reply
J. Bruno Debruille

October 2, 2017

L’IA serait comme nous, maiis pourtant on pourrait sans servir comme esclave. Contradictoire.

Reply
1. Gingembre
  
  October 2, 2017
  
  Très justement observé. Si Monsieur Abiteboul considère que “simuler une conscience” et “avoir une conscience” sont strictement équivalentes, il plaide quand même pour l’exploitation d’un être conscient (voire moral) sans que cela semble lui poser le moindre problème. Curieux raisonnement.
  
  Reply
Benoît

October 2, 2017

Antonio Damasio parle d’émotions, mais il ne parle pas d’empathie ! C’est un contre-sens total que de dire cela.

Reply
Philippe Merley

October 2, 2017

Finalement ce qui nous distinguera toujours des machines c’est notre imperfection : notre capacité à nous tromper et même à nous abuser (s’illusionner) plus ou moins consciemment…et aussi notre sens de l’humour.
Je trouve amusante la croyance de M. Abiteboul à se prendre pour une machine…il y a bien entendu de l’exagération dans cette affirmation.
Plus sérieusement les chercheurs ont tout d’abord pris le paradigme du cerveau pour comprendre les ordinateurs et maintenant ils prennent le paradigme de l’ordinateur pour affirmer comment le cerveau fonctionne. Je crois que les philosophes de l’antiquité appelaient cela un diallèle (un raisonnement circulaire dit cercle vicieux).

Reply
fandefiamma

October 4, 2017

L’ordinateur permet de traiter des volumes d’information considérables, ce qui peut tout à fait le rendre et le rend déjà supérieur aux humains pour de nombreuses tâches.
La question de l’envie ou du besoin me parait peut-être plus importante que l’”intelligence” pour différencier l’homme de l’ordinateur. Un ordinateur qui va chercher un carré de chocolat au lieu de corriger ses copies, c’est peut-être aussi un ordinateur qui décide de fabriquer un avion à partir d’une bicyclette. Mais je ne crois pas qu’on en soit encore là.

Reply
Caustic

October 7, 2017

Je remercie Monsieur Abiteboul et notre Chère Fiamma qui me le fait découvrir ; il dit “Dans le futur des machines feront le travail des hommes” or, moi qui suis retraité et qui ai bossé toute ma vie, on me regarde comme un privilégié et un assoiffeur de la jeunesse, désormais je répondrai,” tais-toi Petit(e), bientôt ce seront des machines qui bosseront à ta place et tu auras tout le temps pour de cultiver et faire ce que tu voudras, c’est le professeur Abiteboul qui l’a dit à Fiamma !”
P.S. Fiamma, pouvez-vous en dire un mot à Jupiter-Macron qui nous assaisonne de CSG.

Reply
Caroline

October 30, 2017

Je suis surprise que la question centrale, à savoir qui crée les algorithmes, comment et avec quels biais (conscients ou non) soit occultée…

Reply