De la globalité des lois et des codes
Posté par carnegie le 28 avr 2008 dans Cogito, Sélection • 7 commentairesCar en effet, la plupart des gens qui croient que l’intelligence artificielle sera toujours limitée, de par la façon dont on la crée, sont les premiers à s’émerveiller des lois.
Monsieur X distingue de l’homme l’intelligence artificielle, car celle-ci est fondée sur des bases « carrées ». il n y a que la possibilité, prédéterminée, de réagir face à une stimulation ; cette possibilité est inscrite dans le code, le programme. Ainsi, le comportement de l’IA est déterminé par des règles, ce qui en fait une entité non-humaine (en êtes vous certain?). Pourtant, Monsieur X respecte la loi, l’ensemble des textes qui règlent son comportement. Bien sûr, il existe un choix, celui d’enfreindre ou de suivre ces lois. Dans le cas le moins utiles cependant, les règles deviennent vite plus draconiennes jusqu’à restreindre les libertés.
A l’origine, presque la moitié des chercheurs en IA souhaitaient faire reproduire par des machines les comportements humains. L’autre moitié, quant à elle, l’utilisait pour comprendre l’homme. Deux raisonnements partant des deux extrémités dans la direction opposée. A bien y réfléchir, on pourrait se pencher sur le problème des lois et de la justice en se plaçant du point de vue de l’IA. Les réseaux connexionnistes ont démontré que les bases fixes et immuables sont dépassées. Une IA peut désormais apprendre seule, et surprendre son programmeur. Car son programme s’auto reconfigure avec l’expérience que l’IA acquiert. Au bout de quelques temps, le programmeur lui-même ne comprend plus les lignes de codes de l’IA, es règles que celle-ci suit. Le pouvoir du symbole a permis ce formidable bond en avant, analysons-le : Les lignes elle-mêmes, à savoir les suites de 1 et de 0, n’ont plus l’importance qu’elles avaient jadis. Les circuits du « Cerveau artificiel » sont semblables au neurones, selon cette hypothèse : qu’importe que le neurone soit activé ou non, ce qui produit la conscience se situe dans la dynamique globale, dans les nœuds.
De même, la justice et ses lois prennent peut-être leur sens dans leur globalité, en interaction avec les autres.
Tu ne voleras pas. Cette phrase ressemble à s’y méprendre à une ligne de code : une règle carrée déterminant le comportement. Il est pourtant facile de se rendre compte que cette loi est sujette à interprétation diverses selon la situation. En combinaison, en interaction avec une autre, par exemple « tu dois assister une personne en danger », qui est finalement une règle stricte au même titre que la précédente, on voit d’ici le dilemme. S’il est besoin de voler pour porter assistance, n’est-ce pas là que le nœud se produit et qu’il faut faire appel à d’autres instances pour juger de la démarche à suivre. Tout comme en IA, on aura recours à des considérations statistiques. Cette loi prend le pas sur l’autre (A chacun le loisir de choisir). Sur quoi sera fondée cet effort de statistique ?
C’est là un raisonnement à pousser. L’articulation des lois semble former une instance supérieure, une morale ; aussi, une loi aura très peu de valeur en elle-même sinon aucune, c’est son interaction avec les autres qui lui donnera un sens. l’émergence d’une organisation supérieure à partir de lois ou règles simples. Qu’une loi soit plus impérative qu’une autre, elle n’en obéit pas moi à un code global. De la même façon, lorsque les règles deviennent de plus en plus nombreuses et complexe, on voit apparaitre le spectre de l’indécision ou de la nouveauté dans un programme, le “fantôme dans la machine”, l’interaction des règles qui produit un comportement non-attendu de la part de la machine, peut être, le début de sa conscience…
Tags:codage, éthique, Intelligence Artificielle, règles
Abonnez-vous au flux RSS!
S'abonner par mail.
Intéressant ^^
Voudrais-tu dire que des ambiguïté dans les IA apparaissent ?
Alors mêmes que les fondements de le science logique se basaient sur un langage non-ambigu ?
absolument, de la même façon que les lois sont stricte,s cette analogie veut montrer que leurs articulations rendent très complexe l’interprétation de plusieurs lois en même temps, de la même façon que de nombreuses règles (en lignes de code) aboutiraient à des comportements très complexes et imprévisibles, l’image même du comportement chaotique : une loi, c’est un degré de liberté ou de choix. dès lors que plusieurs lois sont présentes, les degrés de libertés se multiplient et les comportements possibles dépassent rapidement ‘entendements. Je pourrais en fournir plusieurs exemples : : appliquons deux règles simples à un robot pouvant se déplacer, et possédant des capteurs lumineux qui lui permettent de recharger des batteries.
donnons lui une règle : lorsque tes batteries sont à 30% pleines, tu dois te mettre en quête de lumière.
dès lors, le comportement est simple. il ne bouge pas, jusqu’à ce que ces batteries s’affaiblissent. à 30%, il cherche de la lumière. dès qu’il en trouve, il recharge ses batteries. il n’a aucune raison de partir de la lumière. donc une fois qu’il a trouvé une source, il y reste
donnons lui deux règles : -lorsque tes batteries sont à 30% pleines, tu dois te mettre en quête de lumière.
- lorsque tes batteries sont à 70% pleines, tu dois éviter la lumière. voyez alors que les comportements sont multipliés : il cherche de la lumière lorsqu’il en a besoin, l’évite lorsqu’il en possède, se repose dans un coin ombré, puis revient chercher de la lumière lorsqu’il n’en a plus, ce comportement peut paraitre normal, pourtant, la différence de complexité entre la première phase ‘une règle’ et la deuxième phase ‘deux règles’ est un abîme : d’un comportement linéaire, on est passé à un comportement périodique, le robot n’a de cesse de bouger et en ce sens, commence à se différencier d’une machine pour prendre un caractère plus humain : une stabilité dans le temps et une continuité dans un comportement.
Symboliquement, l’usage de deux règles en même temps apporte une organisation supérieure à celle de chaque règle prise séparément… le robot a-t-il conscience de cette périodicité? est-ce quelque chose qui lui est propre? assurément, car c’est bien le fait que le robot existe qui créé cette périodicité. mais c’est aussi le propre de ces deux règles. et de l’environnement. sans eux, la périodicité ne s’installerait pas.
Pourtant, qui détient la clé de cette périodicité? qui l’entraine? qui la définit?.
Maintenant que nous savons qu’une organisation/instance supérieure peut émerger, posons nous alors la question de son impact lors de situation ambigüe : que se passera-t-il si l’on ordonne au robot de fuir lorsque ses batteries sont supérieures à 50% et chercher la lumière lorsqu’elles sot inférieures? nous obtenons un état d’équilibre, pour lequel il est déjà difficile de prévoir la manière dont les composants vont réagir : le robots va-t-il effectuer un va et vient entre un point d’équilibre, lumière à gauche, lumière à droite, énergie oscillant entre 49 et 51%? va-t-il griller lorsqu’il est à 50% pile?
et que se passe-t-il lorsqu’on ui impose les deux règles : si supérieur à 40% évite la lumière : si inférieur à 60%, évite là. que se passe-t-il dans les 20% d’intervalle, le robot pète-t-il les plombs? (transistor, hem?), comment réagit-il à des règles contradictoires?
Je n’en dis pas plus pour vous laisser réfléchir à ça
ce sont des problèmes passionnants. je n’ai répondu là que des pistes de réflexion
pour en revenir à la suggestion “Alors mêmes que les fondements de le science logique se basaient sur un langage non-ambigu ?”, à propos… Le fait que des briques soient carrées n’empêche pas de construire des tours d’aspect rond avec. Mais c’est là un point qui ne lasse pas de surprendre, et lié au déterminisme chaotique : le chaos, sous ses apparences de désordre, peut être tout à fait ordonné, il est seulement par top complexe pour que nous y décelions des régularités. de la même manière, le comportement de tout un chacun peut être totalement déterminés, mais nous apparait hasardeux ou originaire d’un éventuel libre-arbitre u fait de sa complexité, qui ne nous permet pas de connaitre toutes les variables qui le détermine et leurs influences.
en d’autre termes, l’essentiel n’est pas tant de savoir si l’on peut sur des bases logiques, induire des ambiguïtés (je rappelle par ailleurs que si les réseaux neuronaux ont une logique, celle-ci porte le doux et évocateur nom de logique floue) que de savoir s’il existe réellement des ambiguïtés, et que ce que nous concevons comme tel n’est finalement pas plus qu’un limite de notre compréhension.
“l’essentiel n’est pas tant de savoir si l’on peut sur des bases logiques, induire des ambiguïtés que de savoir s’il existe réellement des ambiguïtés, et que ce que nous concevons comme tel n’est finalement pas plus qu’un limite de notre compréhension..”
Une question abyssale mais elle semble sous-entendre que le hasard ne serait que la formulation de limites qu’il serait théoriquement possible de dépasser. Or la physique quantique nous apprend que le recours à la notion de hasard (lorque l’on change d’échelle) est essentiel. On ne peut dans ce cas pas dire que calculer des mouvements a petite échelle permettrait de comprendre ce qui se passe a grande échelle. Entre les deux il y a une différence essentielle - au fondement de la théorie quantique. C’est le fantasme propre a l’homme de pouvoir tout contrôler qui embrûme notre pensée et nous fait espérer qu’ un jour on pourra se passer du hasard.
En tout les cas, bravo pour ce site tout a fait passionnant
très intéressante perspective. le concept de hasard quantique prend ses racines en premier lieu de la constatation des limites à l’observation (cf, les incertitudes d’Heisenberg, le schrödinger’s cat…) mais en rien, ce hasard quantique ne semble démontrable. On cite généralement la désintégration d’un atome d’uranium comme phénomène typiquement hasardeux, j’avoue ne jamais avoir saisi les qualités intrinsèques qui en font un phénomène hasardeux quelle qu’en soit notre compréhension. J’explicite par un exemple :
imaginez une ligne traversée par un carré tournant. imaginons, que nous, humains, n’ayons accès qu’à la ligne, qu’elle représente notre réalité, nos dimensions. imaginons maintenant que ce carré soit soumis à des translations (en plus des rotations), de telle sorte qu’aux intersections avec la ligne, ces deux points de contact bougent, en des sens qui, si l’on reste à interpréter le phénomène en s’imaginant prisonnier de l’observation de cette seule ligne, nous paraissent totalement hasardeux. l’ajout d’une dimension supplémentaire nous permet de percevoir le carré, la ligne et conséquemment les intersections dont les mouvements nous paraissaient (du point de vue de la ligne) tout à fait aléatoires. Comment ne pas songer à telle interprétation de la réalité lorsque l’on pense à ce fameux hasard quantique. le fait qu’on ne puisse observer une particule en mouvement, et déterminer à la fois sa position et sa vitesse, ne signifie pas que cette particule ne possède pas à la fois une vitesse et soit dans une position donnée. de la même façon, ce que l’on cite généralement comme typique du hasard quantique - la désintégration de l’atome d’uranium - pourrait obéir à des lois que nous n’atteignons pas encore… on parle de flux quantique du vide lorsque l’on aborde ce phénomène, prétendant que l’univers pourrait être né d’une tel éructation “hasardeuse”. de nombreuses théories y pallient toute fois, comme la théoie des cordes qui permet la juxtaposition de “plaques” universelles dont les chocs produiraient des big bang. Par ailleurs, l’un des nouvelles du romanciers Asimov parlait, pour expliquer les supernova, de planète à gravité nulle et conséquemment, de particule de gravité nulle), une bien belle image pour décrire, de la même façon qu’il existe des particules électro-magnétiquement neutre, des particules dont la deuxième grande force universelle n’affecterait en rien cette particule, qui ne serait donc que difficilement repérable par nos mesure, et, bien que cela soit une image, pourrait être une explication totalement novatrice et plausible de ce que nous appelons le hasard de la désintégration d’un noyau. Peut être nous manque-t-il juste des éléments pour expliquer ce que nous nommons pour le moment hasard quantique. Je rappelle qu’en l’occurrence, cette fichue gravitation est une “force” (une courbure d’espace-temps, ok…) qui pose de sacrés problèmes aux physiciens actuels, justement parce que certains cherchent de toute leur force les composants élémentaires de cette gravitation, lesquels, selon cette même théorie des cordes, pourraient être des composants liant les plaques pré-citées. (et donc, ne resteraient pas forcément dans notre univers, mais navigueraient entre les plaques - ce qui expliquent leur brèves apparitions, lesquelles pourraient justement se traduire par l’émergence d’un phénomène de désintégration que nous osons qualifier de hasardeux, comme si nous pouvions le prouver.
Quant à l’interprétation consistant à passer de la description quantique d’une particule à des considérations statistiques permettant de décrire les phénomènes macro, ce n’est qu’un modèle, une utilisation. On préfère de loin utiliser le modèle statistique parce qu’à l’échelle macro, cela devient plus pratique et presque totalement sûr. En fait, rien ne permet de dire que calculer l’ensemble des mouvements à petite échelle ne permettrait d’avoir cette fois, à l’échelle macro, la description sûr et certaine du phénomène macro. Cela demande juste une puissance de calcul colossale… ce qui constitue notre limite, et induit dès lors le hasard dans ce phénomène macro. Qui dit que le hasard se retrouve au niveau quantique? le vrai hasard?
Il se trouve que bien au contraire, si l’on disposait de la puissance de calcul nécessaire, on pourrait tout à fait déterminer le phénomène macro à la condition de connaitre l’ensemble des phénomène micro qui le composent. Si tant est que l’on veuille discerner un hasard dans les phénomènes macro, alors on doit impérativement retrouver ce hasard à l’échelle microscopique, selon ce raisonnement, non?
Et qui pourrait jurer de l’existence d’un hasard vrai au niveau quantique, indépendant de l’observation?
(cette réponse n’a pas valeur d’opinion personnelle
c’est un sujet passionnant, et parfois, il m’arrive de faire valoir le point de vue inverse du mien pour que puisse continuer la conversation - car il est bien connu que deux personnes d’accord d’emblée n’ont pas vocation à s’entreprêcher une même conversion ^^) Osef, tout ceci est passionnant et m’inspire bougrement 
Cette question du hasard quantique risque de nous amener aux limites de mes connaissances mais je voudrais quand même faire quelques remarques.
Tout d’abord, l’idée de dépasser la dualité onde-corpuscule et l’opposition entre physique quantique et physique einsteinienne sous-tend la théorie des cordes. En effet, nous aurions là une “théorie du tout” qui permettrait peut-être de dépasser la notion de hasard (encore que je ne suis pas sûr que dans la théorie des cordes la notion de hasard disparaît). Mais cette théorie est encore très hypothétique et si j’ai bien compris en vingt ans il n’y a pas eu d’avancé majeur dans ce domaine..
Ensuite, la formule “un ordinateur avec une puissance colossale pourrait supprimer le recours au hasard lors du passage de l’échelle quantique à l’échelle non-quantique” me semble être une vue de l’esprit. En effet, cet ordinateur ne peut pas exister. L’information sur un événement a un poid et avoir une information sur l’ensemble des particules de l’univers reviendrait a construire un ordinateur qui serait l’ordinateur lui-même(je crois que c’est ce qu’expliquent les théories de l’information). Cet ordinateur “super calculateur” semble ne pas pouvoir exister dans le réel.
Si j’ai bien compris, les physiciens ne résonnent plus en termes de vérité mais en terme de modèle - et d’efficacité des modèles - permettant de rendre compte d’une réalité. Or le hasard permet de produire des modèles efficaces donc des modèles “vrais” et donc le hasard est “vrai” (vous excuserez le côté sophiste mais je crois que ça se tient).
Finalement, je pense qu’il faut reprendre cette question du dépassement du hasard dans une perspective plus philosphique. Pourquoi le monde serait entièrement compréhensible par la raison? Pourquoi pourrait on tout comprendre du monde? La seule réponse vraiment cohérente à cette question est celle que donne Descartes. Le monde est rationnellement explicable car il a été créé par Dieu et qu’Il veut que nous puissions le comprendre. Si on enlève Dieu le raisonnement n’a plus de base. Il me semble plus cohérent de dire que notre cerveau cherche à rendre compte des phénomènes de la manière la plus satisfaisante possible mais qu’il y aura toujours un écart entre le phénomène et la théorie qui cherche à en rendre compte (d’où le recours au hasard etc.).
En tout cas moi aussi je trouve ce sujet passionnant
correctif : c’est pas “serait l’ordinateur lui-même” mais “l’univers lui-même” (milieu de l’avant dernier paragraphe).
Dejà que c’est compliqué, si en plus je fais des fautes de frappe, on va pas s’en sortir..