Commentaires : Robophobe, robophile : quelles relations aurons-nous avec nos robots ?

robot
robotique
longformat
Tags: #<Tag:0x00007f3d3025e7d8> #<Tag:0x00007f3d3025e1c0> #<Tag:0x00007f3d3025de00>

#1

Rares sont les œuvres de science-fiction qui n’imaginent pas comment un robot peut être autonome et devenir une vraie personne. La machine surpasse souvent l’humain, qui en tombe amoureux ou s’y oppose… Comme le lave-vaisselle ou les voitures ont transformé nos sociétés, les robots, à une tout autre échelle, modifieront également nos façons de vivre et d’être en communauté. L’un des acteurs principaux de la robotique mondiale, Softbank Robotics, anciennement Aldébaran, l’a bien compris avec son slogan pour son humanoïde…. Publié sur http://www.numerama.com/sciences/273412-robophobe-robophile-quelles-relations-aurons-nous-avec-nos-robots.html par Hélène Molinari


#2

Un garde fou serait l’implémentation obligatoire des 3 lois d’Asimov.
Loin d’être l’alpha et l’oméga de nos futures relations avec nos créations mécaniques, elles ont le mérite de constituer une première ligne de démarcation.
Une des grande difficultés dans le domaine des robots c’est la volonté de l’Homme de se “dupliquer” quels que soient les risques.
Quand la copie sera aussi difficile à reconnaître que ce que nous propose la SF, il y a fort à parier que nous assisterons, au niveau social, à une forme d’hybridation des relations homme/machine avec l’éventail des réactions que nous rencontrons au sein de notre propre espèce.
Se servir d’un individu pour en soumettre ou asservir un autre n’est, dans l’idée, pas différent de se servir de la machine dans le même but mais on peut aussi se servir de l’Homme pour faire grandir l’Homme et là, on peut aussi se servir de la Machine pour faire grandir l’Homme.

Beaucoup de choses vont donc dépendre avant tout de l’intention qui sera la nôtre pour élaborer et diffuser ces machines qu’on nous promet anthropomorphiques et intelligentes.


#3

On retient souvent les 3 lois d'Asimov, mais il a quand même écrit des milliers de fictions pour montrer justement à quel point et comment elles peuvent être contournées.


#4

Les lois sont simples, mais leur implémentation telle-quelle est quasi impossible sans IA très évoluée.
Tu les traduirais comment dans en langage de programmation classique pour un robot actuel ?


#5

Oui, c'est exact, Asimov a passé une bonne partie de son temps à imaginer et écrire comment les lois pouvaient être interprétées puis dévoyées par les machines qu'elles devaient encadrer (mais aussi par les humains) mais elles restent tout de même un garde fou (pas une fin en soi) pouvant servir de base.

Un des questionnement d'Asimov à ce sujet dans son œuvre est l’interprétation des lois en fonction de l'échelle à laquelle elles s'appliquent quand par exemple il s'agit de considérer l'injonction de protéger l'humanité face à celle de protéger l'individu.

Ou encore comment un robot peut en arriver à mentir en réalisant que dire la vérité peut contrevenir à la 1re loi qui est de ne jamais blesser un être humain.

Si les 3 lois ne sont pas à "simplement" implémenter au pied de la lettre, s'inspirer de l’œuvre d'Asimov me semble un impératif.


#6

La réponse se trouve, pour moi, dans la question que tu poses : [quote=“T82135, post:4, topic:47440”]
Tu les traduirais comment dans en langage de programmation classique pour un robot actuel ?
[/quote]

Il ne me semble pas que tu puisses programmer ces lois au sens taper du code (comme on fait actuellement) mais avec des machines qui apprennent à apprendre, n’est-il pas envisageable de concevoir une forme “d’éducation” dont l’acquisition vaudrait force de commande pour la machine ?


#7

Oui c’est possible,mais c’est différent du principe original qui consiste à encoder ces règles en dur (dans les cerveaux positronics).
Comment garantir que ces notions complexes ont été correctement assimilées ? Comment être sûr que la machine n’apprends pas quelque d’autres règles contraires par la suite ?


#8

J’ai lu tellement d’Asimov que je ne me souviens pas du titre, mais je suis sûr que c’est le pitch de départ d’une nouvelle ;).


#9

Comme je le disais dans un autre sujet, les 3 lois d’Asimov, elles datent de 1940, une époque où la société était moins soumise aux normes qu’aujourd’hui et qui était largement moins judiciarisée que la société actuelle. Aujourd’hui, ce ne serait pas 3 lois, mais 200 pages de textes juridiques et normatifs.

Des milliers, c’est peut-être un peu exagéré…

Ce qui est assez marrant, c’est qu’Asimov dissociait complètement les robots et l’informatique. Ce n’est que très tard qu’il a réalisé qu’un robot, ce n’est guère qu’un ordinateur avec des capteurs d’entrée et des sorties mécaniques.

L’un n’empêche pas l’autre. Tu as la voie réseaux neuro-mimétiques qui est actuellement celle qui a le vent en poupe. Mais tu as également la voie systèmes expert et moteurs d’inférence où on tape du “code”.


#10

@Albert

Les lois d'Asimov ne sont pas des lois au sens juridique, mais des lois au sens "physique". Comme la loi de la gravitation universelle, il y a les 3 lois de la robotique, gravées en dur dans tout cerveau positronique...

Source?


#11

Je comprends mais non, pas réellement.

Imagine une matrice qui apprend, tu figes la configuration quand l’apprentissage est réalisé puis tu te sers de cette configuration comme master pour produire en série.
Concernant l’encodage, il y a fort à parier qu’on s’inspire de ce que fait la nature avec, par exemple, l’ADN.
Une façon de coder un individu intégralement, il n’est pas interdit d’imaginer qu’on puisse encoder une IA (positronic ou non) de cette manière là.
Une question complémentaire est de connaître la résistance de ces codages à l’entropie…

Pour la vérification, impossible, à mon avis, de ne pas soumettre chaque robot à une batterie de tests de validation avant distribution.

Et pour les règles complémentaires, si on admet le principe “type ADN”, il est peu probable, comme pour nous, d’induire un changement de programmation à ce niveau la (même en tenant compte de l’épigénétique).


#12

Les lois gravées dans le cerveau positronique, c'est de la littérature.

La préface d'un bouquin sur les robots. Mais ne demande pas lequel.


#13

Je vois, comme on fait aujourd'hui avec les réseaux de neurones ou des classificateurs.
Il faut pour cela trouver le bon équilibre entre ce qui doit être figé pour la sécurité et ce qui peut rester sujet à l'apprentissage pour conserver en flexibilité mais sur le principe ça parait faisable.

Là, je ne te suis plus. Je ne vois pas l'intérêt d'utiliser un encodage du type ADN.
Surtout si on reste sur des machines portes logiques binaires.
Tu penses à quoi ?

C'est déjà le problème avec les logiciels actuels.
Soit il sera possible d'utiliser des méthodes formelles, soit il faudra accepter de ne pas couvrir les systèmes à 100% et s'appuyer sur de la simulation pour valider le maximum possible.


#14

Non, il ne s’agit pas de loi au sens législatif mais au sens naturel du terme.
Il y a une loi naturelle qui fait que tu n’as (sauf accident) que deux bras ce qui correspond à la règle de l’espace à laquelle tu appartiens. Il n’est nulle part écrit, à part dans ton code génétique (qui est différent de ton patrimoine génétique) que tu doives n’avoir que deux bras, pourtant, c’est le cas.

Je ne me souviens pas de ça dans son œuvre mais de ce point de vue ce n’est pas éloigné de tout être vivant, un système complexe avec des capteurs permettant de faire aller et venir l’information avec l’individu et le monde dans lequel il évolue (que l’individu en question ait conscience e lui-même ou pas).

Oui sauf que l’IA (dans sa partie “cognitive”) dépend, comme chez l’animal, du hardware qui lui permet d’exister. Plus le degré de sophistication va augmenter moins l’humain sera en mesure de comprendre le code et, par conséquent, de le modifier.
C’est la singularité.


#15

OK. Bah je sais bien que c’est pas réaliste. Asimov n’était pas un informaticien. Mais tu vois ce que je veux dire.

Le but c’est pas de faire des procès derrière. C’est vraiment juste dans un but “comportemental”, c’est bien plus pragmatique. Je crois que le seul roman que j’ai lu de lui où il y avait le procès d’un robot, c’était pour qu’il obtienne le droit de s’émanciper de ses “maîtres” humains.

Ca se passait sur terre, et c’était le 1er robot à devenir “intelligent” dans la chronologie de l’oeuvre (ce n’est pas Daneel hein). D’ailleurs, avant ça, l’auteur précise que les robots était sérialisés. Une grosse IA contrôlait des corps à distance… Mais moi non plus, je me souviens plus du titre du bouquin ^^’

Je viens de voir qu’il y avait une autobiographie d’ailleurs, faudrait que je m’y mette!


#16

Je pense à l'ADN en tant que système structurant et codant à la fois. C'est, par définition, un support d'information.
L'ADN, de façon simplifiée, code les règles propres à chaque espèce, pourquoi pas l'utiliser pour coder les 3 lois ?
Si l'ADN permet de faire se différencier des cellules pluripotentes en structures différenciés pour former tout ce qui compose un individu, il n'est pas incongru d'imaginer pouvoir encoder des circuits qui entrent en contradiction (et donc bloquent la machines) en cas de non respect d'une des trois règles.

Par ailleurs, il est tout à fait probable que, fondamentalement, nous aussi ne soyons "que" des machines à portes logiques binaires dont la "simplicité de fonctionnement" est masquée par la complexité de notre construction.


#17

Oui mais je vois pas trop l’intérêt de s'emmerder avec un encodage que l'on est loin de maîtriser car très dépendant de facteurs internes et externes que l'on pas encore totalement identifié alors que l'on sait stocker de l’information de façon sûr en binaire. avec tout un tas de mécanisme de contrôle.

C'est sûr que non, mais simulable par des porte logique binaire, pourquoi pas.
En un temps inférieur à la durée de vie de notre univers, pas sûr par contre.


#18

Pour le moment, je suis d’accord avec toi mais ce mode de fonctionnement commence à montrer ses limites face aux ambitions de notre espèce. Pour certains, le but ultime est de créer un ersatz d’être humain (le complexe de Dieu si tu veux) et dans cette perspective, les systèmes que nous avons actuellement ne sont pas assez performants.
Si Microsoft a investi dans de l’ADN de synthèse c’est qu’il doit y avoir des choses à faire avec.
Idem pour les travaux de cartographie cérébrale de Ray Kurtzweil.

Finalement, nous n’inventons pas grand chose, nous cherchons à répliquer de nos propres mains ce qui existe déjà.

Et pour ce qui est de la maîtrise que nous avons du codage, c’est en partie inexact. Regarde ce qui se passe aux USA dans le systèmes judiciaires où des comptes sont demandés aux sociétés qui proposent des IA pour, par exemple, attribuer les libertés conditionnelles.
Certains ont demander à avoir une explication quand au processus ayant présidé à la prise de décision, les concepteurs n’ont pas été en mesure de répondre de façon précise à la question…

Tiens, c’est tout chaud comme article et c’est dans le sens de ce que nous sommes en train d’aborder :


#19

Elles comportent des notions bien compliqués à mettre en place: "bien", "mal", "danger". C'est très abstrait.

C'est un peu comme un caillou et un tas de caillou, les deux semblent bien limités mais la limite entre les deux est flou. le robot te demandera: "à partir de combien de caillou je considère cela comme un tas?" ... alors pour les notions de "dangers".. bon courage :slight_smile:


#20

Il est difficile de parler de loi naturelle pour des objets manufacturés et soumis à homologation en fonction de normes industrielles.

Ce n’est pas dans son oeuvre, mais dans la préface d’une réédition d’un de ses bouquins.

Le but n’est pas de faire des procès, le but sera de se couvrir suffisamment pour empêcher les procès.
C’est ce que je vois actuellement sur pas mal de logiciels : on les fait évoluer pour répondre à encore plus de contraintes normatives, législatives et règlementaires.

La logique floue de Zadeh, ça existe depuis 50 ans. Il y a une quinzaine d’années, les japonais en parlaient beaucoup avec les aspirateurs autonomes : à partir de quel moment une poussière (qui doit être aspirée) cesse d’être une poussière et devient un objet qui doit être préservé.
Je pense que les travaux théoriques ont du continuer depuis ce temps-là.