Commentaires : Comment rendre l'IA éthique ? Vous avez deux semaines de plus pour donner votre avis

Intelligence artificielle
commission-européenn
union-européenne
Tags: #<Tag:0x00007f920c1debb0> #<Tag:0x00007f920c1dea70> #<Tag:0x00007f920c1de930>

#21

Ne sois pas stupide : si tu reproduis toutes les données et tout le code au bit près (c’était strictement là mon propos), bien-sûr que si c’est déterministe. Il n’y a aucune raison pour que l’agrégat de bits résultant de ce long entraînement, qu’on appelle réseau de neurones, ne soit alors pas reproductible, aussi sûr qu’un SHA1 (tout destructeur de l’information initiale que ça puisse être) ou un GZIP. En ce cas, une seule chose flinguera le déterminisme : une source d’entropie (et un bit non reproduit est par définition générateur d’entropie). Sans ça, c’est déterministe. Point final. T’auras bien du mal à prouver le contraire. Et qui dit déterministe ne dit pas facile à expliquer ou à prévoir, mais facile à reproduire.

Je veux bien débattre avec toi, mais ne t’improvises pas plus malin que les autres dans un domaine que tu ne maîtrises pas mieux et qui n’a rien de mystérieux pour un ingénieur éclairé. Je n’ai JAMAIS prétendu que c’était déterministe si tu n’as pas toute l’information initiale, et c’est ce que tu tentes de me faire dire. Marche pas.


#22

Bah si c’est totalement déterministe. C’est juste humainement inconcevable.

Ne pas confondre “ça me dépasse” avec “c’est de la magie, de la vie, de l"intelligence”…

Tout ce que fait ton IA, tu peux le “dérouler” entièrement de façon totalement déterministe avec tes petites mains et cerveau… mais de part la quantité de travail, tu n’auras surement pas assez d’une vie pour le faire, faudrait s’y mettre à plusieurs pendant x années, sans erreur de calculs, pour … arriver exactement à la même chose.

Quand on croit qu’on a compris ça, ça montre surtout qu’on n’y connait absolument rien.


#23

Il s’agit là de bien faire la différence entre l’outil et l’artisan. Dans un avenir relativement proche l’outil obtient un savoir exponentiel, l’artisan ne peut plus augmenter ses compétences au delà des capacités humaines. il faut donc veiller à ce que l’outil reste l’outil de l’artisan et pas l’inverse. Un outil doit dispose obligatoirement d’un interrupteur m/a,il faut concevoir des interrupteurs physiques incorruptibles, temporisables, où, seul un humain peut confirmer la continuité du processus en cours.


#24

Effectivement, je doute que certains humains soient conscients, un certain Williams avait déjà posée la question : To be or not to be …Bon, je ne joue plus aux échecs avec mon ordi, il faut savoir reconnaître ses limites. Quand on connait son adversaire, on agit en conséquence.


#25

personne ne dit le contraire ! mais les IA modernes ne font pas ça, elles sont non supervisées et avalent des data ‘en live’… tu ne peux pas reproduire les datas.

c’est même pour ça qu’on parle tant du problème des IA.

et bien on est parfaitement d’accord… les IA ne son pas deterministes quand on n’a pas toutes les data… et c’est le cas général en vrai actuellement… ce sont des data “live” non stockées.

la webcam est l’exemple le plus simple.

wouha…

tu m’expliques comment tu récupères des data analysées mais enregistrées nulle part stp ?

voir ci-dessus ma question très simple.


#26

Si elles sont analysées, elles ont été enregistrées obligatoirement à un moment.
T’es du genre à penser qu’un film regarder en streaming n’est pas téélchargé ?

Tu sembles confondre enregistrement et stockage…

Une donnée non enregistrée ne peut pas être analysée ni traitée


#27

ben essaye de le revoir sans connexion… :smiley:

c’est exactement le problème dont on parle :

une IA regarde une webcam, dans son buffer image il y a admettons 30 images… le reste est perdu à jamais.

et donc cette IA n’es pas deterministe…

qu’est-ce que tu ne comprends pas là-dedans ?


#28

Bien sur que si: les 30 images qu’elle analyse, donne un résultat parfaitement déterministe. tu fais analyser ces mêmes 30 images x fois, par la même IA, d’autres avec le meêm algo, ou encore des humains qui doivent faire la même chose… tu auras le même résultat en sortie.

Même données en entrée, même traitement fait, même résultats en sortie Tout ce qu’il y a de parfaitement déterministe. (même si le résultat en lui même n’est pas “facile” à concevoir / admettre avant la fin, de part la quantité ou/et la complexité des traitements / données à traiter)

Y’a obligatoirement une connexion, si pas de connexion, pas d’accès aux données, donc elles sont inconnues / impossible de les traiter.


#29

sur 30s oui, mais comment tu fais un reset de l’IA ? si c’est un bête algo, on fait un reset et on repart étape 0, ok ? sauf que l’étape 0 elle a eu lieu il y a 3 mois avec des data qui n’existent plus…

ah putain je comprends pourquoi tu piges rien… !!

tu crois qu’une IA a accès en permanence à ses data d’apprentissage ! mais pas du tout !

tu vas comprendre avec un exemple :

une IA contenant un reseau de neurone de 1 Go de ram est reliée à une webcam qui filme la rue.

chaque image lui fait apprendre de nouvelles choses et corrige légèrement son Go de ram… mais chaque image est perdue, remplacée par la suivante.

on laisse l’IA filmer la rue pendant 1 mois… ça fait 1 To de data avalées et jetées…

l’iA fait toujours 1 Go et elle fonctionne… on ne peut pas faire un reset de l’algo, les data de prog sont perdues à jamais.

dans une voiture autonome, c’est pareil : la voiture est livrée avec un apprentissage de base et à chaque fois que tu roules, elle apprend et s’améliore en filmant la route mais tu te doutes bien que les images de la route qui défile pendant 50 000 km ne sont pas gardées.

et que chaque voiture ayant roulé aura une expérience différente, non reproductible.


#30

Ce qui n’a rien à voir avec le coté déterministe ou pas…

Le “probleme” de ta phrase est “en permanence”.
Nul besoin que ça soit le cas pour traiter une donnée… Et forcement, si tu veux refaire la même chose, mais sans les mêmes données en entrée,… bah t’as pas le même résultat… rien de magique, c’est bien du déterminisme classique.


#31

dans ce cas même une addition est une intelligence avec du libre arbitre : si tu lui donne pas la même paire de chiffres en entrée, elle retournera pas le même résultat ! :smiley:

S’il y avait de la créativité (signe d’une intelligence comparable à la notre) dans les IA on aurais pas toujours le même résultat à partir des données identiques en entrée.

Des expériences ont déjà été menées avec des humains dès la naissance, si on les élèves de la même façon au détail près (même environnement, même jouets, même heure de prise des repas, même éducation, même interactions avec même personnes, …) les individualités vont se développer et diverger, y compris avec des jumeaux monozygotes.

deux IA retournerons toujours le même résultat à partir de même données.
Les exemple que tu donne ce sont des résultats déterministes à partir de données du “chaos”, donc ils sont justes mais ils marchent aussi pour une simple addition.


#32

c’est pareil avec les humains… demande à un humain s’il est pour les gilet jaune ou s’il aime la pizza, à 2mn d’interval, il va retourner la même résultat.

ça peut changer si tu laisses passer 15 jours… idem l’IA si pendant 15 j elle est connectée au infos
par exemple.

ces expériences sont fausses… personne ne peut faire exactement le même environnement pendant des années, il faudrait les mettre en cage, c’est interdit… heureusement :slight_smile:

et on sait très bien que l’effet papillion est très présent… un tout petit truc fait diverger.
Par exemple, prenons 2 jumeaux strictement élevé pareil, l’un va se faire tomber un truc sur le pied un jour et se casser la cheville… pas l’autre.

rapport au risque et à la douleur vont diverger…


#33

bon, on avance… tu comprends donc pourquoi aucun humain n’est pareil… et pourquoi on dit que ce ne sont pas des machines.


#34

Sauf que ça n’a rien à voir avec un logiciel, totalement déterministe… :(des humains, tu leurs donnes les mêmes données en entrées, ils te sortent des résultats différents)


#35

Et L’IA du bras de peinture automobile va pas se mettre à à faire du Picasso par lubie.
Il est programmé pour s’adapter si la pièce à peindre n’arrive pas dans le bon sens et si ce n’est pas la bonne. Pas pour avoir des poussées créatives.

Ou encore L’IA de pilote automatique de la voiture va pas avoir envie de faire des donuts et des accélérations fulgurantes pour s’amuser
ou un matin bouder et refuser de partir parce qu’elle est pas à 100% de charge et que ça l’emmerde.

La forme d’apprentissage bien que immensément plus rapide est la même que celle d’une pousse d’arbre dans une boite, qui se pliera et fera des détours jusqu’à trouver l’ouverture pour aller s’exposer à la lumière.

Sa fonction est programmée, et elle a des capacités d’adaptation/apprentissage afin de la remplir à l’aide des outils programmés.

C’est le fruit d’une poignée de connexions neurales incomparable avec la constellation qui compose le cerveau humain ou d’autres espèces animales.


#36

prends des cours de programmation. Regarde comment fonctionne un pathfinder. C’est la forme d’IA la plus simple à comprendre.

Ensuite prends des cours de psychologie pour comprendre qu’un humain n’agis pas que en réaction d’évènements, les différences entre l’acquis et l’inné, l’imagination, la créativité. Ce qu’est une idée. Comment un humain peut sortir des choses de son esprit qui n’ont jamais été vues avant.

Accessoirement prends aussi des cours d’électronique basiques pour comprendre pourquoi les IA sont d’office extrêmement limitées sur les systèmes binaires.


#37

qu’est-ce que tu en sais ??? ça n’a jamais pu être testé. jamais on n’a fait 2 humains ayant les mêmes entrées depuis la naissance.

voilà un beau postulat arbitraire sans base scientifique !


#38

Celle là est magnifique, je la garde en souvenir :smiley:


#39

MDR… une IA c’est neuronal, aucun rapport avec un algo ou plus largement un système expert.
On ne sait pas ce que représente un octet dans un réseau de neurone, c’est ni une instruction ni une data, c’est les deux en même temps… c’est ça le truc génial du neuronal, un octet poids synaptique a la dualité code et data.

c’est juste des mots vides de sens… imagination / creativité.

Un simple postulat de départ non scientifique, d’ordre religieux… le concept d’âme etc

je me suis arrêté à bac + 7 en electronique, désolé pour mes lacunes.

déja ça n’a rien à voir avec l’electronique, une IA est totalement implementable dans un PC de bureau ordinaire modèle de Turing… et pourtant elle est neuronale.

un neurone c’est analogique, et on sait depuis longtemps simuler les phénomènes analogiques et heureusement… puisque les ordi servent à calculer la meteo ou les portances d’ailes d’avion, qui sont des phénomènes analogiques.

ensuite la partie raisonnement est connectable sans problème à un CPU arithmetique ordinaire à 1 Gigaflop qui lui n’est pas limité du tout en systèmes binaires.

c’est bien ça l’interet des IA, raisonner comme un humain sur des données approximatives et imprévues et être capable de calculer 1 milliard de cosinus en 1s si besoin.


#40

tu peux l’encadrer en doré avec ruban de LED RGB si tu veux.

Mais affirmer tel Moïse sur son rocher, que 2 humains sortent des résultats différents avec les mêmes entrées, faut pas manquer de culot… Amen + un signe de croix

PERSONNE n’a jamais vu/créé 2 humains soumis aux même stimulis depuis leur naissance.

Personne ne sait ce qu’est une conscience… tu te dis que tu as une conscience, “tu le sais”, ok… c’est quoi la différence avec juste une voix intérieure ? si la conscience c’est une voix intérieure qui dit “je sais que j’ai une conscience”… euh… c’est pas compliqué à faire en neuronal hein…

tu me dis “j’ai une conscience !”… d’un point de vue scientifique, tu es juste un objet qui dit “j’ai une conscience”. Prouve-le…