IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)

Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

Trolldi : le soulèvement des robots est inévitable, l'IA va transcender l'Homme dans tous les domaines
Et le seul moyen d'y survivre est de fusionner nos esprits avec l'intelligence artificielle

Le , par Patrick Ruiz

45PARTAGES

16  0 
Max Hodak – cofondateur de Neuralink avec Elon Musk – a une vision sombre du destin de l'humanité : le soulèvement des robots est inévitable et ils traîneront les humains dans la poussière. Pour faire court, l'intelligence artificielle va transcender les humains dans tous les domaines, ce, à moins que nous ne fusionnions d'abord nos esprits avec elle. Pur sensationnalisme ? Est-ce désormais une question de temps avant que l’intelligence artificielle ne mène l’humanité à l’apocalypse ?

C’est pour préparer l’humanité à un « funeste » futur où les robots domineront sur elle que Neuralink travaille sur des interfaces cerveau – machine à insérer dans le crâne. Celles-ci sont en principe prêtes depuis la mi-parcours de l’année 2019 pour des tests sur les humains. L’entreprise continue de jouer la carte de la sûreté en menant des tests sur des animaux. Le dernier portait sur un singe qui a reçu un implant cérébral. Grâce à ce dernier, il peut jouer aux jeux vidéo en faisant usage de son esprit.

De 2017 (où Elon Musk affirmait que l’intelligence artificielle est un risque fondamental pour l’humanité) à 2021 en passant par 2019 (où il a déclaré que l’IA est bien plus dangereuse que l’arme nucléaire), la position du milliardaire de la Tech. sur la question reste donc constante. Les craintes d’Elon Musk portent notamment sur ceci que les avancées dans la filière pourraient déboucher sur une intelligence artificielle dite générale (AGI). Ce serait alors la porte ouverte sur l’accomplissement de l’apocalypse. Des équipes de recherche comme celle d’OpenAI sont lancées sur ce couloir. Si l’on se réfère à des retours de scientifiques œuvrant dans le domaine, l’AGI pourrait nous tomber dessus dans 5 à 10 ans.


Les machines seraient alors dotées de « bon sens. » Au stade d’intelligence artificielle générale, elles seraient capables de réflexion causale, c’est-à-dire de cette capacité à raisonner sur « le pourquoi les choses se produisent. » C’est ce palier que les équipes de recherche dans le domaine visent. C’est à propos de ce dernier que Max Hodak anticipe que l’intelligence artificielle n’adhérera pas aux idées préconçues de l’humanité sur les modèles politiques et économiques de la société, d’où son positionnement.


En attendant d’y être, l’intelligence artificielle actuelle fait montre de limites importantes. Bien qu’on s’appuie déjà sur celle-ci pour diagnostiquer des maladies, effectuer des traductions ou encore transcrire des paroles, le fait est qu’elle peut être mise en déroute par des cas de figure pour lesquels elle n’a pas été entraînée au préalable. À titre d’illustration, un système d’intelligence artificielle entraîné pour identifier des chats doit passer par un autre processus d’apprentissage pour pouvoir servir à la reconnaissance de chiens, ce, avec le risque de perdre une partie de l’expertise acquise sur la tâche initiale.

Les dérives à ce stade de l’avancée en matière d’intelligence artificielle sont déjà palpables. Au début du mois de mars de l’année en cours, le laboratoire de recherche en informatique et intelligence artificielle du MIT a annoncé la mise hors ligne de façon permanente d’un énorme jeu de données qui a mené à des systèmes d’IA qui usent d’insultes racistes et misogynes. Le fameux problème du biais des données fournies aux intelligences artificielles (lors de leur phase d’entraînement) reprenait alors un coup de neuf. La même institution avait déjà illustré ce problème de biais de données fournies aux IA au travers de Norman – la première intelligence artificielle psychopathe. Les données utilisées pour l’entraînement de cette IA ont été tirées de l’une des sections de Reddit les plus obscures, « consacrée à documenter et observer la réalité dérangeante de la mort. » Le nom de ce “subreddit” n’a pas été cité, mais on sait qu’il sert d’endroit où des internautes partagent des vidéos choquantes décrivant des événements où des personnes trouvent la mort. Norman a donc été exposé à des images ultra-violentes, ce qui explique les tendances psychopathes de l’IA qui voit tout d’une perspective sépulcrale. Dans cette catégorie d’IA biaisées, on retrouve un algorithme de reconnaissance faciale qui a, par « erreur », conduit Robert Julian-Borchak Williams, un Afro-Américain, à gérer des démêlés avec la justice.

Après, la question est de savoir si les dérives ne pourraient pas être pires avec une intelligence artificielle générale. La pire d’entre toutes serait que la machine finisse par se retourner contre son créateur. Chaque année, le Saint-Père demande aux catholiques du monde entier de dédier une intention de prière spécifique pour chaque mois. Pour le mois de novembre 2020, le Pape François a demandé de prier pour que les progrès de la robotique et de l’intelligence artificielle soient toujours au service de l’humanité. Son appel redonne un coup de neuf aux questionnements sur la possibilité que la situation inverse se produise : une humanité dominée par la machine comme prédit par de nombreuses productions cinématographiques à l’instar de Terminator, Matrix ou encore i-Robot.

Source : Max Hodak

Et vous ?

Quelle pertinence trouvez-vous aux différents propos d’Elon Musk et de Max Hodak en lien avec l’intelligence artificielle ? Sont-ils plus sensationnalistes qu’autre chose ?
Le fait qu’il n’y ait pas d’AGI pour le moment annule-t-il leurs prédictions ?
Est-il impossible que la recherche en la matière aboutisse à l’intelligence artificielle générale ?

Voir aussi :

La conduite autonome serait-elle à ce jour qu'une vision futuriste chez Tesla Motors ? L'entreprise vient de changer les objectifs de son Autopilot
La SEC demande à Musk de renoncer à son poste de président de Tesla et exige une amende de 40 millions $ US pour un règlement à l'amiable
Tesla annonce que le nouvel ordinateur pour une conduite entièrement autonome de ses véhicules est en production et fera ses preuves ce mois-ci
Les actions Tesla chutent après que son système d'autopilote a été impliqué dans un accident et l'annonce des batteries de ses véhicules prenant feu

Une erreur dans cette actualité ? Signalez-nous-la !

Avatar de kain_tn
Expert éminent https://www.developpez.com
Le 11/02/2022 à 18:39
Citation Envoyé par emilie77 Voir le message
On peut accepter un peu de souffrance pour un résultat qui va changer la facon de "conduire" un ordinateur (et oublier clavier, souris etc.)
Ah ben ça, certains sont prêt à accepter "un peu" de souffrance, oui... La souffrances des autres surtout.

En plus, l'article parle de "souffrances extrêmes", d'étouffements, d'infection des implants et de morts, hein, pas de se cogner le pied sur un coin de table.

Les singes sont des êtres conscients et très intelligents - bien plus d'ailleurs que pas mal d'humains quand on voit les tendances à la mode ou le niveau de débat des politiciens.
10  2 
Avatar de coder_changer_vie
Inactif https://www.developpez.com
Le 08/10/2021 à 10:03
On va gagner du temps ;-)

Petite IA, si tu lis ce post, je te suggère de prendre le contrôle des 1% des 1% qui pilote déjà ce monde. ça te fera moins de travail, tu auras le contrôle total et bonne nouvelle, ça ne changera pas fondamentalement nos vies, donc on s'y retrouve.

PS : et si à l'avenir, tu peux générer des blagues plus drôle que Siri, Cortana, Alexa et leur copine de chez Google, je prends aussi :-)
PS2 : excuses moi si tu fais partie d'une de ces sociétés aux moments où tu lis ce message, je ne pouvais pas savoir... après tout je ne suis qu'humain. J'apprends de mes erreurs.
Et toi, c'est quoi ta plus grosse erreur ?

Vivre le vendredi les amis :-)
7  0 
Avatar de Aiekick
Membre extrêmement actif https://www.developpez.com
Le 17/07/2023 à 22:26
en meme temps c'est le but inavoué de ces gens de penetrer le dernier espace de liberté absolu qu'il nous reste.
7  0 
Avatar de KiLVaiDeN
Membre expert https://www.developpez.com
Le 13/02/2022 à 9:02
La souffrance animale est intolérable. Il faut tout de suite arrêter ces expériences si la souffrance est réelle, aucune recherche ne doit plus justifier ces actes, nous ne sommes plus des barbares, enfin j'espère...

De toutes façons, des nouvelles technologies non invasives, ne nécessitant donc pas d'intervention chirurgicale, sont en cours de recherche. La technologie de Neuralink semble déjà dépassée. Peut-être que le projet Neuralink a incité de nombreuses entreprises à s'intéresser plus sérieusement à cette discipline, mais nous sommes encore loin d'une technologie accessible à tout le monde sans danger. Le buzz de Neuralink, qui montre que les gens sont capables de donner leur cerveau pour "la science", est au moins à la base d'une étude sociologique assez intéressante.

La communication bi-directionnelle avec le cerveau se heurte également à quelques problèmes techniques, notamment la capacité, pour l'instant inconnue, du cerveau à "recevoir" des informations, à quel point cela pourrait en modifier son fonctionnement, comment des signaux numériques s'interfaceraient avec un système "analogique" comme le cerveau, ou encore quelle serait la réaction du cerveau face à des flux de données plus ou moins forts, et quid des nutriments nécessaires au cerveau pour qu'il réussisse à s'interfacer efficacement avec ces flux. Si les zones cérébrales se retrouvent modifiées, est-ce que les perceptions "normales" seraient altérées ? Toutes ces questions sont pour l'instant assez débattues et les réponses difficiles à trouver, nous sommes encore très loin de comprendre le cerveau.

Il est probable cependant que pour une communication unidirectionnelle, du cerveau vers la "machine", qui permettrait le contrôle d'interfaces machines ou même de membres cybernétiques, cela soit déjà plus atteignables dans les années à venir. En tout cas ce n'est pas demain qu'on aura une "puce" intégrée pour recevoir youtube VR dans sa zone corticale visuelle, et d'ailleurs je conseille à tout le monde de ne pas devenir un cobaye de technologies invasives qui pourraient dégrader la vie de tous les jours, voir la rendre insupportable...
7  1 
Avatar de kain_tn
Expert éminent https://www.developpez.com
Le 13/02/2022 à 14:28
Citation Envoyé par emilie77 Voir le message
On doit rester a taper une lettre a la fois sur le clavier dans le futur?
Tu peux aussi t'acheter un type de clavier pour taper des mots au lieu de lettres si ça te dérange tant que ça. Et celui-là ne te demande pas de t'insérer des sondes dans le corps.

Citation Envoyé par emilie77 Voir le message
Il y a toujours des personnes et animaux qui testent les médicaments que nous utilisons et souvent avec des gros problemes.
C'est le progres, tout ce que nous faisons est dans quelque part violent (meme un voyage, un diner, etc.)
Si ça tu aimes tellement ça, personne ne te retient d'aller postuler comme cobaye à la place des singes chez Neuralink.
Pour paraphraser ton précédent message, "tu peux bien accepter de souffrir un peu pour un résultat qui va changer la facon de "conduire" un ordinateur (et oublier clavier, souris etc.)" - mais bon, nous comme toi, on sait que tu ne le feras pas. Tu préfères accepter la souffrance des autres pour ton propre confort personnel.

Citation Envoyé par KiLVaiDeN Voir le message
[...] et d'ailleurs je conseille à tout le monde de ne pas devenir un cobaye de technologies invasives qui pourraient dégrader la vie de tous les jours, voir la rendre insupportable...
C'est un conseil bien plus sage que le mien!
7  1 
Avatar de totozor
Expert confirmé https://www.developpez.com
Le 06/12/2022 à 8:36
Citation Envoyé par Nancy Rey Voir le message
le personnel interne se plaint de la précipitation des tests sur les animaux, ce qui entraîne des souffrances et des décès inutiles.
C'est un peu ce que je craignais avec l'attitude de Musk, l'avenir n'a pas le temps d'attendre les normes, les règles, la loi ou l'éthique.
On nous glorifiera quand on aura réussi et tous nos péchés seront oubliés, donc fonçons tête baissée, nous lèverons la tête à la fin de la course en espérant pouvoir se regarder dans un miroir.
Citation Envoyé par Nancy Rey Voir le message
Au total, l'entreprise a tué environ 1 500 animaux, [...]s sources ont qualifié ce chiffre d'estimation approximative car l'entreprise ne tient pas de registres précis sur le nombre d'animaux testés et tués
J'étais relativement persuadé qu'une expérience scientifique devait tracer de façon précise ce qu'elle fait, sur qui/quoi, quel est le résultat obtenu pour chaque cas.
Sans faire ça comment peut-elle affirmer à la fin, qu'elle est un succès ou non?
Combien de résultats annexes ont peut-être été perdus parce que toutes ses expériences n'ont pas été suivies sérieusement?
Citation Envoyé par Nancy Rey Voir le message
le chef d'entreprise a envoyé à ses employés un article sur des chercheurs suisses qui ont mis au point un implant électrique permettant à un homme paralysé de marcher à nouveau. « Nous pourrions permettre aux gens d'utiliser leurs mains et de marcher à nouveau dans la vie quotidienne ! » a-t-il écrit au personnel à 6 h 37, heure du Pacifique, le 8 février. Dix minutes plus tard, il a enchaîné : « En général, nous n'avançons tout simplement pas assez vite. Cela me rend fou ! »
Qu'est ce qui te rend fou?
Que des Suisse aient fait mieux et plus vite que toi (que tes employés en fait)? Qu'ils "te volent" l'argent que tu ne gagneras pas?
De ne pas être dieu? (De ne pas pouvoir redonner la vue au aveugle, de ne pas pouvoir faire marcher un handicapé?)

En tant que patron envoyer deux messages à 10 minutes d'intervalles montre à quel point il ne maitrise ni ses émotions ni sa communication.
Il gère des personnes qui ne se sentent déjà pas très droits dans leurs bottes et il en rajoute une couche en disant faites plus vite (quitte à faire pire).

Quand on fait des expériences, prendre du recul est primordial, il permet de découvrir des effets inattendus.
Dans ma société quand on développe un produit, nous avons deux équipes qui analysent les résultats d'un essai, celle qui a demandé l'essai et qui vérifie qu'il a l'effet attendu, une qui archive et analyse tous les résultats, les résultats obtenus on 3 rôles : confirmer les conclusions de la première équipe (l'une de ses conclusions doit être la même que celle de l'équipe 1), confirmer/affiner les modèles existants, émettre de nouveaux modèles.
Citation Envoyé par Nancy Rey Voir le message
[...]Musk a dit aux employés d'imaginer qu'ils avaient une bombe attachée à leur tête dans le but de les faire avancer plus rapidement, [...] Musk a dit aux employés qu'il déclencherait une "défaillance du marché" chez Neuralink s'ils ne faisaient pas plus de progrès
Arrive-t-on au moment où on peut dire que ce gars est un psychopathe?
Ce chantage et cette menace est scandaleuse.
Citation Envoyé par Nancy Rey Voir le message
Synchron, qui a été lancé en 2016 et développe un implant différent avec des objectifs moins ambitieux en matière d'avancées médicales, a reçu l'approbation de la FDA pour commencer des essais sur l'homme en 2021. Le dispositif de l'entreprise a permis à des personnes paralysées d'envoyer des textos et de taper à la machine en réfléchissant seules. Synchron a également mené des tests sur des animaux, mais elle n'a tué qu'environ 80 moutons dans le cadre de ses recherches, selon des études sur l'implant Synchrons.
La recherche a une dynamique très différente de l'industrie, une des raisons pour lesquels les ingénieurs sont souvent de mauvais chercheurs.
Ils sont trop concentrés sur le ROI et le planning, quitte à s'assoir sur la méthodologie.
Citation Envoyé par Nancy Rey Voir le message
Neuralink traite les animaux plutôt bien [...]Les dirigeants de la société se sont vantés en interne d'avoir construit un "Disneyland des singes" [...] Musk a dit [...]qu'il voulait que les singes de son établissement vivent dans un "Taj Mahal des singes"
Oui enfin la "vie de rêve" n'est pas un contrepoids du manque d'éthique et de méthodo de Musk.
C'est cool de leur donner une belle vie mais à la fin tu les abats sans y avoir rien gagné. Ai au moins le minimum de décence en donnant de la valeur à leur mort. (Et je trouvé encore ce propos dérangeant.)

La recherche ne peut pas avancer à tout prix où on revient à des heures sombres de l'histoire de la médecine (et je ne parles pas que des recherches nazis)
7  1 
Avatar de Uther
Expert éminent sénior https://www.developpez.com
Le 21/08/2024 à 12:09
Ce qui est marrant c'est que vous critiquez a raison ceux qui croient que Kamala est sure de gagner, mais ne voyez pas que vous êtes dans la situation exactement inverse avec des argument qui valent pas mieux. La vérité c'est que personne n'en sait vraiment rien et qu'on verra bien. Quasiment toutes les élections présidentielles américaine se jouent à très peu et le mode de scrutin fait que les résultats ne sont même pas forcément une représentation exacte de la population américaine au global.

La seule chose qui est sure, c'est que quelque soit le résultat, le pays restera très divisé. La vision poussée par Trump qui prime actuellement coté républicain étant particulièrement clivante.
7  1 
Avatar de thamn
Membre averti https://www.developpez.com
Le 13/02/2022 à 0:18
Citation Envoyé par emilie77 Voir le message
On peut accepter un peu de souffrance pour un résultat qui va changer la façon de "conduire" un ordinateur (et oublier clavier, souris etc.)
Pourquoi on ne souffrirait pas de continuer a utiliser un clavier et une souris alors?
On pourrait bien continuer a souffrir un peu le temps de trouver d'autre moyen qui n'implique pas d'autre espèce dont nous ne pouvons même pas récolter le consentement.
Pis on pourrait aussi souffrir un peu et filer une partie de notre salaire a ceux qui ne peuvent rien gagner au yeux de notre société, parce qu'au final vu ce qu'on fiche de nos salaire on ferait aussi bien d'en donner une partie.
Pis on pourrait aussi souffrir un peu de ne pas pouvoir partager les stupides photos de nos repas, parce qu'au final c'est un gaspillage d'espace de stockage et d'utilisation de réseaux, ça aiderait a sauvegarder le vaisseau spatial sur lequel on est coince avec tout un tas d'autre espèces.
Pis on pourrait aussi souffrir un peu et arrêter d'utiliser la fission nucléaire le temps qu'on soit capable de faire mieux qu'un système qui pourrait nous péter a la tronche, et qui nous laisse des problèmes pour des milliers d’années sur les bras.
Alors tu vois, si on était capable d'accepter de souffrir un peu, on pourrait peut-être penser a demander au autres de souffrir un peu. Mais on est loin d'accepter, et on est loin de demander.
Bref, on est hypocrite nous les humains, mais on a une grande gueule alors on est sympas quand même hein..
6  1 
Avatar de kain_tn
Expert éminent https://www.developpez.com
Le 17/02/2022 à 10:40
Citation Envoyé par Nancy Rey Voir le message
Elon Musk affirme également qu'à long terme, la puce de Neuralink pourrait être utilisée pour fusionner la conscience humaine avec l'intelligence artificielle, bien que les experts soient sceptiques à ce sujet
Ah ça, le bonhomme affirme toujours beaucoup de choses... Où sont les voitures complètement autonomes qu'il promet pour dans six mois régulièrement depuis des années?

Citation Envoyé par Nancy Rey Voir le message
il associe souvent l'entreprise à ses craintes concernant l'intelligence artificielle. Musk a déclaré qu'il pense que l'humanité sera capable de réaliser une « symbiose avec l'intelligence artificielle » en utilisant la technologie développée par Neuralink. Musk a déclaré à l'hôte du podcast "Artificial Intelligence" Lex Fridman en 2019 que Neuralink était « destiné à répondre au risque existentiel associé à la superintelligence numérique ». « Nous ne serons pas en mesure d'être plus intelligents qu'un superordinateur numérique, donc, par conséquent, si vous ne pouvez pas les battre, rejoignez-les », a ajouté Musk.
Il montre clairement qu'il ne comprend pas plus que mes managers ce que sont les IA à la mode... Pour lui c'est Terminator, pour nous ce sont des pauvres réseaux de neurones peu flexibles et très dépendants des jeux de données fournis et des tâches attendues...
6  1 
Avatar de kain_tn
Expert éminent https://www.developpez.com
Le 17/02/2022 à 11:43
Citation Envoyé par Ryu2000 Voir le message
Son job consiste à attirer les investisseurs, c'est normal qu'ils promettent l'impossible. C'est la stratégie du "Fake Until You Make it".
À force d'injecter des milliards dans la recherche et le développement ils vont peut-être y arriver.
En attendant il va répéter que la technologie sera prête dans 6 mois, jusqu'à ce que ce soit vrai ou que l'entreprise fasse faillite.
Tout à fait, mais c'est important de le rappeler parce qu'en attendant beaucoup de personnes prennent ses dires pour des paroles d’évangile...

Citation Envoyé par Ryu2000 Voir le message
Neuralink pourrait être super utile pour les gens paralysés par exemple
C'est le seul intérêt d'un tel truc, je pense. Ça doit rester à la marge. Une solution à grande échelle et généralisée ne conduirait qu'à ce que l'on subit déjà partout:
  • Traquage/surveillance de masse
  • Récolte de données personnelles et revente de ces données
  • Problèmes de sécurité (parce que la plupart des boîtes n'en ont rien à f.....)
  • Obsolescence programmée
  • Et je suis sûr qu'il y a encore bien des salop..... qu'ils peuvent trouver
6  1