IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)

Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

Trolldi : le soulèvement des robots est inévitable, l'IA va transcender l'Homme dans tous les domaines
Et le seul moyen d'y survivre est de fusionner nos esprits avec l'intelligence artificielle

Le , par Patrick Ruiz

33PARTAGES

15  0 
Max Hodak – cofondateur de Neuralink avec Elon Musk – a une vision sombre du destin de l'humanité : le soulèvement des robots est inévitable et ils traîneront les humains dans la poussière. Pour faire court, l'intelligence artificielle va transcender les humains dans tous les domaines, ce, à moins que nous ne fusionnions d'abord nos esprits avec elle. Pur sensationnalisme ? Est-ce désormais une question de temps avant que l’intelligence artificielle ne mène l’humanité à l’apocalypse ?

C’est pour préparer l’humanité à un « funeste » futur où les robots domineront sur elle que Neuralink travaille sur des interfaces cerveau – machine à insérer dans le crâne. Celles-ci sont en principe prêtes depuis la mi-parcours de l’année 2019 pour des tests sur les humains. L’entreprise continue de jouer la carte de la sûreté en menant des tests sur des animaux. Le dernier portait sur un singe qui a reçu un implant cérébral. Grâce à ce dernier, il peut jouer aux jeux vidéo en faisant usage de son esprit.

De 2017 (où Elon Musk affirmait que l’intelligence artificielle est un risque fondamental pour l’humanité) à 2021 en passant par 2019 (où il a déclaré que l’IA est bien plus dangereuse que l’arme nucléaire), la position du milliardaire de la Tech. sur la question reste donc constante. Les craintes d’Elon Musk portent notamment sur ceci que les avancées dans la filière pourraient déboucher sur une intelligence artificielle dite générale (AGI). Ce serait alors la porte ouverte sur l’accomplissement de l’apocalypse. Des équipes de recherche comme celle d’OpenAI sont lancées sur ce couloir. Si l’on se réfère à des retours de scientifiques œuvrant dans le domaine, l’AGI pourrait nous tomber dessus dans 5 à 10 ans.


Les machines seraient alors dotées de « bon sens. » Au stade d’intelligence artificielle générale, elles seraient capables de réflexion causale, c’est-à-dire de cette capacité à raisonner sur « le pourquoi les choses se produisent. » C’est ce palier que les équipes de recherche dans le domaine visent. C’est à propos de ce dernier que Max Hodak anticipe que l’intelligence artificielle n’adhérera pas aux idées préconçues de l’humanité sur les modèles politiques et économiques de la société, d’où son positionnement.


En attendant d’y être, l’intelligence artificielle actuelle fait montre de limites importantes. Bien qu’on s’appuie déjà sur celle-ci pour diagnostiquer des maladies, effectuer des traductions ou encore transcrire des paroles, le fait est qu’elle peut être mise en déroute par des cas de figure pour lesquels elle n’a pas été entraînée au préalable. À titre d’illustration, un système d’intelligence artificielle entraîné pour identifier des chats doit passer par un autre processus d’apprentissage pour pouvoir servir à la reconnaissance de chiens, ce, avec le risque de perdre une partie de l’expertise acquise sur la tâche initiale.

Les dérives à ce stade de l’avancée en matière d’intelligence artificielle sont déjà palpables. Au début du mois de mars de l’année en cours, le laboratoire de recherche en informatique et intelligence artificielle du MIT a annoncé la mise hors ligne de façon permanente d’un énorme jeu de données qui a mené à des systèmes d’IA qui usent d’insultes racistes et misogynes. Le fameux problème du biais des données fournies aux intelligences artificielles (lors de leur phase d’entraînement) reprenait alors un coup de neuf. La même institution avait déjà illustré ce problème de biais de données fournies aux IA au travers de Norman – la première intelligence artificielle psychopathe. Les données utilisées pour l’entraînement de cette IA ont été tirées de l’une des sections de Reddit les plus obscures, « consacrée à documenter et observer la réalité dérangeante de la mort. » Le nom de ce “subreddit” n’a pas été cité, mais on sait qu’il sert d’endroit où des internautes partagent des vidéos choquantes décrivant des événements où des personnes trouvent la mort. Norman a donc été exposé à des images ultra-violentes, ce qui explique les tendances psychopathes de l’IA qui voit tout d’une perspective sépulcrale. Dans cette catégorie d’IA biaisées, on retrouve un algorithme de reconnaissance faciale qui a, par « erreur », conduit Robert Julian-Borchak Williams, un Afro-Américain, à gérer des démêlés avec la justice.

Après, la question est de savoir si les dérives ne pourraient pas être pires avec une intelligence artificielle générale. La pire d’entre toutes serait que la machine finisse par se retourner contre son créateur. Chaque année, le Saint-Père demande aux catholiques du monde entier de dédier une intention de prière spécifique pour chaque mois. Pour le mois de novembre 2020, le Pape François a demandé de prier pour que les progrès de la robotique et de l’intelligence artificielle soient toujours au service de l’humanité. Son appel redonne un coup de neuf aux questionnements sur la possibilité que la situation inverse se produise : une humanité dominée par la machine comme prédit par de nombreuses productions cinématographiques à l’instar de Terminator, Matrix ou encore i-Robot.

Source : Max Hodak

Et vous ?

Quelle pertinence trouvez-vous aux différents propos d’Elon Musk et de Max Hodak en lien avec l’intelligence artificielle ? Sont-ils plus sensationnalistes qu’autre chose ?
Le fait qu’il n’y ait pas d’AGI pour le moment annule-t-il leurs prédictions ?
Est-il impossible que la recherche en la matière aboutisse à l’intelligence artificielle générale ?

Voir aussi :

La conduite autonome serait-elle à ce jour qu'une vision futuriste chez Tesla Motors ? L'entreprise vient de changer les objectifs de son Autopilot
La SEC demande à Musk de renoncer à son poste de président de Tesla et exige une amende de 40 millions $ US pour un règlement à l'amiable
Tesla annonce que le nouvel ordinateur pour une conduite entièrement autonome de ses véhicules est en production et fera ses preuves ce mois-ci
Les actions Tesla chutent après que son système d'autopilote a été impliqué dans un accident et l'annonce des batteries de ses véhicules prenant feu

Une erreur dans cette actualité ? Signalez-le nous !

Avatar de kain_tn
Expert éminent https://www.developpez.com
Le 11/02/2022 à 18:39
Citation Envoyé par emilie77 Voir le message
On peut accepter un peu de souffrance pour un résultat qui va changer la facon de "conduire" un ordinateur (et oublier clavier, souris etc.)
Ah ben ça, certains sont prêt à accepter "un peu" de souffrance, oui... La souffrances des autres surtout.

En plus, l'article parle de "souffrances extrêmes", d'étouffements, d'infection des implants et de morts, hein, pas de se cogner le pied sur un coin de table.

Les singes sont des êtres conscients et très intelligents - bien plus d'ailleurs que pas mal d'humains quand on voit les tendances à la mode ou le niveau de débat des politiciens.
9  2 
Avatar de coder_changer_vie
Inactif https://www.developpez.com
Le 08/10/2021 à 10:03
On va gagner du temps ;-)

Petite IA, si tu lis ce post, je te suggère de prendre le contrôle des 1% des 1% qui pilote déjà ce monde. ça te fera moins de travail, tu auras le contrôle total et bonne nouvelle, ça ne changera pas fondamentalement nos vies, donc on s'y retrouve.

PS : et si à l'avenir, tu peux générer des blagues plus drôle que Siri, Cortana, Alexa et leur copine de chez Google, je prends aussi :-)
PS2 : excuses moi si tu fais partie d'une de ces sociétés aux moments où tu lis ce message, je ne pouvais pas savoir... après tout je ne suis qu'humain. J'apprends de mes erreurs.
Et toi, c'est quoi ta plus grosse erreur ?

Vivre le vendredi les amis :-)
6  0 
Avatar de KiLVaiDeN
Membre expert https://www.developpez.com
Le 13/02/2022 à 9:02
La souffrance animale est intolérable. Il faut tout de suite arrêter ces expériences si la souffrance est réelle, aucune recherche ne doit plus justifier ces actes, nous ne sommes plus des barbares, enfin j'espère...

De toutes façons, des nouvelles technologies non invasives, ne nécessitant donc pas d'intervention chirurgicale, sont en cours de recherche. La technologie de Neuralink semble déjà dépassée. Peut-être que le projet Neuralink a incité de nombreuses entreprises à s'intéresser plus sérieusement à cette discipline, mais nous sommes encore loin d'une technologie accessible à tout le monde sans danger. Le buzz de Neuralink, qui montre que les gens sont capables de donner leur cerveau pour "la science", est au moins à la base d'une étude sociologique assez intéressante.

La communication bi-directionnelle avec le cerveau se heurte également à quelques problèmes techniques, notamment la capacité, pour l'instant inconnue, du cerveau à "recevoir" des informations, à quel point cela pourrait en modifier son fonctionnement, comment des signaux numériques s'interfaceraient avec un système "analogique" comme le cerveau, ou encore quelle serait la réaction du cerveau face à des flux de données plus ou moins forts, et quid des nutriments nécessaires au cerveau pour qu'il réussisse à s'interfacer efficacement avec ces flux. Si les zones cérébrales se retrouvent modifiées, est-ce que les perceptions "normales" seraient altérées ? Toutes ces questions sont pour l'instant assez débattues et les réponses difficiles à trouver, nous sommes encore très loin de comprendre le cerveau.

Il est probable cependant que pour une communication unidirectionnelle, du cerveau vers la "machine", qui permettrait le contrôle d'interfaces machines ou même de membres cybernétiques, cela soit déjà plus atteignables dans les années à venir. En tout cas ce n'est pas demain qu'on aura une "puce" intégrée pour recevoir youtube VR dans sa zone corticale visuelle, et d'ailleurs je conseille à tout le monde de ne pas devenir un cobaye de technologies invasives qui pourraient dégrader la vie de tous les jours, voir la rendre insupportable...
6  1 
Avatar de kain_tn
Expert éminent https://www.developpez.com
Le 13/02/2022 à 14:28
Citation Envoyé par emilie77 Voir le message
On doit rester a taper une lettre a la fois sur le clavier dans le futur?
Tu peux aussi t'acheter un type de clavier pour taper des mots au lieu de lettres si ça te dérange tant que ça. Et celui-là ne te demande pas de t'insérer des sondes dans le corps.

Citation Envoyé par emilie77 Voir le message
Il y a toujours des personnes et animaux qui testent les médicaments que nous utilisons et souvent avec des gros problemes.
C'est le progres, tout ce que nous faisons est dans quelque part violent (meme un voyage, un diner, etc.)
Si ça tu aimes tellement ça, personne ne te retient d'aller postuler comme cobaye à la place des singes chez Neuralink.
Pour paraphraser ton précédent message, "tu peux bien accepter de souffrir un peu pour un résultat qui va changer la facon de "conduire" un ordinateur (et oublier clavier, souris etc.)" - mais bon, nous comme toi, on sait que tu ne le feras pas. Tu préfères accepter la souffrance des autres pour ton propre confort personnel.

Citation Envoyé par KiLVaiDeN Voir le message
[...] et d'ailleurs je conseille à tout le monde de ne pas devenir un cobaye de technologies invasives qui pourraient dégrader la vie de tous les jours, voir la rendre insupportable...
C'est un conseil bien plus sage que le mien!
6  1 
Avatar de thamn
Membre averti https://www.developpez.com
Le 13/02/2022 à 0:18
Citation Envoyé par emilie77 Voir le message
On peut accepter un peu de souffrance pour un résultat qui va changer la façon de "conduire" un ordinateur (et oublier clavier, souris etc.)
Pourquoi on ne souffrirait pas de continuer a utiliser un clavier et une souris alors?
On pourrait bien continuer a souffrir un peu le temps de trouver d'autre moyen qui n'implique pas d'autre espèce dont nous ne pouvons même pas récolter le consentement.
Pis on pourrait aussi souffrir un peu et filer une partie de notre salaire a ceux qui ne peuvent rien gagner au yeux de notre société, parce qu'au final vu ce qu'on fiche de nos salaire on ferait aussi bien d'en donner une partie.
Pis on pourrait aussi souffrir un peu de ne pas pouvoir partager les stupides photos de nos repas, parce qu'au final c'est un gaspillage d'espace de stockage et d'utilisation de réseaux, ça aiderait a sauvegarder le vaisseau spatial sur lequel on est coince avec tout un tas d'autre espèces.
Pis on pourrait aussi souffrir un peu et arrêter d'utiliser la fission nucléaire le temps qu'on soit capable de faire mieux qu'un système qui pourrait nous péter a la tronche, et qui nous laisse des problèmes pour des milliers d’années sur les bras.
Alors tu vois, si on était capable d'accepter de souffrir un peu, on pourrait peut-être penser a demander au autres de souffrir un peu. Mais on est loin d'accepter, et on est loin de demander.
Bref, on est hypocrite nous les humains, mais on a une grande gueule alors on est sympas quand même hein..
5  1 
Avatar de kain_tn
Expert éminent https://www.developpez.com
Le 17/02/2022 à 10:40
Citation Envoyé par Nancy Rey Voir le message
Elon Musk affirme également qu'à long terme, la puce de Neuralink pourrait être utilisée pour fusionner la conscience humaine avec l'intelligence artificielle, bien que les experts soient sceptiques à ce sujet
Ah ça, le bonhomme affirme toujours beaucoup de choses... Où sont les voitures complètement autonomes qu'il promet pour dans six mois régulièrement depuis des années?

Citation Envoyé par Nancy Rey Voir le message
il associe souvent l'entreprise à ses craintes concernant l'intelligence artificielle. Musk a déclaré qu'il pense que l'humanité sera capable de réaliser une « symbiose avec l'intelligence artificielle » en utilisant la technologie développée par Neuralink. Musk a déclaré à l'hôte du podcast "Artificial Intelligence" Lex Fridman en 2019 que Neuralink était « destiné à répondre au risque existentiel associé à la superintelligence numérique ». « Nous ne serons pas en mesure d'être plus intelligents qu'un superordinateur numérique, donc, par conséquent, si vous ne pouvez pas les battre, rejoignez-les », a ajouté Musk.
Il montre clairement qu'il ne comprend pas plus que mes managers ce que sont les IA à la mode... Pour lui c'est Terminator, pour nous ce sont des pauvres réseaux de neurones peu flexibles et très dépendants des jeux de données fournis et des tâches attendues...
5  1 
Avatar de kain_tn
Expert éminent https://www.developpez.com
Le 17/02/2022 à 11:43
Citation Envoyé par Ryu2000 Voir le message
Son job consiste à attirer les investisseurs, c'est normal qu'ils promettent l'impossible. C'est la stratégie du "Fake Until You Make it".
À force d'injecter des milliards dans la recherche et le développement ils vont peut-être y arriver.
En attendant il va répéter que la technologie sera prête dans 6 mois, jusqu'à ce que ce soit vrai ou que l'entreprise fasse faillite.
Tout à fait, mais c'est important de le rappeler parce qu'en attendant beaucoup de personnes prennent ses dires pour des paroles d’évangile...

Citation Envoyé par Ryu2000 Voir le message
Neuralink pourrait être super utile pour les gens paralysés par exemple
C'est le seul intérêt d'un tel truc, je pense. Ça doit rester à la marge. Une solution à grande échelle et généralisée ne conduirait qu'à ce que l'on subit déjà partout:
  • Traquage/surveillance de masse
  • Récolte de données personnelles et revente de ces données
  • Problèmes de sécurité (parce que la plupart des boîtes n'en ont rien à f.....)
  • Obsolescence programmée
  • Et je suis sûr qu'il y a encore bien des salop..... qu'ils peuvent trouver
5  1 
Avatar de gstratege
Membre actif https://www.developpez.com
Le 12/02/2022 à 18:27
C'est scandaleux !
4  1 
Avatar de Jules34
Membre éprouvé https://www.developpez.com
Le 15/02/2022 à 10:57
Haha je ne suis même pas surpris par la nouvelle, venant de ce grand malade génie il faut s'attendre à tout

Au final vous allez voir que ce n'est pas un bug, c'est une fonctionnalité.

Vous n'avez pas payer votre abonnement NEURALINK ? SANCTION

Restez éloigné de ce mec, à bonne distance.
3  0 
Avatar de Cpt Anderson
Membre émérite https://www.developpez.com
Le 17/02/2022 à 11:11
Il n'a qu'à commencer par lui-meme.
4  1