IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)

Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

Trolldi : les Marines américains battent le robot de la DARPA formé pour identifier les humains
En se cachant sous une boîte en carton

Le , par Stéphane le calme

39PARTAGES

17  0 
La Defense Advanced Research Projects Agency (DARPA) du Pentagone a investi une partie de ses ressources dans un robot qui a été formé (probablement entre autres) pour identifier les humains. Il y a juste un petit problème : le robot est incroyablement facile à duper.

Le dernier livre écrit par Paul Scharre, ancien Ranger de l'armée et analyste politique du Pentagone, révèle comment un groupe de Marines américains a échappé à la détection par un robot IA en utilisant, entre autres, une boîte en carton.

Le livre s'appelle Four Battlegrounds: Power in the Age of Artificial Intelligence (Quatre champs de bataille*: le pouvoir à l'ère de l'intelligence artificielle), et discute de la « lutte actuelle pour contrôler l'intelligence artificielle » avec un accent particulier sur la Chine, les États-Unis et l'Europe. Il ne sera pas publié avant le 28 février, mais des extraits sont déjà partagés sur Twitter par le rédacteur en chef de la défense de The Economist, Shashank Joshi.

L'un de ces extraits révèle comment la DARPA a passé une semaine avec un groupe de Marines sur un site de test afin d'aider à former un robot IA en tentant de le vaincre. Le robot était garé « au milieu d'un rond-point » et les Marines ont dû s'en approcher sans être détectés. Scharre explique: « Si des Marines pouvaient entrer jusqu'au bout et toucher ce robot sans être détectés, ils gagneraient ».

Dans un excellent exemple de la gravité de l'IA, tous les Marines ont réussi à ne pas être détectés. La DARPA a entraîné l'IA à détecter les humains qui marchent, mais pas grand-chose d'autre. Alors Scharre explique comment deux des Marines "ont fait un saut périlleux sur 300 mètres", deux autres se sont cachés sous une boîte en carton et un autre "a dépouillé un sapin et a marché comme un sapin". Apparemment, beaucoup de rires étaient impliqués, ce qui est une autre caractéristique des humains que le robot n'avait pas été entraîné à détecter.


Lisez plutôt le passage :

Pour améliorer leur algorithme, l'équipe de la DARPA a passé une semaine avec un groupe de Marines sur un site de test. Pendant six jours, les Marines se sont promenés et les ingénieurs ont affiné leur algorithme de détection des personnes. Phil a dit : "le septième jour j'ai dit, 'on a fini. On retourne ça'".

Maintenant, les Marines vont essayer de vaincre le système d'IA. Ils ont garé le robot au milieu d'un rond-point et les Marines ont dû s'en approcher sans être détectés à partir d'une longue distance. "Si des Marines pouvaient entrer jusqu'au bout et toucher ce robot sans être détectés, ils gagneraient. Je voulais voir, jeu continu, ce qui se passerait".

"Huit Marines, pas un seul détecté", a déclaré Phil. "Ils ont vaincu le système d'IA non pas avec un camouflage traditionnel, mais avec des astuces intelligentes qui étaient en dehors du régime de test du système d'IA. "Deux ont fait un saut périlleux sur 300 mètres, n'ont jamais été détectés. Deux se sont cachés sous une boîte en carton. On pouvait les entendre rire tout le temps". Comme Bugs Bunny dans un dessin animé de Looney Tunes, se faufilant sur Elmer Fudd dans une boîte en carton. "Un gars, mon préféré", a déclaré Phil, "il a dépouillé un sapin et a marché comme un sapin. Vous pouvez voir son sourire, et c'est tout ce que vous voyez. "Le système d'IA avait été formé pour détecter les humains qui marchaient, et non les humains qui faisaient des sauts périlleux, se cachant dans une boîte en carton ou déguisés en arbre. Donc, ces simples astuces, qu'un humain aurait facilement vues à travers, étaient suffisantes pour casser l'algorithme.

Bien qu'il soit amusant d'imaginer une équipe de Marines utilisant la stratégie de boîte en carton de Metal Gear Solid pour vaincre ce qui est probablement un robot très coûteux, l'incident détaillé dans le livre de Scharre renforce quelque chose que nous savons déjà : l'IA n'est aussi utile que les données que nous lui donnons. De la même manière que l'IA devient biaisée une fois qu'elle est alimentée par des données biaisées, les algorithmes peuvent être aussi ignorants que leurs données fondamentales sont plates. Sans qu'on lui montre à quoi ressemble un humain qui fait des sauts périlleux ou un humain sous une boîte en action, un robot ne sera pas en mesure de discerner cette image de tout le bruit environnant, quelle que soit la compétence de ses ingénieurs.

Source : Shashank Joshi

Et vous ?

Quel est, selon vous, le camouflage le plus drôle ou le plus ingénieux que les militaires ont utilisé pour tromper l'IA ?
Quel camouflage rigolo auriez-vous tenté pour réussir l'exercice ?
Une situation qui laisse entendre que l'IA est encore à des années lumières de l'intelligence ? Dans quelle mesure ?
Quelle lecture faites-vous de ce cas ?

Voir aussi :

« L'IA est susceptible de devenir plus intelligente que les Hommes contre lesquels elle pourra donc se retourner et les exterminer », préviennent des chercheurs, sur une possible future apocalypse

Une erreur dans cette actualité ? Signalez-nous-la !

Avatar de marsupial
Expert éminent https://www.developpez.com
Le 27/01/2023 à 13:04
Quelle lecture faites-vous de ce cas ?
Tant mieux ! Comme ça cela évite d'en faire une application de sécurité civile.
5  0 
Avatar de kain_tn
Expert éminent https://www.developpez.com
Le 27/01/2023 à 12:13
Citation Envoyé par Stéphane le calme Voir le message

Quel est, selon vous, le camouflage le plus drôle ou le plus ingénieux que les militaires ont utilisé pour tromper l'IA ?
Pour ma part, le coup de la boîte en carton. Je suis totalement fan de ce groupe de Marines

Merci pour cette article qui m'a bien fait sourire!

Citation Envoyé par Stéphane le calme Voir le message

Quelle lecture faites-vous de ce cas ?
Ce serait bien de mettre ça sur le devant de la scène pour répondre à tous ceux qui défendent le FSD de Tesla. On a clairement le cas d'un IA qui ne sait pas gérer de l'imprévu: un enfant pourrait distinguer des militaires, quelle que soit leur position et sans souci, là où ce logiciel en est incapable si les gars changent leur formes ou leur démarches de manière grossière.
4  0 
Avatar de walfrat
Membre émérite https://www.developpez.com
Le 27/01/2023 à 12:36
Référence obligatoire :


Sinon, ça me parait aberrant en 2023 que les chercheurs en sont encore à des erreurs qui aujourd'hui doivent être considérés comme basiques.
Ca fait plus de 10ans qu'on sait par exemple avec une mauvaise base de photos ,tu peux faire apprendre a ton IA a reconnaître le désert en fond plutôt que le tank qui est dessus, ce qui fait donc qu'en milieu urbain ton IA détectes plus le tank.

Ca me paraît d'une évidence absolue et je suis qu'un foutu ingénieur expert en formulaire de données et insert dans la base SQL.

De toute évidence, ces marines ont un esprits plus adapté à la recherche en IA que les chercheurs plongés dans leur algo.
3  0 
Avatar de Daïmanu
Membre émérite https://www.developpez.com
Le 27/01/2023 à 14:01
Le coup de la boîte en carton pour éviter les caméras était une blague à la base, dans le jeu Metal Gear, premier du nom (sorti en 1987, sur MSX2), et est devenu un running gag de la licence jusqu'à aujourd'hui.

C'est cocasse de voir la blague devenir une réalité 35 ans plus tard.

Bon la série évoque également un robot possédant une IA capable de lancer une attaque nucléaire, et, spoiler, [spoiler]lancera effectivement une attaque ou plutôt une simulation[/spoiler] espérons que ça n'arrive pas dans la réalité (mais c'est mal barré).
3  0 
Avatar de totozor
Membre expert https://www.developpez.com
Le 27/01/2023 à 15:00
Ils ont mis en avant une des faiblesse de l'IA qui est reconnue me semble-t-il.
L'IA est capable d'identifier plein de choses au milieu beaucoup de choses mais elle est incapable de détecter ce qui n'est pas "à sa place", chose qu'un enfant est capable de faire.

L'IA a quand même vu deux caisses et un sapin marcher sans que ça la choque.
Elle a vu ces objets rentrer dans son périmètre de sécurité sans que le moindre warning apparaisse.

Enfant on se moquait des soldats du début du XXeme qui se battaient avec des couleur criarde, si on nous avait dit que l'avenir de l'infanterie consiste à se déguiser en objet inanimé
3  0 
Avatar de kain_tn
Expert éminent https://www.developpez.com
Le 28/01/2023 à 12:36
Citation Envoyé par Népomucène Voir le message
C'est tellement gros qu'on pourrait croire à un canular de la DARPA dans le but d'intoxiquer l'ennemi (russe ?)
sur le mode : "Nous faisons des trucs très cons qui ne marchent pas ... vous pouvez continuer à roupiller"

... et en réalité, la DARPA aurait un robot parfaitement opérationnel dont il faut cacher l'existence.

Comment ça "je regarde trop Netflix" ?
Je pense plutôt que le "buzz word" de l'année, pour pouvoir vendre quelque chose, c'est "IA". On nous bassine sur tous les canaux avec du ChatGPT et autres bouses.

Il y a quelques années, il fallait placer "blockchain" dans une présentation aux investisseurs, pour avoir le contrat.

Ici, on a juste un bel exemple de bouse à base d'IA.
3  0 
Avatar de eric44000
Membre averti https://www.developpez.com
Le 27/01/2023 à 16:29
Citation Envoyé par Stéphane le calme Voir le message
Quel camouflage rigolo auriez-vous tenté pour réussir l'exercice ?
Un vêtement d'invisibilité holographique (camouflage caméléon 3D ou écran multicouche souple), multi-tempéré (contre la détection par infrarouge) avec des pièges à son à réémission tardive modulée (contre la détection par ultrasons) et annulation active du bruit (contre détection sonore).
Le problème est que personne aurait pu voir si j'avais réussi l'exercice.
2  0 
Avatar de Népomucène
Modérateur https://www.developpez.com
Le 27/01/2023 à 16:37
C'est tellement gros qu'on pourrait croire à un canular de la DARPA dans le but d'intoxiquer l'ennemi (russe ?)
sur le mode : "Nous faisons des trucs très cons qui ne marchent pas ... vous pouvez continuer à roupiller"

... et en réalité, la DARPA aurait un robot parfaitement opérationnel dont il faut cacher l'existence.

Comment ça "je regarde trop Netflix" ?
2  0 
Avatar de maxtal
Membre actif https://www.developpez.com
Le 30/01/2023 à 9:44
Dest tech > low tech
0  0