Des Terminators opérationnels d’ici vingt ans : les ONG s’alarment

Le Terminator n’est plus vraiment un personnage de science-fiction : c’est une arme qui pourrait être opérationnelle d’ici vingt ou trente ans. Un « robot tueur » entièrement autonome.

Ces robots seront programmés pour « nettoyer » un immeuble, avec autorisation de tuer tous les êtres humains de plus de 1,30 m s’y trouvant : ensuite, il se débrouille. Ou bien, si c’est un drone, il sera envoyé au dessus d’un champ de bataille, pour détecte tous les véhicules ennemis et les détruire un par un.

Des prix Nobel et des associations de droits de l’homme ont appelé à une « interdiction préventive » mondiale des « robots-tueurs », ces armes sophistiquées agissant sans supervision humaine, en cours de recherche, avant que « la science-fiction ne devienne réalité ».

Human Rights Watch, International Human Rights Clinic et les Prix Nobel de la paix la Nobel Women’s Initiative ont annoncé devant la presse à Washington une campagne pour l’instauration « d’un traité international qui interdirait totalement le développement, la production et l’utilisation de ces armes totalement autonomes », surnommées les « robots-tueurs ».

Publié le même jour, un rapport de 50 pages, « Losing Humanity », fait pour la première fois le point sur les recherches en cours sur ces armes, « capables de choisir et faire feu sur des cibles sans intervention humaine » et qui pourraient être opérationnelles dans 20 ou 30 ans.

Les militants s’inquiètent du fait que « sans débat public », des gouvernements développent ces armes qui « mettent les civils en danger de manière inacceptable lors d’un conflit, sans être comptables des lois humanitaires », a indiqué devant la presse Steve Goose, de Human Rights Watch. Et en cas de « violation inévitable des droits de l’homme, on ne peut savoir qui peut être tenu pour responsable », a-t-il ajouté.

Ce type d’armes, conçues pour n’éprouver « ni crainte ni colère », ne montrera plus « aucune compassion », a ajouté Bonnie Docherty, de HRW.

Il faut « que le public soit mis au courant, il faut réunir les organisations non gouvernementales, travailler avec les gouvernements », a ajouté de son côté Jody Williams, prix Nobel de la paix en 1997 pour son combat contre les mines antipersonnels, « horrifiée » à l’idée de ces armes.

Les gouvernements doivent d’abord interdire ces armes à titre individuel, comme premier pas vers un traité international, indiquent les militants, qui appellent également les scientifiques à la mise en place d’un « code de conduite ».

Ce type d’armes totalement autonomes n’existe pas encore mais des modèles, qui se déclenchent sous supervision humaine, les préfigurent, indique le rapport qui cite les antimissiles MK Phalanx de la Navy américaine, Iron Dome en Israël ou le NBS Mantis développé par l’Allemagne.

Des robots terrestres ou aériens sont également créés pour « prendre les humains pour cibles », comme le SGR-1S en Corée du sud qui peut détecter une présence humaine et tirer, sous le contrôle d’un humain, ou le Guardium en Israël qui, selon le rapport, patrouillerait à la frontière avec Gaza.

La Grande-Bretagne a également dévoilé le prototype d’un avion de combat Taranis qui pourrait attaquer des personnes comme des biens, sous supervision humaine, tout en laissant une porte ouverte à « une plus grande autonomie ».

Le développement de ces armes « doit être stoppé maintenant, avant que ce ne soit trop tard et que leur progression, de la science-fiction à la réalité, ne soit irréversible », a réaffirmé M. Goose, ajoutant que « donner à des machines le pouvoir de décider qui vit et meurt sur le champ de bataille porte la technologie trop loin ».

Sources : Nouvel Obs / Le Journal du Siècle



Catégories :Armée, Armes, Robotique

Tags:, , , ,

21 réponses

  1. Quoiqu’il en soit, si nous existons et avons un certain type d’intelligence, et que cela s’est fait tout seul, alors pourquoi ne serait-il pas possible de créer des « machines qui pensent », encore plus performantes que nous-même ? Nous y arriverons certainement. que ce soit dans 20 ou 100 ans.

  2. La sottise ici se caractérise, me semble t’il, par le fait d’occulter tout un tas de liens et d’infos pour avoir cité une fois Wikipédia ?! Quel niveau…. Le lien direct traitant de IBM Synapse (sur le site officiel IBM et citant clairement la DARPA) on oublie, le lien de Boston Dynamics (oui oui également financé par la DARPA mais un minimum de recherche vous confirmera l’info si vous en avez le courage).

    Puis je ne comprend pas trop la fin du commentaire…. mais bon si vous comprenez pas ce qu’est une puce cognitive ce n’est pas vraiment ma faute…

    • a la verite,je crois que la plupart d’entre nous nous foutons completement de ce que tu dis ou pense. peut etre ton opturation cerebrale ne comprend pas ce que veut dire 20 ou 30 ans,mais nous si. ta pedance n’a d’egal que ton etroitesse d’esprit sur le futur. il existe deja des robots,certes,des drones,mais dans 20 ans ptit gars,qu’en sais tu? tu devrais tourner ta langue plusieurs fois dans ta bouche avant de prendre les gens de haut,genre collet monte,ok?

      • Hummm Cyril, j’ose imaginer que ta réponse s’adresse plutôt à Gérard Couvert et non à moi, étant donné que, de mon point de vue, je confirme plutôt la réalité de robots évolués, largement avant 20 ou 30 ans (mais après comme je disais, la différence entre les USA et la France comme d’habitude… ils ont quelque peu d’avance…).

        Vu que ton commentaire semble être posté en réponse directe du mien, mais ne semble pas vraiment me concerner (enfin me semble t’il).

        Pour conclure, et pour ceux qui veulent se mettre à la page sur la question (et encore on y voit pas tout), il y a un très bon reportage qui a été effectué par France 2 et qui s’intitule « Un homme presque parfait ». Il permet de voir ici plus ce qui concerne la cybernétique que la robotique, mais les deux sont forcément intimement liés…

        Un très bon reportage qui pose déjà la question de l’ethnie dans l’avenir robotisé qui se profile… Réflexion on ne peut plus sage il me semble.

        Pour conclure je voudrai ajouter qu’en prime, concernant mon dernier commentaire et le fait que j’ai cité Wikipédia : je ne l’ai cité que pour faire référence à la définition de la gamme de logiciels DI-Guy développée par Boston Dynamics, et le lien direct sur leur site (en anglais, j’en suis navré hein…) confirme bel et bien cette définition… Donc bon désolé mais sur le coup j’ai bien aimé le commentaire « la culture-wiki dans tous ses états »…

  3. Pour ceux qui pensent que le soulèvement des machines est un scénario fantasmé, sachez que là-aussi, la fiction pourrait très bien rejoindre la réalité. Les programmes avancés d’IA c’est bien, la puce cognitive c’est mieux :

    http://www-304.ibm.com/easyaccess/publicfrance/contenttemplate/!!/xmlid=222029

    IBM Synapse, soutenu par DARPA et aidé par plusieurs universités Américaines… Ah mais il y a un autre groupe qui est financé par la DARPA (oui parce que par « soutenu » il faut comprendre « financé »), Boston Dynamics… Ça vous parle pas ?! Une simple recherche Youtube vous fera pourtant découvrir certaines de leurs merveilles… mais bon de quand datent vraiment ces vidéos grand public ?!…

    http://www.bostondynamics.com/

    Ma foi, bien entendu que nous nous dirigeons vers une sorte de Terminator, un robot bipède indépendant, intelligent équipé d’une puce cognitive, capable de prendre des décisions par lui-même pour (officiellement) permettre de mieux s’adapter à son environnement et à la situation à laquelle il sera confronté.

    De là à imaginer un éventuel soulèvement de ces IA évoluées, qui je sais pas moi par exemple, finirait par se rendre compte qu’elle sont supérieures à l’homme et que de ce fait ne verrait pas vraiment de raison pour leur obéir… Ou éventuellement le piratage de ces robots par des ennemis comme cela a déjà été avancé, ou encore un virus ou tout autre bug pourrait avoir des conséquences pour le moins intéressantes…

    Mais bon, à la vitesse où le peuple prend conscience des choses (comme pour tout le reste), il est déjà trop tard et tout cela sera bien une réalité, 20 ans ? 30 ans ? Vu les avancées de Boston Dynamics en la matière, j’aurai plutôt dis 10 ans, mais bon c’est vrai nous sommes en France, si on prend compte du calendrier du programme Scorpion de l’armée de terre Française alors 20-30 ans semble une estimation raisonnable oui… puisque c’est à cette date qu’ils estiment les « robots, protection active » par exemple… 3ème page du lien suivant :

    http://fr.calameo.com/read/000009779c84ffb2a3958

    Voila, me suis senti obligé d’intervenir, libre à vous de penser ce que vous vous voulez sur l’avenir militaire, que ce soit Américain ou Français, bien que comme d’habitude, il faut se douter que les USA seront équipés avant la France. Tout ce que je peux conseiller, c’est de faire quelques recherches, de se renseigner et de se faire sa propre opinion du sujet… Comme bien d’autres choses, je suis parti d’un sujet plus ou moins fiable là-dessus, et j’ai fais des recherches, sur Boston Dynamics, sur la DARPA, sur les différents projets qu’ils « soutiennent ».

    Il faut voir aussi que Boston Dynamics a d’autres activités forts intéressantes, comme le logiciel DI-Guy, qui d’après la définition Wikipédia (sur la page Boston Dynamics) est une gamme de logiciels permettant de simuler en temps réel, de façon réaliste, le comportement des êtres humains.

    http://www.bostondynamics.com/bd_diguy.html

    Bref, en ce qui me concerne je me suis déjà fais mon avis sur la question, chacun est libre de penser ce qu’il veut sur le sujet, mais n’oubliez pas, quand des organismes comme la DARPA engouffrent des budgets monstres dans des projets, ce n’est pas anodin. Tous ces projets devront être concrétiser et servir sur le terrain où ils n’y consacreraient pas un tel budget….

    • La culture-wiki dans tous ses états! le grand n’importe quoi … même à ce niveau de sottise les meilleurs logiciels ne suivent plus depuis longtemps, cela devrait vous rassurer.

  4. c est bien beau tous ces discour mais nous plongons la tete premiere dans ce style de guerre ci ce n est nous cela sera nous enfant ou peti enfants qui en ferons les frais quand aux lois de la robotique d isaac asimov rien n empeche un concepteur de ne pas les mettre dans le programe de ses robots apres c est l ethique pour le peut que l homme a du momment ou il y a de l argent et du pouvoir en jeu

  5. Commentaire et noms de variables en FR, cool pour l »éventuel anglophone qui doit maintenir le code 🙂

  6. rien n’est impossible il nous manque juste encore quelques connaissances

  7. La seule raison de l’opposition des organisations « humanitaires » est que ces armes permettent à l’occident de maintenir une avance sur les autres et surtout de compenser les différences de démographie sociale. Un pays qui à un taux de fécondité de 5 enfants par femme n’a pas les mêmes possibilités que celui qui à un taux de fécondité de 1,8 par femme, par uniquement en nombre mais en répercussions sociales ; quand les armées formées par les abid (abd) comme dans les premiers siècles musulmans viendront combattre l’occident il faudra que les pertes soient minimum coté occident et maximum de l’autre coté (un facteur 15 par exemple).
    Sinon les robots qui échappent au contrôle des hommes est un fantasme, en revanche la prise de contrôle des robots par les adversaires et plus vraisemblable (déjà nos missiles ou nos avions ne peuvent être utilisés contre nous).
    En plus des robots autonomes il y a aussi divers autres tentatives, comme les exo-squelettes, ou les mules mécaniques.

    • vous semblez en retard dans votre conception des choses. il n’est pas improbable que des machines animées par une intelligence artificielle puissent ne plus obéir,pire,se retourner contre ces créateurs. regardez le titre,ça ne dit pas qu’un squelette de métal avec une tronche de schwarzy sera sorti demain d’une usine,mais que nous en prenons le chemin. les drones ne sont que le début de l’automatisation de la guerre,celle ci,effectuée aujourd’hui a distance,mais qui pourrait,pour des raisons pratiques,devenir totalement automatique. dans les pays occidentaux,on aime tuer ou faire s’entre-tuer des gens a l’autre bout du monde,mais on aime pas perdre des hommes,ça fait mauvais genre au jt de 20 heure.

      • Loi Zéro : Un robot ne peut pas faire de mal à l’humanité, ni, par son inaction, permettre que l’humanité soit blessée.
        Première Loi : Un robot ne peut porter atteinte à un être humain, ni, restant passif, permettre qu’un être humain soit exposé au danger, sauf contradiction avec la Loi Zéro.
        Deuxième Loi : Un robot doit obéir aux ordres que lui donne un être humain, sauf si de tels ordres entrent en conflit avec la Première Loi ou la Loi Zéro.
        Troisième Loi : Un robot doit protéger son existence tant que cette protection n’entre pas en conflit avec la Première ou la Deuxième Loi ou la Loi Zéro.

      • vous qui semblez féru du film i-robot,souvenez vous que l’intelligence artificielle vicky se retourne contre ses créateurs.

      • Pour le 20h. c’est exactement ce que j’écris, concernant l’intelligence artificielle ce sont des mécanismes logiques peu intelligents et très artificiels.
        Les capacités cognitives de ces automates sont ridicules voir grotesques et donc c’est bien sur des processus programmés que repose le fonctionnement ; bien sur des bogues sont possibles, des instabilités dues à des destructions ou à des informations erronées sont également la cause de dysfonctionnements, mais que ces machines deviennent autonomes dans leur « décisions » relève du fantasme.

      • mon dernier post ne s’adressait pas a vous,je le repete de maniere plus clair,vous avez les idées courtes et hyper centrées temporellement parlant. alors je ne sais pas si votre cognition vous permet de comprendre l’article mais il y est dit dans 20 OU 30 ans!!!! d’ici 20 a 30 ans,rien d’impossible la dedans. en 1920,on connaissait la puissance de l’atome,en 45 on en avait fait une bombe.

      • L’IA est une partie de mon métier.

      • et moi je suis le fils naturel du pape et la reine d’angleterre. vous travaillez pour qui sans indiscrétion? a réparer des ordi dans l’arriere boutique de jean jacques guérin a saint étienne de louvois ou pour le CNRS? :-))

      • Bien sur je ne vais pas vous révéler le nom de mes clients !
        Par exemple voici ce sur quoi je travaille, c’est le commutateur de tache d’un automate fixe, mais qui doit prendre des « décisions » techniques en temps réel et qui gère son instabilité éventuelle …

        ; les registres de segments sont mis provisoirement sur un segment de niveau 0

        ; avec 10 taches la routine doit consommer aux environs de 200 cycles

        IT0:
        sauve_contexte
        mov ax, data_syteme
        mov ds, ax
        mov es, ax ; utile ?

        inc dword [CptCommutatation]

        cmp [VerrouCommutation], byte 0
        je fin
        ; call MiseAjourTempsExe ; mise à jour du compteur d’utilisation processeur par la tache
        cmp [NbrTache], byte 1
        je fin

        call TacheSuivante ; positionne les drapeaux en sortie
        jb fin ; <0 pas de tache suivante !

        mov al,0x20 ; fin du signal d'interruption
        out 0x20, al

        shl ebx, 3
        add ebx, AdrTaches ; dans la GTD
        mov [Saut_Long.selecteur], bx
        mov [Saut_Long.deplacement], 0
        jmp pword [Saut_Long] ; le vrai saut(commutation) se fera au moment de IRET

        restitue_contexte
        iret

        fin:
        mov al,0x20 ; fin du signal d'interruption
        out 0x20,al
        restitue_contexte
        iret

        TacheSuivante:
        ; <== ebx : -1 pas de commutation
        ; : numéro de la tache suivante
        ; = 0)
        ; = 0)
        ; = 0)

        ; !!! edx
        ; !!! edi

        ; trouver la tache ayant la plus grande priorité

        mov ebx, 0 ; bl: la tache trouvée – bh: la tache en cours de test
        mov ecx, 0
        mov edi, TableTSS
        add edi, TSS.tache
        .boucle:
        mov al, [edi + TACHE.etat]
        cmp al, 0
        jbe @F ; tache morte ou supendue
        mov edx, [edi + TACHE.priorite]
        cmp ecx, edx
        jb @F ; plus petit
        mov ecx, edx ; on conserve la priorité la plus haute
        mov bl, bh ; on conserve le numéro de la tache
        mov esi, edi ; on conserve l’adresse du TSS de la tache
        @@:
        add edi, LG_TSS
        inc bh
        cmp bh, NB_MAX_TACHE
        jne .boucle ; parcourir toutes les taches

        cmp bl, [TacheActuelle]
        je .sans

        dec cl ; décrémente l’octet d’ordre de cette tache
        mov [esi + TACHE.priorite], ecx
        cmp [esi + TACHE.type], TYPE_TACHE_EXPECTATIF
        jne .bon ; tous les autres types = commutation
        cmp al, ETAT_TACHE_BOUCLE
        jne .bon ; on est pas dans la boucle
        cmp [esi + TACHE.nbMesPendants], 0
        jne .bon
        bt ecx, 8 ; est-ce la tache P0 (système minimal)
        jne TacheSuivante ; NON trouver la tache suivante

        .sans: mov ebx, -1 ; pas de commutation pour ce coup-ci
        ret

        .bon: mov bh, 0 ; ebx = tache à venir
        ret

  8. Quand la réalité rejoint la fiction, mais dans la fiction les victimes sont justes des figurants la réalité est totalement différente. De plus un scénario du soulèvement des machines n’est pas impossible, dans lequel les programmes se rebelles et peuvent lancer des attaques notamment nucléaires de manière autonome. En écrivant ces lignes j’ai des frissons qui me traversent la moelle épinière à la seule idée d’imaginer que l’homme pour s’autodétruire, continue et continuera à utiliser des armes d’un potentiel destructeur sans cesse accru et d’une redoutable efficacité.

Qu'en pensez-vous ?

Entrez vos coordonnées ci-dessous ou cliquez sur une icône pour vous connecter:

Logo WordPress.com

Vous commentez à l'aide de votre compte WordPress.com. Déconnexion / Changer )

Image Twitter

Vous commentez à l'aide de votre compte Twitter. Déconnexion / Changer )

Photo Facebook

Vous commentez à l'aide de votre compte Facebook. Déconnexion / Changer )

Photo Google+

Vous commentez à l'aide de votre compte Google+. Déconnexion / Changer )

Connexion à %s

%d blogueurs aiment cette page :