Le professeur britannique de robotique Noel Sharkey est très remonté contre le ministère de la défense américain, qui prévoit de consacrer 4 milliards de dollars (2,6346 milliards d’euros) aux “systèmes autonomes” au cours des deux prochaines années. Sa crainte est que les retombées de ces recherches permettent à des terroristes de fabriquer des robots-kamikazes guidés par GPS pour moins de 500$ (330 €).
Et ses interrogations sont légitimes:
“Combien de temps faudra-t-il avant que les terroristes ne les utilisent? Avec le prix des robots qui ne cesse de chuter et la disponibilité de composants prêts à l’emploi pour les particuliers, il serait relativement facile de construire des armes robotisées autonomes.”
Et Noel Sharkey se pose également des questions plus philosophiques, qui viennent en écho à celles formulées par Isaac Asimov voici plus d’un demi-siècle. Selon New Scientist:
Sharkey est surtout préoccupé par la perspective de robots qui décideront par eux même quand “appuyer sur la queue de détente”. Actuellement, un humain est toujours présent dans ce genre de prises de décisions. Mais le Pentagone travaille depuis près deux ans sur un programme de recherche visant à laisser les robots identifier des menaces potentielles sans assistance humaine.
Mais Ronald Arkin de Georgia Tech, considère pour sa part que le robot pourrait être un tueur plus “éthique”, du fait de son absence de bagage émotionnel:
Arkin suggère de concevoir des systèmes de contrôle éthiques qui font obéir les robots à la Convention de Genève et aux autres règles d’engagement sur le terrain… “Avec un robot, je peux être certain qu’un robot ne nourrira jamais l’intention de blesser un non-combattant”, explique-t-il. “A terme, ils seront plus efficaces que les humains.
Sharkey, Arkin et leurs confrères se sont retrouvés à Londres pour débattre de ces épineuses questions au cours d’un symposium consacré aux “implications éthiques et légales de l’utilisation de véhicules autonomes pour des besoins de défense et de sécurité”.
Ont-ils pensé à faire témoigner Sarah Connor?
R.A.B
Posté le 28/02/2008 19:04:46
l'avantage du robot kamikaze, c'est que t'es pas obligé de lui promettre 1000 vierges pour qu'il s'exécutent
Après, l'éthique c'est bien beau, malheureusement d'autres pays sont en train de développer des robots policiers, des drones etc j'en passe et des meilleurs, il est donc compréhensible que les autres pays s'alignent sur ces technologies.
dqr33
Posté le 28/02/2008 19:12:59
Les 3 lois d'Isaac Asimov régissant le comportement des robots sont toujours d'actualité...
Faudrait que je les retrouve.
Première Loi
Un robot ne peut blesser un être humain ni, par son inaction, permettre qu'un humain soit blessé.
Deuxième Loi
Un robot doit obéir aux ordres donnés par les êtres humains, sauf si de tels ordres sont en contradiction avec la Première Loi.
Troisième Loi
Un robot doit protéger sa propre existence aussi longtemps qu'une telle protection n'est pas en contradiction avec la Première et/ou la Deuxième Loi.
Mais, bon, avec un robot kamikase...
-->Message édité par dqr33 le 28/02/2008 19:15:55<--
John Bob
Posté le 28/02/2008 19:29:07
Merci pour les trois lois, je ne m'en souvenais plus.
Par contre je me dis que si les lois sont intégrées lors de la fabrication des robots, si on hack (pirate) le robot qu'on lui fasse une refonte totale du programme, on n'est pas dans la m@#>
Les terroriste sont en général compétent dans les détournements.
augole
Posté le 28/02/2008 21:28:33
il faudrait aussi que leur autonomie soient faible, ça limiterait les risques en cas de "déréglage" !
dqr33
Posté le 28/02/2008 23:48:41
Attention, il ne s'agit pas de "limiter" des robots existants, mais bien d'en fabriquer de toute pièce...
Là, il est plus difficile de garder la main !
augole
Posté le 29/02/2008 18:14:54
je suis mitigé sur les robots, y'a l'aspect "révolution technologique" qui est sympa, mais me revient sans cesse un manga où les robots "domestiques" finissent par se lasser de n'être que nos esclaves et se retournent contre nous, pas beau à voir (dans la même lignée que Terminator, mais plus poussé)
mpil
Posté le 29/02/2008 19:38:36
j'ai trop lu asimov et les dérives des robots malgré les trois lois pour avoir confiance en un robot.
surtout qu'un robot n'est produit que par l'homme
avec tous les défauts de l'homme bien sûr...
-------
ce qu'il y a de sûr avec les gens de mauvais goût
c'est qu'ils ne font pas de fautes de bon goût.
augole
Posté le 29/02/2008 20:04:28
ouaih carrement, et les 3 lois... j'y crois moyen, c'est "rapide" de reprogrammer quelque chose
1
