Un récent rapport met en évidence les risques imminents de détournement des IA, les intelligences artificielles. Elles pourraient devenir de vraies armes et balayer l’ensemble des mécanismes de défense numérique.
Un danger imminent ?
Les scénarios de films nous ont déjà montré ce qu’étaient capables de faire des objets détournés : des drones tueurs, des voitures folles… Finalement, il semblerait que ces cas de science-fiction pourraient rapidement devenir réalité. Le Financial Times a publié un rapport dans lequel sont exprimées les menaces liées à un développement trop rapide et pas suffisamment encadré de l’intelligence artificielle. Et les conséquences pourraient être lourdes.
Voici le documentaire Découverte sur la révolution de l’intelligence artificielle :
Le rapport en question a été rédigé par d’éminents chercheurs de Yale, d’Oxford, de Cambrige ainsi que de l’association Open AI et de l’Electronic Frontier Foundation. Des pointures du secteur technologique dressent ainsi un constat très pessimiste de notre situation. Les performances de l’intelligence artificielle ont explosé ces cinq dernières années. La conception de nouvelles cyberarmes sera facilitée par une baisse conséquente des coûts. Ainsi, les menaces existantes vont s’étendre, et de nouveaux types d’attaques vont émerger.
Peu de pistes en termes de prévention
Le rapport précise quelque peu les menaces potentielles : les véhicules autonomes pourraient s’utiliser seuls et devenir des armes de guerre. Les objets de tous les jours deviendraient plus intelligents et menaçants. En outre, les attaques numériques seraient rendues plus efficaces par la puissance de l’IA.
Pourtant, les chercheurs disposent de peu de pistes concernant la prévention de ces dérives. Ils préconisent des formes d’autocensure et davantage de concertation. Enfin, ils encouragent à ne pas publier les détails des algorithmes jugés « sensibles ». Néanmoins, dans un contexte tel que le nôtre, où la compétition autour de l’IA est acharnée, et dans lequel s’affrontent les deux puissances mondiales (Chine et États-Unis), les spécialistes recherchent le plus souvent le meilleur employeur. Les conséquences et applications possibles de leurs travaux en matière d’IA leur importent peu. Une chose est cependant certaine : il est nécessaire qu’un cadre soit posé avant l’arrivée des voitures autonomes.
Ça vous a plu ? 4.4/5 (24)
