Salut à tous,
¨ En quelques années, les réseaux de neurones ont supplanté la plupart des
autres méthodes d’intelligence artificielle (IA). Plutôt que de chercher
à modéliser une vaste quantité d’informations (par exemple calculer
tous les coups possibles dans une partie d’échec), ces réseaux de
neurones apprennent tous seuls en digérant des millions de données.
C’est ainsi qu’AlphaGo, le programme de Google, a battu les meilleurs
champions de jeu de Go en 2016 et 2017. Il a observé des dizaines de
milliers de parties menées par des joueurs de haut niveau pour devenir
lui-même expert.
Des milliers de textes légaux en déshérence
Et c’est bien là le problème. Car lorsque surgira le moindre incident, personne sera capable de fournir une explication argumentée pour justifier la décision sous-jacente. Comment pourra-t-on se défendre face à un ordinateur vous ayant déclaré «terroriste» sur la base de son propre jugement ? Quid des erreurs de diagnostic pour une maladie grave ? Qui sera jugé responsable en cas d’accident d’une voiture autonome ?
La notion de «préjudice prévisible», à laquelle font référence nombre de textes légaux sera impossible à définir dès lors que le comportement d’une IA est, par nature, imprévisible¨...
( Voir l'article au complet )
https://www.maddyness.com/2019/08/20/ia-deep-learning-trou-noir-intelligence-artificielle/
Pégé
Windows 7 / Windows 10 / Ubuntu 18.04 LTS / Linux Mint 19
Du site Maddyness : Les arbitrages réalisés par les réseaux de neurones sont tellement
complexes qu’ils sont impossibles à justifier. Une petite bombe
juridique et éthique se prépare.
¨ En quelques années, les réseaux de neurones ont supplanté la plupart des
autres méthodes d’intelligence artificielle (IA). Plutôt que de chercher
à modéliser une vaste quantité d’informations (par exemple calculer
tous les coups possibles dans une partie d’échec), ces réseaux de
neurones apprennent tous seuls en digérant des millions de données.
C’est ainsi qu’AlphaGo, le programme de Google, a battu les meilleurs
champions de jeu de Go en 2016 et 2017. Il a observé des dizaines de
milliers de parties menées par des joueurs de haut niveau pour devenir
lui-même expert.
Cet apprentissage profond (ou
Deep Learning) repose sur des couches successives des «neurones» qui
effectuent chacun des petits calculs simples. Chaque résultat est
transmis à la couche suivante, le niveau de complexité étant de plus en
plus élevé. Au final, des résultats bluffants. L’ordinateur est ainsi
capable de détecter des tumeurs avant les médecins, prédire les futurs
lieux de crimes ou offrir un rendement boursier bien supérieur aux
traders humains. Certaines IA sont même en mesure de créer leurs propres
musiques originales, d’imaginer un tableau de Van Gogh inédit ou
d’inventer un nouveau langage.
« Comme le cerveau, vous ne pouvez pas couper la tête et regarder comment ça fonctionne »
Mais contrairement à un algorithme codé par un chercheur, cette approche rend le fonctionnement du Deep Learning complètement opaque. «Une fois que le réseau de neurones a appris à reconnaître quelque chose, un développeur ne peut pas voir comment il a réussi. C’est comme le cerveau : vous ne pouvez pas couper la tête et regarder comment ça fonctionne», résume Andy Rubin, le cofondateur d’Android, aujourd’hui très impliqué dans l’intelligence artificielle.
Des milliers de textes légaux en déshérence
Et c’est bien là le problème. Car lorsque surgira le moindre incident, personne sera capable de fournir une explication argumentée pour justifier la décision sous-jacente. Comment pourra-t-on se défendre face à un ordinateur vous ayant déclaré «terroriste» sur la base de son propre jugement ? Quid des erreurs de diagnostic pour une maladie grave ? Qui sera jugé responsable en cas d’accident d’une voiture autonome ?
La notion de «préjudice prévisible», à laquelle font référence nombre de textes légaux sera impossible à définir dès lors que le comportement d’une IA est, par nature, imprévisible¨...
( Voir l'article au complet )
https://www.maddyness.com/2019/08/20/ia-deep-learning-trou-noir-intelligence-artificielle/
Pégé
Windows 7 / Windows 10 / Ubuntu 18.04 LTS / Linux Mint 19
Aucun commentaire:
Enregistrer un commentaire