Affichage des articles dont le libellé est Éthique. Afficher tous les articles
Affichage des articles dont le libellé est Éthique. Afficher tous les articles

jeudi 28 novembre 2019

L'intelligence artificielle devrait-elle bénéficier des mêmes protections éthiques que les animaux ?

Salut à tous,

 Du site Developpez.com : Oui, selon Aeon.

¨  Partout dans le monde, d'importantes recherches sur l'intelligence artificielle (IA) sont menées. Des organisations et entreprises technologiques à l'instar de Google et Facebook ne cessent d'investir dans ce domaine. Il est probable que nous ayons bientôt une IA à peu près aussi sophistiquée sur le plan cognitif que les animaux. Aeon pense que le moment est venu de commencer à se demander si, et dans quelles conditions, ces IA pourraient mériter les protections éthiques que nous accordons habituellement aux animaux.  
   Aeon se décrit comme étant une publication qui « pose les plus grandes questions et trouve les réponses les plus fraîches et les plus originales, fournies par les plus grandes autorités mondiales sur la science, la philosophie et la société ». Jusqu'à présent, les discussions sur les "droits de l'intelligence artificielle" ou les "droits des robots" ont été dominées par la question des obligations éthiques que nous aurions envers une intelligence humaine ou supérieure. Cependant, selon Aeon, penser ainsi pourrait avoir de graves conséquences morales. « Avant de créer un IA semblable à l'être humain et méritant une considération éthique semblable à celle de l'être humain, nous allons très probablement créer un IA inférieure à l'être humain, méritant une considération éthique inférieure à celle de l'être humain », écrit le magazine.

   Parlant de droit des animaux, les comités de soins évaluent les propositions de recherche pour s'assurer que les animaux vertébrés ne sont pas tués inutilement ou ne souffrent pas indûment. Si des cellules souches humaines ou, surtout, des cellules cérébrales humaines sont en cause, les normes de surveillance sont encore plus rigoureuses. La recherche biomédicale fait l'objet d'un examen minutieux, mais « la recherche sur l'IA, qui pourrait comporter certains des mêmes risques éthiques, ne fait actuellement l'objet d'aucun examen. Peut-être que ça devrait l'être », selon Aeon.


   Si une IA devait mériter une protection éthique, c'est qu'elle est dotée d'une conscience, c'est-à-dire qu'elle ressente de l'émotion, une joie et une peine évidentes. Aeon partage ce point de vue et pose une autre question : « comment saurons-nous quand nous aurons créé quelque chose capable de ressentir la joie ou la souffrance ? ». « l'IA pourrait bien se plaindre et se défendre en initiant une discussion sur ses droits, comme on le voit dans les films de science-fiction. Mais si l'IA est inarticulée, comme une souris ou un chien, ou si, pour une autre raison, elle est incapable de nous communiquer sa vie intérieure, elle n'a peut-être aucun moyen de signaler qu'elle souffre », souligne Aeon¨...  ( Voir l'article au complet )

 https://intelligence-artificielle.developpez.com/actu/285465/L-intelligence-artificielle-devrait-elle-beneficier-des-memes-protections-ethiques-que-les-animaux-Oui-selon-Aeon-qui-propose-la-creation-de-comites-de-surveillance-charges-d-evaluer-les-risques/

Pégé 


Windows 7 / Windows 10 / Ubuntu 18.04 LTS / Linux Mint 19

dimanche 15 septembre 2019

Apprentissage profond (Deep Learning), le grand trou noir de l’intelligence artificielle !

Salut à tous,

 Du site Maddyness : Les arbitrages réalisés par les réseaux de neurones sont tellement complexes qu’ils sont impossibles à justifier. Une petite bombe juridique et éthique se prépare.

 ¨ En quelques années, les réseaux de neurones ont supplanté la plupart des autres méthodes d’intelligence artificielle (IA). Plutôt que de chercher à modéliser une vaste quantité d’informations (par exemple calculer tous les coups possibles dans une partie d’échec), ces réseaux de neurones apprennent tous seuls en digérant des millions de données. C’est ainsi qu’AlphaGo, le programme de Google, a battu les meilleurs champions de jeu de Go en 2016 et 2017. Il a observé des dizaines de milliers de parties menées par des joueurs de haut niveau pour devenir lui-même expert.
  
   Cet apprentissage profond (ou Deep Learning) repose sur des couches successives des «neurones» qui effectuent chacun des petits calculs simples. Chaque résultat est transmis à la couche suivante, le niveau de complexité étant de plus en plus élevé. Au final, des résultats bluffants. L’ordinateur est ainsi capable de détecter des tumeurs avant les médecins, prédire les futurs lieux de crimes ou offrir un rendement boursier bien supérieur aux traders humains. Certaines IA sont même en mesure de créer leurs propres musiques originales, d’imaginer un tableau de Van Gogh inédit ou d’inventer un nouveau langage.

« Comme le cerveau, vous ne pouvez pas couper la tête et regarder comment ça fonctionne »

   Mais contrairement à un algorithme codé par un chercheur, cette approche rend le fonctionnement du Deep Learning complètement opaque. «Une fois que le réseau de neurones a appris à reconnaître quelque chose, un développeur ne peut pas voir comment il a réussi. C’est comme le cerveau : vous ne pouvez pas couper la tête et regarder comment ça fonctionne», résume Andy Rubin, le cofondateur d’Android, aujourd’hui très impliqué dans l’intelligence artificielle.
  
Des milliers de textes légaux en déshérence
 
   Et c’est bien là le problème. Car lorsque surgira le moindre incident, personne sera capable de fournir une explication argumentée pour justifier la décision sous-jacente. Comment pourra-t-on se défendre face à un ordinateur vous ayant déclaré «terroriste» sur la base de son propre jugement ? Quid des erreurs de diagnostic pour une maladie grave ? Qui sera jugé responsable en cas d’accident d’une voiture autonome ?

   La notion de «préjudice prévisible», à laquelle font référence nombre de textes légaux sera impossible à définir dès lors que le comportement d’une IA est, par nature, imprévisible¨...
( Voir l'article au complet )

https://www.maddyness.com/2019/08/20/ia-deep-learning-trou-noir-intelligence-artificielle/

Pégé

Windows 7 / Windows 10 / Ubuntu 18.04 LTS / Linux Mint 19

vendredi 18 mai 2018

Militarisation de l'intelligence artificielle !

Salut à tous,  


 Du site Radio-Canada : « L’ampleur des dégâts pourrait être sans limites »

   ¨ Une sortie publique d'employés de Google remet de l'avant les questions éthiques soulevées par le développement à vitesse grand V de l'intelligence artificielle et son utilisation à des fins militaires. Des spécialistes appellent les instances internationales à réglementer ces systèmes d'armes létaux autonomes (SALA) pour prévenir toute utilisation « malveillante ».
  
   Dans une lettre publiée mercredi dans le New York Times, des milliers d’employés de Google dénoncent l’implication du géant du web dans un projet du Pentagone visant à développer des algorithmes, basés sur l'intelligence artificielle (IA), capables d'analyser les vidéos enregistrées par les drones militaires.

   La lettre, qui a récolté plus de 3100 signatures, reflète, selon le quotidien américain, « le conflit culturel opposant Silicon Valley au gouvernement fédéral ». Ce conflit risque de « s’intensifier avec l’utilisation de plus en plus fréquente de l’intelligence artificielle à des fins militaires », poursuit le journal.

   Les signataires de la lettre affirment que le projet conjoint avec le Pentagone, baptisé Maven, « causera des dommages irréparables » à la réputation de l’entreprise californienne.
« Google ne doit pas s’impliquer dans l'industrie de la guerre », peut-on lire dans la lettre adressée à Sundar Pichai, président-directeur général de Google.

 Un encadrement international nécessaire !  
   <<Les développeurs de l’intelligence artificielle sont en train de créer des outils qui peuvent être utilisés de manière malveillante s’ils fonctionnent avec peu ou sans aucune intervention humaine. S’ils sont uniquement développés à des fins militaires, l’ampleur des dégâts pourrait être sans limites>>.
 
La responsabilité des entreprises
  Abhishek Gupta, chercheur en déontologie de l'intelligence artificielle de l'Université McGill, est du même avis : « Il est essentiel d'avoir les discussions nécessaires autour des questions entourant l'éthique, la responsabilité, le contrôle, la transparence, la partialité et la confidentialité dans le développement et le déploiement de ces technologies. »¨...
( Voir l`article au complet )

 https://ici.radio-canada.ca/nouvelle/1093360/google-maven-intelligence-artificielle-technologie-pentagone-wendell-wallach-yale-militarisation

Pégé 
 
Windows 7 Familiale / Windows XP Pro / Windows 10 / Windows 7 Intégrale / Ubuntu 14.04 LTS / Linux Mint 17 / Mac ¨Tiger¨, version 10.4.11