Dans Accueil
L'intelligence artificielle, souvent abrégée avec le sigle IA, est définie par l’un de ses créateurs, Marvin Lee Minsky, comme : " la construction de programmes informatiques qui s'adonnent à des tâches qui sont pour l'instant , accomplies de façon plus satisfaisante par des êtres humains car elles demandent des processus mentaux de haut niveau tels que : l'apprentissage perceptuel , l'organisation de la mémoire et le raisonnement critiquée . "
Le 22/11/2019
De Stephen Hawking à Elon Musk, certains des plus grands esprits du monde dans le domaine de l'intelligence artificielle s'inquiètent du fait que l'IA représente une menace existentielle pour notre espèce.
Mais selon un nouveau livre, ce ne sont pas les robots qui prennent conscience d'eux-mêmes et se révoltent contre leurs maîtres humains qu'il faut craindre, mais les machines qui deviennent si bonnes pour poursuivre les objectifs que nous leur avons fixés, que nous finissons par être anéantis en leur fixant par inadvertance les mauvaises tâches.
Le professeur Stuart Russell de l'Université de Californie, Berkeley, est l'auteur de "Human Compatible : AI and the Problem of Control", et un expert sur les progrès rendus possibles par l'apprentissage machine.
"Le scénario hollywoodien décrit toujours la machine devient spontanément consciente et décide ensuite qu'elle déteste les êtres humains et qu'elle veut tous nous tuer", a-t-il déclaré à la BBC.
Mais les robots n'ont pas de sentiments humains, donc "ce n'est pas du tout le bon point à prendre en compte".
"Ce n'est pas vraiment une mauvaise conscience. C'est la compétence dont nous devons nous préoccuper - juste la compétence dans la poursuite d'un objectif que nous avons mal spécifié."
Dans une interview accordée à l'émission Today de la BBC, il a donné un exemple hypothétique de la menace réelle que l'IA pourrait représenter.
Imaginez que nous disposions d'un puissant système d'IA capable de contrôler le climat de la planète et que nous voulons utiliser pour ramener les niveaux de CO2 dans notre atmosphère aux niveaux préindustriels.
"Le système se rend compte que la façon la plus simple d'y parvenir est de se débarrasser de tous les êtres humains, parce que ce sont eux qui produisent tout ce dioxyde de carbone en premier lieu ", a dit le professeur Russell.
"Et vous pourriez dire, eh bien, vous pouvez faire tout ce que vous voulez, mais vous ne pouvez pas vous débarrasser des êtres humains. Alors, que fait le système ? Ça nous convainc d'avoir moins d'enfants jusqu'à ce qu'il n'y ait plus d'êtres humains."
L'exemple sert à mettre en évidence les risques associés à l'intelligence artificielle agissant selon des instructions auxquelles les humains n'ont pas pensé.
Selon le Centre d'étude du risque existentiel de l'Université de Cambridge, au Royaume-Uni, la plupart des systèmes d'IA actuels sont des applications "étroites", spécifiquement conçues pour s'attaquer à un problème bien défini dans un domaine précis.
Un moment marquant pour ce domaine est venu en 1997, lorsque l'ordinateur Deep Blue a battu le champion du monde en titre aux échecs Garry Kasparov dans un match de six parties.
Mais malgré l'exploit, Deep Blue a été spécialement conçu par les humains pour jouer aux échecs et serait perdu dans une simple partie de dames.
Ce n'est pas le cas avec les progrès ultérieurs de l'intelligence artificielle.
Le logiciel AlphaGo Zero, par exemple, a atteint un niveau de performance surhumain après seulement trois jours de jeu Go contre lui-même.
Utilisant l'apprentissage profond, une méthode d'apprentissage machine qui utilise des réseaux neuronaux artificiels, AlphaGo Zero a exigé beaucoup moins de programmation humaine et s'est avéré être un très bon joueur de Go, d'échecs et de shogi.
Ce qui est peut-être alarmant, c'est qu'il était entièrement autodidacte.
"Au fur et à mesure qu'un système d'IA devient plus puissant et plus général, il peut devenir super-intelligent - supérieur à la performance humaine dans de nombreux ou presque tous les domaines ", explique le Centre des risques existentiels.
Et c'est pourquoi, selon le professeur Russell, les humains doivent reprendre le contrôle.
Bbc
Les États membres de l'Unesco ont décidé jeudi de mandater cette agence de l'ONU pour travailler à l'élaboration de normes éthiques en matière d'intelligence artificielle, a-t-on appris auprès de l'Unesco.
"Ce fut une décision à l'unanimité" de la part de pays aux positions très diverses sur ces questions, "c'est une belle journée !", s'est-on félicité au Secrétariat de l'organisation des Nations unies pour l'éducation, la science et la culture, après la décision des 193 pays membres.
L'Unesco va donc faire appel à des experts internationaux qui travailleront au cours des 18 prochains mois "au premier instrument normatif mondial" dans ce domaine.
À l'ouverture de la conférence générale de l'institution (12-27 novembre), sa directrice générale, Audrey Azoulay, avait plaidé pour "la construction d'une vision partagée des questions d'éthique liées à l'intelligence artificielle" qui "s'appuie sur le réseau d'experts" de l'Unesco et sa "légitimité politique".
"L'intelligence artificielle dépasse le registre de l'innovation, c'est aussi une rupture anthropologique majeure qui nous place devant des choix éthiques", a-t-elle lancé en appelant la Conférence générale à "prendre une décision historique" en donnant ce mandat à l'Unesco.
Les experts vont donc réfléchir aux moyens d'encadrer le développement de l'IA par un certain nombre de grands principes, sans l'entraver pour autant.
Ils se pencheront sur tous les sujets qu'ils estimeront nécessaires, affirme-t-on à l'Unesco, liés par exemple à la diversité culturelle ou de genre, ou encore à la diffusion des savoirs et technologies, les pays en développement ne souhaitant pas rester en marge de cette révolution technologique.
Un des problèmes les plus souvent évoqués en matière d'IA sont les algorithmes discriminatoires, du fait des biais introduits par les humains.
L'IA est en effet basée sur l'apprentissage automatisé à partir de données insérées par le concepteur, que la machine analyse. Si cette matière première est biaisée, le résultat ne peut qu'en être faussé.
Ajouter un commentaire
