Ethically Aligned Design

Le mois dernier, j’attirais ici votre attention sur « l’économie de l’attention », cette forme moderne de subjugation dans laquelle nous baignons. J'y reviens alors que c’est une idée que nous préférerions oublier. Il serait plus confortable en effet d’ignorer que, pour nous envoûter, des sociétés ivres de leur puissance mettent à contribution les meilleures intelligences. Pour rassurer et séduire, elles nous comblent de bienfaits, en jouant des moyens inouïs que l’électronique programmable met à leur disposition. Contrairement à de nombreux contemporains, je n'ai pas l’illusion, face à cette pression, de décider librement ce que je fais ou ne fais pas en réponse à ces irrésistibles stimuli.
Si je prends le risque de vous lasser, c’est parce qu’entre temps sont intervenus trois faits frappants. Des deux premiers, inquiétants, l’un est personnel, et banal pour quiconque a des enfants autour de soi : en famille, durant les fêtes, je me suis aperçu que si je laissais traîner un écran tactile, mon petit-fils de 2 ans 1/2 y repère infailliblement le logo de YouTube. En un clin d’œil, il lance l’application.

Le deuxième fait est professionnel, non moins frappant, et concerne Alexa, le système de commande vocale d’Amazon, passé à peu près inaperçu jusqu’ici dans les colonnes d’Elektor. Il vient pourtant de défrayer la chronique du Consumer Electronics Show 2017 par son omniprésence. En voici un compte-rendu qui vaut le détour.

Le troisième fait, rassurant, confirme que mes préoccupations sont partagées, et pas par n’importe qui : la très professionnelle IEEE vient de publier un document intitulé Ethically Aligned Design: A Vision for Prioritizing Human Wellbeing with Artificial Intelligence and Autonomous Systems (AI/AS) pour « encourager les concepteurs à donner la priorité aux considérations éthiques dans la création de techniques intelligentes et autonomes ».

J'invite vivement les lecteurs d'Elektor à en prendre connaissance, car sa mission est de  « stimuler une discussion publique sur la manière dont ces techniques intelligentes et autonomes peuvent être mises au diapason de valeurs morales et de principes éthiques afin de laisser la priorité au bien-être humain ».