L’intelligence artificielle guidée par l’intelligence éthique
« Je n’ai pas consacré 27 années de ma vie à un système pour qu’il fasse du tort à notre planète. » Ces mots sont de la bouche de Michael Stewart, co-fondateur et PDG de l’entreprise d’intelligence artificielle Lucid — si non e vero e ben trovato — qui commercialise depuis peu un système d’IA dont la mise au point aura pris des décennies.
« Je n’ai pas consacré 27 années de ma vie à un système pour qu’il fasse du tort à notre planète. » Ces mots sont de la bouche de Michael Stewart, co-fondateur et PDG de l’entreprise d’intelligence artificielle Lucid — si non e vero e ben trovato — qui commercialise depuis peu un système d’IA dont la mise au point aura pris des décennies.
Bien décidé à ce que sa technologie soit exploitée à bonne fin, Michael Stewart s’est associé à la juriste Kay Firth-Butterfield pour mettre sur pied un comité consultatif d’éthique chargé d’orienter les choix de l’entreprise et de ses clients.
Le système d’IA de Lucid a pour nom « Cyc ». Le projet Cyc a été initié en 1984 par le célèbre informaticien Doug Lenat. Lenat et Stewart ont collaboré de nombreuses années, avant de finalement fonder Lucid le jour où ils décidèrent que leur système était fin prêt.
Terra incognita
Toute nouvelle technologie peut se révéler à la fois bénéfique et nuisible, mais plus que toute autre l’intelligence artificielle pourrait avoir un effet profondément néfaste sur notre espèce. Se pose par exemple le problème du contrôle : comment être certain qu’une super-intelligence restera bien sous contrôle humain ? Ou encore, du côté économique : si l’IA remplace le travail humain à grande échelle, cela entraînera-t-il des inégalités de richesse ?
L’émergence de l’IA soulève toutes sortes de questions complexes, dont nombre d’entre elles sont déjà étudiées par les acteurs eux-mêmes. Dans le monde universitaire par exemple, le Centre for the Study of Existential Risk (CSER) de l’université de Cambridge a créé un programme d’études des risques liés à l’IA. L’an dernier a été lancée OpenAI, une association à but non lucratif dont les recherches en IA seront rendues publiques. Dans le monde des entreprises d’IA, Lucid est sans doute la première dont la stratégie commerciale s’appuie sur les conseils d’un comité consultatif d’éthique.
La suite de cet article (au sujet passionnant) est en anglais.
Bien décidé à ce que sa technologie soit exploitée à bonne fin, Michael Stewart s’est associé à la juriste Kay Firth-Butterfield pour mettre sur pied un comité consultatif d’éthique chargé d’orienter les choix de l’entreprise et de ses clients.
Le système d’IA de Lucid a pour nom « Cyc ». Le projet Cyc a été initié en 1984 par le célèbre informaticien Doug Lenat. Lenat et Stewart ont collaboré de nombreuses années, avant de finalement fonder Lucid le jour où ils décidèrent que leur système était fin prêt.
Terra incognita
Toute nouvelle technologie peut se révéler à la fois bénéfique et nuisible, mais plus que toute autre l’intelligence artificielle pourrait avoir un effet profondément néfaste sur notre espèce. Se pose par exemple le problème du contrôle : comment être certain qu’une super-intelligence restera bien sous contrôle humain ? Ou encore, du côté économique : si l’IA remplace le travail humain à grande échelle, cela entraînera-t-il des inégalités de richesse ?
L’émergence de l’IA soulève toutes sortes de questions complexes, dont nombre d’entre elles sont déjà étudiées par les acteurs eux-mêmes. Dans le monde universitaire par exemple, le Centre for the Study of Existential Risk (CSER) de l’université de Cambridge a créé un programme d’études des risques liés à l’IA. L’an dernier a été lancée OpenAI, une association à but non lucratif dont les recherches en IA seront rendues publiques. Dans le monde des entreprises d’IA, Lucid est sans doute la première dont la stratégie commerciale s’appuie sur les conseils d’un comité consultatif d’éthique.
La suite de cet article (au sujet passionnant) est en anglais.
