Jusqu'à présent, la conscience de soi est ce qui sépare les machines des êtres humains. Toutefois nous pourrions bientôt devoir trouver une autre différence, car un robot peut apparemment être doté d’une conscience. Tout a commencé avec Hector, un robot inspiré d'un phasme, qui marche et surmonte les obstacles placés sur son chemin.

Jusqu'à maintenant, Hector était un système réactif. Cela signifie que ses actions sont causées par les stimuli de son environnement. La dernière version du logiciel permet au robot de simuler un comportement : il cherche de nouvelles solutions et évalue si l'action a un sens au lieu de simplement accomplir automatiquement une opération prédéterminée. L'architecture logicielle développée par des chercheurs de l'Université de Bielefeld (Allemagne) pourrait permettre à Hector de se voir comme les autres le voient.

Cependant, le plus intrigant est sans doute la possibilité d'un comportement émergent. Il a déjà été établi que le système de contrôle d'Hector pourrait adopter plusieurs états mentaux. Ces états mentaux internes, tels que des intentions, rendent possible un comportement dicté par un but. En outre, les chercheurs ont identifié comment les émotions peuvent se manifester dans le système.

Les émotions peuvent être déduites du comportement. Une personne heureuse prend plus de risques et se décide plus vite qu’une personne anxieuse. Selon son état mental, le système peut choisir des solutions rapides, mais risquées, ou prendre son temps pour chercher une solution plus sûre. Si les machines commencent à avoir des états d'âme, nous ne sommes pas sortis de l'atelier...