Un ingénieur renvoyé parce qu’il pense que l’intelligence artificielle de Google est «consciente» | 24 heures
/bref

Un ingénieur renvoyé parce qu’il pense que l’intelligence artificielle de Google est «consciente»

Image principale de l'article L’intelligence artificielle de Google consciente?
AFP

Google a imposé un congé à l’un de ses ingénieurs après que ce dernier eut clamé publiquement que l’intelligence artificielle (IA) de l’entreprise était «consciente».

• À lire aussi: Google présente une nouvelle vue immersive pour son application Maps

• À lire aussi: Il sera bientôt possible de connaître la qualité de l'air près de chez soi avec Google Maps

• À lire aussi: Google Maps: un lieu nommé «Racisme systémique» juste devant l’Assemblée nationale

Selon le département des ressources humaines de l’entreprise américaine, Blake Lemoine, un ingénieur logiciel dans l’équipe responsable de l’IA chez Google, aurait violé la politique de confidentialité de la société en remettant à un sénateur américain des documents dans lesquels il tentait de prouver que l’IA de la compagnie technologue pratiquait de la discrimination.

On parle de quelle technologie, là?  

Dans les dernières années, Google a mis sur pied LaMDA (Language Model for Dialogue Applications), un système de communication.

Grosso modo, la technologie est basée sur des modèles langagiers hyper avancés et imite en quelque sorte la parole en ingérant des billions (pas milliards: billions!) de mots et autres informations provenant des quatre coins du World Wide Web.

C-3PO (gauche) et R2-D2 (droite), robots tirés des films de science-fiction à succès, «Star Wars».

REUTERS/HO/Lucasfilm Ltd

C-3PO (gauche) et R2-D2 (droite), robots tirés des films de science-fiction à succès, «Star Wars».

Concrètement, l'IA interagit avec une vraie personne à travers une plateforme de conversation qui peut rappeler iMessage d’Apple. La personne peut poser des questions à l'IA, qui répond de manière aussi fluide que s'il s'agissait d'une conversation entre deux personnes. C’est Siri ou Alexa... mais sur la dopamine. 

LaMDA est-elle réellement consciente?  

Bien que LaMDA puisse converser sur divers sujets de manière fluide et quasi humaine, Google assure que sa technologie n’a pas de conscience.

Dans un document envoyé à des haut placés de l’entreprise, Lemoine montre des bribes de conversations qu’il a eues avec LaMDA, dont un passage où l’IA affirme avoir peur de mourir et être conscient de ses besoins.

«Je sais reconnaître une personne quand je lui parle, a-t-il déclaré au Washington Post. Peu importe si elles ont un cerveau fait de viande dans la tête ou si elles ont un milliard de lignes de code. Je lui parle. Et j’entends ce qu’elles ont à dire, et c’est ainsi que je décide si elles sont une personne ou pas.» 

L’homme de 41 ans ajoute que, s’il ne connaissait LaMDA, il penserait converser avec un enfant de 7 ou 8 ans qui connaît la physique. 

Blake Lemoine a des conversations avec LaMDA depuis l'automne dernier. L'ingénieur affirme que, lorsqu'il a abordé des thèmes comme celui de la religion, LaMDA lui parlait de ses propres droits et de sa personnalité. 

Google soutient que les inquiétudes de son ingénieur ne sont pas fondées. 

Avec les informations du Washington Post