SAN FRANCISCO – Google a licencié l’un de ses ingénieurs, Blake Lemoine, vendredi, plus d’un mois après avoir soulevé des préoccupations éthiques sur la façon dont l’entreprise testait un chatbot d’intelligence artificielle qui, selon lui, a atteint la conscience.
Un porte-parole de Google, Chris Pappas, a déclaré que M. Lemoine, ingénieur logiciel senior au sein de son organisation Responsible AI, « a choisi de violer de manière persistante des politiques claires en matière d’emploi et de sécurité des données qui incluent la nécessité de protéger les informations sur les produits ».
L’entreprise, qui nie que son modèle de langage de chatbot soit sensible, avait placé M. Lemoine en congé payé en juin. M. Lemoine a confirmé son congédiement dans un message texte vendredi et a déclaré qu’il rencontrait des avocats pour examiner ses options. Le tir a d’abord été rapporté par la newsletter Big Technology.
M. Lemoine a fait sensation le mois dernier lorsqu’il Raconté Le Washington Post qu’il croyait que le modèle linguistique de Google pour les applications de dialogue, ou LaMDA, était sensible – déclenchant des craintes que l’IA se rapproche d’un film de science-fiction dystopique et un débat houleux sur la question de savoir si un programme informatique peut vraiment avoir une âme. Sa suspension a également conduit à des théories du complot quant à savoir si cela faisait partie d’une dissimulation par Google.
Pour Google, il s’agissait d’une autre dans une série de controverses locales sur l’éthique et le rôle de son IA, un domaine technologique sur lequel l’entreprise a misé son avenir.
L’affirmation de M. Lemoine selon laquelle LaMDA est sensible a été critiquée par l’entreprise et de nombreux autres experts en intelligence artificielle qui ont déclaré que ces types de chatbots – des logiciels qui simulent une conversation textuelle avec un autre humain, souvent utilisés pour le service client – ne sont pas assez avancés pour être conscient.
« Si un employé partage des préoccupations concernant notre travail, comme Blake l’a fait, nous les examinons en profondeur », a déclaré M. Pappas. « Nous avons trouvé que les affirmations de Blake selon lesquelles LaMDA est sensible étaient totalement infondées et avons travaillé pour clarifier cela avec lui pendant de nombreux mois. »
En plus de faire part de ses inquiétudes aux médias, M. Lemoine a déclaré en juin qu’il avait remis des documents à un sénateur américain, qu’il n’a pas identifié, affirmant qu’ils fournissaient des preuves que Google et sa technologie se livraient à une discrimination religieuse.
