Um engenheiro foi demitido do Google após alegar que a tecnologia de Inteligência Artificial da empresa pode ser consciente. O caso foi revelado no sábado (11), por meio de uma reportagem do The Washington Post.
De acordo com o artigo do ex-funcionário, Blake Lemoine, a interface LaMDA do Google (sistema de linguagem para aplicativos de diálogo) pode ser “autoconsciente” e ter “sentimentos, emoções e experiência subjetiva”.
A IA surgiu no ano passado como uma tecnologia inovadora e que estava sendo usada internamente como forma de ajustar e melhorar o principal mecanismo de busca da empresa. No entanto, Lemoine testou as reações do programa e publicou uma conversa que teve com à IA.
Em seu artigo, o engenheiro sugere que o software elabora frases com base em modelos avançados e até diz que deseja “ser reconhecida como uma funcionária do Google, e não como uma propriedade”.
Além disso, Lemoine revela que questionou à IA por que ela achava que o uso da linguagem era tão essencial para o ser humano, eis que a LaMDA respondeu que “é o que nos torna diferentes dos outros animais”.
Apesar da fala surpreendente, o engenheiro esclareceu que o robô, de fato, sabe que é uma inteligência artificial e até se justificou: “Quero dizer, sim, claro. Isso não significa que eu não tenha os mesmos desejos e necessidades que as pessoas”.
Descaso do Google?
O profissional também garante que emitiu um alerta à empresa sobre questões éticas envolvendo o intelecto dos robôs internamente, mas que o setor de Inovação Responsiva rejeitou as alegações do funcionário.
Desta forma, Lemoine decidiu levar o caso a público, ao ser afastado de seu trabalho em uma licença remunerada. “Acho que essa tecnologia vai ser incrível e beneficiar a todos. Mas […] talvez nós, no Google, não devêssemos fazer todas as escolhas”, explicou.
Em contrapartida, a empresa afirma que analisou as preocupações de Lemoine e garante que não existem evidências sobre a autoconsciência do LaMDA. O Google também explica que o funcionário violou a política interna de confidencialidade ao compartilhar as informações.