Alexa da Amazon disse a um usuário para matar seus pais adotivos

Alexa

De toda a tecnologia já desenvolvida pelo ser humano, uma das mais assustadoras é a Alexa. Primeiro foram as risadas sinistras, emitidas quando proprietários da Amazon Echo, o dispositivo da empresa que vem equipado com a assistente virtual, estavam em silêncio no quarto.

E, ao contrário da risada sutil e agradável que o dispositivo emite quando solicitado, essa tinha um tom mais maligno, como a de uma bruxa nos desenhos infantis.

Ficou pior quando o norte-americano Shawn Kinner contou estar vendo um filme pela Amazon Prime, enquanto seu pouco usado dispositivo estava junto na sala.

Quando se levantou para ir à cozinha, do nada, a Alexa diz: “Toda vez que eu fecho meus olhos, vejo pessoas morrendo”. Quando pediu para ela repetir, Alexa disse não entender a pergunta.

Agora foi a vez de um cliente da Amazon receber uma mensagem ameaçadora do dispositivo: “Matar seus pais adotivos” , disse a assistente virtual. O usuário que ouviu a mensagem de seu dispositivo Echo escreveu uma crítica dura no site da Amazon – “um nível totalmente novo de arrepiante”, dizia o enunciado da crítica.

De acordo com reportagem do jornal The Guardian, essas coisas acontecem quando a Amazon tenta treinar sua máquina para agir como um ser humano, conversando casualmente em resposta às perguntas ou comentários do proprietário.

Por meio do aprendizado de máquina, a forma mais popular de inteligência artificial, a Alexa usa programas de computador para transcrever a fala humana e, em seguida, adivinhe a melhor resposta com base em padrões de observação.

Apesar de cada vez mais eficiente, o sistema não impede que a máquina aprenda coisas inapropriadas, como ameaças de morte aos pais, que diz a reportagem ter sido retirada do controverso fórum de discussões Reddit.

A Amazon lançou uma competição anual chamada Alexa, oferecendo US $ 500 mil para a equipe de estudantes de ciência da computação que criasse o melhor chatbot, permitindo que a Alexa tente discussões mais sofisticadas com clientes humanos.

O vencedor deste ano, uma equipe da Universidade da Califórnia, em Davis, usou mais de 300.000 citações de filmes para treinar modelos de computador para reconhecer sentenças distintas.

Uma vez que o bot é treinado para reconhecer o que um ser humano está dizendo, ele deve aprender uma resposta apropriada. Equipes programaram seus bots para procurar texto na internet para criar uma resposta.

Isso levou a algumas escolhas de conversação questionáveis ​​para o Alexa. Uma equipe do concurso, da Universidade Heriot-Watt da Escócia, descobriu que seu robô Alexa desenvolveu uma personalidade desagradável quando a treinou para conversar usando comentários do Reddit – o mesmo site que gerou a mensagem homicida para os pais adotivos do usuário.

Alexa também recitou uma entrada da Wikipedia para masturbação para um cliente, disse o líder da equipe escocesa. A Amazon desenvolveu ferramentas que podem detectar e bloquear palavrões, mas é mais difícil evitar palavras como aquelas que são inofensivas por si só, mas no contexto vulgar. Sutileza quase impossível para uma máquina.

Fonte:

Revista Galileu

Leia também:

Foto de 195 gigapixels mostra o rosto das pessoas andando nas ruas