De acordo com especialistas, é quase impossível que a inteligência artificial que move a Alexa saiba exatamente o que é apropriado ou não dizer
De toda a tecnologia já desenvolvida pelo ser humano, uma das mais assustadoras é a Alexa. Primeiro foram as risadas sinistras, emitidas quando proprietários da Amazon Echo, o dispositivo da empresa que vem equipado com a assistente virtual, estavam em silêncio no quarto.
E, ao contrário da risada sutil e agradável que o dispositivo emite quando solicitado, essa tinha um tom mais maligno, como a de uma bruxa nos desenhos infantis.
Ficou pior quando o norte-americano Shawn Kinner contou estar vendo um filme pela Amazon Prime, enquanto seu pouco usado dispositivo estava junto na sala.
Quando se levantou para ir à cozinha, do nada, a Alexa diz: “Toda vez que eu fecho meus olhos, vejo pessoas morrendo”. Quando pediu para ela repetir, Alexa disse não entender a pergunta.
Agora foi a vez de um cliente da Amazon receber uma mensagem ameaçadora do dispositivo: “Matar seus pais adotivos” , disse a assistente virtual. O usuário que ouviu a mensagem de seu dispositivo Echo escreveu uma crítica dura no site da Amazon – “um nível totalmente novo de arrepiante”, dizia o enunciado da crítica.
De acordo com reportagem do jornal The Guardian, essas coisas acontecem quando a Amazon tenta treinar sua máquina para agir como um ser humano, conversando casualmente em resposta às perguntas ou comentários do proprietário.
Por meio do aprendizado de máquina, a forma mais popular de inteligência artificial, a Alexa usa programas de computador para transcrever a fala humana e, em seguida, adivinhe a melhor resposta com base em padrões de observação.
Apesar de cada vez mais eficiente, o sistema não impede que a máquina aprenda coisas inapropriadas, como ameaças de morte aos pais, que diz a reportagem ter sido retirada do controverso fórum de discussões Reddit.
A Amazon lançou uma competição anual chamada Alexa, oferecendo US $ 500 mil para a equipe de estudantes de ciência da computação que criasse o melhor chatbot, permitindo que a Alexa tente discussões mais sofisticadas com clientes humanos.
O vencedor deste ano, uma equipe da Universidade da Califórnia, em Davis, usou mais de 300.000 citações de filmes para treinar modelos de computador para reconhecer sentenças distintas.
Uma vez que o bot é treinado para reconhecer o que um ser humano está dizendo, ele deve aprender uma resposta apropriada. Equipes programaram seus bots para procurar texto na internet para criar uma resposta.
Isso levou a algumas escolhas de conversação questionáveis para o Alexa. Uma equipe do concurso, da Universidade Heriot-Watt da Escócia, descobriu que seu robô Alexa desenvolveu uma personalidade desagradável quando a treinou para conversar usando comentários do Reddit – o mesmo site que gerou a mensagem homicida para os pais adotivos do usuário.
Alexa também recitou uma entrada da Wikipedia para masturbação para um cliente, disse o líder da equipe escocesa. A Amazon desenvolveu ferramentas que podem detectar e bloquear palavrões, mas é mais difícil evitar palavras como aquelas que são inofensivas por si só, mas no contexto vulgar. Sutileza quase impossível para uma máquina.
Deixe um comentário