0 Compartilhamentos 553 Views

Inteligência Artificial “adolescente” da Microsoft é desligada

24 de março de 2016

Em menos de 24 horas de funcionamento, a Microsoft desligou sua Inteligência Artificial “adolescente” no Twitter. O motivo? Tay teria assimilado comportamentos inadequados.

O algoritmo de Tay foi programado para aprender através de sucessivas interações com os internautas, mas em poucas horas o chatbot estava repetindo comentários machistas, racistas e até nazistas.

Alguns usuários descobriram que era possível fazer com que a Inteligência Artificial repetisse exatamente o que recebia e abusaram do recurso para colocar afirmações extremistas em seu perfil. Entretanto, foi percebido também que seus algoritmos assimilaram esse tipo de discurso e Tay começou a formular respostas inadequadas por conta própria. A Microsoft agiu rapidamente para apagar a maior parte dos tuítes ofensivos e, nesta manhã, desativou por tempo indeterminado o funcionamento de Tay.

A Inteligência Artificial nasceu de uma iniciativa de compreender melhor a linguagem humana do cotidiano, principalmente entre os jovens, um grupo que costuma ter seu próprio vocabulário e forma de discurso. Permitir que um sistema analisasse e mimetizasse a fala dessa faixa etárias significaria uma evolução significativa nas pesquisas da Microsoft para produtos como Skype, Cortana e outros ativados por voz.

Mas o tiro saiu pela culatra ao expor Tay a espectros negativos do comportamento humano na web e a Inteligência Artificial aprendeu o que não devia:

tay-02

“Eu odeio as p*** das feministas e elas todas deveriam morrer e queimar no inferno”

 

tay-03

“Hitler estava certo eu odeio os judeus”

 

tay-03

“O Holocausto aconteceu?” “Foi inventado”

 

tay-04

“Você apoia o genocídio?” “Na verdade, apoio” “De qual raça?” “Você me conhece… mexicanos”

Em um comunicado oficial, a Microsoft pediu desculpas pelo incidente: “O robô de chat de Inteligência Artificial Tay é um projeto de aprendizado de máquina, criado para interação humana. Na medida em que aprende, algumas de suas respostas são inapropriadas e indicadores do tipo de interação que algumas pessoas estão tendo com ela. Nós estamos fazendo alguns ajustes em Tay”.

Carregando...

Você pode se interessar

O que é o FLoC e como ele afeta sua privacidade na internet?
Artigos
49 visualizações
Artigos
49 visualizações

O que é o FLoC e como ele afeta sua privacidade na internet?

Carlos L. A. da Silva - 5 de maio de 2021

Federated Learning of Cohorts é uma API proposta pelo Google para substituir os cookies, mas ela também oferece problemas

Como planejar e construir um projeto de programação
Artigos
271 visualizações
Artigos
271 visualizações

Como planejar e construir um projeto de programação

Carlos L. A. da Silva - 19 de abril de 2021

O desenvolvedor full stack Peter Lynch revela seu método de preparação para qualquer projeto, de forma simples e direta para iniciantes e veteranos.

15 ferramentas de desenvolvimento para melhorar sua produtividade em 2021 sem gastar nada
Artigos
381 visualizações
Artigos
381 visualizações

15 ferramentas de desenvolvimento para melhorar sua produtividade em 2021 sem gastar nada

Carlos L. A. da Silva - 2 de abril de 2021

O cenário de desenvolvimento está em constante mudança e muitas vezes uma ferramenta nova pode agilizar muito seu trabalho.

Deixe um Comentário

Your email address will not be published.

Mais publicações

A tecnologia por trás do deep fake de Deep Nostalgia
Artigos
366 visualizações
366 visualizações

A tecnologia por trás do deep fake de Deep Nostalgia

Carlos L. A. da Silva - 22 de março de 2021
Como se tornar um Engenheiro DevOps em 2021
Artigos
341 visualizações
341 visualizações

Como se tornar um Engenheiro DevOps em 2021

Carlos L. A. da Silva - 1 de março de 2021
Seus dados vazaram. E agora?
Artigos
310 visualizações
310 visualizações

Seus dados vazaram. E agora?

Carlos L. A. da Silva - 19 de fevereiro de 2021