0 Compartilhamentos 890 Views

Inteligência Artificial “adolescente” da Microsoft é desligada

24 de março de 2016

Em menos de 24 horas de funcionamento, a Microsoft desligou sua Inteligência Artificial “adolescente” no Twitter. O motivo? Tay teria assimilado comportamentos inadequados.

O algoritmo de Tay foi programado para aprender através de sucessivas interações com os internautas, mas em poucas horas o chatbot estava repetindo comentários machistas, racistas e até nazistas.

Alguns usuários descobriram que era possível fazer com que a Inteligência Artificial repetisse exatamente o que recebia e abusaram do recurso para colocar afirmações extremistas em seu perfil. Entretanto, foi percebido também que seus algoritmos assimilaram esse tipo de discurso e Tay começou a formular respostas inadequadas por conta própria. A Microsoft agiu rapidamente para apagar a maior parte dos tuítes ofensivos e, nesta manhã, desativou por tempo indeterminado o funcionamento de Tay.

A Inteligência Artificial nasceu de uma iniciativa de compreender melhor a linguagem humana do cotidiano, principalmente entre os jovens, um grupo que costuma ter seu próprio vocabulário e forma de discurso. Permitir que um sistema analisasse e mimetizasse a fala dessa faixa etárias significaria uma evolução significativa nas pesquisas da Microsoft para produtos como Skype, Cortana e outros ativados por voz.

Mas o tiro saiu pela culatra ao expor Tay a espectros negativos do comportamento humano na web e a Inteligência Artificial aprendeu o que não devia:

tay-02

“Eu odeio as p*** das feministas e elas todas deveriam morrer e queimar no inferno”

 

tay-03

“Hitler estava certo eu odeio os judeus”

 

tay-03

“O Holocausto aconteceu?” “Foi inventado”

 

tay-04

“Você apoia o genocídio?” “Na verdade, apoio” “De qual raça?” “Você me conhece… mexicanos”

Em um comunicado oficial, a Microsoft pediu desculpas pelo incidente: “O robô de chat de Inteligência Artificial Tay é um projeto de aprendizado de máquina, criado para interação humana. Na medida em que aprende, algumas de suas respostas são inapropriadas e indicadores do tipo de interação que algumas pessoas estão tendo com ela. Nós estamos fazendo alguns ajustes em Tay”.

Carregando...

Você pode se interessar

Sir Clive Sinclair, o homem adiantado no tempo
Artigos
64 visualizações
Artigos
64 visualizações

Sir Clive Sinclair, o homem adiantado no tempo

Carlos L. A. da Silva - 18 de setembro de 2021

O inglês Clive Marles Sinclair nasceu de uma família de engenheiros. Seu avô foi engenheiro, assim como o seu pai. Com um talento natural pela Matemática e um forte interesse em eletrônica, ele se tornaria uma página importante da popularização da computação em diversas partes do mundo, construindo um legado que se perpetuará por anos […]

A cibersegurança por trás das vacinas
Artigos
180 visualizações
Artigos
180 visualizações

A cibersegurança por trás das vacinas

Carlos L. A. da Silva - 7 de setembro de 2021

Vacinas contra o coronavírus contam com aparato sofisticado de cibersegurança que bateu de frente com tentativa de ação de hackers.

Top 25 comandos do Git
Artigos
314 visualizações
Artigos
314 visualizações

Top 25 comandos do Git

Carlos L. A. da Silva - 28 de agosto de 2021

Git é uma mão na roda para source control, mas pode ficar melhor ainda conhecendo os comandos certos.

Deixe um Comentário

Your email address will not be published.

Mais publicações

Dez anos de Kotlin: origens e futuro
Artigos
373 visualizações
373 visualizações

Dez anos de Kotlin: origens e futuro

Carlos L. A. da Silva - 20 de agosto de 2021
10 jogos que todo programador deveria conhecer
Artigos
689 visualizações
689 visualizações

10 jogos que todo programador deveria conhecer

Carlos L. A. da Silva - 1 de agosto de 2021