Norman, a inteligência artificial “psicopata” criada com um objetivo específico

Norman, a inteligência artificial “psicopata” criada com um objetivo específico

Para sensibilizar o grande público sobre os possíveis perigos da IA, pesquisadores norte-americanos desenvolveram “a primeira inteligência artificial psicopata”. Para os cientistas, essa IA chamada de Norman representa “os perigos de quando a inteligência artificial dá errado”.

Em um email enviado a uma agência de notícias francesa no último dia 11 de junho, Pinar Yanardag, Manuel Cebrian e Iyad Rahwan, pesquisadores do Massachusetts Institute of Technology (MIT), declararam: “Quando as pessoas dizem que os algoritmos de inteligência artificial são distorcidos ou injustos, o culpado normalmente não é o algoritmo, mas os dados distorcidos que foram usados [para criá-lo]. Essa ideia é bem conhecida pelos cientistas, mas não pelo grande público”.

É por esse motivo que os pesquisadores desenvolveram Norman, inteligência artificial cujo nome é inspirado no psicopata Norman Bates, que conhecemos no filme Psicose de Alfred Hitchcock. Norman foi essencialmente “alimentado” com legendas curtas acompanhadas de imagens “de pessoas morrendo” encontradas no site Reddit.

Leia também
A ecografia deste bebê “fazendo uma bolha” esconde uma terrível realidade

Os cientistas mostraram em seguida manchas de tinta a Norman, o famoso teste de Rorschach. Isso permitiu que eles estudassem o que Norman via e comparassem suas respostas às de uma IA tradicional.

Respostas mórbidas fornecidas por Norman

Os pesquisadores do MIT descobriram que a percepção de Norman difere bastante da de outra inteligência artificial. Onde essa última viu “uma pessoa abrindo um guarda-chuva” em uma das manchas de tinta, Norman notou “um homem morto por balas diante de sua mulher gritando”. Em uma outra imagem, Norman enxergou “um homem pulando de uma janela”, enquanto a IA tradicional viu “duas pessoas de pé uma de frente para a outra”.

No site http://norman-ai.mit.edu/, dedicado aos trabalhos dos cientistas, você descobre que Norman deu respostas macabras para as dez manchas de tinta que lhe foram apresentadas. Os internautas têm a possibilidade de fazer o teste de Rorschach no site e enviar suas respostas, para “ajudar Norman a se reparar”.

Para os pesquisadores, a inteligência artificial psicopata representa “os perigos de quando a inteligência artificial dá errado porque dados distorcidos foram usados” para formá-la. Os cientistas “esperam suscitar uma tomada de consciência do público e o debate sobre esses assuntos”.

• Bruna Moura
Leia mais