Meta AI Bot contribui para pesquisas online falsas

O robô AI da Meta, Galactica, entrou em hiato depois de apenas dois dias.

foto: Andrea Verdelli (Getty Images)

meta pausou o dele Inteligência artificial (IA)bot semana passada, apenas dois dias depois de ir ao ar para o público. O bot, chamado Galactica, foi treinado “em 106 bilhões de tokens de texto e dados científicos de código aberto. Isso inclui artigos, livros didáticos, sites científicos, enciclopédias, materiais de referência, bases de conhecimento, etc. “, disse a empresa. a besta diária.

Era para ajudar estudiosos e pesquisadores a encontrar artigos e estudos de forma rápida e sucinta, mas em vez disso foi sobrecarregado com grandes quantidades de desinformação citando cientistas respeitáveis.

A reputação dos cientistas pode estar em jogo quando eles são citados erroneamente no texto e Carl Bergstrom, professor de biologia da Universidade de Washington, disse CNET que o problema da Galactica é que ela foi apresentada como um meio de obter fatos e informações. Mas, em vez disso, ele disse que agia como “uma versão sofisticada do jogo em que você começa com meia frase e deixa o preenchimento automático preencher o resto da história”.

Horas depois que Galactica entrou no ar, os usuários começaram a denunciar postagens racistas e imprecisas, com uma pessoa poste uma foto respondendo a uma solicitação sobre viés de linguagem. A resposta do bot afirmou falsamente que os negros “não têm língua própria” e que os imigrantes “não falam uma língua diferente da língua do país para o qual imigram”.

Outras informações geradas incluíam um estudo falso sobre os benefícios de comer vidro moído e informações falsificadas sobre pesquisadores da Universidade de Stanford criando um software “gaydar” para encontrar gays no facebook.

Um porta-voz da Meta AI disse à CNET: “Galactica não é uma fonte de verdade, é um experimento de pesquisa usando [machine learning] sistemas para aprender e resumir informações. Ele acrescentou que a Galactica “é uma pesquisa exploratória de natureza de curto prazo, sem um plano de produto”. O cientista-chefe da Meta AI, Yann LeCun, disse à agência que o bot foi retirado porque a equipe estava “muito chateada com o vitríolo no Twitter”.

Dois dias após o lançamento do Galactica, a equipe do Meta AI pausou o bot do Meta e o cientista-chefe de IA Yann LeCun twittou“A demo Galactica está offline no momento. Não é mais possível se divertir abusando dela casualmente. Feliz?”

Meta AI (anteriormente chamado Facebook Artificial Intelligence Research) desenvolveu a Galactica como um meio “organizar a ciência” e condensar quantidade esmagadora de informações científicas encontradas online. A ideia era ter a IA fazer coisas como resolver problemas de matemática, escrever código científico e escrever resumos de pesquisa.

meta nota no site da Galactica que o modelo de IA tem limitações que podem torná-lo “alucinante”. O site aconselha os usuários a verificarem qualquer informação que apareça e passa a dizer “Não há garantia de que mesmo os maiores modelos de linguagem produzirão dados verdadeiros ou confiáveis ​​de alta qualidade como Galactica”, acrescentando que o texto gerado pode soar “muito autêntico e muito confiante”, mas sempre pode estar errado.

“Imagino que, mesmo com suas muitas falhas previsíveis, haja usos desejáveis ​​para tal sistema”, disse Vincent Conitzer, professor de ciência da computação da Carnegie Mellon University em Pittsburgh, ao The Daily Beast.

“Minha impressão é que a Meta teria feito melhor colocando mais esforço neste lançamento público, fazendo primeiro estudos de usuários mais sérios, chamando a atenção para os usos desejáveis ​​do sistema e sendo honesto e aberto em usos indesejáveis.”