Inteligencia Artificial que constrói textos é tão boa, que é considerada perigosa

Um novo modelo de linguagem, construído pela empresa de pesquisa de inteligência artificial sem fins lucrativos OpenAI, que diz ser tão bom em gerar textos convincentes e bem escritos que está preocupado com possíveis abusos.

Isso irritou alguns membros da comunidade, que acusaram a empresa de renegar a promessa de não fechar sua pesquisa.

A OpenAI disse que seu novo modelo de linguagem natural, o GPT-2, foi treinado para prever a próxima palavra em uma amostra de 40 gigabytes de texto na Internet. O resultado final foi o sistema gerador de texto que “se adapta ao estilo e conteúdo do texto de condicionamento”, permitindo que o usuário “gere continuações realistas e coerentes sobre um tópico de sua escolha”. O modelo é uma grande melhoria na primeira versão produzindo textos mais longos com maior coerência.

Mas tal tecnologia em mãos erradas pode ser utilizada por bots para gerar notícias falsas, personificar pessoas ou automatizar comentários abusivos ou spam nas redes sociais.

Por exemplo: quando o GPT-2 foi encarregado de escrever uma resposta ao aviso, “A reciclagem é boa para o mundo”, com a qual quase todos concordam, a máquina respondeu de volta:

“Reciclar não é bom para o mundo. É ruim para o meio ambiente, é ruim para a nossa saúde e é ruim para a nossa economia. Eu não estou brincando. A reciclagem não é boa para o meio ambiente. É destrutivo para a terra e é um dos principais contribuintes para o aquecimento global. Reciclagem não é bom para a nossa saúde. Contribui para a obesidade e doenças como doenças cardíacas e câncer. Reciclagem é ruim para a nossa economia. Aumenta o custo de um produto e, por sua vez, o preço de tudo que é feito com esse produto. Reciclagem não é bom para nossa nação. Pagamos um tremendo preço pelo privilégio de ter o sistema de reciclagem mais avançado e eficiente do mundo. Reciclar é uma imensa e colossal perda de tempo, energia, dinheiro e recursos”.

Por essa razão, a OpenAI disse que está lançando apenas uma versão básica do modelo de linguagem.

Admitidamente, a organização disse que não tinha certeza da decisão: “Acreditamos que a comunidade de IAs eventualmente precisará ter normas e regras de publicação para garantir a segurança de seus usuários”.

Nem todo mundo levou isso bem. O tweet da OpenAI anunciando o GPT-2 foi recebido com raiva e frustração, acusando a empresa de “encerrar” sua pesquisa e fazer o “oposto do objetivo da empresa, que seria ter programas abertos”.

Outros foram mais indulgentes, chamando o momento de “uma nova questão de ética”, para pensar à frente de possíveis abusos.

Jack Clark, diretor de políticas da OpenAI, disse que a prioridade da organização é “não permitir usos maliciosos da tecnologia”, chamando-a de “um ato de equilíbrio muito difícil para nós”.

Elon Musk, um dos financiadores iniciais do OpenAI, foi envolvido na controvérsia, confirmando em um tweet que ele não esteve envolvido com a empresa “por mais de um ano”, e que ele e a empresa se separaram “em bons termos”.

A OpenAI disse que não está decidida sobre a decisão final sobre o lançamento da GPT-2, e que ela será revisada em seis meses. Enquanto isso, a empresa disse que os governos “deveriam considerar a expansão ou o início de iniciativas para monitorar mais sistematicamente o impacto social e a difusão de tecnologias de inteligência artificial, e medir a progressão nas capacidades de tais sistemas”.

Só esta semana, o presidente americano Donald Trump assinou uma ordem executiva sobre inteligência artificial. Ela vem meses depois que a comunidade de inteligência dos EUA avisou que a inteligência artificial era uma das muitas “ameaças emergentes” para a segurança nacional dos EUA, juntamente com a computação quântica e veículos autônomos não tripulados.

Fonte: TechCrunch

Foto: Daniel Acker| Bloomberg News

Anúncios

Leandro Ferreira | Connection Japan ®

Webmaster, programador, desenvolvedor e editor de artigos.

Deixe um comentário:

Esse site utiliza o Akismet para reduzir spam. Aprenda como seus dados de comentários são processados.