Inteligência Artificial criadora de imagens pode não ser tão honesta quanto aparenta

A Inteligência Artificial focada na geração de imagem tem crescido espontaneamente nos últimos meses, mas talvez ela não seja 100% honesta com você. Já parou para pensar se as imagens geradas pelas IAs são realmente originais? Foi isso que um grupo de pesquisadores fez, e a resposta merece a sua atenção.

Inteligência Artificial – Imagem: Reprodução/Freepik

Inteligência Artificial e criação também

DALLE-2, Stable Diffusion, e até mesmo o fenômeno Lensa, “popularizaram” a geração de imagens através de Inteligência Artificial. Entretanto, cientistas da Universidade de Maryland e da Universidade de Nova York, realizaram um estudo recentemente revelando que estas IAs “copiam” outras imagens de seus bancos de dados de treinamento.

Como o TechCrunch aponta, até mesmo imagens protegidas por direitos autorais podem ser recriada por estes softwares. Embora o artigo ainda não tenha sido revisado por pares, um dos pesquisadores compartilhou um pouco de seu pensamento:

“Os modelos de difusão, como o Stable Diffusion, produzem belas imagens, e muitas vezes algumas parecem altamente originais e personalizadas para um prompt de texto específico.

Por outro lado, mostramos que essas imagens podem realmente ser copiadas de seus dados de treinamento, por atacado ou copiando apenas partes de imagens de treinamento”.

Qual é o verdadeiro problema?

Para muitos designers, estas ferramentas por um momento se tornaram sinônimos de “aliadas”. Entretanto, para criadores de bancos de imagens com direitos autorais, ou fotografias vendidas sobre licença, ter a sua arte copiada e disponibilizada de graça para outra pessoa lucrar, não parece uma ideia tão legal.

Desse modo, os próprios pesquisadores indicam que “as empresas que geram dados com modelos de difusão, talvez precisem reconsiderar as leis de propriedade intelectual”. Segundo a pesquisa, o Stable Diffusion, usado no estudo, “copiou” 1,88% do banco de imagens apresentado para seu treinamento.

Embora pareça um número irrelevante, vale lembrar que na web, estes softwares podem acessar bilhões de imagens.

China corre contra o avanço da IA

Na China, o governo já se adiantou prevendo a possibilidade do uso da ferramenta para atividades ilícitas. Assim, a Administração do Ciberespaço da China, órgão responsável por vigiar a internet chinesa, aprovou um regulamento que entra em vigor no dia 10 de janeiro de 2023.

O regulamento é direcionado à síntese profunda, ou seja, “tecnologia que usa aprendizado profundo, realidade virtual e outros algoritmos de síntese para gerar texto, imagens, áudio, vídeo, e cenas virtuais”. A princípio, as pessoas não podem usar IA generativa para colocar a segurança nacional em risco, ou em atividades ilegais.

Entretanto, a China pretende censurar as criações via inteligência artificial, isso seria feito por meio de provedores de serviços. Eles verificariam cada imagem manualmente ou por meios técnicos. O Baidu, um dos primeiros modelos chineses de conversão de texto em imagem, já atua limitando conteúdo politicamente sensível.

Com informações: TechCrunch 1 | 2

O que você achou? Siga @bitmagazineoficial no Instagram para ver mais e deixar seu comentário clicando aqui

Escrito por

Moyses Batista