Desenvolvido pela DeepMind, a divisão de IA da Google, o SynthID pretende identificar imagens geradas por computador num esforço para combater a desinformação.
A ferramenta opera através de alterações nos pixels individuais nas imagens, tornando as marcas de água invisíveis ao olho humano, mas detetáveis pelos computadores. O sistema da Google criará uma marca de água efetivamente invisível, permitindo que as pessoas usem o seu software para descobrir instantaneamente se a imagem é real ou criada por uma máquina.
Para o chefe de pesquisa da DeepMind, Pushmeet Kohli, o sistema modifica as imagens de forma tão subtil que “para um humano, não muda”. Mesmo se a imagem for recortada ou editada, o software da empresa ainda pode identificar a presença da marca de água.
“Pode mudar a cor, o contraste, até redimensioná-la, e a DeepMind ainda conseguirá ver que é gerada por IA”, acrescenta Kohli.
No entanto, ele alerta que este é um lançamento experimental do sistema e que a empresa precisa que as pessoas o usem para aprender mais sobre as suas capacidades.
Os geradores de imagens de IA têm-se popularizado rapidamente, como é o caso do Midjourney, que já conta com mais de 14,5 milhões de utilizadores. A ferramenta permite que as pessoas criem imagens em segundos a partir de instruções em texto, o que levanta questões sobre direitos de autor e propriedade em todo o mundo.
A Google possui o seu próprio gerador de imagens, chamado Imagen, e o seu sistema para criar e verificar marcas de água deve aplicar-se apenas às imagens criadas por ele neste primeiro momento.
A Microsoft e a Amazon estão entre as grandes empresas de tecnologia que, tal como a Google, se comprometeram a adicionar marcas de água em conteúdos gerados por IA. Além das imagens, a Meta publicou um artigo de pesquisa para o seu gerador de vídeos ainda não lançado, o Make-A-Video, que afirma que marcas de água serão adicionadas aos vídeos gerados para atender à procura e transparência sobre produtos gerados por IA.
À medida que a tecnologia evolui, está a tornar-se cada vez mais complexo distinguir imagens reais das geradas artificialmente, como foi o caso das supostas fotos do set de filmagens de ‘Joker 2’, estrelado por Joaquin Phoenix, que deve chegar aos cinemas em outubro de 2024. No fim do ano passado, imagens de Lady Gaga vestida como a personagem Harley Quinn teriam sido divulgadas pela equipa de produção do filme. Mas, apesar da cantora estar no elenco do filme, foi comprovado que as imagens haviam sido geradas e manipuladas por IA.
Outro caso que viralizou nas redes sociais foi a imagem do Papa Francisco vestido de uma maneira fora do comum para o representante do Vaticano, com um casaco de enchimento branco. Assim como no exemplo anterior, este é mais um excelente trabalho da IA.
Diante do crescente desafio de diferenciar imagens verdadeiras das produzidas artificialmente, a iniciativa de desenvolver o SynthID é mais um passo para combater a disseminação de desinformação.
Saiba mais sobre a influência da Inteligência Artificial no Marketing Digital
*Com informações da BBC
Foto: Reprodução/Internet
Fonte/Créditos: AdNews.
