Essa imagem viral do Papa Francisco vestindo um casaco branco é totalmente falsa

May 19, 2023

Fotos falsas do Papa Francisco vestindo um grande casaco branco, criado com gerador de imagem AI ... [+] Midjourney.

Você já viu aquela foto do Papa Francisco vestindo um gigantesco casaco branco? Tem se tornado viral em plataformas de mídia social como Reddit e Twitter nos últimos dias. Mas é completamente falso.

A imagem foi criada usando Midjourney, uma ferramenta de inteligência artificial que pode gerar imagens falsas incrivelmente realistas. A imagem foi compartilhada no Reddit antes de chegar ao Twitter no fim de semana, onde a maioria das pessoas parecia pensar que era real.

Recentemente, o Midjourney foi usado para criar imagens fotorrealistas do ex-presidente Donald Trump sendo preso. E Trump até compartilhou uma imagem falsa gerada por IA de si mesmo ajoelhado para rezar. À primeira vista, todas as imagens parecem ser fotos reais. Mas são todas falsificações da realidade criadas por computador.

Como os detetives da internet descobriram ao desmascarar esses tipos de criações fotorrealistas, uma das maneiras mais fáceis de determinar se uma imagem pode ser gerada por IA é olhar para as mãos. Midjourney tem uma tremenda dificuldade em gerar mãos, e essa imagem do Papa não é diferente - no entanto, parece uma aposta segura de que esse não será o caso para sempre.

Um close-up da mão falsa do Papa criada por Midjourney, que não parece muito certa.

A imagem falsa do Papa enganou muitas pessoas, incluindo o influenciador de extrema direita Ian Miles Cheong, que twittou: "O Papa é um ícone da moda. Respeite o gotejamento".

"Qual seria o nome da marca de estilo de vida do Papa Francisco?" twittou Don Moynihan, um professor em Georgetown.

Moynihan incluiu duas outras fotos do Papa, ambas reais.

Esses geradores de imagem AI, que também incluem DALL-E e Stable Diffusion da OpenAI, permitem que qualquer pessoa simplesmente descreva a imagem que deseja ver usando texto. As imagens podem ser criadas porque as ferramentas foram treinadas em literalmente milhões de imagens da web, incluindo muitas imagens protegidas por direitos autorais. E é essa última parte que gerou ações judiciais de empresas como a Getty Images, que argumentam que sua propriedade intelectual está sendo violada.

Getty pode ter um caso, já que os documentos arquivados no tribunal mostram que o gerador de imagens do Stable Diffusion às vezes inclui um elemento bruto que se parece com a marca d'água Getty. Não há como negar o que esses novos programas de software superpoderosos têm procurado para criar suas imagens.

Um dos exemplos de imagens de IA incluídas pela Getty Images em seu processo contra o criador do Stable Diffusion.

O Escritório de Direitos Autorais dos EUA anunciou recentemente que imagens criadas por IA não podem ser protegidas por direitos autorais, um desenvolvimento interessante para pessoas que desejam usar essas imagens em livros e revistas.

O mundo das imagens geradas por IA é relativamente novo, com empresas lançando suas ferramentas para o público apenas nos últimos quatro meses. Mas fotos falsas existem desde a invenção da fotografia, e só o tempo dirá se esses novos programas de IA criarão mais desinformação e desinformação do que o Adobe Photoshop permitiu.

Considerando que o Photoshop exige alguma habilidade real para obter uma falsificação convincente, agora qualquer pessoa pode digitar qualquer prompt de texto no Midjourney e ver instantaneamente sua criação ganhar vida. E com a eleição presidencial de 2024 logo no horizonte – que infelizmente incluirá um ex-presidente antidemocrático que adora fotos falsas – as coisas podem ficar complicadas muito rapidamente.