• Imagens geradas por inteligência artificial apresentam riscos significativos à privacidade e segurança, especialmente quando usadas para criar perfis falsos ou manipular identidades.
  • O processo de geração de imagens de IA pode exigir o envio de múltiplas fotos, permitindo a criação de "pessoas digitais" que imitam indivíduos reais, aumentando ameaças como roubo de identidade e ataques cibernéticos.
  • Tecnologias como o PhotoGuard, desenvolvidas para inserir marcas invisíveis em imagens, utilizam IA para proteger contra manipulações e reduzir os riscos associados ao uso indevido dessas imagens no setor digital.
Resumo supervisionado por jornalista.

As imagens criadas com a ajuda da inteligência artificial tornaram-se cada vez mais populares em vários setores, incluindo publicidade, banco de imagens e realidade virtual. A tecnologia avança principalmente pela facilidade, uma vez que os recursos mais básicos geram uma imagem a partir de texto digitado pelo usuário.

A criação pode ser divertida, mas não é necessariamente inofensiva. Nas Filipinas, por exemplo, o sinal de alerta foi dado pelo Ministério da Defesa, proibindo os profissionais das áreas de segurança de usarem os recursos de IA para criar uma imagem.

De acordo com o site Philstar Global, o processo de geração de imagem pode ser um pouco mais sofisticado – e ainda mais perigoso – pois pede que os usuários enviem pelo menos dez fotos para gerar um retrato aprimorado, o que aumentaria os riscos de privacidade e segurança. Nesse caso, o gerador de imagens de IA compila os dados dos usuários e cria uma “pessoa digital que imita como um indivíduo real fala e se move”.

Ameaças de imagem criada por IA

Os perigos incluem a criação de perfis falsos, que podem levar a “roubo de identidade, engenharia social, ataques de phishing e outras atividades maliciosas”, na avaliação do Ministério da Defesa filipino.

Ainda mais ameaçador é o uso de geração de imagens de IA para retratar abuso infantil, como atesta um relatório recente da universidade de Stanford. As informações são do site AP News, cuja reportagem destaca que “escondidas nas bases dos populares geradores de imagens de inteligência artificial estão milhares de imagens de abuso sexual infantil”.

Por incrível que pareça, uma possível forma de evitar a manipulação de imagens geradas por IA é justamente usar a própria IA como fonte de proteção. É que o propõe o PhotoGuard, uma tecnologia desenvolvida por especialistas do MIT. 

Desenvolvido por pesquisadores do Laboratório de Ciência da Computação e Inteligência Artificial (CSAIL), o recurso usa alterações minúsculas em valores de pixels invisíveis ao olho humano, mas detectáveis ​​por modelos de computador e que, efetivamente, atrapalham a capacidade de manipulação da imagem por IA.

Dúvidas mais comuns

Imagem gerada por IA é uma imagem criada por meio de inteligência artificial que utiliza análise matemática para identificar e replicar padrões em fotos e ilustrações, produzindo conteúdo visual a partir de descrições textuais fornecidas pelo usuário.

O processo geralmente começa com o usuário digitando um texto (prompt) que descreve a imagem desejada. A IA então analisa esse texto e cria uma imagem baseada em padrões aprendidos de um grande conjunto de dados visuais, podendo também usar fotos enviadas para aprimorar retratos digitais.

Os riscos incluem ameaças à privacidade e segurança, como criação de perfis falsos que podem levar a roubo de identidade, engenharia social, ataques de phishing e outras atividades maliciosas. Além disso, há preocupações graves com o uso dessas imagens para retratar abuso infantil e outros conteúdos ilegais.

Alguns geradores de imagens de IA solicitam que os usuários enviem várias fotos para criar retratos aprimorados, o que pode resultar na compilação de dados pessoais para criar uma "pessoa digital" que imita um indivíduo real, aumentando os riscos de exposição e uso indevido dessas informações.

Sim, o PhotoGuard, desenvolvido por pesquisadores do MIT, utiliza alterações minúsculas e invisíveis nos pixels das imagens que são detectáveis por computadores, dificultando a manipulação das imagens por IA e ajudando a proteger contra usos indevidos.

Existem várias ferramentas gratuitas como Canva (com limites), Adobe Firefly, Leonardo AI, Freepik e Bing Image Creator (Copilot), que permitem criar imagens a partir de descrições textuais, sendo úteis para ilustrar ideias e explorar criatividade sem custo inicial.

Instituições como o Ministério da Defesa das Filipinas proíbem o uso dessas imagens por profissionais de segurança devido aos riscos de privacidade, segurança e possíveis usos maliciosos, como criação de perfis falsos e manipulação para atividades criminosas.