A inteligência artificial generativa está transformando rapidamente o ambiente corporativo, trazendo oportunidades e desafios significativos. De acordo com um relatório recente do Gartner, 80% dos executivos consideram a segurança e o risco cibernético como suas principais preocupações ao adotar IA generativa em suas organizações. Com a crescente adoção desses modelos, executivos de médias empresas precisam entender os riscos associados ao uso dessa tecnologia para garantir sua conformidade regulatória, a exemplo da Lei Geral de Proteção de Dados Pessoais (LGPD), e proteger informações sensíveis.

O recente relatório do Instituto Nacional de Padrões e Tecnologia dos EUA (NIST) oferece um panorama essencial sobre os riscos e as boas práticas para a gestão dessa tecnologia emergente. Entre os principais pontos abordados estão a governança da IA, a segurança da informação e a integridade dos conteúdos gerados. O documento destaca a necessidade de mecanismos de monitoramento contínuo, feedback estruturado dos usuários e transparência na tomada de decisões baseadas em IA, garantindo um uso mais ético e confiável.

Segundo o NIST, os principais riscos da IA generativa são:

  • Confabulação: geração de informações falsas ou imprecisas.
  • Viés e discriminação: reforço de preconceitos existentes nos dados de treinamento.
  • Segurança da informação: vulnerabilidades a ataques cibernéticos e vazamento de dados sensíveis.
  • Desinformação: potencial para criação e disseminação de fake news em larga escala.
  • Privacidade: uso indevido de dados pessoais sem consentimento adequado.
  • Impactos no trabalho: substituição de funções humanas e mudanças estruturais no mercado de trabalho.
  • Uso mal-intencionado: aplicação em fraudes, manipulação política e criação de conteúdos prejudiciais.
  • Falta de transparência: dificuldade em compreender como os modelos geram determinados resultados.
fdc
fdc
Saiba mais Portfólio diferenciado Conheça as soluções para médias empresas da FDC
fdc
Saiba mais Conteúdo gratuito Estudos, pesquisas, indicadores e análises com foco em médias empresas
ver todos os cursos

Para executivos e gestores, algumas ações práticas podem ser implementadas de imediato. Primeiro, é fundamental estabelecer protocolos de verificação e rastreabilidade dos dados utilizados e gerados pela IA, minimizando riscos de viés e desinformação. Em segundo lugar, é recomendável investir em testes prévios, como o red-teaming, que avalia vulnerabilidades da IA, por hackers éticos, antes de seu lançamento. Além disso, o envolvimento de especialistas e a colaboração com comunidades impactadas pelos sistemas de IA são estratégias essenciais para melhorar a transparência e a responsabilidade corporativa. Também é importante adotar medidas de segurança no uso de ferramentas gratuitas de IA generativa, como o ChatGPT, incluindo evitar o compartilhamento de informações sensíveis, revisar e validar as respostas geradas antes de utilizá-las em contextos críticos e configurar níveis adequados de controle e permissões dentro da organização. Adotar essas práticas pode não apenas reduzir riscos, mas também consolidar a confiança e a competitividade da empresa em um mercado cada vez mais orientado por IA.

* Leandro Figueiredo,  Centro de Inteligência em Médias Empresas da FDC

Dúvidas mais comuns

A inteligência artificial generativa oferece muitas oportunidades, mas também apresenta riscos significativos, como geração de informações falsas, vieses, vulnerabilidades de segurança e uso indevido de dados pessoais. Para garantir segurança, é fundamental adotar protocolos de verificação, testes de vulnerabilidade e medidas de proteção de dados, alinhadas à conformidade com a LGPD.

Os principais riscos incluem confabulação (informações falsas), vieses e discriminação, vulnerabilidades de segurança da informação, desinformação em larga escala, uso indevido de dados pessoais, impactos no mercado de trabalho, uso mal-intencionado e falta de transparência nos processos decisórios.

Empresas devem estabelecer protocolos de rastreabilidade e verificação dos dados usados e gerados pela IA, realizar testes de segurança como o red-teaming, envolver especialistas e comunidades impactadas para aumentar a transparência, além de evitar o compartilhamento de informações sensíveis em ferramentas gratuitas e revisar cuidadosamente as respostas geradas.

É importante evitar compartilhar informações sensíveis, revisar e validar as respostas antes de usá-las em contextos críticos, e configurar controles e permissões adequados dentro da organização para minimizar riscos de vazamento de dados e uso indevido.

A IA é empregada para identificar intrusos, monitorar ambientes e gerenciar dispositivos, como câmeras de segurança que distinguem movimentos normais de atividades suspeitas, enviando notificações em caso de invasão, aumentando a eficácia da vigilância e proteção.

Os perigos incluem desemprego por automação, vieses e discriminação algorítmica, ameaças à privacidade e segurança de dados, disseminação de deepfakes e desinformação, perda de habilidades humanas, dilemas éticos em decisões críticas, riscos existenciais e impactos ambientais, além do uso malicioso em fraudes e ataques cibernéticos.

Gestores devem implementar monitoramento contínuo, feedback estruturado dos usuários, transparência nas decisões baseadas em IA, protocolos de verificação de dados, testes de vulnerabilidade, e promover a colaboração com especialistas e comunidades afetadas para assegurar responsabilidade e ética no uso da tecnologia.