Proteja sua organização de campanhas de desinformação

As campanhas de desinformação estão na encruzilhada entre a GenAI e a mídia viral

Ferramentas de IA e machine learning não apenas capacitam organizações a automatizar seus processos. Elas também equipam atores maliciosos com ferramentas poderosas para criar conteúdo que alimenta campanhas de desinformação — ataques focados que visam enganar, iludir ou confundir um grupo de pessoas.

As campanhas de desinformação, que já são uma grande ameaça global, têm o potencial de se tornar virais nas mídias sociais e levar a perdas corporativas diretas por fraudes, boicotes e danos à reputação.

Combata campanhas de desinformação com técnicas e segurança dedicadas

As organizações já estão sofrendo os efeitos de, e tomando medidas para combater, campanhas de desinformação com técnicas e tecnologias dedicadas. A demanda está crescendo tão rapidamente que até 2028, 50% das empresas adotarão produtos, serviços ou recursos especificamente para lidar com casos de uso de segurança de desinformação, acima dos menos de 5% em 2024.

Os porquês e os comos da desinformação

Atores maliciosos têm objetivos diferentes para suas campanhas de desinformação. Alguns querem polarizar um público-alvo. Outros esperam roubar informações de clientes ou interromper operações comerciais. Táticas comuns incluem:

• Divulgando deepfakes

• Espalhar desinformação por meio de mídias sociais e sites de notícias falsas

• Usando GenAI para criar desinformação em escala — e espalhá-la antes que as organizações possam responder

• Elaboração de e-mails de phishing convincentes

• Explorando vulnerabilidades em ferramentas de colaboração da força de trabalho e call centers

• Aproveitando malware para roubar credenciais

• Iniciando aquisições de contas

Para combater esses esforços, as organizações precisam de uma abordagem holística para reduzir riscos, aumentar a transparência e expandir os recursos de garantia.

Técnicas e tecnologias para permitir a segurança da desinformação

A segurança da desinformação exige um esforço multifuncional que una tecnologia, pessoas e processos em toda a liderança executiva, equipes de segurança, relações públicas, marketing, finanças, recursos humanos, consultoria jurídica e vendas.

O alinhamento é crítico porque não há tecnologias milagrosas para proteger completamente qualquer sistema ou processo. Em vez disso, as organizações devem avaliar os sistemas, fluxos de trabalho e controles existentes para vulnerabilidades relacionadas a ataques de desinformação e, então, incorporar recursos de mitigação relevantes.

Exemplos de processos vulneráveis ​​e potenciais mitigações incluem o seguinte:

Comunicações em tempo real. Proteja ferramentas de colaboração da força de trabalho, call centers e celulares contra mídia sintética, como deepfakes.

Conteúdo de plataforma de terceiros. Avalie o conteúdo originário de fora da organização para autenticidade antes de tomar medidas.

Validação de reivindicações. Monitore o conteúdo enviado como evidência para dar suporte a uma aplicação ou reivindicação em busca de sinais de que ele foi gerado artificialmente ou manipulado usando ferramentas de software.

Verificação de identidade. Proteja-se contra tentativas de contornar autenticação biométrica usando mídia sintética e contra combinações de ataques de apresentação e ataques de injeção.

Mitigação de phishing. Monitore e-mails convincentes criados pela GenAI que imitam com precisão a identidade de uma marca ou o tom de pessoal-chave.

Prevenção de tomada de conta. Impede que adversários aproveitem malware para roubar credenciais e, em seguida, ignorar controles de autenticação.

Representação de marca. Procure invasores que se passam por marcas para enganar clientes e fazê-los realizar ações prejudiciais que impactam a reputação e a boa vontade.

Monitoramento de mídia social/de massa. Procure por operações de influência que visem influenciar o sentimento público usando narrativas prejudiciais.

Monitoramento da deep/dark web. Monitore atores mal-intencionados discutindo alvos e táticas e vendendo dados confidenciais roubados, como credenciais e identidades.

Manipulação de sentimentos. Proteja ferramentas automatizadas de serem usadas para entregar engajamento falso.

Tome medidas contra campanhas de desinformação

O GenAI fornece oportunidades para que os invasores estabeleçam uma presença persistente na empresa e evitem a detecção. Esses ataques geralmente combinam identidades e dados falsos com técnicas polimórficas para mutar e ocultar constantemente o algoritmo malicioso original. Para agir:

• Avalie o novo cenário de ameaças GenAI continuamente e prepare-se para ataques transmitidos por GenAI na infraestrutura de confiança do IAM (como representação de identidade) que podem potencialmente ignorar os controles IAM existentes. Garanta que as ferramentas atuais de verificação de identidade possam mitigar novas ameaças de identidades e dados falsos.

• Diferencie os fornecedores concentrando-se em:

  • Recursos fora do processo de verificação de identidade principal, como verificação de dados moderna, incluindo credenciais verificáveis

  • Conectividade com fontes de afirmação de dados, como gráficos de identidade e autoridades governamentais emissoras

• Busque garantias dos fornecedores sobre sua defesa contra ataques deepfake. Solicite informações sobre sua experiência atual com o problema, suas capacidades de detecção e seu investimento em um roteiro voltado para o futuro para se manter a par dos desafios que os deepfakes representam. Desconfie de quaisquer fornecedores que não lhe forneçam essas informações proativamente.

Acesse nosso blog regularmente e descubra como podemos ajudá-lo a se manter protegido no mundo digital!