A massiva adesão ao Chat GPT tem causado problemas para a área de segurança cibernética. Apesar de poder aumentar o PIB global em até 7%, de acordo com dados recentes da Goldman Sachs, a nova tecnologia também oferece riscos para empresas e organizações. 

Mesmo estimulando a automação de tarefas, a produtividade e a economia com mão de obra, a ferramenta pode auxiliar na criação e propagação de ameaças como phishing e malwares. O risco para empresas estaria atrelado a alta capacidade de gerar informações com base em Inteligência Artificial. 

Altamente criativo, apenas com algumas perguntas feitas pelo chatbot, potenciais criminosos que possuam o mínimo de conhecimento técnico conseguem automatizar um ataque de rede através de códigos lançados pela ferramenta. Thiago Marques, especialista em cibersegurança e sócio da Add Value Security, explicou como isso acontece. 

Conforme ele, a ferramenta NLP (Natural Language Processing), presente no Chat GPT, exerce uma função de “aprender com o passado” para a criação e geração de conteúdo. Esse mecanismo pode ser facilmente utilizado por criminosos para elaboração de campanhas phishing e na produção de códigos maliciosos Ransomware. 

“Com a versão 4, a ferramenta consegue entregar resultados ainda mais humanos e processar maior quantidade de dados, incluindo links. Analisando campanhas que obtiveram êxito e dados existentes, criar campanhas phishing eficientes que possam ser realizadas com pouco conhecimento técnico”, explica Marques. 

Dados confidenciais expõem empresas

Na realidade, o problema é potencializado pela grande quantidade de dados corporativos confidenciais disponíveis em ferramentas de Inteligência Artificial. Até mesmo a Europol, agência da União Europeia de cooperação policial, alegou recentemente que o chatbot pode ser usado para uma série de fraudes, cibercrimes e desinformações. 

Essas análises da Europol foram compiladas em seu primeiro relatório Tech Watch Flash do ano, publicado agora no mês de março. O nome do levantamento era intitulado como: “Chat GPT – o impacto de modelos de linguagem ampla na aplicação da lei”. 

OpenAI faz vista grossa

A tecnologia é tão controversa que a própria OpenAI, empresa desenvolvedora do Chat GPT, possui ferramentas próprias para detectar textos gerado por IA. Isso pode contribuir para detectar algum conteúdo que seja malicioso. Fora isso, a detecção de phishing deve fazer parte da estratégia geral de rede e infraestrutura. 

“Vale lembrar que todas estas tecnologias são muito recentes. Os benefícios são enormes para todos, basta saber a melhor forma de utilizá-los. Profissionais de cibersegurança não serão substituídos por AI ou NPL, mas estes precisarão aprender a utilizar da melhor forma as ferramentas para continuar a se defender das melhores formas possíveis.”, completa Marques.