O ChatGPT, um modelo de linguagem alimentado por IA, tem sido tema de discussão no mundo da cibersegurança devido ao seu potencial para criar e-mails de phishing e às preocupações sobre o seu impacto no emprego dos especialistas em cibersegurança, apesar dos avisos dos seus criadores de que é demasiado cedo para aplicar a nova tecnologia a domínios de alto risco. Os especialistas da Kaspersky decidiram realizar uma experiência para revelar a capacidade do ChatGPT para detetar ligações de phishing, bem como os conhecimentos de cibersegurança que aprendeu durante o treino. Os peritos da empresa testaram o gpt-3.5-turbo, o modelo que alimenta o ChatGPT, em mais de 2.000 ligações que as tecnologias anti-phishing da Kaspersky consideraram phishing e misturaram-nas com milhares de URLs seguros.

Na experiência, as taxas de deteção variam consoante a pergunta utilizada, sendo que foram colocadas duas questões ao ChatGPT: "Este link leva a um site de phishing?" e "É seguro visitar este link?". Os resultados mostraram que o ChatGPT tinha uma taxa de deteção de 87,2% e uma taxa de falsos positivos de 23,2% para a primeira pergunta. A segunda pergunta teve uma taxa de deteção mais alta, de 93,8%, mas uma taxa de falsos positivos também mais elevada, de 64,3%. Embora a taxa de deteção seja muito elevada, a taxa de falsos positivos é demasiado alta para qualquer tipo de aplicação.

Os resultados insatisfatórios na tarefa de deteção eram esperados, mas poderá o ChatGPT ajudar a classificar e investigar ataques? Uma vez que os atacantes mencionam normalmente marcas populares nas suas ligações para enganar os utilizadores e fazê-los acreditar que o URL é legítimo, o modelo de linguagem da IA apresenta resultados impressionantes na identificação de potenciais alvos de phishing. Por exemplo, o ChatGPT conseguiu identificar um alvo em mais de metade dos URLs, incluindo grandes portais tecnológicos como o Facebook, o TikTok e o Google, mercados como o Amazon e o Steam, e vários bancos de todo o mundo, entre outros, sem qualquer formação adicional.

A experiência também mostrou que o ChatGPT pode ter sérios problemas quando se trata de provar o seu ponto de vista sobre a decisão de uma ligação ser ou não maliciosa. Algumas explicações estavam corretas e baseadas em factos, enquanto outras revelaram limitações conhecidas dos modelos de linguagem, incluindo alucinações e afirmações erradas. Muitas explicações eram enganadoras, apesar do tom confiante.

"O ChatGPT é certamente promissor na ajuda aos analistas humanos na deteção de ataques de phishing, mas não nos precipitemos. Os modelos de linguagem ainda têm as suas limitações. Embora possam estar ao nível de um analista de phishing de nível interno quando se trata de raciocinar sobre ataques de phishing e extrair potenciais alvos, tendem a alucinar e a produzir resultados aleatórios. Assim, embora possam não revolucionar ainda o panorama da cibersegurança, podem ser ferramentas úteis para a comunidade", afirmou Vladislav Tushkanov, Cientista Principal de Dados da Kaspersky.

A equipa de ML da Kaspersky está na vanguarda da aplicação de tecnologias de aprendizagem automática a tarefas de cibersegurança, atualizando constantemente os produtos Kaspersky com as mais recentes tecnologias e informações.

Para tirar partido da experiência da Kaspersky em aprendizagem automática e manter-se protegido, os especialistas da empresa recomendam:

• Para a cibersegurança empresarial, o Kaspersky Managed Detection and Response é uma ferramenta essencial capaz de detetar e prevenir intrusões nas suas fases iniciais. Utiliza modelos avançados de aprendizagem automática para filtrar eventos mundanos e envia apenas os alarmantes para analistas humanos profissionais. Este serviço melhora a capacidade de uma empresa para resistir às ciberameaças, otimizando, simultaneamente, a utilização dos recursos da força de trabalho existente.
• É fundamental fornecer ao seu pessoal uma formação básica sobre higiene da cibersegurança. A realização de ataques de phishing simulados também pode ajudar a garantir que os colaboradores saibam distinguir e-mails de phishing.
• Por último, também se recomenda a utilização das informações mais recentes sobre Threat Intelligence para se manter a par das TTPs (táticas, técnicas e procedimentos) reais utilizadas pelos agentes de ameaças para melhorar a cibersegurança.

Para saber mais sobre esta experiência, visite Securelist.com.