LastPass Labs é o hub de conteúdos da equipe dedicada de Inteligência, Mitigação e Escalonamento de Ameaças (Threat Intelligence, Mitigation, and Escalation, TIME) do LastPass. Nosso objetivo é apresentar análises profundas do que há de mais novo na área de segurança, com um olhar apurado para tecnologias inovadoras e pontos de vista singulares sobre ameaças.
Subindo a escada rolante do Moscone Center em uma RSA Conference alguns anos atrás, alguém leu meu crachá e disse: “Inteligência de ameaças? Você sabe que a inteligência artificial vai roubar o seu trabalho, né?” Eu ri. “Eu acabei de ter que reiniciar meu relógio porque ele travou, então, acho que meu trabalho está garantido”, respondi.
De volta à 2023, com os avanços proporcionados pelo ChatGPT e outros modelos de linguagem de larga escala (Large Language Models, LLM), não estou tão confiante disso. A IA vive uma nova era que se mostra disruptiva e avança em um ritmo aceleradíssimo em nosso cotidiano.
Com sua rapidez de processamento e aprendizagem, a IA está se tornando fundamental em diversos setores, inclusive na área de cibersegurança. Contudo, ela também pode ser uma ferramenta para atividades cibernéticas mal-intencionadas, criando um cenário de segurança complexo e hiperdinâmico.
Possibilidades de aplicações da IA na defesa da cibersegurança
Há três possibilidades de aplicações de IA e machine learning na defesa cibernética. A primeira é a detecção de anomalias, em que algoritmos de IA vasculham volumes imensos de dados para identificar possíveis padrões incomuns que possam indicar uma ameaça cibernética. Esse uso da IA pode ajudar empresas a descobrirem ameaças que passariam despercebidas. Em termos populares, seria algo como “encontrar uma agulha no palheiro”, mas de um jeito extremamente poderoso.
A segunda aplicação é a análise preditiva, em que algoritmos de machine learning analisam dados do passado para prever violações de segurança. Adotando essa estratégia, as organizações podem sanar vulnerabilidades antes que elas se transformem em problemas.
Com o boom recente dos LLMs, a terceira aplicação que seria especialmente útil em inteligência de ameaças é a sumarização, que viabiliza a extração de detalhes explícitos em um ataque ou a pesquisa em larga escala de relatórios ou notícias a partir de uma simples solicitação em linguagem natural, mas com a precisão ideal para atender às necessidades da organização.
Aplicação da IA por agentes mal-intencionados
A IA também pode ser uma ferramenta potente na mão de agentes mal-intencionados. Sempre foi relativamente fácil identificar ataques de phishing pela qualidade do texto, formatação e análise de links. Ataques de phishing com o auxílio da IA, que usa LLMs para criar e-mails enganosos, são altamente personalizados e mais difíceis de serem percebidos como mal-intencionados pelos destinatários. A tecnologia deepfake, outra inovação da IA, é usada por agentes mal-intencionados para criar representações audiovisuais hiper-realistas de pessoas. Essa tecnologia pode ser utilizada para diversos fins escusos, como fraudes e a disseminação de informações falsas. Recentemente, o ambiente de ameaças testemunhou a disseminação de fotos de celebridades geradas por IA que são praticamente impossíveis de distinguir se são reais ou não (por exemplo, a foto do papa vestindo um casaco puffer branco), a tecnologia deepfake sendo utilizada em áudios para representar executivos solicitando transferências bancárias, e a IA sendo utilizada para criar malwares polimórficos, que se alteram automaticamente para evitar que ferramentas baseadas em assinaturas os detectem.
Novos cenários de ataque com a IA
Com a evolução ininterrupta das tecnologias de IA, é certo que surgirão novos tipos de ataques. Por exemplo, ataques adversários com a intenção de enganar os sistemas de cibersegurança com alterações sutis nos dados de entrada, podendo gerar previsões incorretas. Além disso, conforme a sociedade for se tornando mais dependente das tecnologias de IA e machine learning, nossa infraestrutura (como veículos autônomos ou cidades inteligentes) pode se tornar alvo de ataques cibernéticos. Agentes mal-intencionados podem manipular algoritmos de controle de trânsito ou atrapalhar as operações de veículos autônomos, gerando o caos e possíveis danos. Vale chamar a atenção para uma preocupação em particular: a capacidade dos LLMs atuais de analisar e gerar código, podendo um LLM que sofreu jailbreaking (ou seja, que teve suas travas de segurança burladas) criar, de forma automática, exploits de dia zero (exploits disponibilizados ao público sem um programa de divulgação responsável de vulnerabilidades ou patch).
O futuro da IA na área de cibersegurança
Os avanços da IA continuarão moldando o cenário da cibersegurança. Olhando para o horizonte, a IA pode mudar a “corrida armamentista” que afeta o setor, na qual agentes mal-intencionados e defensores buscam meios de estarem sempre à frente uns dos outros com tecnologias novas e mais complexas. A ascensão da computação quântica pode ser uma forma de intensificar a segurança das comunicações com a criação de esquemas de criptografia ainda mais difíceis de serem derrubados. Além disso, com o mundo mais interconectado, com sistemas físicos e digitais cada vez mais entrelaçados, a IA pode ser um componente útil no desenvolvimento de sistemas de segurança abrangentes e resilientes aptos a resistir a ameaças complexas.
É essencial que empresas e organizações tomem consciência de como a IA está reestruturando a área de cibersegurança. Assim, elas conseguirão se antecipar a possíveis ameaças para mitigá-las antes de causarem danos reais.
A equipe TIME do LastPass é dedicada a proteger a nossa comunidade através do monitoramento, análise e mitigação de ameaças que possam afetar os nossos clientes, a nossa empresa e o nosso setor em geral. Somando as vivências de seus integrantes, a equipe conta com quase 50 anos de inteligência e experiência em cibersegurança e tem a convicção de que o compartilhamento de informações e a criação de relacionamentos são os segredos do sucesso de um programa de inteligência.
No LastPass, temos o objetivo de oferecer inteligência oportuna e prática para stakeholders internos, permitindo que as nossas equipes de segurança protejam os nossos clientes, seus dados e a empresa em si. Além de conduzir análises e disponibilizar informações para as nossas equipes de segurança sobre o que está acontecendo no mundo das ameaças cibernéticas, também estamos trabalhando para automatizar nossos dados de inteligência nos processos dos nossos parceiros e minimizar o tempo entre a identificação de uma ameaça e as ações de mitigação.
