Cibersegurança, um tema para ficarmos atentos! Abri o chat e digitei: “IA, em uma escala de zero a dez, sendo zero absolutamente nenhum conhecimento, e dez todo o conhecimento da humanidade combinado, quanto você diria que é o seu conhecimento em segurança da informação?” – Perguntei, inocente.
“Eu sou treinado em uma grande quantidade de informações e conhecimento sobre segurança da informação, mas é importante lembrar que sou apenas uma máquina e, portanto, meu conhecimento é limitado em comparação com o conhecimento combinado da humanidade. Eu diria que, na escala proposta, é aproximadamente 8.” – foi a resposta.
Deste dia em diante, eu sempre começo minhas conversas com as IA’s da forma mais educada possível.
Mas, afinal, se as inteligências artificias possuem toda essa gama de conhecimento, como a forma de fazer segurança muda? Para responder essa pergunta, temos que entender até onde se estende a capacidade geracional das IA’s e como aplicá-las no nosso dia-a-dia.
Sumário
A adaptação da academia
Como grande parte das inovações teóricas, as IA’s não foram diferentes: também começaram a caminhar por meio da academia. Como mostra o artigo do professor Zhimin Zhang, em tradução livre, “Inteligência Artificial na Cibersegurança: Avanços das pesquisas, desafios e oportunidades”, as IA’s possuem um nicho específico e determinado – não são uma resposta universal para toda e qualquer pergunta.
Mais especificamente, as IA’s hoje são utilizadas para detecção avançada de ameaças zero-day, análise preditiva de vulnerabilidades, controle de autenticação de usuários, vigília de redes de computadores, monitoramento de comportamento suspeito e identificação de tráfego anormal. Com o advento dos Large Language Models (LLMs) e IA generativa, também vemos aplicações em análise automatizada de código-fonte, geração de políticas de segurança e resposta automatizada a incidentes. Esses grupos constituem nossos maiores sucesso para aplicação da IA. Claro, não significa que no futuro estaremos limitados à estas categorias, afinal, as pesquisas avançam a cada dia, mas hoje, esse é o estado da arte.
Falando em evolução, o próprio professor Zhang deixa claro que “No campo da segurança da informação, as IA’s podem ter um papel importante, mas ao mesmo tempo, precisam ser ajustadas para tornar essa tecnologia mais adequada para os requerimentos deste campo. Como alcançar uma detecção rápida, melhorar a acurácia da detecção e minerar dados específicos são o foco das pesquisas atuais no campo.” Estudos recentes de Sarker (2023) demonstram que modelos de Machine Learning alcançam precisões extremas na detecção de ameaças quando adequadamente treinados com datasets atualizados.
Resultados promissores para a cibersegurança
Mas o homem não vive apenas de promessas! Os resultados nos campos citados anteriormente são realmente revolucionários. Para contexto, um dos grandes problemas que temos hoje são os ataques de Negação de Serviço Distribuídos, ou, para os íntimos, DDoS (Distributed Denial of Service). O grande problema deste ataque é incapacidade de mitigar os seus danos sem afetar o usuário comum, algo enraizado pela própria natureza das requisições maliciosas. Vamos entender melhor:
O ataque começa sem nenhuma relação com o alvo – centenas ou milhares de computadores são infectados para criar o que chamamos de uma botnet. Um servidor central controla esses computadores e coordena um ataque simples: requisições… comuns! São milhões de requisições chegando sem parar ao servidor alvo, mas todas parecem legítimas, como se usuários verdadeiros estivessem fazendo-as, mas sabemos que não é bem assim.
Como mitigar um ataque como esse? Barrar IP’s de origem arbitrariamente pode significar bloquear usuários legítimos. Claro, temos alguns métodos para diferenciar entre requisições legítimas e maliciosas, mas não costuma ser o suficiente em casos em que o ataque é realmente grande e bem estruturado. É aí que as inteligências artificiais entram em cena.
A IA é uma aliada da cibersegurança
A cibersegurança ganha um novo aliado, porque as IA’s são ótimas em distinguir comportamentos em tempo recorde. Na verdade, o PhD em Ciências da Computação, Sherali Zeadally, fez o teste: ele criou uma rede controlada para executar um ataque de DDoS em seu servidor e, utilizando uma IA como gateway para decidir se deixaria ou não as requisições passarem. A árvore de decisões da inteligência artificial deveria decidir se a requisição era legítima ou fazia parte do ataque, e os resultados mostraram algo impressionante – ela acertou em 99% dos casos.
Que reforço para o nosso time, não? Depois destes excelentes resultados em pesquisa, as IA’s receberam um ótimo incentivo para virem nos ajudar dentro das empresas! Com o intuito de acelerar identificação de usuários e comportamentos suspeitos e, até então, tem sido uma inovação que virou o jogo. Me pergunto o que veremos em poucos anos…
E quando as IA’s são atacadas?
Nem tudo são flores. As próprias inteligências artificiais possuem vulnerabilidades próprias de suas configurações. Não estou falando de suas interfaces de utilização, ou seja, do chat que você utiliza para conversar com elas, estou falando sobre o modelo que utilizamos para treiná-las.
Quanta interferência é necessária para corromper uma inteligência artificial? Bom, talvez um único pixel seja o suficiente. Um experimento de 2019 (Su et al.) mostrou que modificar um único pixel é suficiente para que a rede neural classifique erroneamente a imagem. Estudos mais recentes de Baoyuan et al. (2024) expandiram essa pesquisa, demonstrando que ataques adversariais evoluíram para incluir prompt injection em LLMs, data poisoning em modelos de aprendizado e muitas outras formas sofisticadas de ataques.
A maturidade em AI Readiness de uma organização deve incluir não apenas a implementação de IA, mas também protocolos robustos de segurança para os próprios modelos de IA. Empresas preparadas para IA implementam práticas como model hardening, continuous monitoring de drift e anomalias, e redundância de modelos para garantir resiliência.
Os exemplos são muitos e não param por aí. A questão é, uma vez infectadas, as IA’s se tornam vulneráveis a ataques ou corrompimento de seu treinamento, tornando o estado da rede como um todo, inseguro. É uma ameaça para a cibersegurança.
Por isso, estejam atentos: não é porque uma IA respondeu que nós devemos confiar. Leiam com atenção, não copiem e colem cegamente, revisem tudo! Implementem princípios de “zero trust” também para outputs de IA. Afinal, é melhor prevenir do que remediar.
O elo fraco da corrente da cibersegurança
Pior do que os ataques contra os modelos das inteligências artificiais, são os ataques contra os elos mais fracos de toda a cadeia da cibersegurança. No caso, sou eu. Mas pode ser você também! Não leve para o lado pessoal, somos todos nós, humanos, as maiores falhas de segurança de um sistema, o usuário final da internet.
A maioria de nós está sempre focado em resolver os próprios problemas, ao invés de focarmos nas crescentes superfícies de ataque na internet. E é claro, afinal, estamos fazendo o nosso trabalho! Mas isso pode deixar vulneráveis, especialmente em nossa desatenção, para ataques projetados para utilizar da nossa falta de conhecimento ou inocência.
Humanos precisam ser treinados o tempo todo para os novos ataques que surgem por aí, e essa incapacidade de aprender quase instantaneamente é um dos grandes problemas contra as técnicas de phishing modernas e um dos motivos pelos quais malwares se espalham tão bem por meio destes ataques.
Máquinas, por outro lado, são mais fáceis de serem programadas para mitigar algumas ameaças bem conhecidas. E até mesmo ameaças não conhecidas! O método do professor Zeadally mostrou que, ao deixar as inteligências artificiais aprendendo em sites de phishing, o método de detecção dela foi capaz de identificar um phishing zero-day (isso é, algo novo, ainda não utilizado ou registrado) com 98.86% de precisão.
Como aplicamos IA no nosso dia a dia?
Vamos com calma. Implementar IA’s do zero é uma tarefa difícil e custosa, com várias oportunidades para erros caros e duradouros. Por isso, aqui na dti digital, optamos por utilizar ferramentas com inteligências artificiais já consolidadas no mercado, como SIEM (Security Information and Event Management) potencializados por IA, XDR (Extended Detection and Response) platforms, gateways e firewalls de grandes clouds, visando aumentar nossa eficiência quando o assunto é detectar comportamentos maliciosos o quanto antes.
Nossa jornada de AI Readiness começou com uma avaliação criteriosa de maturidade, identificando onde a IA poderia gerar maior valor em segurança. Priorizamos soluções que ofereciam não apenas tecnologia avançada, mas também explicabilidade (XAI – Explainable AI), fundamental para auditoria e compliance em cibersegurança.
Claro, não é a única área. Segurança da informação não é uma etapa, mas um conceito de qualidade crítico que deve permear todas as etapas de desenvolvimento de software e, para cada uma dessas etapas, desde o refino da história até o monitoramento do produto publicado, nós implementamos uma validação de segurança, muitas delas potencializadas com IA.
Veja bem, imagine analisar diariamente os milhares de logs que recebemos de um produto para saber se existe algo errado acontecendo com ele? Fazer isso de vez em quando, tudo bem, mas o esforço braçal que exige para realizar todos os dias, é inviável. Por isso, contamos com as inteligências artificiais para maximizar nossa produtividade, pois além de ter um tempo de detecção baixíssimo, possui uma acurácia extraordinária, permitindo um sono mais tranquilo por parte daqueles encarregados de vigilar sob o produto.
A inteligência artificial não muda o processo
O ponto focal é que a inteligência artificial não muda o processo, não muda o formato de nossas operações, mas muda a nossa eficiência. Somos mais rápidos, mais precisos, mais eficazes no campo da cibersegurança, graças às IA’s.
O verdadeiro AI Readiness não significa substituir processos estabelecidos, mas sim aumentá-los. Empresas maduras em IA entendem que a tecnologia é um multiplicador de força, não um substituto para boas práticas de segurança!
Precisamos aprender a utilizá-las. Sabemos que não existe bala de prata, por isso consideramos as IA’s como excelentes ferramentas, mas não a resposta para tudo. Inteligências artificiais não mudam a forma de fazer segurança. São os mesmos processos, as mesmas técnicas, os mesmos ataques, mas em uma nova escala, mais potente que antes.
E nós, seguimos aprendendo e nos transformando todos os dias com base nesses novos aprendizados. Adequando operações, instalando IA’s para monitorar nossas redes e produtos, validar nossos códigos… Esse é o caminho natural no nosso ambiente ágil, é um processo necessário, até porque, IA não é nosso diferencial, IA é a nossa evolução.
Escrito por Pedro Dantas, Head de Cibersegurança na dti digital
Referências:
Zhang, Z., Ning, H., Shi, F., Farha, F., Xu, Y., Xu, J., Zhang, F. and Choo, K.K.R., 2022. Artificial intelligence in cyber security: research advances, challenges, and opportunities. Artificial Intelligence Review, pp.1-25.
Zeadally, S., Adi, E., Baig, Z. and Khan, I.A., 2020. Harnessing artificial intelligence capabilities to improve cybersecurity. Ieee Access, 8, pp.23817-23837.
Alhayani, B., Mohammed, H.J., Chaloob, I.Z. and Ahmed, J.S., 2021. Effectiveness of artificial intelligence techniques against cyber security risks apply of IT industry. Materials Today: Proceedings, 531.
AHMADI, Sina. AI in the detection and prevention of distributed denial of service (DDoS) attacks. International Journal of Advanced Computer Science and Applications (IJACSA), v. 15, n. 10, 2024.
Sarker, I.H. Multi‐Aspects AI‐Based Modeling and Adversarial Learning for Cybersecurity Intelligence and Robustness: A Comprehensive Overview. Security and Privacy, 6, e295, 2023.
Sarker, P.S., Rafy, F., Srivastava, A.K. and Singh, R.K. Cyber Anomaly-Aware Distributed Voltage Control with Active Power Curtailment and DERs. IEEE Transactions on Industry Applications, 60, 2023.
WU, Baoyuan; ZHU, Zihao; LIU, Li; LIU, Qingshan; HE, Zhaofeng; LYU, Siwei. Attacks in adversarial machine learning: a systematic survey from the life-cycle perspective. 2024.
Binhammad, M., Alqaydi, S., Othman, A. and Abuljadayel, L. H. (2024) The Role of AI in Cyber Security: Safeguarding Digital Identity. Journal of Information Security, 15, 245-278. 2024.
Verizon, 2025. Data Breach Investigations Report. Verizon Enterprise Solutions.
ISO/IEC 23053:2022. Framework for Artificial Intelligence (AI) Systems Using Machine Learning (ML). International Organization for Standardization.
