Embora haja preocupações sobre como os cibercriminosos podem explorar a IA generativa, há maiores retornos ao aplicá-la à prevenção de ameaças.
Futuros distópicos em que as máquinas se tornam conscientes de suas próprias existências já rendeu muita bilheteria no cinema. De Blade Runner, passando por Matrix, Wall-E, Her, IA, apenas para citar alguns, são filmes que trazem muitos questionamentos filosóficos e éticos sobre a criação de seres dotados de Inteligência Artificial (IA). Fato é que no imaginário humano, a IA sempre existiu e muito longe do mundo ficcional se tornou uma realidade, que silenciosamente ganha espaço no mundo físico das empresas, nas áreas de saúde, entretenimento e em praticamente todas as atividades humanas. E não seria diferente quando o tema é segurança cibernética.
A inteligência artificial tem o potencial de auxiliar na detecção e prevenção de ataques hackers de várias maneiras. Apesar de não ser uma solução completa ou infalível para resolver todos os problemas de segurança cibernética, pode ser uma ferramenta poderosa para fortalecer as defesas e tornar a proteção mais ágil e adaptável.
Como pontua Thiago Branquinho, CTO da TI Safe, a incorporação da IA nos protocolos de segurança cibernética é um passo decisivo e sem volta. “O embrião do que hoje conhecemos como inteligência artificial foi gestado há pelo menos 20 anos nos laboratórios das universidades, por meio da aplicação do conceito das redes neurais que são modelos computacionais inspirados no funcionamento do cérebro humano. Essas redes são uma parte essencial da inteligência artificial e do campo mais amplo do aprendizado de máquina (machine learning). Elas são projetadas para aprender a partir de dados e resolver tarefas complexas, muitas vezes com base em padrões e características não lineares dos dados”, explica Thiago Branquinho.
O executivo informa, ainda, que o nome “redes neurais” vem da analogia com o sistema de neurônios interconectados do cérebro. Esses modelos são compostos por camadas de unidades computacionais (neurônios artificiais) que recebem entradas, processam informações e geram saídas. As conexões entre os neurônios têm pesos que são ajustados durante o processo de aprendizado, permitindo que a rede se adapte aos padrões presentes nos dados. “Uma rede neural pode ser treinada para executar várias tarefas, como classificação, reconhecimento de padrões, processamento de linguagem natural, entre outras. O treinamento geralmente envolve a apresentação de um grande conjunto de dados de treinamento à rede neural, onde os pesos das conexões são gradualmente ajustados através de algoritmos de otimização para reduzir o erro de previsão ou a diferença entre as saídas previstas e as saídas reais”, detalha.
Aplicação da IA na TI Safe
O CTO da TI Safe explica que a inteligência artificial permeia diversas atividades práticas no dia a dia da proteção cibernética fornecida pela companhia aos clientes. Para citar alguns exemplos, as ferramentas de Firewall e de resposta a incidentes que são integrados aos sistemas de aprendizado de máquinas, ou seja, a inteligência artificial que têm a capacidade de aprender a partir de dados sem serem explicitamente programados. Os sistemas de detecção de intrusão (IDS) baseados em IA podem detectar e bloquear automaticamente o tráfego de rede mal-intencionado, sem intervenção humana. “Muitas das ferramentas que utilizamos, incluindo soluções da Nozomi, Claroty, Palo Alto são projetadas para identificar padrões, fazer previsões, tomar decisões ou realizar tarefas específicas com base em dados de treinamento da análise do comportamento versus o desvio do padrão. Essas ferramentas aprendem nesse processo, incrementando o conhecimento delas em cima daquele padrão. Ou seja, os sistemas baseados em IA podem aprender com incidentes anteriores e se adaptar a novas ameaças, tornando-os mais resistentes a ataques”, explica Thiago Branquinho e acrescenta: “Também estamos utilizando o ChatGPT no dia a dia para nos apoiar na criação de questionários de Compliance. Funciona da seguinte maneira: a equipe registra dados na ferramenta e a partir desse conjunto de informações solicitamos que o ChatGPT configure perguntas relacionadas àquele conjunto de dados gerando prompts específicos”.
O ChatGPT também tem sido usado na TI Safe para o trabalho denominado e enriquecimento de dados. Os Firewall, IDS, EDR e servidores das empresas monitoradas geram logs que são armazenados no sistema do ChatGPT. Esses dados podem prover informações de segurança por meio de um quadro de alertas. “Podemos ter origens e destinos que são no mesmo intervalo de tempo para uma mesma máquina e esses fatores são correlacionados para compor um quadro de alertas”, explica Thiago Branquinho. Esse enriquecimento de dados feito pela TI Safe conta, ainda, com informações complementares de fontes como Siemens, Palo Alto, Fortinet, IBM etc.
A nova “Era” das perguntas
Há uma discussão corrente sobre profissões em que a inteligência artificial vai ocupar a posição no lugar dos seres humanos. O próprio ChatGPT lista 80 delas. Contudo, a grande mudança em curso é na capacidade humana de elaborar as melhores dúvidas e realizar as sinapses corretas para obter os melhores resultados.
Segundo especialistas do mercado de tecnologia, fazer as perguntas certas ao ChatGPT será uma das principais habilidades que os profissionais de TI e TO terão que aperfeiçoar. “Trata-se de um passo crucial para maximizar o potencial da inteligência artificial, garantindo que ela seja aplicada de maneira eficiente e ética para resolver problemas e fornecer soluções”, diz o CTO da TI Safe.
Além do aumento de produtividade por meio da redução no tempo de pesquisa e elaboração de respostas, o uso da inteligência artificial deve desenvolver uma categoria de indivíduos mais questionadores e mais pensantes. Como provoca Thiago Branquinho: “Voltamos há dois mil anos quando os grandes filósofos se preocuparam em elaborar perguntas e não apenas em decorar respostas”. Ele pontua também que apesar de todo o burburinho em torno do ChatGPT, a ferramenta é na verdade somente um primeiro nível de recursos e aplicações do que ainda será possível com a inteligência artificial, tanto para o bem como para o mal, assim como qualquer outra tecnologia.
O lado negro da força
Embora a IA ofereça muitos benefícios na segurança cibernética, é importante lembrar que os hackers também podem usar a inteligência artificial para aprimorar seus ataques. Além de questões envolvendo plágio de conteúdo, manipulação de imagens, criação de deepfake, quebra de direitos autorais e outras de cunho ético e moral, Thiago Branquinho alerta para o perigo dos cibercriminosos usarem a inteligência artificial para aprimorar os ataques como, por exemplo, contornar os sistemas de detecção de intrusão, gerando tráfego de rede malicioso que parece legítimo.
Além disso, assim como a utilização do recurso acelerou a prestação dos serviços de proteção, por meio da priorização de respostas aos incidentes, também agilizou a fabricação de ransomware. “Tem um estudo da IBM, de 2019, que apontava que o tempo médio para se criar um ransomware era de 60 dias. Em 2021, o mesmo levantamento indicava que em vez de 60 dias, os hackers passaram a levar 3,8 dias para fabricar um. E o uso da inteligência artificial foi um dos principais recursos para ajudar a reduzir a produção desses softwares de extorsão”, conta Thiago Branquinho.
O outro fator preocupante, na avaliação do CTO da TI Safe, é que antes os cibercriminosos que começaram lá na década de 80 eram muito qualificados tecnicamente para, efetivamente, invadir órgãos públicos e empresas privadas com sistemas protegidos e altamente complexos. Atualmente em três cliques está feito. “O nível técnico do atacante hoje pode ser muito menor. E com inteligência artificial, poderemos ter entrantes no mercado de hacking com muita facilidade. A curva de aprendizado vai ser muito menor. Eu arrisco dizer que será possível formar exércitos de hackers”, destaca.
O malware baseado em inteligência artificial pode ser usado para escapar do software antivírus, alterando constantemente o seu código e comportamento, dificultando a detecção pelas equipes de segurança. Os ataques de engenharia social baseados em IA também estão se tornando mais sofisticados e difíceis de detectar. Os cibercriminosos estão usando IA para representar o comportamento humano, como gerar texto ou voz por inteligência artificial para representar uma pessoa ou entidade confiável e induzir os usuários a fornecerem as suas informações pessoais ou dinheiro. Isso torna cada vez mais difícil, para os usuários, distinguir as comunicações entre legítimas e maliciosas.
Segundo reportagem publicada pela Dazed um modelo de IA maligno semelhante ao ChatGPT está se espalhando pela dark web e permitindo que hackers realizem ataques cibernéticos em uma escala nunca antes vista. Chamado de WormGPT, o “sofisticado modelo de IA” foi projetado para produzir textos semelhantes aos humanos que podem ser usados em campanhas de hackers.
Para Thiago Branquinho é necessário implementar uma abordagem holística de segurança que inclua a colaboração entre humanos e sistemas de IA para combater ameaças cibernéticas de forma eficaz. “Além disso, é fundamental manter-se atualizado com as últimas tendências de segurança e adotar boas práticas, como criptografia, autenticação multifatorial e auditorias regulares para garantir uma proteção abrangente contra ataques hackers”, conclui o CTO da TI Safe.
Algumas maneiras pelas quais a IA pode ajudar a evitar ataques hackers são:
Detecção de anomalias: Sistemas de IA podem ser treinados para monitorar o tráfego de rede, os padrões de acesso de usuários e outros comportamentos para identificar atividades anômalas ou suspeitas. Por exemplo, a IA pode detectar tentativas de invasão, tráfego incomum ou atividades que não se encaixam nos padrões normais do sistema.
Identificação de ameaças conhecidas: A IA pode ser utilizada para analisar grandes volumes de dados e identificar padrões correspondentes a ataques já conhecidos e catalogados. Isso permite que as defesas sejam ajustadas rapidamente para proteger sistemas contra ameaças conhecidas.
Aprendizado contínuo: Com a capacidade de aprender com novos dados, a IA pode atualizar suas estratégias de detecção e prevenção à medida que novas ameaças emergem. Isso torna as defesas mais adaptáveis e resilientes contra ataques em constante evolução.
Análise de vulnerabilidades: A IA pode ser usada para identificar falhas de segurança em sistemas e aplicativos. Com base nessas análises, as equipes de segurança podem tomar medidas proativas para corrigir vulnerabilidades antes que sejam exploradas por hackers.
Segurança de perímetro: A IA pode ser aplicada em firewalls e sistemas de segurança de perímetro para analisar o tráfego de entrada e saída em tempo real, bloqueando ou limitando acessos maliciosos.
Resposta à incidentes: Após a detecção de um ataque, a IA pode ajudar na análise de dados e evidências para uma resposta rápida e eficiente. Isso pode incluir a identificação do escopo do ataque, a origem e o método utilizado, auxiliando a equipe de resposta a mitigar os danos e prevenir futuras violações.
*A imagem de ilustração desta matéria foi criada por inteligência artificial
