O aprendizado de máquina (machine learning) é uma subárea da inteligência artificial que visa o desenvolvimento de ferramentas capazes de aprender a resolver problemas, não pelo conhecimento, mas a partir de dados. Para isso, dados relacionados aos caminhos para solucionar determinadas situações são fornecidos a um modelo, que reconhece e aprende os padrões, sendo capaz de executá-los.
Esse tipo de tecnologia, ao mesmo tempo que otimiza processos das mais variadas áreas de atuação, pode ser utilizado para fins maliciosos. No universo dos ataques cibernéticos, por exemplo, o machine learning aumenta o grau de assertividade, potencializando as investidas dos cibercriminosos.
E foi justamente a aplicação do aprendizado de máquina a ataques furtivos em sistemas de TO um dos temas abordados durante a 5ª CLASS – Conferência Latino Americana de Segurança em SCADA, realizada nos dias 14, 15 e 16 de maio de 2024, no Museu do Amanhã, no Rio de Janeiro (RJ). Leonardo Gomes Tavares, pesquisador especialista no Instituto de Tecnologia para o Desenvolvimento (ITC) – Lactec, e Charles Prado, chefe da divisão de ensino e pesquisa, do Inmetro, conduziram as discussões.
Confira como o aprendizado de máquina pode ser aplicado a ataques cibernéticos em sistemas de TO.
Como são os processos de treinamento de um modelo de machine learning?
“Para aprender algo, uma máquina necessita rodar várias vezes em cima do conjunto de dados que precisa ser ensinado”, destacou Leonardo Tavares, iniciando sua fala sobre como acontecem os treinamentos dos modelos de aprendizado de máquina.
Trata-se de um processo interativo, que pode ser supervisionado ou não. No caso de um treinamento supervisionado, a ação humana é necessária em alguns momentos, separando os conjuntos de dados que serão utilizados. “Normalmente, os conjuntos de dados são divididos em três: uma parte deles é usada para treinar (cerca de 70%), outra parte para validar (cerca de 10%) e outra para testar o modelo (20%)”, ressaltou o pesquisador, completando que, dessa forma, é possível avaliar estrategicamente o desempenho do modelo e treiná-lo de maneira mais confiável.
Machine learning como ferramenta de ataques cibernéticos
O aprendizado de máquina pode ser usado para diversos fins maliciosos em infraestruturas de OT: otimizar ataques cibernéticos, automatizar malwares, manipular ou envenenar dados, entre outros.
“O ser humano, usando a IA, talvez possa gerar alguns tipos de ataques diferentes. Mas, uma IA que aprendeu a atacar, poderá produzir quantos ataques distintos? E, ainda, poderá aplicá-los em qualquer sistema, desde que consiga extrair dados e aprender como eles funcionam”, pontuou Charles Prado.
Ele relatou uma simulação da qual participou na Universidade de Brescia, na Itália. O projeto aplicou o aprendizado de máquina, com fins de ataque a um sistema de OT, em uma planta fotovoltaica. No experimento, a IA maliciosa aprendeu o comportamento do sistema e entendeu quais eram as respostas esperadas como corretas. Enquanto a IA fornecia as respostas padrão para o sistema operar normalmente, um ataque estava sendo executado. Neste caso, a IA enganou o sistema, enviando padrões esperados enquanto agia de forma destrutiva.
“Em que tipo de planta isso pode acontecer? Em qualquer uma. Então, seja em uma subestação ou em um sistema de controle, se tivermos acesso aos dados e ao comportamento desses dados, é possível aprender como ele opera e, portanto, realizar um ataque furtivo”, enfatizou Charles.
Os dados são a chave para a evolução da IA, tanto para uso benéfico quanto malicioso. Enquanto as soluções podem ser infinitas, as variações dos tipos de ataques também. “Redes, sensores, equipamentos, camadas de IT ou OT, tudo funciona baseado em dados. E como é que eu protejo isso tudo? Depois da IA, o mapeamento já não é mais tão simples assim”, salientou.
A vulnerabilidade das smart grids (redes elétricas inteligentes) também foi citada por Charles como um ponto de atenção para quem atua com segurança cibernética nesse tipo de infraestrutura crítica. “São várias etapas – geração, transmissão, distribuição – com inúmeras entradas de vulnerabilidade. Desde logins e senhas simples”, frisou.
Machine learning como ferramenta de proteção
Assim como a inteligência artificial é um recurso poderoso dos cibercriminosos, ela também tem sido usada para reforçar a segurança cibernética das mais diversas infraestruturas. O machine learning pode aprender qualquer coisa, desde que tenha dados para isso:
- Criar modelos preditivos.
- Desenvolver soluções para aumentar a segurança das redes.
- Detectar ameaças, phishing, bots, etc.
- Mitigar possíveis ataques e evitar invasões.
- Entre outros.
Charles destacou um projeto que está desenvolvendo, juntamente com Leonardo, para um cliente do setor de energia. O objetivo é investigar tipos de ataques que podem ser gerados a partir de inteligência artificial, para poderem simular situações que fogem do padrão e desenvolver defesas. “Nosso intuito é descobrir ciberataques que não estão catalogados em nenhum lugar”, ressaltou.
“A IA é uma realidade. Muitos institutos tecnológicos já estão fazendo pesquisas para prover guias que direcionem a realização de testes e formas de prevenção para estes tipos de ataques que não estão listados em catálogos”, finalizou.
