Análise Comparativa de Métodos de Geração de Amostras Adversariais na Detecção de Ataques
O aprendizado de máquina adversarial (em inglês, Adversarial Machine Learning – AML) compreende um campo que estuda os ataques em modelos de aprendizado de máquina, bem como suas defesas. Para a aplicação desses ataques, são usadas amostras adversariais, que consistem em amostras especialmente criadas para comprometer o classificador. Apesar da existência de contramedidas aplicadas com sucesso para defesa dessa ameaça em sistemas de visão computacional, os mesmos não podem ser prontamente aplicados em contextos de cibersegurança. Esses necessitam de adaptações e melhorias específicas para este domínio, como seleção de propriedades do modelo e distribuição de dados de treinamento. Essas limitações, ainda não amplamente exploradas, geram desafios únicos, haja vista que, pequenas perturbações em pixels de uma imagem não a alteram visualmente, mas podem corromper o resultado final do modelo ou afetar seu comportamento. O estudo de AML aborda um subconjunto de técnicas de aprendizado de máquina que vem sendo empregado em diversos campos para compreender os mecanismos por trás dos ataques, como também desenvolver métodos eficazes para mitigar o impacto na detecção de ataques cibernéticos de forma automatizada. Este trabalho de conclusão de curso I estuda os conceitos sobre AML e aplica métodos de geração de amostras adversariais em modelos de classificação de ciberataques, visando avaliar seu impacto sobre o classificador. Para tal, foram estudados e reproduzidos experimentos existentes para comparar o efeito dos métodos de geração de amostras adversariais na identificação de ataques, como PartOfAHorizontalPortScan, DDoS, entre outros. Os resultados apresentados demonstram o potencial risco dos ataques adversariais contra os modelos e os aprendizados alcançados serão aplicados na segunda etapa desta monografia.
2024/1 - MSI1
Orientador: Michele Nogueira Lima
Palavras-chave: Amostras Adversariais; Aprendizado de Máquina Adversarial; Aprendizado de Máquina; Ataques; Cibersegurança; Inteligência Artificial.
Link para vídeo
PDF Disponível