Aprendizaje automático adversario: superficies de ataque, mecanismos de defensa, teorías de aprendizaje en inteligencia artificial

Un desafío crítico en el aprendizaje profundo es la vulnerabilidad de las redes de aprendizaje profundo a los ataques de seguridad de ciberadversarios inteligentes. Incluso las perturbaciones inofensivas de los datos de entrenamiento pueden utilizarse para manipular el comportamiento de redes profundas de forma no deseada. En este libro, revisamos los últimos desarrollos en tecnologías de ataque adversario en visión por computadora; procesamiento natural del lenguaje; y ciberseguridad con respecto a datos multidimensionales, textuales e imágenes, datos de secuencia y datos temporales. A su vez, evaluamos las propiedades de robustez de las redes de aprendizaje profundo para producir una taxonomía de ejemplos adversarios que caracterice la seguridad de los sistemas de aprendizaje utilizando algoritmos de aprendizaje profundo adversarios de teoría de juegos. También se revisa el estado del arte en mecanismos de protección de la privacidad basados ​​en perturbaciones adversas. Proponemos nuevos tipos de adversarios para objetivos de teoría de juegos en entornos de aprendizaje computacional no estacionarios. La cuantificación adecuada de las hipótesis establecidas en los problemas de decisión de nuestra investigación conduce a varios problemas funcionales, problemas oraculares, tareas de muestreo y problemas de optimización. También abordamos los mecanismos de defensa actualmente disponibles para los modelos de aprendizaje profundo implementados en entornos del mundo real. Las teorías de aprendizaje utilizadas en estos mecanismos de defensa se refieren a representaciones de datos, manipulaciones de características, costos de clasificación errónea, paisajes de sensibilidad, robustez distributiva y clases de complejidad de los algoritmos de aprendizaje profundo adversarios y sus aplicaciones. Para concluir, proponemos futuras direcciones de investigación en aplicaciones adversarias de aprendizaje profundo para el diseño de sistemas de aprendizaje resilientes y revisamos supuestos de aprendizaje formalizados relacionados con las superficies de ataque y las características de robustez de las aplicaciones de inteligencia artificial para deconstruir los diseños contemporáneos de aprendizaje profundo adversario. Dado su alcance, el libro será de interés para los profesionales de Adversarial Machine Learning y los investigadores de Adversarial Artificial Intelligence cuyo trabajo involucra el diseño y la aplicación de Adversarial Deep Learning.

• | Autor: Aneesh Sreevallabh Chivukula, Xinghao Yang, Bo Liu, Wei Liu, Wanlei Zhou
• | Editorial: Springer
• | Fecha de publicación: 07 de marzo de 2023
• | Número de páginas: 321 páginas
• | Idioma: inglés
• | Encuadernación: Tapa dura
• | ISBN-10: 3030997715
• | ISBN-13: 9783030997717