Un equipo de la Universidad de Maryland, Estados Unidos, desarrolló una ‘capa de invisibilidad’ que consiste en un suéter que es capaz de convertir a su usuario en un ‘fantasma’ frente a los modelos comunes de Inteligencia Artificial que se utilizan para reconocer a personas.
Para ello el equipo recurrió a una de las técnicas utilizadas para manipular las redes neuronales: los ataques simulados que generan un «patrón antagónico», que puede aplicarse a los objetos detectados dentro de una imagen determinada para evitar que el modelo los reconozca, informó Hackster.
Traducción: Este suéter desarrollado por la Universidad de Maryland es una capa de invisibilidad contra la IA. Utiliza «patrones adversarios» para evitar que AI reconozca a la persona que lo usa.
«Este elegante suéter es una excelente manera de mantenerse abrigado este invierno. Cuenta con un forro de microfibra impermeable, un ajuste moderno y patrones opuestos a la IA -Inteligencia Artificial- para ayudarlo a esconderse de los detectores de objetos», sostuvieron los científicos.
«Los detectores funcionan considerando miles de imágenes anteriores con diferentes ubicaciones de objetos, tamaños y proporciones de aspecto. Para engañar a un detector de objetos, el patrón antagónico también debe cambiar todas las imágenes anteriores, lo cual resulta mucho más difícil que engañar a una única salida del clasificador», explicó el comunicado de los investigadores.
En su demostración, el detector YOLOv2 se evade usando un patrón entrenado en el conjunto de datos COCO (algunos de los modelos de aprendizaje automático) «con un objetivo cuidadosamente construido».
En consecuencia, al cargar los datos, el detector representa una persona con deformaciones aleatorias de perspectiva, brillo y contraste. Luego se usó un algoritmo del Gradiente Descendente, uno de los algoritmos de optimización más populares en aprendizaje automático, y encontraron el patrón que minimiza las «puntuaciones de objetualidad» (la confianza en la presencia de un objeto) para cada objeto anterior.
Tras probar el concepto en «muñecas de papel», que podrían vestirse con diferentes parches, el equipo luego ideó la gama de ropa «suéter de invisibilidad» y descubrió que «degradan significativamente el rendimiento de los detectores» en comparación con la ropa normal.
