Maison / Technologie / Utilisation de la théorie des jeux pour modéliser des scénarios d'attaque par empoisonnement

Utilisation de la théorie des jeux pour modéliser des scénarios d'attaque par empoisonnement

Suivre
( 0 Abonné(e)s )
X

Suivre

E-mail : *
Utilisation de la théorie des jeux pour modéliser des scénarios d'attaque par empoisonnement  Utilisation de la théorie des jeux pour modéliser des scénarios d'attaque par empoisonnement usinggamethe

Résultats de la stratégie de défense pure sous attaque optimale. Crédit: Ou & Samavi.

Les attaques par empoisonnement font partie des plus grandes menaces pour la sécurité des modèles d'apprentissage automatique (ML). Dans ce type d'attaque, un adversaire tente de contrôler une fraction des données utilisées pour entraîner les réseaux de neurones et injecte des points de données malveillants pour nuire aux performances d'un modèle.

Bien que les chercheurs aient essayé de développer des techniques capables de détecter ou de contrecarrer ces attaques, l'efficacité de ces techniques dépend souvent du moment et de la manière dont elles sont appliquées. De plus, en appliquant parfois des techniques de filtrage pour cribler des modèles ML contre empoisonnement les attaques peuvent réduire leur précision, les empêchant d'analyser des données authentiques et corrompues.

Dans une étude récente, des chercheurs de l’Université McMaster au Canada ont utilisé avec succès Jeu la théorie pour modéliser les scénarios d'attaque par empoisonnement. Leurs conclusions, décrites dans un article pré-publié sur arXiv, prouve la non-existence d’un pur équilibre de stratégie Nash, ce qui implique que chaque joueur choisisse à plusieurs reprises la même stratégie dans le "jeu" de l’attaquant et du défenseur.

L'étude du comportement des attaquants et des défenseurs lors d'attaques par empoisonnement pourrait aider à développer des algorithmes ML mieux protégés contre eux tout en conservant leur précision. Dans leur étude, les chercheurs ont tenté de modéliser les attaques par empoisonnement dans le contexte de la théorie des jeux, une branche des mathématiques visant à mieux comprendre les stratégies utilisées dans des situations de concurrence (par exemple, les jeux), où le résultat dépend fortement des choix des personnes impliquées (les participants ).

"L'objectif de cet article est de trouver l'équilibre de Nash (NE) du modèle de jeu d'attaque et de défense contre l'empoisonnement", expliquent Yifan Ou et Reza Samavi, les deux chercheurs qui ont mené l'étude, dans leur article. "Identifier la stratégie de NE nous permettra de trouver la force de filtre optimale de l'algorithme en défense, ainsi que l'impact résultant sur le modèle ML lorsque l'attaquant et le défenseur utilisent des stratégies optimales."

En théorie des jeux, la NE est l’état stable d’un système qui implique des interactions compétitives entre différents participants (par exemple, un jeu). En cas de NE, aucun participant ne peut rien gagner par un changement de stratégie unilatéral si la stratégie du ou des autres joueurs reste inchangée.

Dans leur étude, Ou et Samavi ont tenté de trouver le NE dans le contexte d'attaques par empoisonnement et de stratégies de défense. Premièrement, ils ont utilisé la théorie des jeux pour modéliser la dynamique des attaques par empoisonnement et ont montré qu'un NE pur est inexistant dans un tel modèle. Par la suite, ils ont proposé une stratégie de NE mixte pour ce modèle de jeu particulier et ont montré son efficacité dans un cadre expérimental.

"Nous avons utilisé la théorie des jeux pour modéliser les stratégies de l'attaquant et du défenseur dans des scénarios d'attaque par empoisonnement ", ont écrit les chercheurs." Nous avons prouvé que la stratégie pure NE n'existait pas, nous avons proposé une extension mixte de notre modèle de jeu et un algorithme pour se rapprocher de la stratégie de NE pour le défenseur. , a ensuite démontré l'efficacité de la défense mixte stratégie généré par l'algorithme ".

À l’avenir, les chercheurs aimeraient étudier une approche plus générale des attaques par empoisonnement, consistant à détecter et à rejeter des échantillons à l’aide d’algorithmes d’audit. Cette approche alternative pourrait être particulièrement efficace pour mettre à jour et améliorer un modèle dans les situations où les commentaires des utilisateurs sont recherchés en ligne.


Défense contre les attaques sans fil utilisant un réseau neuronal profond et la théorie des jeux


Plus d'information:
Modèle de jeu de stratégie mixte contre les attaques par empoisonnement des données. arXiv: 1906.02872 (cs.LG). arxiv.org/abs/1906.02872

© 2019 Science X Network

Citation:
                                                 Utilisation de la théorie des jeux pour modéliser des scénarios d'attaque par empoisonnement (20 juin 2019)
                                                 récupéré le 20 juin 2019
                                                 de https://techxplore.com/news/2019-06-game-theory-poisoning-scenarios.html

Ce document est soumis au droit d'auteur. Mis à part toute utilisation équitable à des fins d’étude ou de recherche privée, aucun
                                            partie peut être reproduite sans autorisation écrite. Le contenu est fourni seulement pour information.

Source

A propos newstrotteur-fr

Découvrez également

Madrid émerge en tant que centre de production de séries télévisées thesuccessof 310x165

Madrid émerge en tant que centre de production de séries télévisées

Suivre ( 0 Abonné(e)s ) X Suivre E-mail : * Suivre Ne plus suivre Le …

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *