Invisible pour la machine.
Visible pour l'humain.

Les systèmes d'intelligence artificielle nous voient, nous reconnaissent, nous suivent et nous comptent, souvent sans qu'on le sache et sans qu'on l'ait choisi. AI Camouflage cherche des moyens simples de se protéger de ce regard automatique, sans jamais se cacher des autres : des objets et des motifs que chacun peut imprimer, porter, fabriquer.

Reconnaissance facialeSource : Amnesty
Traque des véhiculesSource : B. Jordan
Armes autonomesSource : Azov Media

Valeurs

Tromper la machine, jamais l'humain

La cible est toujours un modèle de machine learning. Un visage doit rester un visage, une plaque doit rester lisible par un policier, une personne doit rester visible par une autre personne.

Trouver l'équilibre

Un chemin étroit existe entre deux pentes : une IA lâchée sans responsabilité, qui démultiplie les capacités de nuisance, et une IA verrouillée entre quelques mains, qui concentre un pouvoir de surveillance sans équivalent dans l'histoire. Ce chemin, c'est celui où les personnes gardent une prise sur ce que les machines font d'elles.

Méthode

La plupart des travaux présentés ici reposent sur les attaques adversariales, aussi appelées exemples contradictoires. Ce sont des modifications subtiles, souvent anodines ou presque invisibles, apportées à ce qu'un système d'IA reçoit en entrée, et qui suffisent à le faire se tromper.

Un motif imprimé sur un tissu, un cadre posé autour d'un objet, une texture appliquée sur une surface : rien de tout cela n'empêche un humain de comprendre ce qu'il regarde. Mais pour un modèle de vision entraîné à reconnaître un visage, une plaque ou une silhouette, ces détails peuvent tout changer. Là où l'humain voit un vêtement ordinaire, la machine ne voit plus personne.

Chaque projet suit la même exigence d'honnêteté : on mesure ce qui marche et ce qui ne marche pas, on distingue le résultat en laboratoire du résultat dans le monde réel, et on documente les limites plutôt que de les cacher.

Appel à contribution

AI Camouflage est un travail ouvert, au stade de la preuve de concept. Chaque projet publiera ses motifs, ses mesures et ses limites, pour être repris, testé et amélioré.

Vous pouvez imprimer les motifs et les essayer, reproduire les mesures, signaler ce qui ne marche pas, ou proposer un terrain d'expérimentation. Écrivez-nous.

Sauf mention contraire, textes et images © AI Camouflage.