Saltar al contenido

Privacidad, IA y ataques adversarios: FAWKE

Así pasó

En los últimos años se ha avanzado mucho en el uso de la IA (Inteligencia Artificial) para lograr realizar tareas de forma autónoma. No me voy a extender en matices sobre si los términos son los adecuados, se emplean correctamente, etc.

En la foto puede verse un ataque adversario mal hecho, TODO el mundo, incluso una calculadora sabría reconocer al actor de telenovela Pedro Sánchez

La potencia de cálculo…

y combustible gratis o a precio de saldo.

La realidad es que el avance no se ha producido porque se hayan descubierto enfoques o métodos revolucionarios (los fundamentos teóricos y prácticos llevan años existiendo) sino porque

  • La potencia de calculo ha crecido y sobre todo el ratio Potencia / Coste
  • Hay mucha materia prima para entrenar

Si nos centramos aún más en el reconocimiento de imágenes (vamos a llamarlo VISIÓN ARTIFICIAL) para identificar en ellas, sujetos, objetos, cualquier tipo de caracterización de las mismas  uno de los factores que hace que esté al alcance de cualquier persona o equipo desarrollar un sistema de reconocimiento facial.

  • Hay dispositivos de bajo coste capaces de procesar
  • Existen librerías de software libres que permiten crear paquetes o modificar existentes
  • Todos tenemos en internet miles de millones de rostros para entrenar nuestro modelo de reconocimiento.
Es la misma imagen del otro post, porque si supiesen que además de acabar en el paro o de repartidores de GLOVO, han regalado sus bonitos rostros a un montón de oscuros proyectos de reconocimiento facial

El daño está hecho, ¿puedo hacer algo?

Quizás cuando subías tu foto a Internet no eras consciente que 20 años después iba a ser materia prima de entrenamiento para todo tipo de proyectos.

Con el advenimiento de las redes sociales te empezaste a dar cuenta de que esa foto robada tuya en aquel lugar que alguien etiqueto, o la misma red social lo hizo, te trajo más de un problema.

El daños esta hecho, hemos pecado de imbéciles o de vagos (por no leer las políticas de privacidad). Si te crees que lo segundo es así, no te preocupes, se llevan décadas haciendo uso ilegal de los datos, al principio direcciones postales y ficheros de solvencia y ahora versiones más avanzadas que tu mismo te encargas de actualizar.

El panorama no es bueno, porque la solución podría ser renunciar a la vida digital – que conocemos nosotros, pero que no es aún la de todo el planeta —  y no es fácil cuando los bancos insisten en que instales Apps para algo tan básico para pagar (la información de tu tarjeta  y extracto ya no les sirve).

Miente como lo hace Aznar (o era Ansar)

En un juego de ladrones siempre el equilibrio de Nash es que todos mienten. Así se consigue el mejor beneficio individual. Por eso hay que mentir y SIN que te pillen.

Volviendo al mundo de las matemáticas y de las redes neuronales, se ha descubierto que son altamente sensibles a los denominados ataques adversarios.

Básicamente, como ya os dijimos, un ataque adversario consiste en modificar ligeramente los datos, sin que levanten sospecha, para que el sistema se los trague y no aprenda una mierda. Otra analogía sería venderles suplementos alimenticios a deportistas para mejorar su rendimiento que lo único que hacen es que su orina sea más cara.

Un grupo de estudiantes de doctorado del denominado SAND Lab (Security, Algorithms, Networks and Data) han desarrollado un software para varias plataformas que permite incluir información que no altera visualmente el resultado de las imágenes pero que “destroza” el propósito de su uso como forraje para redes neuronales.

Recomiendo  a todos os que estén mínimamente interesados que se lean con detalle las explicaciones, que lo prueben, que lo usen y sobre todo que sean conscientes que TODO lo que está públicamente accesible a golpe de click probablemente este superado o obsoleto y en algún laboratorio chino ya sean capaz de identificar a todos los asistentes a un estadio incluso con la cara tapada.

Para una explicación alternativa más standard

Lo que podemos aprender

La última vez que fui al Mobile World Congress (última que se celebró) mi acompañante me pregunto porque no me parecía “genial” la nueva opción que ofrecían de escanear tu cara para crear un pase con información biométrica que te permitía acceder sin esperas.

Son este tipo de decisiones imprudentes las que permiten a muchos entrenar gratis a sus perros de presa virtual.

Tu decides si tiras la piedra sobre tu tejado

Deja una respuesta

Tu dirección de correo electrónico no será publicada.

Este sitio usa Akismet para reducir el spam. Aprende cómo se procesan los datos de tus comentarios.