¿Qué es un ataque de destilación en inteligencia artificial?

Un ataque de destilación es una técnica mediante la que un actor intenta extraer de forma sistemática y no autorizada las capacidades de un modelo de inteligencia artificial para reproducirlas o utilizarlas en el entrenamiento de otro modelo.

Normalmente, el atacante realiza un gran número de consultas al modelo objetivo y recopila sus respuestas, razonamientos u otros resultados para generar datos de entrenamiento. El objetivo no tiene por qué ser copiar exactamente el modelo original, sino transferir parte de sus capacidades a otro sistema con un coste de desarrollo mucho menor.

La destilación es una técnica legítima de aprendizaje automático. Se considera adversarial cuando se utiliza sin autorización para apropiarse de capacidades de otro modelo o eludir las condiciones establecidas por su proveedor.

¿Cómo funciona un ataque de destilación contra un modelo de IA?

Un ataque de destilación suele comenzar mediante el acceso al modelo objetivo, por ejemplo a través de una API o una interfaz disponible para usuarios.

El atacante genera grandes volúmenes de consultas diseñadas para obtener ejemplos de las capacidades que quiere reproducir. Las respuestas obtenidas pueden utilizarse después como datos para entrenar, ajustar o evaluar otro modelo.

En ataques más sofisticados, las consultas se concentran en capacidades especialmente valiosas, como razonamiento, programación o uso de herramientas. También pueden utilizarse múltiples cuentas, proxies y patrones de tráfico distribuidos para dificultar la detección. Campañas documentadas recientemente muestran precisamente este tipo de operaciones a gran escala.

¿Cuál es la diferencia entre destilación de conocimiento y ataque de destilación?

La destilación de conocimiento es una técnica legítima de aprendizaje automático en la que un modelo, normalmente más pequeño, aprende a partir de los resultados generados por otro modelo más potente.

Se utiliza, por ejemplo, para crear modelos más eficientes, reducir costes computacionales o transferir capacidades desde un modelo grande a otro más ligero.

Un ataque de destilación utiliza un principio similar, pero introduce un componente adversarial: las capacidades del modelo original se extraen de forma sistemática y sin autorización para entrenar o mejorar otro sistema.

Por tanto, la diferencia fundamental no está únicamente en la técnica utilizada, sino también en el contexto, la autorización y la finalidad con la que se realiza la transferencia de conocimiento.

¿Cuál es la diferencia entre un ataque de destilación y un ataque de extracción de modelos?

Un ataque de extracción de modelos es un concepto más amplio que engloba diferentes técnicas destinadas a obtener información, comportamiento o capacidades de un modelo al que el atacante solo tiene acceso limitado.

La destilación adversarial puede considerarse una modalidad de extracción de modelos. En este caso, el atacante utiliza las respuestas del modelo objetivo como datos para entrenar otro modelo que reproduzca parte de sus capacidades.

Sin embargo, los ataques de extracción también pueden perseguir otros objetivos, como reconstruir determinadas funcionalidades, recuperar información sobre el modelo, extraer prompts o intentar obtener información relacionada con los datos utilizados durante su entrenamiento.

En resumen, todo ataque de destilación busca extraer capacidades, pero no todo ataque de extracción utiliza destilación.