IA entrenada con fotos de personas menores sin permiso de los padres:
Un problema real y grave.
Esta práctica plantea graves preocupaciones sobre la privacidad y la ética en el uso de la tecnología, subrayando la necesidad de ser extremadamente cautelosos al compartir fotos de menores en redes sociales.
 |
| Dos niñas juegan con sus cámaras en un jardín, Osterode, Alemania, 8 de enero de 2016. © 2016 Frank May/picture-alliance/dpa/AP Photo |
Se necesitan salvaguardas de privacidad de datos para proteger contra la explotación
Imágenes de menores brasileños expuestas
El informe revela que más de 200 fotos de niños brasileños han sido identificadas en el dataset LAION-5B, utilizado para entrenar modelos de IA como Stable Diffusion de Stability AI. Estas imágenes, algunas de las cuales incluyen detalles personales como nombres y lugares de nacimiento, han sido recolectadas sin el consentimiento de los padres.
Riesgos de privacidad
El uso no autorizado de estas imágenes representa una seria violación de la privacidad de los menores. Las fotos pueden ser manipuladas para crear deepfakes, exponiendo a los niños a riesgos significativos sin que ellos o sus familias estén al tanto. Este problema es una llamada de atención sobre la importancia de proteger la información personal de los menores en el entorno digital.
Origen de las imágenes
Muchas de las fotos provienen de blogs personales o videos de YouTube con pocas visitas, donde se esperaba un cierto grado de privacidad. Esto destaca cómo contenido aparentemente seguro puede ser explotado para entrenar IA sin el conocimiento de los afectados. Pero las fuentes no estarían limitadas a estas fuentes pudiendo también acceder a fuentes abiertas con fotografías de menores como Instagram, Facebook, Twitter (X), TikTok, Flickr, etc, cualquier fuente abierta podría ser utilizada potencialmente sin permiso para entrenar modelos IA.
Magnitud del problema
Human Rights Watch examinó solo una fracción minúscula del dataset, lo que sugiere que el problema podría ser mucho más amplio y escalar hasta muchas más fuentes de datos abiertas. Siempre sin entrar en que podrían hacer la plataformas cerradas con las fotografías privadas que se comparten, daremos el beneficio de la duda siempre en primer lugar, el tiempo nos dirá como evoluciona. Este hallazgo subraya la necesidad urgente de revisar y limpiar estos datasets para proteger la privacidad de los menores.
Implicaciones éticas y protección de la privacidad infantil
El uso de imágenes de menores sin autorización en el entrenamiento de IA plantea serios dilemas éticos. Es crucial que se implementen y sigan normativas estrictas para salvaguardar la privacidad y los derechos de los niños.
Acciones correctivas
LAION ha anunciado que eliminará las fotos identificadas en el informe, pero esto es solo el primer paso ya que podrían ser miles o millones las fotografías que deberían ser borradas de los datasets. Se requieren auditorías exhaustivas y la limpieza continua de los datasets para asegurar que no se utilicen imágenes no autorizadas.
Medidas regulatorias y educación
Las autoridades deben imponer directrices más estrictas sobre la recolección y uso de datos. Es fundamental educar a los padres y tutores sobre los riesgos de publicar fotos de menores en línea y promover una mayor conciencia sobre la protección de la privacidad infantil.
La importancia de no compartir fotos de menores en redes sociales
La revelación de estos hechos nos recuerda la importancia de no compartir fotos de nuestros hijos ni de otros menores en redes sociales. Publicar imágenes de niños, incluso en grupo, puede tener consecuencias imprevistas y peligrosas en el mundo digital. Proteger la privacidad de los menores debe ser una prioridad para todos.
Esta situación destaca la necesidad de un enfoque más cuidadoso y ético en el uso de la tecnología. Educar a la sociedad sobre los riesgos asociados y establecer medidas de protección sólidas es esencial para salvaguardar el bienestar de los menores en el entorno digital.
