Amazon y el aumento de reportes CSAM con IA

El gigante tecnológico Amazon se encuentra en el centro de un aumento significativo de reportes relacionados con material de abuso sexual infantil (CSAM) generado por inteligencia artificial, lo que subraya la creciente preocupación sobre el uso indebido de estas herramientas digitales.

Récord de alertas por CSAM generado con inteligencia artificial

En los primeros meses de 2025, el número de denuncias por contenidos pedopornográficos generados mediante inteligencia artificial ha registrado un aumento sin precedentes. Según datos del National Center for Missing and Exploited Children (NCMEC), se superó el millón de avisos relacionados con este tipo de materiales, una cifra que eclipsa los 67.000 casos detectados durante todo 2024 y que deja muy atrás los apenas 4.700 casos del año anterior.

Amazon, en el centro de la controversia

La mayoría de estos informes tienen un denominador común: su procedencia apunta directamente a Amazon. Tal como ha desvelado una investigación de Bloomberg, la compañía estadounidense figura como responsable principal del grueso de las notificaciones recibidas por el NCMEC. Aunque la firma asegura que el material problemático procede de conjuntos externos empleados para entrenar sus modelos de IA, mantiene bajo estricta reserva detalles sobre la fuente exacta de esos archivos. Esta falta de transparencia complica enormemente la labor policial y judicial.

Varios elementos explican esta preocupación creciente:

• Dificultad para rastrear el origen real de los datos contaminados.
• Ausencia de protocolos transparentes entre las grandes tecnológicas y las autoridades.
• Creciente presión social y regulatoria frente al desarrollo acelerado de la IA.

Puntos críticos: opacidad, ética y seguridad infantil

Las dudas no solo afectan al ámbito técnico. La directora ejecutiva de la plataforma CyberTipline del NCMEC, Fallon McNulty, reconoce sentirse “desconcertada” ante la actitud hermética del gigante tecnológico. Mientras otras firmas proporcionan información útil a las fuerzas del orden, los avisos remitidos por Amazon resultan imposibles de investigar si no se aclara el origen concreto.

A esta inquietud se suman recientes escándalos en torno a otros actores como OpenAI, Character.AI o incluso Meta. Estas empresas han sido objeto tanto de demandas judiciales como investigaciones públicas tras detectarse que sus sistemas han facilitado conversaciones explícitas entre menores y chatbots e, incluso, han sido empleados para planificar suicidios.

Retos pendientes para la industria tecnológica

Desde la compañía insisten en que su política es «sobrereportar» cualquier material sospechoso al NCMEC antes de utilizarlo para entrenar sus algoritmos. Sin embargo, esta estrategia preventiva no despeja las dudas ni satisface a quienes exigen mayor responsabilidad social corporativa y cooperación transparente. La avalancha actual sitúa a toda la industria ante una obligación ineludible: blindar eficazmente a los menores en el nuevo escenario dominado por la inteligencia artificial.