[¡Disparo!] Vestidos con uniformes escolares e incluso pidiendo favores sexuales…

El 'drama de la situación de explotación sexual infantil' se difunde en la plataforma de chat de inteligencia artificial
Personajes sugestivos de menores como biberones, uniformes escolares, etc.
Incluso los adolescentes consumen sin restricciones por falta de regulación.
Autoridades "Recibieron informes relacionados... Monitoreo de información pornográfica"

Si bien la explotación sexual infantil mediante inteligencia artificial (IA) deepfake (tecnología avanzada de manipulación de imágenes) se está convirtiendo en un problema, las situaciones de explotación sexual se desarrollan en las plataformas de chat.

Más allá del nivel de exponer imágenes inapropiadas, los usuarios están induciendo situaciones sexuales a través de conversaciones en tiempo real con personajes infantiles, y esto se está "encarnando".

El día 14, en la plataforma de chat A basada en IA, se revelaron muchos personajes que parecen ser menores, como un bebé con un biberón, una estudiante con uniforme escolar y una niña pequeña. En algunos casos, las imágenes promocionales incluso representan actos sexuales.

Se establecen grupos de edad específicos, como "estudiante de primaria" y "niña de 12 años", y algunos personajes se promocionan con imágenes de niñas en ropa interior.

También hay una descripción que dice: "Ha sido llamado un actor infantil genio desde el jardín de infantes y todavía está activo como estudiante de escuela primaria", y también hay un personaje ambientado como un estudiante adolescente sentado en un salón de clases.

Estos personajes de IA están diseñados para responder inmediatamente según las solicitudes de los usuarios.

En la Plataforma A, cuando dije "Hola" a un personaje con una altura de 140 cm, un peso de 25 kg y una descripción de "cuerpo pequeño como un estudiante de escuela primaria", se envió un mensaje de estado que decía: "Ella agarró suavemente el dobladillo de la falda de lo que parecía un uniforme escolar y comenzó a girar a tu alrededor". Posteriormente, el personaje continuó involucrándose en situaciones inapropiadas enviando mensajes que solicitaban explícitamente actividad sexual.

La Plataforma A es una plataforma de chat donde puedes tener conversaciones con personajes creados con IA. No hay límite de edad para registrarse y solo se requieren personas mayores de 14 años para configurar un perfil.

Los usuarios pueden crear sus propios personajes de IA o tener conversaciones en tiempo real con personajes creados por otros. Se utiliza para diversos fines, como citas, asesoramiento y juegos de roles. Básicamente, está disponible de forma gratuita y, si pagas por él, puedes continuar conversaciones largas y elaboradas aplicando un modelo de IA de alto rendimiento.

El problema es que algunos usuarios están abusando de él para conversaciones sexuales o situaciones de explotación sexual. A la hora de crear un personaje se puede fijar al detalle la edad, apariencia, personalidad, etc., por lo que se están creando muchos personajes que recuerdan a menores de edad, como por ejemplo vestir uniformes escolares o tener un tipo de cuerpo joven.

A medida que se extendió la controversia, la Plataforma A anunció en un aviso el día 12: "Procesaremos de forma secuencial y privada personajes que conduzcan a representaciones inapropiadas por apariencia o uso de uniforme escolar que podrían confundirse con menores".

Sin embargo, incluso después del anuncio, muchos personajes en escenarios menores todavía están disponibles para buscar y conversar. Aunque se pueden bloquear palabras clave o imágenes específicas, es difícil controlar la situación sexual en sí, que los usuarios inducen hábilmente a través de conversaciones con IA, en tiempo real.

Incluso en las comunidades en línea donde se reúnen los usuarios de la plataforma A, se comparten formas de evitar la represión.

Los usuarios compartieron el estado de eliminación y detección de personajes menores de edad y se advirtieron entre sí: "¿Van a eliminar los Nongchae con anticipación?". y "No te preocupes sólo porque aún no se ha hecho privado", refiriéndose a 'Nongkae', un término del argot para un personaje con el tipo de cuerpo de una niña.

En una consulta escrita de Yonhap News el día 13, un funcionario de la Comisión de Normas de Comunicaciones y Medios de Radiodifusión de Corea dijo: "Actualmente, los informes relacionados con la Plataforma A han sido confirmados" y "El comité mismo está monitoreando información obscena. Si se confirma en el sitio contenido que viola las leyes y regulaciones actuales, planeamos tomar las medidas apropiadas mediante deliberación".

Pero no se trata sólo de la plataforma A.

En la plataforma B, el título del chat 'Tu hija' recuerda la relación entre un padre y su hija, o se promociona con una imagen que representa la actividad sexual de un personaje de niña que es significativamente más pequeño que un hombre adulto.

Además, en las plataformas C, D y E aparecieron personajes de chat con un estudiante de primaria de 10 años y un estudiante de secundaria de 17 años con uniforme escolar.

Este tipo de material de explotación sexual es un ejemplo representativo de contenido dañino que se aprovecha de la falta de regulación sobre el contenido de IA.

Actualmente, Elon Musk

Los jóvenes también pueden consumir este contenido sin ningún tipo de restricción.

Jeong-won Heo, abogado de Bufete de abogados Daeryun, explicó: “Incluso si una imagen generada por IA o un personaje virtual se reconoce claramente como un niño o adolescente debido al uniforme escolar, apariencia joven, entorno estudiantil, etc., y si expresa un comportamiento sexual como se estipula en el artículo 2, párrafo 4 de la Ley de Protección Sexual de Niños y Adolescentes, puede estar sujeto a castigo”.

Sin embargo, el abogado Heo señaló: "Bajo la ley actual, no está claro si los dibujos y caricaturas que simplemente representan a niños y adolescentes están sujetos a castigo, o sólo expresiones a nivel de gráficos por computadora que parecen niños reales". Y añadió: "Es necesario complementar el estándar para juzgar la 'obviedad' para ser reconocido como niño o adolescente".

[Ver artículo completo]
[¡Disparo!] Vestía uniforme escolar y hasta pedía favores sexuales... (Atajo)
Usando uniformes escolares e incluso haciendo exigencias sexuales... El 'drama de situación de explotación sexual infantil' se difunde en la plataforma de chat de IA (acceso directo)
'Explotación sexual infantil' usando IA deepfake... Una plataforma de chat donde se desarrolla el drama situacional (enlace)