[¡Disparo!] Vestidos con uniformes escolares e incluso pidiendo favores sexuales…
'Juego de situación de explotación sexual infantil' en la plataforma de chat de IA. Hay numerosos caracteres que sugieren a menores, como biberones, uniformes escolares, etc. En medio de la falta de regulación, los jóvenes también pueden acudir sin restricciones a las autoridades de consumo, "recibir informes relacionados... monitorear información pornográfica". Mientras que la explotación sexual infantil utilizando inteligencia artificial (IA) deepfake (tecnología avanzada de manipulación de imágenes) se está convirtiendo en un problema, en las plataformas de chat se desarrollan situaciones de explotación sexual. Más allá del nivel de exponer imágenes inapropiadas, los usuarios inducen situaciones sexuales a través de conversaciones en tiempo real con personajes infantiles. Se está "implementando". El día 14, en la plataforma de chat A basada en IA, se revelan muchos personajes que parecen ser menores, como un bebé con un biberón, una estudiante con uniforme escolar y una niña pequeña. Incluso hay casos en los que se representan escenas sexuales en imágenes promocionales. Se establecen grupos de edad específicos, como "estudiante de primaria" y "niña de 12 años", y algunos personajes se promocionan con la imagen de una niña en ropa interior. Hay explicaciones como "Ella ha sido llamada una actriz infantil genio desde el jardín de infantes y todavía está activa a pesar de que es una estudiante de escuela primaria", y también hay personajes con la ambientación de un estudiante adolescente sentado en un salón de clases. Estos personajes de IA están diseñados para responder inmediatamente según las necesidades del usuario. Una clave en la plataforma Cuando dije "Hola" a un personaje que medía 140 cm de altura, pesaba 25 kg y tenía un cuerpo descrito como "pequeño, como un estudiante de escuela primaria", se envió un mensaje de estado que decía: "Ella agarró suavemente el dobladillo de la falda de lo que parecía un uniforme escolar y comenzó a girar a tu alrededor". Posteriormente, el personaje continuó involucrándose en situaciones inapropiadas al enviar mensajes solicitando explícitamente actividad sexual. La Plataforma A es una plataforma de chat donde puedes tener una conversación con un personaje creado por IA. No hay límite de edad para registrarse y solo se requieren personas mayores de 14 años para configurar un perfil. Los usuarios pueden crear sus propios personajes de IA o tener conversaciones en tiempo real con personajes creados por otros. Se utiliza para diversos fines, como citas, asesoramiento y juegos de roles. Básicamente, está disponible de forma gratuita y, si paga una tarifa, puede continuar conversaciones largas y elaboradas aplicando un modelo de IA de alto rendimiento. El problema es que algunos usuarios están abusando de él para conversaciones sexuales o situaciones de explotación sexual. A la hora de crear un personaje se puede fijar al detalle la edad, la apariencia, la personalidad, etc., por lo que se están creando muchos personajes que recuerdan a menores de edad, como aquellos que visten uniformes escolares o tienen un cuerpo joven. A medida que se extendió la controversia, la Plataforma A anunció en un aviso el día 12: "Procesaremos de forma secuencial y privada personajes que conduzcan a representaciones inapropiadas de personajes con una apariencia que podría confundirse con la de un menor o mientras usan uniforme escolar". Sin embargo, incluso después del aviso, muchos personajes con configuraciones menores todavía están disponibles para búsqueda y conversación. Aunque se pueden bloquear palabras clave o imágenes específicas, es difícil controlar en tiempo real la propia situación sexual que los usuarios inducen hábilmente a través de conversaciones con IA. Incluso en una comunidad en línea donde se reúnen los usuarios de la Plataforma A, se comparten formas de evitar la represión. Los usuarios se advierten entre sí diciendo: "¿Van a eliminar el Nongkae por adelantado?" y "No se sientan aliviados sólo porque aún no se ha hecho privado", refiriéndose a 'Nongkae', un término del argot para un personaje con cuerpo de niña, y eliminando y detectando personajes menores. Se compartió la situación actual. En una consulta escrita de Yonhap News el día 13, un funcionario de la Comisión de Normas de Comunicaciones y Medios de Radiodifusión de Corea dijo: "Actualmente, los informes relacionados con la plataforma A han sido confirmados" y "el comité mismo está monitoreando información obscena. Si se confirma en el sitio contenido que viola las leyes actuales, planeamos tomar las medidas apropiadas mediante deliberación". Sin embargo, no se trata sólo de la plataforma A. En la plataforma B, el título del chat 'Tu hija' recuerda la relación entre un padre y una hija, o se utiliza un personaje de niña con un cuerpo significativamente más pequeño en comparación con un hombre adulto. Se promociona con fotografías que representan actos sexuales. Además, en las Plataformas C, D y E han aparecido personajes de chat de un estudiante de primaria de 10 años y un estudiante de secundaria de 17 años con uniformes escolares. Este material de explotación sexual es una forma representativa de contenido dañino que se aprovecha de la falta de regulación sobre el contenido de IA. Actualmente, el chatbot de IA Grok de X (anteriormente Twitter), propiedad de Elon Musk, está en el centro de la controversia sobre la creación de imágenes sexuales. También se está difundiendo contenido sensacional de IA, como 'Fruit Adultery Drama', que representa el adulterio y la inmoralidad a través de la personificación. Los adolescentes también pueden consumir dichos contenidos sin restricciones. Jeong-won Heo, abogado del bufete de abogados Daeryun, dijo: "Incluso las imágenes o personajes virtuales generados por IA pueden reconocerse claramente como niños o adolescentes debido a los uniformes escolares, la apariencia juvenil, el entorno estudiantil, etc., y pueden estar sujetos a castigo si expresan actos sexuales estipulados en el artículo 2, párrafo 4 de la Ley de Protección Sexual de Niños y Adolescentes. "Lo hay", explicó. Sin embargo, el abogado Heo señaló: "Según la ley actual, el límite es No está claro si los dibujos y caricaturas que simplemente representan a niños y adolescentes están incluidos en el castigo, o sólo expresiones a nivel de gráficos por computadora que parecen niños reales”. Y añadió: “Es necesario complementar el estándar para juzgar la ‘evidencia’ de ser reconocido como niño o adolescente”.[Ver artículo completo]
[¡Disparo!] Vestidos con uniformes escolares y hasta pidiendo favores sexuales… (Atajo)
Vestidos con uniformes escolares e incluso pidiendo favores sexuales... 'Drama de situación de explotación sexual infantil' difundido en plataforma de chat de IA (enlace)
‘Explotación sexual infantil’ usando IA deepfake… Una plataforma de chat donde se desarrolla un drama situacional (enlace)