En la era de la Ley Básica de IA, obligaciones legales y estrategias de respuesta preventiva para la IA de alto impacto

El día 22 entró en vigor la 'Ley Básica de IA', que se convertirá en la base legal para la industria de la IA (inteligencia artificial). Este proyecto de ley contiene en su esencia regulaciones sobre 'IA de alto impacto' que pueden tener un impacto significativo en la vida humana o los derechos básicos. La seguridad y confiabilidad de la tecnología de IA, que hasta ahora se ha mantenido en el ámbito de la autorregulación, ha entrado ahora en una fase en la que se requiere responsabilidad de acuerdo con regulaciones explícitas. Estos cambios requieren que los operadores comerciales de IA tengan capacidades sistemáticas de cumplimiento y gestión de riesgos más allá de la competitividad tecnológica, y se espera que reorganicen fundamentalmente el paradigma operativo de toda la industria.

En primer lugar, se debe garantizar la "transparencia" para que los usuarios puedan reconocer claramente si se trata de IA. Este es un trabajo básico para generar confianza en los usuarios evitando situaciones en las que la información generada por IA se mezcle con resultados humanos y haciendo que la fuente sea transparente. En consecuencia, los operadores de IA de alto impacto o IA generativa deben notificar el uso de IA a través de términos y condiciones antes de brindar servicios, y adjuntar marcas identificables, como marcas de agua, a los resultados para indicar que son productos de IA.

Además, las empresas con modelos de IA muy grandes deben contar con un sistema preventivo de verificación de seguridad. El proyecto de ley estipula que la IA con una cantidad acumulada de cálculos utilizados en el aprendizaje de 10 elevado a la 26ª potencia de FLOP o más está sujeta a una gestión central. Este es un paso más alto que el estándar de la Ley de IA de la UE de 10 a 25 FLOP, y puede interpretarse como una intención de construir un sistema de gestión de riesgos preventivo que vaya más allá de los modelos existentes y abarque la próxima generación de súper IA que surgirá en el futuro. Actualmente, los LLM de las principales empresas nacionales no cumplen con este estándar, por lo que es poco probable que se clasifiquen inmediatamente como "IA de alto impacto", pero establecer una gobernanza en preparación para el futuro entorno tecnológico se ha convertido en una tarea inevitable.

Además, se debe establecer un "sistema de gestión centrado en las personas" para complementar el problema de la "caja negra", que es la opaca estructura de toma de decisiones de la IA. Para aclarar quién es responsable de los resultados, los operadores comerciales deben tener un sistema para explicar los criterios de juicio del algoritmo y la descripción general de los datos, y establecer procedimientos específicos para que los humanos puedan intervenir y controlar inmediatamente en caso de un error del sistema.

En última instancia, para cumplir eficientemente con requisitos legales cada vez más complejos, es esencial una estrategia de respuesta integrada que penetre en toda la cadena de valor de la empresa. Aunque la ley ya se ha implementado, el "período de orientación de multas de un año" establecido por el gobierno para establecer el sistema es un momento dorado muy valioso para las empresas. Este período no debería ser simplemente un período de gracia para evitar el castigo, sino que debería utilizarse como un período de preparación óptimo para garantizar la estabilidad jurídica real y reformar el sistema interno.

Afortunadamente, la Ley Marco de IA está aliviando sustancialmente la carga que supone la superposición de regulaciones para los operadores a través del sistema de "implementación considerada". Si el negocio de desarrollo de IA ya ha completado ciertas medidas, también se considera que el proveedor de servicios que lo utiliza ha cumplido con la obligación correspondiente, o si ha cumplido fielmente con las obligaciones bajo leyes individuales como la Ley de Productos Médicos Digitales o la Ley de Información Crediticia, se le reconoce que ha cumplido con sus obligaciones bajo esta Ley.

Por lo tanto, las empresas deberían utilizar el período de orientación proporcionado como herramienta de diagnóstico para revisar de cerca si sus servicios entran en la categoría de IA de alto impacto. Al mismo tiempo, será necesario establecer una "estrategia de implementación personalizada para cada industria" para reducir el desperdicio de respuestas duplicadas considerando la coherencia con otras leyes y regulaciones. La fuerza impulsora para desplegar las velas de la innovación a pesar de las fuertes olas de regulación depende en última instancia de la precisión con la que una empresa gestione los riesgos legales.

Equipo de Pequeñas y Medianas Empresas

[Ver artículo completo]
Era de la ley básica de la IA, obligaciones legales de alto impacto y estrategias de respuesta preventiva (atajo)