À l’ère de la loi fondamentale sur l’IA, des obligations juridiques et des stratégies de réponse préventive pour une IA à fort impact

Le 22, l'« AI Basic Act », qui deviendra la base juridique de l'industrie de l'IA (intelligence artificielle), est entrée en vigueur. Ce projet de loi contient essentiellement des réglementations sur « l’IA à fort impact » qui peuvent avoir un impact significatif sur la vie humaine ou sur les droits fondamentaux. La sécurité et la fiabilité de la technologie de l’IA, qui étaient jusqu’ici restées dans le domaine de l’autorégulation, sont désormais entrées dans une phase où la responsabilité est requise conformément à des réglementations explicites. Ces changements exigent que les opérateurs commerciaux de l'IA disposent de capacités systématiques de conformité et de gestion des risques au-delà de la compétitivité technologique, et devraient réorganiser fondamentalement le paradigme opérationnel de l'ensemble du secteur.

Premièrement, la « transparence » doit être assurée afin que les utilisateurs puissent clairement reconnaître si l'IA est impliquée. Il s'agit d'un travail de base visant à renforcer la confiance des utilisateurs en évitant les situations dans lesquelles les informations générées par l'IA sont mélangées avec des résultats humains et en rendant la source transparente. En conséquence, les opérateurs d'IA à fort impact ou d'IA générative doivent notifier l'utilisation de l'IA par le biais de termes et conditions avant de fournir des services, et apposer des marques identifiables telles que des filigranes sur les résultats pour indiquer qu'il s'agit de résultats de l'IA.

En outre, les entreprises disposant de très grands modèles d'IA doivent disposer d'un système de vérification préventive de la sécurité. Le projet de loi stipule que l'IA avec un nombre cumulé de calculs utilisés dans l'apprentissage de 10 à la puissance 26 des FLOP ou plus est soumise à une gestion de base. Il s'agit d'un niveau supérieur à la norme de 10 au 25e FLOP de la loi européenne sur l'IA, et peut être interprété comme une intention de construire un système de gestion préventive des risques qui va au-delà des modèles existants et englobe la prochaine génération de super IA qui émergera dans le futur. Actuellement, le LLM des grandes entreprises nationales ne répond pas à cette norme, il est donc peu probable qu'il soit immédiatement classé comme « IA à fort impact », mais établir une gouvernance en prévision du futur environnement technologique est devenu une tâche inévitable.

En outre, un « système de gestion centré sur les personnes » doit être établi pour compléter le problème de la « boîte noire », qui est la structure décisionnelle opaque de l'IA. Afin de clarifier qui est responsable des résultats, les opérateurs commerciaux doivent disposer d'un système capable d'expliquer les critères de jugement de l'algorithme et l'aperçu des données, et d'établir des procédures spécifiques qui permettent aux humains d'intervenir et de contrôler immédiatement en cas d'erreur du système.

Afin de mettre en œuvre efficacement des exigences juridiques de plus en plus complexes, une stratégie de réponse intégrée qui pénètre toute la chaîne de valeur de l'entreprise est essentielle. Bien que la loi ait déjà été mise en œuvre, la « période d'orientation fine d'un an » fixée par le gouvernement pour mettre en place le système constitue une période dorée très précieuse pour les entreprises. Cette période n'est pas simplement un délai de grâce pour éviter toute sanction, mais doit être utilisée comme une période de préparation optimale pour garantir une réelle stabilité juridique et remanier le système interne.

Heureusement, la loi-cadre sur l'IA allège considérablement le fardeau des réglementations qui se chevauchent pour les opérateurs commerciaux grâce au système de « mise en œuvre présumée ». Si l'entreprise de développement d'IA a déjà pris certaines mesures, l'utilisateur qui l'utilise est également considéré comme ayant rempli l'obligation correspondante, ou s'il a fidèlement respecté les obligations en vertu de lois individuelles telles que la loi sur les produits médicaux numériques ou la loi sur les informations de crédit, il est reconnu comme ayant rempli ses obligations en vertu de cette loi.

En conséquence, les entreprises devraient utiliser la période d'orientation donnée comme outil de diagnostic pour examiner de près si leur service entre dans la catégorie de l'IA à fort impact. Dans le même temps, il sera nécessaire d'établir une « stratégie de mise en œuvre personnalisée pour chaque secteur » afin de réduire le gaspillage de réponses en double en tenant compte de la cohérence avec les autres lois et réglementations. La force motrice pour déployer les voiles de l'innovation, même face à de fortes vagues de réglementation, dépend en fin de compte de la précision avec laquelle une entreprise gère les risques juridiques.

Équipe des petites et moyennes entreprises

[Voir l'article complet]
L'ère du droit fondamental de l'IA, les obligations juridiques de l'IA à fort impact et les stratégies de réponse préventive (raccourci)