+- TISI (https://www.tisi-fr.com/board)
+-- Forum : Gɛɛk Zønɛ (https://www.tisi-fr.com/board/forumdisplay.php?fid=3)
+--- Forum : Applicatiøns (https://www.tisi-fr.com/board/forumdisplay.php?fid=5)
+--- Sujet : L’Union européenne trouve un accord pour encadrer le développement de l’IA (/showthread.php?tid=4535)
L’Union européenne trouve un accord pour encadrer le développement de l’IA - TatoxX - 11-12-2023
L’Union européenne trouve un accord pour encadrer le développement de l’intelligence artificielle
Après trois jours de négociations intenses entre les Etats membres de l’Union européenne (UE) et le Parlement européen, un « accord politique » a été trouvé, vendredi 8 décembre, pour une législation inédite au niveau mondial pour réguler l’intelligence artificielle (IA) et éviter de possibles dérives.
« Historique ! L’UE devient le premier continent à fixer des règles claires pour l’utilisation de l’IA », s'est félicité le commissaire européen Thierry Breton", à l’origine du projet présenté en avril 2021. Depuis cette date, les discussions ont traîné en longueur. Le dernier round de négociations, commencé mercredi après-midi, a lui-même duré près de trente-cinq heures.
Le processus avait été percuté en fin d’année dernière par l’apparition de ChatGPT, le générateur de textes de l’entreprise californienne OpenAI, capable de rédiger des dissertations, des poèmes ou des traductions en quelques secondes. Ce système, comme ceux qui sont capables de créer des sons ou des images, a révélé au grand public le potentiel immense de l’IA ; mais aussi certains risques. La diffusion sur les réseaux sociaux de fausses photographies, plus vraies que nature, a par exemple montré le danger de manipulation de l’opinion.
Ce phénomène des IA génératives a été intégré dans les négociations en cours, à la demande des eurodéputés, qui insistaient sur un encadrement spécifique pour ce type de technologies à fort impact. Ils ont réclamé plus de transparence sur les algorithmes et les bases de données géantes au cœur de ces systèmes. Les Etats membres craignaient qu’une régulation excessive tue dans l’œuf leurs champions naissants, comme Aleph Alpha en Allemagne et Mistral AI en France, en rendant prohibitifs les coûts de développement.
Obligations pour les systèmes à « haut risque »
Sur les IA génératives, le compromis prévoit une approche à deux vitesses. Des règles s’imposeront à tous pour s’assurer de la qualité des données utilisées dans la mise au point des algorithmes et pour vérifier qu’ils n’enfreignent pas la législation sur les droits d’auteur. Les développeurs devront par ailleurs s’assurer que les sons, les images et les textes produits soient bien identifiés comme artificiels.
Des contraintes renforcées s’appliqueront aux systèmes les plus puissants. Le texte reprend les principes des réglementations européennes existantes en matière de sécurité des produits, qui imposent des contrôles reposant d’abord sur les entreprises. Le cœur du projet consiste en une liste de règles imposées aux systèmes jugés à « haut risque », essentiellement ceux qui sont utilisés dans des domaines sensibles comme les infrastructures critiques, l’éducation, les ressources humaines, le maintien de l’ordre…
Ces systèmes seront soumis à une série d’obligations : contrôle humain sur la machine, établissement d’une documentation technique, mise en place d’un système de gestion du risque.