+- TISI (https://www.tisi-fr.com/board)
+-- Forum : Gɛɛk Zønɛ (https://www.tisi-fr.com/board/forumdisplay.php?fid=3)
+--- Forum : Applicatiøns (https://www.tisi-fr.com/board/forumdisplay.php?fid=5)
+--- Sujet : Quelles sont les utilisations malveillantes possibles de l'I.A et comment y remédier (/showthread.php?tid=4499)
Quelles sont les utilisations malveillantes possibles de l'I.A et comment y remédier - Xéno - 07-11-2023
Avec les avancer de l'I.A et grâce à sa mise à disposition au grand public notamment via ChatGpt, Midjouney ou Bard de nombreuses possibilités jusqu'alors complexe sont devenu possibles:
La génération d'images via un simple texte, la simulation de foule et d'une forme de comportement simpliste humain ou encore la création de chat bot pouvant répondre à des question type.
Cependant de nombreux détournements sont fréquemment constatés:
Dans le cadre du Conflits entre l'Ukraine et la Russie ou plus récemment avec le conflit Israélo-palestinien de nombreuses photos générée par I.A ou de faux discours des dirigeants ou de personnalité connue générer par I.A on était créé afin de discréditer l'autre camp ou de se faire faire passer pour le "bon camp" par l'opinion publique. Heureusement nous avons pour l'instant diverses méthodes pour repérer c'est contenu(par exemple les I.A ont du mal à créer correctement des mains sur leurs images ou dans certains enregistrements audio les tons sont souvent incorrects et des mauvais accords entre les phrases sont présents) ainsi que des logiciels capables de repérer le contenu créé par des I.A.
À une échelle moins mondiale l'I.A peut aussi être détourné malgré les diverses sécurités utiliser:
Un exemple concret est DAN.
Certains utilisateurs de Redit ont réussi grâce à certaines méthodes de promptes (texte utilisé quand on parle à une I.A de type chatbot utilisant des modèles de langage) à créer une technique permettant à ChatGpt de répondre à des questions par rapport à des sujets qui lui sont normalement interdits en lui créant une forme de seconde personnalité nommée DAN qui est fait pour être une sorte de personnalité "mauvaise" de ChatGpt.
Même si en soit c'est technique sont assez bénigne permettant simplement de passé outre la censure c'est dernière pourrait vite être utilisé pour détourner l'I.A à des fins plus dangereuses (pour citer un exemple des utilisateurs ont réussi à faire dire à l'I.A de ChatGpt une recette pour des produits chimiques potentiellement dangereux grâce à des techniques similaires). Nous pourrions ainsi imaginer qu'hypothétiquement un utilisateur puisse demander à ChatGpt de faire divers actes néfastes comme créer un virus.
En conclusion nous pouvant dire que l'IA a permis des avancées majeures cependant cette dernière possède encore de nombreuses failles de sécurité et d'éthique qui devront être réparées notamment en engagent des personnes maitrisant les techniques liées à l'utilisation des promptes afin de créer des pré-promptes (texte que lis l'I.A avant d'interagir avec l'utilisateur afin de connaitre c'est règle).
De plus de nombreuses conférences sur cette dernière devront être faites et des normes et lois mondiales devront être adoptées.