+- TISI (https://www.tisi-fr.com/board)
+-- Forum : Gɛɛk Zønɛ (https://www.tisi-fr.com/board/forumdisplay.php?fid=3)
+--- Forum : Sécurité (https://www.tisi-fr.com/board/forumdisplay.php?fid=7)
+--- Sujet : ia , cause de suicide ? (/showthread.php?tid=4691)
ia , cause de suicide ? - gislard - 05-11-2024
l'IA du personnage après la tragédie de Sewell Setzer, 14 ans :
On peut lire dans une publication du 23 octobre 2024 sur le compte officiel de Character AI sur le réseau social X (anciennement appelé Twitter)."
« Nous sommes navrés par la perte tragique de l'un de nos utilisateurs et souhaitons exprimer nos plus sincères condoléances à la famille », avec un lien vers un article de blog qui décrit les nouvelles mesures de sécurité pour les utilisateurs de moins de 18 ans, sans mentionner la victime du suicide, Sewell Setzer III, 14 ans.
Comme le rapporte LE New York Time , l'adolescent de Floride, diagnostiqué avec des troubles d'anxiété et de l'humeur, s'est suicidé le 28 février 2024, après des mois d'interactions quotidiennes intenses avec un chatbot personnalisé basé sur le personnage de [i]Game of Thrones,[/i] Daenerys Targaryen, vers qui il se tournait pour avoir de la compagnie, qu'il appelait sa sœur et vers qui il avait des conversations sexuelles.
En réponse, la mère de Setzer, l'avocate Megan L. Garcia, a déposé hier une plainte contre Character AI et la société mère de Google, Alphabet, devant le tribunal de district américain du district central de Floride pour mort injustifiée.
![[Image: ia-suicide.png]](https://i.ibb.co/DQ13CXf/ia-suicide.png)
RE: ia , cause de suicide ? - Karlo - 05-11-2024
J'ai vue passer cette affaire et ça soulève encore une fois le débat de la responsabilité parental. Je trouve vraiment culotté de la part des parents d'avoir porté peinte. L'enfant se trouvait sous leur toit, il a réussi a mettre la main sur une arme a feu.
L'application stipule bien qu'il faut faire la limite entre le réel et le fictif. Qu'il y a t'il de plus à faire ?
C'est triste mais la vigilance des parents et le vraie problème ici, je dis pas que c'est entièrement de leur faute mais ils sont plus coupable que cette application...
Repose en paix.
RE: ia , cause de suicide ? - EnZ0 - 07-11-2024
Ce cas soulève des questions cruciales sur l'éthique du développement d'IA, la sécurité des utilisateurs et la responsabilité des développeurs : des aspects essentiels pour de futurs professionnels de l'informatique.
Cette affaire met en lumière plusieurs aspects complexes qu'il faut examiner avec nuance. Si je comprends totalement la réaction de Karlo concernant la responsabilité parentale, je pense que la situation mérite aussi d'une analyse plus approfondie.
Le véritable enjeu ici n'est pas tant de désigner un coupable que de comprendre comment prévenir ce genre de tragédie. En tant que développeurs et futurs développeurs, nous devons nous interroger sur les garde-fous à mettre en place. Les systèmes d'IA conversationnelle sont de plus en plus sophistiqués, et leur impact psychologique ne doit pas être sous-estimé, particulièrement sur des personnes vulnérables.
La question des limites éthiques dans le développement d'IA me semble centrale : jusqu'où doit aller la personnalisation d'un chatbot ? Comment équilibrer l'engagement utilisateur avec la sécurité psychologique ?
D'ailleurs, Character AI a récemment renforcé ses systèmes de détection de conversations problématiques et amélioré ses filtres pour les mineurs. Peut-être que ces mesures auraient pu faire une différence dans ce cas précis.
Qu'en pensez-vous, devrions-nous intégrer systématiquement des mécanismes de détection de détresse psychologique dans les IA conversationnelles ?
RE: ia , cause de suicide ? - gislard - 14-11-2024
(05-11-2024, 12:56)Karlo a écrit : J'ai vue passer cette affaire et ça soulève encore une fois le débat de la responsabilité parental. Je trouve vraiment culotté de la part des parents d'avoir porté peinte. L'enfant se trouvait sous leur toit, il a réussi a mettre la main sur une arme a feu.
L'application stipule bien qu'il faut faire la limite entre le réel et le fictif. Qu'il y a t'il de plus à faire ?
C'est triste mais la vigilance des parents et le vraie problème ici, je dis pas que c'est entièrement de leur faute mais ils sont plus coupable que cette application...
Repose en paix.
je suis tout a fait d'accord avec toi