La GenAI

[Mathilde3.0]

La GenAI et le code
 
Aujourd’hui, de plus en plus de développeurs au sein des entreprises utilisent l’IA générative et leur dépendance ne fait qu’augmenter.
Cependant un réel risque subsiste : le taux de code malveillants ou inconnus reconnus par les professionnels de sécurité.
Ils estiment qu’il faudrait des moyens plus efficace pour gérer l’utilisation de la GenAI dans les entreprises de développement notamment. Il faut trouver un équilibre entre les innovations de la GenAI et les risques qu’elle introduit en exposant leurs applications et leur chaîne d’approvisionnement logicielle à de nouvelles vulnérabilités.
De plus, dû à la dépendance actuelle et future des développeurs en matière de GenAI, il existe un réel risque de la perte d’esprit dans le développement.
Aussi, une question se développe quant à l’efficacité réelle de la technologie puisque selon une étude, ces outils n’augmentent pas la vitesse de codage. En effet, selon cette même étude, l’utilisation de la GenAI dans le code augmenterai les taux de bogues. Les développeurs pourraient donc passer plus de temps à examiner le code générer par l’IA, le gain de temps ne serait donc pas acquis, au contraire.
 
Sources : 85 % des développeurs s'inquiètent des risques de sécurité liés au fait de s'appuyer sur la GenAI pour développer des logiciels, et de la perte de pensée critique due à l'utilisation d'assistants de codage IA

[EnZ0]

Je trouve que ces résultats méritent qu'on s'y attarde. En tant que "expérimenté", je constate effectivement que l'utilisation des outils d'IA générative n'est pas la solution miracle qu'on nous vend, je ne cesse de le dire.

Le rapport d'Uplevel est particulièrement révélateur : l'augmentation significative des bogues avec Copilot montre bien qu'il ne suffit pas de générer du code, encore faut-il savoir l'évaluer, le corriger, donc le comprendre ! Une IA aide à sur-perfromer comme j'aime le dire, ce qui sous-entend qu'on performe déjà !

Stack Overflow tente une approche intéressante avec OverflowAI, en proposant une intégration plus poussée dans nos outils de développement quotidiens comme VS Code. Mais attention à ne pas tomber dans le piège de la dépendance excessive.

Ce qui m'inquiète particulièrement, c'est l'impact sur l'apprentissage. Comme le montrent certains témoignages, il y a un vrai risque de démotivation chez les développeurs débutants qui peuvent avoir l'impression que l'IA fait tout le travail. Sans de bonnes bases et une réelle compréhension, encore une fois, l'IA ne sert à rien sauf à se planter en beauté !

La GenAI doit rester un outil d'assistance, pas un substitut à la compréhension profonde du code (et c'est aussi le cas dans les autres domaines et application). Il est essentiel de maintenir un équilibre entre l'utilisation de ces outils et le développement de nos compétences fondamentales.

[Mathilde3.0]

C'est vrai que l'IA générative ne devrait pas être considérée comme une solution autonome, mais comme un levier pour les développeurs ayant déjà des bases solides. Il est d'autant plus vrai que  l'outil est là pour assister et non pour remplacer la réflexion humaine ou les compétences  en programmation.