Texte basé sur sa version anglaise, avec quelques ajouts
Résumé : L'IA générative est en train de bousculer la manière dont nous codons, en nous dépossédant de nos outils.
Bien qu'elle dépende de l'extractivisme, consomme des quantités gigantesques d'eau¹, enrichit des milliardaires tout en exploitant les annotateurs de données (data workers), beaucoup de personnes sont fascinées par l'IA, cette technologie qui concentre les connaissances humaines dans une forme facilement interrogeable.
Tout du moins, ça me fascine.
En tant que développeur de logiciels libres, tout ça me questionne. Je ne suis toujours pas certain de quoi penser, mais voici quelques bouts de réflexion sur ce que je pense que l'IA fait à notre culture Hacker.
Du code qui ne nous appartient plus
À mes yeux, coder est un art, un processus créatif : face à une problématique donnée, je me mets à la recherche de solutions, de manière créative. C'est cette recherche qui me plait.
De ce point de vue, l'Intelligence Artificielle peut être considérée comme un nouvel outil dans ma caisse à outils. Et je pense qu'on est en train d'assister à deux choses :
D'un côté, c'est un outil d'automatisation qui marche de manière remarquable pour produire du code. J'ai été en mesure de démarrer des projets en quelques minutes, alors même que je n'avais pas les connaissances nécessaires. J'ai essayé de faire des projets en dehors de ma « zone d'expertise » et je crois que ça peut être un moyen de baisser le coût d'entrée pour des personnes qui ne codent pas, par exemple pour générer des scripts, ou visualiser des données sous forme graphique. Les résultats ne sont bien sûr pas parfaits, et c'est parfois difficile à utiliser, mais j'ai eu quelques bonnes surprises, à la fois en terme d'ergonomie et en termes de ce que ça a été capable de produire.
Mais tout ça n'est pas sans problème, loin de là. Ce phénomène change notre manière d'écrire du code, en remplaçant un modèle qui utilise des outils qui nous appartiennent par un autre modèle qui dépend de services externes, qui proposent de produire du code en suivant des consignes qu'on lui donne. On ne s'approprie plus le code résultant, quelque part : on remplace notre souci du détail par un souci d'avoir fait les choses. On imagine les grandes lignes d'un projet et on laisse la machine s'occuper du reste.
Pour moi, le point central, c'est cette question d'appropriation. Mais qu'est-ce que je veux dire par là ? Je pense à la sensation que nous avons quand on est capable de chanter un morceau par cœur, parce que c'est maintenant un peu le nôtre. On comprend son sens profond, ou peut-être qu'on lui en donne un. D'une certaine manière, on est plus proche de ce morceau de musique. C'est ça que je veux dire, quand je parle d'appropriation. Dans le domaine du logiciel, ce sont ces lignes de code, pour lesquelles vous avez fait des erreurs, essayé plusieurs manières de résoudre un problème, avant de trouver celle qui vous semble la plus adaptée.
Je vois trois choses en lien avec ce changement de paradigme :
- Nous faisons face à des services qui proposent des agents pour coder (à notre place), qu'il faut payer pour les utiliser. Certains sont pour le moment encore gratuits, mais mon intuition me dit qu'une fois accoutumés, on finira par devoir payer pour ces outils d'une manière ou d'une autre (comme le dit l'adage, « si c'est gratuit, c'est toi le produit », auquel on peut ajouter le coût écologique dans la balance) ;
- On passe d'une expérience dans laquelle on pense aux détails, on se projette en ayant le contexte en tête pour trouver une manière créative de résoudre le problème à une autre expérience où tout est délégué à la machine ;
- L'argent fait sa grande rentrée dans le monde du code. Ce n'était pas le cas avant. Je me souviens que gamin, je m'amusais avec du code avant même de penser à l'argent. De nos jours, beaucoup des modèles d'IA font rentrer ce concept dans nos éditeurs, ou dans les outils qui font partie de notre écosystème.
Quand je dis que « coder est un art », je parle de ce que coder me fait. Pour moi, c'est un peu de la magie. C'est amusant de tester des choses, de ne pas réussir, de recommencer, et je crois que c'est justement parce que c'est amusant et "magique" que nous avons construit une communauté de libristes. Avec l'IA, c'est quelque part toujours amusant, mais pas pour les mêmes raisons. On va plus vite, on réfléchit moins aux détails, et on se met à utiliser des outils qui sont en dehors de notre contrôle.
Les moyens de production
Tout ça me fait penser à une discussion avec mon manager, qui remonte à il y a une dizaine d'années. Dans une soirée, je lui parlais du fait que je faisais de la bière dans mon garage, et lui me disait qu'il ne voyait pas l'intérêt, parce que je pouvais acheter de la bière — peut être mieux faite — en allant chez mon caviste.
Quelle est la motivation des gens qui font leur pain au levain, alors même qu'ils pourraient l'acheter à la boulangerie ? Quelle est la motivation à faire votre bière alors que vous pouvez aller l'acheter au brasseur du coin ?
Pour moi, la réponse est double : d'abord, le fun de le faire, ensuite le sentiment d'appropriation des savoirs que ça procure. La compréhension profonde du process. J'ai l'impression que c'est ce qui se perd lorsqu'on utilise l'Intelligence Artificielle, de la même manière que la calculette fait perdre nos capacités de calcul mental, ou le GPS qui nous fait oublier comment nous diriger dans l'espace.
Le logiciel libre est politique. C'est une sorte de rêve socialiste, dans le sens que les moyens de production sont socialisés, et non plus concentrés dans quelques mains avides. Les outils qui nous permettent de faire la technologie que l'on souhaite, nous appartiennent (plus ou moins). Avec le modèle du code as a service qui commence à se développer, je pense qu'on perd ce rapport à nos outils.
C'est principalement parce que l'intelligence artificielle est en train de remplacer l'apprentissage, comme le pointe Tarek.
Je pense qu'on est en train d'assister à la condamnation à mort lente agonie d'un art. Phénomène qui rappelle le remplacement du stop par le covoiturage, Où ce qui est arrivée à nos mixtapes, avec l'arrivée des services de streaming en ligne. Tout ça est à propos du sentiment d'appropriation, d'un certain lien qui nous échappe.
Ce n'est pas nouveau, c'est surement une nouvelle étape dans la colonisation du milieu technologie par l'économie marchande. Étape durant laquelle les nouveaux consommateurs sont les développeurs, y compris dans le milieu Open Source.
On l'avait vu venir avec la startup GitHub, épicentre des développements de logiciel libre, qui s'est fait racheter par Microsoft, qui pousse maintenant à l'adoption de l'IA, avec des abonnements. Ce sont de ces moyens de production là dont je parle.
Si on conjugue ça avec le changement majeur précédent dans le milieu du logiciel libre, celui durant lequel les communautés auto-organisées se sont fait supplanter par les grosses entreprises qui vident le logiciel libre de son sens politique pour en faire du code "open source", tout en laissant la question de la gouvernance de côté, on se retrouve avec un écosystème du logiciel libre assez fragilisé.
Dépendre de l'Intelligence Artificielle veut probablement dire perdre le contrôle que l'on a sur notre technologie. Quelque part, ça ressemble à la fin d'une ère.
¹ La demande globale en eau liée à l'Intelligence Artificielle est projetée d'être de 4.2-6.6 milliards de mètres cubes d'eau en 2027, ce qui est plus que la quantité totale d'eau utilisée par 4 à 6 fois le Danemark, et la moitié de la consommation du Royaume-Uni. (source)