Je suis entièrement d’accord avec l’importance de la frugalité en termes d’émissions de CO2 et de consommation énergétique pour l’IA. Il est crucial que cette technologie ne contribue pas à une course effrénée vers le productivisme au détriment d’une société juste.
L’IA, bien que spectaculaire, n’est au fond qu’un ensemble de modèles mathématiques en action. Sa force réside dans sa capacité impressionnante à assimiler et reproduire des informations. Ces systèmes imitent le fonctionnement de notre cerveau, telles des hydres numériques en constante évolution.
Pour fonctionner, l’IA nécessite des opérations sur d’énormes matrices multidimensionnelles, ce qui demande une puissance de calcul colossale, principalement fournie par des GPU et de la VRAM. Actuellement, les grandes entreprises investissent massivement dans des fermes de GPU pour traiter les données du web, dans le but de nous proposer des « cerveaux numériques » à louer.
Heureusement, à côté des géants comme Claude et OpenAI, il existe des modèles libres développés par Mistral, Alibaba ou Meta. Le processus de développement de ces IA passe par un apprentissage initial très gourmand en ressources, suivi d’une phase de « distillation » qui permet de créer des modèles plus légers et spécialisés.
J’ai réalisé une étude comparative des coûts entre l’utilisation des services cloud et l’équipement personnel pour l’IA. Mes calculs montrent qu’il est possible de réduire les coûts jusqu’à 10 fois en s’équipant soi-même. De plus, en utilisant des solutions comme Nextcloud, on peut nourrir son assistant personnel avec ses propres fichiers, sans dépendre des GAFAM.
C’est pourquoi je lance un appel aux détenteurs de GPU et de VRAM : unissons nos forces pour créer une infrastructure d’IA plus accessible et indépendante !
Concernant l’aspect environnemental, je préfère me concentrer sur la mesure de l’énergie consommée plutôt que sur les émissions de CO2, dont la régulation me semble parfois détournée. Notre chance réside dans le fait qu’une fois raffinés, ces « cerveaux électroniques » peuvent fonctionner sur des NPU intégrés aux nouveaux processeurs, consommant ainsi beaucoup moins d’énergie.
En fin de compte, notre objectif devrait être de développer une IA performante, accessible, et respectueuse de l’environnement, tout en préservant notre indépendance vis-à-vis des géants technologiques.
c’est sur du Microsoft office 365)