Biscuits IA
Projet associatif open source autour de l'IA
- IA open source
- CI/CD
- Infrastructure
Contexte
De nombreuses structures (associations, petites entreprises) veulent expérimenter l'IA sans s'engager sur des coûts récurrents liés aux API propriétaires (OpenAI, etc.), ni exposer leurs données à des tiers.
Défis
Rendre des modèles open source (Mistral, Qwen) exploitables en production par une équipe bénévole, avec une infrastructure automatisée et reproductible, et des contraintes matérielles limitées.
Solution
Mise en place d'une architecture logicielle et d'une infrastructure CI/CD dédiées à l'automatisation autour de modèles IA open source, avec un déploiement local optimisé selon les ressources disponibles, et une coordination technique de l'équipe contributrice.
Résultats
Une base technique open source réutilisable, réduisant la dépendance aux LLM propriétaires pour les structures qui l'adoptent, et un projet associatif documenté et maintenable par une équipe distribuée.
Suite