Chaque mois, GitHub perd un pognon monstre à cause de Copilot

Qui l'eût cru ? Malgré son tarif, Copilot, l'une des fonctionnalités les plus plebiscitées par les développeurs utilisateurs de GitHub, s'avère être un réel gouffre financier pour la plateforme !

Un article du Wall Street Journal a mis en lumière les coûts écrasants auxquels font face les grandes entreprises de la tech pour leurs fonctionnalités qui sollicitent des intelligences artificielles. Certaines d'entre elles en arrivent à perdre de l'argent, même avec des services payants.

C'est le cas de GitHub avec son assistant de code Copilot : bien qu'il soit facturé 10 dollars par mois, la plateforme perdrait 20 dollars par utilisateur chaque mois. Cette perte s'élèverait même jusqu'à 80 dollars pour les développeurs les plus prolifiques de la plateforme.

L'assistant, mis au point pour accompagner les développeurs dans la création et la correction de leur code, a été utilisé à ce jour par plus d'un million et demi de codeurs dans le monde. Sa capacité à faire gagner du temps sur la programmation a été saluée quasi-unanimement par la communauté.

Mais derrière cette popularité se cache un coût, celui de l'IA.

Microsoft, qui détient GitHub, s'appuie sur GPT-4, le modèle d'intelligence artificielle le plus avancé — et le plus cher — d'OpenAI pour les fonctionnalités de ses applications et services, dont fait partie Copilot.

Malheureusement, ces solutions nécessitent une puissance de traitement phénoménale et imposent des contraintes importantes sur les processeurs requis, bien au-delà des logiciels et services cloud standards.

Or, pour reprendre la comparaison mentionnée dans l'article, utiliser des outils si puissants pour résumer des e-mails ou même commenter du code a autant de sens que de prendre une Lamborghini pour livrer des pizzas.

Adapter les usages pour sauver le porte-monnaie

Face à ces coûts élevés, les entreprises cherchent à explorer d'autres voies. Microsoft envisage par exemple d'utiliser des outils d'intelligence artificielle moins puissants pour son moteur de recherche Bing, parmi lesquels certains élaborés à l'aide des modèles et bibliothèques open source de Meta.

Chez Zoom, on mise par défaut sur des IA moins puissantes pour l'assistant de rédaction de synthèses de réunions. Le modèle d'IA plus poussé est quant à lui reservé aux traitements plus complexes.

Cette stratégie a permis à la société de ne pas facturer de frais supplémentaires aux utilisateurs de son outil.

Pour son IA générative Firefly dédiée au design, Adobe a préféré partir sur un système de crédits pour se protéger financièrement. Dès lors qu'un utilisateur a atteint sa limite mensuelle de crédits, la société fait en sorte de ralentir la vitesse de réponse et de génération de l'outil pour décourager les sursollicitations.

Comme ce fut le cas pour d'autres technologies, les entreprises s'attendent à ce que ces modèles et leur usage deviennent moins onéreux dans le temps.

Microsoft a néanmoins revu sa copie pour son assistant Copilot pour la suite Office 365 : le service sera facturé 30 dollars par mois pour chaque utilisateur, en complément de l'abonnement Microsoft 365.

Reste à voir si à terme le tarif de GitHub Copilot sera lui aussi amené à évoluer à la hausse.

À lire aussi sur Les Joies du Code :

• 🍪 Pour mon site, j’ai intégré le gestionnaire de cookies le moins pire des Internets
• 🚘 Tesla ouvre son API pour les applications tierces dans ses voitures
• 😬 Pour éviter de casser des cous, Apple travaille déjà sur un casque VR plus léger
• 🐂 Ubuntu 23.10 Mantic Minotaur est disponible
• 🎂 Stack Overflow a (déjà) 15 ans