Les CDO, CIO Officer, DSI, proposent-ils les bons modèles, les bons LLM à leurs employés ?
La Minute Benchmarck : le chiffre du jour ? 60 % !
Julien Merali
Philippe Albrecht, vous êtes président-fondateur de Qwanza, partenaire de l’Agora des DSI, et vous venez présenter la Minute Benchmark. Quel est le chiffre du jour ?
Philippe Albrecht
60 %. C’est le taux d’adoption de l’IA dans les grandes entreprises, contre 18 % pour les petites entreprises, et, à peu près, 30 % des actifs utilisent l’IA au travail.
Aujourd’hui, si on regarde les grands modèles qui sont utilisés, tous usages confondus, le premier, c’est ChatGPT en France, puis Microsoft. On trouve aussi Gemini et, de plus en plus le Chat (Vibe) de Mistral.
Et puis, en exponentielle, arrive Anthropic. Sachant qu’Anthropic est aujourd’hui même numéro un aux États-Unis, donc la tendance se situe à peu près là.
Mais si on regarde les licences achetées en entreprise sur l’IA, le premier, c’est Microsoft, pour ensuite aller vers les autres. Donc comment peut-on expliquer cet écart entre un usage fort de ChatGPT et des achats de licences qui mettent Microsoft devant ?
En fait, on va parler de « Shadow IT », et 61 % des acteurs aujourd’hui en entreprise utilisent l’IA hors du cadre des contrats de l’entreprise, ce qui est assez phénoménal.
Donc on peut se demander si, en tant que si on est un CDO, CIO Officer, un DSI, finalement, je propose les bons modèles, les bons LLM à mes employés ?
Est-ce que je dois aller vers du généraliste ou du plus spécialisé ?
En fait, la question est déjà tranchée, ce n’est plus vraiment la question. La tendance aujourd’hui, qui va se répandre de plus en plus, ce sont les architectures hybrides où on a un modèle généraliste pour orchestrer, et puis des modèles spécialisés pour adresser des fonctions, des usages sectoriels, des morceaux de processus.
Et dans ce cadre-là, c’est intéressant parce que ces agents spécialisés sont moins coûteux, parce qu’ils font beaucoup moins d’inférence, ils adressent beaucoup moins de volume quand ils travaillent et ils sont également beaucoup moins sujets aux hallucinations.
Donc, dans les cinq années à venir, ce qu’on pourrait à peu près arriver à avoir, c’est que 50 % des modèles seront spécifiques, contre environ 1 % aujourd’hui, ce qui est aussi une croissance à anticiper.
Et en volume, ils vont représenter trois fois plus. Donc les modèles spécifiques vont représenter trois fois plus en volume que les modèles généralistes, toujours avec des coûts qui sont 10 à 20 fois moins chers parce qu’encore une fois, beaucoup moins d’inférence.
Autre intérêt de l’usage, c’est que finalement, on va se retrouver avec un usage humain, donc l’interfaçage entre l’humain et l’IA, qui va rester généraliste, quand la partie machine, donc les API, les processus, l’argentique, elle, va se spécialiser et se fragmenter.
Donc, si on est un DCO, CIO aujourd’hui, la question n’est plus vraiment quel LLM choisir, mais vers quelle plateforme multimodulaire me tourner ? Quelle politique de routage entre le spécifique et le généraliste et, dans quel cas d’usage, justifier un modèle spécifique ?
La Minute Benchmarck de Philippe Albrecht, président-fondateur de Qwanza, partenaire de l’Agora des DSI
