Regard sur l'IA / Romain Ganneau (Silver Valley) : L'IA sans service ne vaut rien

Didier : Romain, merci d'avoir accepté de te prêter au jeu de cette interview. On va parler d'IA, évidemment, mais surtout de ton regard sur ces technologies. Pour commencer, est-ce que tu peux nous expliquer qui tu es et ce que tu fais ?

Romain : Je suis Romain Ganneau, directeur général de Silver Valley, le premier cluster d'entreprises dédié à la transition démographique et au vieillissement. Depuis près de 20 ans, nous avons accompagné 2500 projets avec 230 entreprises adhérentes.

Mon parcours vient de l'action sociale et du service. Notre mission : accompagner l'innovation dans les services pour le bien-vieillir, puis rendre les meilleures solutions accessibles au public le plus large possible, cadre de politiques sociales et solidaires.

Je ne suis pas technophile. Ma conviction : la technologie sans service ne vaut rien. Ce qui m'intéresse, c'est le service rendu, pas la technique pour elle-même.

Premier contact avec l'IA : au-delà des LLM

Didier : Est-ce qu'il y a eu un moment où tu t'es dit "OK, cette fois il va falloir s'y mettre, c'est une vraie techno et pas un gadget" ?

Romain : Mon rapport avec l'IA n'a pas démarré avec ChatGPT ou les LLM. J'ai accompagné des projets dès 2015-2018 qui utilisaient des briques d'IA, par exemple pour de la détection de chute, via des modèles entraînés sur des jeux de données issus d'objets connectés. Pour moi, c'était ça le démarrage de l'IA.

Quand les LLM sont arrivés il y a deux ans, je me suis demandé quel est le service ça allait apporter. Au début, je ne voyais absolument pas l'intérêt. Pour moi, c'était juste un moteur de recherche.

Didier : Et le moment "waouh", il est arrivé quand alors ?

Romain : Ce qui m'a bluffé, ce sont les premières utilisations de l'IA sur la vidéo. Une boîte qui faisait des effets spéciaux à Hollywood : quelqu'un qui courait sur une plage, et ils changeaient la corpulence de la personne en direct. Je me suis dit : si on peut faire ça avec de la vidéo, demain on va pouvoir nous faire gober n'importe quoi.

Et quand je regarde ce que Sora est capable de faire récemment, ça fait peur. Ce n'est pas un "waouh" sur la technologie, c'est vraiment de l'inquiétude.

Didier : Le côté deepfake, c'est quelque chose qui t'interpelle particulièrement ?

Romain : Carrément. Internet a déjà accéléré la diffusion de fake news et la baisse du niveau d'intelligence collective. Avec l'IA, ce sera pire. Avant, on pouvait dire "tu vois bien que c'est un montage". Demain, tout le monde regardera ces vidéos en pensant qu'elles sont authentiques.

Le grand public sera incapable de distinguer le vrai du faux. Sauf qu'avant, il fallait quelques millions de dollars pour créer un deepfake convaincant. Aujourd'hui, quelqu'un sur son ordinateur peut le faire en deux jours pour quatre dollars. Dans les conflits géopolitiques où la manipulation de l'information est déjà omniprésente, ça ne peut que s'amplifier.

L'IA dans le quotidien professionnel

Didier : Concrètement, comment tu utilises l'IA au quotidien dans ton boulot ?

Romain : Ce qui m'aide vraiment, c'est l'automatisation de la rédaction de comptes-rendus. J'utilise des outils de transcription, j'indexe les documents correctement par sujet, et je peux aller chercher les 10-15 points clés. Je gagne beaucoup de temps sur la synthèse.

En revanche, et j'assume complètement, je ne laisse jamais un LLM sourcer les informations : je choisis les sources, il résume : lui demander de chercher du contenu risquerait de lui faire recracher du contenu créé par l'IA. Je préfère des contenus experts, créés par des gens qui maîtrisent leur sujet.

Didier : Il paraît qu'on a passé le cap des 50% de contenu généré par l'IA sur internet.

Romain : Possible. L'IA ingère du contenu généré par l'IA, qui s'inspire lui-même de contenu généré par l'IA...

J'ai entendu quelque chose d'absurde dans le service à la personne : les acteurs doivent envoyer des rapports d'audit. Un conseil départemental, submergé, embauche deux personnes pour créer une IA qui lira ces rapports. Sauf que les rapports sont eux-mêmes générés par l'IA ! Quand l'IA vient renforcer la bureaucratie au lieu de la simplifier, on touche l'absurde.

Les limites techniques et économiques

Didier : Tu as d'autres observations sur les limites actuelles ?

Romain : Oui. La première réponse d'un LLM est toujours plus pertinente que les suivantes. Je mets une quinzaine de documents, je demande un résumé en 10 points : la première version est solide. Mais quand je demande des ajustements, plus je précise ma pensée, plus ça dérive. J'ai l'impression d'être plus précis, mais moins ça comprend ce que je veux dire.

Didier : C'est ce qu'on appelle la courbe en U dans les LLM. Ce qui est au début et à la fin, ça va, mais ce qui est au milieu, il a tendance à le perdre.

Romain : Je vois. Pour moi, la vraie limite n'est pas technique mais économique : il n'y a pas de modèle viable aujourd'hui. On sous-paye l'utilisation des LLM, c'est du dumping technique. On utilise un service à 100 fois moins cher que son coût réel. Mais dans 10 ans ? Ils brûlent du cash, ils devront un jour créer un modèle rentable. On ne peut pas cramer des milliards indéfiniment. Une fois la technologie massivement diffusée, je n'en vois pas les prix rester aussi bas.

Didier : Ils investissent tous les uns dans les autres. Une économie circulaire se crée autour de l'IA. On est dans une bulle.

Romain : Ce qui distingue une bulle d'un business viable, c'est la création de valeur. Quand la seule valeur créée, c'est la valorisation des boîtes et non leur business... On connaît la fin de l'histoire. Les signaux sont là. L'outil reste intéressant, mais les signaux sont ceux d'une bulle avec des ROI pas toujours évident. Et malgré cela une promesse de changement très forte comme l'était celle d'internet. D'ailleurs l'explosion de la bulle internet dans les années 2000 n'a pas tué internet, le secteur s'étant ensuite structuré autour d'entreprises avec des business modèle plus solides.

Il faut aussi distinguer deux niveaux de techno. D'un côté, les boîtes qui ajoutent une surcouche de LLM. De l'autre, celles qui investissent des millions en R&D pour développer des technologies propriétaires et entraîner leurs propres modèles. Ce n'est pas le même secteur d'activité. L'IA propriétaire avec entraînement spécifique, c'est un autre métier. Le problème : tout le monde s'appelle "IA".

Didier : On revit le syndrome blockchain d'il y a 7 ans...

Romain : Exactement ! Les decks d'entreprise commençaient tous par "blockchain", et il fallait attendre la 5e page pour comprendre ce qu'ils faisaient réellement. C'est pareil aujourd'hui. Souvent, ils n'expliquent même pas pourquoi ils font mieux que les autres — parfois parce qu'ils n'ont même pas besoin d'IA pour résoudre leur problème.

Didier : Beaucoup de mes clients demandent des solutions d'IA, et quand ils expliquent leurs besoins, un algo déterministe suffit amplement.

Romain : Voilà. La confusion entre l'algo déterministe, l'intelligence artificielle et le LLM, c'est une confusion qui nuit au secteur.

Souveraineté et champions européens

Didier : On a des initiatives comme Mistral qui ont des résultats intéressants, mais zéro traction (au niveau du grand public) parce que leur efficacité perçue est plus basse. Est-ce qu'on a déjà perdu la guerre ?

Romain : Non. Dans le contexte actuel, les questions de souveraineté sont cruciales. Qui aurait imaginé il y a 3 ans la situation actuelle avec la Chine, les États-Unis ou la Russie ?

Le problème de Mistral, c'est un problème de perception, pas de qualité réelle. Le premier enjeu n'est pas de faire des discours sur la souveraineté, mais de mener une vraie opération de marketing pour démontrer que ces outils fonctionnent. Le discours actuel met la souveraineté en avant plutôt que l'intérêt pratique de l'outil.

Avec le Cloud Act américain, même si les serveurs sont en Europe, les États-Unis peuvent demander l'accès aux données. Pour des données de santé ou sensibles, la question se pose.

Mais soyons réalistes : notre problème est financier. Face aux investissements chinois ou américains, la France seule ne peut pas suivre. La souveraineté ne peut être qu'européenne. Il nous faut des champions tantôt franco-européens, tantôt allemands-européens, tantôt suédois-européens.

Didier : C'était un peu le principe de base de l'Europe.

Romain : Oui, sauf que les souverainistes sont contre l'Europe aussi. Le village gaulois, ça n'existe plus. Aujourd'hui, on travaille sur des projets avec la Direction du Numérique en Santé qui visent à faire émerger des champions européens. C'est extrêmement intéressant. Demain, il faut penser sur la base d'un territoire plus large.

Applications prometteuses dans le bien-vieillir

Didier : Est-ce qu'il y a des usages de l'IA que tu as vus passer et qui t'ont semblé particulièrement prometteurs ?

Romain : Deux catégories : un usage nouveau et un usage amélioré.

L'usage nouveau, c'est l'aide à la décision médicale ou au diagnostic. Aujourd'hui, avec de vrais experts derrière, ça fonctionne et ça transforme déja le système de santé. C'est déjà là, même si ça reste invisible dans l'usage quotidien pour le grand public.

L'usage amélioré : la détection de chute. Avant, un simple capteur ou un bouton pressoir. Aujourd'hui, trois technologies révolutionnent le domaine. L'analyse d'image par capteur optique, le wifi sensor qui transforme ta box en radar, et la détection sonore capable de reconnaître non seulement une chute mais aussi un étouffement pendant le sommeil. Ce n'est pas du LLM, c'est du traitement de signal et de l'entraînement sur des jeux de données spécifiques.

Didier : Il y a d'autres usages ?

Romain : Oui. Pour les professionnels du service à la personne ou en EHPAD, un des pain points, c'est la gestion des plannings. Des solutions émergent avec des briques d'IA pour non seulement gérer, mais anticiper les problèmes. On connaît les taux d'absentéisme, beaucoup de données existent, mais on ne les exploite jamais pour anticiper. Le défi : donner accès à ces données et les structurer correctement.

Plusieurs solutions généralistes sont aussi intéressantes pour le secteur: aide aux recrutements, legaltech, optimisation des process et qualité.

Vision 2030 : entre promesses et dangers

Didier : Si tu te projettes dans 5 ans, comment penses-tu que ça va évoluer ?

Romain : Les assistants IA seront omniprésents, avec un impact majeur sur les métiers tertiaires. Les fonctions support vont se transformer radicalement. Pour des sujets techniques ou bureaucratiques, si une IA m'oriente plus vite qu'un serveur vocal, je suis preneur.

Mais ce qui m'inquiète, c'est l'explosion des deepfakes. Ta génération, comme la mienne, a acquis un socle de compétence de base et un certain esprit critique sur les contenus numériques. Qui aurait imaginé il y a 10 ans qu'on remettrait en cause les vaccins, qu'on défendrait la théorie de la Terre plate ?

Avant, ces gens étaient trois dans un bar. Aujourd'hui, ils ont une audience massive. Les médias qui montent systématiquement un "pour" contre un "contre" leur donnent une plateforme, une légitimité. Ils représentaient 2%, peut-être 20% aujourd'hui. En tout cas, on les entend beaucoup plus.

L'IA pourrait accélérer la dérive vers des systèmes hybrides, ni vraiment démocratiques ni vraiment dictatoriaux. Ce qui se passe aux États-Unis est fascinant et inquiétant. L'IA va amplifier ce mouvement en Europe.

Didier : Et sur l'éducation ?

Romain : L'autre jour, en emmenant ma fille à la gym, j'ai entendu des ados de 13-14 ans : "De toute façon, l'école ne sert à rien. Mon téléphone me donne les itinéraires, répond à mes questions d'histoire..."

On a tenu le même discours avec Internet : à quoi bon éduquer si des outils nous donnent toutes les réponses ? Erreur. Sans socle de connaissances, on est incapable d'interpréter ce qu'on reçoit. L'IA va amplifier ce problème.

Il faut enseigner l'usage des outils, certes, mais d'abord transmettre les connaissances de base qui permettent de comprendre les réponses. L'enjeu est là : positionner l'outil correctement, mais surtout ne pas le laisser générer le savoir.

On voit déjà les dérives. En Australie récemment : un rapport de conseil facturé 400 000 dollars (270 000 euros), entièrement rédigé par l'IA. Un expert repère un chiffre étrange, creuse : il n'existe pas. L'IA avait même inventé des études d'une chercheuse réelle pour étayer ses propos.

Le défi, aujourd'hui, c'est de former des gens capables d'utiliser l'IA comme un outil, pas comme une béquille. Quand ton seul outil est un marteau, tous tes problèmes ressemblent à des clous. Quand l'IA devient ton seul outil et que tu n'as plus de base de connaissances, tu deviens dépendant.

Didier : Parfait. Merci beaucoup Romain pour cette discussion, c'était passionnant.

Romain : Merci à toi !