00:00:00
Voix off: « 100 jours pour réussir », c'est le podcast de G_NIUS, le Guichet national de l'innovation et des usages en e-santé. Autour de Lionel Reichardt, retrouvez les innovateurs de la e-santé et les experts incontournables pour vous aider à réussir dans vos projets.

00:00:19
M. Reichardt: Bonjour à tous et bienvenue sur le podcast « 100 jours pour réussir », le podcast à destination des innovateurs et entrepreneurs dans le numérique en santé, mais aussi de toute personne curieuse de ce domaine. Ce podcast est produit par G_NIUS, le Guichet national de l'innovation et des usages en e-santé. Dans cet épisode, nous parlerons de l'intégration de l'intelligence artificielle dans une solution innovante en santé. Pour ce faire, nous recevons Alexandre Guenoun, co-fondateur et dirigeant de Kiro, une plateforme digitale, visuelle et interactive qui améliore la communication des comptes rendus de biologie médicale entre les laboratoires, les professionnels de santé et les patients.

00:00:53
M. Reichardt: Nous recevons également Olivier Clatz, expert en intelligence artificielle et directeur du Grand défi « amélioration des diagnostics médicaux par l'intelligence artificielle », lancé par le gouvernement. Bonjour, Alexandre Guenoun. Merci de partager avec nous votre expérience. Pouvez-vous nous présenter votre formation et votre parcours ?

00:01:19
M. Guenoun: Je suis diplômé de l'Essec à Paris, en grande école, où je me suis spécialisé en data science et en stratégie, et de l'Université de Berkeley, en Californie, où j'ai suivi un double parcours en innovation et en droit. Je suis aussi passé par les bancs de l'Université Bocconi, à Milan, où j'ai étudié l'innovation et l'économie des nouvelles technologies. J'ai travaillé en private equity chez L Catterton, qui fait partie du groupe LVMH, et dans le conseil en stratégie chez Oliver Wyman, à Paris. J'ai commencé à travailler dans l'intelligence artificielle en 2016 pour une mission avec Etalab, une administration de l'État, où l'objectif était d'analyser la pertinence du remboursement de certains médicaments avec du machine learning.

00:01:55
M. Guenoun: J'ai beaucoup appris pendant cette expérience, et j'ai vu l'impact positif qu'on pouvait avoir avec les nouvelles technologies dans le parcours de soins. Ça m'a vraiment convaincu qu'il y avait des choses à faire dans ce domaine, et que si on voulait gagner cette partie, il fallait descendre sur le terrain pour ne pas garder uniquement les yeux rivés sur le tableau de scores. C'est ce qui m'a décidé à monter Kiro quelques années plus tard.

00:02:13
M. Reichardt: Votre société Kiro a été créée en 2019. Pouvez-vous nous la présenter ?

00:02:18
M. Guenoun: Oui. Chez Kiro, on développe une plateforme logicielle qui permet de rendre les résultats de biologie médicale, comme, par exemple, les tests Covid qu'on connaît aujourd'hui. L'objectif est de rendre ces résultats plus compréhensibles pour le patient, et plus pertinents pour les professionnels de santé, grâce à l'intelligence artificielle. Concrètement, on offre aux patients et aux professionnels de santé une interface qui est interactive, sécurisée, et sur laquelle on a retravaillé complètement le compte rendu de biologie médicale actuel que l'on connaît tous. Chez Kiro, une fois que les résultats de biologie sont obtenus et validés par le biologiste, on transforme le bilan papier en une expérience qui est complètement nouvelle pour tous les utilisateurs.

00:02:55
M. Guenoun: Avec nos algorithmes, on traite les informations disponibles pour les structurer et proposer en temps réel un contenu qui est adapté à l'utilisateur et que l'on personnalise selon le profil biologique de chacun. On est aujourd'hui lauréat du Concours national de l'innovation i-Lab, et on est également « investissement d'avenir », avec le PIA 3 que l'on a remporté avec la région Sud et le Secrétariat général pour l'investissement.

00:03:17
M. Reichardt: L'intelligence artificielle est au cœur de votre solution. Comment définissez-vous cette intelligence artificielle ? Qu'est-ce qu'elle est ? Et surtout, qu'est-ce qu'elle n'est pas ?

00:03:26
M. Guenoun: Par définition classique, on pourrait dire que l'IA est un ensemble de techniques informatiques, souvent issues des mathématiques et des statistiques, qui permettent en général à des machines d'accomplir des tâches, et résoudre éventuellement des problèmes complexes qui sont normalement réservées aux humains. C'est la définition standard, mais je pense que le problème principal, et vous l'avez très bien dit dans votre question, c'est surtout ce qu'elle n'est pas. Le problème principal que l'on rencontre avec l'intelligence artificielle est avant tout un problème de sémantique. On pourrait mieux définir l'IA par ce qu'elle n'est pas. Il faut bien comprendre que l'intelligence artificielle n'est ni intelligente, ni artificielle. Au contraire, on pourrait presque dire que l'IA est un peu stupide.

00:04:10
M. Guenoun: En réalité, ce n'est vraiment qu'une série de calculs. Le mot intelligence n'est ici pas vraiment adapté à la réalité, et c'est précisément ce qui produit, aujourd'hui, un peu trop de fantasmes. La seule différence qui est notable par rapport à l'humain est la vitesse. Le terme qui pourrait peut-être le plus se rapprocher de l'intelligence artificielle dans la réalité serait « informatique heuristique ». Le problème est que derrière le terme IA, qui est un terme un peu passe-partout, on indique beaucoup de choses différentes. L'IA n'est pas quelque chose de nouveau. Les premières IA datent des années 50, et il existait déjà beaucoup de systèmes experts dans les années 70-80. En revanche, ce qui est nouveau aujourd'hui, c'est un tout nouveau type d'algorithme, que l'on retrouve sous les termes de machine learning – l'apprentissage automatique –, et plus récemment encore de deep learning – l'apprentissage profond.

00:04:58
M. Guenoun: C'est véritablement l'apprentissage automatique qui a opéré un changement complet de paradigme par rapport à la précédente génération d'IA qu'étaient les systèmes experts. Autrement dit, l'objectif d'apprentissage automatique n'est pas réellement d'acquérir des connaissances déjà formalisées, mais plutôt de comprendre la structure des données et de l'intégrer dans des modèles pour automatiser des tâches. Quand on parle d'IA aujourd'hui, c'est précisément ces nouveaux systèmes d'apprentissage qui deviennent véritablement remarquables et qui permettent de faire des choses que l'on pensait complètement impossibles il y a peu, comme, par exemple, traduire des langues, reconnaître la parole, ou, pour la santé, lire des images médicales.

00:05:34
M. Reichardt: On parle parfois de plusieurs niveaux d'intelligence artificielle : l'intelligence artificielle forte et l'intelligence artificielle faible. Cette distinction est-elle pertinente ?

00:05:44
M. Guenoun: Aujourd'hui, à mon sens, ce n'est pas forcément ce qui est le vrai cœur du sujet. L'IA se concentre plutôt sur optimiser la résolution d'un problème, plus que d'augmenter un être humain, et loin encore de l'humain cyborg, mi-homme, mi-machine. La question à laquelle l'IA répond aujourd'hui est : est-ce que la valeur que l'on produit est efficiente, optimale et adaptée ? C'est pour ça que chez Kiro, on aime plutôt l'idée de donner des super-pouvoirs à des gens qui sont avant tout des humains, voire même des héros du quotidien. On ne fait que fournir un outil sans remplacer qui que ce soit. Quand on parle d'IA forte ou d'IA faible, c'est savoir si, un jour, l'intelligence artificielle pourra surpasser l'intelligence humaine.

00:06:33
M. Guenoun: Aujourd'hui, je pense qu'on en est encore un peu loin. Considérer cette dichotomie, c'est parfois un peu trop rapidement dédouaner l'homme de ses responsabilités intellectuelles et éthiques envers la machine. Le vrai risque, quand on parle d'IA forte et faible – qui n'est pas une réalité actuelle –, est que l'on attribue à la machine une intelligence qui ne vient pas d'elle ; voire pire : que l'on prenne pour de l'intelligence ce qui n'en est pas.

00:07:00
M. Reichardt: Pour un porteur de projet, comment intégrer l'IA dans son projet ? Comment travailler sur l'IA avec des professionnels de santé et des établissements de soins ?

00:07:10
M. Guenoun: Avant de choisir d'intégrer l'intelligence artificielle dans son projet – c'est un vrai choix, à mon sens –, c'est très important, au préalable, de bien s'assurer que ce dont on parle est compris, et surtout de vérifier que l'utilisation de cette technologie est pertinente et adaptée pour le problème que l'on cherche à résoudre. Aujourd'hui, on parle beaucoup d'IA comme un fantasme. Il n'en reste pas moins que c'est un outil technologique comme un autre. Je pense que c'est très important de démystifier ça, avant même de chercher à intégrer l'intelligence artificielle dans son projet. L'IA a déjà commencé à transformer le secteur de la santé et d'autres secteurs en particulier ; ça ne fait plus vraiment de doute.

00:07:53
M. Guenoun: Avec l'IA et l'analyse de données, la mutation du secteur médical va permettre – et elle le permet déjà – de favoriser une médecine plus préventive, personnalisée, au service des patients, des médecins et des organisations de santé. Déjà, pour intégrer l'IA dans son projet, l'enjeu est de comprendre la capacité qu'a cette technologie, en général – et l'IA en particulier –, à être pertinente pour aider des individus dans cette prise en charge et à l'accès à l'information dans le cadre du parcours de soins. Le premier élément est de ne pas faire de science-fiction exagérée. Puis, bien comprendre que c'est la technologie au service du problème et du besoin. Une fois qu'on a dit ça, il y a plusieurs moyens d'intégrer l'IA dans son projet.

00:08:33
M. Guenoun: D'abord, pour les professionnels de santé, ce qui est important, c'est de se former à ces sujets, sans pour autant devenir expert dans la science des données. C'est comprendre les enjeux, et faire la différence sur les concepts entre systèmes experts, machine et deep learning, les notions de précision et de recall pour voir la performance, ainsi que les différences entre des données d'entraînement, de test et de validation croisée. Pour les établissements, l'autre enjeu pour intégrer l'IA, surtout quand on est un entrepreneur et qu'on veut travailler avec un établissement de santé, c'est de construire au préalable les structures qui vont permettre à l'intelligence artificielle d'être mise en place, et notamment d'avoir, en sous-jacent, des systèmes d'information qui soient scalables.

00:09:18
M. Guenoun: Pour ça, on parle d'uniformisation et d'interopérabilité, qui sont encore à améliorer pour beaucoup. Intégrer l'IA passe d'abord et avant tout par ça. On ne peut pas passer à côté de LOINC, de FHIR, ou de HL7. Nous, c'est quelque chose que l'on fait déjà en amont, avec les établissements et avec les professionnels de santé, pour intégrer l'IA dans leurs projets. Pour un entrepreneur, une fois que c'est dit et qu'on a travaillé avec des professionnels de santé qui comprenaient ce dont il s'agissait, et qu'on a des structures derrière qui sont pertinentes, il faut commencer par le commencement. Commencer par le commencement en IA, c'est savoir définir le problème. Aujourd'hui, on a beaucoup trop de personnes qui voient encore la technologie, et l'IA en particulier, comme une fin en soi. Ce n'est pas forcément l'idée.

00:10:01
M. Guenoun: Ce n'est vraiment qu'un moyen qui peut s'avérer extrêmement pertinent pour résoudre certaines questions concrètes, et peut-être moins intéressant pour d'autres. L'enjeu est de bien définir, avec des professionnels de santé et les utilisateurs sur le terrain, le pourquoi, le comment, et surtout, derrière, avec des professionnels de l'intelligence artificielle, être capable de travailler pour répondre et s'assurer que l'IA puisse avoir la réponse à cette question.

00:10:24
M. Reichardt: Justement, si l'IA peut avoir la réponse, comment cette démarche s'est imposée chez Kiro ?

00:10:30
M. Guenoun: On a longtemps réfléchi à cette question. On s'est rendu compte que pour les problèmes que l'on cherche à résoudre, et en particulier quand il s'agit de biologie médicale, le machine et le deep learning, beaucoup plus que l'intelligence artificielle en tant que telle, sont particulièrement adaptés. Je vous donne un exemple : quand on a un bilan de biologie médicale, c'est en moyenne vingt-cinq à quarante paramètres individuels qui varient simultanément, selon plusieurs dimensions. En général, les dimensions de variation sont le patient, l'analyse elle-même, et le temps ; et ça, pour chacun des paramètres du bilan. C'est un problème très complexe à appréhender pour le cerveau humain, surtout dans un laps de temps qui peut être contraint.

00:11:10
M. Guenoun: En revanche, c'est beaucoup plus simple à formaliser pour la machine qui peut effectuer plusieurs opérations en une fraction de seconde. On s'est rendu compte que le machine et le deep learning pouvaient être très intéressants pour répondre aux questions de la biologie médicale, et notamment pour aider les professionnels de santé et les patients avec le résultat. C'est pour ça qu'on a choisi d'utiliser l'IA dans le projet, et ça s'est avéré extrêmement pertinent pour aider les professionnels de santé et les patients sur le terrain.

00:11:39
M. Reichardt: Comment évaluer le fait qu'une entreprise fasse vraiment de l'IA ? C'est un mot à la mode. Quels sont les écueils à éviter pour bien travailler dans ce domaine ?

00:11:47
M. Guenoun: C'est vrai que, récemment, une étude du Financial Times – ou rapportée par le Financial Times – a indiqué qu'il y a quarante pour cent de startups européennes qui sont dites d'intelligence artificielle, mais qui, finalement, n'utilisent pas du tout l'intelligence artificielle. C'est un vrai point, et il faut être très vigilant. Il y a plein de façons de déceler si on est en face d'une entreprise qui fait vraiment de l'IA. À mon sens, je dirais qu'il y a principalement deux facteurs importants à regarder. Paradoxalement, le premier est l'humain, et le second est l'approche que peut avoir la société ou la startup avec la donnée. D'abord, premier point sur la question de l'humain : une entreprise qui fait de l'IA est avant tout une entreprise, donc elle est représentative des gens qui la composent.

00:12:27
M. Guenoun: Il n'y a pas d'IA, au sens de machine et deep learning, sans data scientist, et les data scientists ne sont pas des apprentis sorciers, ce sont des ingénieurs qui ont été formés avec de solides compétences, en mathématiques et en statistiques, pour travailler la donnée. Travailler la donnée ne s'invente pas. Aujourd'hui, quatre-vingt pour cent du travail d'un data scientist consiste à disposer de données propres – au sens de « clean »–, et à adapter les données pour l'analyse que l'on souhaite par rapport aux problèmes que l'on a définis. Il n'y a que vingt pour cent du temps qui est véritablement dédié à l'analyse en elle-même. Ça suppose une nécessité, plus qu'une simple volonté, de travailler avec des personnes qui sont qualifiées pour ça.

00:13:08
M. Guenoun: De la même manière que les data scientists sont qualifiés pour travailler la donnée, il faut travailler main dans la main avec des professionnels de santé sur le terrain pour faire des choses pertinentes. L'IA et la médecine sont des métiers qui sont différents, et c'est uniquement à travers cette coopération qu'on peut comprendre les enjeux de chacun et répondre à des problèmes avec une réponse adaptée aux questions qui sont essentielles pour les utilisateurs sur le terrain. Ensuite, il y a la question de la donnée au-delà de l'humain. On ne le dira jamais assez : si la donnée de départ est mauvaise, l'intelligence artificielle n'a aucun intérêt. Une entreprise qui fait de l'IA, et qui est pertinente sur ce sujet, travaille sur la qualité de sa donnée. C'est le concept de GIGO – garbage in, garbage out –, selon lequel des données d'entrées qui sont défectueuses ou absurdes vont produire des sorties et des résultats absurdes.

00:13:59
M. Guenoun: Ce qu'il faut bien voir, c'est qu'une analyse statistique est toujours possible, même avec des données incorrectes. Rien ne vous empêchera de les traiter, et personne ne vous dira que ce que vous faites n'a pas de sens ; et ça, vous risquez de le découvrir trop tard si vous ne faites rien ; d'où l'importance de connaître la qualité de la donnée en amont. Le pire, quand on travaille avec l'IA, est de penser que parce qu'on a beaucoup de données à l'heure, on peut en faire des super-algorithmes et donc une super IA. Il faut bien se rendre compte d'une chose : quatre-vingt-dix pour cent des données existantes ont été créées ces deux dernières années. Ça veut dire qu'aujourd'hui, la quantité de données n'est probablement plus un enjeu. Ceux qui se préparent bien pour travailler avec l'IA se concentrent plutôt sur la qualité, plus que sur la quantité.

00:14:46
M. Guenoun: Les compétitions internationales de recherche en IA – type Kaggle – proposent des jeux de données qui vont de cinquante mille à un million de données. Il n'est pas rare de voir des publications scientifiques en IA robustes qui se fondent sur quelques dizaines de milliers de cas, donc tout dépend du problème que l'on cherche à résoudre. Sur la base de ce problème-là, au niveau des professionnels de cette donnée et de la compréhension des enjeux sur le terrain, on détermine la qualité et la pertinence de la donnée. D'où l'importance, dans le domaine de la santé en particulier – mais pas uniquement –, de l'interopérabilité et de l'utilisation des nomenclatures standards pour avoir des concepts homogènes. Sans ça, ça ne sert pas à grand chose d'accumuler des données sans véritablement comprendre ce qui se passe. Je pense que l'humain d'un côté et la qualité des données de l'autre permettent, au moins, de déceler si on est en face d'une entreprise qui fait vraiment de l'IA.

00:15:35
M. Reichardt: L'humain et la qualité des données représentent un investissement. Quel est le retour sur investissement de l'utilisation de l'intelligence artificielle pour un porteur de projet ?

00:15:43
M. Guenoun: Ça va vraiment dépendre du problème qu'on a identifié. Forcément, dans l'IA, il y a une question de standardisation de la réponse à ce problème-là. Aujourd'hui, la question du coût est liée au degré de complexité qu'on peut avoir dans la standardisation du problème. C'est vrai que l'objectif de l'IA est de répondre à un problème ; dans le cadre de Kiro, c'est l'offre de soins par rapport à la demande de soins. On veut répondre à un niveau de service qui est élevé et qui permette de dégager du temps médical pour les professionnels de santé – c'est important dans l'IA qu'on met en place –, car l'objectif derrière est de fournir de meilleurs services et une meilleure prise en charge, plus précise, plus sûre et plus efficace.

00:16:26
M. Guenoun: C'est un luxe que l'on veut offrir à nos utilisateurs, aux professionnels de santé et aux patients, dans le cadre d'une offre de services plus globale. Effectivement, ça peut avoir un coût assez important, mais l'idée est que ça peut aussi avoir un retour sur investissement important, parce qu'on se rend souvent compte que les mesures techniques opérationnelles qu'il faudrait mettre en œuvre pour pouvoir répondre à la même demande avec le même niveau de qualité sont bien plus importantes ; souvent d'un ratio de un à dix. Donc, c'est un point qui est important si on veut considérer le retour sur investissement de l'intelligence artificielle dans un projet.

00:17:03
M. Reichardt: L'intelligence artificielle est-elle compliquée à mettre en place au sein d'une entreprise ? Est-ce que cela représente un coût élevé ?

00:17:09
M. Guenoun: Il y a différents niveaux. Un peu comme dans beaucoup de domaines, si vous voulez avoir un service de qualité, il faut faire appel à des professionnels de la data – des data scientists et des software engineers – qui ont les compétences pour pouvoir répondre à ces enjeux-là. Ce sont des métiers qui sont rares et donc forcément chers. Aujourd'hui, ils sont privilégiés par la plupart des GAFA, avec des salaires qui sont assez importants. C'est un projet qui part du principe qu'il faut intégrer l'IA dedans ; il peut coûter cher, mais la valeur ajoutée, en général, est là. Pourquoi ça coûte cher ? Parce que ça demande une expertise dans la compréhension de la donnée qui est assez unique. On ne parle pas de statistiques : on va au-delà de la statistique, ou de la biostatistique en santé, avec des vrais enjeux sur le machine et deep learning.

00:18:04
M. Guenoun: Ils ont des connaissances en mathématiques qui sont approfondies pour pouvoir faire des réseaux de neurones profonds ou des arbres diagnostics. Je pense que ça coûte cher aussi pour une autre raison : au départ, il y a un investissement important à réaliser. C'est pour ça qu'aujourd'hui ce sont les startups qui mènent ce projet-là, parce qu'il y a aussi du risque. Ce sont elles qui sont capables de le prendre à travers des investisseurs qui peuvent le permettre. En tout cas, je pense qu'il y a des étapes à respecter, indépendamment du coût, et qui augmentent la pertinence qu'on peut avoir dans la réalisation d'un projet comme celui-là. La première chose est de définir le problème, clarifier les objectifs, et valider que l'on dispose de la base de données pour répondre aux bons problèmes ; ça prend du temps.

00:18:46
M. Guenoun: La deuxième chose est de s'assurer de la qualité de la donnée, définir ce qui est attendu, et travailler avec les professionnels de santé sur le terrain pour évaluer les sources de données et assainir la donnée qu'on va récupérer. À l'issue de cette phase, il ne reste pas tant de bonnes données que ça. C'est ce qui peut coûter cher, ce temps passé à incliner, à aller chercher de la donnée en parallèle, et à compléter des datasets. Le troisième point qui explique aussi ce coût assez élevé est l'entraînement des modèles, avec tous les biais et les limitations qu'il faut garder en tête quand on les réalise. C'est ce qui fait qu'un data scientist bien formé, avec de l'expérience, va pouvoir mieux voir ses biais et ses limitations qu'un data scientist ou une personne qui n'est pas formée sur ces sujets-là.

00:19:27
M. Guenoun: Donc, en plus, il va falloir faire revoir les modèles par des pairs et des professionnels du secteur ; si possible les meilleurs, pour avoir des algorithmes pertinents. On ne peut pas jouer sur la qualité ; en tout cas dans la santé et dans le diagnostic en particulier. Il y a des systèmes de management de la qualité qu'il faut mettre en place derrière, et tout ça a un coût. Comme on standardise de manière assez importante une grande partie des besoins et des ressources qui pourraient être réalisées, forcément, le ROI est là, quand on prend la peine de s'y intéresser.

00:19:57
M. Reichardt: Pour conclure : quels conseils donneriez-vous à un entrepreneur qui souhaite intégrer l'intelligence artificielle dans son projet ?

00:20:07
M. Guenoun: Il y a trois choses qu'il faut garder en tête et dont on a parlé. D'abord, c'est la définition du problème. Ensuite, c'est la question de la qualité. Enfin, c'est la question de l'humain. Il ne faut vraiment pas oublier l'humain quand on parle d'intelligence artificielle. Sur la question du problème, l'élément à garder en tête pour les entrepreneurs qui nous écoutent est de comprendre que l'IA n'est pas une fin en soi, ce n'est qu'un moyen. C'est très important de définir en amont le problème pour lequel on veut utiliser l'IA. Aujourd'hui, la première erreur que les entrepreneurs en IA font est de partir de la technologie. Chez Kiro, le machine et le deep learning sont extrêmement utiles pour les problèmes qu'on cherche à résoudre, mais il faut vraiment partir du problème. C'est uniquement si l'IA est pertinente pour y répondre qu'il faut l'utiliser.

00:20:54
M. Guenoun: On rêve tous de faire des choses super sexy, mais je pense que c'est encore plus important de faire des choses utiles, surtout dans le domaine de la santé. Il y a bien plus d'usages dans lesquels on peut intégrer de l'IA moins ostentatoire pour faciliter la vie des utilisateurs dans le système de soins, et qui sont vraiment utile, si ce n'est plus que l'IA magique que l'on entend ici et là. II n'y a pas de secret : il faut travailler le problème, comprendre le problème qu'on cherche à résoudre, et pour ça, il faut être au plus proche du métier et travailler avec des professionnels du secteur sur le terrain pour comprendre les problèmes qu'on cherche à résoudre, et y répondre. Ensuite, et seulement ensuite, la tech est utile. C'est donc l'erreur numéro un. Il ne faut pas partir des technologies, mais partir du problème.

00:21:35
M. Guenoun: La deuxième chose – c'est l'ennemi public numéro un en santé –, c'est la donnée de faible qualité. Il y a des étapes à respecter – on les a données. Il faut être sûr qu'on a une donnée qui est pertinente pour le problème qu'on cherche à résoudre. Enfin, le troisième point est de ne pas minimiser l'importance de l'humain. D'ailleurs, heureusement que l'humain est très important quand on fait de l'IA. C'est pour ça que je trouve le concept de garantie humaine très riche – c'est une chance que l'on a en France – : on reconnaît que l'IA ne peut pas être parfaite, parce que qu'elle est très humaine derrière, mais que, pour autant, elle peut nous être utile à bien des égards. C'est la raison pour laquelle il faut toujours garder la supervision et l'intelligence humaine – l'intelligence que peuvent avoir les data scientists et les professionnels de santé – sur les algorithmes.

00:22:21
M. Guenoun: C'est vraiment plus que nécessaire. Pour les entrepreneurs qui nous écoutent, il faut bien comprendre que c'est ce qui fera la différence entre une entreprise de qualité et une autre. En santé, en particulier, on ne peut pas rogner sur la qualité. C'est une chose qui est fondamentale. Pour conclure : après tout, quoi de plus logique que l'entreprise soit aussi valorisée par les humains qui la composent ? C'est vraiment ça qu'il faut retenir quand on veut intégrer l'IA dans son projet. C'est un enjeu de qualité au service de la santé.

00:22:55
M. Reichardt: Merci, Alexandre Guenoun, pour votre témoignage.

00:23:03
M. Reichardt: Vous vous posez des questions sur comment intégrer de l'intelligence artificielle dans votre projet ? Eléments de réponse avec Olivier Clatz, expert en intelligence artificielle et directeur du Grand défi « amélioration des diagnostics médicaux par l'intelligence artificielle », lancé par le gouvernement. Bonjour, Olivier Clatz. Merci de répondre à nos questions. Pouvez-vous nous présenter votre parcours et votre formation ?

00:23:26
M. Clatz: Bonjour. Je suis un ingénieur qui a fait une thèse en traitement d'images médicales, à l'INRIA. À la suite de cette thèse, j'ai fait un post-doc à Boston, aux États-Unis. Je suis revenu dans un poste de chercheur, et j'ai été chercheur pendant six ans sur les mêmes thématiques – le traitement d'images médicales. Ensuite, j'ai fondé une société que j'ai dirigée pendant six ans, qui s'appelle Therapixel et qui fait du dépistage du cancer du sein sur la base de la mammographie. Finalement, ça fait un peu moins de deux ans que je dirige le Grand défi « amélioration des diagnostics médicaux par l'IA ».

00:23:58
M. Reichardt: Vous vous occupez du Grand défi « amélioration des diagnostics médicaux par l'intelligence artificielle ». Pouvez-vous nous en rappeler les grands objectifs ?

00:24:06
M. Clatz: Le Grand défi se structure autour de trois axes. Le premier est accompagner les projets qui sont en cours de maturation et qui n'ont pas encore leur algorithme complètement défini, pour leur apporter les moyens à la fois de développer leur algorithme et d'acquérir les données. On est sur un double axe. On a lancé un premier appel à projets – par exemple, avec le Health Data Hub – qui permettait d'offrir un package aux porteurs de projet, du financement pour la R&D, et un accompagnement sur l'accès aux données. Le deuxième axe vise à accompagner les projets qui sont un peu plus matures et à les financer pour expérimenter et valider leur proposition de valeur.

00:24:44
M. Clatz: Pour nous, L'objectif est de prendre des projets qui sont encore en risque, qui ont déjà une technologie qui est mature – figée, quand on parle d'algorithme d'intelligence artificielle –, mais qui n'a pas encore fait ses preuves auprès d'un nombre suffisant de patients ou d'établissements de santé. Ce qu'on vient financer, via des appels à projets, c'est cette phase-là d'évaluation qui coûte de l'argent ; ce coût est souvent sous-estimé par les porteurs de projets. On vient financer à la fois les nouveaux patients qui rentrent dans l'étude, les statistiques, éventuellement un arc, ou les ingénieurs qui peuvent travailler en backoffice. Enfin, tout ce que ça va nécessiter pour venir démontrer la valeur sur le terrain de ces algorithmes. Le troisième axe est un axe qui est un peu plus systémique et qui vise à faciliter l'échange de données au sein du parcours de soins.

00:25:38
M. Clatz: L'objectif est d'accélérer, sur la thématique de l'imagerie médicale que je connais bien, les échanges de données, et en particulier les images médicales. C'est un axe qui a démarré avec le défi, mais qui, aujourd'hui, se retrouve repris dans une initiative beaucoup plus grande qu'est le Ségur de la santé et son versant numérique.

00:25:57
M. Reichardt: Y a-t-il un lien entre le Grand défi « amélioration des diagnostics médicaux par l'intelligence artificielle » et le Ségur de la santé ?

00:26:04
M. Clatz: La première vocation du Ségur de la santé est de financer la digitalisation du parcours de soins pour les patients et les citoyens. À première vue, il n'y a pas forcément de lien direct entre l'intelligence artificielle, les algorithmes, et l'action qu'on a lancée à travers le Ségur qui vise le parcours de soins, c'est-à-dire quand on va voir le médecin, quand on va à la pharmacie, ou quand on va au labo de bio ou au cabinet de radio. Par contre, on est assez convaincu que lorsque ces données seront vraiment dématérialisées dans le parcours de soins, on pourra ensuite livrer beaucoup plus facilement de la valeur sur la base de ces données.

00:26:47
M. Clatz: L'objectif est de passer du papier au digital. Dès qu'on arrive à franchir ce cap, on est capable de brancher beaucoup plus facilement des algos, voire de pouvoir aller chercher des données qui sont beaucoup plus facilement accessibles, parce qu'elles sont mieux organisées, mieux interopérables, et accessibles avec des moyens sécurisés ; ce qui n'est pas le cas quand on travaille avec du papier. Même si, à première vue, il n'y a pas de lien direct, puisque le Ségur se concentre plutôt sur les soins courants, et que l'intelligence artificielle se concentre plutôt sur les nouvelles technos, on pense que les deux vont se rejoindre assez vite.

00:27:19
M. Reichardt: On parle beaucoup d'intelligence artificielle. Pouvez-vous nous en donner votre définition ?

00:27:24
M. Clatz: C'est la question à deux millions de dollars. Elle est toujours posée aux spécialistes d'IA. L'idée est de prendre des décisions sur la base de décisions qui ont déjà été prises dans le passé. On donne aux algorithmes des données qui sont connues et pour lesquelles on a eu la décision, qu'elle vienne du médecin ou d'examens complémentaires. On sait donc vraiment ce qui est arrivé à ce patient. Ensuite, on a des données qui sont de la même nature que celles qu'on a utilisées pour l'entraînement, mais pour lesquelles on n'a pas la réponse. Dans ce cas, l'algorithme d'intelligence artificielle va prendre la décision qui est statistiquement la plus proche du jeu de données qu'on lui a montré la première fois. Ces algorithmes ne sont pas très intelligents : ils reproduisent des décisions qu'ils ont vues par le passé.

00:28:19
M. Clatz: Aujourd'hui, ce qui est assez nouveau, c'est qu'on arrive à des capacités de décision sur des données qui sont en grande dimension, c'est-à-dire qu'on peut mouliner des jeux de données qui sont gigantesques ; des millions, voire des centaines de millions ou des milliards d'IRM, de signaux électrocardiogrammes, ou de données de biologie. On n'était pas capable de faire ça jusqu'à il n'y a pas très longtemps. Il y a une caractéristique assez puissante de ces algorithmes. Avant, on était obligé de venir décrire à l'algorithme où se trouvait l'information, c'est-à-dire qu'on lui disait, dans une image, qu'une anomalie va peut-être être un peu plus blanc. Par exemple, pour un nodule pulmonaire, ça va être avec une forme un peu sphérique, ou inversement, avec une texture qu'on appelle le « verre dépoli ». Bref, on a essayé de qualifier et d'expliquer à l'algorithme ce qu'il cherchait.

00:29:12
M. Clatz: Le gros avantage qu'ont ces nouveaux algorithmes, c'est que l'on n'a plus besoin de les développer sous la forme de descripteurs ; on vient juste réindiquer dans l'image où se trouve l'anomalie, et ce sont eux qui se font leur propre représentation de ce qu'ils cherchent. Ce sont les deux ruptures qu'il y a eues ces derniers temps. Premièrement, on traite des données beaucoup plus grandes. Deuxièmement, on a plus besoin d'expliquer et de caractériser très précisément les anomalies pour les algorithmes. Ce sont eux qui les découvrent eux-même dans les données.

00:29:43
M. Reichardt: Que pouvez-vous dire à un porteur de projet qui voudrait intégrer de l'intelligence artificielle dans sa solution ?

00:29:50
M. Clatz: Le meilleur des conseils est de ne pas se poser la question vis-à-vis de l'intelligence artificielle. De mon point de vue, ce qui va intéresser à la fois le patient, mais éventuellement le ministère quand il va venir financer des produits, c'est la valeur que ça peut apporter pour le système de santé et pour le patient. La première des questions à se poser, avant de se poser des questions algorithmiques, est : quelle est la valeur que j'apporte ? La deuxième question est : comment j'arrive à créer un business model autour de cette valeur ? Parce que, parfois, on peut créer de la valeur, mais c'est difficile d'aller la chercher sur le marché. L'idée est de savoir comment j'arrive à monétiser la valeur que je peux créer pour ce patient ou ce système de santé.

00:30:32
M. Clatz: Après, il y a probablement des tas de questions qui sont assez classiques pour les entrepreneurs, comme la qualité de l'équipe, c'est-à-dire savoir qui je vais avoir dans ma société et qui va m'accompagner dans mon aventure. La techno ne doit pas être au centre des préoccupations de l'entrepreneur qui se lance dans cette thématique. Il doit se préoccuper plutôt des questions classiques des entrepreneurs – et des questions qui sont beaucoup plus propres à la santé, comme : qu'est-ce que j'apporte comme valeur à mon patient ou à mon système de santé ?

00:31:08
M. Reichardt: Notre épisode touche à sa fin. Merci de nous avoir écoutés. Nous remercions nos deux invités pour leur disponibilité. N'hésitez pas à vous abonner au podcast sur les plateformes d'écoute. Nous vous donnons rendez-vous très bientôt pour un nouvel épisode de « 100 jours pour réussir ».

00:31:27
Voix Off : Celles et ceux qui font la e-santé d'aujourd'hui et de demain sont sur le podcast de G_NIUS. Toutes les solutions pour réussir sont sur gnius.esanté.gouv.fr.