Les nouvelles technologies telles que l’intelligence artificielle (IA) et les Big Data permettent de nombreux progrès entraînant d’importantes modifications sociétales. L’éthique, définie comme étant « l’ensemble des principes moraux qui sont à la base de la conduite d’une personne », est primordiale pour accompagner la Science. En prévision de l’impact de l’IA sur le système de santé et l’organisation des soins, un sujet spécifique a été étudié lors de la concertation citoyenne des États Généraux de la bioéthique de 2018 pour encadrer et orienter les recherches sur le sujet. En parallèle, le Rapport Villani, dédié à l’IA appelle à la conscience de chacun pour mener une recherche et des projets éthiques. Kap Code souhaite ainsi partager sa vision sur le rôle de l’éthique face à l’utilisation des Big Data et de l’intelligence artificielle en santé.
L’avènement des Big Data et de l’intelligence artificielle dans la santé
The avènement du web a profondément modifié notre mode de vie. L’arrivée d’internet et la masse de données générées lors de son utilisation est à l’origine de l’apparition des intelligences artificielles et du Big Data.
Les Big Data sont déjà utilisées dans de nombreux domaines tels que le marketing, la finance, les assurances, et la santé. Même si le secteur de la santé demande des précautions particulières, l’utilisation des Big Data se développe continuellement de par ses apports dans la recherche médicale, l’optimisation de la prise en charge des patients et la personnalisation de la médecine.
Parmi les nombreuses applications des Big Data, on retrouve l’intelligence artificielle, avec notamment le développement du Machine Learning (l’apprentissage d’une machine à partir de données fournies) et du Deep Learning (un sous-domaine du Machine Learning imitant le fonctionnement du cerveau humain et des réseaux de neurones).
Notre entreprise, Kap Code, a été créée suite à l’utilisation des nouvelles technologies et aux nouvelles opportunités qu’offrent leurs applications en santé. Notre outil Detec’t est un exemple concret de l’application des Big Data et de l’IA à la santé : nos algorithmes permettent d’analyser la masse importante de données générées par les internautes sur leur santé, afin de mieux comprendre les besoins et les difficultés des patients.
Les pistes à prendre en compte pour optimiser éthiquement l’utilisation de Big Data et d’intelligence artificielle en santé
L’éthique est une nécessité face à tout progrès scientifique. Parmi les récentes initiatives sur le sujet, on retrouve le rapport Villani « Donner un sens à l’IA », le rapport des États Généraux de la bioéthique ou encore le label Adel, spécialisé dans l’éthique et les données numériques. De notre point de vue, 3 pistes sont à considérer lorsqu’on traite d’éthique dans les domaines des Big Data et de l’IA appliqués à la santé.
1. Sensibilisation des patients
The rôle du patient a évolué avec l’arrivée d’internet. La multiplication des sources d’informations ainsi que la possibilité d’échange et de partage autour des pathologies a conduit le patient à s’impliquer de plus en plus dans la prise en charge de sa santé. Les internautes doivent être sensibilisés au fait que leurs données puissent être utilisées dans un cadre de recherche en santé ou non. Il incombe également aux entreprises développant des technologies d’être transparentes et de les rendre compréhensibles pour le grand public.
Nous citerons ici une partie du rapport Villani : « L’explicabilité de ces technologies est l’une des conditions de leur acceptabilité sociale. S’agissant de certains sujets, c’est même une question de principe : on ne peut admettre, en tant que société, que certaines décisions importantes puissent être prises sans explication. En effet, sans possibilité d’expliquer les décisions prises par des systèmes autonomes, il apparaît difficile de les justifier. Or, comment accepter l’injustifiable dans des domaines aussi décisifs pour la vie d’un individu que l’accès au crédit, à l’emploi, au logement, à la justice ou à la santé ? ».
2. Adaptation de la législation
De plus en plus de réglementations sont mises en places afin de protéger les libertés individuelles face aux nouvelles technologies, comme par exemple la mise en application du RGPD (règlement général sur la protection des données). Ces lois peuvent cependant parfois paraître insuffisantes tant l’évolution technologique dépasse l’évolution législative.
3. Réflexion et actions de la part des entreprises
Les points précédents nécessitent la prise d’initiatives et la mise en place d’actions concrètes. Il est important que les entreprises qui développent des technologies liées au Big Data en soit à l’origine, et donc qu’elles entament une démarche de réflexion afin d’être pleinement conscientes des responsabilités qui leurs incombent.
Cet état d’esprit est en adéquation avec les valeurs de notre entreprise, et il est d’autant plus important pour nous que notre réflexion autour de l’éthique s’améliore de façon constante en même temps que notre entreprise grandit. Nous vous proposons de découvrir dans cette dernière partie les enjeux indispensables selon nous à explorer pour les entreprises partageant notre cadre d’activité.
Les enjeux à prendre en compte lors du développement de solutions d’IA & de Big Datas dans la santé
Au niveau des données
La maîtrise éthique des données de santé est au cœur des préoccupations de Kap Code depuis sa création. Notre start-up est en effet issue de la CRO Kappa Santé, dont le cœur de métier touche à des données de santé. Il est important de prendre en compte les aspects suivants :
- Respect de la vie privée : Même si les données collectées avec Detec’t sont des données publiques en grande majorité pseudonymisées, il est important de procéder à une anonymisation réelle. Nous nous assurons systématiquement que les résultats présentés sont agrégés et rendent impossible l’identification d’un patient.
- Qualité des données : Que ce soit en termes de traitement, de conservation ou de diffusion, nous avons mis en place des processus garantissant l’intégrité, l’exactitude, et l’authenticité de l’information traitée.
- Sécurité des données : Pour éviter le mésusage ainsi que le piratage des données, il est important de sécuriser au maximum notre système informatique. Dans notre cas, nous utilisons les mêmes standards de sécurité que la CRO dont nous sommes issus.
Au niveau de l’analyse
A l’image du label Adel, nous pensons qu’il est particulièrement important d’optimiser l’analyse des données obtenues via nos technologies :
- Nous travaillons en équipe où des chefs de projets avec un profil médical coopèrent avec des data scientists sur une problématique précise avec des références scientifiques.
- Nous procédons à des audits internes et à des améliorations constantes des algorithmes. Chaque étude réalisée vient enrichir et consolider notre outil.
- Nous nous assurons que les personnes qui sont amenées à travailler avec nous partagent nos valeurs et comprennent les enjeux derrière leur travail.
- Enfin, nous évaluons et publions nos algorithmes dans des revues scientifiques dans un souci de transparence mais également comme évaluation des performances métrologiques de notre solution.
Dans une démarche d’amélioration continue, chaque projet et chaque développement sont sources de progrès. Ces considérations éthiques s’étendent également au développement de nos autres offres, et notamment des solutions connectées W’asm et Connect’inh.
FR 
EN