Intelligence artificielle : « Diffusion de plus en plus large dans le logement » (D. Gruson, Ethik-IA)
Le principe de Garantie Humaine de l’IA
Intelligence artificielle - désigne l’ensemble des techniques techniques simulant les processus cognitifs humains
(Human Oversight) vient d’être introduit à l’article 14 du projet de règlement sur l’intelligence artificielle présenté le 21/04/2021 par la Commission européenne. Ce faisant, l’article 14 donne une portée générale pour l’ensemble des champs et secteurs d’application de l’IA - et donc au domaine du logement - à ce principe proposé en 2017 par Ethik-IA d’abord dans le domaine de la santé et qui n’a cessé, depuis lors, de faire l’objet de reconnaissances de plus en plus larges, écrit David Gruson
, directeur du programme Santé du groupe Jouve
• Entreprise spécialisée dans les services numériques et d’impression qui accompagne les entreprises dans le passage au numérique. Présent dans 10 pays (20 % du chiffre d’affaires …
et fondateur d’Ethik-IA, dans une tribune adressée à News Tank le 28/04/2021.
Ce principe de Garantie Humaine s’inscrit dans une logique de régulation positive visant à soutenir le développement de l’intelligence artificielle en France et en Europe, dans un cadre permettant d’en réguler les risques éthiques.
L’intelligence artificielle se diffuse de plus en plus dans le domaine du logement. Des cas d’usage de plus en plus diversifiés émergent et se retrouvent dans un très grand nombre de pratiques du quotidien : modélisations numériques architecturales, déploiement d’algorithmes d’appui aux processus d’attribution de logements sociaux, solutions d’IA accompagnant propriétaires et locataires dans leurs démarches de recherches… Le secteur est, en outre, naturellement traversé par la diffusion de solutions algorithmiques de portée plus générale qui viennent notamment concerner les fonctions-supports des acteurs du logement dans le cadre de logiques de digitalisation des fonctions ressources humaines, financières ou logistiques.
Voici la tribune de David Gruson.
La Garantie Humaine du numérique et de l’intelligence artificielle : un projet humaniste
L’intelligence artificielle se diffuse de plus en plus dans le domaine du logement. Des cas d’usage de plus en plus diversifiés émergent et se retrouvent dans un très grand nombre de pratiques du quotidien : modélisations numériques architecturales, déploiement d’algorithmes d’appui aux processus d’attribution de logements sociaux, solutions d’IA accompagnant propriétaires et locataires dans leurs démarches de recherches…
Le secteur est, en outre, naturellement traversé par la diffusion de solutions algorithmiques de portée plus générale qui viennent notamment concerner les fonctions-supports des acteurs du logement dans le cadre de logiques de digitalisation des fonctions ressources humaines, financières ou logistiques.
S’ouvrir à l’innovation dans les champs du numérique et de l’intelligence artificielle tout en régulant les enjeux éthiques qui leur sont associés : c’est le but de la régulation positive de ces innovations que nous devons porter en France et en Europe.
Le principe de Garantie Humaine
Le principe de Garantie Humaine de l’IA Intelligence artificielle - désigne l’ensemble des techniques techniques simulant les processus cognitifs humains et du numérique, d’abord reconnu dans le domaine de la santé, s’inscrit directement dans cette perspective humaniste.
Il est proposé et porté par Ethik-IA depuis 2017 dans le cadre d’une initiative visant à conserver l’Homme au centre de ces enjeux majeurs tout en s’ouvrant à ce potentiel d’innovations au service de l’amélioration de la qualité de la prise en charge des patients. Ce principe avait déjà été reconnu dans les avis 129 et 130 du Comité consultatif national d’éthique et dans l’article 11 du projet de loi bioéthique [1].
Dans le contexte du droit bioéthique français, ce principe de Garantie Humaine induit pour tous les utilisateurs et concepteurs de solutions d’IA en santé :
- la mise en œuvre d’une information préalable du patient sur le recours à l’IA dans sa prise en charge ;
- le déploiement d’une supervision humaine de la solution d’IA « en vie réelle » dans des conditions de traçabilité.
Un projet pilote de « Collège de Garantie Humaine » avait pu être mis en œuvre fin 2020 par Ethik-IA sous égide de l’Union française pour la santé bucco-dentaire (UFSBD) pour exercer une supervision humaine d’un dispositif d’IA de prise en charge dans le domaine bucco-dentaire en EHPAD (dans le cadre d’un protocole de financements innovants article 51 de la loi de financement de la Sécurité sociale).
Cette méthodologie de supervision humaine collégiale par des représentants des professionnels du secteur et des représentants des usages est naturellement tout à fait transposable aux très nombreux cas d’usage de l’IA dans le domaine de la politique du logement
L’art. 14 du projet de règlement de la Commission européenne
L’article 14 du projet de règlement de la Commission européenne sur l’IA instituant ce principe se situe dans le droit fil de ces démarches pilotes et de ces recommandations. Ce projet de règlement européen a une portée générale : il permet de couvrir l’ensemble des secteurs d’application de l’IA et donc les cas d’usage mobilisés dans le domaine du logement.
Le paragraphe 1 de cet article énonce que les solutions d’intelligence artificielle doivent être conçues et développées de façon à pouvoir être supervisées par des Humains. Le paragraphe suivant précise que la supervision humaine permettra de prévenir ou de minimiser les risques pour la santé, la sécurité ou les droits fondamentaux pouvant émerger d’un système d’IA susceptible de présenter un niveau de risque élevé. Par cet énoncé, le projet de règlement consacre la nécessité d’une garantie humaine pour un déploiement éthique de l’IA.
Le paragraphe 3 donne des indications sur la mise en application de la supervision humaine de l’IA. En effet, la garantie humaine doit être identifiée et construite par le fournisseur avant sa mise sur le marché ou sa mise en service et/ou identifiée par le fournisseur et pouvant être mise en œuvre par l’utilisateur, et ce, toujours en amont de sa mise sur le marché ou de sa mise en service. Cette garantie humaine doit pouvoir faire l’objet d’un suivi en vie réelle de l’intelligence artificielle.
Comprendre entièrement les capacités et limites du système d’IA
Les mesures prévues au paragraphe 3 de cet article fixent un certain nombre d’objectifs d’information autour de cette Garantie Humaine :
- comprendre entièrement les capacités et limites du système d’IA et d’être capable de surveiller l’opération de façon à ce que les risques d’anomalies, de dysfonctionnements et de performance inattendus puissent être détectés ;
- d’être conscient des risques liés aux IA d’aide à la décision ;
- d’être capable d’interpréter correctement le résultat de l’IA à haut risque et, si nécessaire, de ne pas tenir compte de ce résultat, le remplacer ou l’ignorer ;
- de pouvoir interrompre l’IA à tout moment.
On retrouve donc dans cet article 14 du projet de règlement européen les 2 axes essentiels de l’article 11 et des méthodologies construites par Ethik-IA depuis 2017 dans le champ de la santé :
- l’information des utilisateurs de la solution d’IA ;
- la supervision humaine de l’IA dans sa phase de conception et, dans une logique d’amélioration continue de la qualité, dans son utilisation en vie réelle.
Ce futur cadre européen sur la régulation de l’intelligence artificielle dans tous ses domaines d’application constitue donc une avancée très significative. Elle se situe dans le sillage des travaux initiés, dans le domaine de la santé, sur la Garantie Humaine de l’IA. Les préfigurations opérationnelles dans ce secteur peuvent maintenant faire l’objet de prolongements dans d’autres domaines d’activités comme l’algorithmique utilisée en matière de logement.
[1] Ce texte finit actuellement son parcours législatif devant le Parlement pour une entrée en vigueur en France à la fin du 1e semestre 2021.
Rubrique animée par Jean-Luc Berho
La rubrique est animée par Jean-Luc Berho (berhoji@laposte.net), créateur des Entretiens d’Inxauseta, événement annuel dédié aux politiques du logement et de l’habitat. L'édition 2021 est programmée le 27/08/2021 à Bunus (Pyrénées-Atlantiques). Il est également président de la Coopérative de l’immobilier, à Toulouse. La rubrique a vocation à mettre en exergue des avis experts sur l’accès au logement, le parcours résidentiel, la politique de la ville, l’urbanisme et l’aménagement des territoires, en France et à l’international.
Parcours
Directeur programme Santé
Conseiller référendaire
Fondateur
Délégué général
Diplômé
Fiche n° 43568, créée le 30/04/2021 à 11:14 - MàJ le 30/04/2021 à 12:03
Jouve
• Entreprise spécialisée dans les services numériques et d’impression qui accompagne les entreprises dans le passage au numérique. Présent dans 10 pays (20 % du chiffre d’affaires à l’export)
• Activité : services numériques, intelligence artificielle, dématérialisation, gestion et traitement de data…
• Création : 1958
• Chiffre d’affaires (2018) : 115 M€
• Pdg : Thibault Lanxade
• Effectif : 2 000 personnes
• Contact : Bénédicte Constans, directrice exécutive - communication et affaires publiques / 06 18 37 88 44
• Tél. : 01 44 76 54 40
Catégorie : Fédération professionnelle
Adresse du siège
11 boulevard de Sébastopol75001 Paris France
Consulter la fiche dans l‘annuaire
Fiche n° 9800, créée le 16/04/2020 à 11:49 - MàJ le 30/04/2021 à 12:55