Bâtir une IA responsable : comment aborder le débat sur l’éthique de l’IA ?

Qu’est-ce que l’IA responsable ?

À mesure de ses évolutions successives, l’IA contribue à des avancées capables de bouleverser nos vies. Aussi, avant que son essor n’atteigne son point culminant, il est crucial de dresser les priorités de développement d’une IA responsable, en tenant compte de tous ses impacts sociétaux potentiels.

L’IA responsable renvoie à une approche du développement et du déploiement de l’intelligence artificielle sous un angle éthique et juridique. L’objectif consiste à employer l’IA de manière sûre, fiable et éthique. Ainsi, son utilisation gagnerait en transparence et contribuerait à limiter les problèmes tels que les biais.

Alors, pourquoi tant de battage autour de l’éthique de l’IA ? L’éthique de l’intelligence artificielle est un enjeu majeur pour l’humanité. L’innovation responsable et à bon escient est un concept qui, en soi, n’est pas facile à saisir, mais avant toute chose, il convient de se pencher sur la question de l’éthique de l’IA et d’en intégrer les principes au cœur du développement et de l’application des systèmes d’IA. En bref, une IA éthique repose sur des valeurs sociétales et tend à servir de manière vertueuse. L’IA responsable, en revanche, consiste en une approche plus tactique, en ce qu’elle concerne la manière dont nous développons et utilisons les technologies et les outils (p. ex., diversité, biais). 

En quoi l’IA responsable est-elle importante ?

Face à l’importance croissante de l’IA pour les organisations, la question de l’IA responsable mérite toute notre attention. En effet, encourager de manière proactive des décisions d’IA équitables, responsables et éthiques, dans le respect des lois et réglementations en vigueur, constitue désormais un enjeu majeur.

Il convient en premier lieu de bien appréhender les préoccupations liées à l’IA pour créer un cadre éthique qui préside à son développement et son utilisation. Toute organisation souhaitant s’assurer que l’utilisation qu’elle fait de l’IA n’est en rien préjudiciable devrait le faire savoir à autant de parties prenantes possibles, de même qu’aux consommateurs, clients, fournisseurs et autres parties susceptibles d’être concrètement impliqués et affectés par cette décision.

Développer et appliquer l’IA dans le respect de principes d’éthique de l’IA suppose en effet une transparence des processus de décision et l’élaboration de politiques pragmatiques en matière d’éthique de l’IA. À l’aune de travaux d’études approfondies, de larges consultations et d’analyses de l’impact éthique, associés à des contrôles et rééquilibrages continus, nous pouvons nous assurer que la technologie de l’IA est développée et déployée de manière responsable, dans l’intérêt de tous, sans discrimination de genre, d’origines ethniques, de croyances religieuses, d’âge, de situations géographiques ou de richesse.

Quels sont les principes d’une IA responsable ?

Se confronter aux préoccupations éthiques, c’est envisager toutes leurs ramifications de manière prospective et approfondie. Il est capital d’aborder la dimension éthique de l’IA non pas comme un obstacle, mais comme un chemin vers un progrès technologique pérenne et durable. C’est pourquoi il est essentiel d’intégrer les principes de l’IA responsable pour que cette technologie évolue dans l’intérêt de tous.

Certes, il n’existe pas de principes établis et reconnus universellement en matière d’éthique de l’IA, néanmoins, certains principes de base se dégagent. Voici sept principes clés de l’éthique en matière d’IA :

• Équité : les ensembles de données utilisés pour l’entraînement du système d’IA doivent avoir fait l’objet d’une attention particulière pour éviter la discrimination.
• Transparence : les systèmes d’IA devraient être conçus de sorte à permettre aux utilisateurs de comprendre le fonctionnement des algorithmes.
• Absence de malveillance : les systèmes d’IA devraient éviter de produire des effets néfastes pour les personnes, la société ou l’environnement.
• Responsabilité : les développeurs, organisations et décideurs devraient s’assurer que l’IA est développée et utilisée de manière responsable.
• Respect de la vie privée : l’IA doit protéger les données à caractère personnel des individus, ce qui implique de mettre au point des mécanismes permettant à ces personnes d’avoir la main sur la manière dont leurs données sont collectées et utilisées.
• Robustesse : les systèmes d’IA doivent être sûrs, c’est-à-dire résilients face aux erreurs, aux attaques malveillantes et aux saisies incorrectes.
• Inclusivité : la diversité des points de vue aide à identifier les potentiels problèmes d’éthique de l’IA et garantit un effort collectif dans le sens de leur résolution.

 

Promouvoir des pratiques responsables en matière d’IA

Ces principes devraient contribuer à orienter la prise de décisions réfléchies et responsables autour de l’IA. Pour passer de la théorie à la pratique, les organisations doivent établir des politiques pragmatiques en matière d’éthique de l’IA. Ces politiques sont essentielles pour traiter des préoccupations éthiques tout au long du cycle de vie de l’IA, en garantissant l’intégrité depuis la conception jusqu’à l’application dans le monde réel.

Quelle que soit l’approche retenue par les organisations pour intégrer des pratiques d’IA responsables dans leurs opérations, elles peuvent s’appuyer sur certaines bonnes pratiques en la matière d’IA tout au long du processus de développement et de déploiement.

Pour fixer les modalités d’instauration d’une éthique de l’IA, les entreprises devraient :

• favoriser la collaboration pluridisciplinaire, en impliquant des experts de la politique, de la technologie, de l’éthique et de la défense des intérêts sociétaux pour garantir une diversité des points de vue ;
• donner la priorité à la formation continue sur les meilleures pratiques en matière d’IA à tous les niveaux de l’organisation pour développer la sensibilisation et l’adaptabilité ;
• mettre en œuvre l’éthique de l’IA dans tout l’environnement technologique, en créant des solutions d’IA éthique à tous les niveaux de l’organisation ;
• établir des mécanismes de supervision clairs, comme des comités d’éthique ou des comités d’examen, pour veiller à la conformité et favoriser des prises de décision éthiques ;
• assurer la protection des données personnelles des utilisateurs finaux et des données sensibles grâce à une gouvernance de l’IA et à des politiques d’utilisation des données solides ;
• encourager la transparence des processus d’IA, laquelle favorise la responsabilité et permet de gagner la confiance des parties prenantes et du grand public.

Tirer parti des meilleures pratiques en matière d’IA

Pour assurer la fiabilité de votre système d’IA, il convient de se concentrer sur trois aspects clés : lui soumettre des données fiables et hétérogènes, s’assurer que les algorithmes pourront gérer cette hétérogénéité et effectuer des tests sur le logiciel final pour détecter toute erreur de classification ou de corrélation.

Voici la marche à suivre :

• Concevoir pour les humains en s’appuyant sur un large éventail d’utilisateurs et de scénarios d’utilisation, et en intégrant ces retours d’information en amont et tout au long du développement du projet.
• Utiliser différentes méthodes afin d’évaluer le processus d’entraînement et de suivi, notamment par le biais d’enquêtes auprès des utilisateurs, d’indicateurs de performance globale du système et de taux de réussite et d’échec selon des sous-groupes spécifiques.
• Examiner les données brutes pour détecter les erreurs (par ex., valeurs manquantes, associations erronées, échantillonnage), les biais découlant de l’entraînement (par ex., méthodes de collecte de données ou biais sociaux inhérents) et les redondances – autant d’éléments essentiels pour veiller au respect des principes d’impartialité, d’équité et d’exactitude associés à une IA responsable au niveau des systèmes d’IA.
• Comprendre les limites de votre modèle afin d’atténuer les biais, d’améliorer la généralisation et de garantir des performances fiables en conditions réelles, sans oublier de communiquer ces limites aux utilisateurs autant que possible.
• Tester en continu votre modèle au regard des principes de l’IA responsable pour vous assurer qu’il tient compte des performances réelles ainsi que des commentaires des utilisateurs, et envisager des solutions à court et à long termes pour résoudre les problèmes.

IA responsable : des exemples à suivre

L’intégration des meilleures pratiques et des principes de l’IA responsable contribue au développement de modèles d’IA générative qui, en définitive, enrichissent nos vies tout en permettant à l’humain de tenir les rênes. À mesure que nous nous dirigeons progressivement vers une utilisation plus responsable de l’IA, nombre d’entreprises ont déjà réussi à créer des produits dotés d’une IA à la fois sûrs et sécurisés.

Voici quelques exemples d’IA responsable :

• Le Fair Isaac Score, développé par l’éditeur de logiciels d’analyse FICO, est un système de notation du crédit qui repose sur des algorithmes d’IA pour évaluer la solvabilité des emprunteurs. FICO applique des pratiques d’IA responsable en contrôlant régulièrement ses modèles de notation pour détecter d’éventuels biais ou disparités, en se fondant sur les mathématiques plutôt que sur le jugement subjectif d’un être humain.
• Dans le domaine de la santé, la start-up PathAI développe des solutions de diagnostic utilisant l’IA pour aider les pathologistes en matière de diagnostic. Afin de garantir une utilisation sûre et responsable de l’IA au niveau de ses logiciels, l’entreprise valide la précision et la fiabilité de ses algorithmes au moyen d’essais cliniques rigoureux et d’études évaluées par des pairs.
• Grâce à une approche axée sur les personnes, Watsonx Orchestrate d’IBM révolutionne l’acquisition de talents. Cette solution d’IA conçue pour les RH et le recrutement favorise l’équité et l’inclusion au niveau du processus d’embauche au travers de la gestion de viviers de candidats diversifiés, en s’appuyant sur des critères d’évaluation équitables et en incitant les managers à intégrer des perspectives diverses dans le processus en place pour les entretiens.
• Ada Health propose aux utilisateurs des services de diagnostic et des conseils médicaux personnalisés. Le chatbot doté d’une IA gère de manière sécurisée le diagnostic et le dépistage d’affections courantes comme la rétinopathie diabétique ou le cancer du sein. Le respect des bonnes pratiques en matière d’IA est assuré à travers la communication d’informations transparentes sur le fait que les utilisateurs interagissent avec un chatbot doté d’une IA.
• Planet Labs, qui fait appel à une constellation de satellites, est un pionnier du recours à l’IA dans l’imagerie satellitaire, laquelle transforme radicalement les méthodes de surveillance de l’environnement, d’analyse des variations climatiques et d’évaluation des rendements agricoles. En collaborant avec des organisations environnementales et des décideurs politiques, l’entreprise assure l’intégration des meilleures pratiques en matière d’IA dans son modèle.

Une démarche fondée sur les normes

Dans notre cheminement vers une IA responsable, toutes les couches de la société doivent être interpellées et impliquées. En collaboration avec la Commission électrotechnique internationale (IEC), l’ISO poursuit ce cheminement en élaborant des Normes internationales qui contribuent à promouvoir et à soutenir l’application raisonnée des technologies de l’IA.

Pour parvenir à une IA éthique, les gouvernements, les organisations et les entreprises du monde entier doivent incarner ces valeurs, en veillant à ce que leurs efforts d’innovation sont tous adossés à un principe de responsabilité éthique. Les Normes internationales seront une aide précieuse pour instaurer une éthique de l’IA en filigrane de toutes les initiatives entreprises, en posant un cadre cohérent au développement de bonnes pratiques dans cette industrie transformative.

S’engager pour une IA responsable n’est pas l’affaire d’un jour, mais bien un effort sur la durée qui demande vigilance et adaptation. Les organisations doivent cependant avoir à l’esprit que cet engagement permet non seulement d’aboutir à une IA bénéfique à toutes et tous, mais également que cela leur ouvre tout le potentiel que renferme cette technologie révolutionnaire.

• ISO/IEC 42001 Intelligence artificielle — Système de management

Récolter les fruits

Il y a tout lieu d’être optimiste quant à l’idée d’un futur où l’IA responsable améliore nos vies. Elle est déjà à l’origine de formidables avancées dans les domaines de la santé, de l’éducation ou de l’analyse des données. Elle a la capacité d’amplifier la résilience et l’ingéniosité humaines à un moment où nous, et notre planète, en avons le plus besoin. Ancrée dans une conception éthique, elle peut aboutir à une symbiose entre innovation technologique et principes humanistes fondamentaux, pour bâtir à une communauté mondiale inclusive, florissante et durable.

L’IA responsable incarne une vision globale permettant de refléter le tissu éthique de la société en matière d’intelligence artificielle. En d’autres termes, elle est garante de systèmes d’IA respectueux des droits humains, de la vie privée et de la protection des données. Sous cet angle, chaque initiative d’IA entreprise devient une pierre apportée à l’édifice d’un futur où la technologie contribue non seulement à accroître nos capacités, mais aussi à respecter et à améliore la condition humaine.