Intelligence artificielle accessible et explicable dans la prise de décision (2022-2025)
Consentement et inclusion, diversité, équité et accessibilité (2022-2023)
Obstacles À L’accès Des Chiens-guides Au Canada (2022-2023)
Modèle de chaîne d’approvisionnement et de passation de marchés accessible et inclusif (2021-2024)
Sondage sur les habitudes monétaires, Financé par la Banque du Canada (2018)
Intelligence artificielle accessible et explicable dans la prise de décision (2022-2025)
L'intelligence artificielle (IA) devient un outil majeur dans la prise de décision dans divers secteurs tels que la santé, la finance et les services publics. Les systèmes d'IA peuvent analyser rapidement et efficacement de grandes quantités de données, aidant ainsi les organisations à faire des choix plus éclairés. Cependant, si l'IA présente de nombreux avantages, elle pose également des défis, notamment en matière d'équité, de transparence et d'accessibilité. De nombreux systèmes d'IA sont complexes et difficiles à comprendre, ce qui rend leur utilisation plus difficile. Ce rapport met l'accent sur l'importance de rendre l'IA à la fois accessible et explicable, afin qu'elle profite à tous, y compris aux personnes handicapées.
L'une des principales conclusions de ce rapport est que les systèmes d'IA peuvent parfois prendre des décisions qui discriminent involontairement certains groupes. Les modèles d'IA apprennent à partir de grands ensembles de données, mais si ces ensembles de données contiennent des biais, le système d'IA peut les reproduire et même les renforcer. Cela est particulièrement préoccupant pour les personnes handicapées, qui peuvent être sous-représentées dans les données utilisées pour former les systèmes d'IA. Si les outils d'IA ne tiennent pas compte de leurs besoins, ces personnes peuvent se heurter à des obstacles dans l'accès aux services, à l'emploi et aux soins de santé. En outre, de nombreuses applications d'IA ne disposent pas de fonctions d'accessibilité, ce qui les rend difficiles à utiliser pour les personnes ayant des troubles visuels, auditifs ou d'apprentissage. Cela met en évidence la nécessité pour les développeurs d'IA de donner la priorité à l'accessibilité dès le début du processus de conception. L'IA ne doit pas seulement être conçue pour être utilisable par tous, mais elle doit aussi éliminer de manière proactive les obstacles qui peuvent exister pour les personnes ayant des capacités différentes. La mise en œuvre de principes de conception inclusifs dès le départ peut garantir que les systèmes d'IA sont bénéfiques pour tous les utilisateurs.
Un autre problème critique est le manque de transparence dans la prise de décision par l'IA. Les modèles d'IA sont souvent décrits comme des « boîtes noires » parce que leurs processus de prise de décision sont difficiles à interpréter. Ce manque d'explicabilité peut entraîner de la méfiance, en particulier lorsque l'IA est utilisée dans des domaines à forts enjeux tels que l'octroi de prêts, le recrutement et les diagnostics médicaux. Les personnes concernées par les décisions de l'IA ont le droit de comprendre comment ces décisions sont prises. Par conséquent, des modèles d'IA clairs et interprétables sont nécessaires pour garantir l'équité et la responsabilité. Les développeurs doivent s'efforcer de créer des systèmes d'IA qui fournissent des explications claires de leurs décisions d'une manière compréhensible pour le grand public. Cela est particulièrement important pour les personnes handicapées, car elles peuvent avoir besoin d'informations présentées dans des formats accessibles, tels que des textes adaptés aux lecteurs d'écran ou des explications simplifiées. En outre, les explications de l'IA doivent pouvoir être adaptées à différents publics, en fournissant des informations techniques plus détaillées aux experts tout en restant claires et simples pour les utilisateurs non spécialistes. La transparence suppose également de permettre aux individus de contester ou de faire appel des décisions de l'IA, garantissant ainsi la responsabilité des processus basés sur l'IA.
Pour relever ces défis, ce rapport formule plusieurs recommandations clés. Premièrement, les développeurs d'IA devraient améliorer la transparence en concevant des systèmes qui expliquent clairement comment les décisions sont prises. Cela inclut l'utilisation de techniques telles que l'IA explicable, qui permet aux utilisateurs de voir et de comprendre le raisonnement qui sous-tend les résultats obtenus par l'IA. Les méthodes d’IA explicable, telles que les représentations visuelles des chemins de décision ou les explications étape par étape, peuvent aider les utilisateurs à saisir plus facilement la logique de l'IA. Deuxièmement, l'équité doit être une priorité absolue. Les développeurs doivent effectuer des audits réguliers pour identifier et éliminer les biais dans les modèles d'IA, en s'assurant qu'ils ne discriminent pas les groupes marginalisés. Cela est particulièrement crucial pour les personnes handicapées, car les modèles d'IA biaisés peuvent conduire à des pratiques d'embauche injustes, au refus de services ou à des fausses déclarations dans les processus décisionnels. Il est également recommandé que les systèmes d'IA soient soumis à des évaluations par des tiers afin de garantir l'équité et la responsabilité, car des examens indépendants peuvent aider à identifier et à atténuer plus efficacement les biais involontaires.
Une autre recommandation importante consiste à rendre les systèmes d'IA plus accessibles. Les outils d'IA doivent respecter les directives d'accessibilité établies, telles que celles décrites dans les Règles pour l'accessibilité des contenus Web (WCAG), afin de garantir que les personnes handicapées puissent les utiliser facilement. Cela inclut l'intégration de fonctionnalités telles que les commandes vocales, la compatibilité avec les lecteurs d'écran et la possibilité de régler la taille du texte. En concevant l'IA dans une optique d'accessibilité, les développeurs peuvent créer des systèmes plus inclusifs qui servent une population plus large. En outre, il est essentiel d'intégrer des perspectives diverses dans le développement de l'IA. Les personnes handicapées, ainsi que les experts en accessibilité, devraient être impliqués dans la conception et les processus de mise à l’essai de l'IA afin de garantir que ces systèmes répondent aux besoins de tous les utilisateurs. Leur contribution peut aider à identifier les obstacles potentiels et suggérer des améliorations qui peuvent ne pas être immédiatement évidentes pour les développeurs sans expérience vécue. En plus des essais d'accessibilité, les systèmes d'IA devraient offrir des options de personnalisation, permettant aux utilisateurs d'ajuster les paramètres en fonction de leurs besoins uniques. La mise à disposition d'interfaces adaptatives peut encore améliorer la convivialité pour un large éventail d'utilisateurs.
En dernier lieu, les gouvernements et les organisations doivent établir des réglementations pour garantir que l'IA est équitable, explicable et accessible. Bien que certains pays aient commencé à mettre en œuvre des directives éthiques en matière d'IA, il faut encore de renforcer les politiques qui protègent les individus contre les systèmes d'IA biaisés et opaques. Les cadres réglementaires devraient exiger des entreprises qu'elles divulguent le fonctionnement de leurs modèles d'IA, qu'elles procèdent à des évaluations d'impact et qu'elles mettent en place des mesures de protection pour prévenir la discrimination. Les organisations devraient également former leurs employés à une utilisation responsable de l'IA et à une interprétation précise des informations fournies par l'IA. Les gouvernements peuvent jouer un rôle essentiel en établissant des normes industrielles, en finançant la recherche sur les pratiques éthiques en matière d'IA et en encourageant l'innovation dans le développement responsable de l'IA. En outre, des initiatives de sensibilisation à l'IA devraient être encouragées auprès du grand public afin de garantir que les individus comprennent leurs droits en matière de décisions fondées sur l'IA.
En conclusion, l'IA a un potentiel considérable pour améliorer la prise de décision, mais elle doit être conçue avec soin pour garantir qu'elle soit juste, transparente et accessible. L'IA doit être au service de tous, y compris des personnes handicapées, et non créer de nouveaux obstacles. En suivant les recommandations énoncées dans ce rapport (améliorer la transparence, garantir l'équité, renforcer l'accessibilité, intégrer des perspectives diverses et mettre en œuvre des réglementations), l'IA peut devenir un outil plus inclusif et plus fiable. Les organisations, les décideurs politiques et les développeurs d'IA doivent travailler ensemble pour créer des systèmes d'IA éthiques et bénéfiques pour tous les membres de la société. En garantissant une approche collaborative où les parties prenantes de différents secteurs, y compris les groupes de défense des droits, les entreprises technologiques et les décideurs politiques, s'engagent dans des discussions, nous contribuerons à façonner un avenir fondé sur l'IA qui soit juste, compréhensible et accessible à tous.
Consentement et inclusion, diversité, équité et accessibilité (2022-2023)
Résumé du projet - Projet sur le consentement
Consentir ou ne pas consentir est une question qui laisse les personnes handicapées perplexes depuis un certain temps. Les médias diffusent de nombreuses informations sur la protection de la vie privée et des données. Le projet vise à explorer les expériences des personnes handicapées en matière de consentement et de protection de la vie privée. L'objectif est de dresser une liste de bonnes pratiques et de recommandations pour améliorer la protection de la vie privée et l'obtention du consentement des personnes handicapées, que ce soit à l'épicerie ou à la banque. Une analyse environnementale de la littérature dans ce domaine a été réalisée. Des séances de coconception et des entretiens utilisant la méthode Delphi ont été organisés.
Des recommandations ont été formulées pour aider les professionnels de la protection de la vie privée à façonner leur approche afin que la protection de la vie privée des personnes handicapées soit au cœur de la planification stratégique et de l'élaboration des politiques. Les méthodes de recherche qualitative ont permis de mettre en évidence les thèmes suivants : la sécurité, l'authentification et la vérification, l'accessibilité, le langage clair et l'autodétermination. Ces thèmes ont donné l'impulsion nécessaire à l'élaboration des recommandations formulées dans le rapport. Nous espérons que ces recommandations conduiront à un changement systématique dans la manière dont la vie privée est considérée et protégée pour les personnes ayant une limitation visuelle et les personnes handicapées dans leur ensemble.
Introduction
Ce projet a débuté à la mi-septembre 2022 et devrait s'achever à la fin du mois de mars 2023. Le projet explore l'intersection de la vie privée et du consentement avec les principes de l'IDEA. L'accent pratique est mis sur l'amélioration des méthodes par lesquelles le consentement est obtenu et la vie privée est protégée pour les personnes handicapées, en particulier celles qui ont une perte de vision.
Objectifs du projet
- Réaliser une étude documentaire sur les conceptualisations du consentement et de la protection de la vie privée sous l'angle de l'intersection des identités.
- Organiser une série de réunions de parties prenantes et de groupes de discussion avec des experts en matière de protection de la vie privée et de consentement qui s'intéressent particulièrement à l'intersectionnalité (méthode Delphi).
- Consulter des parties prenantes d'autres groupes communautaires ou organisations qui représentent ou servent des personnes ayant des identités, des géographies ou des capacités différentes (approche de coconception).
- Organiser des groupes de discussion avec les clients d'INCA, les personnes aveugles ou ayant une limitation visuelle au Canada (également une approche de coconception).
- Synthétiser les résultats de la recherche issus de la méthode Delphi, des sessions de coconception et de l'analyse documentaire.
- Formuler une série de recommandations à mettre en œuvre et à diffuser auprès des professionnels de la protection de la vie privée et de la communauté élargie des parties prenantes.
- Élaborer un cadre de recommandations pour l'intégration des principes de l'IDEA dans le cadre de gestion des risques d'INCA. L'élaboration de ce cadre devrait déboucher sur la mise au point de pratiques exemplaires pouvant être intégrées dans ce cadre.
Obstacles À L’accès Des Chiens-guides Au Canada (2022-2023)
Obstacles À L’accès Des Chiens-guides Au Canada (2022-2023)
L’équipe De Recherche D’INCA
Entre mars 2022 et mars 2023, l’Équipe de recherche d’INCA a réalisé une étude sur les obstacles à l’accès des chiens-guides au Canada. Cette étude a pris la forme d’une analyse des compétences, de séances de co-conception, de groupes de discussion, de la constitution d’un comité consultatif de quinze utilisateurs de chiens-guides, ainsi que de sondages auprès de ces derniers et du public canadien. Dans le cadre du Sondage auprès des utilisateurs de chiens-guides, les répondants ont été invités à faire part de leurs expériences en matière d’accès à douze espaces publics différents. Parmi eux, 52,9 % ont déclaré avoir éprouvé des difficultés d’accès avec leur chien-guide. Pour 86,6 % des répondants, ces obstacles sont apparus au cours des cinq dernières années, tandis que pour 13,4 % d’entre eux, ils sont apparus il y a plus de cinq ans. Sur les douze lieux publics où il existe des obstacles à l’accès, les trois endroits les plus importants sont les fournisseurs de transport (13,4 %), les restaurants (9,4 %) et les services de soins de santé (9,1 %).
Ce travail a débouché sur la formulation de vingt-trois recommandations destinées à la fois aux secteurs public et privé. Dans ces recommandations, on a demandé aux organismes fédéraux de normalisation de s’assurer de ne pas intervenir lorsque des exercices d’établissement de normes concernant les chiens-guides sont entrepris. On a demandé aux organismes fédéraux tels que Normes d’accessibilité Canada de jouer un rôle de premier plan dans la résolution des problèmes liés aux chiens-guides. On a réclamé que l’on se fie moins à la certification et à l’identification pour prouver la légitimité d’un chien-guide en service. On a également suggéré que les inégalités soient éliminées pour les personnes qui dressent elles-mêmes leurs chiens-guides. On a exhorté la Commission canadienne des droits de la personne à amener les organismes de défense des droits de la personne partout au pays à examiner les moyens d’améliorer l’inefficacité du processus actuel de défense des droits de la personne. On a pressé l’Office des transports du Canada ainsi que les entreprises de taxis et de covoiturage de prendre des mesures pour améliorer l’accès des chiens-guides aux lieux publics. On a réclamé des sanctions plus lourdes et une formation plus poussée pour les forces de police locales, tout en proposant qu’une campagne nationale de sensibilisation du public aux questions relatives aux chiens-guides soit lancée, y compris un programme de base à tous les niveaux du système d’éducation, de l’école primaire à l’enseignement supérieur. Enfin, on a demandé au Canada d’adopter le même type de lois sur la conduite lorsqu’on rencontre une personne munie d’une canne blanche que celles qui existent aux États-Unis afin de protéger les piétons qui se déplacent avec une canne blanche ou un chien-guide.
Modèle de chaîne d’approvisionnement et de passation de marchés accessible et inclusif (2021-2024)
Aperçu du projet
À mesure que la diversité, l’équité et l’inclusion deviennent une priorité de premier ordre, un élément fondamental de l’accessibilité est souvent négligé, bien qu’il soit essentiel à l’inclusion sociale des personnes en situation de handicap. Les produits et services que nous achetons en tant qu’organisation ont une incidence directe sur la participation globale des parties prenantes. La prise en compte de l’accessibilité de nouveaux produits et services et de la diversité de la chaîne d’approvisionnement lors de la passation des marchés – que ce soit par le secteur public, le secteur privé, des organismes sans but lucratif et de petites et moyennes entreprises – peut non seulement stimuler et améliorer la participation de personnes en situation de handicap à l’emploi et à la communauté, mais aussi contribuer à leur inclusion sur le plan économique.
Objectifs du projet
Comprendre la diversité des modèles de chaîne d’approvisionnement et de passation de marchés accessibles et inclusifs qu’utilisent actuellement des organisations au Canada
- Comprendre la diversité des modèles de chaîne d’approvisionnement et de passation de marchés accessibles et inclusifs qu’utilisent actuellement des organisations au Canada
- Répertorier les meilleures pratiques, politiques et procédures dans les secteurs public et privé au Canada
- Établir des preuves et formuler des recommandations en matière d’élaboration de normes en matière d’approvisionnement accessible
Principales réalisations
- Réalisation de l’analyse documentaire et de l’analyse environnementale de normes, de politiques et de lois aux échelle internationale et nationale
- INCA et certains de ses collaborateurs ont mené des entretiens d’informateurs clés auprès de fournisseurs/entrepreneurs en situation de handicap de professionnels de l’approvisionnement
- Réalisation d’exercices de cartographie de la chaîne de valeur avec des parties prenantes fédérales
- Tenue d’une séance d’élaboration participative avec des fournisseurs/entrepreneurs en situation de handicap
- Élaboration d’une enquête sectorielle destinée à différentes parties prenantes participant au processus d’approvisionnement
Résultats
Les résultats de l’étude ont permis à l’équipe de recherche d’INCA de formuler des recommandations visant à normaliser les pratiques d’approvisionnement accessibles à l’échelle du Canada. Ces recommandations soutiendront l’élaboration de solides normes d’accessibilité assurant des processus d’approvisionnement inclusifs, pour ainsi favoriser un environnement dans lequel les personnes en situation de handicap peuvent s’épanouir sur le plan professionnel.
Sondage sur les habitudes monétaires, Financé par la Banque du Canada (2018)
Cette étude a examiné l’utilisation des lecteurs de billets de banque, les habitudes de consommation, les connaissances financières et les attitudes à l’égard de l’argent des Canadiens aveugles ou ayant une vision partielle.
Principales conclusions
Méthodes de dénomination
- 83 % de l’échantillon de personnes sondées utilisent la fonction gros chiffres, la dénomination (couleur) et la vérification par un tiers comme principale façon de déterminer la valeur nominale des billets de banque.
- Seulement 14 % des utilisateurs de téléphones intelligents ont installé une application (surtout Seeing AI et TapTapSee) pour déterminer la valeur de la monnaie.
Lecteur de billets de banque
- Un participant sur cinq possède un lecteur de billets de banque.
- 44 % des propriétaires de lecteurs de billets de banque ont 65 ans et plus.
- Parmi ces propriétaires, 9 sur 10 utilisent leur lecteur modérément et principalement à la maison.
- Les propriétaires de lecteurs de billets de banque utilisent la fonction tactile, le lecteur de billets de banque et la vérification par un tiers comme principales façons de déterminer la valeur nominale.
Téléphones intelligents
- Près de 75 % des participants possèdent un téléphone intelligent.
- Ceux qui ont moins de 55 ans sont beaucoup plus susceptibles d’avoir un téléphone intelligent ou une tablette que ceux qui ont 55 et plus.
Activités et connaissances financières
- Les deux tiers des ménages ont un budget, et 9 participants sur 10 affirment avoir un revenu fiable et régulier.
- Le revenue médian des ménages est de 50 000 $. Le revenu médian des ménages canadiens est de 70 366 $.
- Environ un participant sur quatre a vécu des baisses de revenus au cours des 12 derniers mois. Bien que 10 participants sur 10 affirment qu’ils peuvent couvrir leurs frais de subsistance pendant 12 mois, trois sur 10 affirment qu’ils peuvent seulement couvrir trois mois ou moins.
- La plupart ont une attitude prudente et prévoyante en matière de finances.
- La moitié ont obtenu la note « bonnes compétences financières » et l’autre moitié ont obtenu la note
« compétences financières moyennes » au test sur les compétences financières.
Habitudes de consommation et mode de paiement
- Au cours des 12 derniers mois, 40 % des achats des participants ont été payés comptant, et ce pourcentage est de 33 % au sein de la population canadienne.
- La plupart des participants ont payé principalement comptant ou par carte de débit ou de crédit.
- La plupart des participants retirent de l’argent une fois par mois ou plus souvent.
- La plupart des participants font leurs achats dans des magasins traditionnels. Les achats en ligne ne représentent que 16 % des achats effectués au cours des 12 derniers mois.
- Les utilisateurs de téléphones intelligents magasinent également en ligne (ils effectuent 20 % de leurs achats en ligne), un volume supérieur à celui des participants qui n’ont pas de téléphone intelligent (qui effectuent 7 % de leurs achats en ligne).