Stratedge

    Gouvernance de l'IA pour les ONG et organisations humanitaires

    Les données que détiennent les ONG appartiennent à des personnes en situation de grande vulnérabilité. Elles ont été confiées en toute confiance. Déployer l'IA sans cadre de gouvernance ne crée pas seulement un risque de conformité — cela peut causer un préjudice direct aux personnes que l'organisation a pour mission de servir. La technologie doit être rendue compatible avec les valeurs humanitaires, et non l'inverse.

    La redevabilité s'exerce envers les personnes, pas les actionnaires

    Chaque décision liée à l'IA doit rendre des comptes aux populations concernées avant d'en rendre aux bailleurs ou aux organes de contrôle.

    Les données sont sensibles par définition

    Elles décrivent des personnes en crise : leur localisation, leur santé, leur statut juridique, leur composition familiale et leurs vulnérabilités.

    Les cadres existants s'appliquent déjà

    Les principes humanitaires, le droit international et les normes de responsabilité des données ne prévoient aucune exemption technologique.

    Les principes qui encadrent chaque décision liée à l'IA

    Les quatre principes fondamentaux de l'action humanitaire sont des contraintes opérationnelles, pas des déclarations d'intention. Tout système d'IA qui ne peut être rendu compatible avec les quatre ne doit pas être déployé.

    [ 01 ]

    Humanité

    L'IA ne doit jamais être utilisée d'une manière qui cause un préjudice supplémentaire ou compromet la protection des populations concernées. Des gains d'efficacité qui créent un préjudice ne sont pas des gains.

    [ 02 ]

    Impartialité

    Les systèmes d'IA optimisés sur des données incomplètes désavantagent systématiquement les plus marginalisés. L'impartialité exige un examen continu de ce qu'un système optimise et des intérêts qu'il reflète.

    [ 03 ]

    Neutralité

    La dépendance à une infrastructure cloud commerciale ou à des plateformes de données tierces peut compromettre la neutralité perçue ou réelle d'une organisation sur le terrain. La dépendance crée la vulnérabilité.

    [ 04 ]

    Indépendance

    Tout système d'IA qui transfère le contrôle opérationnel à un prestataire externe — pour le traitement des données, la gestion des connaissances ou l'analyse des programmes — constitue une menace structurelle pour l'indépendance de l'organisation. L'intelligence institutionnelle doit rester sous le contrôle de l'organisation.

    Défis prioritaires

    1. 01

      Des données détenues dans des systèmes hors du contrôle de l'organisation

      RisqueLa sécurité des bénéficiaires — exposition à un accès par des tiers, des acteurs commerciaux ou des États, sans recours pour l'organisation

    2. 02

      Des données de bénéficiaires fragmentées avec des contrôles d'accès insuffisants

      RisqueDes défaillances de protection pour les plus vulnérables ; violation potentielle des principes humanitaires et du droit international

    3. 03

      Des décisions de programme fondées sur des données obsolètes ou incomplètes

      RisqueL'efficacité de la mission — ressources mal allouées, populations oubliées, résultats indéfendables devant les bailleurs ou les communautés

    4. 04

      Des connaissances perdues lorsque le personnel part ou que les contextes évoluent

      RisqueLa continuité stratégique — un apprentissage institutionnel bâti en plusieurs années, perdu en un seul cycle de transition

    5. 05

      Une charge administrative qui empiète sur la capacité de mission

      RisqueLa pérennité de l'organisation — l'érosion lente du rapport entre ce que l'organisation consacre à son travail et ce qu'elle consacre à en rendre compte

    Le socle éthique : ne pas nuire, consentement et redevabilité

    Dans l'action humanitaire, les données sur la localisation, la santé, le statut juridique ou la situation familiale d'une personne ne sont pas neutres. Entre de mauvaises mains, ou via un système compromis, elles peuvent exposer des personnes à la persécution, à la violence ou au refoulement. Trois principes définissent le standard éthique minimal de tout déploiement d'IA.

    Ne pas nuire est une obligation en matière de données.

    Des contrôles d'accès non gouvernés, des données d'entraînement biaisées et une conservation illimitée ont chacun causé des préjudices documentés dans des contextes humanitaires. L'obligation d'éviter de nuire s'applique à la conception des systèmes, pas seulement à l'intention des programmes.

    Les populations concernées sont titulaires de droits, pas des sources de données.

    Les personnes en crise ont le droit de comprendre comment leurs données sont utilisées par les systèmes d'IA, et de refuser sans conséquence. Lorsque l'IA influence des décisions d'éligibilité aux programmes, d'allocation de services ou d'évaluation de protection, les personnes concernées ont droit à une explication compréhensible. Les systèmes opaques sont incompatibles avec la redevabilité humanitaire.

    La participation produit à la fois une meilleure éthique et de meilleurs résultats.

    Une IA conçue sans la contribution des communautés concernées reflète les hypothèses de ceux qui l'ont construite. La redevabilité envers les populations affectées (AAP), formalisée dans la Norme humanitaire fondamentale (CHS), s'applique pleinement lors de l'introduction d'une technologie — elle ne se met pas en pause le temps de la mise en œuvre.

    Les cadres applicables

    / Éthique — classés par pertinence opérationnelle directe

    • Orientations opérationnelles de l'IASC sur la responsabilité des données dans l'action humanitaire — La norme de terrain inter-agences pour la collecte, le stockage, le partage et la protection des données ; contraignante pour toutes les organisations opérant au sein du système humanitaire inter-agences.
    • Principes de l'ONU pour l'utilisation éthique de l'IA dans le système des Nations unies (2022) — Applicables aux agences de l'ONU, aux organisations intergouvernementales et à leurs partenaires de mise en œuvre ; fondés sur la Charte des Nations unies et le droit international des droits humains.
    • Recommandation de l'UNESCO sur l'éthique de l'intelligence artificielle (2021, adoptée par 194 États) — Établit la dignité humaine, la diversité culturelle et le droit à la vie privée comme exigences fondamentales de tout déploiement d'IA.
    • Principes de l'OCDE sur l'IA (2019, mis à jour en 2024) — Transparence, redevabilité, inclusion et supervision humaine ; de plus en plus cités dans les exigences de conformité des bailleurs.
    • Principes directeurs des Nations unies relatifs aux entreprises et aux droits de l'homme (UNGP) — Responsabilité de l'organisation quant aux impacts de l'IA sur les droits des populations concernées.

    / Souveraineté des données — classés par gravité du risque d'exposition

    CLOUD Act — le risque de protection opérationnelle le plus élevé

    Les données traitées sur une infrastructure cloud de fournisseurs dont le siège est aux États-Unis peuvent être exigées par les autorités fédérales américaines, quel que soit leur lieu de stockage physique. Pour les organisations détenant des données sur des personnes en zones de conflit ou sous des gouvernements autoritaires, c'est une menace directe pour la sécurité de ces personnes — pas une note de bas de page juridique. Des alternatives souveraines ou sur site doivent être évaluées partout où ce risque est aigu.

    RGPD chapitre V — obligatoire pour toutes les organisations traitant des données de résidents de l'UE

    Les transferts internationaux de données sont soumis à des exigences strictes qui s'appliquent aux opérations de terrain à l'étranger, pas seulement aux sièges européens. Tout système d'IA qui fait transiter des données de bénéficiaires par une juridiction sans décision d'adéquation est en infraction.

    Données de sécurité du personnel — un risque de protection régulièrement négligé

    Les données sur les déplacements, les communications et la localisation du personnel sur le terrain sont aussi sensibles que les données des bénéficiaires. Les systèmes d'IA qui agrègent des données opérationnelles sans contrôles adéquats exposent les personnes qui accomplissent la mission, pas seulement celles qui en bénéficient.

    Règlement européen sur les données — Data Act (applicable depuis 2025)

    Encadre l'accès aux données générées par les systèmes connectés de terrain — directement pertinent pour les plateformes d'enquête, de suivi et de retour des bénéficiaires que la plupart des ONG utilisent dans la mise en œuvre de leurs programmes.

    / Conformité réglementaire — classés par maturité de l'application

    Un principe traverse chaque instrument de ce tableau : la conservation doit être justifiée et limitée dans le temps. Tout déploiement d'IA fondé sur l'accumulation illimitée de données organisationnelles est structurellement contraire aux normes humanitaires en matière de données. Accumuler n'est pas gouverner.

    RGPD
    Base légale ; minimisation des données ; droits des personnes ; notification des violations sous 72 heures
    En vigueur
    Principes de l'ONU sur la protection des données personnelles et la vie privée
    Applicables aux entités de l'ONU et à tous les partenaires opérationnels
    En vigueur
    nLPD
    Loi fédérale suisse révisée sur la protection des données — s'applique à toutes les organisations ayant des activités en Suisse ou des données de résidents suisses
    En vigueur depuis septembre 2023
    AI Act européen
    Classification des risques ; documentation ; supervision humaine ; évaluation de la conformité pour les systèmes à haut risque
    Pleinement applicable en août 2026
    Règlement sur les services numériques (DSA)
    Transparence et redevabilité des systèmes numériques destinés au public
    En vigueur
    Règlement européen sur la gouvernance des données
    Règles encadrant la réutilisation et le partage ; pertinent pour les ONG participant à des dispositifs d'altruisme en matière de données
    En vigueur

    Notre approche

    Chaque phase est un prérequis de la suivante. La séquence n'est pas une préférence — c'est une architecture de protection.

    1. 01

      Socle de gouvernance des données

      Classification, contrôles d'accès, décisions de souveraineté et politique de conservation établis avant que tout système d'IA ne se connecte aux données de l'organisation

    2. 02

      Maîtrise de l'IA

      Chaque membre du personnel comprend ce que l'IA peut et ne peut pas faire — et ce qu'elle ne doit jamais faire avec les données détenues par l'organisation

    3. 03

      Productivité

      Les processus administratifs deviennent plus rapides, gouvernés et auditables — rendant de la capacité à la mission

    4. 04

      Intelligence des programmes

      Les données de terrain font émerger des enseignements utiles à la décision dans un environnement entièrement gouverné

    5. 05

      Capacité organisationnelle

      Une couche d'intelligence interne fondée sur les connaissances, les politiques et le mandat humanitaire propres à l'organisation

    Des garde-fous intégrés à chaque mission

    1. 01Classification des données et décisions de souveraineté — avant toute connexion de système
    2. 02Revue humaine et redevabilité à chaque point de décision affectant directement des personnes
    3. 03Contrôles d'accès, cybersécurité et protocoles de sécurité adaptés au terrain appliqués dès la conception
    4. 04Politique d'utilisation de l'IA alignée sur le mandat humanitaire et le droit applicable
    5. 05Uniquement des systèmes approuvés et auditables, dans un périmètre défini et documenté
    6. 06Suivi continu des résultats, correction des erreurs et revue éthique planifiée
    7. 07Formation du personnel à la maîtrise de l'IA, y compris l'application opérationnelle des principes de « ne pas nuire »

    Ce que cela donne en pratique

    [ 01 ]

    Analyse des programmes

    Les données des bénéficiaires issues du terrain révèlent tendances et anomalies, avec une traçabilité complète de la manière dont elles ont été collectées, traitées et protégées. La direction prend des décisions de programme ancrées dans les conditions réelles du terrain.

    [ 02 ]

    Reporting et redevabilité

    Les données de terrain et les notes de programme passent par un processus de rédaction gouverné. Le personnel vérifie, contextualise et soumet. La redevabilité envers les populations concernées est intégrée au résultat — pas seulement la redevabilité envers les bailleurs.

    [ 03 ]

    Mémoire institutionnelle

    Décisions, responsables et actions sont consignés dans un registre structuré, conservé selon les principes de minimisation et accessible uniquement aux personnes ayant un besoin documenté.

    Questions fréquentes

    Les personnes que vous servez vous ont confié leurs données.

    Nous aidons les ONG à bâtir des cadres de gouvernance de l'IA fondés sur les principes humanitaires, le droit international et la réalité opérationnelle du terrain — avant le déploiement des systèmes, et non après que des incidents imposent la question.