Humanité
L'IA ne doit jamais être utilisée d'une manière qui cause un préjudice supplémentaire ou compromet la protection des populations concernées. Des gains d'efficacité qui créent un préjudice ne sont pas des gains.
Les données que détiennent les ONG appartiennent à des personnes en situation de grande vulnérabilité. Elles ont été confiées en toute confiance. Déployer l'IA sans cadre de gouvernance ne crée pas seulement un risque de conformité — cela peut causer un préjudice direct aux personnes que l'organisation a pour mission de servir. La technologie doit être rendue compatible avec les valeurs humanitaires, et non l'inverse.
La redevabilité s'exerce envers les personnes, pas les actionnaires
Chaque décision liée à l'IA doit rendre des comptes aux populations concernées avant d'en rendre aux bailleurs ou aux organes de contrôle.
Les données sont sensibles par définition
Elles décrivent des personnes en crise : leur localisation, leur santé, leur statut juridique, leur composition familiale et leurs vulnérabilités.
Les cadres existants s'appliquent déjà
Les principes humanitaires, le droit international et les normes de responsabilité des données ne prévoient aucune exemption technologique.
Les quatre principes fondamentaux de l'action humanitaire sont des contraintes opérationnelles, pas des déclarations d'intention. Tout système d'IA qui ne peut être rendu compatible avec les quatre ne doit pas être déployé.
L'IA ne doit jamais être utilisée d'une manière qui cause un préjudice supplémentaire ou compromet la protection des populations concernées. Des gains d'efficacité qui créent un préjudice ne sont pas des gains.
Les systèmes d'IA optimisés sur des données incomplètes désavantagent systématiquement les plus marginalisés. L'impartialité exige un examen continu de ce qu'un système optimise et des intérêts qu'il reflète.
La dépendance à une infrastructure cloud commerciale ou à des plateformes de données tierces peut compromettre la neutralité perçue ou réelle d'une organisation sur le terrain. La dépendance crée la vulnérabilité.
Tout système d'IA qui transfère le contrôle opérationnel à un prestataire externe — pour le traitement des données, la gestion des connaissances ou l'analyse des programmes — constitue une menace structurelle pour l'indépendance de l'organisation. L'intelligence institutionnelle doit rester sous le contrôle de l'organisation.
RisqueLa sécurité des bénéficiaires — exposition à un accès par des tiers, des acteurs commerciaux ou des États, sans recours pour l'organisation
RisqueDes défaillances de protection pour les plus vulnérables ; violation potentielle des principes humanitaires et du droit international
RisqueL'efficacité de la mission — ressources mal allouées, populations oubliées, résultats indéfendables devant les bailleurs ou les communautés
RisqueLa continuité stratégique — un apprentissage institutionnel bâti en plusieurs années, perdu en un seul cycle de transition
RisqueLa pérennité de l'organisation — l'érosion lente du rapport entre ce que l'organisation consacre à son travail et ce qu'elle consacre à en rendre compte
Dans l'action humanitaire, les données sur la localisation, la santé, le statut juridique ou la situation familiale d'une personne ne sont pas neutres. Entre de mauvaises mains, ou via un système compromis, elles peuvent exposer des personnes à la persécution, à la violence ou au refoulement. Trois principes définissent le standard éthique minimal de tout déploiement d'IA.
Des contrôles d'accès non gouvernés, des données d'entraînement biaisées et une conservation illimitée ont chacun causé des préjudices documentés dans des contextes humanitaires. L'obligation d'éviter de nuire s'applique à la conception des systèmes, pas seulement à l'intention des programmes.
Les personnes en crise ont le droit de comprendre comment leurs données sont utilisées par les systèmes d'IA, et de refuser sans conséquence. Lorsque l'IA influence des décisions d'éligibilité aux programmes, d'allocation de services ou d'évaluation de protection, les personnes concernées ont droit à une explication compréhensible. Les systèmes opaques sont incompatibles avec la redevabilité humanitaire.
Une IA conçue sans la contribution des communautés concernées reflète les hypothèses de ceux qui l'ont construite. La redevabilité envers les populations affectées (AAP), formalisée dans la Norme humanitaire fondamentale (CHS), s'applique pleinement lors de l'introduction d'une technologie — elle ne se met pas en pause le temps de la mise en œuvre.
Les données traitées sur une infrastructure cloud de fournisseurs dont le siège est aux États-Unis peuvent être exigées par les autorités fédérales américaines, quel que soit leur lieu de stockage physique. Pour les organisations détenant des données sur des personnes en zones de conflit ou sous des gouvernements autoritaires, c'est une menace directe pour la sécurité de ces personnes — pas une note de bas de page juridique. Des alternatives souveraines ou sur site doivent être évaluées partout où ce risque est aigu.
Les transferts internationaux de données sont soumis à des exigences strictes qui s'appliquent aux opérations de terrain à l'étranger, pas seulement aux sièges européens. Tout système d'IA qui fait transiter des données de bénéficiaires par une juridiction sans décision d'adéquation est en infraction.
Les données sur les déplacements, les communications et la localisation du personnel sur le terrain sont aussi sensibles que les données des bénéficiaires. Les systèmes d'IA qui agrègent des données opérationnelles sans contrôles adéquats exposent les personnes qui accomplissent la mission, pas seulement celles qui en bénéficient.
Encadre l'accès aux données générées par les systèmes connectés de terrain — directement pertinent pour les plateformes d'enquête, de suivi et de retour des bénéficiaires que la plupart des ONG utilisent dans la mise en œuvre de leurs programmes.
Un principe traverse chaque instrument de ce tableau : la conservation doit être justifiée et limitée dans le temps. Tout déploiement d'IA fondé sur l'accumulation illimitée de données organisationnelles est structurellement contraire aux normes humanitaires en matière de données. Accumuler n'est pas gouverner.
Chaque phase est un prérequis de la suivante. La séquence n'est pas une préférence — c'est une architecture de protection.
Classification, contrôles d'accès, décisions de souveraineté et politique de conservation établis avant que tout système d'IA ne se connecte aux données de l'organisation
Chaque membre du personnel comprend ce que l'IA peut et ne peut pas faire — et ce qu'elle ne doit jamais faire avec les données détenues par l'organisation
Les processus administratifs deviennent plus rapides, gouvernés et auditables — rendant de la capacité à la mission
Les données de terrain font émerger des enseignements utiles à la décision dans un environnement entièrement gouverné
Une couche d'intelligence interne fondée sur les connaissances, les politiques et le mandat humanitaire propres à l'organisation
Les données des bénéficiaires issues du terrain révèlent tendances et anomalies, avec une traçabilité complète de la manière dont elles ont été collectées, traitées et protégées. La direction prend des décisions de programme ancrées dans les conditions réelles du terrain.
Les données de terrain et les notes de programme passent par un processus de rédaction gouverné. Le personnel vérifie, contextualise et soumet. La redevabilité envers les populations concernées est intégrée au résultat — pas seulement la redevabilité envers les bailleurs.
Décisions, responsables et actions sont consignés dans un registre structuré, conservé selon les principes de minimisation et accessible uniquement aux personnes ayant un besoin documenté.
Les personnes que vous servez vous ont confié leurs données.
Nous aidons les ONG à bâtir des cadres de gouvernance de l'IA fondés sur les principes humanitaires, le droit international et la réalité opérationnelle du terrain — avant le déploiement des systèmes, et non après que des incidents imposent la question.