Stratedge

    KI-Governance für NGOs und humanitäre Organisationen

    Die Daten, die NGOs halten, gehören Menschen in äusserst verletzlichen Situationen. Sie wurden im Vertrauen übergeben. KI ohne Governance-Rahmen einzusetzen, schafft nicht nur ein Compliance-Risiko — es kann den Menschen, denen die Organisation dienen soll, direkt schaden. Technologie muss mit humanitären Werten vereinbar gemacht werden, nicht umgekehrt.

    Rechenschaft gilt den Menschen, nicht den Aktionären

    Jede KI-Entscheidung muss den betroffenen Bevölkerungsgruppen gegenüber verantwortbar sein, bevor sie es gegenüber Geldgebern oder Aufsichtsgremien ist.

    Die Daten sind per Definition sensibel

    Sie beschreiben Menschen in Krisen: ihren Aufenthaltsort, ihre Gesundheit, ihren Rechtsstatus, ihre Familienzusammensetzung und ihre Verletzlichkeiten.

    Bestehende Rahmenwerke gelten bereits

    Humanitäre Prinzipien, Völkerrecht und Standards zur Datenverantwortung kennen keine Ausnahme für Technologie.

    Die Prinzipien, die jede KI-Entscheidung leiten

    Die vier Grundprinzipien humanitären Handelns sind operative Vorgaben, keine Absichtserklärungen. Ein KI-System, das nicht mit allen vier vereinbar gemacht werden kann, sollte nicht eingesetzt werden.

    [ 01 ]

    Menschlichkeit

    KI darf niemals so eingesetzt werden, dass sie zusätzlichen Schaden verursacht oder den Schutz betroffener Bevölkerungsgruppen gefährdet. Effizienzgewinne, die Schaden anrichten, sind keine Gewinne.

    [ 02 ]

    Unparteilichkeit

    KI-Systeme, die auf unvollständigen Daten optimiert werden, benachteiligen systematisch die am stärksten Marginalisierten. Unparteilichkeit verlangt eine laufende Prüfung, worauf ein System optimiert und wessen Interessen es widerspiegelt.

    [ 03 ]

    Neutralität

    Die Abhängigkeit von kommerzieller Cloud-Infrastruktur oder Datenplattformen Dritter kann die wahrgenommene oder tatsächliche Neutralität einer Organisation im Feld gefährden. Abhängigkeit schafft Verwundbarkeit.

    [ 04 ]

    Unabhängigkeit

    Jedes KI-System, das die operative Kontrolle an einen externen Anbieter überträgt — für Datenverarbeitung, Wissensmanagement oder Programmanalyse —, ist eine strukturelle Bedrohung der organisatorischen Unabhängigkeit. Institutionelles Wissen muss unter der Kontrolle der Organisation bleiben.

    Vorrangige Herausforderungen

    1. 01

      Daten in Systemen ausserhalb der Kontrolle der Organisation

      RisikoDie Sicherheit der Begünstigten — Zugriff durch Dritte, kommerzielle oder staatliche Akteure ohne Handhabe für die Organisation

    2. 02

      Fragmentierte Daten Begünstigter mit unzureichenden Zugriffskontrollen

      RisikoSchutzversagen gegenüber den Verletzlichsten; mögliche Verletzung humanitärer Prinzipien und des Völkerrechts

    3. 03

      Programmentscheidungen auf Basis veralteter oder unvollständiger Daten

      RisikoDie Wirksamkeit der Mission — fehlgeleitete Ressourcen, übersehene Bevölkerungsgruppen, Ergebnisse, die gegenüber Geldgebern oder Gemeinschaften nicht vertretbar sind

    4. 04

      Wissensverlust, wenn Mitarbeitende gehen oder sich Kontexte ändern

      RisikoStrategische Kontinuität — institutionelles Lernen, das über Jahre aufgebaut wurde, geht in einem einzigen Übergangszyklus verloren

    5. 05

      Verwaltungsaufwand, der Kapazität für die Mission verdrängt

      RisikoOrganisatorische Nachhaltigkeit — die langsame Erosion des Verhältnisses zwischen dem, was die Organisation für ihre Arbeit aufwendet, und dem, was sie für deren Berichterstattung aufwendet

    Die ethische Untergrenze: keinen Schaden anrichten, Einwilligung und Rechenschaft

    Im humanitären Handeln sind Daten über Aufenthaltsort, Gesundheit, Rechtsstatus oder Familiensituation eines Menschen nicht neutral. In falschen Händen oder über ein kompromittiertes System können sie Menschen Verfolgung, Gewalt oder Zurückweisung (Refoulement) aussetzen. Drei Prinzipien definieren den ethischen Mindeststandard für jeden KI-Einsatz.

    Keinen Schaden anzurichten ist eine Datenpflicht.

    Ungesteuerte Zugriffskontrollen, verzerrte Trainingsdaten und unbefristete Aufbewahrung haben jeweils dokumentierten Schaden in humanitären Kontexten verursacht. Die Pflicht, Schaden zu vermeiden, gilt für das Systemdesign, nicht nur für die Programmabsicht.

    Betroffene Bevölkerungsgruppen sind Rechteinhaber, keine Datenquellen.

    Menschen in Krisen haben das Recht zu verstehen, wie KI-Systeme ihre Daten nutzen, und ohne Folgen abzulehnen. Wenn KI Entscheidungen über Programmberechtigung, Leistungszuteilung oder Schutzbewertungen beeinflusst, haben Betroffene Anspruch auf eine nachvollziehbare Erklärung. Intransparente Systeme sind mit humanitärer Rechenschaft unvereinbar.

    Beteiligung führt zu besserer Ethik und zu besseren Ergebnissen.

    KI, die ohne Mitwirkung betroffener Gemeinschaften entwickelt wird, spiegelt die Annahmen derer wider, die sie gebaut haben. Die Rechenschaft gegenüber betroffenen Bevölkerungsgruppen (AAP), formalisiert im Core Humanitarian Standard, gilt bei der Einführung von Technologie uneingeschränkt — sie pausiert nicht für Umsetzungszeitpläne.

    Die geltenden Rahmenwerke

    / Ethik — geordnet nach direkter operativer Relevanz

    • IASC Operational Guidance on Data Responsibility in Humanitarian Action — Der agenturübergreifende Feldstandard für Erhebung, Speicherung, Weitergabe und Schutz von Daten; verbindlich für alle Organisationen im interinstitutionellen humanitären System.
    • UN-Prinzipien für den ethischen Einsatz von KI im UN-System (2022) — Anwendbar auf UN-Organisationen, zwischenstaatliche Organisationen und ihre Durchführungspartner; gestützt auf die UN-Charta und die internationalen Menschenrechte.
    • UNESCO-Empfehlung zur Ethik der künstlichen Intelligenz (2021, von 194 Staaten angenommen) — Legt Menschenwürde, kulturelle Vielfalt und das Recht auf Privatsphäre als Grundvoraussetzungen für jeden KI-Einsatz fest.
    • OECD-KI-Prinzipien (2019, aktualisiert 2024) — Transparenz, Rechenschaft, Inklusion und menschliche Aufsicht; zunehmend in Compliance-Anforderungen von Geldgebern referenziert.
    • UN-Leitprinzipien für Wirtschaft und Menschenrechte (UNGPs) — Organisatorische Verantwortung für die Auswirkungen von KI auf die Rechte betroffener Bevölkerungsgruppen.

    / Datensouveränität — geordnet nach Schwere des Offenlegungsrisikos

    CLOUD Act — das höchste operative Schutzrisiko

    Daten, die auf Cloud-Infrastruktur von Anbietern mit Hauptsitz in den USA verarbeitet werden, können von US-Bundesbehörden herausverlangt werden, unabhängig davon, wo sie physisch gespeichert sind. Für Organisationen mit Daten über Menschen in Konfliktgebieten oder unter autoritären Regierungen ist das eine direkte Bedrohung für deren Sicherheit — keine juristische Fussnote. Souveräne oder On-Premises-Alternativen müssen überall geprüft werden, wo dieses Risiko akut ist.

    DSGVO Kapitel V — verpflichtend für alle Organisationen, die Daten von EU-Ansässigen verarbeiten

    Internationale Datenübermittlungen unterliegen strengen Anforderungen, die für Feldeinsätze im Ausland gelten, nicht nur für europäische Hauptsitze. Jedes KI-System, das Daten Begünstigter über eine Rechtsordnung ohne Angemessenheitsbeschluss leitet, verstösst dagegen.

    Sicherheitsdaten von Mitarbeitenden — ein regelmässig übersehenes Schutzrisiko

    Daten über Bewegungen, Kommunikation und Aufenthaltsorte von Mitarbeitenden im Feld sind ebenso sensibel wie Daten Begünstigter. KI-Systeme, die operative Daten ohne angemessene Kontrollen zusammenführen, gefährden die Menschen, die die Mission erfüllen, nicht nur jene, die sie empfangen.

    EU Data Act (anwendbar seit 2025)

    Regelt den Zugang zu Daten aus vernetzten Feldsystemen — direkt relevant für die Umfrage-, Monitoring- und Feedback-Plattformen, die die meisten NGOs in der Programmumsetzung nutzen.

    / Regulatorische Compliance — geordnet nach Durchsetzungsreife

    Ein Prinzip zieht sich durch jedes Instrument in dieser Tabelle: Aufbewahrung muss zweckgebunden und zeitlich begrenzt sein. Jeder KI-Einsatz, der auf der unbegrenzten Ansammlung von Organisationsdaten beruht, steht strukturell im Widerspruch zu humanitären Datenstandards. Ansammeln ist keine Governance.

    DSGVO
    Rechtsgrundlage; Datenminimierung; Betroffenenrechte; Meldung von Verletzungen innert 72 Stunden
    In Kraft
    UN-Grundsätze zum Schutz personenbezogener Daten und der Privatsphäre
    Anwendbar auf UN-Einrichtungen und alle operativen Partner
    In Kraft
    revDSG (nLPD)
    Revidiertes Schweizer Datenschutzgesetz — gilt für alle Organisationen mit Tätigkeit in der Schweiz oder Daten von in der Schweiz ansässigen Personen
    In Kraft seit September 2023
    EU AI Act
    Risikoklassifizierung; Dokumentation; menschliche Aufsicht; Konformitätsbewertung für Hochrisikosysteme
    Vollständig anwendbar ab August 2026
    Digital Services Act
    Transparenz und Rechenschaft für öffentlich zugängliche digitale Systeme
    In Kraft
    EU Data Governance Act
    Regeln für Weiterverwendung und Weitergabe; relevant für NGOs in Datenaltruismus-Modellen
    In Kraft

    Wie wir arbeiten

    Jede Phase ist Voraussetzung für die nächste. Die Reihenfolge ist keine Vorliebe — sie ist eine Schutzarchitektur.

    1. 01

      Fundament der Data Governance

      Klassifizierung, Zugriffskontrollen, Souveränitätsentscheidungen und Aufbewahrungsrichtlinie festgelegt, bevor ein KI-System mit Organisationsdaten verbunden wird

    2. 02

      KI-Kompetenz

      Alle Mitarbeitenden verstehen, was KI kann und nicht kann — und was sie mit den Daten der Organisation niemals tun darf

    3. 03

      Produktivität

      Verwaltungsprozesse werden schneller, gesteuert und prüfbar — und geben Kapazität an die Mission zurück

    4. 04

      Programm-Intelligenz

      Felddaten liefern entscheidungsrelevante Erkenntnisse in einer vollständig gesteuerten Umgebung

    5. 05

      Organisatorische Fähigkeit

      Eine interne Wissensebene, die auf dem eigenen Wissen, den Richtlinien und dem humanitären Mandat der Organisation beruht

    Leitplanken in jedem Mandat

    1. 01Datenklassifizierung und Souveränitätsentscheidungen — vor jeder Systemanbindung
    2. 02Menschliche Prüfung und Verantwortung an jedem Entscheidungspunkt, der Menschen direkt betrifft
    3. 03Zugriffskontrollen, Cybersicherheit und Sicherheitsprotokolle für den Feldkontext von Anfang an eingebaut
    4. 04KI-Nutzungsrichtlinie im Einklang mit dem humanitären Mandat und geltendem Recht
    5. 05Nur freigegebene, prüfbare Systeme in einem definierten und dokumentierten Umfang
    6. 06Laufende Überwachung der Ergebnisse, Fehlerkorrektur und geplante ethische Überprüfung
    7. 07KI-Kompetenzschulung für Mitarbeitende, einschliesslich der operativen Anwendung des Do-no-harm-Prinzips

    Wie das in der Praxis aussieht

    [ 01 ]

    Programmanalyse

    Daten Begünstigter aus dem Feld zeigen Trends und Auffälligkeiten — mit voller Nachvollziehbarkeit, wie sie erhoben, verarbeitet und geschützt wurden. Die Leitung trifft Programmentscheidungen auf Grundlage realer Feldbedingungen.

    [ 02 ]

    Berichterstattung und Rechenschaft

    Felddaten und Programmnotizen durchlaufen einen gesteuerten Entwurfsprozess. Mitarbeitende prüfen, ordnen ein und reichen ein. Rechenschaft gegenüber betroffenen Bevölkerungsgruppen ist im Ergebnis verankert — nicht nur gegenüber Geldgebern.

    [ 03 ]

    Institutionelles Gedächtnis

    Entscheidungen, Verantwortliche und Massnahmen werden in einem strukturierten Register erfasst, nach dem Minimierungsprinzip aufbewahrt und nur Personen mit dokumentiertem Bedarf zugänglich gemacht.

    Häufig gestellte Fragen

    Die Menschen, denen Sie dienen, haben Ihnen ihre Daten im Vertrauen übergeben.

    Wir helfen NGOs, KI-Governance-Rahmen aufzubauen, die auf humanitären Prinzipien, Völkerrecht und der operativen Realität im Feld beruhen — bevor Systeme eingesetzt werden, nicht erst, wenn Vorfälle die Frage erzwingen.