Menschlichkeit
KI darf niemals so eingesetzt werden, dass sie zusätzlichen Schaden verursacht oder den Schutz betroffener Bevölkerungsgruppen gefährdet. Effizienzgewinne, die Schaden anrichten, sind keine Gewinne.
Die Daten, die NGOs halten, gehören Menschen in äusserst verletzlichen Situationen. Sie wurden im Vertrauen übergeben. KI ohne Governance-Rahmen einzusetzen, schafft nicht nur ein Compliance-Risiko — es kann den Menschen, denen die Organisation dienen soll, direkt schaden. Technologie muss mit humanitären Werten vereinbar gemacht werden, nicht umgekehrt.
Rechenschaft gilt den Menschen, nicht den Aktionären
Jede KI-Entscheidung muss den betroffenen Bevölkerungsgruppen gegenüber verantwortbar sein, bevor sie es gegenüber Geldgebern oder Aufsichtsgremien ist.
Die Daten sind per Definition sensibel
Sie beschreiben Menschen in Krisen: ihren Aufenthaltsort, ihre Gesundheit, ihren Rechtsstatus, ihre Familienzusammensetzung und ihre Verletzlichkeiten.
Bestehende Rahmenwerke gelten bereits
Humanitäre Prinzipien, Völkerrecht und Standards zur Datenverantwortung kennen keine Ausnahme für Technologie.
Die vier Grundprinzipien humanitären Handelns sind operative Vorgaben, keine Absichtserklärungen. Ein KI-System, das nicht mit allen vier vereinbar gemacht werden kann, sollte nicht eingesetzt werden.
KI darf niemals so eingesetzt werden, dass sie zusätzlichen Schaden verursacht oder den Schutz betroffener Bevölkerungsgruppen gefährdet. Effizienzgewinne, die Schaden anrichten, sind keine Gewinne.
KI-Systeme, die auf unvollständigen Daten optimiert werden, benachteiligen systematisch die am stärksten Marginalisierten. Unparteilichkeit verlangt eine laufende Prüfung, worauf ein System optimiert und wessen Interessen es widerspiegelt.
Die Abhängigkeit von kommerzieller Cloud-Infrastruktur oder Datenplattformen Dritter kann die wahrgenommene oder tatsächliche Neutralität einer Organisation im Feld gefährden. Abhängigkeit schafft Verwundbarkeit.
Jedes KI-System, das die operative Kontrolle an einen externen Anbieter überträgt — für Datenverarbeitung, Wissensmanagement oder Programmanalyse —, ist eine strukturelle Bedrohung der organisatorischen Unabhängigkeit. Institutionelles Wissen muss unter der Kontrolle der Organisation bleiben.
RisikoDie Sicherheit der Begünstigten — Zugriff durch Dritte, kommerzielle oder staatliche Akteure ohne Handhabe für die Organisation
RisikoSchutzversagen gegenüber den Verletzlichsten; mögliche Verletzung humanitärer Prinzipien und des Völkerrechts
RisikoDie Wirksamkeit der Mission — fehlgeleitete Ressourcen, übersehene Bevölkerungsgruppen, Ergebnisse, die gegenüber Geldgebern oder Gemeinschaften nicht vertretbar sind
RisikoStrategische Kontinuität — institutionelles Lernen, das über Jahre aufgebaut wurde, geht in einem einzigen Übergangszyklus verloren
RisikoOrganisatorische Nachhaltigkeit — die langsame Erosion des Verhältnisses zwischen dem, was die Organisation für ihre Arbeit aufwendet, und dem, was sie für deren Berichterstattung aufwendet
Im humanitären Handeln sind Daten über Aufenthaltsort, Gesundheit, Rechtsstatus oder Familiensituation eines Menschen nicht neutral. In falschen Händen oder über ein kompromittiertes System können sie Menschen Verfolgung, Gewalt oder Zurückweisung (Refoulement) aussetzen. Drei Prinzipien definieren den ethischen Mindeststandard für jeden KI-Einsatz.
Ungesteuerte Zugriffskontrollen, verzerrte Trainingsdaten und unbefristete Aufbewahrung haben jeweils dokumentierten Schaden in humanitären Kontexten verursacht. Die Pflicht, Schaden zu vermeiden, gilt für das Systemdesign, nicht nur für die Programmabsicht.
Menschen in Krisen haben das Recht zu verstehen, wie KI-Systeme ihre Daten nutzen, und ohne Folgen abzulehnen. Wenn KI Entscheidungen über Programmberechtigung, Leistungszuteilung oder Schutzbewertungen beeinflusst, haben Betroffene Anspruch auf eine nachvollziehbare Erklärung. Intransparente Systeme sind mit humanitärer Rechenschaft unvereinbar.
KI, die ohne Mitwirkung betroffener Gemeinschaften entwickelt wird, spiegelt die Annahmen derer wider, die sie gebaut haben. Die Rechenschaft gegenüber betroffenen Bevölkerungsgruppen (AAP), formalisiert im Core Humanitarian Standard, gilt bei der Einführung von Technologie uneingeschränkt — sie pausiert nicht für Umsetzungszeitpläne.
Daten, die auf Cloud-Infrastruktur von Anbietern mit Hauptsitz in den USA verarbeitet werden, können von US-Bundesbehörden herausverlangt werden, unabhängig davon, wo sie physisch gespeichert sind. Für Organisationen mit Daten über Menschen in Konfliktgebieten oder unter autoritären Regierungen ist das eine direkte Bedrohung für deren Sicherheit — keine juristische Fussnote. Souveräne oder On-Premises-Alternativen müssen überall geprüft werden, wo dieses Risiko akut ist.
Internationale Datenübermittlungen unterliegen strengen Anforderungen, die für Feldeinsätze im Ausland gelten, nicht nur für europäische Hauptsitze. Jedes KI-System, das Daten Begünstigter über eine Rechtsordnung ohne Angemessenheitsbeschluss leitet, verstösst dagegen.
Daten über Bewegungen, Kommunikation und Aufenthaltsorte von Mitarbeitenden im Feld sind ebenso sensibel wie Daten Begünstigter. KI-Systeme, die operative Daten ohne angemessene Kontrollen zusammenführen, gefährden die Menschen, die die Mission erfüllen, nicht nur jene, die sie empfangen.
Regelt den Zugang zu Daten aus vernetzten Feldsystemen — direkt relevant für die Umfrage-, Monitoring- und Feedback-Plattformen, die die meisten NGOs in der Programmumsetzung nutzen.
Ein Prinzip zieht sich durch jedes Instrument in dieser Tabelle: Aufbewahrung muss zweckgebunden und zeitlich begrenzt sein. Jeder KI-Einsatz, der auf der unbegrenzten Ansammlung von Organisationsdaten beruht, steht strukturell im Widerspruch zu humanitären Datenstandards. Ansammeln ist keine Governance.
Jede Phase ist Voraussetzung für die nächste. Die Reihenfolge ist keine Vorliebe — sie ist eine Schutzarchitektur.
Klassifizierung, Zugriffskontrollen, Souveränitätsentscheidungen und Aufbewahrungsrichtlinie festgelegt, bevor ein KI-System mit Organisationsdaten verbunden wird
Alle Mitarbeitenden verstehen, was KI kann und nicht kann — und was sie mit den Daten der Organisation niemals tun darf
Verwaltungsprozesse werden schneller, gesteuert und prüfbar — und geben Kapazität an die Mission zurück
Felddaten liefern entscheidungsrelevante Erkenntnisse in einer vollständig gesteuerten Umgebung
Eine interne Wissensebene, die auf dem eigenen Wissen, den Richtlinien und dem humanitären Mandat der Organisation beruht
Daten Begünstigter aus dem Feld zeigen Trends und Auffälligkeiten — mit voller Nachvollziehbarkeit, wie sie erhoben, verarbeitet und geschützt wurden. Die Leitung trifft Programmentscheidungen auf Grundlage realer Feldbedingungen.
Felddaten und Programmnotizen durchlaufen einen gesteuerten Entwurfsprozess. Mitarbeitende prüfen, ordnen ein und reichen ein. Rechenschaft gegenüber betroffenen Bevölkerungsgruppen ist im Ergebnis verankert — nicht nur gegenüber Geldgebern.
Entscheidungen, Verantwortliche und Massnahmen werden in einem strukturierten Register erfasst, nach dem Minimierungsprinzip aufbewahrt und nur Personen mit dokumentiertem Bedarf zugänglich gemacht.
Die Menschen, denen Sie dienen, haben Ihnen ihre Daten im Vertrauen übergeben.
Wir helfen NGOs, KI-Governance-Rahmen aufzubauen, die auf humanitären Prinzipien, Völkerrecht und der operativen Realität im Feld beruhen — bevor Systeme eingesetzt werden, nicht erst, wenn Vorfälle die Frage erzwingen.