Umanità
L'IA non deve mai essere usata in modi che causino ulteriori danni o compromettano la protezione delle popolazioni coinvolte. Guadagni di efficienza che creano danni non sono guadagni.
I dati detenuti dalle ONG appartengono a persone nelle situazioni più vulnerabili. Sono stati affidati in fiducia. Introdurre l'IA senza un framework di governance non crea solo un rischio di conformità — può causare un danno diretto alle persone che l'organizzazione esiste per servire. La tecnologia deve essere resa compatibile con i valori umanitari, non il contrario.
La responsabilità è verso le persone, non gli azionisti
Ogni decisione sull'IA deve rispondere alle popolazioni coinvolte prima che ai finanziatori o agli organi di controllo.
I dati sono sensibili per definizione
Descrivono persone in crisi: la loro posizione, salute, status giuridico, composizione familiare e vulnerabilità.
I framework esistenti si applicano già
I principi umanitari, il diritto internazionale e gli standard di responsabilità dei dati non prevedono alcuna esenzione per la tecnologia.
I quattro principi fondamentali dell'azione umanitaria sono vincoli operativi, non dichiarazioni d'intenti. Qualsiasi sistema di IA che non possa essere reso compatibile con tutti e quattro non dovrebbe essere introdotto.
L'IA non deve mai essere usata in modi che causino ulteriori danni o compromettano la protezione delle popolazioni coinvolte. Guadagni di efficienza che creano danni non sono guadagni.
I sistemi di IA ottimizzati su dati incompleti svantaggiano sistematicamente i più emarginati. L'imparzialità richiede un esame continuo di ciò che un sistema ottimizza e degli interessi che riflette.
La dipendenza da infrastrutture cloud commerciali o da piattaforme di dati di terzi può compromettere la neutralità percepita o effettiva di un'organizzazione sul campo. La dipendenza crea vulnerabilità.
Qualsiasi sistema di IA che trasferisca il controllo operativo a un fornitore esterno — per il trattamento dei dati, la gestione della conoscenza o l'analisi dei programmi — è una minaccia strutturale all'indipendenza dell'organizzazione. L'intelligenza istituzionale deve restare sotto il controllo dell'organizzazione.
RischioLa sicurezza dei beneficiari — esposizione all'accesso di terzi, soggetti commerciali o Stati, senza possibilità di ricorso per l'organizzazione
RischioMancata protezione dei più vulnerabili; potenziale violazione dei principi umanitari e del diritto internazionale
RischioL'efficacia della missione — risorse mal allocate, popolazioni non raggiunte, risultati non difendibili davanti a finanziatori o comunità
RischioLa continuità strategica — un apprendimento istituzionale costruito in anni, perso in un solo ciclo di transizione
RischioLa sostenibilità dell'organizzazione — la lenta erosione del rapporto tra ciò che l'organizzazione spende per svolgere il proprio lavoro e ciò che spende per rendicontarlo
Nell'azione umanitaria, i dati sulla posizione, la salute, lo status giuridico o la situazione familiare di una persona non sono neutri. Nelle mani sbagliate, o tramite un sistema compromesso, possono esporre le persone a persecuzione, violenza o respingimento. Tre principi definiscono lo standard etico minimo per qualsiasi introduzione dell'IA.
Controlli di accesso non governati, dati di addestramento distorti e conservazione illimitata hanno ciascuno causato danni documentati in contesti umanitari. L'obbligo di evitare danni si applica alla progettazione dei sistemi, non solo all'intento dei programmi.
Le persone in crisi hanno il diritto di capire come i loro dati vengono usati dai sistemi di IA, e di rifiutare senza conseguenze. Quando l'IA influenza decisioni su idoneità ai programmi, allocazione dei servizi o valutazioni di protezione, le persone coinvolte hanno diritto a una spiegazione significativa. I sistemi opachi sono incompatibili con la responsabilità umanitaria.
Un'IA progettata senza il contributo delle comunità coinvolte riflette le ipotesi di chi l'ha costruita. La responsabilità verso le popolazioni colpite (AAP), formalizzata nel Core Humanitarian Standard, si applica pienamente quando si introduce una tecnologia — non si sospende in attesa dei tempi di implementazione.
I dati trattati su infrastrutture cloud di fornitori con sede negli Stati Uniti possono essere richiesti dalle autorità federali statunitensi, indipendentemente da dove siano fisicamente conservati. Per le organizzazioni che detengono dati su persone in zone di conflitto o sotto governi autoritari, è una minaccia diretta alla sicurezza di quelle persone — non una nota giuridica a piè di pagina. Alternative sovrane o on-premise devono essere valutate ovunque questo rischio sia acuto.
I trasferimenti internazionali di dati sono soggetti a requisiti rigorosi che si applicano alle operazioni sul campo all'estero, non solo alle sedi europee. Qualsiasi sistema di IA che instradi dati dei beneficiari attraverso una giurisdizione priva di decisione di adeguatezza è in violazione.
I dati su spostamenti, comunicazioni e posizione del personale sul campo sono sensibili quanto quelli dei beneficiari. I sistemi di IA che aggregano dati operativi senza controlli adeguati espongono le persone che svolgono la missione, non solo quelle che ne beneficiano.
Disciplina l'accesso ai dati generati dai sistemi connessi sul campo — direttamente rilevante per le piattaforme di indagine, monitoraggio e feedback dei beneficiari che la maggior parte delle ONG usa nell'attuazione dei programmi.
Un principio attraversa ogni strumento di questa tabella: la conservazione deve essere motivata e limitata nel tempo. Qualsiasi introduzione dell'IA basata sull'accumulo illimitato di dati organizzativi è strutturalmente in contrasto con gli standard umanitari sui dati. Accumulare non è governare.
Ogni fase è un prerequisito per la successiva. La sequenza non è una preferenza — è un'architettura di protezione.
Classificazione, controlli di accesso, decisioni di sovranità e politica di conservazione definiti prima che qualsiasi sistema di IA si colleghi ai dati dell'organizzazione
Ogni membro del personale capisce che cosa l'IA può e non può fare — e che cosa non deve mai fare con i dati detenuti dall'organizzazione
I processi amministrativi diventano più rapidi, governati e verificabili — restituendo capacità alla missione
I dati dal campo fanno emergere informazioni utili alle decisioni in un ambiente pienamente governato
Uno strato di intelligenza interno fondato sulla conoscenza, sulle politiche e sul mandato umanitario dell'organizzazione
I dati dei beneficiari raccolti sul campo fanno emergere tendenze e anomalie, con piena tracciabilità di come sono stati raccolti, trattati e protetti. La direzione prende decisioni di programma fondate sulle reali condizioni sul campo.
I dati dal campo e le note di programma seguono un processo di redazione governato. Il personale verifica, contestualizza e invia. La responsabilità verso le popolazioni coinvolte è integrata nel risultato — non solo quella verso i donatori.
Decisioni, responsabili e azioni sono registrati in un archivio strutturato, conservato secondo i principi di minimizzazione e accessibile solo a chi ha un'esigenza documentata.
Le persone che servite vi hanno affidato i loro dati in fiducia.
Aiutiamo le ONG a costruire framework di governance dell'IA fondati sui principi umanitari, sul diritto internazionale e sulla realtà operativa sul campo — prima che i sistemi vengano introdotti, non dopo che gli incidenti impongano la questione.