Stratedge

    Governance dell'IA per ONG e organizzazioni umanitarie

    I dati detenuti dalle ONG appartengono a persone nelle situazioni più vulnerabili. Sono stati affidati in fiducia. Introdurre l'IA senza un framework di governance non crea solo un rischio di conformità — può causare un danno diretto alle persone che l'organizzazione esiste per servire. La tecnologia deve essere resa compatibile con i valori umanitari, non il contrario.

    La responsabilità è verso le persone, non gli azionisti

    Ogni decisione sull'IA deve rispondere alle popolazioni coinvolte prima che ai finanziatori o agli organi di controllo.

    I dati sono sensibili per definizione

    Descrivono persone in crisi: la loro posizione, salute, status giuridico, composizione familiare e vulnerabilità.

    I framework esistenti si applicano già

    I principi umanitari, il diritto internazionale e gli standard di responsabilità dei dati non prevedono alcuna esenzione per la tecnologia.

    I principi che governano ogni decisione sull'IA

    I quattro principi fondamentali dell'azione umanitaria sono vincoli operativi, non dichiarazioni d'intenti. Qualsiasi sistema di IA che non possa essere reso compatibile con tutti e quattro non dovrebbe essere introdotto.

    [ 01 ]

    Umanità

    L'IA non deve mai essere usata in modi che causino ulteriori danni o compromettano la protezione delle popolazioni coinvolte. Guadagni di efficienza che creano danni non sono guadagni.

    [ 02 ]

    Imparzialità

    I sistemi di IA ottimizzati su dati incompleti svantaggiano sistematicamente i più emarginati. L'imparzialità richiede un esame continuo di ciò che un sistema ottimizza e degli interessi che riflette.

    [ 03 ]

    Neutralità

    La dipendenza da infrastrutture cloud commerciali o da piattaforme di dati di terzi può compromettere la neutralità percepita o effettiva di un'organizzazione sul campo. La dipendenza crea vulnerabilità.

    [ 04 ]

    Indipendenza

    Qualsiasi sistema di IA che trasferisca il controllo operativo a un fornitore esterno — per il trattamento dei dati, la gestione della conoscenza o l'analisi dei programmi — è una minaccia strutturale all'indipendenza dell'organizzazione. L'intelligenza istituzionale deve restare sotto il controllo dell'organizzazione.

    Sfide prioritarie

    1. 01

      Dati conservati in sistemi fuori dal controllo dell'organizzazione

      RischioLa sicurezza dei beneficiari — esposizione all'accesso di terzi, soggetti commerciali o Stati, senza possibilità di ricorso per l'organizzazione

    2. 02

      Dati dei beneficiari frammentati con controlli di accesso inadeguati

      RischioMancata protezione dei più vulnerabili; potenziale violazione dei principi umanitari e del diritto internazionale

    3. 03

      Decisioni di programma basate su dati obsoleti o incompleti

      RischioL'efficacia della missione — risorse mal allocate, popolazioni non raggiunte, risultati non difendibili davanti a finanziatori o comunità

    4. 04

      Conoscenza persa quando il personale se ne va o i contesti cambiano

      RischioLa continuità strategica — un apprendimento istituzionale costruito in anni, perso in un solo ciclo di transizione

    5. 05

      Oneri amministrativi che sottraggono capacità alla missione

      RischioLa sostenibilità dell'organizzazione — la lenta erosione del rapporto tra ciò che l'organizzazione spende per svolgere il proprio lavoro e ciò che spende per rendicontarlo

    La soglia etica: non nuocere, consenso e responsabilità

    Nell'azione umanitaria, i dati sulla posizione, la salute, lo status giuridico o la situazione familiare di una persona non sono neutri. Nelle mani sbagliate, o tramite un sistema compromesso, possono esporre le persone a persecuzione, violenza o respingimento. Tre principi definiscono lo standard etico minimo per qualsiasi introduzione dell'IA.

    Non nuocere è un obbligo sui dati.

    Controlli di accesso non governati, dati di addestramento distorti e conservazione illimitata hanno ciascuno causato danni documentati in contesti umanitari. L'obbligo di evitare danni si applica alla progettazione dei sistemi, non solo all'intento dei programmi.

    Le popolazioni coinvolte sono titolari di diritti, non fonti di dati.

    Le persone in crisi hanno il diritto di capire come i loro dati vengono usati dai sistemi di IA, e di rifiutare senza conseguenze. Quando l'IA influenza decisioni su idoneità ai programmi, allocazione dei servizi o valutazioni di protezione, le persone coinvolte hanno diritto a una spiegazione significativa. I sistemi opachi sono incompatibili con la responsabilità umanitaria.

    La partecipazione produce sia un'etica migliore sia risultati migliori.

    Un'IA progettata senza il contributo delle comunità coinvolte riflette le ipotesi di chi l'ha costruita. La responsabilità verso le popolazioni colpite (AAP), formalizzata nel Core Humanitarian Standard, si applica pienamente quando si introduce una tecnologia — non si sospende in attesa dei tempi di implementazione.

    I framework applicabili

    / Etica — ordinati per rilevanza operativa diretta

    • Linee guida operative IASC sulla responsabilità dei dati nell'azione umanitaria — Lo standard operativo inter-agenzia per raccolta, conservazione, condivisione e protezione dei dati; vincolante per tutte le organizzazioni che operano nel sistema umanitario inter-agenzia.
    • Principi ONU per l'uso etico dell'IA nel sistema delle Nazioni Unite (2022) — Applicabili alle agenzie ONU, alle organizzazioni intergovernative e ai loro partner esecutivi; fondati sulla Carta delle Nazioni Unite e sul diritto internazionale dei diritti umani.
    • Raccomandazione UNESCO sull'etica dell'intelligenza artificiale (2021, adottata da 194 Stati) — Stabilisce la dignità umana, la diversità culturale e il diritto alla privacy come requisiti fondamentali per qualsiasi introduzione dell'IA.
    • Principi OCSE sull'IA (2019, aggiornati nel 2024) — Trasparenza, responsabilità, inclusività e supervisione umana; sempre più citati nei requisiti di conformità dei donatori.
    • Principi guida delle Nazioni Unite su imprese e diritti umani (UNGP) — Responsabilità dell'organizzazione per gli impatti dell'IA sui diritti delle popolazioni coinvolte.

    / Sovranità dei dati — ordinati per gravità del rischio di esposizione

    CLOUD Act — il rischio di protezione operativa più elevato

    I dati trattati su infrastrutture cloud di fornitori con sede negli Stati Uniti possono essere richiesti dalle autorità federali statunitensi, indipendentemente da dove siano fisicamente conservati. Per le organizzazioni che detengono dati su persone in zone di conflitto o sotto governi autoritari, è una minaccia diretta alla sicurezza di quelle persone — non una nota giuridica a piè di pagina. Alternative sovrane o on-premise devono essere valutate ovunque questo rischio sia acuto.

    GDPR capo V — obbligatorio per tutte le organizzazioni che trattano dati di residenti nell'UE

    I trasferimenti internazionali di dati sono soggetti a requisiti rigorosi che si applicano alle operazioni sul campo all'estero, non solo alle sedi europee. Qualsiasi sistema di IA che instradi dati dei beneficiari attraverso una giurisdizione priva di decisione di adeguatezza è in violazione.

    Dati sulla sicurezza del personale — un rischio di protezione spesso trascurato

    I dati su spostamenti, comunicazioni e posizione del personale sul campo sono sensibili quanto quelli dei beneficiari. I sistemi di IA che aggregano dati operativi senza controlli adeguati espongono le persone che svolgono la missione, non solo quelle che ne beneficiano.

    Data Act dell'UE (applicabile dal 2025)

    Disciplina l'accesso ai dati generati dai sistemi connessi sul campo — direttamente rilevante per le piattaforme di indagine, monitoraggio e feedback dei beneficiari che la maggior parte delle ONG usa nell'attuazione dei programmi.

    / Conformità normativa — ordinati per maturità dell'applicazione

    Un principio attraversa ogni strumento di questa tabella: la conservazione deve essere motivata e limitata nel tempo. Qualsiasi introduzione dell'IA basata sull'accumulo illimitato di dati organizzativi è strutturalmente in contrasto con gli standard umanitari sui dati. Accumulare non è governare.

    GDPR
    Base giuridica; minimizzazione dei dati; diritti degli interessati; notifica delle violazioni entro 72 ore
    In vigore
    Principi ONU sulla protezione dei dati personali e della privacy
    Applicabili alle entità ONU e a tutti i partner operativi
    In vigore
    nLPD
    Legge federale svizzera riveduta sulla protezione dei dati — si applica a tutte le organizzazioni con attività in Svizzera o dati di residenti svizzeri
    In vigore da settembre 2023
    AI Act europeo
    Classificazione del rischio; documentazione; supervisione umana; valutazione di conformità per i sistemi ad alto rischio
    Pienamente applicabile da agosto 2026
    Digital Services Act
    Trasparenza e responsabilità per i sistemi digitali rivolti al pubblico
    In vigore
    Data Governance Act dell'UE
    Norme su riutilizzo e condivisione; rilevante per le ONG coinvolte in schemi di altruismo dei dati
    In vigore

    Come lavoriamo

    Ogni fase è un prerequisito per la successiva. La sequenza non è una preferenza — è un'architettura di protezione.

    1. 01

      Fondamenta della governance dei dati

      Classificazione, controlli di accesso, decisioni di sovranità e politica di conservazione definiti prima che qualsiasi sistema di IA si colleghi ai dati dell'organizzazione

    2. 02

      Competenza sull'IA

      Ogni membro del personale capisce che cosa l'IA può e non può fare — e che cosa non deve mai fare con i dati detenuti dall'organizzazione

    3. 03

      Produttività

      I processi amministrativi diventano più rapidi, governati e verificabili — restituendo capacità alla missione

    4. 04

      Intelligence dei programmi

      I dati dal campo fanno emergere informazioni utili alle decisioni in un ambiente pienamente governato

    5. 05

      Capacità organizzativa

      Uno strato di intelligenza interno fondato sulla conoscenza, sulle politiche e sul mandato umanitario dell'organizzazione

    Salvaguardie integrate in ogni incarico

    1. 01Classificazione dei dati e decisioni di sovranità — prima di qualsiasi collegamento di sistema
    2. 02Revisione umana e responsabilità in ogni punto decisionale che riguarda direttamente le persone
    3. 03Controlli di accesso, cybersicurezza e protocolli di sicurezza per il contesto sul campo applicati fin dalla progettazione
    4. 04Politica d'uso dell'IA allineata al mandato umanitario e al diritto applicabile
    5. 05Solo sistemi approvati e verificabili, entro un perimetro definito e documentato
    6. 06Monitoraggio continuo dei risultati, correzione degli errori e revisione etica programmata
    7. 07Formazione del personale sulla competenza in IA, inclusa l'applicazione operativa dei principi del «non nuocere»

    Come si traduce nella pratica

    [ 01 ]

    Analisi dei programmi

    I dati dei beneficiari raccolti sul campo fanno emergere tendenze e anomalie, con piena tracciabilità di come sono stati raccolti, trattati e protetti. La direzione prende decisioni di programma fondate sulle reali condizioni sul campo.

    [ 02 ]

    Rendicontazione e responsabilità

    I dati dal campo e le note di programma seguono un processo di redazione governato. Il personale verifica, contestualizza e invia. La responsabilità verso le popolazioni coinvolte è integrata nel risultato — non solo quella verso i donatori.

    [ 03 ]

    Memoria istituzionale

    Decisioni, responsabili e azioni sono registrati in un archivio strutturato, conservato secondo i principi di minimizzazione e accessibile solo a chi ha un'esigenza documentata.

    Domande frequenti

    Le persone che servite vi hanno affidato i loro dati in fiducia.

    Aiutiamo le ONG a costruire framework di governance dell'IA fondati sui principi umanitari, sul diritto internazionale e sulla realtà operativa sul campo — prima che i sistemi vengano introdotti, non dopo che gli incidenti impongano la questione.