PENSAI è un sistema di governance delle decisioni nell’era dell’intelligenza artificiale.
Non nasce per dare una risposta a ogni domanda.
Nasce da una domanda più semplice e più difficile:
come arriviamo a una decisione?
L’intelligenza artificiale può generare informazioni, possibilità, confronti e scenari.
Ma una possibilità non è ancora una decisione.
Tra l’informazione e la scelta esiste un processo.
PENSAI governa quel processo.
Dal problema alla decisione
Una decisione governata richiede più della disponibilità di informazioni.
Occorre definire la domanda, comprendere il problema, individuare le alternative, stabilire i criteri, valutare le evidenze, riconoscere le incertezze e verificare il risultato.
Il percorso PENSAI è:
DOMANDA → COMPRENDERE → VALUTARE → VERIFICARE → VIA UNICA → AGIRE → POST-CHECK
La Via Unica non è una profezia.
È il risultato del processo nelle condizioni dichiarate e sulla base delle informazioni disponibili.
Se le condizioni cambiano, anche il risultato può dover essere riesaminato.
Non sempre la risposta è procedere
PENSAI prevede tre possibili esiti:
ALLOW
Le condizioni definite consentono di procedere.
HOLD
Mancano informazioni, verifiche o condizioni necessarie. Il processo viene sospeso.
STOP
Il processo non può procedere nelle condizioni date.
Fermarsi non significa necessariamente fallire.
A volte significa evitare una decisione costruita su informazioni insufficienti.
PENSAI e RISOLVO
PENSAI è la governance del processo decisionale.
RISOLVO è l’implementazione software del processo.
Sono due livelli distinti.
PENSAI definisce come deve essere governato il percorso.
RISOLVO materializza quel percorso in un sistema operativo.
Il ruolo dell’intelligenza artificiale
PENSAI non considera l’intelligenza artificiale una fonte automatica di verità.
L’IA può produrre informazioni e possibilità.
Quelle informazioni devono però essere comprese, valutate e verificate prima di diventare parte di una decisione.
Per questo PENSAI mantiene distinta la generazione dalla decisione.
La delega
PENSAI può osservare, valutare, raccomandare oppure decidere per delega.
La decisione per delega richiede però condizioni esplicite:
autorità → perimetro → condizioni → responsabilità → tracciabilità → verifica
La delega non deve rendere invisibile la responsabilità.
Deve renderla esplicita.
La verifica viene dopo
Una decisione non termina necessariamente nel momento in cui viene presa.
Il risultato deve poter essere verificato.
Che cosa è successo?
L’azione ha prodotto ciò che ci si aspettava?
Quali elementi erano corretti?
Quali erano sbagliati?
Dove il processo avrebbe dovuto fermarsi?
Il Post-check serve proprio a questo.
PENSAI non chiede fiducia
PENSAI non deve essere accettato perché qualcuno lo ha progettato.
Deve essere osservato, testato, confrontato e verificato.
Per questo il progetto distingue ciò che è:
IMPLEMENTATO
DOCUMENTATO
DIMOSTRATIVO
IN SVILUPPO
Una cosa non viene presentata come esistente se non lo è.
PENSAI non promette di eliminare l’errore.
Cerca di rendere l’errore visibile, verificabile e correggibile.
Decisione governata, prima della decisione.