In realtà è una delle domande più difficili che possiamo fare quando una decisione diventa complessa.
Perché una cosa è sapere che cosa è possibile fare.
Un’altra è stabilire che cosa deve essere fatto.
E ancora un’altra è stabilire chi ha il diritto di deciderlo.
L’arrivo dell’intelligenza artificiale rende questa distinzione ancora più importante.
Un sistema può analizzare migliaia di informazioni in pochi secondi. Può trovare collegamenti che una persona potrebbe non vedere. Può proporre alternative, costruire scenari, evidenziare rischi.
Ma tutto questo non risponde alla domanda fondamentale:
chi decide?
La macchina può suggerire. Ma chi risponde?
Quando utilizziamo un sistema di intelligenza artificiale, è facile lasciarsi impressionare dal risultato.
Una risposta ben scritta sembra competente.
Un numero preciso sembra affidabile.
Una previsione formulata con sicurezza sembra quasi una certezza.
Ma la forma della risposta non dimostra la sua verità.
E soprattutto non stabilisce chi debba assumersi la responsabilità della decisione.
Questo è il punto dal quale PENSAI prova a partire.
Non dalla domanda:
«Quanto è intelligente l’intelligenza artificiale?»
Ma da una domanda più concreta:
«Come viene governato il processo che porta dalla informazione alla decisione?»
Tra informazione e decisione c’è uno spazio
Quello spazio è fondamentale.
Prima di decidere bisogna sapere qual è la domanda.
Bisogna capire l’obiettivo.
Bisogna distinguere ciò che sappiamo da ciò che supponiamo.
Bisogna confrontare le alternative.
Bisogna riconoscere le incertezze.
Bisogna stabilire quali criteri utilizziamo.
E, quando necessario, bisogna fermarsi.
PENSAI cerca di dare una struttura a questo spazio.
Non per eliminare l’essere umano dalla decisione.
Al contrario.
Per rendere più visibile dove l’essere umano decide, perché decide e di quale autorità dispone.
Anche decidere di non decidere è una decisione
Questa è forse una delle cose più difficili da accettare.
Siamo spesso portati a pensare che un buon sistema debba produrre sempre una risposta.
Ma nella realtà esistono situazioni nelle quali le informazioni non sono sufficienti.
Oppure le fonti sono in conflitto.
Oppure il problema non rientra nel perimetro stabilito.
Oppure il rischio è troppo elevato.
In questi casi PENSAI deve poter dire:
HOLD.
Aspettiamo.
Verifichiamo.
Chiediamo ciò che manca.
E se il problema non può essere affrontato nelle condizioni previste:
STOP.
Non è un fallimento del metodo.
Può essere esattamente il contrario.
La responsabilità non può diventare invisibile
C’è poi una domanda ancora più scomoda.
Se una decisione viene presa con l’aiuto dell’intelligenza artificiale e quella decisione produce un danno, chi risponde?
Non basta dire:
«Lo ha suggerito l’AI.»
Un sistema non può diventare il luogo nel quale la responsabilità scompare.
Per questo PENSAI distingue il processo dalla sua esecuzione.
Chi governa il processo deve essere identificabile.
Chi delega deve essere identificabile.
Chi esegue deve essere identificabile.
E il risultato deve poter essere verificato.
La delega, quando esiste, non dovrebbe cancellare la responsabilità.
Dovrebbe renderla esplicita.
PENSAI non decide al posto della realtà
Questo è il limite che considero necessario.
PENSAI non conosce il futuro.
Non possiede una verità definitiva.
Non può garantire che una decisione sarà corretta.
Può però costruire un processo nel quale sia più difficile confondere una risposta con una certezza.
E nel quale un errore possa essere riconosciuto.
Perché una decisione veramente governata non è quella che non sbaglia mai.
È quella nella quale l’errore può essere visto, contestato e corretto.
La domanda rimane
Alla fine torniamo alla domanda iniziale.
Chi decide?
La risposta non dovrebbe essere nascosta dentro un algoritmo.
Dovrebbe essere visibile.
Dovrebbe essere comprensibile.
Dovrebbe essere verificabile.
E, quando necessario, dovrebbe poter essere contestata.
È questo lo spazio nel quale PENSAI vuole lavorare.
Non tra uomo e macchina.
Ma tra informazione e decisione.
Perché è proprio lì che spesso si perde qualcosa di essenziale:
la responsabilità di scegliere.
Questo articolo è una riflessione metodologica nell’ambito del progetto PENSAI. Il contenuto è stato elaborato con il supporto dell’intelligenza artificiale e resta sotto la responsabilità editoriale umana.