Le giuste domande

Sintesi

Il presente contributo sostiene che, in un contesto in cui l’accesso a sistemi di intelligenza artificiale generativa è ormai ampio e a basso costo, la differenza tra organizzazioni e professionisti non è determinata dallo strumento adottato, bensì dalla capacità di formulare domande appropriate. Il costo marginale della risposta tende a ridursi rapidamente; il valore si sposta a monte, verso la definizione del problema, e a valle, verso la valutazione critica dell’esito. Dopo aver richiamato la letteratura economica e cognitiva sul tema, il documento discute le qualità di una domanda ben posta, i rischi di una delega impropria del giudizio e le implicazioni per la formazione e per la direzione delle organizzazioni.

Introduzione

Ogni tecnologia di impiego generale produce, nella sua fase di diffusione, un’illusione ricorrente: quella secondo cui il possesso dello strumento coincida con il possesso del vantaggio. È accaduto con i personal computer, con i fogli di calcolo e con la rete, e sta accadendo con l’intelligenza artificiale. Quando uno strumento diventa accessibile a tutti, tuttavia, esso cessa per definizione di distinguere chi lo utilizza. Ciò che permane come fattore differenziante è ciò che lo strumento non fornisce da sé: la capacità di stabilire che cosa vale la pena chiedere, in quale forma, a quale scopo e con quale criterio si giudicherà la risposta.

Il declino del costo della risposta

Nella loro analisi economica dell’apprendimento automatico, Agrawal, Gans e Goldfarb hanno proposto di considerare l’intelligenza artificiale come una tecnologia che riduce drasticamente il costo della predizione. La teoria economica elementare indica che, quando il prezzo di un bene scende, aumenta la domanda di quel bene e cresce il valore dei beni a esso complementari. Se la predizione diventa abbondante, assumono rilevanza il giudizio, ossia la determinazione di ciò che si desidera ottenere e del peso da attribuire ai diversi esiti, e la definizione stessa del problema su cui la predizione verrà esercitata. Estendendo il ragionamento ai modelli generativi, il medesimo spostamento si osserva con particolare evidenza: produrre un testo, un’analisi o una bozza di codice richiede oggi pochi secondi, mentre stabilire quale testo, quale analisi e quale codice servano davvero resta un’attività interamente umana.

Da questa prospettiva, l’abbondanza di risposte non attenua l’importanza della domanda: la accentua. Un sistema capace di rispondere con fluidità a qualunque richiesta restituisce risposte plausibili anche a richieste mal formulate, e la plausibilità, come è noto, non coincide con la correttezza né con l’utilità. La qualità dell’output risulta così strettamente subordinata alla qualità dell’input, e quest’ultima dipende da competenze che nessun sistema può sostituire in modo affidabile, perché presuppongono la conoscenza del contesto, degli obiettivi e dei vincoli reali di chi interroga.

La domanda come atto di progettazione

Formulare una domanda non è un atto neutro di richiesta di informazioni, ma un atto di progettazione cognitiva. Già gli studi di Getzels e Csikszentmihalyi sulla creatività artistica avevano mostrato che la differenza tra produzioni ordinarie e produzioni originali dipende in larga misura dalla fase di individuazione del problema, più che da quella della sua risoluzione. Allo stesso modo, nel lavoro intellettuale contemporaneo, la scelta di che cosa chiedere determina lo spazio delle risposte possibili: una domanda troppo generica produce risposte generiche, una troppo ristretta esclude soluzioni potenzialmente migliori, una che incorpora assunzioni non esplicitate le riproduce e le conferma.

Una domanda ben posta presenta, a nostro avviso, almeno tre qualità distinte. La prima è la precisione dello scopo: chi interroga sa quale decisione o quale prodotto la risposta dovrà servire, e lo dichiara, poiché una risposta valutabile esiste solo rispetto a un obiettivo. La seconda è la ricchezza del contesto: i vincoli, le alternative già scartate, il pubblico di destinazione e le informazioni disponibili vengono resi espliciti, riducendo la distanza tra ciò che il sistema inferisce e ciò che chi interroga intende. La terza è la presenza di un criterio di verifica: prima di ricevere la risposta, si stabilisce come ne verranno giudicate la correttezza e la pertinenza, in modo da evitare quella razionalizzazione a posteriori che induce ad accettare come buono ciò che è semplicemente scorrevole.

È opportuno aggiungere una quarta dimensione, meno visibile ma altrettanto decisiva, che riguarda la sequenza e non il singolo quesito. L’interrogazione efficace è raramente un atto isolato: procede per approssimazioni, utilizza la risposta ottenuta per riformulare il problema, mette alla prova le conclusioni con obiezioni e controesempi. In tal senso, la competenza rilevante non è la capacità di scrivere una richiesta perfetta, quanto quella di condurre un dialogo critico in cui ciascuna risposta diviene materiale per una domanda migliore.

I rischi della delega del giudizio

La letteratura sul rapporto tra esseri umani e sistemi automatizzati ha descritto da tempo il fenomeno del cosiddetto automation bias, ossia la tendenza a conferire eccessiva fiducia agli esiti prodotti da un sistema automatico e a ridurre, di conseguenza, la vigilanza critica. Nel caso dei modelli generativi il rischio è amplificato da una caratteristica specifica: la capacità di produrre testi coerenti e ben argomentati indipendentemente dalla loro correttezza fattuale. Il principio che Kahneman ha sintetizzato con l’espressione “what you see is all there is”, per cui la mente tende a costruire storie coerenti a partire dalle informazioni disponibili senza interrogarsi su quelle assenti, trova qui un terreno particolarmente fertile.

Ne discende che la competenza decisiva non consiste soltanto nel saper formulare domande, ma nel conservare la capacità di valutare le risposte. Tale capacità richiede conoscenza del dominio, poiché non si può giudicare ciò che non si comprende, e questo rende paradossalmente più, e non meno, preziosa la formazione specialistica. Chi possiede una competenza solida utilizza l’intelligenza artificiale per estendere il proprio raggio d’azione e riconosce gli errori con prontezza; chi ne è privo rischia di accogliere con uguale fiducia sia le risposte corrette sia quelle plausibili ma errate.

Un’illustrazione

Si consideri un responsabile di funzione che chieda a un sistema generativo di “migliorare le vendite di un servizio”. La risposta sarà con ogni probabilità un elenco ordinato e convincente di iniziative note, applicabili a qualunque servizio e a qualunque azienda. Si consideri ora lo stesso responsabile che, dopo aver esaminato i dati disponibili, formuli la questione in altro modo: perché il calo di vendite si concentra sui clienti acquisiti nell’ultimo anno e non su quelli storici, e quali ipotesi alternative sulla percezione del servizio sono compatibili con questo schema, indicando per ciascuna quale evidenza la confermerebbe o la smentirebbe. In questo secondo caso la risposta non sostituisce il giudizio, ma lo struttura: offre ipotesi da verificare, e la loro verifica resta in capo a chi conosce l’azienda.

La differenza tra le due richieste non è tecnica, poiché entrambe sono formulabili da chiunque in pochi istanti; è invece concettuale, perché la seconda presuppone una diagnosi preliminare, una conoscenza del contesto e un’idea di come la risposta verrà usata. È in questa distanza, difficilmente colmabile da uno strumento, che si colloca il valore professionale di cui si è detto.

Obiezioni e limiti dell’argomento

L’argomento qui sostenuto incontra almeno un’obiezione seria. I sistemi generativi stanno acquisendo la capacità di porre a loro volta domande di chiarimento, di scomporre richieste ambigue e di suggerire formulazioni migliori; è quindi plausibile che una parte della competenza interrogativa venga progressivamente incorporata negli strumenti stessi. Questa evoluzione è verosimile e va presa sul serio, ma non pare invalidare la tesi di fondo. Un sistema può migliorare la forma di una domanda, ma difficilmente può stabilire al posto di chi decide quali obiettivi meritino di essere perseguiti e quali costi siano accettabili: tali scelte attengono a valori, responsabilità e conoscenza situata, e rimangono per natura attribuibili a persone e organizzazioni.

Va inoltre riconosciuto che la distinzione tra domanda e risposta, per quanto utile sul piano analitico, è meno netta nella pratica, dove le due fasi si alimentano a vicenda. Ciò suggerisce di intendere la tesi in senso relativo e non assoluto: la competenza interrogativa non sostituisce quella esecutiva, ma ne diviene la condizione di efficacia.

Implicazioni per la formazione e per le organizzazioni

Sul piano formativo, le considerazioni precedenti suggeriscono di spostare l’enfasi dall’addestramento all’uso degli strumenti, soggetto a rapida obsolescenza, alla coltivazione di capacità durature: la definizione dei problemi, il pensiero critico, la padronanza di un dominio e l’abitudine a esplicitare gli assunti. Sul piano organizzativo, la direzione assume una responsabilità specifica, che consiste nel creare condizioni in cui le domande possano essere poste, discusse e corrette, e nel premiare non soltanto la rapidità con cui si ottengono risposte, ma la pertinenza delle questioni che si decide di affrontare. Un’organizzazione che adotta strumenti sofisticati senza interrogarsi sulle domande che essi dovrebbero servire produrrà, con maggiore efficienza, risultati di minore rilevanza.

Conclusioni

L’argomento sviluppato nelle pagine precedenti può essere riassunto in una tesi essenziale: man mano che le risposte diventano abbondanti, il valore si sposta verso le domande, e verso la capacità di giudicare ciò che ne consegue. L’intelligenza artificiale non rende superflua la competenza umana; ne ridefinisce il baricentro, collocandolo nella formulazione dei problemi e nella responsabilità della scelta. In questo senso, la differenza non la fa l’intelligenza artificiale, ma la fa chi, disponendo di essa, sa che cosa chiederle e sa riconoscere quando la risposta non è all’altezza della domanda. Tale conclusione ha natura argomentativa più che empirica: le ipotesi qui avanzate meriterebbero verifica sistematica, attraverso studi comparativi sull’uso dell’intelligenza artificiale in contesti professionali diversi, e costituiscono una possibile agenda per la ricerca futura.