Il diritto di non essere prevedibili: l’intelligenza artificiale tra personalizzazione e libertà

1. Una giornata perfetta, almeno secondo l’algoritmo

Andrea ha 54 anni e vive tra la Versilia e Milano. La sua settimana alterna riunioni, treni e telefonate che finiscono più tardi del previsto. Fa sport con costanza: padel, bici, mare appena può, montagna quando riesce a ritagliarsi qualche giorno. Ci sono mattine in cui gli basta vedere le Apuane tornando verso casa per sentire che la settimana sta finalmente allentando la presa.

Andrea è un personaggio immaginario. La situazione in cui potremmo incontrarlo, però, è plausibile.

Immaginiamo che abbia affidato a un assistente AI una parte dell’organizzazione del suo tempo libero. Il sistema consulta il calendario, le previsioni meteo e le attività sportive che Andrea ha scelto di condividere. Impara le sue preferenze e gli risparmia quelle piccole ricerche che, il giovedì sera, sembrano già un altro lavoro.

«Domenica mattina condizioni favorevoli per la bici. Ho trovato un percorso nell’entroterra, poco trafficato e compatibile con i tuoi ultimi allenamenti. Per pranzo c’è un posto che potrebbe piacerti.»

Andrea guarda la proposta dal treno. Gli piace sentirsi sollevato dall’ennesima decisione. Accetta.

Con il tempo i suggerimenti diventano sempre più pertinenti: dislivello giusto, partenze presto, ristoranti tranquilli. Quasi tutto gli somiglia.

Poi, un venerdì, arriva il messaggio di un amico: «Domenica saliamo a una festa in un paese sopra la costa. Facciamo due passi, poi vediamo. Vieni?»

Andrea esita. Aveva già un programma. Alla fine accetta anche quell’invito.

Cammina meno del previsto, mangia tardi e si ferma a parlare con un uomo che ha passato quarant’anni a riparare barche. Il telefono rimane in tasca. Quando riparte, si accorge di non aver controllato nemmeno quanti passi abbia fatto.

Sul tragitto verso casa ripensa alla conversazione, a una risata con l’amico, al tempo trascorso senza doverlo organizzare. È stato bene in un modo che non aveva pensato di cercare.

Il suo assistente avrebbe potuto proporgli anche quella festa. Ma avrebbe avuto ragioni sufficienti per preferirla all’ennesimo percorso perfettamente adatto a lui?

Conoscere ciò che ci è piaciuto finora significa sapere anche ciò che potrebbe farci bene domani?

2. Conoscermi significa anche lasciarmi cambiare

Il profilo digitale di Andrea racconta molte cose vere. Pedala spesso, ama il mare, cerca percorsi poco affollati. Ma tra quelle informazioni manca qualcosa: come si sente quando torna a casa dopo una settimana difficile, perché una domenica cerca la fatica e un’altra avrebbe soltanto voglia di stare con un amico.

Anche Andrea, a volte, lo capisce soltanto dopo.

Una scelta lascia una traccia più facile da registrare delle ragioni che l’hanno prodotta. Abbiamo prenotato un albergo perché ci rappresentava, perché costava meno o perché era l’unico disponibile? Abbiamo scelto di stare soli perché lo desideravamo o perché, quel giorno, nessuno ci ha invitati?

Per chi progetta un servizio digitale, questi comportamenti sono informazioni preziose. Permettono di costruire esperienze più pertinenti e di risparmiare tempo alle persone. Serve però cautela nel trasformarli in definizioni: “preferisce questo”, “evita quello”, “è una persona così”.

Essere riconosciuti nelle proprie abitudini può farci sentire a nostro agio. Essere ricondotti continuamente a quelle stesse abitudini può, alla lunga, starci stretto. Lo sappiamo anche nelle relazioni: c’è una sottile insofferenza nel sentirsi dire «ma a te queste cose non piacciono», proprio mentre stiamo provando ad avvicinarci a qualcosa di nuovo.

Prevedere un comportamento non equivale a comprendere un desiderio. Un sistema può aggiornare il nostro profilo, ma ha bisogno di incontrare segnali diversi. Se continua a presentarci soprattutto possibilità familiari, quanto spazio avremo per produrli?

La curiosità comincia spesso così: qualcosa ci interessa prima ancora che sappiamo spiegare perché. Vorrei che nei sistemi che progettiamo ci fosse posto anche per quel momento incerto.

3. Quando il suggerimento contribuisce a creare la preferenza

Andrea apre l’app e trova tre percorsi in bici. Ne sceglie uno. La settimana successiva riceve proposte simili, un po’ più precise: meno traffico, una salita che potrebbe apprezzare, una sosta vicina al mare. Sceglie ancora.

Per il sistema, quelle decisioni sono una conferma. Andrea ama la bici: continuare a proporgliela sembra la cosa giusta da fare.

E spesso lo è. Il suggerimento gli risparmia una ricerca e lo porta su strade che non conosceva. Il beneficio è concreto.

Dentro questo scambio, però, succede anche qualcosa di meno evidente: Andrea sceglie tra le possibilità che vede. Se i percorsi in bici occupano le prime posizioni, mentre una passeggiata con una guida o una visita a un piccolo cantiere nautico rimangono fuori dalla selezione, le sue decisioni racconteranno soltanto una parte dei suoi interessi.

La proposta influenza la scelta; la scelta diventa poi il dato con cui costruire la proposta successiva.

Chi lavora nel marketing e nei prodotti digitali conosce il peso della visibilità, dell’ordine e della facilità di accesso. Suggerire significa anche dare risalto: mettere qualcosa davanti agli occhi di una persona nel momento in cui potrebbe desiderarlo.

Questo non rende ogni raccomandazione una manipolazione. Ci obbliga però a distinguere tra riconoscere una preferenza e contribuire a rafforzarla. Una maggiore probabilità di accettazione, da sola, non ci dice quanto spazio abbiamo lasciato alle alternative.

Andrea potrebbe continuare a scegliere la bici anche davanti a proposte molto diverse. Oppure potrebbe fermarsi su qualcosa di inatteso e pensare: «Questo non l’ho mai fatto. Mi piacerebbe».

Per scoprirlo, quella possibilità deve arrivargli davanti.

4. La curiosità ha bisogno di spazio

Della domenica al paese, ad Andrea rimane soprattutto la conversazione con l’uomo che riparava barche. Era cominciata con una domanda sul legno di uno scafo. Poi erano arrivati i racconti dei lavori, degli errori, della pazienza necessaria per capire dove entrasse l’acqua. Andrea aveva continuato a fare domande, dimenticandosi per un po’ del programma della giornata.

Mi interessa quel momento in cui qualcosa ci trattiene senza che lo avessimo previsto. La curiosità, per come la vivo, comincia spesso da un dettaglio che non torna o da una domanda alla quale vorrei dedicare ancora cinque minuti. A volte finisce lì. Altre volte apre una strada che vale la pena seguire.

Anche nel lavoro, quando esploro una tecnologia, non so sempre in anticipo dove potrà portarmi. Servono tempo per capire e disponibilità a rivedere la prima idea. E serve accettare che una parte della ricerca non produca nulla di immediatamente utile.

Un sistema di raccomandazione può favorire queste scoperte, mettendoci davanti possibilità lontane dalle nostre abitudini. Può farlo, però, se nell’esperienza che progettiamo lasciamo spazio anche a proposte che potremmo ignorare, rifiutare o apprezzare soltanto più avanti.

Siamo disposti a tollerare un suggerimento meno preciso, se può aprire una possibilità nuova?

Per Andrea significa trovare, accanto al percorso ideale, un invito che lo faccia esitare un istante. Per chi progetta il servizio significa accettare che il valore di quell’esitazione possa sfuggire alle misure più immediate. Una scoperta può cominciare oggi e acquistare significato molto tempo dopo.

5. La domanda per chi progetta: che cosa stiamo ottimizzando?

Quando lavoro a un progetto digitale, una delle domande che considero più importanti è anche una delle meno spettacolari: come capiremo se sta funzionando?

Nel caso di Andrea, potremmo misurare quante proposte accetta, quante prenotazioni conclude o quanto spesso torna a usare l’assistente. Sono indicatori utili. Ma una prenotazione ci dice che Andrea ha scelto un’esperienza; per sapere se ne è stato contento, e perché, dobbiamo ascoltarlo anche dopo.

La scelta degli obiettivi ha conseguenze sul prodotto. Se premiamo soprattutto l’accettazione immediata, diamo al sistema una ragione per privilegiare proposte familiari. Se vogliamo favorire anche la scoperta, dobbiamo dedicarle spazio e trovare modi per valutarla, accettando risultati meno immediati.

C’è poi una questione commerciale. Quel ristorante viene suggerito perché corrisponde ai gusti di Andrea, perché ha disponibilità o perché riconosce una commissione alla piattaforma? Le ragioni possono convivere. Andrea dovrebbe poterle comprendere senza doverle indovinare.

È qui che la riflessione etica entra nelle decisioni quotidiane di chi progetta. Si traduce in possibilità concrete:

• Capire il suggerimento. Una spiegazione accessibile del perché una proposta compare, con gli eventuali contenuti sponsorizzati chiaramente riconoscibili.

• Correggere il profilo. Poter dire «questo non mi interessa più» oppure «era una scelta occasionale», senza continuare a trascinarsi dietro una preferenza.

• Chiedere qualcosa di diverso. Avere alternative anche fuori dalle abitudini consolidate, lasciando alla persona la scelta di quanto esplorare.

• Rifiutare facilmente. Ignorare una proposta, modificare le preferenze o disattivare la personalizzazione attraverso comandi semplici da trovare.

Da persona appassionata di tecnologia, trovo stimolante costruire sistemi capaci di anticipare un bisogno. Proprio quella capacità mi porta a chiedermi quanto sia facile correggerli quando interpretano male qualcuno.

La fiducia si costruisce anche nel momento in cui una persona può dire al sistema: «Hai capito male». E vedere che qualcosa cambia.

6. Il diritto di sorprendere anche noi stessi

La settimana successiva Andrea apre di nuovo il suo assistente. Vuole sapere se domenica ci saranno le condizioni per uscire in bici. Quel servizio continua a essergli utile; la giornata al paese gli ha soltanto ricordato quanto possa fargli bene lasciare, ogni tanto, uno spazio senza programma.

Con “diritto di non essere prevedibili” intendo questo: uno spazio di libertà da preservare nella progettazione, anche quando sappiamo interpretare sempre meglio i comportamenti delle persone. La possibilità di cambiare idea, contraddirsi, avvicinarsi a qualcosa che fino a ieri non ci interessava. Senza che il passato diventi ogni volta l’argomento più forte per decidere il futuro.

Nella riflessione sull’umanesimo sintetico mi interrogavo su come la convivenza con sistemi intelligenti possa trasformare la nostra quotidianità. Qui quella domanda assume una forma concreta: mentre deleghiamo parte dell’organizzazione della vita, quali occasioni vogliamo conservare per esercitare la curiosità?

La mia passione per la tecnologia nasce anche dalle possibilità che apre. Mi piacerebbe continuare a valutarla con questo sguardo: osservando ciò che rende più semplice e ciò che ci permette di incontrare per la prima volta.

Vorrei una tecnologia capace di imparare ciò che mi piace e di lasciare aperta la possibilità che domani mi piaccia qualcosa di diverso.