Il dietrofront

Le marce indietro sull'IA non dicono che l'IA non funziona. Dicono dove smette, e il conto lo pagano il cliente e chi è stato licenziato per provarci.

Ogni paio di mesi esce la stessa notizia, e ha sempre due tempi. Tempo uno, a tutto volume: "abbiamo affidato il servizio clienti all'intelligenza artificiale, gestisce due richieste su tre, più veloce e a costo quasi zero". Tempo due, mesi dopo, a mezza voce, in fondo a un comunicato: "stiamo riassumendo del personale". Klarna l'ha fatto in grande, e con lo stesso clamore è tornata sui suoi passi, col capo che ammette di aver pesato troppo il risparmio e troppo poco la qualità del servizio.

La tentazione, davanti a una di queste storie, è tirare le somme subito: "Visto? L'IA non funziona". Il dietrofront racconta un'altra cosa. Racconta fin dove l'IA arriva in modo affidabile, e dove invece comincia a sbagliare. È un confine, e a tracciarlo è il campo, mentre i clienti veri ci sbattono contro.

Il punto scomodo è che quel confine, da dentro, non si vede prima. L'azienda non ha modo di sapere in anticipo quali casi reggeranno e quali no. Lo scopre dispiegando, cioè mettendo la cosa in mano alla gente e guardando dove si rompe. E qui sta la parte che mi dà fastidio: il costo della lezione non lo paga chi ha deciso di dispiegare. Lo pagano in due. Il cliente, con l'assistenza che gira a vuoto per due giorni, la citazione legale inventata e finita in un deposito vero, la diagnosi storta. E il lavoratore mandato a casa per far posto alla macchina, che quando la macchina arranca, nel migliore dei casi, viene richiamato, alle condizioni che decide un altro. Chi ha spinto impara. A pagare il corso sono gli altri due.

Qui devo fermarmi un attimo, perché c'è un punto che gioca contro la mia tesi. Non è che il confine sia del tutto invisibile. Un modo prudente di scoprirlo c'è: lo accendi su una fetta piccola, tieni una persona pronta dietro, confronti come va con e senza, allarghi solo quando regge. Chi fa così il confine lo trova lo stesso, senza farlo pagare a nessuno. Klarna, e quelli come lei, non hanno scoperto nessun limite invisibile. Hanno deciso di scoprirlo alla svelta, mandando a casa la gente prima di sapere, perché sul foglio dei costi andare piano è una riga in meno da tagliare. La differenza tra scoprire un confine ed essere imprudenti è tutta qui: chi lo paga.

Lo dico anche per chi sta dalla mia parte del banco, quella di chi quei sistemi li costruisce. La spinta a far fare tutto all'agente è fortissima, perché sul costo non la batte nessuno. Ma c'è un punto in cui la macchina sbaglia con la faccia serissima, e se quel punto è il servizio clienti te ne accorgi tardi, quando il cliente è già andato. La marcia indietro non è un fallimento della tecnologia. È il prezzo di aver scoperto il confine col metodo più caro, dal vivo.

E qui serve onestà nei due sensi, perché su questa storia si bara da tutte e due le parti. I catastrofisti prendono Klarna e ci scrivono sopra l'epitaffio dell'IA. Gli entusiasti fanno finta di niente e tirano dritto. Hanno torto tutti e due. Klarna ha riassunto gli umani. L'IA è rimasta: il chatbot gestisce ancora le richieste che sono pura quantità, le mille domande uguali, e accanto è tornata la persona per il caso delicato, quello dove il cliente vuole qualcuno di cui fidarsi. Il confine, guarda caso, cade lì: l'IA si è presa le risposte standard e ha provato a prendersi anche la fiducia, che non era sua. La rotta non si inverte. Si corregge: diventa "IA più umano", col confine ridisegnato dopo aver visto dove faceva male.

Manca una cautela, e va messa. I dietrofront che finiscono sui giornali sono i più rumorosi, non i più rappresentativi: per ogni Klarna ci sono cento pilot che muoiono in un cassetto senza un comunicato, e non li conta nessuno. E che una cosa sia andata male da una parte non dice niente su come andrà altrove, con un'integrazione diversa e un po' di umiltà in più. Il confine non è una linea fissa sulla mappa. È mobile, e ognuno la sua se la trova addosso.

Quindi, prima di affidare un pezzo del tuo lavoro all'agente, lascia perdere il "ce la fa?". Quasi sempre, sui costi, ce la fa. Quello che conta è un'altra cosa: se il confine cade dalla parte sbagliata, chi paga il conto? Se la risposta sei tu, spingi pure. Se la risposta è il tuo cliente, o le persone che mandi a casa per provarci, hai appena scelto di far scoprire il limite a spese loro. E il secondo tempo della notizia, quello a mezza voce, lo scrivi tu.