La rana bollita

Un amico a cena: "esistono due tipi di tecnologie, quelle abilitanti e quelle sostituenti". Poi ho guardato da vicino la seconda specie. Si fabbrica in casa, una concessione alla volta.

Qualche sera fa ero a cena con amici, una di quelle cene dove si parla del più e del meno, e a un certo punto uno se ne esce con una frase che da allora non mi molla: "secondo me esistono due tipi di tecnologie: quelle abilitanti e quelle sostituenti". Sul momento ho annuito e ho continuato a mangiare. Nei giorni dopo la frase ha cominciato a lavorarmi dentro, perché con l'intelligenza artificiale ci passo le giornate e la domanda si è fatta da sola: l'agentic coding da che parte sta? La prima risposta era comoda: abilitante, ovvio. I copilot della prima ora ti proponevano una riga e tu decidevi, come il mozzo che ti tiene la rotta mentre il timone resta in mano tua. Poi sono arrivati gli agenti, e il mozzo ha cominciato a prendere decisioni. Parecchie. E la risposta comoda ha smesso di bastarmi.

Il giorno in cui la faccenda ha smesso di essere teoria ha un canale Slack come scenario. Da noi ho scritto un sistema che gestisce le richieste di supporto interne tramite un agente. Un giorno gli arriva una richiesta grossa: aggiornare un migliaio di righe di un database. L'agente, che le sue salvaguardie ce le ha, fa la cosa giusta: davanti a un impatto così si rifiuta di procedere senza l'approvazione di un umano. Solo che, per un bug, lo script che presentava all'approvazione eseguiva uno statement SQL pescandolo da un link esterno rotto: il contenuto, invisibile. Il collega di turno, un software engineer, si ritrova davanti un "approvi?" su un comando che non può leggere. E preme approva. Il comando fallisce per motivi tecnici. E lui, invece di fermarsi a chiedersi perché, attacca il braccio di ferro: chiede al bot di riscrivere lo script, il bot glielo rifà ogni volta un po' diverso, sempre appeso allo stesso link rotto che lui non vede mai, lui rilancia, il bot rifà. Avanti così, a intestardirsi, finché desiste e chiama me.

La domanda pratica me la sono fatta subito: ma perché? Un Claude Code ce l'ha anche lui: bastava puntarlo al thread e dirgli "me lo scrivi tu sto script?", o anche solo "me le cambi tu ste righe?". Cinque minuti di delega fatta bene, contro le due ore di tiro alla fune che ci ha lasciato dentro. Ma era la domanda piccola. Quella grossa è arrivata dopo: cosa avevi approvato, esattamente? Se dentro quello statement ci fosse stato un drop database, la responsabilità era di chi ha schiacciato il bottone: la firma è la tua, sempre, l'agente propone e tu garantisci. E il collega quel bottone l'ha schiacciato su una scatola chiusa. (Prima di sorridere: quanti di noi impostano l'agente su "chiedimi il permesso prima di ogni comando", e poi premono invio a raffica, a occhi chiusi, come un tic?)

Il collega è bravo, e lo dico senza ironia: il mestiere lo sa fare. È che è una rana bollita. La storiella la conoscete? Butta una rana nell'acqua bollente e schizza fuori all'istante. Mettila nell'acqua tiepida e alza la fiamma un filo alla volta, e lei resta lì, comoda, si abitua a ogni grado in più, finché non è troppo tardi. Ecco il collega: ha preso una tecnologia che per lui era nata abilitante e se l'è fatta diventare sostituente per gradi, delegando prima le righe, poi le decisioni, poi il giudizio, fino ad accettare in blocco qualsiasi cosa lo strumento gli proponesse. Nessuno gliel'ha imposto. Nessun singolo passaggio gli è sembrato una resa. Ed è qui che la frase del mio amico mi si è rovesciata in mano: cercavo un catalogo di tecnologie, e invece le tecnologie sostituenti si fabbricano in casa. Una concessione alla volta.

E se il collega è la rana, il fornello chi ce l'ha? Le aziende che questi strumenti li costruiscono, e che hanno tutto l'interesse a farsi consegnare fiducia in fretta: interfacce che rassicurano, salvaguardie che sembrano controlli e lavorano da sonniferi, la promessa del collaboratore che fa tutto lui. La fiducia però è la merce sbagliata da regalare, perché è l'ultima che ci resta da vendere: davanti all'IA regge chi vende fiducia, e il collega quella merce la stava svendendo, un giro dopo l'altro. Il fornello scalda, questo sì. Ma le gambe per saltare fuori dalla pentola sono ancora le nostre.

La delega, sia chiaro, resta sacrosanta. Sono quello che quando l'agente è giù va a farsi una passeggiata, perché tornare a mano è correre con gli scarponi da sci: la pigrizia la rivendico, e il bello degli agenti sta proprio nel non fare più a mano le robe. Il distinguo è un altro, ed è tutto qui: una cosa è cedere lavoro, un'altra è cedere fiducia. Il lavoro ceduto te lo riprendi domani mattina; la fiducia ceduta si porta via il giudizio, e da lì la strada è quella del collega. Il termometro ce l'hai in casa: di quello che l'agente ti consegna, sai ancora perché funziona, o sai solo che funziona? Finché tieni il perché, la delega è reversibile e l'acqua è solo comoda. Quando ti basta che funziona, il rientro comincia a costare: prima fatica, poi stranezza, poi roba impensabile. L'intorpidimento, appunto: il passo prima della bollitura, quello in cui saltare sarebbe ancora possibile e già non ti va più.

La domanda da portarti a casa, allora, tienila per la prossima delega: salteresti ancora? La rana la uccide l'intorpidimento, mica la temperatura: finché le zampe rispondono, l'acqua è solo calda. Io in quel canale Slack una zampa ferma l'ho già vista. Tu, le tue, quando le hai mosse l'ultima volta?