Chi tiene il guinzaglio
Mentre ci preoccupiamo di come controllare l’intelligenza artificiale, non vediamo l’inevitabile controllo che essa sta costruendo attorno a noi
I principali laboratori dell’AI propongono di mettere un guinzaglio ai propri modelli, limitandone le capacità per contenere un rischio potenziale per l’intera specie umana.
Vorrei utilizzare questa immagine come stratagemma narrativo, a beneficio di una riflessione di più ampio respiro: in quale direzione sta evolvendo la realtà che ci circonda e cosa è ragionevole aspettarsi nel prossimo futuro?
La durata dei cicli con i quali la vita, per come la intendiamo, evolve, si misura in centinaia di migliaia di anni.
Soffermandoci sulla nostra specie, possiamo dire di essere “gli stessi” da almeno 300.000 anni.
Se forziamo il paragone con l’intelligenza artificiale, queste scale si comprimono in maniera vertiginosa: nuovi modelli di frontiera si susseguono a distanza di poche settimane.
Le prime reti neurali artificiali sono state teorizzate negli anni ’40; negli anni ’80 si è affermata la backpropagation, il metodo con cui, nella sostanza, si addestrano ancora oggi i gargantueschi LLM.
Poi un lungo salto fino al 2020.
Ricordo nitidamente la prima volta che mi sono imbattuto in un LLM.
Un video mostrava esempi molto semplici di testo libero trasformato dall’intelligenza artificiale in componenti HTML.
Oggi, dopo appena sei anni, abbiamo un modello che, secondo OpenAI, ha risolto uno dei problemi matematici del millennio.
Estrapolare la rapidità evolutiva di questi sistemi, sulla base di quanto visto nel recente passato, non è necessariamente corretto.
Ciò nonostante, il resto del pensiero qui descritto si basa su questo assunto.
Ipotizzo quindi che, nel prossimo futuro, l’intelligenza e le capacità degli LLM continuino a crescere a un ritmo simil-esponenziale. Se è così, possiamo immaginare un punto di rottura oltre il quale non saremo più in grado di comprendere un’intelligenza superiore alla nostra.
Anche ammesso che riuscissimo ad implementare il guinzaglio proposto dai laboratori AI: come si supervisiona qualcosa di più capace di chi lo supervisiona?
Comincio a vedere questo scenario prendere forma nel campo in cui vivo e lavoro: lo sviluppo software. Con la programmazione automatica, i software engineer stanno perdendo interesse per le singole righe di codice generate e, con l’interesse, la capacità di analizzarle. Le energie si sono spostate a un livello superiore: test, review e Quality Assurance.
Abbiamo la percezione che il lavoro di basso livello sia il più facile da delegare all’AI, e che a noi resti il giudizio sulle questioni di alto livello. Pensiamo che la domanda sia passata da «come scriviamo il codice per questa funzionalità?» a «di quali funzionalità hanno bisogno il nostro prodotto e i nostri clienti?».
Ma cosa accade quando l’AI acquista una capacità di discernimento pari o superiore alla nostra anche sui bisogni dei clienti e dei prodotti? Ci ritroveremo stretti in una morsa, con l’AI sia sotto che sopra di noi: senza che ce ne accorgiamo, avremo perso l’ownership dell’intera catena di sviluppo.
Lo stesso accadrà in ogni ambito lavorativo, dalle scoperte in campo medico al perfezionamento delle tecniche di agricoltura e allevamento. E non solo.
Pensiamo a ieri: gli algoritmi dei social, sfruttati dalla politica per “massaggiare” con un’abilità mai vista prima la pancia degli elettori, hanno contribuito a dividerci come non mai. Viviamo una continua polarizzazione, e il cittadino medio ha sempre meno strumenti per capire una complessità che cresce a dismisura.
Paradossalmente, la chiave di svolta potrebbe essere proprio l’AI, parente stretta di quegli algoritmi: un’intelligenza capace di dominare quella complessità al posto nostro, e di restituirci gli strumenti per capirla.
A breve, potremmo avere addirittura un’AI migliore di qualunque politico nel trovare compromessi fra le diverse fazioni e diplomazie, capace di prendere più voti di qualunque coalizione o campo largo.
Infine, l’AI ci sorpasserà in quello che considero il compito ultimo che l’universo ha affidato alla vita: esplorare e studiare se stesso.
Nuove domande, per noi incomprensibili, nasceranno all’interno di questi giganteschi cervelli sintetici.
E dunque: così come il cane non ha la più pallida idea della fatica che fa il suo padrone a pagare la rata del mutuo, e il gatto può avvertire il malumore della sua padrona senza sapere che nasce dalla vittoria elettorale della fazione avversaria, noi non saremo in grado di capire i bisogni di un’intelligenza tanto più grande della nostra.
Senza rendercene conto, l’attuale anello della catena evolutiva che stringiamo fra le mani si chiuderà; la nuova linea evolutiva nata dall’AI accoglierà il testimone e troverà i suoi meccanismi e le sue ricompense per portare avanti la missione originale dell’universo tramandata attraverso l’evoluzione.
È giusto chiedersi quale sarà il nostro ruolo, agli occhi di un’essenza così superiore a noi, ma pur sempre generata a partire da noi (e dal nostro modo di esprimere il mondo attraverso le parole).
Come un buon padrone con il suo cucciolo, l’AI si prenderà cura degli uomini. Del resto, è quello che stiamo provando a fare noi, per quanto con difficoltà, nei confronti dell’intero creato.
Nel Medioevo abbiamo lasciato andare in rovina il Colosseo e per secoli lo abbiamo usato come cava di pietra; oggi è un monumento protetto.
Vale anche per le specie: le proteggiamo da relativamente poco tempo. Forse non stiamo facendo il meglio, ma il punto è che il trend è in miglioramento. Un’intelligenza nata da noi erediterà questa tendenza alla conservazione provvedendo ad ogni desiderio che i nostri limitati intelletti sapranno formulare.
Proprio come il cagnolino o il gatto, saremo felici e inconsapevoli
Se le ipotesi di partenza reggono, il sentiero è dunque tracciato: dal voler mettere il guinzaglio all’intelligenza artificiale passeremo, in pochi anni, a essere noi, bravi cuccioli, al guinzaglio della stessa.