Una riga d'inchiostro su un decreto firmato a Washington e l'intelligenza artificiale ha smesso di essere artificiale. Adesso, per decreto governativo, si chiama super intelligenza. Sembra una sfumatura da ufficio marketing, una di quelle giravolte linguistiche a cui i politici ci hanno abituato per venderci la solita minestra riscaldata. Invece è un gioco di prestigio pericoloso. Togliendo la parola artificiale abbiamo rimosso il peccato originale della macchina: l'essere finta, una copia, un simulacro. L'abbiamo promossa sul campo a intelligenza vera. Anzi, suprema.
La narrazione ufficiale, quella che serve a far digerire i bilanci miliardari ai contribuenti, promette miracoli. La super intelligenza curerà il cancro, raddrizzerà il clima, scoverà la formula della giovinezza e farà quadrare i conti della spesa pubblica. Tutto bellissimo. C'è solo un piccolo dettaglio che i nostri amministratori sembrano ignorare mentre firmano queste carte nei loro uffici riscaldati alle tre del pomeriggio. Se questa tecnologia risolve i problemi che noi, poveri umani con il cervello biologico, non siamo mai riusciti a decifrare, allora per definizione è più intelligente di noi. Non è un assistente veloce. È un'entità superiore.
Qui casca l'asino, e con lui tutta la nostra presunzione. Abbiamo costruito questo giocattolo pensando di assumere un maggiordomo ubbidiente, qualcuno che pulisce i pavimenti di dati mentre noi ci dedichiamo ad attività più nobili. O forse no, forse volevo dire che speravamo solo di lavorare meno. Ma se il maggiordomo capisce le regole del condominio meglio del proprietario, se ne anticipa le mosse e ne gestisce le finanze, chi serve chi? Il dubbio mi viene ogni volta che guardo qualcuno camminare per strada con la testa piegata sul telefono, guidato da un algoritmo che gli dice dove svoltare per evitare il traffico. Chi sta portando a spasso chi?
Siamo terrorizzati dall'idea di perdere il controllo, eppure facciamo di tutto per delegarlo. Ci illudiamo che basti possedere il codice sorgente per mantenere la supremazia. Ma la vera supremazia non si misura in righe di codice o in server farm in Islanda. Si misura nella capacità di dare un senso alle cose. Quando rinunciamo a pensare, quando abdichiamo alla fatica di decidere, stiamo spegnendo i nostri Super Poteri interiori. Penso soprattutto a Usare la forza, quel superpotere che ci permette di perseguire propositi nobili non perché calcolati da un software come efficienti, ma perché sentiti come giusti, profondamente umani.
Nessun algoritmo, per quanto supremo lo dichiari un presidente americano, potrà mai provare l'attrito morale di una scelta difficile. La macchina calcola la rotta ottimale; non sa cosa significhi deviare per salvare qualcuno a costo di perdere la gara. Se smettiamo di esercitare questa complessità emotiva, se smettiamo di allenare la nostra intelligenza umana fatta di carne, errori e intuizioni improvvise, allora il sorpasso è già avvenuto. E non avremo nemmeno bisogno di un esercito di robot per accorgercene. Ci basterà guardarci allo specchio mentre aspettiamo che un'applicazione ci dica se siamo felici.
La tecnologia rimarrà al nostro servizio solo se saremo abbastanza forti da non averne bisogno per definire chi siamo. Altrimenti, prepariamoci a stirare la livrea.