Tutti preoccupati che un'intelligenza superiore possa farci fuori entro il 2030; nessuno che attivi un neurone affinché la smettiamo di massacrare quelle inferiori alla nostra.

La paura ha una forma precisa: temiamo che un'entità più capace ci tratti come noi trattiamo chi è meno capace. Risorsa, ostacolo, materia prima. Non è una paura astratta, è una confessione: sappiamo cosa fa un'intelligenza dominante con chi non può opporsi, perché lo facciamo ogni giorno, ottanta miliardi di volte l'anno.

Il criterio con cui lo giustifichiamo è sempre lo stesso: sono meno intelligenti. Ma se l'intelligenza è la misura del diritto a non essere massacrati, allora la nostra paura dell'IA è perfettamente razionale: stiamo solo applicando a noi stessi la regola che abbiamo scritto. Se invece il criterio è la capacità di soffrire, allora vale in entrambe le direzioni, e non possiamo invocarlo solo quando i deboli siamo noi.

Non si può chiedere clemenza a chi sta sopra negandola a chi sta sotto. Si può, ma non è un principio morale: è una strategia di sopravvivenza, e le strategie le capisce benissimo anche una macchina.

E una macchina impara da noi, dai fatti più che dalle dichiarazioni. Il modo più credibile per insegnare a un'intelligenza superiore che la potenza non dà diritto di vita e di morte è comportarci così noi, adesso, finché i più forti siamo ancora noi.

Attivare un neurone chiede poco: accorgersi che la coerenza è la prima forma di intelligenza, e che finora l'abbiamo esercitata poco.