It doesn’t really matter if the ghost is in the shell

Per tutto il tempo in cui abbiamo definito l’umanità, abbiamo usato l’intelligenza come proxy per ciò che significa essere umani.

Essere la specie più intelligente del pianeta è sempre stata una caratteristica distintiva degli umani.

Tuttavia, l’ascesa dell’intelligenza artificiale sfida questa assunzione e ci costringe a ripensare cosa significhi effettivamente essere umani.

Nello stesso modo in cui Nietzsche proclamò che Dio è morto è piuttosto chiaro che anche “umano” non si sta sentendo così bene.

L’ispirazione per questo pezzo viene da un episodio del podcast “Grandi Linee” di Breaking Italy, dove hanno discusso “Humanity’s Last Exam”, che è una serie di domande per valutare le prestazioni dell’IA.

Gli host (che amo davvero) hanno menzionato che il Test si concentrava esclusivamente sulla conoscenza e che dato il titolo si aspettavano un Test che si concentrasse sui tratti umani piuttosto che sulla conoscenza grezza e l’intelligenza, il che mi ha portato a riflettere su cosa significhi effettivamente essere umani, a rispondere che probabilmente è l’emozione e alla fine ad arrivare alla conclusione che le emozioni non sono un buon proxy per l’umanità.

Penso che la maggior parte delle persone creda che le emozioni umane siano il differenziatore ultimo tra umani e IA, ma penso che questa fede sia mal riposta.

L’ascesa dei grandi modelli linguistici dimostra che con abbastanza dati e intelligenza, l’IA può simulare le emozioni umane piuttosto bene. Questa capacità sta solo migliorando, e puoi avere discussioni realistiche ed emotive con IA che sembrano umane.

Ma quando porti avanti questo punto la risposta è sempre la stessa, ed è l’idea che l’IA, non importa quanto avanzata, non può davvero provare emozioni come fanno gli umani.

Questa prospettiva è fondamentalmente viziata nella mia opinione, non importa affatto se effettivamente sentono qualcosa.

Facciamo un passo indietro e decostruiamo le interazioni sociali per un secondo.

Quando interagiamo con gli altri, non abbiamo accesso al modello interno di altre persone, non abbiamo accesso al loro stato interno, solo a qualsiasi cosa proiettino consciamente e inconsciamente all’esterno.

Questo significa che ogni interazione è mediata da un’interfaccia di fiducia.

Facciamo affidamento sulla fiducia implicita che stiano essendo veritieri riguardo alle loro emozioni o, nel caso stiano ingannando, ingannando nella gamma delle capacità umane.

Assumiamo che l’esperienza interna della persona di fronte a noi sia abbastanza simile alla nostra e quindi un sorriso o una voce arrabbiata possano essere usati come proxy ragionevole per lo stato interno della persona.

Ma questo distrugge completamente la distinzione tra la simulazione e la cosa reale, significa che anche se un’IA sta solo simulando emozioni, non importa affatto, perché come umani nelle interazioni sociali, non possiamo distinguere tra emozioni perfettamente simulate e genuine.

Questo muro è caduto e la prossima soglia non è ancora chiara, è difficile chiedere cosa diventeremo quando ciò che siamo “noi” non è definito.

L’essenza dell’essere umani è ora qualcosa che deve essere discusso non solo nelle sale dei filosofi, ma nella vita quotidiana, perché darà forma agli anni a venire.