Per decenni il cinema ci ha raccontato la stessa storia. Matrix, Terminator, 2001 Odissea nello spazio, sono tutti film in cui l'umanità si schiera contro macchine superintelligenti che a un certo punto le sfuggono di mano. Con l'arrivo di ChatGPT quella paura si è fatta un po’ più reale, alimentata dai toni allarmistici di alcuni leader della Silicon Valley. In realtà, però, il vero conflitto è un altro. Il racconto apocalittico trasforma una questione politica in una questione tecnologica, e così finiamo per discutere di robot killer mentre qualcuno sta già decidendo cosa gli algoritmi devono massimizzare nelle nostre vite.
Ma andiamo per gradi. Ogni sistema di intelligenza artificiale insegue un obiettivo deciso da qualcuno. Non esiste un algoritmo neutro che funziona per conto suo. C'è sempre una persona o un'azienda che ha stabilito cosa il sistema deve premiare e cosa invece deve ignorare. Gli algoritmi dei social network, per esempio, ogni giorno scelgono cosa farti vedere nel tuo feed. E funzionano benissimo, perché massimizzano esattamente quello per cui sono stati progettati, cioè farti passare più tempo sull'app, e i clic sulle pubblicità. E poco importa se per riuscirci promuovono contenuti divisivi o negativi. Il sistema sta facendo esattamente quello per cui è stato creato.
Questo spostamento di prospettiva ha diverse conseguenze pratiche. Se il problema è chi decide cosa la macchina deve ottimizzare, allora la soluzione passa dalle scelte collettive che facciamo come cittadini, lavoratori e consumatori. L'industria tecnologica ha tutto l'interesse a farci credere che l'intelligenza artificiale sia una materia troppo complicata per chi non è del mestiere. In questo modo, infatti, a decidere possono essere sempre meno persone. In realtà, i principi di base di questi sistemi sono accessibili a chiunque, senza bisogno di una laurea in informatica. E una volta capiti, partecipare al dibattito pubblico su come usarli diventa un diritto, oltre che un dovere.
