Un termostato che regola la temperatura in base alle tue abitudini. Il filtro antispam che impara a riconoscere messaggi indesiderati dai comportamenti. Un'app bancaria che blocca un pagamento perché identifica un'anomalia. L'assistente vocale che migliora nel comprendere i comandi man mano che lo usiamo. Sono tutti esempi di sistemi retroattivi: cicli in cui le decisioni fluiscono avanti e indietro tra umani e macchine. Noi agiamo, la macchina risponde, noi reagiamo alla risposta, la macchina impara dalla reazione. Un loop continuo.
Questo meccanismo ha un effetto particolare chiamato riflessività. I segnali digitali ritornano nel mondo fisico e innescano spirali di conseguenze. Gli algoritmi finanziari ad alta frequenza, per esempio, non si limitano a prevedere i prezzi delle azioni, li muovono direttamente. Nel 2010 hanno causato il "flash crash", un crollo improvviso dei mercati in pochi minuti. Sui social media accade qualcosa di simile. Un post riceve interazioni, l'algoritmo lo amplifica mostrandolo a più persone, queste interagiscono ulteriormente e il ciclo si espande fino a influenzare il dibattito pubblico o le decisioni politiche.
Nel mondo industriale, questi cicli retroattivi hanno già cambiato il funzionamento delle aziende. L'organizzazione gerarchica tradizionale lascia spazio a modelli adattivi, dove le decisioni emergono da continui flussi di dati. Per esempio, un magazzino automatizzato ridistribuisce le risorse in tempo reale. Un sistema di manutenzione predittiva decide quando intervenire, evitando guasti. Le aziende diventano organismi che sentono e reagiscono.
Le città seguono lo stesso percorso. Neom, il progetto urbanistico dell'Arabia Saudita, ne è un esempio. Pensata come "città cognitiva", Neom integra trasporti, energia, sicurezza e servizi pubblici in un'unica rete intelligente che apprende e si adatta agli abitanti. Il suo funzionamento dipende da flussi di informazioni che si aggiornano in tempo reale.
Questo tipo di ambienti portano con sé opportunità e rischi. Se da un lato aumentano la capacità di adattamento e liberano da molte incombenze, dall'altro riducono la libertà decisionale, spesso senza che neanche ce ne accorgiamo. Viene da chiedersi: quando un sistema semplifica una scelta, lo fa nel nostro interesse? E quali dati ha usato per deciderlo?
