Sii come la Pixar, non la NASA

Tutto iniziò alle 4:00 del mattino del 28 marzo 1979 a Three Mile Island, in Pennsylvania. Il reattore nucleare stava funzionando quasi a piena potenza quando un circuito di raffreddamento secondario ha funzionato male e ha influenzato la temperatura del refrigerante primario. Questo forte aumento della temperatura ha fatto sì che il reattore si spegnesse automaticamente. Nel secondo impiegato per disattivare il sistema del reattore, una valvola di sicurezza non si è chiusa. Il nucleo nucleare ha subito gravi danni, ma gli operatori non sono riusciti a diagnosticare o gestire l'arresto inaspettato del reattore nella foga del momento.

Il sociologo Charles Perrow in seguito analizzò il motivo dell'incidente di Three Mile Island, sperando di anticipare altri disastri a venire. Il risultato fu il suo libro fondamentale Normal Accidents. Il suo obiettivo, ha detto, era quello di "proporre un quadro per caratterizzare sistemi tecnologici complessi come il traffico aereo, il traffico marittimo, gli impianti chimici, le dighe e soprattutto le centrali nucleari in base alla loro rischiosità".

Un fattore era la complessità: quanti più componenti e interazioni sono presenti in un sistema, tanto più difficile è quando qualcosa va storto. La scala porta con sé la complessità, sia che si pensi alla tecnologia o all’organizzazione che la supporta. Immagina di gestire una start-up in cui tutti siedono nello stesso loft. Da dove ti siedi, puoi facilmente vedere cosa stanno facendo tutti. In una grande organizzazione, questa visibilità viene persa. Nel momento in cui un leader non riesce a vedere il funzionamento interno del sistema stesso – in questo caso, le attività del personale – la complessità aumenta.

Perrow ha associato questo tipo di complessità ai fallimenti tecnologici. A Three Mile Island, gli operatori non potevano semplicemente avvicinarsi al centro e misurare manualmente la temperatura o sbirciare all'interno per scoprire che non c'era abbastanza refrigerante. Allo stesso modo, i dirigenti di una grande azienda non possono monitorare costantemente tutti i dipendenti senza incorrere in risentimento. Devono fare affidamento su indicatori indiretti, come valutazioni delle prestazioni e risultati di vendita. Le grandi aziende fanno inoltre affidamento su tecnologie informatiche complesse e catene di fornitura complesse.

Un altro fattore, scrive Perrow, è l'accoppiamento del sistema: il livello di interdipendenza tra i suoi componenti. Quando i sistemi sono complessi e strettamente accoppiati, è più probabile che producano conseguenze negative inaspettate e vadano fuori controllo.

Perrow non ha incluso l’intelligenza artificiale (AI) e nemmeno il software tra le tecnologie di cui ha tracciato le interazioni. Ma utilizzando i criteri da lui stabiliti relativi al rischio tecnologico, i sistemi di intelligenza artificiale si inseriscono nel quadro di Perrow accanto alle centrali nucleari, alle missioni spaziali e al sequenziamento del DNA. Se alcuni elementi non funzionano secondo i piani, possono verificarsi effetti a cascata imprevisti che influenzano il sistema in modi del tutto inaspettati.

I sistemi strettamente accoppiati hanno architetture – tecnologiche e sociali – che promuovono l’interdipendenza tra i loro componenti e spesso l’isolamento dalla connessione esterna. Ciò li rende efficienti e autoprotettivi ma meno robusti.

I sistemi liberamente accoppiati, al contrario, hanno architetture più aperte e diversificate. Le modifiche apportate a un modulo, sezione o componente difficilmente influiscono sugli altri componenti. Ciascuno opera in qualche modo indipendentemente dagli altri. Un’architettura ad accoppiamento flessibile è facile da mantenere e scalare. È anche robusto, in quanto i problemi non si propagano facilmente ad altre parti del sistema.

I dirigenti che gestiscono grandi organizzazioni tendono a favorire un sistema strettamente vincolato. E' quello che sanno. Sono cresciuti nei loro settori vedendo un piccolo numero di persone prendere decisioni che riguardano milioni di persone. Ma i sistemi strettamente accoppiati possono essere più difficili da controllare. Pensa a un pavimento ricoperto di tessere del domino allineate. Quando ne rovesci uno, abbatterà, in sequenza, l'intera serie di tessere del domino: un semplice esempio di sistema strettamente accoppiato. Ora prova a fermarlo una volta che l'effetto domino è in movimento. È molto più difficile di quanto pensi.

Una grande azienda è generalmente anche un sistema strettamente vincolato, soprattutto se paragonato alle piccole imprese e ai rivenditori locali a conduzione familiare. Se hai un reclamo su un prodotto di un negozio all'angolo, puoi riprenderlo e loro lo prenderanno con calma, gestendolo in modo diverso per ciascun cliente. Hanno il controllo sulle loro azioni. Se lavorano in una grande azienda o in franchising, sono strettamente legati al branding e alle procedure di ampliamento dell'azienda, e tra loro. Coloro che vogliono operare in modo diverso dalle procedure standard devono contrastare la rete strettamente collegata.