Op zondagavond 31 mei 2009 om drie over zeven in de avond vertrekt vlucht AF447 vanaf de luchthaven van Rio de Janeiro. Het vliegtuig komt echter nooit aan op zijn eindbestemming Parijs. Al snel wordt duidelijk dat het vliegtuig in de Atlantische Oceaan is gestort, maar omdat de zwarte dozen niet worden gevonden blijft het een mysterie wat er precies is gebeurd. Pas twee jaar later worden deze eindelijk opgedoken.
Uit de gegevens blijkt dat de snelheidsmeters tegenstrijdige informatie aangaven. Hierdoor schakelde de automatische piloot uit en moesten de piloten plotseling zelf het vliegtuig besturen. Er ontstond verwarring tussen de twee co-piloten. De jongste en minst ervaren van de twee reageerde door het toestel te laten klimmen zonder dit aan zijn collega te laten weten.
Het vliegtuig kwam in een overtrek (stall) terecht, maar de piloten hadden dat niet door en hadden moeite om alle alarmsignalen en berichten goed te interpreteren. Het vliegtuig verloor steeds meer snelheid en begon in rap tempo te dalen. De ervaren gezagvoerder die op dat moment lag te rusten, werd te laat gealarmeerd en het toestel stortte in zee, waarbij alle 228 inzittenden omkwamen.
Het complacency-fenomeen
De piloten vertrouwden veel te veel op de automatische piloot en bleken daarnaast niet goed te weten hoe ze moesten handelen in een dergelijke crisissituatie. Toen ze de besturing zelf over moesten nemen, lukte het hen daardoor niet om juist te reageren met alle desastreuze gevolgen van dien.
Dit fenomeen wordt in de luchtvaart complacency genoemd en in het Nederlands meestal vertaald als zelfgenoegzaamheid. Het ontstaat wanneer taken routine worden, mensen te veel gaan vertrouwen op systemen of ervan uit wordt gegaan dat alles functioneert zoals verwacht. Deze mentaliteit kan leiden tot kritische vergissingen, vertraagde reacties of beoordelingsfouten, die gevaarlijke of zelfs fatale gevolgen kunnen hebben.
Complacency in het bedrijfsleven
Complacency beperkt zich niet alleen tot de luchtvaart en komt ook in het bedrijfsleven voor. Ook grote, succesvolle organisaties ontsnappen niet aan het gevaar zelfgenoegzaam te worden door te blijven vertrouwen op verouderde strategieën, zonder zich aan te passen aan nieuwe marktontwikkelingen of technologische veranderingen.
Wereldberoemde voorbeelden zijn natuurlijk Kodak, Nokia en Blackberry. Maar ook dichter bij huis liggen de voorbeelden voor het oprapen. Zo moest Philips, die wereldwijd een leidende rol had in de consumentenelektronica en daarin zeer innovatief was, deze divisie uiteindelijk afstoten. Ze vertrouwde te veel op haar sterke merkreputatie en bestaande producten en reageerde daardoor veel te laat op opkomende digitale technologieën en waarop haar concurrenten wel sneller anticipeerden.
In 2018 raakte ING verwikkeld in een groot witwasschandaal. Omdat de bank jarenlang onvoldoende maatregelen had genomen om verdachte geldstromen te voorkomen en op te sporen, konden criminelen via de bank ongelimiteerd geld witwassen. De bank vertrouwde te veel op de goede intenties van klanten en wist dat hun controle processen niet goed op orde waren.
Maar in plaats van zich te richten op deze risico’s, werd de prioriteit gegeven aan commerciële groei. Het kostte de bank uiteindelijk 775 miljoen euro om de zaak te schikken met het Openbaar Ministerie.
Adviezen in de wind slaan
Al in de jaren 80 en 90 waren er medewerkers en technici binnen Philips Research die het belang van digitale technologie en software onderkenden. Zij deden voorstellen om in te spelen op nieuwe digitale mogelijkheden en de opkomst van de personal computer en internettechnologie, maar die werden in de wind geslagen.
En alhoewel het onbekend is of er bij ING-medewerkers aan de bel hebben getrokken over de wantoestanden, zijn er in de nasleep van het schandaal wel maatregelen genomen om meldingen van mogelijke misstanden binnen de bank te vergemakkelijken.
De kennis zit in je organisatie
Eigenlijk is het als organisatie vrij eenvoudig om je te weren tegen inkakken. Dat is namelijk door simpelweg te luisteren naar de signalen en suggesties van je medewerkers. Want de kennis blijkt nagenoeg altijd aanwezig in je organisatie. Dat vraagt van de leiders slechts om de soms schijnbaar rare, gekke ideeën niet direct weg te wuiven, maar er juist naar te luisteren en er dan ook nog iets mee te doen.
Lees ook: Hoe komt het toch dat managers niet naar hun medewerkers willen luisteren?
Helaas hebben managers maar al te vaak het idee dat het wel los zal lopen of dat de risico’s gering zijn, waardoor ze op de automatische piloot blijven handelen en de situatie van kwaad tot erger gaat. Dus koester het als mensen met je meedenken en doe daar wat mee.
Laat AI niet voor je nadenken
Met de opkomst van kunstmatige intelligentie (AI) groeit het risico op complacency in organisaties ook. AI kan veel meerwaarde voor je organisatie hebben, maar het maakt het risico ook groter dat mensen steeds minder zelf kritisch nadenken en minder scherp worden.
Mensen hebben namelijk de neiging om beslissingen van geautomatiseerde systemen minder snel ter discussie te stellen (de zogenoemde automation bias). Ook werken veel AI-modellen (zoals deep learning) als een black box, waardoor beslissingen moeilijk te verklaren zijn. Dit gebrek aan transparantie kan leiden tot minder actieve monitoring, omdat medewerkers aannemen dat de AI het ‘wel zal weten’.
In veel organisaties ligt de focus op efficiency en wordt AI geïntroduceerd om processen te automatiseren en kosten te besparen. Maar door menselijke controles of audits te verminderen, neemt ook het risico toe dat je organisatie inkakt en langzaam van de rails afloopt zonder dat je dat tijdig in de gaten hebt.
Leun dus niet te veel op AI, gebruik het in je voordeel. Maar blijf vooral altijd kritisch nadenken en wees waakzaam als de ‘computer says no‘!
Lees ook: AI is geen wondermiddel: 6 nuchtere lessen voor managers
