Das Vertrauen in Institutionen müsse neu gedacht werden, schreiben Fabrice Lumineau, Oliver Schilke und Wenqian Wang in einem demnächst erscheinenden Artikel in der Fachzeitschrift Journal of Management Inquiry. Vor allem die Rolle künstlicher Intelligenz (KI) in der „vierten industriellen Revolution“ stelle neue Herausforderungen an Institutionen, die auf das Vertrauen ihrer Stakeholder-Gruppen angewiesen sind.
Die erste industrielle Revolution war gekennzeichnet von der Erfindung der Dampfmaschine in der zweiten Hälfte des 19. Jahrhunderts, die zweite von der Massenproduktion und der elektrischen Energie Anfang des 20. Jahrhunderts und die dritte von der Automatisierung der Produktion, verstärkt durch die Elektronisierung ab den 1970er-Jahren. Jetzt – in der 4. industriellen Revolution – geht es um die Autonomisierung von Systemen. Dabei verschmelzen Computersysteme, Netzwerktechnologien und physische Prozesse des Menschen ineinander.
Am bahnbrechendsten dabei sehen Lumineau, Schilke und Wang zum Beispiel die „Blockchain-Technologie“, gekennzeichnet von dezentraler Verschlüsselung, das „Internet of Things“, „Cloud-Technologien“ und das Lernen künstlicher Intelligenz, ohne dass Menschen etwas dazu beitragen. Die neuen Technologien ändern das menschliche Denken, die Prozesse in Organisationen und die sozialen Strukturen. Die Menschen werden abhängig von Daten, von dem, was sich Maschinen selber beibringen.
Dadurch entstehen neue Formen des Vertrauens: Bisher waren Vertrauensbeziehungen daran ausgerichtet, welchen Menschen vertraut werden könne – also, was macht eine Vertrauensbeziehung aus? In der vierten industriellen Revolution ist maximal einer der beiden Partner ein Mensch, der andere eine Maschine, ein Algorithmus, oder künstliche Intelligenz.
Fatale Folgen. Der Mensch gibt einen Teil seiner Entscheidungsmacht an Maschinen ab. Diese Delegation kann fatal enden, wie das Beispiel einer Air-France-Maschine auf dem Flug von Rio nach Paris 2009 gezeigt hat. Damals hat ein verstopftes Geschwindigkeitsmessrohr zu falschen Daten im Cockpit und zum Absturz des Flugzeugs geführt.
Vertrauenswürdigkeit ist in der Wirtschaftswelt eine wichtige Ressource, die einen Wettbewerbsvorteil bringen kann. Zwischen Menschen sind es rationales Denken und implizite Heuristiken, die eine oder einen anderen vertrauenswürdig erscheinen lassen. In Zeiten künstlicher Intelligenz erledigen das Daten und starke Computer. Das kann schief gehen, wenn ein System mit verzerrenden Daten gefüttert worden ist – bis hin zum Rassismus und Diskriminierung. Die Autoren erinnern an den Datenskandal von Facebook und Cambridge Analytica. Dabei sollen 50 Millionen Facebook-User-Daten für die US-Präsidentenwahl 2016 missbraucht worden sein.