Menschen vertrauen der KI blind

Die Formulierungskünste von künstlicher Intelligenz (KI) schwächen das Urteilsvermögen und die menschliche Fähigkeit zum kritischen Denken. Zu diesem Schluss kommt der norwegische Medienwissenschaftler Petter Bae Brandtzæg von der Universität Oslo.

„Soziale Medien können wir weitgehend vermeiden, künstliche Intelligenz nicht“, unterstreicht der Forscher. „Die KI ist in soziale Medien ebenso integriert wie in Microsoft-Word, in Online-Zeitungen, E-Mail-Programmen und Ähnlichem. Wir alle werden zu Partnern der KI, ob wir wollen oder nicht.“ Die sozialen Auswirkungen der generativen KI seien ein relativ neues Forschungsgebiet. Dazu gebe es noch keine Theorien und kaum wissenschaftliche Konzepte.

Forscher führten kürzlich das Konzept des „KI-Individualismus“ ein. Es baut auf dem „Netzwerk-Individualismus“ auf. Das ist ein Rahmenkonzept, das Anfang der 2000er-Jahre eingeführt wurde. Dabei geht es darum, auszudrücken, wie es Smartphones, das Internet und soziale Medien den Menschen ermöglichen, soziale Netzwerke über Familie, Freunde und Nachbarn hinaus aufzubauen und anzupassen.

Der „vernetzte Individualismus“ zeigt, wie Technologie Grenzen aufhebt und personalisierte Netzwerke ermöglicht. „Mit KI verschwimmen die Grenzen zwischen Mensch und Systemen“, sagt Petter Bae Brandtzæg.

Brandtzæg analysierte die Beziehungen zwischen Mensch und KI anhand von KI-Chatbots wie etwa Replika. „KI verstärkt den Individualismus, indem sie autonomes Verhalten ermöglicht und unsere Abhängigkeit von den Menschen um uns herum verringert“, erklärt der Forscher. „Sie schwächen aber auch die Bindungen innerhalb einer Gemeinschaft.“ Eine Verlagerung hin zum KI-Individualismus könne soziale Kernstrukturen umbauen.

KI-generierte Inhalte verbreiten sich laut Brandtzæg überall – in öffentlichen Berichten, in der Forschung und in Enzyklopädien. „Wenn wir eine Google-Suche starten, erhalten wir eine KI-generierte Zusammenfassung. Alles wird mit einer Art KI-Schicht überzogen. Wir gehen davon aus, dass die Vorbildfunktion der sozialen KI zu Vorbildmonopolen führen kann, die das Denken und Verhalten der Menschen erheblich beeinflussen.“

Blinder Glaube. Brandtzæg und seine Kollegen werteten mehrere Studien aus und zeigten, dass Menschen zwar gerne behaupten, kritisch zu sein, aber den Ratschlägen der KI blind folgen. „Es ist das ers­te Mal in der Geschichte der Menschheit, dass wir mit einer Art allmächtiger Ins­tanz sprechen“, sagt der Forscher. „Das verleiht ihr eine beängstigende Macht. Wir glauben, dass wir uns im Dialog befinden, aber es ist eine einseitige Kommunikation“, oft mit Betrügern und Fake-News-Verbreitern. KI sei kein öffentliches, demokratisches Projekt. Es sei kommerziell, und dahinter stehen US-Unternehmen und Milliardäre.