Religionen, Traditionen, Kulturen, Glaubenssätze, Sozialnormen, Werte, Ideologien: dies alles sind von Menschen in die Welt gesetzte und gelebte Fiktionen. Sie ermöglichen Kooperationen zwischen Personen ohne persönlichen Bezug. Die Prädisposition zum "Storybelieving" unterscheidet den Menschen von der Tierwelt und zählt zu den entscheidendsten menschlichen Evolutionsmechanismen.
Derlei Fiktionen zeichnen sich dadurch aus, dass sie dem Wahrheitsund Richtigkeitsbeweis nicht zugänglich bzw. sogar offensichtlich fiktiv sind, dass sie geglaubt und gelebt werden, selbst wenn sie nicht rechtsverbindlich sind, und dass sie disruptives Potential entfalten können, ohne notwendigerweise als solche gegen Rechtsnormen zu verstoßen. Soweit solche Fiktionen nicht rechtswidrig sind, ist der Glaube an sie wie auch ihr Infragestellen z. T. sogar (grund)rechtlich geschützt.
Durch die globale Vernetzung von Menschen auf Online-Plattformen sowie durch KI generierte Inhalte haben wir es mit einer neuen Dimension an Möglichkeiten zu tun, gesellschaftsrelevante Narrative in die Welt zu setzen und bisherige in Frage zu stellen. Dies birgt disruptives Potential, indem es zum Zusammenbruch kooperierender bzw. zur Entstehung neuer (Glaubens-)Gemeinschaften führen kann.
Risikiominderungspflichten
Der EU-Gesetzgeber positioniert sich zu dieser Herausforderung, indem er im Digital Service Act als systemisches Risiko sogenannter "sehr großer Online-Plattformen" abseits der Verbreitung rechtswidriger Inhalte u. a. (absehbare) nachteilige Auswirkungen auf die Grundrechte, die gesellschaftliche Debatte, Wahlprozesse, die öffentliche Sicherheit sowie schwere nachteilige Folgen für das persönliche Wohlbefinden definiert. Die Anbieter sind unter besonderer Beachtung der Grundrechte verpflichtet, solche Risiken zu identifizieren und angemessen zu minimieren. Soweit es sich um eine Interaktion bzw. um generierte Inhalte eines KI-Systems handelt, sind im AI Act z. T. umfassende Transparenz- und Offenlegungspflichten vorgesehen. Für die Nutzer (nicht jedoch keiner Person zuordenbare KI-Bots) bedeutet dies, dass ein Plattform-Anbieter unter Beachtung ihrer Grundrechte das pluralistische Entstehen von neuen und das Infragestellen von etablierten Narrativen innerhalb der rechtlichen Schranken (auch unter Einsatz von KI) zu gewährleisten hat. Sofern es allerdings dadurch zu systemischen Risken für die Gesellschaft, die öffentliche Sicherheit oder die mentale Gesundheit kommen kann, haben Plattform-Anbieter diese durch entsprechende Maßnahmen zu mindern, was sich als gleichsam bedeutsam wie schwierig erweisen kann.
Dieser Text erschien erstmals im Austria Innovativ 3/24.
Autor
