Foto: kilarov zaneit

„Es braucht eine stärkere Stimme für Zivilgesellschaft und Politik im Algorithmendiskurs“

Wie berichten deutsche Medien über Algorithmen und künstliche Intelligenz? Eine Diskursanalyse zeigt, dass wirtschaftliche Themen dominieren. Sarah Fischer von der Bertelsmann Stiftung spricht darüber, welche Perspektiven fehlen und wie diese gestärkt werden könnten. 

Warum ist es aus Ihrer Sicht wichtig, den Mediendiskurs zu Themen wie künstlicher Intelligenz und Algorithmen zu erforschen? 

Medien nehmen bei der Einführung von neuen Technologien eine doppelte Funktion für die öffentliche Meinungsbildung ein. Zum einen bieten sie eine Plattform für verschiedene Akteur*innen, die ihre Perspektiven einbringen können. Zum anderen beeinflussen sie durch die Themensetzung die Meinung und letztendlich die Akzeptanz der Bevölkerung gegenüber den Technologien. Das ist gerade bei Themen so, die schwer greifbar sind und die wir im Alltag nicht so richtig erfahren können – was bei KI und Algorithmen der Fall ist. Allerdings ist beides längst Teil unseres Alltags. Deswegen ist es wichtig, dass durch den medialen Diskurs jede*r ein grundlegendes Verständnis davon bekommt, wo Algorithmen eingesetzt werden und welche Folgen das haben kann.

In einer Studie haben Sie untersucht, was Menschen in Deutschland über das Thema wissen. Was ist dabei herausgekommen?

Sarah Fischer arbeitet als Projektmanagerin für das Projekt „Ethik der Algorithmen“ im Programm „Digitalisierung und Gemeinwohl“ bei der Bertelsmann Stiftung und war unter anderem an einer Diskursanalyse über Algorithmen und KI in deutschen Medien beteiligt. Im Graduiertenkolleg „Vertrauen und Kommunikation in einer digitalisierten Welt“ hat die Kommunikationswissenschaftlerin mit einer Arbeit zum Thema „Vertrauen in Gesundheitsangebote im Internet“ promoviert. Foto: Kai Uwe Oesterhelweg

In einer repräsentativen Umfrage, die wir vor Kurzem veröffentlicht haben, zeigte sich, dass die Menschen in Deutschland nur relativ wenig über Algorithmen und künstliche Intelligenz wissen und ihre Folgen kaum einschätzen können. Nur 16 Prozent der Befragten wussten recht genau, wie Algorithmen funktionieren, fast die Hälfte wusste ungefähr Bescheid und ein Fünftel wusste kaum etwas. Zudem war fast die Hälfte der Befragten (45 Prozent) unentschlossen, ob Algorithmen mehr Chancen oder Risiken mit sich bringen. 

Im vergangenen Jahr haben Sie untersucht, wie deutsche Medien zwischen 2005 und 2020 über Algorithmen und künstliche Intelligenz berichtet haben. Was genau haben Sie sich angeschaut?  

Wir haben uns verschiedene Perspektiven des Diskurses angeschaut, welche Themen diskutiert werden, welche Akteur*innen vorkommen und wie sich die Themen in den letzten 15 Jahren verändert haben. Außerdem haben wir uns den Tenor der Berichterstattung angeguckt und welche Problemfelder und Lösungsansätze diskutiert werden. Wir haben uns dabei vor allem auf überregionale Zeitungen fokussiert, weil wir angenommen haben, dass diese eher über solche fachlichen Themen berichten als regionale Medien. Aber da der Diskurs nicht ausschließlich in der Presse stattfindet, haben wir uns auch ausgewählte Fachblogs, Webseiten und einschlägige Twitter-Accounts angeguckt, die das Thema aufgreifen. 

Wie sind Sie bei Ihrer Untersuchung vorgegangen? 

„Die Analyse hat gezeigt, dass wirtschaftliche Themen in Bezug auf KI und Algorithmen deutlich hervorstechen, während gesellschaftliche Themen vernachlässigt werden.“ Sarah Fischer
Wir haben uns für eine Methodenkombination aus einer computergestützten und einer händischen quantitativen Inhaltsanalyse entschieden – mit dem Ziel, den Diskurs sowohl in der Breite als auch in der Tiefe abdecken zu können. Mit der computergestützten Inhaltsanalyse wollten wir den großen Datensatz untersuchen, die Themen des Diskurses aufzeigen und ermitteln, wie diese im Zeitverlauf dargestellt werden. Dabei hat ein Algorithmus in über 18.000 Texten nach Mustern gesucht, in denen bestimmte Wörter zusammen auftauchen und daraus Themen gebildet, zum Beispiel Wörter, die mit Algorithmen in der Arbeitswelt zu tun haben oder mit künstlicher Intelligenz im Bildungs- oder Gesundheitsbereich. Mit der händischen Inhaltsanalyse konnten wir komplexere Kategorien darstellen – wie zum Beispiel die Akteur*innen, den Tenor oder die Darstellung von Chancen und Risiken. Bei dieser Analyse haben sich zwei Coder*innen eine kleinere Zufallsstichprobe an Artikeln und Tweets angesehen und festgehalten, welche Kategorien wie oft vorkommen.   

Worüber wird berichtet? Und wie hat sich das zwischen 2005 und 2020 verändert? 

Die Analyse hat gezeigt, dass wirtschaftliche Themen in Bezug auf KI und Algorithmen deutlich hervorstechen, während gesellschaftliche Themen vernachlässigt werden. Einzelne wirtschaftliche Themen wie zum Beispiel die Berichterstattung über Google, Facebook oder den internationalen Wettbewerb um die „Vorherrschaft“ bei KI-Entwicklung und Einsatz zwischen den USA, China und Europa tauchen doppelt so häufig auf wie einzelne gesellschaftliche Themen – zum Beispiel Bildung, Demokratie oder Gesundheit. Grundsätzlich kann man sagen, dass die Relevanz des Themas künstliche Intelligenz und Algorithmen seit 2010 stark angestiegen ist und dass die Berichterstattung seit 2018 noch einmal zugenommen hat. Man sieht, dass die gesellschaftspolitischen Themen sogar zwischen 2005 und 2020 eher an Relevanz abgenommen , während wirtschaftliche Themen an Relevanz gewonnen haben. Es zeigt sich, dass das Thema Wissenschaft und Forschung früher sehr präsent war. Diese Berichterstattung über Projekte im Bereich künstliche Intelligenz und Medizin oder Physik hat im Zeitverlauf stark abgenommen, während der internationale Wettbewerb als Thema stark an Relevanz gewonnen hat. 

Welche Perspektiven fehlen im Diskurs? Können Sie Beispiele nennen?

Die gemeinwohlorientierte Perspektive kommt deutlich zu kurz. Algorithmen werden in vielen Bereichen eingesetzt, die das Leben von Menschen beeinflussen. Das ist zum Beispiel im Personalwesen der Fall, wo sie verwendet werden, um Bewerber*innen auszuwählen oder Bewerbungsinterviews zu analysieren. Algorithmen werden auch im medizinischen Bereich eingesetzt und analysieren zum Beispiel Bilddaten. Sie werden auch genutzt, um die Versorgung von Intensivpatienten zu verbessern. Über solche Themen aus dem Berufs-, Bildung- oder Gesundheitsbereich wird jedoch selten berichtet. 

Welche Akteur*innen kommen im Diskurs zu Wort?

„Die Wirtschaft ist besser darin, ihre Interessen im Diskurs durchzusetzen. Sie kann agiler auf Themen reagieren und verfügt über eine höhere KI-Kompetenz.“ Sarah Fischer
Bei den Akteur*innen ist es ähnlich wie bei den Themen. Vor allem kommen wirtschaftliche Akteur*innen zu Wort und internationale wirtschaftliche Akteur*innen wie Facebook oder Google werden besonders häufig erwähnt. Zivilgesellschaftliche Akteur*innen, etwa Wächterorganisationen wie zum Beispiel AlgorithmWatch und Wohlfahrtsverbände, die bereits Algorithmen einsetzen, werden hingegen deutlich seltener genannt und zitiert. 

Was zeigt die Untersuchung des Tenors? Wie berichten Medien über Algorithmen und künstliche Intelligenz?

Unsere Analyse hat gezeigt, dass überwiegend positiv über Algorithmen und künstliche Intelligenz berichtet wird. Das hängt mit der wirtschaftlichen Perspektive zusammen. Denn dabei stehen ökonomische Chancen im Vordergrund, eine positive Fortschrittsvision, Effizienzsteigerung oder Erleichterungen, die das alltägliche Leben verbessern.

Der positive Tenor hängt auch mit den auftretenden Akteur*innen zusammen. Die Wirtschaft ist besser darin, ihre Interessen im Diskurs durchzusetzen. Sie kann agiler auf Themen reagieren und verfügt über eine höhere KI-Kompetenz. In Politik und Zivilgesellschaft ist diese noch nicht sehr stark ausgeprägt. Zivilgesellschaftliche Akteur*innen reagieren langsamer und sind nicht so kommunikationsstark, wenn es darum geht, ihre Perspektiven im Diskurs einzubringen. Deshalb ist es besonders wichtig, dass Kompetenzen gestärkt und die Stimmen von Zivilgesellschaft und der Politik lauter werden, damit neben der wirtschaftlichen Perspektive auch die gemeinwohlorientierte stärker vorkommt.

„trotz des positiven Tenors werden durchaus Problemfelder und Risiken wie mangelnde Aufsicht und Transparenz oder Datenschutzfragen thematisiert.“ Sarah Fischer

Werden auch Probleme thematisiert? 

Ja, trotz des positiven Tenors werden durchaus Problemfelder und Risiken wie mangelnde Aufsicht und Transparenz oder Datenschutzfragen thematisiert. In einem Drittel der Texte werden auch Lösungsansätze diskutiert. Dabei zeigt sich, dass vor allem der Kompetenzaufbau der Bevölkerung beim Umgang mit Algorithmen und künstlicher Intelligenz genannt wird. Es ist natürlich notwendig, dass sowohl in der Gesamtbevölkerung als auch im öffentlichen Sektor und der Zivilgesellschaft ein grundlegendes Verständnis von Algorithmen und KI aufgebaut wird. Aber natürlich ist das nicht die einzige Lösung. Weitere wichtige Ansätze, die jedoch seltener thematisiert werden, sind die Forderung nach einer breiten gesellschaftlichen Debatte sowie nach mehr Aufsicht und Kontrolle.

Was könnte dazu beitragen, dass vielfältigere gesellschaftliche Perspektiven im Diskurs Gehör finden? 

Gerade in den letzten Jahren gibt es von deutscher und europäischer Seite vielfältige Bestrebungen, stärkere Kontrollmechanismen und Aufsicht für Algorithmen und KI einzuführen,, etwa die Arbeit der Datenethikkommission und die KI-Strategie der Bundesregierung in Deutschland oder der momentan diskutierte europäische Aufschlag für eine KI-Verordnung, der einheitliche Regeln für den europäischen Binnenmarkt schaffen soll und zum Beispiel Risikoanalysen für gesellschaftlich folgenreiche Systeme vorsieht Diese Entwicklungen sollten mehr Eingang in die öffentliche Debatte finden. 

Medien berichten häufig über Produkt- und Anwendungsneuheiten für KI. Sie sind gefragt,  häufiger den Einsatz von Algorithmen und KI in gemeinwohlrelevanten Bereichen wie zum Beispiel Bildung oder Gesundheit zu thematisieren und ihn als Querschnittsthema in allen Ressorts zu behandeln. Politische Diskussionen hingegen, die sich kritisch mit der Anwendung und den gesellschaftlichen Folgen von KI auseinandersetzen, tauchen in der Berichterstattung nicht häufig auf. Hier gilt es, Politiker*innen und Akteur*innen aus der Zivilgesellschaft reaktionsschneller und kommunikationsstärker zu machen. Es braucht eine stärkere Stimme für Zivilgesellschaft und Politik im Algorithmendiskurs.

Welche Unterschiede zeigen sich zwischen verschiedenen Medien? 

Vor allem hat sich gezeigt, dass der insgesamt positive Tenor in Bezug auf KI und Algorithmen auf Twitter noch ein bisschen positiver war als in der Presse und den Fachblogs. Ansonsten haben wir gesehen, dass einzelne Zeitungen unterschiedlich berichten, was die Schwerpunkte der Themen und den Tenor angeht. Die BILD-Zeitung berichtete tendenziell positiver über das Thema als andere Zeitungen. Das Handelsblatt konzentrierte sich erwartungsgemäß häufig auf wirtschaftsnahe Themen, die Frankfurter Allgemeine Zeitung und die BILD-Zeitung hatten Algorithmen in sozialen Medien bzw. Alltagsassistenzsysteme als Schwerpunkt und die Süddeutsche Zeitung und die ZEIT berichteten häufiger als andere Medien über die Bereiche Medizin und Bildung. 

Welche Rolle spielt die Wissenschaft in der Berichterstattung über KI und Algorithmen?

Die Analyse hat gezeigt, dass Wissenschaftler*innen nach wirtschaftlichen Akteur*innen die zweithäufigste Quelle sind, die in der Berichterstattung zitiert wird. Wissenschaftler*innen nehmen im Diskurs durchaus eine starke Position ein und werden gehört. Weil die Anlässe der Berichterstattung häufig wirtschaftliche Innovationen und Neuheiten waren, vermuten wir, dass Wissenschaftler*innen für diese Innovationen als glaubwürdige Quelle eingesetzt werden. Ihre starke Stimme könnten sie natürlich auch nutzen, um breitere Perspektiven in den Diskurs einzubringen, also auf gesellschaftliche Folgen hinzuweisen und die Risiken und Chancen auf gesamtgesellschaftlicher Ebene zu thematisieren.