Social Dilemma — Zwischen Verantwortung, Aufklärung und Manipulation

by Ari He / Unsplash

Dass der nahezu obligatorische Blick aufs Smartphone oftmals genauso unterbewusst geschieht wie der halbstündliche Griff eines Rauchers in die Zigarettenpackung, ist eine Eigenart, welche die meisten schon häufiger bei sich selbst oder anderen beobachten konnten. Nachrichten checken, Auktionen verfolgen, Zerstreuung suchen oder einfach nur sichergehen, dass der Akku hält — All dies ist Teil eines digitalen Alltags, der unsere Lebenswelt und -weise schneller verändert hat als jegliche menschliche Errungenschaft zuvor. Vielleicht zu schnell?

Technologien entwickeln sich mit solch einer Geschwindigkeit weiter, dass im Prinzip zumindest für den Normalbürger gar keine Zeit mehr dafür bleibt, sie zu hinterfragen und die dahinter stehenden Intentionen sowie deren Nutzen zu verstehen. Es ist deshalb wenig verwunderlich, dass die Rufe nach einer digitalen Ethik sowie mehr Transparenz immer lauter werden. Vor allem beim Thema Social Media laufen die Gemüter aktuell wieder heiß, wenn es um den Umgang der Nutzer damit geht, was mit all den Daten gemacht wird und welche Rolle Big Tech Firmen dabei wirklich spielen. Wir fragen uns daher natürlich ebenfalls, welchen Beitrag die User Experience dazu leisten kann, dass durch einen verantwortlichen Umgang mit diesen Technologien die Nutzer gestärkt werden?

Das Dilemma mit den sozialen Medien

Anfang September veröffentlichte Netflix den Dokumentarfilm The Social Dilemma (Das Dilemma mit den sozialen Medien) auf seiner Streaming-Plattform, welcher sich mit 38 Millionen Aufrufen innerhalb kürzester Zeit auf Platz 2 der meistgeschauten Netflix-Dokumentationen vorspielte. Der von einigen Kritikern als wichtigste Doku der letzten Jahre betitelte Film setzte sich das hehre Ziel, einen Wandel einzuleiten, wenn es darum geht, wie Technologie designt, reguliert und genutzt wird.

Die Instrumente, derer sich die Doku bedient, gleichen dabei in vielen Bereichen genau den manipulativen Tools, die bei Big Tech Firmen zum Einsatz kommen und angeprangert werden. So werden die Interviews von ehemaligen Mitarbeitern, die bei Facebook, Google, Apple, Youtube, Twitter etc. in verschiedensten Funktionen aktiv waren, nicht nur von einer ominösen, eher an einen Thriller erinnernde Musik untermalt, sondern auch von geschauspielerten Filmsequenzen durchbrochen, in denen sogar die KI personifiziert wird und die mit einer Dokumentation nur noch wenig zu tun haben. Wohl alles um den Zuseher auf die eigene Seite zu ziehen?

Vor allem für mit dem Thema einigermaßen Vertraute oder Interessierte werden dabei leider nicht viele neue Erkenntnisse geliefert. Trotzdem wirft die Doku wichtige Fragen hinsichtlich dem Umgang mit sozialen Medien auf und fungiert in erster Linie als Reminder, dass wir unseren digitalen Alltag nicht einfach nur hinnehmen, sondern in all seinen Facetten hinterfragen sollten. Die angeschnittenen Themen, die von den Machern hierbei den Hauptfokus bilden, sind die folgenden:

Geschäftsmodell Human Futures: Die Nutzer und deren Aufmerksamkeit sind das wahre Produkt. Jegliche Interaktion sowie Information wird getrackt und in ein System eingespeist, um das Nutzerverhalten vorherzusagen. Je besser diese Vorhersagen sind, desto sicherer kann man sich sein, dass eine Anzeige/Werbung/Info auch ihr Ziel erreicht.

Psychologische Manipulation:Soziale Medien warten nicht auf Benutzung und sind keine Tools, sondern verfolgen ihre eigenen Ziele und nutzen ihrerseits Werkzeuge, um die menschliche Psyche zu manipulieren und deren Schwachstellen ausfindig zu machen.

Digitale Sucht: Social Media bestimmt Identität und Selbstwertgefühl. Nutzer folgen dabei ihrem grundlegenden Bedürfnis mit anderen Menschen in Verbindung zu treten, was -ähnlich einer Droge- zur Freisetzung von Dopamin auf der Belohnungsebene führt.

Subjektive Algorithmen: Algorithmen sind nicht objektiv. Sie werden von einem Unternehmen entwickelt und spiegeln dessen Meinung sowie Interessen wieder, die legitimerweise den Profit in den Vordergrund stellen.

Die Wahrheitsfrage: Empfehlungsmaschinen überprüfen nicht den Wahrheitsgehalt einer Nachricht und ein System kann auch nicht über Allwissenheit verfügen. Da jeder seinen eigenen Feed erhält, mit den Informationen, die das System für passend einstuft, hat jeder Anspruch auf seine eigene Wahrheit, was zu mangelnder Kommunikation, gesellschaftlicher Spaltung, dem Verwischen der Wahrheit und Wandeln in Extremen führt.

Die daraus resultierenden Konsequenzen zeigen sich dann oftmals in der realen Welt auf unschöne Weise. So verdreifachte sich z.B. in den USA die Anzahl an Suizidversuchen und klinischen Aufenthalten junger Frauen aufgrund von psychischen Problemen seit der Geburtsstunde von Social Media. Verschwörungstheorien erleben geradezu eine Renaissance, da es noch nie so einfach war, sich mit Gleichgesinnten zu vermengen und Fake News als veritable Quellen zu verkaufen. Und zu was die gesellschaftliche Spaltung in extreme Lager führt, konnten wir alle zuletzt bei der US-Wahl verfolgen — Ein Wandel vom Informations- in das Desinformationszeitalter.

Verantwortung im digitalen Umfeld

Wo die Doku trotz nobler Motive teils an ihre Grenzen stößt und selbst zur Vermischung neigt, liegt direkt in der Technologie und den Menschen, die dahinter stehen. Ja, Social Media ist digital. Nein, nicht alles digitales ist Social Media. Eine wichtige Differenzierung, welche vielen Menschen schon so oder so schwerfällt. Das große Problem liegt nämlich tatsächlich in einem unregulierten, monopolisierten Geschäftsmodell im Social Media-Kontext und nicht an einem allumgreifenden Missbrauch digitaler Technologien.

In den Nebensätzen der zu Wort kommenden Entwickler hört man zum Glück ebenfalls heraus, warum der Startpunkt einer Idee und die sich daraus entwickelnden Konsequenzen oftmals komplexer und weniger vorhersehbar sind, als es uns gar eine KI glauben lässt. So wurden im Sinne der Gamification Like-Buttons dafür entwickelt, dass die Nutzer mehr miteinander interagieren können und Spaß sowie Begeisterung für die Anwendung empfinden. Dass dann Menschen, die gar keine oder nicht genügend Likes bekommen, depressiv werden können, stand dabei bei den Entwicklern ebenso wenig auf der Agenda, wie das exponentielle Verbreiten von Fake-News durch einen Empfehlungs-Algorithmus.

Es ist nicht nur im digitalen Bereich schlichtweg schwierig immer genau zu wissen, an was man arbeitet und wo diese Arbeit schlussendlich mit einwirkt — vor allem dann, wenn man ‚nur‘ Zulieferer vom großen Ganzen ist. Deshalb ist es für jeden Mitwirkenden unabdingbar stets zu hinterfragen, für was man arbeitet und wie man seine Expertise dabei einsetzt. Verantwortung sollte keine Grenzen kennen — Gerade dann, wenn es auch um moralische Prinzipien geht.

Interesse und Rechte der Nutzer stärken

Technologien können dazu missbraucht werden, das Schlechte in einer Gesellschaft hervorzuholen und für unmoralische Zwecke genutzt werden. Das heißt aber weder, dass dies ihre einzige Funktion ist, noch dass vor dem sich möglicherweise entwickelnden Eigenleben einer KI bzw. eines Algorithmus nicht der menschliche Input den Startschuss gab und der Mensch keine Interventionsmöglichkeiten mehr hätte. Technologien sind nicht in Stein gemeißelt und können somit — von uns — verändert werden.

Die User Experience zielt genau darauf ab und sieht sich in der Verantwortung, wenn es um die Interessen, Bedürfnisse und Rechte der Nutzer geht. Hier steht der Nutzer digitaler Prozesse im Vordergrund — Nicht als Produkt, sondern als Kunde, als Mitmensch, als Anwender. Jeglicher digitale Service oder Produkt sollte so gestaltet sein, dass es dem Nutzer als Tool dient seinen Alltag zu vereinfachen und zu bereichern. Denn es sind schließlich Sie, die über den Erfolg oder Misserfolg eines Produktes oder Service entscheiden.

Dabei steht es außer Frage, dass die Digitalisierung mit Lichtgeschwindigkeit voranschreitet und der Grad zwischen Regulation und freier Entfaltung, zwischen Vor- und Nachteilen von KI und Algorithmen sowie dem Umgang mit Big Data so schmal wie herausfordernd ist. Daher ist es zweifelsohne unabdingbar, sich einer kritischen Auseinandersetzung mit jeglichem Prozess, Fortschritt und den damit einhergehenden Symptomen zu stellen.

Menschen dürfen hierbei aber niemals als schlichte Ressource und schon gar nicht als Produkt gehandelt werden — Menschen müssen diese neue, scheinbar grenzenlose digitale Welt mitgestalten sowie in und aus ihr lernen. Für uns UXler heißt dies nicht nur unsere Arbeit kontinuierlich zu challengen, sondern auch Digitalkompetenz zu vermitteln und Aufklärung zu betreiben.

Innovation Explorer. Design Consultants. User Experience Experts.

Get the Medium app

A button that says 'Download on the App Store', and if clicked it will lead you to the iOS App store
A button that says 'Get it on, Google Play', and if clicked it will lead you to the Google Play store