Service-Navigation

Suchfunktion

  • 17.07.2018
Internet

Algorithmen – eine Blackbox

Datenstrom aus Binärcodes

Auf Algorithmen basierte Entscheidungsprozesse nehmen vermehrt Einfluss auf Fragen der Konsumentscheidung, der Lebensgestaltung, der Teilhabemöglichkeiten jedes Einzelnen sowie auf die Gesellschaft insgesamt. Dabei sind die Kriterien und die Datengrundlage dieser algorithmenbasierter Prozesse oft undurchsichtig. Vielfach bleibt unklar, inwieweit diese Entscheidungen überhaupt rechtskonform sind. Verbraucherinnen und Verbrauchern fehlen zudem häufig die Möglichkeiten, solchen Entscheidungen zu widersprechen.

Der zunehmende Einsatz von Algorithmen durch Unternehmen kann auch zu einer (wirtschaftlichen) Ungleichbehandlung von Verbraucherinnen und Verbrauchern beispielsweise aufgrund von Wohnort, Religion, sexueller Orientierung, Herkunft oder Ethnie führen und somit diskriminierend wirken.

Was sind Algorithmen?

Algorithmen spielen eine wichtige Rolle im Verbraucheralltag. Sie verknüpfen die digitalen Daten einer Person, analysieren diese und erstellen daraus Schlussfolgerungen. Sie klassifizieren Menschen mittels mathematisch-statistischer Verfahren, zum Beispiel anhand biographischer, wirtschaftlicher und verhaltensbezogener Daten und können so darüber entscheiden, wer welche Informationen und welche Angebote zu welchem Preis erhält. Sie ermöglichen damit unter anderem personalisierte Preise, computergesteuerte Kreditwürdigkeitsprüfungen, auch Scoring genannt, sowie die Profilbildung von Personen. Auch individuelle, auf persönlichen Daten und eigenem Verhalten basierende Versicherungstarife, sogenannte Telematiktarife, sind durch Algorithmen möglich. Dadurch nehmen Algorithmen entscheidenden Einfluss auf die Lebensgestaltung und die Wahlmöglichkeit von Verbraucherinnen und Verbrauchern.

Neben den Chancen, die die oben genannte maßgeschneiderte Angebotsvielfalt für die Verbraucherinnen und Verbraucher bieten kann, besteht auch das Risiko, dass Algorithmen auf falschen Annahmen beruhen oder diskriminierend sein können.

Anwendungsbeispiele für die Auswirkungen von Algorithmen:

Personalisierte Suchmaschinenergebnisse und personalisierte Werbung

Durch Surfen und Einkaufen im Internet sowie durch die Anwendung smarter Produkte hinterlassen Verbraucherinnen und Verbraucher ständig Datenspuren, die von Unternehmen erfasst und analysiert werden. Diese Daten werden beispielsweise aus der Besuchs- und Verweildauer auf Webseiten, der Suchhistorie, den Produktsuchen und dem Klickverhalten sowie aus bestimmten Mechanismen wie Cookies gewonnen.

Die Auswertung der Massendaten (Big Data) durch Algorithmen erlaubt Rückschlüsse auf die persönlichen Lebensumstände und Präferenzen von Verbraucherinnen und Verbrauchern. Anbietern und Unternehmen ermöglicht es detaillierte Nutzerprofile zu erstellen. So können beispielsweise Dienstleistungen oder Produkte personalisiert, beziehungsweise auf die Bedürfnisse des individuellen Verbrauchers angepasst werden. Personalisierte Suchmaschinenergebnisse und personalisierte Werbung sind Beispiele dafür.

Algorithmen werten unter anderem aus, welche Nachrichten und Nachrichtenquellen eine Nutzerin oder ein Nutzer bevorzugt. Anhand dieser Daten können Algorithmen entscheiden, wann und welche Nachrichten und Webseiten die jeweilige Person in Zukunft vorgeschlagen bekommt. Die Gefahr besteht, dass Algorithmen die Vielfalt reduzieren und die Leserinnen und Leser nur noch angezeigt bekommen, was die eigene Meinung bestätigt. Diese sogenannten Filterblasen oder Echokammern können die freie Meinungsbildung einschränken und einseitig beeinflussen.

Algorithmen entscheiden auf der Grundlage persönlicher Daten auch über die Bedingungen, zu denen Verbraucherinnen und Verbraucher Zugang zu Produkten und Dienstleistungen erhalten. Sie steuern das Konsumverhalten, ohne dass der einzelne Verbraucher dies nachvollziehen kann.

Personalisierte Preise

Preise, die nur für eine einzelne Verbraucherin oder einen einzelnen Verbraucher gelten, sind bisher vor allem aus direkten Verhandlungen bekannt, beispielsweise im Verkaufsgespräch mit dem Gebrauchtwagenhändler. Durch Big Data Anwendungen und Algorithmen sind personalisierte Preise jedoch auch im Online-Handel möglich. Hiervon zu unterscheiden sind dynamische Preise, die sich im Zeitverlauf schnell ändern können (zum Beispiel Flugtickets), aber für alle Verbraucherinnen und Verbraucher zum selben Zeitpunkt gleich sind.

Um personalisierte Preise handelt es sich, wenn zwei Verbraucherinnen oder Verbraucher beim selben Anbieter, zum selben Zeitpunkt dasselbe Produkt zu unterschiedlichen Preisen angeboten bekommen, je nachdem wie zahlungskräftig oder zahlungswillig diese aufgrund der Datenlage erscheinen. In die Berechnung der Daten können zum Beispiel das bisherige Einkaufs- und Surfverhalten (besuchte Webseiten), der Ort (IP-Adresse oder Postleitzahl) sowie Eigenschaften des Endgerätes und das Betriebssystem (Mobil- oder Desktoprechner, Apple, Microsoft oder anderer Hersteller) eingeflossen sein. Auf Grundlage der vielfältig gesammelten personalisierten Daten von Verbraucherinnen und Verbrauchern können Algorithmen das individuelle Kaufverhalten und die Zahlungsbereitschaft einzelner Internetnutzerinnen und Internetnutzer vorhersagen. Anbieter haben dadurch die Möglichkeit, den Preis anzubieten, den die betreffende Person voraussichtlich bereit ist, maximal zu zahlen.

Anbieter kennen die Wettbewerbssituation und können zunehmend auf eine Menge an Informationen über einzelne Verbraucherinnen und Verbraucher zurückgreifen, wie beispielsweise die aktuelle und zu erwartende Nachfrage. Diese Informationen stehen Verbraucherinnen und Verbrauchern in der Regel nicht zur Verfügung, so dass hierdurch eine strukturelle Benachteiligung der Verbraucherinnen und Verbraucher vorliegt. Ebenso können personalisierte Preise im Versicherungswesen das Solidaritätsprinzip der gesetzlichen Gesundheits- und Pflegeversicherung untergraben.

Scoring

Auch sogenannte Scoring-Verfahren können durch Big Data und Algorithmen weit umfassender eingesetzt werden als früher. Scoring mit personenbezogenen Daten wird vor allem von Auskunfteien betrieben, die daraus Rückschlüsse auf Kreditwürdigkeit und Zahlungsfähigkeit des einzelnen Verbrauchers ziehen. In der Regel wissen Betroffene allerdings nicht, welche ihrer Daten benutzt und wie diese gewichtet werden, noch ob die herangezogenen Angaben korrekt sind. Auch welche Kriterien ihre Bonitätsbewertung positiv oder negativ beeinflussen, erfahren die Betroffenen nicht. Mehr Informationen zu Scoring erhalten Sie im Verbraucherportal Baden-Württemberg: Scoring durch Auskunfteien - Bedeutung und Zulässigkeit.

Eine Regulierung von Algorithmen ist längst überfällig

Möglichkeiten, wie die Autonomie der persönlichen Lebensgestaltung vor dem Hintergrund der Sammlung persönlicher Daten und deren Verwertung durch die Anbieter noch gewahrt werden kann, beschäftigen auch die Verbraucherpolitik in Baden-Württemberg.

Um beispielsweise diskriminierende Ergebnisse auszuschließen, müssen die Bewertungskriterien, die in eine solche Berechnung einfließen, aus Sicht des Verbraucherschutzes transparent sein. Hierzu bedarf es einer gesetzlichen Regulierung von Algorithmen beispielsweise durch Einrichtung und Ausgestaltung einer unabhängigen Kontrollinstanz

Initiativen Baden-Württembergs seit 2017

Seit Anfang 2017 setzt sich das Ministerium für Ländlichen Raum und Verbraucherschutz (MLR) bei der Bundesregierung für eine verbraucherpolitische Debatte der Algorithmenproblematik im Internet ein - bis hin zur Prüfung regulatorischer Schritte. Auf Initiative von Baden-Württemberg hat die 13. Verbraucherschutzministerkonferenz (VSMK) im April 2017 das Bundesministerium der Justiz und für Verbraucherschutz gebeten, die Einführung eines sogenannten ‚Algorithmen-TÜVs‘ zu prüfen. Die Ergebnisse von Algorithmen müssen für Betroffene transparent und nachvollziehbar sein.
Daneben ist das MLR im Gespräch mit Experten und beobachtet die Entwicklungen bei der Algorithmenregulierung, um gegebenenfalls selbst Vorschläge oder Gesetzesinitiativen einzubringen.

Weitere Informationen

Personalisierte Preise; Diskussionspapier des Verbraucherzentrale Bundesverbands (vzbv)

Scoring mit Kundendaten: So verlangen Sie Auskunft bei Schufa & Co.; Information der Verbraucherzentrale Baden-Württemberg e. V.

Fußleiste