Wir müssen die Wirkung algorithmischer Entscheidungsfindung besser verstehen
NachgefragtNachgefragt bei ZEW-Ökonom Dominik Rehse
Suchmaschinen, soziale Netzwerke, Vergleichs- und Bewertungsportale und andere digitale Plattformen verändern zunehmend unser Leben. Dabei machen sie intensiven Gebrauch von algorithmischer Entscheidungsfindung und insbesondere maschinellem Lernen. Auch Märkte, in denen digitale Plattformen als Intermediäre oder Marktteilnehmer auftreten, werden durch Algorithmen und Anwendungen maschinellen Lernens beeinflusst.
Dr. Dominik Rehse, Leiter der Nachwuchsforschungsgruppe „Design digitaler Märkte“ des ZEW-Forschungsbereichs „Digitale Ökonomie“ erläutert, wie das geschieht und welche Konsequenzen sich daraus ergeben.
Wie verändern digitale Plattformen Märkte?
Märkte basieren auf Regeln und Institutionen. Diese werden durch digitale Plattformen häufig verändert. Drei Beispiele: Spotify führt Musikproduzenten und -konsumenten über einen weitgehend neuen Marktmechanismus zusammen. Neben einer neuen Preisgestaltung zählt dazu insbesondere ein umfassender Musikempfehlungsmechanismus. Tripadvisor führte einen umfassenden Reputations- und Qualitätsmanagementmechanismus ein. Uber änderte den Preissetzungsmechanismus am Markt für adhoc-Kurzstreckenmobilität durch die Abwendung von – für Taxis üblichen – zeit- oder streckenbasierten Fahrpreisen hin zu Preisen, die flexibel von Angebot und Nachfrage bestimmt werden.
Wofür setzen digitale Plattformen dabei Algorithmen ein?
Algorithmische Entscheidungsfindung findet vielfältige Anwendung auf digitalen Plattformen. Amazon empfiehlt beispielsweise durch einen Algorithmus des maschinellen Lernens, welche Produkte für einen Kunden von Interesse sein könnten. Die Grundlage bilden Daten über das Kaufverhalten anderer Nutzer. Weiterhin wird maschinelles Lernen auf digitalen Plattformen eingesetzt, um etwa Angebot und Nachfrage zu prognostizieren und Preissetzungsmechanismen zu automatisieren. Letztlich zählt auch die Einführung sprachgesteuerter Endgeräte zum Erschließen neuer Marktzugangswege dazu. Ein Indiz für den großen Nutzen maschinellen Lernens auf digitalen Plattformen ist, dass diese Plattformen wesentliche Teile der akademischen und anwendungsorientierten Spitzenforschung in diesem Bereich betreiben und dafür erhebliche finanzielle Aufwendungen in Kauf nehmen.
Welche Chancen und Risiken birgt der Einsatz oder die Nutzung von Algorithmen?
Die Chancen algorithmischer Entscheidungsfindung auf digitalen Plattformen sind manchmal recht offensichtlich. So nehmen viele Konsumenten die Produktempfehlungen von Plattformen wie Spotify oder Amazon als Erleichterung wahr. Im ökonomischen Verständnis werden hier Suchkosten abgebaut. Chancen liegen jedoch auch in Bereichen, die Plattform-Nutzern weitgehend verborgen bleiben. Dazu zählt das Aussortieren zweifelhafter Marktteilnehmer auf digitalen Marktplätzen, was oft erst durch eine hohe Automatisierung kostengünstig und wirkungsvoll möglich ist. Verborgen bleiben in jedem Fall meist die Risiken, zu denen beispielsweise algorithmische Diskriminierung zählt.
Was ist algorithmische Diskriminierung, wie entsteht und wirkt sie?
Algorithmen des maschinellen Lernens werden häufig auf Daten menschlichen Verhaltens kalibriert. Dadurch kann menschliches Fehlverhalten übernommen und gegebenenfalls sogar verstärkt werden. Ein weiteres Problemfeld ist der sogenannte „selection bias“ in den Daten, die zur Kalibrierung von Algorithmen verwendet werden. Wenn Kalibrierungsdaten kaum Beobachtungen zu gesellschaftlichen Minderheiten beinhalten, so ist für diesen Teil der Bevölkerung die Vorhersagequalität erwartungsgemäß schlechter. Dadurch könnte die Minderheit gegebenenfalls systematisch benachteiligt werden, etwa indem ihr der Marktzugang gänzlich verwehrt oder eine nachteilige automatisierte Preissetzung zuteil wird. Als Ökonomen stehen wir jedoch erst am Anfang, die Wirkung algorithmischer Entscheidungsfindung auf Märkte zu verstehen.
Wie kann man die Risiken algorithmischer Entscheidungsfindung mindern und gleichzeitig die Chancen nutzen?
Diese Frage treibt momentan Wissenschaftler verschiedener Disziplinen und Entscheidungsträger verschiedener Politikbereiche um. Unser Ziel ist es, die Wirkung algorithmischer Entscheidungsfindung auf Märkte besser zu verstehen. Gegeben der großen Bedeutung und zunehmenden Verbreitung algorithmischer Entscheidungsfindung, insbesondere durch digitale Plattformen, ist jedoch Eile geboten.
