Navigation

5. November 2018

Sachverständigenrat für Verbraucherfragen stellt Gutachten Verbrauchergerechtes Scoring vor

Der Sachverständigenrat für Verbraucherfragen hat am 31. Oktober 2018 das Gutachten „Verbrauchergerechtes Scoring“ an Bundesverbraucherministerin Katarina Barley übergeben.

Beim Scoring kommen Algorithmen zum Einsatz, die Verbraucher und Verbraucherinnen mit Zahlen bewerten und ihr Verhalten prognostizieren. Dies geschieht in immer mehr Lebensbereichen. Im Gutachten werden insbesondere die Bereiche Bonitäts-Scoring, Scoring im Rahmen von Telematiktarifen in der Kfz-Versicherung und Gesundheits-Scoring in der Krankenversicherung betrachtet. Neben der Darstellung des Forschungsstandes und der Beleuchtung verschiedener Handlungsfelder beinhaltet das Gutachten zwei empirische Studien, in denen zum einen Unternehmer und Versicherer in einer Marktstudie und zum anderen Verbraucher in einer repräsentativen Bevölkerungsumfrage in Deutschland befragt wurden. Auch eine juristische Studie liegt dem Gutachten zugrunde. Ergänzt werden die empirischen Befunde durch Informationen aus Expertengesprächen.

Auf Basis des aktuellen Forschungsstandes, der empirischen Ergebnisse sowie theoretischer Überlegungen spricht sich der SVRV für folgende acht Handlungsempfehlungen aus, um verbrauchergerechtes Scoring zu gewährleisten:

  1. Scoring für den Verbraucher verständlich machen
  2. Scoring-Wissen und Kompetenzen fördern
  3. Diskriminierung prüfen und offenlegen
  4. Telematik-freie Optionen sicherstellen
  5. Score-Qualität gewährleisten
  6. Datenqualität sichern
  7. Aufsicht verbessern
  8. Super-Scores verhindern

 

Am 31. Oktober 2018 wurde in einer Veranstaltung im BMJV das Gutachten der Öffentlichkeit vorgestellt und das Thema Scoring unter der Moderation von Christian Thorun mit Gästen aus Wissenschaft und Verbraucherpolitik diskutiert.

 

Nach der Begrüßung durch die Vorsitzende des SVRV, Lucia Reisch gab es ein Grußwort von Ministerin Barley, in dem sie betonte, dass man ein besonders wachsames Auge haben müsse, damit Scoring nicht zu Diskriminierung führe und zudem beobachtet werden müsse, in welchen Bereichen, in welchem Umfang, mit welchen Konsequenzen und unter welchen regulatorischen Rahmenbedingungen Verbraucherinnen und Verbraucher überhaupt vermessen werden dürfen.

Anschließend stellten die Ratsmitglieder Gerd Gigerenzer und Gert Wagner die wesentlichen Inhalte des Gutachtens vor. Gert Wagner betonte, dass Scoring-Verfahren nicht grundsätzlich neu seien, aber heutzutage könne Scoring aufgrund technischer Entwicklungen weit umfassender eingesetzt werden. Gerd Gigerenzer präsentierte einige wichtige Handlungsempfehlungen des SVRV: Im Mittelpunkt stünden Transparenz und Verständlichkeit von Scoring. Außerdem müsse die Qualität von Scoring-Verfahren und der verwendeten Daten gewährleistet werden. Viele Scoring-Verfahren seien nicht in der Lage ihre Versprechen einzuhalten und z. B. bisherige Verfahren in ihrer Prognosegenauigkeit zu übertreffen. Um die Einhaltung der Anforderungen besser überprüfen zu können, müssten weiterhin Aufsichtsbehörden, wie etwa die Datenschutzbeauftragten, gezielt ausgebaut werden.

In zwei Gesprächsrunden wurde über Recht, Technik und gesellschaftlichen Wandel vor dem Hintergrund des zunehmenden Einsatzes von Scoring-Verfahren diskutiert.

Die erste Diskussion wurde durch einen kurzen Impuls durch Georg Borges und Matthias Grabmair von der Gesellschaft für Informatik (GI) eingeleitet, die ihr im Auftrag des SVRV erstelltes Gutachten mit dem Thema Technische und rechtliche Betrachtungen algorithmischer Entscheidungsverfahren vorstellten. Im anschließenden Roundtable diskutierten die Vertreter der GI mit Gert Wagner sowie mit Wolfgang Schulz vom Humboldt Institut für Internet und Gesellschaft und der Landesdatenschutzbeauftragten Schleswig-Holsteins, Marit Hansen, die Frage: „Läuft das Recht der Technik hinterher?“.

Einigkeit bestand darüber, dass Transparenz Voraussetzung sei, um Scoring-Verfahren zu verstehen und bei Bedarf daraus resultierende Entscheidungen in Frage stellen zu können. Das Testen von Algorithmen wurde als eine Möglichkeit gesehen, Geschäftsgeheimnisse zu wahren und gleichzeitig Transparenz herzustellen und z. B. eventuelle Diskriminierungseffekte aufzudecken. Georg Borges plädierte dafür, weiter in Forschung zu investieren und klare Rechtsbegriffe zu schaffen. Marit Hansen berichtete anschaulich von ihren Erfahrungen als Informatikerin in einer üblicherweise juristisch geprägten Behörde und erläuterte die Schwierigkeiten der Datenschutzbeauftragten bei der Prüfung von Scoring-Verfahren. Damit unterstrich sie die Forderung des SVRV nach besserer Ausstattung von Aufsichtsbehörden mit Personal und Kompetenzen.

Die zweite Gesprächsrunde erörterte die Frage, welche Auswirkungen Scoring auf die Gesellschaft habe. In einem Impulsreferat warnte Christiane Woopen, Professorin für Ethik und Theorie der Medizin, Scoring könne Definitionshoheiten und Machtstrukturen verschieben. Es bereite ihr Sorge, wenn es beispielsweise Krankenversicherungen überlassen werde, zu definieren, welches Verhalten gesundheitsrelevant sei. Scoring-Verfahren dürften zudem niemals Menschen benachteiligen oder von Vorteilen ausschließen.

An der folgenden Diskussion waren außerdem Katharina Zweig, Professorin für Algorithm Accountability, Klaus Müller, Vorstand des VZBV, und Ratsmitglied Gerd Gigerenzer beteiligt. Gerd Gigerenzer erinnerte daran, dass die chinesische Regierung ihr geplantes Sozialkreditsystem mit moralischen Argumenten verteidige (Förderung des gesellschaftlichen Vertrauens) und dass eine gesellschaftliche Diskussion, in was für einer Welt wir leben wollen, unabdingbar sei. Klaus Müller forderte, die Diskussion um das Thema Scoring nicht zu sehr auf ein Sozialkreditsystem wie in China zu fokussieren, sondern sich mit der Gefahr auseinanderzusetzen, dass hierzulande Konzerne Verbraucher und Gesellschaft durch Scoring beeinflussen. Leidenschaftlich wurde eine Diskussion zwischen Georg Borges aus dem ersten Panel und Klaus Müller, als letzterer die geforderte wissenschaftliche Forschung als „Zeitschinderei“ bezeichnete, die schnelles politisches Handeln hinauszögere.

Zum Ende der Veranstaltung richtete Staatssekretär Gerd Billen einige Dankesworte an den SVRV für seine gute und wichtige Arbeit in den letzten vier Jahren. Die erste Berufungsperiode fand mit der heutigen Veranstaltung einen erfolgreichen Abschluss.