Zum Hauptinhalt springen

Verbraucher-Scoring in der digitalen Welt

Eine veröffentlichte Studie der Fachgruppe „Rechtsinformatik“ der Gesellschaft für Informatik für den Sachverständigenrat für Verbraucherfragen formuliert politische Handlungsempfehlungen zu algorithmischen Entscheidungsverfahren.

Eine interdisziplinäre Expertengruppe aus Juristen und Informatikern der Gesellschaft für Informatik e.V. (GI) hat im Auftrag des Sachverständigenrats für Verbraucherfragen (SVRV) eine Studie zum Thema algorithmischer Entscheidungsverfahren (Algorithmic Decision Making, ADM) erstellt. Die Untersuchung mit dem Titel „Technische und rechtliche Betrachtungen algorithmischer Entscheidungsverfahren“ wurde im Rahmen der Veranstaltung „Empfehlungen für Faires Verbraucher-Scoring“ der Bundesministerin der Justiz und für Verbraucherschutz (BMJV) Dr. Katarina Barley übergeben.

Zur Einhaltung von Transparenz und Informationspflichten sowie zur Implementierung effizienter und effektiver Test- und Auditierungsverfahren wird seitens der Experten ein staatlicher Kompetenzaufbau für algorithmische Entscheidungen empfohlen. Wesentliche Aufgabe einer möglichen „Digitalagentur“ muss zudem die Steigerung der Transparenz durch Beratung und Information von Entscheidungsträgern in Unternehmen, Verwaltung und Politik sowie der gesellschaftlichen Aufklärung sein.

Zudem bedarf es laut der Studie weiterer, vor allem internationaler und interdisziplinärer Forschungsanstrengungen an den Schnittstellen zwischen Informatik und den Rechtswissenschaften (aber auch darüber hinaus), um die vielfältigen offenen Fragen zu adressieren. Spezifische Fragestellungen müssen durch wohldefinierte und konkrete Forschungsprojekte und -initiativen, z.B. durch Stipendien, Promotionen oder weitere Gutachten, untersucht und für den Diskurs aufbereitet werden.

Ergebnisse der Untersuchung sind auch in ein Gutachten „Verbrauchergerechtes Scoring“ des SVRV eingeflossen, das Sie hier herunterladen können.

English Version

Consumer scoring in the digital world

German Informatics Society (GI) provides expertise on how to regulate discriminatory algorithmic decision-making processes

The German Expert Council for Consumer Affairs (SVRV), an advisory body of the Federal Ministry of Justice and Consumer Protection (BMJV), has commissioned a group of experts from the German Informatics Society to develop an report on "Consumer Scoring: Feasibility Study for an Algorithm Law" later this year. The SVRV ties it to his earlier topic paper "Digital World and Health: eHealth and mHealth - Opportunities and Risks of Digitalisation in the Healthcare Sector" and "Consumer Law 2.0".

The focus of the discussion on this topic is on novel scoring methods that go far beyond the publicly known example of credit and credit scoring. Algorithms raise a variety of legal issues, the legal regulation of algorithms can affect different aspects accordingly.

The study will focus on consumer-relevant decisions through algorithms, so-called algorithmic decision making (ADM). This applies to cases where consumer-related decisions such as lending, job offers or the amount of insurance premiums are made by machinery. In this context, decisions that are relevant to the legal relationships of natural persons in their capacity as consumers are considered to be relevant for consumers.

The study will focus on the legal core of the issue, the quality of the decisions. Therefore, in the first part of the study problem scenarios are worked out, which are used in the further analysis. One problem scenario is discrimination, i. the use of invalid decision criteria in algorithms.

Here, for example, it is worked out which decision criteria are considered inadmissible (obviously about: religious affiliation, sexual orientation, etc. in personnel decisions) and how the use of such decision criteria is embedded in algorithms. Another problem scenario is the substantive "correctness" of a decision. For example, it will be asked under which conditions a machine-generated decision can be regarded as "correct" and how the correctness of decisions can be addressed by algorithms.

For more information on the Expert Council for Consumer Affairs: http://www.svr-verbraucherfragen.de.

Publikation
Studie der Fachgruppe „Rechtsinformatik“ der Gesellschaft für Informatik für den Sachverständigenrat für Verbraucherfragen veröffentliche politische…
weiterlesen
Pressemitteilung
Eine heute veröffentlichte Studie der Fachgruppe „Rechtsinformatik“ der Gesellschaft für Informatik für den Sachverständigenrat für Verbraucherfragen…
weiterlesen