imageBugfix.png
ADM-Regulierung

Verbraucher-Scoring in der digitalen Welt

GI erstellt Gutachten zu Regulierungsmöglichkeiten von diskriminierenden algorithmischen Entscheidungen

Der Sachverständigenrat für Verbraucherfragen (SVRV), ein Beratungsgremium des Bundesministeriums der Justiz und für Verbraucherschutz (BMJV), hat einen Expertenkreis der Gesellschaft für Informatik damit beauftragt noch in diesem Jahr ein Gutachten zum Thema „Verbraucher-Scoring: Machbarkeitsstudie für ein Algorithmengesetz“ zu entwickeln. Der SVRV knüpft damit u.a. an sein früheres Themenpapier „Digitale Welt und Gesundheit. eHealth und mHealth – Chancen und Risiken der Digitalisierung im Gesundheitsbereich“ sowie „Verbraucherrecht 2.0" an.

Im Fokus der Auseinandersetzung mit dem Thema stehen dabei neuartige Scoring-Verfahren, die weit über das in der Öffentlichkeit bekannteste Beispiel des Kredit- und Bonitätsscoring hinausgehen.

Algorithmen werfen eine Vielzahl von Rechtsfragen auf, die rechtliche Regelung von Algorithmen kann entsprechend unterschiedliche Aspekte betreffen.

Die Studie wird auf verbraucherrelevante Entscheidungen durch Algorithmen fokussiert sein, sogenannte algorithmischen Entscheidungsverfahren (ADM: "algorithmic decision making"). Dies betrifft Fälle, in denen verbraucherrelevante Entscheidungen, etwa über Kreditvergabe, Jobangebote oder die Höhe von Versicherungsprämien durch Maschinen getroffen werden. Als verbraucherrelevant werden dabei solche Entscheidungen angesehen, die für Rechtsverhältnisse natürlicher Personen in ihrer Eigenschaft als Verbraucher von Bedeutung sind.

Die Studie wird auf den rechtlichen Kern der Problematik, die Qualität der Entscheidungen fokussiert sein. Daher werden im ersten Teil der Studie Problemszenarien herausgearbeitet, die in der weiteren Analyse herangezogen werden. Ein Problemszenario ist dabei Diskriminierung, d.h. die Verwendung unzulässiger Entscheidungskriterien in Algorithmen.

Hier wird etwa herausgearbeitet, welche Entscheidungskriterien als unzulässig gelten (offensichtlich etwa: Religionszugehörigkeit, sexuelle Orientierung etc. in Personalentscheidungen) und wie die Verwendung solcher Entscheidungskriterien in Algorithmen eingebettet ist. Ein anderes Problemszenario ist die inhaltliche „Richtigkeit“ einer Entscheidung. Dabei wird etwa gefragt werden,unter welchen Voraussetzungen eine maschinengenerierte Entscheidung als „richtig“ anzusehen ist und wie die Richtigkeit von Entscheidungen durch Algorithmen zu adressieren ist.

Weitere Informationen zum Sachverständigenrat für Verbraucherfragen: http://www.svr-verbraucherfragen.de.

Consumer scoring in the digital world

German Informatics Society (GI) provides expertise on how to regulate discriminatory algorithmic decision-making processes

The German Expert Council for Consumer Affairs (SVRV), an advisory body of the Federal Ministry of Justice and Consumer Protection (BMJV), has commissioned a group of experts from the German Informatics Society to develop an report on "Consumer Scoring: Feasibility Study for an Algorithm Law" later this year. The SVRV ties it to his earlier topic paper "Digital World and Health: eHealth and mHealth - Opportunities and Risks of Digitalisation in the Healthcare Sector" and "Consumer Law 2.0".

The focus of the discussion on this topic is on novel scoring methods that go far beyond the publicly known example of credit and credit scoring. Algorithms raise a variety of legal issues, the legal regulation of algorithms can affect different aspects accordingly.

The study will focus on consumer-relevant decisions through algorithms, so-called algorithmic decision making (ADM). This applies to cases where consumer-related decisions such as lending, job offers or the amount of insurance premiums are made by machinery. In this context, decisions that are relevant to the legal relationships of natural persons in their capacity as consumers are considered to be relevant for consumers.

The study will focus on the legal core of the issue, the quality of the decisions. Therefore, in the first part of the study problem scenarios are worked out, which are used in the further analysis. One problem scenario is discrimination, i. the use of invalid decision criteria in algorithms.

Here, for example, it is worked out which decision criteria are considered inadmissible (obviously about: religious affiliation, sexual orientation, etc. in personnel decisions) and how the use of such decision criteria is embedded in algorithms. Another problem scenario is the substantive "correctness" of a decision. For example, it will be asked under which conditions a machine-generated decision can be regarded as "correct" and how the correctness of decisions can be addressed by algorithms.

For more information on the Expert Council for Consumer Affairs: http://www.svr-verbraucherfragen.de.

Ansprechpartner

Daniel Krupka

Geschäftsleitung Berlin

Telefon: +49 30 7261566 15
E-Mail: daniel.krupka(at)gi.de