imageBugfix.png
ADM-Regulierung

Verbraucher-Scoring in der digitalen Welt

GI erstellt Gutachten zu Regulierungsmöglichkeiten von diskriminierenden algorithmischen Entscheidungen

Der Sachverständigenrat für Verbraucherfragen (SVRV), ein Beratungsgremium des Bundesministeriums der Justiz und für Verbraucherschutz (BMJV), hat einen Expertenkreis der Gesellschaft für Informatik damit beauftragt noch in diesem Jahr ein Gutachten zum Thema „Verbraucher-Scoring: Machbarkeitsstudie für ein Algorithmengesetz“ zu entwickeln. Der SVRV knüpft damit u.a. an sein früheres Themenpapier „Digitale Welt und Gesundheit. eHealth und mHealth – Chancen und Risiken der Digitalisierung im Gesundheitsbereich“ sowie „Verbraucherrecht 2.0" an.

Im Fokus der Auseinandersetzung mit dem Thema stehen dabei neuartige Scoring-Verfahren, die weit über das in der Öffentlichkeit bekannteste Beispiel des Kredit- und Bonitätsscoring hinausgehen.

Algorithmen werfen eine Vielzahl von Rechtsfragen auf, die rechtliche Regelung von Algorithmen kann entsprechend unterschiedliche Aspekte betreffen.

Die Studie wird auf verbraucherrelevante Entscheidungen durch Algorithmen fokussiert sein, sogenannte algorithmischen Entscheidungsverfahren (ADM: "algorithmic decision making"). Dies betrifft Fälle, in denen verbraucherrelevante Entscheidungen, etwa über Kreditvergabe, Jobangebote, generell: Abschluss von Verträgen und Höhe von Versicherungsprämien, generell: Bedingungen in Rechtsbeziehungen durch Maschinen getroffen werden. Als verbraucherrelevant werden dabei solche Entscheidungen angesehen, die für Rechtsverhältnisse natürlicher Personen in ihrer Eigenschaft als Verbraucher von Bedeutung sind.

Die Studie sollte weiterhin auf den rechtlichen Kern der Problematik, die Qualität der Entscheidungen fokussiert sein. Daher werden im ersten Teil der Studie Problemszenarien herausgearbeitet, die in der weiteren Analyse herangezogen werden. Ein Problemszenario ist dabei Diskriminierung, d.h. die Verwendung unzulässiger Entscheidungskriterien in Algorithmen.

Hier wird etwa herauszuarbeiten sein, welche Entscheidungskriterien als unzulässig gelten (offensichtlich etwa: Religionszugehörigkeit, sexuelle Orientierung etc. in Personalentscheidungen) und wie die Verwendung solcher Entscheidungskriterien in Algorithmen eingebettet ist. Ein anderes Problemszenario ist die inhaltliche „Richtigkeit“ einer Entscheidung. Dabei ist etwa zu fragen, unter welchen Voraussetzungen eine maschinengenerierte Entscheidung als „richtig“ anzusehen ist und wie die Richtigkeit von Entscheidungen durch Algorithmen zu adressieren ist.

Weitere Informationen zum Sachverständigenrat für Verbraucherfragen: http://www.svr-verbraucherfragen.de.

Ansprechpartner

Daniel Krupka

Geschäftsleitung Berlin

Telefon: +49 30 7261566 15
E-Mail: daniel.krupka(at)gi.de