Kreditverweigerung durch eine KI? Ihnen gebührt eine umfassende Erklärung, sagt die Aufsichtsbehörde
Wenn Ihr Kreditantrag abgelehnt wird, ist der Gläubiger Ihnen eine genaue Erklärung schuldig – auch wenn es eine war Künstliches Intelligenzsystem oder komplexer Algorithmus, der die Entscheidung getroffen hat, der Verbraucherwächter der Regierung sagt.
Die zentralen Thesen
- Unternehmen, die Verbrauchern Kredite verweigern, müssen eine genaue Erklärung dafür liefern, selbst wenn diese durch einen undurchschaubaren „Black-Box“-Algorithmus erstellt wurde, so die CFPB.
- Die Leitlinien betreffen Hinweise auf „unerwünschte“ Maßnahmen, die Finanzunternehmen gesetzlich an Verbraucher weitergeben müssen, um Diskriminierung zu verhindern.
- Künstliche Intelligenzsysteme, wie sie zunehmend zur Kreditentscheidung eingesetzt werden, können so komplex sein, dass selbst ihre Entwickler nicht wissen, wie sie zu ihren Entscheidungen gekommen sind.
Unternehmen, die KI oder Algorithmen nutzen, um jemandem Kredite zu verweigern, müssen den Verbrauchern dennoch genaue Gründe für ihre Entscheidung nennen, sagte das Consumer Financial Protection Bureau am Dienstag.
Wenn ein Unternehmen einen Kreditantrag ablehnt, muss es dies im Allgemeinen tun eine Mitteilung über „unerwünschte Maßnahmen“ versenden Darlegen der Gründe für die Ablehnung. Diese Anforderung wurde vom Gesetzgeber im Rahmen des Gesetzes geschaffen Gesetz zur Chancengleichheit bei Krediten um sicherzustellen, dass Kreditgeber echte Gründe für die Ablehnung bestimmter Anträge hatten und Menschen nicht aufgrund ihrer Rasse oder anderer unrechtmäßiger Gründe diskriminierten.
Die neuen Leitlinien des CFPB besagen, dass Unternehmen echte und detaillierte Erklärungen liefern müssen – und nicht nur allgemeine Standarderklärungen. Zum Beispiel, wenn ein Unternehmen den Kreditrahmen eines Kunden einschränkt, weil dieser bestimmte Artikel gekauft oder bei bestimmten eingekauft hat In Geschäften müssen sie angeben, welche Käufe ihrer Kreditwürdigkeit schaden, anstatt eine vage Erklärung wie „Kaufhistorie“ abzugeben CFPB sagte.
„Gläubiger müssen die konkreten Gründe offenlegen, auch wenn die Verbraucher möglicherweise überrascht, verärgert oder verärgert sind, wenn sie von ihrer Kreditwürdigkeit erfahren Anträge wurden anhand von Daten bewertet, die möglicherweise nicht intuitiv mit ihren Finanzen in Zusammenhang stehen“, sagte die CFPB in einer Pressemitteilung freigeben.
Das Büro stellte fest, dass Unternehmen Kreditentscheidungen zunehmend KI und Algorithmen überlassen, die so komplex sind, dass Forscher sie als „Black Boxes“ bezeichnen.
Das in den CFPB-Leitlinien angesprochene „Black-Box“-Phänomen bezieht sich auf die Tatsache, dass KI und maschinelles Lernen Systeme funktionieren nicht wie herkömmliche Computerprogramme, die einer Reihe von Anweisungen folgen, die von einem vorgegeben werden Programmierer.
Stattdessen verarbeiten sie riesige Datenmengen und folgen einem „Lernprozess“, was zu unglaublich komplexen Systemen führt. Auch die Ersteller solcher „Black-Box“-Systeme können laut Informatikern oft nicht genau nachvollziehen, wie sie zu einer bestimmten Entscheidung gekommen sind.
„Technologie, die als künstliche Intelligenz vermarktet wird, erweitert die Daten, die für Kreditentscheidungen verwendet werden, und auch.“ Die Liste potenzieller Gründe für die Verweigerung von Krediten wächst“, sagte CFPB-Direktor Rohit Chopra in einem Stellungnahme. „Gläubiger müssen in der Lage sein, ihre Ablehnungsgründe konkret darzulegen. Es gibt keine besondere Ausnahmeregelung für künstliche Intelligenz.“
