Künstliche Intelligenz schafft neue Möglichkeiten zur Betrugsbekämpfung

von Taka Ariga, U.S. Government Accountability Office (GAO), Chief Data Scientist und Direktor, GAO Innovation Lab; Johana Ayers, Managing Director, GAO Forensic Audits and Investigative Service (FAIS); Toni Gillich, GAO FAIS Assistant Director; Nick Weeks, GAO FAIS Senior Analyst; Scott Hiromoto, GAO Applied Research and Methods Senior Data Analyst; und Martin Skorczynski, Senior Data Scientist, GAO Innovation Lab

Die Bekämpfung von Betrügern ist seit langem eine ständige Herausforderung für staatliche Stellen. Es gibt zwar keine genauen Zahlen, aber durch betrügerische Aktivitäten werden jedes Jahr Milliarden von Steuergeldern aus wichtigen Programmen abgezogen. In der heutigen digital vernetzten, informationsgesteuerten Welt wird der traditionelle Ansatz der Betrugsaufdeckung, der auf rückwirkenden Prüfungen durch Wirtschaftsprüfer beruht, immer unwirksamer. Dieses “erst zahlen, dann jagen”-Verfahren ist ressourcenintensiv, schwer zu skalieren und führt nicht dazu, dass ein erheblicher Teil der bekannten und vermuteten betrügerischen Transaktionen aufgegriffen wird.

Glücklicherweise hat die Vermehrung von Daten zusammen mit den Fortschritten bei den Rechenkapazitäten das goldene Zeitalter der künstlichen Intelligenz (KI) eingeläutet, in dem Algorithmen und Modelle anomale Muster, Verhaltensweisen und Beziehungen aufdecken können – und das mit einer Geschwindigkeit, in einem Umfang und in einer Tiefe, wie es noch vor einem Jahrzehnt nicht möglich war.

Von der Navigation über das Global Positioning System bis hin zur Gesichtserkennung hat die KI alle Bereiche unseres Lebens grundlegend verändert. Organisationen des öffentlichen Sektors nutzen in ähnlicher Weise leistungsstarke Algorithmen, um rote Fahnen besser zu erkennen und zu beseitigen, bevor sie sich zu bedeutenden Problemen entwickeln.

Wichtig ist, dass KI das professionelle Urteilsvermögen erfahrener Prüfer bei der Aufdeckung potenziell betrügerischer Aktivitäten nicht ersetzt. Auch wenn KI große Datenmengen mit enormer Genauigkeit durchforsten kann, ist die menschliche Intelligenz nach wie vor ein wesentliches Element für die Festlegung kontextspezifischer, angemessener und nuancierter Maßnahmen, die sich aus den algorithmischen Ergebnissen ergeben. Diese symbiotische Beziehung bedeutet, dass KI die Arbeit der Obersten Rechnungskontrollbehörden (ORKB) unterstützen und die Art und Weise, wie diese Arbeit ausgeführt wird, verändern wird – was unterschiedliche Fähigkeiten erfordert, um die Fähigkeit der KI zur Steigerung von Wirksamkeit und Effizienz zu nutzen.

Das U.S. Government Accountability Office (GAO) ist bestrebt, die Leistungsfähigkeit von KI zu nutzen, um die staatliche Aufsicht zu verbessern und Betrug zu bekämpfen. Das Innovation Lab des GAO, das 2019 als Teil der neuen Abteilung für Wissenschaft, Technologiebewertung und Analytik der Behörde eingerichtet wurde, treibt die Erprobung von KI in verschiedenen Anwendungsfällen der Rechnungsprüfung voran (siehe Tabelle 1 “KI-Fähigkeiten und laufende Arbeiten des GAO”).

Sobald Fortschritte erzielt werden, möchte das GAO Erfolgsgeschichten und Erfahrungen mit den ORKB und der breiteren Rechenschaftspflichtgemeinschaft teilen. Gleichzeitig befindet sich das Innovation Lab in Zusammenarbeit mit allen relevanten Akteuren in einem frühen Stadium der Entwicklung eines KI-Aufsichtsrahmens, der die Entwicklung von KI-Lösungen unter Einhaltung übergreifender bewährter Verfahren und Standards für Prüfer unterstützen soll.

Tabelle 1 zeigt auch, wie das Innovation Lab des GAO relevante Analysefähigkeiten im Zusammenhang mit Betrug entwickelt, die die Grundlage für zukünftige KI-Lösungen bilden könnten. Jeder Anwendungsfall ist darauf ausgelegt, verborgene Korrelationen, Verhaltensweisen, Beziehungen, Muster und Anomalien, die auf Betrugsrisiken hindeuten können, schnell zu erkennen.

Bevor die ORKB analytische KI-Lösungen für die Aufsicht und Betrugsbekämpfung einsetzen, können sie wichtige rechtliche, gesellschaftliche, ethische und operative Überlegungen anstellen, die für KI besonders relevant sind. Darüber hinaus können die ORKBn wertvolle Erkenntnisse aus den Erfahrungen und Erkenntnissen von Organisationen des privaten und öffentlichen Sektors gewinnen.

WICHTIGE ÜBERLEGUNG BEIM EINSATZ VON KI

KI-Algorithmen verstehen nicht den Unterschied zwischen betrügerischen und nicht betrügerischen Transaktionen. Stattdessen erkennen diese Algorithmen Anomalien, wie z. B. ungewöhnliche Transaktionen zwischen Konten. Um diese Anomalien zu analysieren und festzustellen, ob ein möglicher Betrug vorliegt, sind nach wie vor menschliche Fachleute erforderlich.

Um einer Prüfung standzuhalten, können Prüfungseinrichtungen, die KI-Lösungen zur Betrugsbekämpfung einführen wollen, eine Reihe von Leitpunkten berücksichtigen, darunter auch, wie KI-Lösungen aussehen:

• Sorgfältig geschult und validiert : Um Modellfehler zu minimieren, müssen KI-Algorithmen sorgfältig trainiert und validiert werden. KI-Lösungen, die zu viele Fehlalarme erzeugen, indem sie beispielsweise zu viele legitime Transaktionen als potenziell betrügerisch einstufen, können ein Unternehmen und seine Fähigkeit, potenziellen Betrug zu untersuchen, überfordern.Erklärbar,
• Logisch und Vernünftig : Erklärbare, gut definierte und genau dokumentierte KI-Algorithmen sind von größter Bedeutung. Es muss sichergestellt werden, dass die modellierten Abhängigkeiten zwischen den Variablen logisch sind, dass die zugrunde liegenden Annahmen vernünftig sind und dass die Ergebnisse des Modells und des Algorithmus in einfacher Sprache ausgedrückt werden.
• Prüfbar : Um den allgemein anerkannten staatlichen Prüfungsstandards zu entsprechen, ist eine gründliche Dokumentation der angewandten AI-Techniken von entscheidender Bedeutung. Dazu gehören die Parameter für die verwendeten Modelle und Datensätze sowie die Gründe für die Einbeziehung proprietärer Techniken, z. B. Systeme von Drittanbietern.
• Regiert : Die Überwachung von KI-Algorithmen ist für die Gewährleistung einer konsistenten Leistung in verschiedenen Betriebsumgebungen unerlässlich. Es ist zwingend erforderlich, dass KI-Lösungen, insbesondere “Out-of-Box”-Algorithmen, keine negativen Auswirkungen haben, wie z. B. eine unbeabsichtigte Diskriminierung geschützter Gruppen.

SCHRITTE ZUR ERFOLGREICHEN EINFÜHRUNG VON KI

Organisationen des öffentlichen und privaten Sektors haben mehrere wichtige Schritte für erfolgreiche Datenanalyseinitiativen, einschließlich KI-Ansätze, identifiziert:

Ziele identifizieren und Bemühungen aufeinander abstimmen : In der Anfangsphase der Entwicklung eines Analyseprogramms sollte ermittelt werden, wie spezifische Programmziele dazu beitragen können, die Bedürfnisse der Organisation zu erfüllen.

Buy-in einholen : Die Unterstützung der Datenanalyse durch die Organisation und die Einsicht in ihre Fähigkeit, die Zielerreichung zu verbessern, sind von entscheidender Bedeutung. Die Einrichtung einer Abteilung, die für die Entwicklung von Analysefähigkeiten zuständig ist, ist eine Möglichkeit, Wissen zu institutionalisieren.

Aktuelle Fähigkeiten verstehen : Zunächst können Unternehmen eine Bestandsaufnahme der vorhandenen Ressourcen durchführen, um die Fähigkeiten besser zu verstehen und die verbesserungsbedürftigen Bereiche zu priorisieren. Zu den wichtigsten Ressourcen gehören das Fachwissen der Mitarbeiter, Hard- und Software sowie Datenquellen und Eigentümer.

Benutzer und Fachexperten einbeziehen : Die Einbeziehung der richtigen Fachexperten in Analyseprojekte kann dazu beitragen, die Modellentwicklung zu unterstützen und die Zustimmung der späteren Modellnutzer zu erhalten.

Einfach anfangen, Kapazität schrittweise aufbauen : Organisationen können zunächst versuchen, minimal praktikable Lösungen zu entwickeln, um ihre Ziele zu erreichen. Durch die Ermittlung und Erzielung schneller und frühzeitiger Erfolge können Unternehmen eine Grundlage für die schrittweise Entwicklung weiterer Fähigkeiten schaffen, um anspruchsvollere KI-Lösungen zu implementieren.

Übergang zum Betrieb : Sobald ein minimal lebensfähiges Produkt entwickelt ist, ist die Überführung in eine Produktionsumgebung entscheidend. Es ist wichtig, Aktualisierungen des KI-Algorithmus zu dokumentieren.

ORKB-Leiter können bei der Prüfung der Einführung von KI mehrere Ressourcen in Betracht ziehen. Das Fraud Risk Framework des GAO zeigt führende Praktiken auf, die Programmmanagern bei der Bekämpfung von finanziellem und nicht-finanziellem Betrug helfen. Zu diesen führenden Praktiken gehören Schritte zur Nutzung von Datenanalyseaktivitäten zur Unterstützung der Betrugserkennung, die dazu beitragen können, eine Grundlage für anspruchsvollere Analysen, wie z. B. KI, zu schaffen.

Die “Highlights eines Forums” des GAO:Data Analytics to Address Fraud and Improper Payments” (Datenanalyse zur Bekämpfung von Betrug und unzulässigen Zahlungen) enthält Empfehlungen aus dem öffentlichen und privaten Sektor zur Einrichtung von Analyseprogrammen. Die Podiumsteilnehmer gaben insbesondere Anregungen zur Einführung und Weiterentwicklung eines Datenanalyseprogramms.

Im Jahr 2018 veröffentlichte das GAO die “KI-Technologiebewertung“, in der eine Reihe von KI-bezogenen Chancen, Herausforderungen und Bereichen identifiziert wurden, die für die künftige Forschung und politische Entscheidungsträger zu berücksichtigen sind.

Die Arbeitsgruppe “Big Data” der Internationalen Organisation der Obersten Rechnungskontrollbehörden erleichtert den Wissensaustausch zwischen den ORKB zu Fragen im Zusammenhang mit Daten und Datenanalyse.

Befragte Fachexperten

• Solon Angel, Gründer, Chief Impact Officer, MindBridge Ai
• Jim Apger, Sicherheitsarchitekt, Splunk
• Bart Baesens, Professor für Big Data und Analytik, Katholieke Universiteit Leuven, Belgien
• Justin Fessler, Stratege für künstliche Intelligenz, IBM Federal
• Robert Han, Vizepräsident, Elder Research
• Bryan Jones, Eigentümer und Hauptberater, Strategy First Analytics
• Rachel Kirkham, Leiterin der Datenanalyseforschung, United Kingdom National Audit Office (UKNAO)
• William Pratt, Datenwissenschaftler, UKNAO
• Wouter Verbeke, Außerordentlicher Professor für Wirtschaftsinformatik und Datenanalyse, Vrije Universiteit, Belgien