Voraussetzung für die Nutzung von (KI-basierten) Prognosemodellen in der Praxis

(Externe) Validierung: Nach der Entwicklung eines Prognosemodells muss dieses validiert werden. Validierung bedeutet, die Vorhersagegüte eines Modells zu beurteilen und zu überprüfen, wie gut es auf verschiedene Settings generalisierbar ist. Wenn ein Modell zu stark auf die Population passt, auf dem es entwickelt wurde (Overfitting), so kann dies in einer Validierung entdeckt werden.
Es gibt zwei Arten der Validierung: interne Validierung und externe Validierung. Bei der internen Validierung wird ein Datensatz verwendet, der aus der gleichen Population und dem gleichen Setting stammt wie der Trainingsdatensatz. Dies kann zum Beispiel ein Datensatz sein, der an Patientinnen und Patienten desselben Klinikums erhoben wurde. Zumeist wird zur internen Validierung bei der Modellentwicklung der gesamte vorliegende Datensatz in zwei Teile geteilt, einen Trainings- und einen Validierungsdatensatz. Die Daten, auf denen das Modell entwickelt wird und auf dem es intern validiert wird, stammen dann aus derselben Population. Im Gegensatz dazu bezieht sich die externe Validierung auf einen Datensatz, der völlig neu ist. Dieser Datensatz kann zeitlich (temporale Validierung) und räumlich (geografische Validierung) von der ursprünglichen Population verschieden sein, beispielsweise Daten aus einem anderen Klinikum. Die externe Validierung kann anhand retrospektiv oder prospektiv erhobener Daten durchgeführt werden. Eine prospektive Validierung hat den Vorteil, dass die Anwendbarkeit des Modells in der jeweiligen Anwendungspraxis besser repräsentiert und zudem potenzielle Anwendungsprobleme aufgedeckt werden können.
Eine Validierung sollte den Vergleich der Vorhersagen des Prognosemodells mit dem aktuellen Standard der Versorgung, also ohne Prognosemodell, umfassen, um den tatsächlichen Nutzen des Vorhersagemodells zu quantifizieren. Dies könnte beispielsweise den Vergleich von Sensitivität und Spezifität der Entscheidungen von Ärztinnen und Ärzten und ohne Entscheidungstool umfassen.

Maße für die Vorhersagegenauigkeit: Die beiden wichtigsten Metriken zur Einschätzung der Güte eines Prognosemodells sind Diskriminierung und Kalibrierung.
Diskriminierung bezeichnet die Fähigkeit eines Prognosemodells, zwischen Individuen mit und ohne das vorhergesagte Ergebnis zu unterscheiden. Dies ist relevant bei binären und multinomialen Klassifikationen. Zum Beispiel bei der Bestimmung des Risikos für das Wiederauftreten einer Krankheit zeigt die Diskriminierung, wie gut das Modell zwischen denjenigen unterscheiden kann, bei denen die Krankheit wieder aufgetreten ist, und denen, bei denen sie nicht wieder aufgetreten ist.
Kalibrierung beurteilt, inwiefern die vom Modell berechneten Werte mit den tatsächlichen beobachteten Ergebnissen übereinstimmen. Für das Beispiel der wiederauftretenden Krankheit bedeutet dies, dass die beobachteten Wahrscheinlichkeiten für das Wiederauftreten der Krankheit mit den vom Modell prognostizierten Wahrscheinlichkeiten verglichen werden. Je besser die beobachteten und vom Modell prognostizierten Wahrscheinlichkeiten übereinstimmen, desto besser ist das Modell kalibriert.
Bei der Betrachtung dieser Metriken sollte nicht nur auf statistische Signifikanz geachtet werden, sondern vielmehr auf die Schätzung von Konfidenzintervallen. In bestimmten Anwendungsfällen können auch weitere Metriken von Relevanz sein, wie z.B. die Anzahl der falsch klassifizierten Fälle, wenn Über- bzw. Unterdiagnose von besonderer Bedeutung sind.
Ein trainiertes Modell wird immer besser auf den Daten funktionieren, auf denen es trainiert wurde (Trainingsdaten) als auf neuen Daten (siehe Overfitting). Wichtig ist daher, dass die Performance-Metriken für die Test- und/oder Validierungsdaten berichtet werden und keinesfalls ausschließlich auf den Trainingsdaten. Die auf den Test- und/oder Validierungsdaten basierenden Metriken sollten daher ausschlaggebend für die Beurteilung sein, ob ein Modell auch in der Praxis gut funktioniert. Im Idealfall sollten die Metriken auf einem Datensatz einer externen Kohorte überprüft werden (siehe externe Validierung).

Reproduzierbarkeit: Um die Ergebnisse eines Prognosemodells in Validierungsstudien zu untersuchen und das Modell erfolgreich zu implementieren, ist eine transparente und nachvollziehbare Dokumentation der Modellentwicklung und -ergebnisse unerlässlich. Eine sorgfältige Dokumentation gewährleistet die Reproduzierbarkeit der Modellergebnisse und ermöglicht es Forschenden und Nutzen, die Ergebnisse zu überprüfen und das Modell weiter zu verbessern.

IMPLEMENTIERUNG UND INSTANDHALTUNG

Integration in bestehende Strukturen: Für eine erfolgreiche Implementierung muss das Modell zunächst in die bestehenden Systeme und Workflows integriert werden.
Die Mensch-Modell-Interaktion sollte im Voraus genau definiert werden: Welche Informationen werden den Nutzenden zur Verfügung gestellt? Welche Informationen benötigt das Modell von Nutzerinnen und Nutzern? Es ist wichtig, Sicherheitsrisiken zu prüfen und Strategien zu entwickeln, um diese zu minimieren. Dazu gehören Risiken wie Manipulation und die Re-Identifizierung von Behandlungsinformationen.
Darüber hinaus ist es wichtig zu klären, wie das Modell regelmäßig angepasst wird. Wie wird sichergestellt, dass Modelle aktualisiert werden? Werden neue Daten verwendet, um das Modell regelmäßig zu aktualisieren? Was passiert, wenn sich Standards ändern oder bestimmte Variablen nicht mehr erfasst werden? Auch sollte regelmäßig überprüft werden, ob das Modell zu unerwünschten Vorhersagen führt, und ständige Qualitätskontrollen sollten durchgeführt werden. Dies ermöglicht es, das Modell kontinuierlich zu verbessern und sicherzustellen, dass es den Anforderungen der Nutzenden entspricht.

Schulung der Anwenderinnen und Anwender: Nicht zuletzt hängt die erfolgreiche Implementierung eines Prognosemodells davon ab, wie Anwenderinnen und Anwender das System nutzen. Dies setzt voraus, dass sie in der Anwendung geschult werden. Ihnen sollte klar sein, wofür das System nutzbar ist, welche möglichen Verzerrungen dem System inhärent sind und wie sie die Entscheidungen nachvollziehbar machen können.
Die Schulung der Anwenderinnen und Anwender sollte folgende Ziele verfolgen:

• Verständnis der Funktionsweise des Prognosemodells

• Kenntnis der Stärken und Schwächen des Modells

• Fähigkeit, die Ergebnisse des Modells zu interpretieren und zu nutzen

• Verständnis der möglichen Verzerrungen und Limitationen des Modells

SPEZIFIKA UND HERAUSFORDERUNGEN FÜR KI-BASIERTE MODELLE

In der Landschaft der klinischen Forschung hat die Integration von Methoden des maschinellen Lernens (ML) und künstlicher Intelligenz (KI) zahlreiche neue Möglichkeiten eröffnet. Während der Begriff KI umgangssprachlich häufig mit generativen Sprachmodellen wie ChatGPT gleichgesetzt wird, bieten KI-basierte Methoden darüber hinaus auch Einsatzmöglichkeiten in der Entwicklung von Prognosemodellen. So erweisen sich KI-basierte Anwendungen in der Vorhersage und Risikobewertung für verschiedene Krebsarten, darunter Brust-, Hirn-, Lungen-, Leber- und Prostatakrebs, als äußerst effektiv und können zum Teil sogar eine größere Genauigkeit bei der Vorhersage erzielen als die Einschätzung von, z.B. Berufsanfängerinnen und Berufsanfängern.[7]
Die oben beschriebenen generellen methodischen Fallstricke treffen, wie bei klassischen Auswertungsmethoden, auch auf KI-basierte Prognosemodelle zu.[8,9] Es gibt jedoch spezifische Herausforderungen, die bei KI-basierten Prognosemodellen zusätzlich von Relevanz sind.[8,9,10,11]

Methoden der Künstlichen Intelligenz und des Maschinellen Lernens stellen im Gegensatz zu klassischen Verfahren wenige Annahmen an die Daten, auf denen sie lernen bzw. trainieren. Dies ermöglicht es, auch nicht nur strukturierte quantitative Daten zu berücksichtigen, sondern auch andere Datentypen, wie Textdaten oder Bilddaten auszuwerten. Dies ist vor allem bei großen Datenmengen von Vorteil.

Diese technischen Vorteile stehen jedoch Einschränkungen in Bezug auf die Interpretierbarkeit und Nachvollziehbarkeit von Ergebnissen gegenüber. Die Transparenz der Entscheidungsfindung bei Prognosemodellen ist entscheidend für das Vertrauen der Anwenderinnen und Anwender, unabhängig von der verwendeten Methode. Bei komplexeren Methoden wird die Vermittlung, wie das Modell zu einer Entscheidung kommt, zunehmend schwieriger. Insbesondere bei Methoden der Künstlichen Intelligenz ist häufig nicht klar, wie diese Modelle zu einem Ergebnis gelangen. Der Algorithmus ist oft so komplex, dass selbst für Entwicklerinnen und Entwickler die Entscheidungsfindung häufig eine „Black Box“ darstellt. Bei KI-basierten Methoden können sehr komplexe Zusammenhänge zwischen verschiedenen Faktoren berechnet werden, die ebenfalls häufig schwer zu vermitteln sind. Für Nutzende kann dies eine immense Hürde in der Anwendung darstellen, da sie dem Ergebnis nicht vertrauen und auch von haftungsrechtlicher Relevanz sein können. Daher sollte in der Entwicklung von KI-basierten Prognosemodellen stets die Bemühung bestehen, die Ergebnisse nachvollziehbar zu machen (Explainable AI).

Diese Nachteile sollten insbesondere auch vor dem Hintergrund betrachtet werden, dass KI-basierte Prädiktionsmodelle oftmals nicht besser sind als traditionelle statistische Modelle. So zeigt ein systematischer Review von Prädiktionsmodellen aus verschiedenen Disziplinen des Gesundheitswesens, dass ML-basierte Prädiktionsmodelle nicht besser funktionieren als regressionsbasierte Modelle.[12] Während dies sicherlich nicht auf alle ML-/KI-basierten Modelle zutreffen wird, bedeutet es jedoch, dass ein Zugewinn von ML/KI-Methoden nicht immer zwingend gegeben ist. Ein einfaches Modell, das nachvollziehbar und leichter zu vermitteln ist, sollte aus gennannten Gründen bei gleichwertiger Güte, jedoch immer bevorzugt werden gegenüber einem komplexen Algorithmus.

FAZIT

Systematische Reviews zeigen, dass viele Prognosemodelle methodisch mangelhaft sind und somit ein Risiko für systematische Verzerrungen bergen.[4,5,6] Dabei werden Probleme wie Overfitting, unrepräsentative Daten und unzureichende Validierung häufig bemängelt. Dies gilt für klassische wie für KI-basierte Modelle. Diese mangelhaften Modelle sind i. d. R. für die klinische Praxis nicht nutzbar. Daher sollten Prognosemodelle kritisch beurteilt werden, bevor sie für die Anwendung in der klinischen Praxis in Frage kommen. Zudem gibt es eine Reihe an Dingen zu beachten für die tatsächliche Implementierung, wie die Integration in den bestehenden Workflow, die Qualitätssicherung und Wartung, sowie die Schulung von Anwenderinnen und Anwendern.