Modelle der generativen künstlichen Intelligenz heben soziale Determinanten der Gesundheit in Arztbriefen wirkungsvoll hervor

Wo wir leben und arbeiten, unser Alter und die Bedingungen, unter denen wir aufgewachsen sind, können unsere Gesundheit beeinflussen und zu Ungleichheiten führen, aber diese Faktoren können für Kliniker und Forscher schwer zu erfassen und zu berücksichtigen sein.

Eine neue Studie von Forschern von Mass General Brigham zeigt, dass große Sprachmodelle (LLMs), eine Art generative künstliche Intelligenz (KI), trainiert werden können, um automatisch Informationen über soziale Determinanten der Gesundheit (SDoH) aus den Notizen von Klinikern zu extrahieren, die die Gesundheit verbessern könnten Bemühungen, Patienten zu identifizieren, die von Ressourcenunterstützung profitieren könnten.

Ergebnisse veröffentlicht in npj Digitale Medizin zeigen, dass die fein abgestimmten Modelle 93,8 Prozent der Patienten mit unerwünschtem SDoH identifizieren konnten, während offizielle Diagnosecodes diese Informationen nur in 2 Prozent der Fälle enthielten. Diese spezialisierten Modelle waren weniger anfällig für Verzerrungen als generalistische Modelle wie GPT-4.

„Unser Ziel ist es, Patienten zu identifizieren, die von Ressourcen- und Sozialarbeitsunterstützung profitieren könnten, und die Aufmerksamkeit auf die unzureichend dokumentierten Auswirkungen sozialer Faktoren auf die Gesundheitsergebnisse zu lenken“, sagte Korrespondentin Danielle Bitterman, MD, Fakultätsmitglied im Bereich Künstliche Intelligenz in der Medizin (AIM)-Programm am Mass General Brigham und Arzt in der Abteilung für Radioonkologie am Brigham and Women's Hospital.

„Algorithmen, die wichtige medizinische Untersuchungen bestehen können, haben viel Aufmerksamkeit erhalten, aber das ist nicht das, was Ärzte in der Klinik brauchen, um ihre Patienten jeden Tag besser betreuen zu können. Algorithmen, die erkennen können, was Ärzte in der ständig wachsenden Menge an Tests möglicherweise übersehen.“ Krankenakten werden klinisch relevanter und daher aussagekräftiger für die Verbesserung der Gesundheit sein.“

Gesundheitliche Ungleichheiten hängen weitgehend mit SDoH zusammen, einschließlich Beschäftigung, Wohnverhältnissen und anderen nichtmedizinischen Umständen, die sich auf die medizinische Versorgung auswirken. Beispielsweise kann die Entfernung eines Krebspatienten von einem großen medizinischen Zentrum oder die Unterstützung, die er von einem Partner erhält, die Ergebnisse erheblich beeinflussen. Während Ärzte relevante SDoH in ihren Besuchsnotizen zusammenfassen, werden diese wichtigen Informationen selten systematisch in der elektronischen Gesundheitsakte (EHR) organisiert.

Um LMs zu erstellen, die in der Lage sind, Informationen zu SDoH zu extrahieren, überprüften die Forscher manuell 800 klinische Notizen von 770 Krebspatienten, die in der Abteilung für Radioonkologie des Brigham and Women's Hospital eine Strahlentherapie erhielten. Sie markierten Sätze, die sich auf einen oder mehrere von sechs vorab festgelegten SDoH bezogen: Beschäftigungsstatus, Wohnort, Transport, Elternstatus (wenn der Patient ein Kind unter 18 Jahren hat), Beziehungen und Vorhandensein oder Fehlen sozialer Unterstützung.

Mithilfe dieses „annotierten“ Datensatzes trainierten die Forscher vorhandene LMs, Hinweise auf SDoH in Notizen von Ärzten zu identifizieren. Sie testeten ihre Modelle anhand von 400 Kliniknotizen von Patienten, die am Dana-Farber Cancer Institute mit Immuntherapie behandelt wurden, und von Patienten, die auf den Intensivstationen des Beth Israel Deaconess Medical Center aufgenommen wurden.

Die Forscher fanden heraus, dass fein abgestimmte LMs, insbesondere Flan-T5-LMs, seltene Hinweise auf SDoH in Notizen von Ärzten konsistent identifizieren konnten. Die „Lernfähigkeit“ dieser Modelle wurde durch die Seltenheit der SDoH-Dokumentation im Trainingssatz eingeschränkt, wobei die Forscher herausfanden, dass nur 3 Prozent der Sätze in den Notizen des Arztes irgendeine Erwähnung von SDoH enthielten.

Um dieses Problem anzugehen, verwendeten die Forscher ChatGPT, ein weiteres LM, um weitere 900 synthetische Beispiele von SDoH-Sätzen zu erstellen, die als zusätzlicher Trainingsdatensatz verwendet werden konnten.

Ein Hauptkritikpunkt an generativen KI-Modellen im Gesundheitswesen ist, dass sie möglicherweise Voreingenommenheit aufrechterhalten und gesundheitliche Ungleichheiten vergrößern können. Die Forscher fanden heraus, dass ihr fein abgestimmtes LM weniger wahrscheinlich als das GPT-4 von OpenAI, ein generalistisches LM, seine Entscheidung über einen SDoH basierend auf der Rasse/Ethnizität und dem Geschlecht des Einzelnen änderte.

Die Forscher geben an, dass es schwierig sei zu verstehen, wie Vorurteile gebildet und dekonstruiert werden – sowohl in menschlichen als auch in Computermodellen. Die Ursachen der algorithmischen Verzerrung zu verstehen, ist für die Forscher ein fortlaufendes Unterfangen.

„Wenn wir bei der Entwicklung und Implementierung großer Sprachmodelle nicht auf algorithmische Verzerrungen achten, könnten wir die bestehenden gesundheitlichen Ungleichheiten noch viel schlimmer machen, als sie derzeit sind“, sagte Bitterman. „Diese Studie hat gezeigt, dass die Feinabstimmung von LMs eine Strategie zur Reduzierung algorithmischer Verzerrungen sein kann, aber in diesem Bereich sind weitere Untersuchungen erforderlich.“