KI & Bias
Was ist Bias?
Bias bezeichnet systematische Verzerrungen in Daten, Modellen oder Auswertungsverfahren. Solche Verzerrungen können entstehen, wenn bestimmte Gruppen in Datensätzen über- oder unterrepräsentiert sind oder wenn strukturelle Unterschiede nicht ausreichend berücksichtigt werden.
Im Kontext digitaler Gesundheitsanwendungen bedeutet Bias, dass datenbasierte Analysen möglicherweise unterschiedliche Ergebnisse für verschiedene Personengruppen liefern können – nicht zwingend aufgrund medizinischer Unterschiede, sondern aufgrund der zugrunde liegenden Datenstruktur oder Modellierung.
KI & Bias
Warum ist Bias relevant?
Digitale Gesundheitslösungen arbeiten zunehmend mit großen Datenmengen und algorithmischen Auswertungsverfahren. Die Qualität der Ergebnisse hängt dabei maßgeblich von der Qualität und Zusammensetzung der Daten ab.
Werden geschlechtsspezifische Unterschiede nicht systematisch analysiert oder sind bestimmte Gruppen in Datensätzen ungleich vertreten, können Verzerrungen entstehen. Diese müssen wissenschaftlich geprüft und methodisch adressiert werden, um belastbare und nachvollziehbare Ergebnisse zu gewährleisten.
Eine transparente Analyse möglicher Verzerrungen ist daher Bestandteil verantwortungsvoller digitaler Gesundheitsforschung.
Im Projekt gEndurance werden geschlechtsspezifische Unterschiede nicht vorausgesetzt, sondern empirisch geprüft. Dabei wird auch analysiert, ob datenbasierte Auswertungen unterschiedliche Effekte für Frauen und Männer zeigen.
Die ELSA-Begleitforschung begleitet diesen Prozess und untersucht, ob strukturelle Verzerrungen auftreten könnten und wie Transparenz sowie methodische Nachvollziehbarkeit sichergestellt werden können. Ziel ist es, eine digitale Intervention zu entwickeln, die auf einer möglichst fairen und differenzierten Datenbasis beruht.
Projektpartner
Projektförderung
Gefördert vom 11/2025 bis 10/2028
Förderkennzeichen: 16SV9513
