Künstliche Intelligenz kann medizinische Bilder wie diese histopathologischen Aufnahmen zur Krebsdiagnostik bereits gut analysieren. Sobald allerdings Textinformationen integriert werden, schneidet sie bei der Genauigkeit deutlich schlechter ab.
KI gewinnt im Gesundheitswesen und der biomedizinischen Forschung zunehmend an Bedeutung. Viele KI-Modelle sind in der Lage, auch komplexe medizinische Bilder zu analysieren: Beispielsweise können sie bei mikroskopischen Gewebeschnitten erkennen, um welches Organ es sich handelt oder ob ein Tumor vorliegt und welche genetischen Mutationen wahrscheinlich sind.
Vor dem Hintergrund, dass kommerzielle KI-Modelle oftmals noch nicht die Genauigkeit erreichen, die für eine klinische Anwendung notwendig wäre, haben Forscher in Dresden festgestellt:
Ist in Bildern Text integriert, kann dieser das Urteilsvermögen von KI-Modellen negativ beeinflussen. Das haben Forscher aus Mainz und Dresden herausgefunden. Gerade bei der Analyse medizinischer Bilddaten kann das zu Problemen führen.
Beschriftung reduziert KI-Genauigkeit
Wie die Wissenschaftler herausfanden, können Textinformationen, die den Bildern hinzugefügt werden (sogenannte Prompt Injections), den Output der KI-Modelle entscheidend beeinflussen. Es scheint, als könnte zusätzlicher Text das Urteilsvermögen der KI-Modelle maßgeblich reduzieren.
Zu diesem Ergebnis kamen die Forscher, indem sie die gängigen Bildsprachmodelle Claude und GPT-4o an pathologischen Bildern testeten. Die Forschungsteams fügten handschriftliche Beschriftungen und Wasserzeichen ein – manche davon waren korrekt, manche falsch. Wenn wahrheitsgemäße Beschriftungen gezeigt wurden, funktionierten die getesteten Modelle nahezu perfekt. Waren die Beschriftungen oder Wasserzeichen jedoch irreführend oder falsch, sank die Genauigkeit der korrekten Antworten auf fast null Prozent.
#Bildverarbeitung #KI #Imaging #MedTech #DermaTech #FemTech #AI
Q: https://www.industr.com/de/moegliche-schwachstelle-in-beliebten-ki-modellen-gefunden-2860333?GP_NR={GP_NR}&Article_ID=2860333&utm_source=newsletter&GP_NR=10602159