KI-Schreiber verwechseln im NHS Medikamente und Diagnosen

Worum es geht

KI-Schreiber hören bei medizinischen Gesprächen mit und erstellen automatisch Transkripte, Zusammenfassungen oder Einträge für die Patientenakte. Healthwatch England, die gesetzliche Interessenvertretung für Patientinnen und Patienten im englischen Gesundheitsdienst, warnt nun vor konkreten Fehlern: Ein System verwechselte Diagnosen, ein anderes nannte das falsche Medikament, und in einem weiteren Fall fehlte ein wichtiger Hinweis zur erneuten Verschreibung.

Die Fälle wurden am 31. August 2026 öffentlich berichtet. Sie sind besonders relevant, weil Ärztinnen und Ärzte in England bereits 27 verschiedene KI-Schreiber einsetzen und die britische Regierung ihre Nutzung ausweiten will. In mehreren Fällen bemerkten die Betroffenen Fehler, die medizinisches Personal zuvor nicht erkannt hatte.

Was KI-Schreiber tatsächlich machen

Ein sogenannter Ambient Scribe nimmt das Gespräch im Behandlungszimmer auf oder verarbeitet dessen Tonspur. Spracherkennung wandelt die Aussagen in Text um. Ein Sprachmodell ordnet anschließend Beschwerden, Diagnosen, Medikamente und nächste Schritte zu einer strukturierten Notiz.

Das kann Schreibarbeit reduzieren und Ärztinnen und Ärzten helfen, während des Gesprächs stärker auf ihr Gegenüber zu achten. Die Technik entscheidet aber nicht zuverlässig, welche ähnlich klingende Formulierung medizinisch gemeint war. Im dokumentierten Fall wurde „null demyelination“ zu „demyelination“. Aus dem Ausschluss einer schweren Nervenschädigung wurde damit scheinbar eine Diagnose.

In einem anderen Fall verwechselte das System ein verschriebenes Präparat mit einem ähnlich klingenden Medikament. Außerdem verschwand aus einem zusammengefassten Schreiben der Hinweis, dass eine Patientin beim Hausarzt ein neues Rezept für ihre Migränemedikation anfordern sollte.

Warum das wichtig ist

Ein Fehler in einer Patientenakte kann länger wirken als ein Fehler in einem gewöhnlichen Gespräch. Spätere Ärztinnen, Apotheker oder Kliniken können die falsche Information übernehmen. Eine unzutreffende Diagnose kann Untersuchungen, Versicherungsfragen und die psychische Belastung der betroffenen Person beeinflussen. Ein falscher Medikamentenname kann unmittelbar gefährlich werden.

NHS England verlangt in seiner Anleitung deshalb menschliche Prüfung, klare Verantwortlichkeit, Einwilligung und sichere Datenverarbeitung. Die Praxis zeigt jedoch ein Aufmerksamkeitsproblem: Je flüssiger und professioneller eine automatisch erzeugte Notiz klingt, desto leichter kann sie als korrekt erscheinen.

Hinzu kommt ein regulatorischer Streit. Healthwatch kritisiert, dass die britische Arzneimittel- und Medizinproduktebehörde diese Schreiber nicht generell als Medizinprodukte behandelt. Damit fehlt eine einheitliche landesweite Sicherheitsprüfung für die gesamte Produktgruppe.

Einfach erklärt

Ein KI-Schreiber ist wie eine Person, die während eines schnellen Kochkurses das Rezept mitschreibt. Meistens hält sie Zutaten und Schritte richtig fest. Verwechselt sie aber „kein Salz“ mit „Salz“, sieht die Notiz ordentlich aus und führt trotzdem zu einem völlig anderen Ergebnis. Deshalb muss die Köchin das Rezept prüfen, bevor es weitergegeben wird.

Praktisches Beispiel

Eine Hausarztpraxis führt täglich 60 Gespräche und lässt alle automatisch zusammenfassen. Wenn nur ein Prozent der Notizen einen relevanten Fehler enthält, wären das rechnerisch drei fehlerhafte Akten pro Woche bei fünf Arbeitstagen.

Bei einer Patientin erkennt das System den Namen eines Blutdruckmittels falsch und setzt stattdessen ein ähnlich klingendes Präparat in die Notiz. Die Ärztin überfliegt den Text und bestätigt ihn. Zwei Wochen später liest ein Vertretungsarzt den Eintrag und geht davon aus, dass das falsche Mittel tatsächlich verordnet wurde. Eine feste Prüfroutine müsste deshalb Medikament, Dosierung, Allergien, Diagnosen und nächste Schritte einzeln mit dem Gespräch oder der bestehenden Akte abgleichen.

Einordnung und Grenzen

• Die bekannt gewordenen Fälle zeigen reale Risiken, liefern aber keine belastbare Fehlerquote für alle 27 eingesetzten Systeme.
• Auch Menschen machen Dokumentationsfehler. Ohne vergleichbare Studien lässt sich nicht sagen, ob KI-Schreiber insgesamt häufiger oder seltener irren.
• Leistung kann sich je nach Akzent, Hintergrundgeräusch, mehreren sprechenden Personen und komplexer Krankengeschichte deutlich verändern.
• Automatische Notizen dürfen keine unbeaufsichtigte medizinische Entscheidung ersetzen. Kliniken und Praxen brauchen klare Korrekturwege für Betroffene und nachvollziehbare Verantwortlichkeit.

SEO- und GEO-Schlüsselbegriffe

KI-Schreiber, NHS, Healthwatch England, Patientenakte, Medikamentenfehler, Diagnosefehler, Ambient Scribe, medizinische Dokumentation, Patientensicherheit, Spracherkennung, klinische KI