Der Supercomputer Watson sollte Ärzten dabei helfen, die ideale Krebstherapie für ihre Patienten zu wählen. Jetzt stellte sich heraus: Das System gibt teilweise unsichere oder gar falsche Empfehlungen. Ein Schock für die Krankenhäuser, in denen Watson bereits eingesetzt wird.
Laut internen IBM-Dokumenten, die der medizinischen Nachrichtenseite Stat News [Paywall] vorlagen, hat Watson versagt: Das IBM-System soll unsichere oder gar falsche Empfehlungen für Krebstherapien liefern, berichtet unter anderem das Magazin The Verge.
„Watson for Oncology“ ist ein IBM-basiertes System, das nach Angaben eines IBM-Sprechers bereits in 230 Krankenhäusern weltweit eingesetzt wird. Es soll Ärzte mit individualisierten Therapiehinweisen unterstützen.
2012 hatte sich IBM mit Ärzten des Memorial Sloan Kettering Cancer Centers (MSK) zusammengetan, um dem Computer beizubringen, mehr wie ein Arzt zu „denken“. Allerdings stellte sich nun heraus, dass Watson oft ungenaue Therapievorschläge machte. Ein Beispiel: Einem Lungenkrebspatienten mit schweren Blutungen empfahl der Computer Bevacizumab, ein Medikament, das wiederrum Blutungen auslösen kann. Ein Sprecher des MSK gab allerdings an, dass es sich hier nur um einen hypothetischen Patientenfall handelte.
Dem Stat-News-Bericht zufolge scheitert der Supercomputer vor allem aufgrund der zuvor angewandten Trainings: Anstatt das System mit echten Patientendaten zu füttern, sollen die IBM-Ingenieure und die Ärzte des kooperierenden Krebszentrums hypothetische Patientenfälle eingepflegt haben. Dementsprechend trifft der Computer seine Entscheidungen basierend auf den Therapievorlieben der wenigen Ärzte, die an der Dateneinspeisung beteiligt waren. Es handelt sich nicht um die Analyse und Interpretation echter Patientendaten durch eine Künstliche Intelligenz. In den Firmen-Dokumenten sollen diverse Beschwerden verschiedener Ärzte enthalten sein. Zuvor war man davon ausgegangen, dass Watson ein unverzichtbarer für Ärzte werden würde. So bezieht sich IBM auf seiner Website beispielsweise auf Zahlen des Manipal Comprehensive Cancer Centre in Indien: Dort sollen die Empfehlungen des Computers für die Behandlung von Lungenkrebspatienten in 96 Prozent der Fälle mit den Behandlungsempfehlungen des multidisziplinären Tumorboards übereingestimmt haben.