Warnung der WHO
Reference News Network berichtete am 20. Januar, dass laut AFP am 18. Januar.
Die Weltgesundheitsorganisation warnte davor, dass generative künstliche Intelligenz (KI) durch die schnelle Diagnose von Krankheiten disruptive Veränderungen in der medizinischen Versorgung mit sich bringen kann, ihre überstürzte und ungesicherte Umsetzung jedoch auch Gefahren mit sich bringt.
Berichten zufolge analysierte die WHO in einem am 18. veröffentlichten Dokument die Gefahren und Vorteile des Einsatzes großer multimodaler Modelle (LMM) für die medizinische Behandlung. Diese Art der generativen KI kann eine Vielzahl von Daten (Texte, Bilder und Videos) nutzen, um Diagnoseergebnisse zu generieren
basierend auf Algorithmen, die nicht auf Datentypen beschränkt sind.
„Manche Leute glauben, dass LMM menschliche Gedanken und Verhaltensweisen nachahmen und einige menschliche Probleme auf interaktive Weise lösen wird.“ sagte Alan Labrick, Leiter der Abteilung für digitale und innovative Gesundheit der WHO.
Die WHO geht davon aus, dass LMM in Zukunft in der medizinischen Behandlung, wissenschaftlichen Forschung und Medikation weit verbreitet sein wird. Die Organisation identifizierte fünf Bereiche, in denen die Technologie eingesetzt werden könnte: Diagnostik, wissenschaftliche Forschung und Arzneimittelentwicklung, medizinische und pflegerische Lehre, Verwaltung und Symptomüberprüfung.
Obwohl LMM ein großes Anwendungspotenzial hat, sagte die WHO, dass die Technologie zu „falschen, falschen, verzerrten oder unvollständigen“ Ergebnissen führen könne. „Da LMMs zunehmend im Gesundheitswesen und in der Medizin eingesetzt werden, sind Fehler, falsche Verwendung und Personenschäden unvermeidlich“, stellte die Organisation fest.
Das WHO-Dokument stellt die neuen ethischen Tendenzen und Managementprobleme von LMM vor und bietet 40 Empfehlungen für Regierungen, Unternehmen und Patienten zum sicheren Einsatz dieser Technologie.
Die WHO ist der Ansicht, dass die Technologie zunächst im medizinischen Bereich angewendet werden sollte, damit Mängel entdeckt und behoben werden können. Jeremy Farrar, leitender Wissenschaftler der Weltgesundheitsorganisation, betonte: „Generative KI kann die medizinische Versorgung verbessern, aber sie muss mit Entwicklern, Regelmachern und Nutzern erfolgen, die sich der damit verbundenen Risiken voll bewusst sind.“
„Wir brauchen transparente Informationen und Richtlinien zum Konzept, zur Entwicklung und zum Einsatz von LMM, um die bestmöglichen Ergebnisse im Gesundheitswesen zu erzielen und anhaltende Ungleichheiten im Gesundheitswesen zu überwinden“, sagte Farrar.
Die WHO fordert die Einführung einiger Garantien, damit durch LMM geschädigte Nutzer eine angemessene Entschädigung erhalten und über Rettungsmittel verfügen können.
Dem Bericht zufolge wird KI im öffentlichen Gesundheitswesen und in der klinischen Medizin eingesetzt, die WHO geht jedoch davon aus, dass LMM einige Risiken birgt und „die Gesellschaft, medizinische Systeme und Endbenutzer möglicherweise nicht vollständig darauf vorbereitet sind, damit umzugehen“.
Die WHO geht außerdem davon aus, dass LMM in der Regel von Technologiegiganten entwickelt und angewendet wird, was Bedenken und Risiken hinsichtlich des Technologiemonopols dieser Unternehmen hervorrufen könnte. Die WHO verlangt, dass die Forschung und Entwicklung von LMM nicht nur auf Wissenschaftler und Ingenieure, sondern auch auf Praktiker und Patienten im medizinischen Bereich angewiesen ist.
Die Organisation warnte außerdem vor den Schwachstellen von LMM in der Cybersicherheit, die patientenbezogene Informationen und sogar die Zuverlässigkeit der medizinischen Versorgung gefährden könnten. Es kam zu dem Schluss, dass Regierungen die Regulierungsbehörden für die Zulassung von LMMs für medizinische Zwecke verantwortlich machen und Anhörungen zu ihrer Verwendung verlangen sollten, um die Auswirkungen der Technologie zu bewerten.
