Künstliche Intelligenz ist in der Life-Sciences-Branche längst angekommen und entfaltet auch hier ihr Potenzial. Allerdings sollten Unternehmen auch die Risiken im Blick behalten. Denn diese betreffen das Wohl der Patient:innen, können aber auch zu Reputationsschäden oder gar empfindlichen Sanktionen führen, etwa wegen Missachtung des europäischen Artificial Intelligence Acts.
Klar ist: KI ist vielfältig einsetzbar, etwa bei der Entwicklung neuer Arzneimittel. Hier kann KI durch die Analyse klinischer Daten Vorhersagen entwickeln, wie wirksam und sicher potenzielle Wirkstoffe sind. Außerdem identifiziert sie Untergruppen von Patient:innen mit ähnlichen Merkmalen und prognostiziert, wie sie auf Behandlungen ansprechen. So werden personalisierte Wirkstoffe produziert – quasi als persönliche Kopfschmerztablette mit mehr Wirkkraft und weniger Nebenwirkungen. Zudem beschleunigt KI klinische Studien, wenn sie Muster und Trends in den Daten sofort erkennt. Das verkürzt auch die Zeit bis zur Arzneimittelzulassung. Lebensrettende Therapien stehen so kostengünstiger und schneller bereit.
Verzerrte Daten führen zu verzerrten Ergebnissen
Und dennoch: Die KI ist immer nur so gut wie die Daten, die sie nutzt. Im besten Fall arbeitet sie mit repräsentativen Daten, welche die gesamte Bandbreite relevanter Merkmale abbildet. Tatsächlich stehen diese in der Life-Sciences-Branche oft nicht zur Verfügung, weil Datensätze nur begrenzt oder unvollständig vorliegen oder weil medizinische Aufzeichnungen nicht genau oder uneinheitlich kodiert wurden.
Die Folgen dieses sogenannten Data Bias sind potenziell verzerrte oder ungenaue Vorhersagen und Empfehlungen, die vielleicht sogar bestimmte Bevölkerungsgruppen diskriminieren.
Erschwerend kommt hinzu, dass solche Verzerrungen oft schwer zu entdecken sind. Denn es fehlt häufig an sogenannter Algorithmic Transparency. Die KI funktioniert dann wie eine Blackbox. Es ist kaum nachvollziehbar, wie sie Entscheidungen trifft. So sind weder ethische noch regulatorische Maßstäbe nachprüfbar.
Das Wohl der Patient:innen steht auf dem Spiel – es drohen Sanktionen
Diese genannten Risiken der KI sind für die Life-Sciences-Branche von Bedeutung, denn sie setzen im schlimmsten Fall die Sicherheit der Patient:innen aufs Spiel. Hier drohen außerdem Reputationsschäden und Sanktionen. Und das kann teuer werden. Bei Missachtung der DSGVO drohen beispielsweise bis zu sechs Prozent des Jahresumsatzes als Strafe. Der neue europäische Artificial Intelligence Act sanktioniert sogar mit sieben Prozent, um seine Einhaltung durchzusetzen.
Entsprechend sehen wir für Pharmaunternehmen Handlungsbedarf etwa dann, wenn diese noch auf KI-Insellösungen setzen, die zum Beispiel nur für einzelne Fachbereiche gedacht sind. Wichtig ist eine übergeordnete Governance, die die genannten Risiken im Blick hat.
Wie diese gelingen kann? Es kommt unter anderem auf folgende Schritte an:
- Entwicklung einer KI-Strategie für die spezifischen Anforderungen von Life Sciences: Dazu gehören die Wahrung der Patientensicherheit und die Gewährleistung der Qualität der medizinischen Produkte und Dienstleistungen.
- Einhaltung aller geltenden rechtlichen Anforderungen: Dies umfasst unter anderem die Datenschutz-Grundverordnung (DSGVO), die Medizinprodukte-Verordnung (MDR) sowie bald den EU Artificial Intelligence Act (AIA).
- Priorisierung von Datenqualitätsprüfungen als Basis für KI-Anwendungen: Dazu zählen Korrektheit, Vollständigkeit, Aktualität und Verlässlichkeit von Daten, insbesondere bei Anwendungsfällen zu Diagnosen, Therapien und Forschung.
- Adaptierung der Computer-System-Validation-Methodik (CSV) auf KI-Besonderheiten: KI-Anwendungen nutzen in der Regel komplexe Modelle und Algorithmen, die anfälliger für Fehler sein können. Daher sollten auch Ergänzungen an CSV-Prozessen vorgenommen werden, wie z.B. Datenbereinigungen oder Modelltrainings.
Unternehmen, die diese Schlüsselpunkte beachten, sind auf einem guten Weg, die Herausforderungen und Komplexitäten der KI zu meistern und das transformative Potenzial für ihren wirtschaftlichen Erfolg und zum Wohl der Patient:innen zu nutzen. Daher unser Rat: Nutzen Sie die immensen Chancen der KI, aber agieren sie dabei verantwortungsvoll und nachhaltig.
—
Künstliche Intelligenz: Mehr zum Thema
