Artificial intelligence in medicine – the implementation challenge.
The last decade has seen a revolution in computational approaches to machine learning, and their potential to transform many areas of healthcare are widely known and discussed. Whilst technical performance dominates many discussions, the truth is that it is the ‘last mile’ where AI is integrated into the working clinical world where we will face our biggest challenges. In this talk I will survey several critical issues that require attention before AI works. This include changes in the dynamics of human-computer interaction and specifically automation bias, algorithmic transportability between different settings, and on the unintended consequences of AI on clinical services. I will also discuss the challenges of research replication when studies are conducted in the real world, rather than on test data sets.
Künstliche Intelligenz in der Medizin – die Herausforderung bei der Umsetzung
Im letzten Jahrzehnt hat eine Revolution bei den computergestützten Ansätzen für maschinelles Lernen stattgefunden. Ihr Potenzial, viele Bereiche des Gesundheitswesens zu verändern, ist weithin anerkannt. Während vielfach die technische Leistungsfähigkeit im Zentrum der Diskussion steht, liegt die wahre Herausforderung in der Integration der KI in die klinische Arbeitswelt. Hier werden die größten Herausforderungen liegen. In seinem Keynote Vortrag diskutiert Prof. Coiera kritische Punkte in der Einführung von KI. Dazu gehören Veränderungen in der Dynamik der Mensch-Computer-Interaktion und insbesondere der Automatisierungsbias, die algorithmische Übertragbarkeit zwischen verschiedenen Umgebungen und die unbeabsichtigten Folgen von KI auf klinische Dienste. Weiterhin warden auch Herausforderungen der Forschungsreplikation diskutiert, wenn Studien in der realen Welt und nicht an Testdatensätzen durchgeführt werden.