natürliche Sprachverarbeitung, Künstliche Intelligenz in...
Transcript of natürliche Sprachverarbeitung, Künstliche Intelligenz in...
Künstliche Intelligenz in der Medizin: natürliche Sprachverarbeitung,
maschinelles Lernen und die datengetriebene Unterstützung von
Patienten
Roland Roller, PhD
2
3
Künstliche Intelligenz (KI)4
Verlauf des KI Hypes
Künstliche Intelligenz (KI)5
Artikel die KI diskutieren in Prozent zur totalen Anzahl an Artikeln pro Jahr (blau), sowie optimistische (gelb) und pessimistische (grün) Artikel. Aus Fast and Horvitz, (2017) [6]
Artikel die über KI diskutieren
Starke versus schwache KI6
source: https://ravereader.files.wordpress.com/2010/05/terminator1.jpg
Starke versus schwache KI7
source: https://ravereader.files.wordpress.com/2010/05/terminator1.jpg
Starke KI:Ziel - ähnlich intellektuelle Fertigkeiten von Menschen zu erlangen
Schwache KI:“Smarte” Applikation, spezialisiert auf ein Gebiet
KI Meilensteine (unvollständig)8
▪ 1956 - Dartmouth▪ 1965 - Joseph Weizenbaum’s ELIZA
○ Text-basierter Chatbot der einen Psychotherapeuten simuliert
▪ 1997 - IBM Deep Blue○ Computer Programm schlägt Schachweltmeister
Garry Kasparov▪ 2012 - ImageNet Moment
○ AlexNet [5] erzielt eine Performancesteigerung von 41% bei ImageNet Challenge
▪ 2016 - Google DeepMind’s AlphaGo ○ Go Champion Lee Sedol wird bezwungen
▪ … und vieles mehr
KI Meilensteine (unvollständig)9
▪ 1956 - Dartmouth▪ 1965 - Joseph Weizenbaum’s ELIZA
○ Text-basierter Chatbot der einen Psychotherapeuten simuliert
▪ 1997 - IBM Deep Blue○ Computer Programm schlägt Schachweltmeister
Garry Kasparov▪ 2012 - ImageNet Moment
○ AlexNet [5] erzielt eine Performancesteigerung von 41% bei ImageNet Challenge
▪ 2016 - Google DeepMind’s AlphaGo ○ Go Champion Lee Sedol wird bezwungen
▪ … und vieles mehr
https://en.wikipedia.org/wiki/File:ELIZA_conversation.jpg
KI Meilensteine (unvollständig)10
▪ 1956 - Dartmouth▪ 1965 - Joseph Weizenbaum’s ELIZA
○ Text-basierter Chatbot der einen Psychotherapeuten simuliert
▪ 1997 - IBM Deep Blue○ Computer Programm schlägt Schachweltmeister
Garry Kasparov▪ 2012 - ImageNet Moment
○ AlexNet [5] erzielt eine Performancesteigerung von 41% bei ImageNet Challenge
▪ 2016 - Google DeepMind’s AlphaGo ○ Go Champion Lee Sedol wird bezwungen
▪ … und vieles mehr
KI Meilensteine (unvollständig)11
▪ 1956 - Dartmouth▪ 1965 - Joseph Weizenbaum’s ELIZA
○ Text-basierter Chatbot der einen Psychotherapeuten simuliert
▪ 1997 - IBM Deep Blue○ Computer Programm schlägt Schachweltmeister
Garry Kasparov▪ 2012 - ImageNet Moment
○ AlexNet [5] erzielt eine Performancesteigerung von 41% bei ImageNet Challenge
▪ 2016 - Google DeepMind’s AlphaGo ○ Go Champion Lee Sedol wird bezwungen
▪ … und vieles mehr
"Suddenly people started to pay attention, not just within the AI community but across the technology industry as a whole." The Economist
KI Meilensteine (unvollständig)12
▪ 1956 - Dartmouth▪ 1965 - Joseph Weizenbaum’s ELIZA
○ Text-basierter Chatbot der einen Psychotherapeuten simuliert
▪ 1997 - IBM Deep Blue○ Computer Programm schlägt Schachweltmeister
Garry Kasparov▪ 2012 - ImageNet Moment
○ AlexNet [5] erzielt eine Performancesteigerung von 41% bei ImageNet Challenge
▪ 2016 - Google DeepMind’s AlphaGo ○ Go Champion Lee Sedol wird bezwungen
▪ … und vieles mehr
KI und Medizin13
source: https://commons.wikimedia.org/wiki/File:Doctor_reviewing_pdq.jpg
“It’s quite obvious that we should stop training radiologists.” Prof Geoffrey Hinton, 2016
KI und Medizin14
source: https://commons.wikimedia.org/wiki/File:Doctor_reviewing_pdq.jpg
▪ ChesXNet: Erkennungs von Pneunomie in Röntgenbilder [1] ○ ChestX-ray 14: 112.120 Bilder, 30.805 Pat.○ 121-layer Dense Convolutional Network○ Ausgabe: Wahrscheinlichkeit einer
Pneumonia, zusammen mit Heatmap
KI und Medizin15
source: https://commons.wikimedia.org/wiki/File:Doctor_reviewing_pdq.jpg
▪ ChesXNet: Erkennungs von Pneunomie in Röntgenbilder [1]
KI und Medizin16
source: https://commons.wikimedia.org/wiki/File:Doctor_reviewing_pdq.jpg
▪ ChesXNet: Erkennungs von Pneunomie in Röntgenbilder [1]
▪ Metastase-Erkennung [2]
KI und Medizin17
source: https://commons.wikimedia.org/wiki/File:Doctor_reviewing_pdq.jpg
▪ ChesXNet: Erkennungs von Pneunomie in Röntgenbilder [1]
▪ Metastase-Erkennung [2]▪ Brustkrebs [3]
KI und Medizin18
source: https://commons.wikimedia.org/wiki/File:Doctor_reviewing_pdq.jpg
▪ ChesXNet: Erkennungs von Pneunomie in Röntgenbilder [1]
▪ Metastase-Erkennung [2]▪ Brustkrebs [3]▪ ...
KI und Medizin19
source: https://commons.wikimedia.org/wiki/File:Doctor_reviewing_pdq.jpg
▪ ChesXNet: Erkennungs von Pneunomie in Röntgenbilder [1]
▪ Metastase-Erkennung [2]▪ Brustkrebs [3]▪ …
=> viele ähnliche Entwicklungen in anderen Bereichen der Medizin
KI und Medizin20
source: https://commons.wikimedia.org/wiki/File:Doctor_reviewing_pdq.jpg
▪ CloudMedx: KI besteht Medizinexamen [4]
KI und Medizin21
source: https://commons.wikimedia.org/wiki/File:Doctor_reviewing_pdq.jpg
▪ CloudMedx: KI besteht Medizinexamen [4]○ Übertrifft Mensch○ Schneller (~73 Min vs. 5 Min)
KI und Medizin22
source: https://commons.wikimedia.org/wiki/File:Doctor_reviewing_pdq.jpg
▪ CloudMedx: KI besteht Medizinexamen [4]○ Übertrifft Mensch○ Schneller (~73 Min vs. 5 Min)
Gruppe1 - Menschen (Doktoren): Punkte zwischen 68 bis 81 (75 avg)
Gruppe2 - CloudMedx AI: Punkte 85
Gruppe3 - Menschen mit CloudMedxAI: Punkte 91
KI und Medizin23
▪ Zusammenfassung○ meist datengetrieben○ meist künstliches neuronales Netz○ oft strukturierte Daten
▪ Trotzdem:○ häufig simple Ansätze in Medizin○ es gibt viel Text○ Text kann wichtige Informationen
enthalten
Sprachtechnologie24
▪ Informationsextraktion○ Konzept, Relation, ...
▪ Konzept Normalisierung▪ Automatisiertes Zusammenfassen▪ Automatische Übersetzungssysteme▪ Text-Simplifizierung▪ Text-Klassifikation▪ ...
Sprachtechnologie25
▪ Erkennung von Selbstmordabsichten○ Exploring and learning suicidal ideation
connotations on social media with deep learning [11]
○ Supervised Learning for Suicidal Ideation Detection in Online User Content [12]
▪ Depressionserkennung○ Depression Detection and Prevention System by
Analysing Tweets. [13]
▪ Unterstützung von klinischen Vorhersagemodellen
○ Scalable and accurate deep learning with electronic health records [14]
NLP Pipeline26
Pat. hat viel Durst. Appetit gut. Stuhlgang normal.
NLP Pipeline27
Pat. hat viel Durst. Appetit gut. Stuhlgang normal.sentence splittingtokenization
NLP Pipeline28
Pat. hat viel Durst. Appetit gut. Stuhlgang normal.sentence splittingtokenization
NN VVFIN ADV NN . NN ADJD . NN ADJD part-of-speech tagging
advmodsubj
obj
punct
.
punct punct
amod amod
dependencies
NLP Pipeline29
Pat. hat viel Durst. Appetit gut. Stuhlgang normal.sentence splittingtokenization
named entity recognition
NN VVFIN ADV NN . NN ADJD . NN ADJD part-of-speech tagging
advmodsubj
obj
punct
.
punct punct
amod amod
dependencies
NLP Pipeline30
Pat. hat viel Durst. Appetit gut. Stuhlgang normal.sentence splittingtokenization
named entity recognition
NN VVFIN ADV NN . NN ADJD . NN ADJD part-of-speech tagging
advmodsubj
obj
punct
.
punct punct
amod amod
relation extraction
dependencies
NLP Pipeline31
Pat. hat viel Durst. Appetit gut. Stuhlgang normal.sentence splittingtokenization
named entity recognition
NN VVFIN ADV NN . NN ADJD . NN ADJD part-of-speech tagging
advmodsubj
obj
punct
.
punct punct
amod amod
relation extraction
Normalization
dependencies
NLP Pipeline32
Pat. hat viel Durst. Appetit gut. Stuhlgang normal.sentence splittingtokenization
named entity recognition
NN VVFIN ADV NN . NN ADJD . NN ADJD part-of-speech tagging
advmodsubj
obj
punct
.
punct punct
amod amod
relation extraction
Normalization- Candidate Search
dependencies
NLP Pipeline33
Pat. hat viel Durst. Appetit gut. Stuhlgang normal.sentence splittingtokenization
named entity recognition
NN VVFIN ADV NN . NN ADJD . NN ADJD part-of-speech tagging
advmodsubj
obj
punct
.
punct punct
amod amod
relation extraction
Normalization- Candidate Search
dependencies
NLP Pipeline34
Pat. hat viel Durst. Appetit gut. Stuhlgang normal.sentence splittingtokenization
named entity recognition
NN VVFIN ADV NN . NN ADJD . NN ADJD part-of-speech tagging
advmodsubj
obj
punct
.
punct punct
amod amod
relation extraction
Normalization- Candidate Search- Disambiguation
dependencies
MACSS & BigMedilytics35
35
MACSS & BigMedilytics36
Dieter, 70 years
1996 Heart transplant2006 Dialysis (drug toxicity)2013 Renal transplantDiabetes, skin tumors18 drugs, 30 Pills/day
37
Transplantation
General Practitioner
Clinical Physician
Patient
Lab preview
MACSS & BigMedilytics38
Keine Dysurie. Keine Ödeme. Appetit gut. Stuhlgang normal.sentence splittingtokenization
PIAT NN PIAT NN . NN . NN ADJD .. part-of-speech tagging
dependenciespunctdet
punct
amod
punct
amodpunctdet
ADJD
named entity recognition
factuality detectionX X
relation extraction
Normalization- Candidate Search- Disambiguation
No dysuria. No edema. Good appetit. Bowel movement normal.
MACSS & BigMedilytics39
KI und Sucht40
Quelle: https://blogs.faithlafayette.org/counseling/2019/01/the-sanity-and-insanity-of-addiction/
KI und Sucht41
Quelle: https://blogs.faithlafayette.org/counseling/2019/01/the-sanity-and-insanity-of-addiction/
KI und Sucht42
Quelle: https://blogs.faithlafayette.org/counseling/2019/01/the-sanity-and-insanity-of-addiction/
Quelle: http://www.china.org.cn/business/2010-01/22/content_19290333.htm
Predictors and patterns of problematic Internet game use using a decision tree model [10]
KI und Sucht43
Quelle: https://blogs.faithlafayette.org/counseling/2019/01/the-sanity-and-insanity-of-addiction/
Quelle: http://www.china.org.cn/business/2010-01/22/content_19290333.htm
Predictors and patterns of problematic Internet game use using a decision tree model [10]
Quelle: https://theislandjournal.files.wordpress.com/2012/06/where-to-find-help-for-a-gambling-problem2.jpg
Using cross-game behavioral markers for early identification of high-risk internet gamblers [9]
KI und Sucht44
Quelle: https://blogs.faithlafayette.org/counseling/2019/01/the-sanity-and-insanity-of-addiction/
Quelle: http://www.china.org.cn/business/2010-01/22/content_19290333.htm
Predictors and patterns of problematic Internet game use using a decision tree model [10]
Quelle: https://theislandjournal.files.wordpress.com/2012/06/where-to-find-help-for-a-gambling-problem2.jpg
Using cross-game behavioral markers for early identification of high-risk internet gamblers [9]
Quelle: https://www.deoveritas.com/blog/wp-content/uploads/2010/02/JD-smoke.jpg
Classifying Smoking Urges Via Machine Learning [7]
High-resolution Temporal Representations of Alcohol and Tobacco Behaviors from Social Media Data [16]
KI und Sucht45
Quelle: https://blogs.faithlafayette.org/counseling/2019/01/the-sanity-and-insanity-of-addiction/
Quelle: https://upload.wikimedia.org/wikipedia/commons/thumb/d/db/Aufse%C3%9F_Bier.JPG/1200px-Aufse%C3%9F_Bier.JPG
Quelle: https://theislandjournal.files.wordpress.com/2012/06/where-to-find-help-for-a-gambling-problem2.jpg
Quelle: http://www.china.org.cn/business/2010-01/22/content_19290333.htm
Quelle: https://www.deoveritas.com/blog/wp-content/uploads/2010/02/JD-smoke.jpg
Classifying Smoking Urges Via Machine Learning [7]
Football and Beer - a Social Media Analysis on Twitter in Context of the FIFA Football World Cup 2018 [8]
Using cross-game behavioral markers for early identification of high-risk internet gamblers [9]
Predictors and patterns of problematic Internet game use using a decision tree model [10]
High-resolution Temporal Representations of Alcohol and Tobacco Behaviors from Social Media Data [16]
Can Twitter be used to predict county excessive alcohol consumption rates? [15]
KI und Sucht46
Quelle: https://blogs.faithlafayette.org/counseling/2019/01/the-sanity-and-insanity-of-addiction/
Quelle: https://upload.wikimedia.org/wikipedia/commons/thumb/d/db/Aufse%C3%9F_Bier.JPG/1200px-Aufse%C3%9F_Bier.JPG
Quelle: https://theislandjournal.files.wordpress.com/2012/06/where-to-find-help-for-a-gambling-problem2.jpg
Quelle: http://www.china.org.cn/business/2010-01/22/content_19290333.htm
Quelle: https://www.deoveritas.com/blog/wp-content/uploads/2010/02/JD-smoke.jpg
Classifying Smoking Urges Via Machine Learning [7]
Football and Beer - a Social Media Analysis on Twitter in Context of the FIFA Football World Cup 2018 [8]
Using cross-game behavioral markers for early identification of high-risk internet gamblers [9]
Predictors and patterns of problematic Internet game use using a decision tree model [10]
High-resolution Temporal Representations of Alcohol and Tobacco Behaviors from Social Media Data [16]
Can Twitter be used to predict county excessive alcohol consumption rates? [15]
Studie: Daten von 1990-1995, ~300 Teilnehmer die mit dem Rauchen aufhören wollten, Handheld, 41 Features (Laune, Ort)▪ Vorhersage von Verlangen nach
Zigaretten (smoking urges)▪ Naive Bayes & Discriminant Analysis
=> 86% Genauigkeit
KI und Sucht47
Quelle: https://blogs.faithlafayette.org/counseling/2019/01/the-sanity-and-insanity-of-addiction/
Quelle: https://upload.wikimedia.org/wikipedia/commons/thumb/d/db/Aufse%C3%9F_Bier.JPG/1200px-Aufse%C3%9F_Bier.JPG
Quelle: https://theislandjournal.files.wordpress.com/2012/06/where-to-find-help-for-a-gambling-problem2.jpg
Quelle: http://www.china.org.cn/business/2010-01/22/content_19290333.htm
Quelle: https://www.deoveritas.com/blog/wp-content/uploads/2010/02/JD-smoke.jpg
Classifying Smoking Urges Via Machine Learning [7]
Football and Beer - a Social Media Analysis on Twitter in Context of the FIFA Football World Cup 2018 [8]
Using cross-game behavioral markers for early identification of high-risk internet gamblers [9]
Predictors and patterns of problematic Internet game use using a decision tree model [10]
High-resolution Temporal Representations of Alcohol and Tobacco Behaviors from Social Media Data [16]
Can Twitter be used to predict county excessive alcohol consumption rates? [15]
KI und Sucht48
▪ Methoden:○ Klassifikation○ Identifizierung von Charakteristiken○ Analyse
▪ Zweck:○ Unterstützung
▪ Grundlage:○ digitale Daten○ z.T. offensichtliche Auslöser
▪ Freiwillig & bewusst versus indirect▪ Retrospektiv versus prospektiv
Fazit - Sucht49
▪ Wenige Studien▪ Wenig Integration in den Alltag▪ Hauptsächlich Analyse & Charakteristik als
Prävention!▪ Was könnte fehlen?
○ Langzeitunterstützung○ stetige Datenerfassung○ Intervention
Herausforderungen50
▪ Datensicherheit versus Datenzugriff▪ Qualität der Daten▪ Menge der Daten▪ Interdisziplinär▪ Genauigkeit versus Trefferquote
“Take Home Message”51
▪ Künstliche Intelligenz wird nicht alle unsere Probleme lösen
“Take Home Message”52
▪ Künstliche Intelligenz wird nicht alle unsere Probleme lösen
▪ Künstliche Intelligenz kann ein hilfreiches Werkzeug sein um effizienter unsere Probleme zu lösen
“Take Home Message”53
▪ Künstliche Intelligenz wird nicht alle unsere Probleme lösen
▪ Künstliche Intelligenz kann ein hilfreiches Werkzeug sein um effizienter unsere Probleme zu lösen
▪ Es gibt noch viel Potential in Bezug auf KI und Sucht
Referenzen54
[1] Rajpurkar, P., Irvin, J., Zhu, K., Yang, B., Mehta, H., Duan, T., Ding, D., Bagul, A., Langlotz, C., Shpanskaya, K. and Lungren, M.P., 2017. Chexnet: Radiologist-level pneumonia detection on chest x-rays with deep learning. arXiv preprint arXiv:1711.05225.[4] http://www.cloudmedxhealth.com/press/cloudmedxclinical-ai-outperforms-human-doctors-on-a-us-medical-exam, Zugriff 19.06.2019[2] Liu, Y., Gadepalli, K., Norouzi, M., Dahl, G.E., Kohlberger, T., Boyko, A., Venugopalan, S., Timofeev, A., Nelson, P.Q., Corrado, G.S. and Hipp, J.D., 2017. Detecting cancer metastases on gigapixel pathology images. arXiv preprint arXiv:1703.02442.[3] Bejnordi, B.E., Veta, M., Van Diest, P.J., Van Ginneken, B., Karssemeijer, N., Litjens, G., Van Der Laak, J.A., Hermsen, M., Manson, Q.F., Balkenhol, M. and Geessink, O., 2017. Diagnostic assessment of deep learning algorithms for detection of lymph node metastases in women with breast cancer. Jama, 318(22), pp.2199-2210.[5] Krizhevsky, A., Sutskever, I. and Hinton, G.E., 2012. Imagenet classification with deep convolutional neural networks. In Advances in neural information processing systems (pp. 1097-1105).[6] Fast, E. and Horvitz, E., 2017, February. Long-term trends in the public perception of artificial intelligence. In Thirty-First AAAI Conference on Artificial Intelligence.[7] Dumortier, A., Beckjord, E., Shiffman, S. and Sejdić, E., 2016. Classifying smoking urges via machine learning. Computer methods and programs in biomedicine, 137, pp.203-213.[8] Roller, R., Thomas, P. and Schmeier, S., 2018, October. Football and Beer-a Social Media Analysis on Twitter in Context of the FIFA Football World Cup 2018. In 3rd Social Media Mining for Health Applications Workshop & Shared Task (p. 1).[9] Braverman, J., LaPlante, D.A., Nelson, S.E. and Shaffer, H.J., 2013. Using cross-game behavioral markers for early identification of high-risk internet gamblers. Psychology of Addictive Behaviors, 27(3), p.868.[10] Rho, M.J., Jeong, J.E., Chun, J.W., Cho, H., Jung, D.J., Choi, I.Y. and Kim, D.J., 2016. Predictors and patterns of problematic Internet game use using a decision tree model. Journal of behavioral addictions, 5(3), pp.500-509.[11] Sawhney, R., Manchanda, P., Mathur, P., Shah, R. and Singh, R., 2018, October. Exploring and learning suicidal ideation connotations on social media with deep learning. In Proceedings of the 9th Workshop on Computational Approaches to Subjectivity, Sentiment and Social Media Analysis (pp. 167-175).[12] Ji, S., Yu, C.P., Fung, S.F., Pan, S. and Long, G., 2018. Supervised Learning for Suicidal Ideation Detection in Online User Content. Complexity, 2018.[13] Gaikar, M., Chavan, J. and Shedge, R., 2019. Depression Detection and Prevention System by Analysing Tweets. Available at SSRN 3358809.[14] Rajkomar, A., Oren, E., Chen, K., Dai, A.M., Hajaj, N., Hardt, M., Liu, P.J., Liu, X., Marcus, J., Sun, M. and Sundberg, P., 2018. Scalable and accurate deep learning with electronic health records. NPJ Digital Medicine, 1(1), p.18.[15] Curtis, B., Giorgi, S., Buffone, A.E., Ungar, L.H., Ashford, R.D., Hemmons, J., Summers, D., Hamilton, C. and Schwartz, H.A., 2018. Can Twitter be used to predict county excessive alcohol consumption rates?. PloS one, 13(4), p.e0194290.[16] Huang, T., Elghafari, A., Relia, K. and Chunara, R., 2017. High-resolution temporal representations of alcohol and tobacco behaviors from social media data. Proceedings of the ACM on human-computer interaction, 1(CSCW), p.54