Watson

© 2012 IBM Corporation1

Jean-Claude JesionkaArchitecte Secteur [email protected] 08 74 03 23

vers un ordinateur sachant raisonner…


En Février 2011, 14 ans après avoir battu Kasparov aux échecs, un nouvel ordinateur IBM remportait une série de 3 parties qui l’opposait aux 2 champions de tous les temps du jeu télévisé américain « Jeopardy ».


�Qu’est-ce que Watson ?

�Principe du jeu « Jeopardy »

�Les principes et technologies mises en œuvre pour Watson

�Les évolutions de Watson

�Les applications potentielles de Watson

• Exemples dans le domaine de la finance

• la démarche « Ready for Watson »

�Annexe : Le futur


�Le 1er ordinateur candidat à un jeu télévisé(Jeopardy) qui a battu les 2 meilleurs candidats de toute l’histoire du jeu (depuis le 30 mars 1964).

�Un ordinateur conçu par une équipe d’IBM Researchcapable de rivaliser avec les humains en répondant àdes questions posées en langage naturel avec rapiditéet précision.

�Un système capable de comprendre la signification et le contexte du langage humain pour traiter l’information rapidement et trouver des réponses précises à des questions complexes.

Qu’est-ce que Watson ?


Technologie Classique Grands

Espaces

Citations

de Dickens

Savoir

vivre

Avant et

Après

$200 $200 $200 $200 $200 $200

$400 $400 $400 $400 $400 $400

$600 $600 $600 $600 $600 $600

$800 $800 $800 $800 $800 $800

$1000 $1000 $1000 $1000 $1000 $1000

6 Catégories6 Catégories

5 degrés de Difficulté

5 degrés de Difficulté

� L’un des 3 joueurs choisit une case

� L’animateur lit l’énigme à voix haute

TOUS LES POLICIERS PEUVENT REMERCIER

STEPHANIE KWOLEK POUR L’INVENTION DE CETTE FIBRE

POLYMERE, 5 FOIS PLUS

RESISTANTE QUE L’ACIER

TECHNOLOGIE

� Le 1er joueur qui “buzz”peut répondre

� Si la réponse est bonne

� Le joueur gagne le montant de la case

� Et choisit une autre case

� Si la réponse est fausse� Le joueur perd le montant de la case� Les autres joueurs peuvent “buzzer”

� 2 manches par jeu + une Question finale

� Une règle de doublement des points

Qu’est-ce que le KEVLAR ?Qu’est-ce que le KEVLAR ?

Le principe du jeu


Les Catégories ne sont pas toujours aussi simples qu’elles paraissent !

Elles donnent peu d’indices pour trouver la réponse.

St. Petersburg est la ville de Florida du tournoi annuel de

ce jeu populaire sur les pontons de bateaux

(Le Palet)

VILLES U.S. VILLES U.S.

Rochester, New York doitsa croissance à sa

localisation près de cetendroit

(le Canal Erie)

Archibald MacLeish a basé sa pièce en vers"J.B." sur ce livre de la

Bible

(Job)

AuteursAuteurs

In 1928 Elie Wiesel est néà Sighet, village

Transylvanien de ce pays

(Roumanie)


Jeu d’échec– Un espace de solutions fini et totalement structuré

– Un nombre limité de mouvements et d’états

– Des règles mathématiques qui s’appliquent à des symboles finis

Langage humain• Les mots n’ont pas de signification par eux-mêmes

• Ils sont associés à une expérience humaine

• Les mots véhiculent et transmettent un espace infini de significations possibles ou supposées

• Les ordinateurs ne savent pas associer les mots à des expériences humaines pour en déduire une signification

Du jeu d’échec au langage


A célébré

Inde

En Mai 1898

400eme anniversaire

L’arrivée

Portugal

Inde

En Mai

Georgesexplorateur

A célébré

anniversaire

au Portugal

CorrespondanceCorrespondance





Est arrivé

En Mai, Georges est arrivéen Inde après avoir célébréson anniversaire au Portugal.

En Mai 1898 le Portugal a célébré le 400eme anniversaire de l’arrivée de cet explorateur en Inde.

“Georges” est la réponse évidente par correspondance des mots-clés cependant l’ordinateur ne doit pas accorder une

grande confiance àcette réponse.

La correspondance de mots-clés n’est pas suffisante


A célébré

Mai 1898400eme

anniversaire

L’arrivée

En Mai 1898 le Portugal a célébréle 400eme anniversaire de l’arrivée de cet explorateur en Inde.

Portugal

Raisonnement temporel

Paraphrase statistique

Raisonnement GeoSpatial

explorateur

Le 27 Mai 1498, Vasco da Gama a débarqué à Kappad Beach

A débarqué

27 Mai 1498

Vasco da Gama

Kappad Beach

Para-phrases

Geo-KB

DateMath

IndeUn résultat

plus probable n’est pas

toujours simple à obtenir

Le résultat n’est toujours pas certain à100%.

� Recherche élargie

� Explorer de nombreuses hypothèses

� Peser les réponses

� Différents algorithmes

Des correspondances plus probables


Une recherche sur le Web retourne une liste de résultats possibles contenant la réponse

• Les résultats sont basés sur leur popularité et leur référencement

• L’utilisateur doit encore analyser le résultat pour trouver la meilleure réponse

Le moteur d’analyse de Watson comprend la structure et le libellé de la question posée

• Il trouve une réponse spécifique• Il classe les réponses en donnant en

“degré de confiance” basé sur l’expérience

Watson répond à des questions en “langage naturel”

• Qui peut inclure des jeux de mots, de l’argot, du jargon et des acronymes qui doivent être évalués

Le moteur d’analyse de Watson est plus qu’un outil de recherche

Vasco da GamaMagellanGeorges

En Mai 1898 le Portugal a célébré le 400eme anniversaire

de l’arrivée de cet explorateur en Inde.

NAVIGATEURS PORTUGAIS

Vasco da Gama

Magellan

Henri le Navigateur


Architecture Massivement Parallèle ; Système probabiliste à base de “preuves”

DeepQA : La Technologie de Watson

Eval. Réponses

Models

Réponse et degré de confiance

Question

SourcesPreuves

Models

Models

Models

Models

ModelsRecherche primaire

Génération Réponse

GénérationHypothèse

Evaluation des Hypothèses et des

“preuves”

Classement assemblage des

réponsesSynthèse

SourcesRéponses

Analyse Question &

sujet

Recherche Preuves

Evalpreuve forte

Modèles apprispour combiner et

peser les “preuves”

GénérationHypothèse

Hypothèses et évaluation des réponses

DécompositionDe la Question

1000’s of Pieces of Evidence

Multiple Interpretations

100,000’s Scores frommany Deep Analysis

Algorithms

100’s sources

100’s Possible Answers

Balance& Combine


La Performance humaine comparée à celle de DeepQA et Watson

Performance des gagnants

Performance des gagnants

2007 QA Computer System2007 QA Computer System

Performance des grands champions

Performance des grands champions

Chaque point représente les performances d’un joueur à Jeopardy


Baseline 12/06

v0.1 12/07

v0.3 08/08

v0.5 05/09

v0.6 10/09

v0.8 11/10

v0.4 12/08

DeepQA - Les progrès de la précision de la réponse (12/2006-11/2010)

v0.2 05/08

IBM Watsonjoue dans le domaine des

gagnants

V0.7 04/10


HypothesisGeneration

Hypothesis &Evidence Scoring

Final ConfidenceMerging & RankingSynthesis

Question &Topic Analysis

Decomposition

Wo

rklo

ad

Op

tim

ize

d

Source: John Kelly, SVP IBM Research, Investor Briefing Spring 2011

Architecture Watson

Unstructured Information Management Architecture Industry standard for content analytics.


- Une question de Jeopardy! demande 2 heures de traitement d’un processeur (core) 2.6Ghz- Le traitement a été optimisé et porté sur 2,880-Core Power750 pour une réponse en 2 à 6 secondes.

Power7

Le système se compose de …• 10 racks (10 nodes/rack, et 1 rack avec switch, contrôleurs &

cluster disque système)

• 90 HV32 nodes (60 avec 128GB RAM, et 30 avec 256GB RAM)

• Chaque node a 4 puces Atlas P7, et chaque puce a 8 CPU cores(32 cores/node) pour un total de 2,880 cores

• Interconnection a 10gigE (réseau ethernet)

� Performance et dispositifs– Puissance de 80 teraflops par seconde (80 trillion

d’opérations/sec)

– Le processeur P7 est désigné pour les charges de traitement massivement parallèle (comme celles de Watson)

– Le Power 750 comprend des dispositifs de gestion de l’énergie, en faisant le 1er système à 4 processeurs qualifié “ENERGY STAR”

– Watson requiert 25 tonnes d’air conditionné et consomme 80 kW

Matériel de Watson

InfoSphereBigInsights(Hadoop, UIMA)

IBM Content Analytics(UIMA)


La spécificité d’IBM Watson est d’intégrer un ensemble de technologies de transformation

…construit sur un système de

traitement massivement

parallèle et une architecture

probabiliste à base de preuves

Compréhensionde l’expression

humaine en langage naturel

Adaptation et Apprentissage à

partir des réponses retenues

Génération et évaluation

d’hypothèses pour l’amélioration des

résultats


Les Applications potentielles (*)

Evolutions de Watson

Domaine Médical

Domaine FinancierIBM a créé en août 2011 une division pour initier et développer les projets Watson en apportant des solutions métiers

(*) sujets à l’étude susceptibles d’évoluer


LearningUnderstanding Interacting Explaining

Specific Questions

The type of murmur associated with this condition is harsh,

systolic, and increases in intensity with

Valsalva

From specific questions

to rich, incomplete problem

scenarios(e.g. EHR)

Rich ProblemScenarios

Entire Medical Record

Question-In/Answer-Out

Evidence analysis and look-ahead,

drive interactive dialog to refine

answers and evidence

Interactive Dialog Teach Watson

Refined Answers, Follow-up Questions

Input, Responses

Dialog

Batch Training Process

Scale domain learning and

adaptation rate and efficiency

Continuous Training& Learning Process

Answers,Corrections, Judgements

Responses, Learning Questions

Precise Answers& Accurate Confidences

Move fromquality answers

to quality answers and

evidence

ComparativeEvidence Profiles

Evolution de Watson après Jeopardy!


Most Confident Diagnosis: Diabetes and EsophogitisMost Confident Diagnosis: Diabetes

Diagnosis Models

Symp

FamH

istM

ed

sFin

d Confidence

Most Confident Diagnosis: RhumeMost Confident Diagnosis: UTI

Traite et synthétise une grande quantitéde preuves pour améliorer le diagnostic

Symptômes

Tests/Résultats

Traitements

Antécédents Familiaux

Notes/Hypothèses

Grands Volumes de

textes, publications,

références, DBs etc.en

langage naturel

Histoire du PatientUTI

Diabetes

Influenza

Ipokalemie

Isophogities

PB Renal

DeepQA : Diagnostic en continu


Le supercalculateur Watson d'IBM doit commencer son travail d'évaluation en matière de traitement du cancer, à l'hôpital Cedars-Sinai de Los Angeles. Il pourra suggérer aux médecins les traitements les plus adaptés en quelques secondes.

IBM et WellPoint, le plus grand programme de santé du Blue Cross Blue Shield, ont mis au point des applications qui vont transformer le supercalculateur Watson en conseiller spécialisé, au service des oncologues du département Samuel Oschin Comprehensive Cancer Institute de l'hôpital Cedars-Sinai de Los Angeles.

Le Cedars Sinai Hospital à Los Angeles intègre l'IBM Watson à son équipe de médecins

Edition du 26/12/2011


Exemple à l’étude : Assistance aux Investisseurs Institutionnels

• Des temps de réponse plus rapides qui permettent des itérations• Traitement de gros volumes d’information• Un Processus consolidé et des réponses pertinentes• Degré de confiance de la réponse• Connaissance et apprentissage retenus et partagés

Research

team

Content

processors6

1 2

5

Ave

c W

ats

on

Au

jou

rd’h

ui

Source: Expert interviews (IBM / BCG / external SMEs); MI; SCIP; BCG analysis

Analyst

Analytical

tools

3

4

Content providers

Primarysources

Investisseur Institutionnel Support Analytique SourcesRecherche

Content

providers

Primary

sources2

Assistant for institutional

investment decision support

DelayDelayDelay

Research

team

Content

processors

Analyst

Analytical

tools

1 1 1

3334


Il existe de nombreux facteurs qui influent sur le cours d’une action et son rendement

Earnings

Quality

Financial

Factors

Industry

Factors

Economic

Factors

Cash

Reserves

Inventory

Turns

Off-balance

Sheet

Firm

Operation

Factors

Lease

Obligations

Pension

Plan

Funding

Tax

Acctg.

Product

Pipeline

Foreign

Invest.

Litigation

Customer

Churn

Product

Recalls

Patents /

IP

M&A

Activity

New

Entrants

M&A

Activity

Regulation

Growth

Rates

Competition

M&A

Activity

Exchange

Rates

Gov’t

Policy

Interest

Rates

Labor

Rates

Customer

FactorsConsumer

Sentiment

Purchasing

Power

Demo-

graphics


Putting the proper pieces together at point of impact makes for

better bottom-line decisions

Client requests that trader evaluate

Pharma companies with cholesterylester

transfer protein (CETP) drugs in pipeline

Scenario




CETP Drug Studies

Trader explains that CETP studies are just one factor in earnings quality Earnings

Quality

Acme Pharma

Pharma, Inc.

Pharma United

Pharma USA

Market Data

� CETP News

� Regulatory Environment

� CETP Drug Studies

CE

TP

Dru

g S

tudie

s

Top Confidence: Pharma Inc.

� Acme: Stage 2 failure; start new stage 1� Pharma Inc: Started Phase 3 trial; 7

completed studies� Pharma United: Phase 2 trials started; 3

completed studies; recruiting for 4th� Pharma USA: Phase 1 trials complete




Trader knows that earnings

sustainability may yield insight into

long term stability

One Time Expenses

Market Data

� CETP News


Earnings

Quality

Acme Pharma

Pharma, Inc.

Pharma United

Pharma USA

CE

TP

Dru

g S

tudie

s


Earnings Sustainability� Operating Margin

� Excess Cash Margin

� Accuracy of Earnings Forecast

� One Time Revenue

� Leadership/Exec Turnover

� One Time Expenses

One T

ime E

xpense

s

Top Confidence: Pharma USA

� Acme: Class action suit is going away which should eliminate one-time expense

� Pharma Inc: Setting aside fund for patent infringement claim

Top Confidence: Pharma USA

� Acme: Class action suit is going away which should eliminate one-time expense

� Pharma Inc: Setting aside fund for patent infringement claim




Market Data

� CETP News


Earnings

Quality

Acme Pharma

Pharma, Inc.

Pharma United

Pharma USA

CE

TP

Dru

g S

tudie

s








One T

ime E

xpense

s

Client has expressed interest in learning

more about earnings growth impact on company upside

� Human Capital

Human Capital

Earnings Growth� Time Series Sales Trend

� Change in Receivables minus Change in Sales

� Change in Inventory minus Change in Sales

Top Confidence: Acme

� Acme: 260 jobs listed on their website, up 30 from last quarter

� Pharma United: Minor layoffs

� Pharma , USA: Major layoffs


� Acme: 260 jobs listed on their website, up 30 from last quarter

� Pharma United: Minor layoffs

� Pharma , USA: Major layoffs

Hum

an C

apita

l




Market Data

� CETP News


Earnings

Quality

Acme Pharma

Pharma, Inc.

Pharma United

Pharma, USA

CE

TP

Dru

g S

tudie

s








One T

ime E

xpense

s

� Human Capital




Infrastructure� Infrastructure

Infra

structu

re


� Acme: New plant opening

� Pharma United: Infrastructure outsourcing


� Acme: New plant opening

� Pharma United: Infrastructure outsourcing

Infrastructure changes factor

into both current cash flows and

production

Hum

an C

apita

l




Market Data

� CETP News


Earnings

Quality

Acme Pharma

Pharma, Inc.

Pharma United

Pharma, USA

CE

TP

Dru

g S

tudie

s








One T

ime E

xpense

s

� Human Capital




� Infrastructure

Infra

structu

re

Hum

an C

apita

lGo to market models can

materially affect downstream

revenues

Go To Market

Go T

o M

arke

t

� Go To Market� Go To Market


� Pharma Inc: Partnership with distributor dissolved

� Pharma USA: Alliance with major HMO


� Pharma Inc: Partnership with distributor dissolved

� Pharma USA: Alliance with major HMO


� Reuters publie l’équivalent de 9000 pages d’informations financières chaque jour1

� 5 nouveaux documents de recherche sont produits par Wall Street chaque minute1

� Les gestionnaires d’actif peuvent recevoir jusqu’à1 000 e-mails par jour1

Les organisations financières doivent gérer une quantitéd’informations complexes sans précédent

Sources: 1 - www.financial-domain.info/integrating-qualitative-and-quantitative-information/2- IBM Client experience with ForEx traders3 – Derived from NYSE data

“Le volume du flux d’information rend la prise de décision en

confiance difficile”-Adam Margolis, Citi trader


IBM Watson va travailler pour Wall Street

CitiCitiCitiCiti is doing it!is doing it!is doing it!is doing it!

What if What if What if What if …………financial institutions had the information it needed to make informed client decisions every time?

• Deep content analysis to improve and simplify the banking experience

• Enhance the accuracy and speed of organizational decision making

• More informed recommendations about new client opportunities

• First-of-a-kind deployment for IBM Watson in financial services

“We will collaborate with IBM to explore how we can use the Watson technology to provide our

customers with new, secure services designed around their increasingly digital and mobile lives.”

- Don Callahan, CAO & CIO


Technologie - L’accord prévoit que l’institution financière examine les possibilités offertes par Watson pour améliorer le service clients.

IBM et Citigroup ont annoncé la conclusion d’un partenariat qui vise à explorer les opportunités offertes par le superordinateur Watson grâce à ses capacités en matière d’analyse approfondie de contenus et d’apprentissage par la preuve.

L’objectif est de voir comment Watson pourrait contribuer à améliorer les services bancaires de Citigroup et notamment les transactions des clients investisseursen analysant leur besoin tout en compulsant à la volée une grande quantitéd’informations financières, économiques et contextuelles les concernant.

« Nous travaillons à repenser les multiples manières dont nos clients interagissent avec l’argent », explique Citigroup. Nous collaborerons avec IBM pour explorer comment nous pouvons utiliser Watson pour fournir à nos clients de nouveaux services sécurisés adaptés à leur pratique toujours plus numérique et mobile.»

Citigroup va évaluer de possibles usages du superordinateur Watson d’IBM

Edition du 06/03/2012


IBM a mis les technologies Watson au service du secteur de la Finance

Evaluating earnings is complex, time-consuming and often incomplete

Credit provisioning decisions and bond investments are often made without a complete assessment

Financial Advisors are challenged to provide personalized advice to clients

IBM Watson can leverage unstructured data, evaluate hypothesis, respond with confidence, and learn as it goes –improving valuations

IBM Ready for Watson products can create a single view of the bond for a complete risk profile drawing numerous sources of unstructured information

IBM Ready for Watson products can aggregate and analyze bank and social data to and align "best" advice options to investment goals

Insights into earnings can enhance investor confidence improving return on investments

Improved credit decisions and bond investments generate significant returns

Informed advice and personalized actions improve customer loyalty & revenue

Challenge

Solution

Outcomes

Challenge

Solution

Outcomes

Challenge

Solution

Outcomes

Quality of Earnings

Institutional Credit Risk

Financial Planning


IBM Watson Progression Path

Bu

sin

ess

Va

lue

Ou

tco

me

Use of Smarter Planet capabilities

ManageData1

AnalyzePatterns2

Optimize Outcomes3

Manage the volume,

variety and velocity of

data that fuels your

business

Generate actionable insight

that will drive your business

forward

� Infosphere BigInsights, Streams

� Master Data Mgmt

� Identity Manager

�Cognos Business Intelligence

�ICPA (ICA / SPSS modeler)

�G2 Sensemaking

�Smarter Customer Interaction

�Advanced Case Management

�WBR (ILOG), Decision Mgmt

L’offre “Ready for Watson” permet de définir la courbe de progression de Watson

Transform results by

integrating insights

into business actions


Evolution de l’expérience analytique avec IBM

Personal Analytics

Enterprise Analytics

Next Generation Analytics: Reasoning & Learning


Le Futur

ANNEXE


Transistor performance scaling continues, but at a slower rate

Power is limiting practical performance

Single thread performance is slowing dramatically

OneTeraflop

is equivalent to:

OneTeraflop

is equivalent to:

10’000

Cray 1s

287 Pentium 4s

5’000 iPods

Multicore architectures will commoditize supercomputing

1 Game Console

Apollo Guidance Computer72K Read only Memory8K of RAM2MHz32 Kg61cm x 32cm x 15cm80 Watt

iPhone

16GB RAM1.2GHz, 1440 MIPS135 g115mmx61mmx11.6mm600mW

Compute Power 1969 and 2007

Sources:

AGC: http://www.ddj.com/184404139

iPhone: http://www.apple.com/iphone/specs.html

ARM11: http://www.physorg.com/newsh5139.html

�X 2 million�X 600�/200�/350�/130

Dans 12 ans, Watson sera de la taille d’un portable

0.5 201012 201348 20161632 201964

128 2023

80 TFlops

1/2 TFlops

Evolution de la puissance des processeurs


37

2010 2015

Fraud Prevention

Biological Inspiration: Cognitive Process Understanding

>2020

Systems

Engines

Technologies

Revenue Maximizationfor Retail

Hypothesis

Domain adaptation software tools

Hardware accelerators (von & non-von)

Deep Learning Algorithms

Crowd-Sourcing

Scoring

Decision

Data

Hypothesis (multi-domain)

Scoring (multi-modal)

Decision (deeper reasoning)

Data (dynamic)

+

Policy

Verification

Outcome

Creativity

SecurityMedical

Product Launch

Watson MedicalCall CentersInvestisseurs

Intuition

Abstraction

Bio-InspiredComputation

Crawlers

Machine Learning

…

Compute Power

Digitized Information

Static Learning Systems

Dynamic Learning SystemsAutonomous

Learning Systems

Watson

Feuille de Route Technique

Une nouvelle génération d’ordinateurs : “apprendre et raisonner”


MERCI

www.ibmwatson.com.

www.facebook.com/ibmwatson.

www.twitter.com/ibmwatson(Tweet #ibmwatson )

www.youtube.com/ibm

Watson

Documents

Transcript of Watson