知識(shí)圖譜與認(rèn)知智能智能時(shí)代智能應(yīng)用知識(shí)圖譜依賴認(rèn)知智能催生

需要提綱2 大數(shù)據(jù)的日益積累、計(jì)算能力的快速增長(zhǎng)為人類進(jìn)入智能時(shí)代奠定了基礎(chǔ) 大數(shù)據(jù)為智能技術(shù)的發(fā)展帶來(lái)了前所未有的數(shù)據(jù)紅利 機(jī)器計(jì)算智能、感知智能達(dá)到甚至超越人類2012年，在圖像識(shí)別的國(guó)

際大賽ILSVRC(大型視覺(jué)辨識(shí)

挑戰(zhàn)競(jìng)賽)中，加拿大多倫多

大學(xué)的研究團(tuán)隊(duì)基于深度卷

積神經(jīng)網(wǎng)絡(luò)的模型[1]奪冠，

把TOP5錯(cuò)誤率降到15.3%，領(lǐng)

先第二名超過(guò)十個(gè)百分比，震驚學(xué)術(shù)圈。2017年，DeepMind聯(lián)合游

戲公司暴雪，宣布共同開(kāi)發(fā)

可以在“星際爭(zhēng)霸2”中與人

類玩家對(duì)抗的人工智能，

并

且發(fā)布了旨在加速即時(shí)戰(zhàn)略

游戲的人工智能應(yīng)用的工具

集[3]?！狣eepMind2016年，Google全資收購(gòu)

的DeepMind推出名為AlphaGo的圍棋程序[2]，以4:1的總

比分擊敗世界頂級(jí)職業(yè)圍棋

選手李世石,讓全世界開(kāi)始關(guān)

注人工智能技術(shù)巨大的應(yīng)用

前景。未來(lái)已至：人類已經(jīng)進(jìn)入智能時(shí)代星際爭(zhēng)霸擁有豐富多彩

的游戲環(huán)境和戰(zhàn)術(shù)體系，

這是研究人工智能的理

想環(huán)境。智能化升級(jí)與轉(zhuǎn)型已經(jīng)成為各行各業(yè)的普遍訴求從信息化走向智能化是必然趨勢(shì)AI+成為AI賦能傳統(tǒng)行業(yè)的基本模式戰(zhàn)略意義 全方位、深度滲透到各行各業(yè)、各個(gè)環(huán)節(jié) 顛覆性影響，重塑行業(yè)形態(tài)，甚至社會(huì)形態(tài)提高

效率降低

成本安全

保障智能化升級(jí)與轉(zhuǎn)型增加收入4 隨著數(shù)據(jù)紅利消耗殆盡，以深度學(xué)習(xí)為代表的感知智能遇到天花板 認(rèn)知智能將是未來(lái)一段時(shí)期內(nèi)AI發(fā)展的焦點(diǎn)，是進(jìn)一步釋放AI產(chǎn)能的關(guān)鍵

難度

價(jià)值計(jì)算智能?

規(guī)則明確、特

定領(lǐng)域認(rèn)知智能?

理解、推理、

解釋感知智能?

語(yǔ)音、圖像、

視頻智能化需要機(jī)器智能，特別是認(rèn)知智能5 認(rèn)知智能應(yīng)用需求廣泛多樣，需要對(duì)傳統(tǒng)信息化手段的全面而徹底的革新

認(rèn)知智能：人類腦力解放，機(jī)器生產(chǎn)力顯著提高認(rèn)知智能的應(yīng)用需求深層關(guān)系推理自然人機(jī)交互認(rèn)知智能智慧搜索精準(zhǔn)分析智能推薦智能解釋6…

..寶寶不知道寶寶的寶寶是不是寶寶親生的寶寶，寶寶現(xiàn)在擔(dān)

心的是寶寶的寶寶不是寶寶的寶寶如果寶寶的寶寶真的不是寶

寶的寶寶那就嚇?biāo)缹殞毩藢殞毜膶殞殲槭裁匆@樣對(duì)待寶寶，寶寶很難過(guò)，如果寶寶和寶寶的寶寶因?yàn)閷殞毜膶殞毚蚱饋?lái)了，

你們到底支持寶寶還是寶寶的寶寶！

【寶寶心里苦，但是寶寶

不說(shuō)】?精準(zhǔn)化數(shù)據(jù)分析?

輿情分析?

熱點(diǎn)統(tǒng)計(jì)?

軍事情報(bào)分析?

商業(yè)情報(bào)分析?精細(xì)化數(shù)據(jù)分析

?

酒店評(píng)論抽取

?

個(gè)性化制造_中華網(wǎng)菲律賓

相關(guān)日本

相關(guān)深扒王寶強(qiáng)離婚內(nèi)幕最大禍根源于誰(shuí)_百山探索深度解析寶寶離婚鬧劇事件細(xì)說(shuō)婚姻幸福真諦!_央廣網(wǎng)寶強(qiáng)離婚最新動(dòng)態(tài),DNA結(jié)果公布馬蓉原形畢露_新聞?lì)l道軍民融合南海掀波陸漁船艦隊(duì)近逼菲中業(yè)島

意大利華人捐古版中國(guó)地圖證明釣魚島為中國(guó)領(lǐng)土

大數(shù)據(jù)的精準(zhǔn)、精細(xì)分析需要智能化技術(shù)支撐精準(zhǔn)分析?

精準(zhǔn)搜索意圖理解?精準(zhǔn)分類、語(yǔ)義理解、個(gè)性化?

復(fù)雜多元對(duì)象搜索?表格、文本、圖片、視頻?文案、素材、代碼、專家?

多粒度搜索?篇章級(jí)、段落級(jí)、語(yǔ)句級(jí)?

跨媒體搜索?不同媒體數(shù)據(jù)聯(lián)合完成搜索任務(wù)

一切皆可搜索，搜索必達(dá)智慧搜索Searchkeywords推薦Search8 精準(zhǔn)感知任務(wù)與場(chǎng)景，想用戶之未想 從基于行為的推薦發(fā)展到行為與語(yǔ)義融合的智能推薦?

場(chǎng)景化推薦?

任務(wù)型推薦?

冷啟動(dòng)環(huán)境下的推薦?

跨領(lǐng)域推薦?

知識(shí)型推薦跨領(lǐng)域推薦，比如給微博

用戶推薦taobao商品，存

在巨大的vocabulary

gap智能推薦電商領(lǐng)域的

場(chǎng)景化推薦9

解釋是智能的重要體現(xiàn)之一，將是人

們對(duì)于智能系統(tǒng)的普遍期望 可解釋是智能系統(tǒng)決策結(jié)果被采信的

前提?

事實(shí)解釋?

關(guān)系解釋?

過(guò)程解釋?

結(jié)果解釋解釋機(jī)器學(xué)習(xí)過(guò)程智能解釋解釋事實(shí)10 人機(jī)交互方式將更加自然，對(duì)話式交互取代關(guān)鍵詞搜索成為主流交互方式

一切皆可問(wèn)答：圖片問(wèn)答、新聞問(wèn)答、百科問(wèn)答

Google

NowAppleSiriAmazonAlexaKW

Xiao

CuiQuestionAnswering

(QA)systems

inindustries

andacademics自然人機(jī)交互11Why

baoqiangselectQizhunZhangas

his

lawyer?WhyA

invests

B?12 隱式關(guān)系發(fā)現(xiàn)、深層關(guān)系推理將成為智能的主要體現(xiàn)之一深層關(guān)系發(fā)現(xiàn)／推理解

釋

規(guī)

劃理

解

認(rèn)知智能

推理歸

納

演

繹 理解與解釋是后深度學(xué)習(xí)時(shí)代人工智能的核心使命之一認(rèn)知智能是智能化的關(guān)鍵Can

machine

thinklikehumans?13知識(shí)圖譜是實(shí)現(xiàn)認(rèn)知智能的關(guān)鍵技術(shù)，是實(shí)現(xiàn)機(jī)器認(rèn)知智能的使能器（Enabler）14

?

KnowledgeGraph

isa

largescalesemantic

network?Consistingofentities/concepts

aswell

asthe

semantic

relationships

amongthem知識(shí)圖譜富含實(shí)體、概念、屬性、關(guān)系

等信息，使得機(jī)器理解與解釋成為可能/cndbpedia/search知識(shí)圖譜15

?

知識(shí)圖譜作為一種語(yǔ)義網(wǎng)絡(luò)

，是大數(shù)據(jù)時(shí)代知識(shí)表示的重要方式之一?

知識(shí)圖譜作為一種技術(shù)體系

，是大數(shù)據(jù)時(shí)代知識(shí)工程的代表性進(jìn)展知識(shí)圖譜的廣義內(nèi)涵16?傳統(tǒng)知識(shí)工程，專家構(gòu)建，代價(jià)高昂，規(guī)模有限；知識(shí)邊界易于突破，難以適應(yīng)大數(shù)據(jù)時(shí)代開(kāi)放應(yīng)用到規(guī)模化需求?大規(guī)模開(kāi)放應(yīng)用需要“大”知識(shí)（大規(guī)模知識(shí)庫(kù)）

Small

knowledge+

bigdata=

big

knowledge 知識(shí)圖譜引領(lǐng)知識(shí)工程復(fù)興Ontology,Frameya

wo(p(f(z))→-(p()→Q(ft

g),x,z)))Logic

rules從“小”知識(shí)到“大”知識(shí)Bayesian

networkBig

KnowledgeDecisiontree17 ?

機(jī)器理解數(shù)據(jù)的本質(zhì)：建立從數(shù)據(jù)到知識(shí)庫(kù)中實(shí)體、概念、關(guān)系的映射?

機(jī)器解釋現(xiàn)象的本質(zhì)：利用知識(shí)庫(kù)中實(shí)體、概念、關(guān)系解釋現(xiàn)象的過(guò)程基于知識(shí)圖譜的認(rèn)知智能2013年的金球獎(jiǎng)得主C羅為什么C羅那么牛？18Language

is

complicated?

Ambiguous,contextualandimplicit?

Seeminglyinfinite

numberofwaystoexpressthe

same

meaningLanguage

understanding

isdifficult?

Groundedonly

in

humancognition?

Needssignificant

background

knowledge機(jī)器語(yǔ)言理解需要背景知識(shí)?

Language

understandingof

machines

needs

knowledge

bases?

Large

scale?

Semantically

rich?

Friendlystructure?

High

quality?

Traditional

knowledge

representationscan

not

satisfythese

requirements，

but

KGcan?

Ontology?

Semantic

network／frame?

Texts

NLP+KB=

NLU，

NLP=Natural

language

processing，

NLU=natural

language

understanding知識(shí)圖譜

使能(Enable)機(jī)器語(yǔ)言認(rèn)知BiggerBetterKBKnowledge

BaseThe

roadmap

of

knowledge-guided

NLPNLU（Closethesemanticgap）

Knowledge-guided

NLP（

Knowledge

extraction

）MorePowerfulModelsCorpora21

?

Representation:concept

basedtemplates.?Questionsareaskingaboutentities.Thesemanticofthequestion

is

reflected

by

itscorrespondingconcept.?Advantage:

Interpretable,user-controllable?

LearntemplatesfromQAcorpus,

insteadofmanfullyconstruction.How

many

peoplearethere

inShanghai?Shanghai

Population

2420萬(wàn)How

many

peoplearethere

in

Beijing?PopulationBeijingExample:

Usingconceptstounderstanda

naturallanguage?Conceptualization

By

ProbaseLearnfromQACorporaand

KBWanyunCui,YanghuaXiao*,

HaixunWang,YangqiuSong,Seung-won

Hwang,Wei

Wang,

KBQA:

Learning

Question

Answering

over

QA

Corpora

and

KnowledgeBases,

(VLDB2017)How

many

peoplearethere

in

$City?2172萬(wàn)鯊魚為什么那么可怕？

因?yàn)樗鼈兪鞘橙鈩?dòng)物鳥兒為何能夠飛翔？因?yàn)樗鼈冇谐岚蚵龟详P(guān)曉彤最近為何刷屏？

因?yàn)殛P(guān)曉彤是鹿晗女朋友知識(shí)圖譜

使能可解釋人工智能“Conceptsarethegluethat

holdsourmentalworld

together”

--Gregory

Murphy概念屬性關(guān)系解釋取決于人類認(rèn)知的基本框架；概念、屬性、關(guān)系是認(rèn)知的基石23Givenaset

ofentities,

canwe

understand

its

concept

and

recommenda

most

related

entity?Applications：E-commerce:

if

users

aresearchingsamsungs6,

and

iPhone6,whatshouldwe

recommend

and

why?YiZhang,et

al,

Entitysuggestionwithconceptual

explanation,

(IJCAI

2017)TaxonomyExample

1:

Explainable

using

taxonomyentity

recommendationProblem:24Basic

Idea:Ming

Dbpedia,

using

propertiestoexplainacategoryModel:Mining

Defining

Featuresfrom

DBpeidaProblem:Howdowe

understanda

concept/category?Example

：

Howto

understand

“Bachelor”=>

(Sex=man,

Marriagestatus=unmarried)Example

2:

Explain

a

Concept/Category

using

PropertiesSolution

Framework25Bo

Xu,et

al,

Learning

Defining

Features

for

Categories.

(IJCAI

2016)?

“數(shù)據(jù)驅(qū)動(dòng)”利用統(tǒng)計(jì)模式解決問(wèn)題?

單純依賴統(tǒng)計(jì)模式難以有效解決很多實(shí)際問(wèn)題知識(shí)引導(dǎo)將成為解決問(wèn)題的主要方式張三把李四打了，他進(jìn)醫(yī)院了張三把李四打了，他進(jìn)監(jiān)獄了KnowledgeGuidedData

Driven26?

Entity

linking：

P(e|C),?where

C

iscontext

ande

is

candidate

entity?

Basic

idea:

usingconcepts

(t)

inknowledge

baseP

e

i

C=

ΣtP(eiIt)

×P(tIC)**

EntityAnnotationAPIOur

MethodPrecision56.7%86.1%Recall67.8%84.5%F161.7%85.3%Typicalityof

an

entity

within

aconceptThe

probabilitytoobserve

anentity

oftgiven

context

CExample

1:

Use

Concepts

for

Chinese

Entity

Linking李娜（中國(guó)女子網(wǎng)球名將）：人物、體育人物、

運(yùn)動(dòng)員、名將李娜（流行歌手、佛門女弟子）：人物、演員、歌手、弟子打球的[李娜和唱歌的[李娜不是同一個(gè)人。?Pattern

based

bootstrapping

is

popular?

Problem:

semantic

drift?

<ChinaisA

country>=>?

(occupationof

$,,

=>?

(occupationof

PIanetearth,=>?

<Planet

Earch

isAcoutntry>?Principles:

no

bad

patterns,onlywrong

applications?

Our

idea?

Runa

patternonthetextfor

an

appropriate

entity?

Using

knowledgetoguidetheexecutionofthe

learnedpattern?

95%+accuracyExample

2:

Using

knowledge

to

prevent

semantic

drift

in

pattern

based

IE<復(fù)旦大學(xué)-簡(jiǎn)稱-復(fù)旦><復(fù)旦大學(xué)-創(chuàng)始人-馬相伯>……傳統(tǒng)專家系統(tǒng)傳統(tǒng)機(jī)器智能基于知識(shí)的機(jī)器智能?降低機(jī)器學(xué)習(xí)模型的大樣本依賴，提高學(xué)習(xí)的經(jīng)濟(jì)性?提高機(jī)器學(xué)習(xí)模型對(duì)于先驗(yàn)知識(shí)的利用效率?增強(qiáng)機(jī)器學(xué)習(xí)模型與先驗(yàn)知識(shí)的一致性ML+KB=

ML2知識(shí)將顯著增強(qiáng)機(jī)器學(xué)習(xí)能力29專家系統(tǒng)

結(jié)果知識(shí)增強(qiáng)的機(jī)器學(xué)習(xí)機(jī)器學(xué)習(xí)

模型機(jī)器學(xué)習(xí)

模型數(shù)據(jù)

結(jié)果

知識(shí)庫(kù)知識(shí)知識(shí)知識(shí)知識(shí)數(shù)據(jù)數(shù)據(jù)結(jié)果Example

1:

Deep

language

generation

with

prior

knowledgeDemo地址：

http://kw.fudan.edu.cn/ddemos/vcode/API地址：

http://kw.fudan.edu.cn/apis/supervcode/RuleExaminer

If

then

return

1If

then

return

0...PIncorporatingComplicated

Rules

in

DeepGenerative

Models,

underreview在超級(jí)驗(yàn)證碼中的應(yīng)用zRandom

noises

or

encoded

contextsBackpropagationfrom

goldensamples-

'

L_RManyfake

samplesBackpropagationNegative

samplesPositivesamplesG海爾洗衣機(jī)全自動(dòng)海爾洗衣機(jī)半自動(dòng)海爾洗衣機(jī)全自動(dòng)家用8公斤洗衣機(jī)全自動(dòng)

海爾海爾洗衣機(jī)全自動(dòng)家用滾筒海爾滾筒洗衣機(jī)10公斤全自動(dòng)洗衣機(jī)家用

海爾10公斤海爾迷你洗衣機(jī)海爾官方旗艦店TransferXYZ洗衣機(jī)全自動(dòng)XYZ洗衣機(jī)半自動(dòng)XYZ衣機(jī)全自動(dòng)家用8公斤洗衣機(jī)全自動(dòng)

XYZXYZ洗衣機(jī)全自動(dòng)家用滾筒XYZ滾筒洗衣機(jī)10公斤全自動(dòng)洗衣機(jī)家用XYZ10公斤XYZ迷你洗衣機(jī)XYZ官方旗艦店Example

2:

Long-tailed

query

term

embedding

guided

by

knowledge?

In

Deep

IR,

its

hardtotraineffectivewordembeddingfor

longtailed

query

terms海爾isA洗衣機(jī)品牌XYZ

isA洗衣機(jī)品牌……F1score

increases

by24%

in

the

evaluationofsimilar

queriesKnowledgebase?

大數(shù)據(jù)時(shí)代是得“數(shù)據(jù)者”得天下?

人工智能時(shí)代是得“知識(shí)者”得天

下?

經(jīng)過(guò)知識(shí)沉淀的機(jī)器智能使得知

識(shí)工作自動(dòng)化成為可能?

數(shù)據(jù)是石油，知識(shí)就是石油的萃

取物“Knowledge

is

power

inAI”

，

Edward

Feigenbaum知識(shí)將成為比數(shù)據(jù)更為重要的資產(chǎn)知識(shí)加工與石油萃取32?

人類社會(huì)已經(jīng)進(jìn)入智能時(shí)代?

智能時(shí)代催生大量智能化應(yīng)用需求?

認(rèn)知智能是實(shí)現(xiàn)行業(yè)智能化的關(guān)鍵技術(shù)?

知識(shí)圖譜技術(shù)是實(shí)現(xiàn)機(jī)器認(rèn)知智能的核心技術(shù)?知識(shí)圖譜使能機(jī)器語(yǔ)言認(rèn)知?知識(shí)圖譜使能可解釋人工智能?知識(shí)引導(dǎo)成為問(wèn)題求解方式之一?知識(shí)將顯著增強(qiáng)機(jī)器學(xué)習(xí)能力總結(jié)-133

定理1:

NLP+KB=NLU

定理2:Small

knowledge+

bigdata=

big

knowledge

定理3:

ML+KB=

ML2總結(jié)-234知識(shí)的沉淀與傳承，鑄就了人類文明的輝煌，也將成為機(jī)器智能持續(xù)提升必經(jīng)道路?？偨Y(jié)-335?YiZhang,YanghuaXiao*,SeuongwonHwang,

HaixunWang,X.SeanWang,EntitySuggestionwithConceptual

Explanation,

(IJCAI2017)?JiaqingLiang,ShengZhang,YanghuaXiao*,How

to

Keep

a

Knowledge

Base

Synchronizedwith

Its

Encyclopedia

Source,

(IJCAI2017)?BoXu,YongXu,JiaqingLiang,

ChenhaoXie,

Bin

Liang,WanyunCui

andYanghuaXiao*,CN-DBpedia:

A

Never-Ending

ChineseKnowledgeExtractionSystem,(IEA/AIE2017)?JiaqingLiang,YiZhang,YanghuaXiao*,HaixunWang,WeiWang,

Probase+:

InferringMissing

Links

in

ConceptualTaxonomies,TransactionsonKnowledgeandData

Engineering(TKDE2017)?WanyunCui,YanghuaXiao*,HaixunWang,YangqiuSong,Seung-won

Hwang,WeiWang,

KBQA:

Learning

Question

AnsweringoverQACorporaandKnowledgeBases,

(VLDB2017)?JiaqingLiang,YiZhang,YanghuaXiao*,HaixunWang,WeiWangand

PinpinZhu,

OntheTransitivityof

Hypernym-hyponym

Relationsin

Data-DrivenLexicalTaxonomies,(AAAI2017)?JiaqingLiang,YanghuaXiao*,YiZhang,Seung-WonHwang

and

HaixunWang,

Graph-basedWrong

IsARelation

Detection

in

a

Large-scaleLexicalTaxonomy,

(AAAI2017)?XiangyanSun,YanghuaXiao*,HaixunWang,WeiWang,OnConceptual

Labelingofa

Bag

ofWords,(IJCAI

2015)?XiangyanSun,

HaixunWang,YanghuaXiao*,ZhongyuanWang,SyntacticParsingofWebQueries,(EMNLP2016)References?BoXu,ChenhaoXie,YiZhang,YanghuaXiao*,

HaixunWangand

Wei

Wang,

Learning

Defining

Features

forCategories,

(IJCAI2016)?Wanyun

Cui,Yanghua

Xiao*,Wei

Wang,

KBQA:

An

Online

Template

Based

Question

Answering

S