學 校 代 碼 10459 學號或申請?zhí)?201012171911 密 級 碩 士 學 位 論 文 介詞、連詞用法在短語結(jié)構(gòu)句法分析中的 應(yīng)用研究 作 者 姓 名：龐熠雅 導 師 姓 名：穆玲玲 副教授 學 科 門 類：工 學 專 業(yè) 名 稱：計算機應(yīng)用技術(shù) 培 養(yǎng) 院 系：信息工程學院 完 成 時 間： 2013年 5 月 A on y u 013 摘要 I 摘 要 中文句法分析是自然語言處理領(lǐng)域中的一個重要課題。針對漢語本身的特點，本文將介詞用法融入到句法分析結(jié)果中，使用介詞用法屬性對 行后處理。首先，為了得到較高的介詞用法自動識別結(jié)果，本文在已有的基于規(guī)則的介詞用法自動標注方法的基礎(chǔ)上，提出了基于統(tǒng)計的介詞用法的自動標注方法，分別采用條件隨機場、最大熵和支持向量機三種統(tǒng)計模型，以 2000 年 2 月、 3 月、 4 月人民日報分詞與詞性標注語料為實驗語料，對常用介詞進行了自動標注實驗，實驗結(jié)果表明基于統(tǒng)計的介詞用法自動標注總體上優(yōu)于基于 規(guī)則的介詞用法自動標注結(jié)果。其次，本文在 用由介詞用法屬性特征得到的邊界識別結(jié)果，對已有句法分析結(jié)果進行一定的修改，從而提高中文句法分析的準確率。實驗表明，融入用法屬性特征的句法分析結(jié)果比之前結(jié)果有了一定的提高。最后，為了驗證基于介詞用法的句法分析后處理方法的適用性，本文將此方法進一步運用到了連詞中，且得到了較好的實驗效果。 本文主要的工作包括： (1)根據(jù)“三位一體”廣義虛詞知識庫，在對基于規(guī)則的介詞用法自動標注結(jié)果進行人工校對所得到的正確語料的基礎(chǔ)上，實現(xiàn) 了基于統(tǒng)計的介詞用法自動標注。 (2)在介詞用法自動識別、基于用法的介詞短語邊界識別、 現(xiàn)了介詞用法在短語結(jié)構(gòu)句法分析中的應(yīng)用研究。 (3)根據(jù)介詞用法在短語結(jié)構(gòu)句法分析中的應(yīng)用研究，在連詞用法自動識別、基于用法的連詞短語邊界識別的基礎(chǔ)上，實現(xiàn)了連詞用法在短語結(jié)構(gòu)句法分析中的應(yīng)用研究。 最后，對本文的研究內(nèi)容進行了總結(jié)，并根據(jù)研究結(jié)果對下一步工作做了展望，指出了下一步的研究方向。 關(guān)鍵詞 ： 自然語言處理 短語結(jié)構(gòu)句法分析 介詞用法自動識別 介詞短語邊界識別 連詞短語邊界識別I is an in of at of s to of of of in to a of on of of an of on ME to on s ,4). of on is of of on of of of of to to in to of is on a of (1) to of of on of of on of on (2) On of of on on (3) to on II on of of on on in of to 目錄 錄 摘 要 . I . 錄 . 表目錄 . 引言 . 1 究意義 . 1 究背景 . 4 法分析研究現(xiàn)狀 . 5 外研究現(xiàn)狀 . 5 內(nèi)研究現(xiàn)狀 . 6 究內(nèi)容 . 6 文組織框架 . 7 2 介詞用法自動識別 . 8 代漢語介詞用法知識庫 . 8 詞用法詞典 . 8 詞用法規(guī)則庫 . 9 詞用法語料庫 . 10 于規(guī)則的介詞用法自動識別 . 11 于規(guī)則的介詞用法自動識別方法 . 實驗評價方法 . 12 驗結(jié)果與分析 . 12 目錄 V 于統(tǒng)計的介詞用法自動識別 . 14 計模型介紹 . 14 征抽取 . 16 實驗結(jié)果與分析 . 18 章小結(jié) . 20 3 介詞用法在短語結(jié)構(gòu)句法分析中的應(yīng)用 . 21 詞短語邊界識別 . 21 于規(guī)則的介詞短語邊界識別 . 21 于統(tǒng)計的介詞短語邊界識別 . 23 詞用法在短語結(jié)構(gòu)句法分析中的應(yīng)用 . 25 法描述 . 25 得邊界識別標準庫 . 27 處理方法 . 27 驗結(jié)果及分析 . 31 驗語料 . 31 驗評價指標 . 32 驗結(jié)果 . 32 章小結(jié) . 35 4 連詞用法在短語結(jié)構(gòu)句法分析中的應(yīng)用 . 37 詞短語邊界識別 . 37 于規(guī)則的連詞短語邊界識別 . 37 于統(tǒng)計的連詞短語邊界識別 . 39 詞用法在短語結(jié)構(gòu)句法分析中的應(yīng)用研究 . 41 法描述 . 41 得邊界識別標準庫 . 42 處理方法 . 43 驗結(jié)果及分析 . 46 目錄 章小結(jié) . 47 5 結(jié)論與展望 . 48 論 . 48 望 . 49 參考文獻 . 50 個人簡歷 在學期間發(fā)表的學術(shù)論文及研究成果 . 53 個人簡歷 . 53 在學期間發(fā)表的學術(shù)論文 . 53 致謝 . 54 圖表目錄 表目錄 圖目錄 圖 句 1、 2 句法樹 . 1 圖 句 3、 4 句法樹 . 2 圖 句 5、 6 句法樹 . 3 圖 代漢語介詞用法知識庫 . 8 圖 詞用法詞典部分樣例 . 8 圖 詞用法自動識別標注系統(tǒng)流程圖 . 11 圖 類線性劃分的最優(yōu)超平面 . 16 圖 不同上下文窗口中三種模型的識別效果 . 19 圖 于統(tǒng)計的介詞短語邊界識別處理過程 . 23 圖 3. 2 例句 1 在 法分析器中的結(jié)果 . 26 圖 法分析后處理操作 過程 . 26 圖 句 出的句法樹 . 28 圖 句 確的句法樹 . 29 圖 改句法分析結(jié)果流程圖 . 30 圖 n 個介詞短語后處理的算法描述 . 31 圖 于統(tǒng)計的連詞短語邊界識別過程 . 40 圖 句 的結(jié)果 . 41 圖 法分析后處理的操作 過程 . 42 圖 于連詞用法的句法分析后 處理流程圖 . 45 圖 第 n 個連詞結(jié)果后處理的算法描述 . 45 表目錄 表 于規(guī)則的常用介詞用法自動識別結(jié)果分析 . 13 表 詞“把”的訓練數(shù)據(jù)示例 . 17 表 于統(tǒng)計的常用介詞用法自動識別結(jié)果 . 20 表 句 應(yīng)的訓練數(shù)據(jù)樣例 . 24 表 處理之后各結(jié)果對比 . 33 表 同結(jié)構(gòu)數(shù)對比 . 34 表 性標注正確時各分析結(jié)果對比 . 34 表 用介詞實驗結(jié)果 . 35 圖表目錄 詞“和”用法詞表中的部分屬性說明 . 38 表 句 特 征表示 . 41 表 4. 3 后處理 之后的各分析結(jié)果對比 . 46 表 性標注正確時各分析結(jié)果對比 . 47 1 引言 1 1 引言 究意義 根據(jù)不同的處理深度，計算語言學中的語言技術(shù)可以分為淺層分析 、深層分析兩種 1。淺層分析主要是對詞匯級別的處理，一般只分析句子中的一部分，這種技術(shù)目前已基本成熟，如分詞、詞性標注等。深層分析是指對語言進行語法級別、語義級別甚至語用級別的處理，如句法分析等，這些分析技術(shù)的分析結(jié)果需要對句子進行整體的分析才能得到。而在深層分析技術(shù)中，句法分析一直處于十分關(guān)鍵的位置。 句法分析是根據(jù)一個給定的語法體系 ,自動的推導出句子的語法結(jié)構(gòu) , 分析出句子所包含的語法單元及這些語法單元之間的關(guān)系 , 最終將句子轉(zhuǎn)化為一棵結(jié)構(gòu)化的語法樹 2。漢語句子由實詞和虛詞組成，而虛詞 包括介詞、連 詞、副詞、助詞、方位詞和語氣詞， 對句子的句法意義作用很大。一個漢語句子中，在相同的位置選擇不同的虛詞，對句子的意義就可能會有很大的影響，句法樹也會有很大不同。如下面的句子： (1)小強和小明去工作。 (2)小強為了小明去工作。 句子 (1)中“和”為連詞，表示并列關(guān)系， (2)中“為了”為介詞，表示動作行為的目的。 (1)表示小強和小明一起去工作，而 (2)表示因為小明的原因，小強去工作。兩個句子的句法樹如圖 示。 C V 小 明 工 作P P (a) (b) 圖 句 1、 2 句法樹 1 引言 2 圖 1.1(a)為例句 (1)的句法樹，由句法樹可知，此句中“小強和小明”為主語，“小強”和“小明”為并列關(guān)系；圖 1.1(b)為例句 (2)的句法樹，此句中“小強”為主語，“為了小明”為介詞短語 ，做狀語 。 虛詞用法的變化多種多樣，同一個虛詞，在不同的句子里，句法樹也可以不同。如下例句： (3)按月準備。 (4)按明天一早出發(fā)準備。 兩個句子中“按”都為介詞，表示 遵從某種標準。而 (3)中的介詞短語為“按月”，“按”后名詞“月”作賓語； (4)中介詞短語為“按明天一早出發(fā)”，“按”后小句“明天一早出發(fā)”作賓語。兩個句子的句法樹如圖 示。 月a) (b) 圖 句 3、 4 句法樹 圖 1.2(a)、 1.2(b)分別為例句 (3)、 (4)的句法樹，兩個句子 都是由介詞短語和謂語組成，而圖 1.2(a)中名詞作介詞“按”的賓語，圖 1.2(b)中小句做介詞“按”的賓語，句法結(jié)果就發(fā)生了很大變化。 由上面例子可知，虛詞對漢語句法分析的研究是至關(guān)重要的，而現(xiàn)有的句法分析研究中涉及到虛詞的部分通常都僅依賴于虛詞本身，并沒有考慮到虛詞用法在句法分析中的作用。如例句 (3)和 (4)中，介詞“按”分別介引名詞和小句，而如果依靠介詞“按”的這兩種用法，對例句的句法分析也會變得容易。也就是說，如果在句法分析研究中引進虛詞的用法，則會有助于對句法分析的研究。例如下面的例句： 1 引言 3 (5)在民 國時期的上海生活。 (6)北京、上海和重慶都是直轄市。 例句 (5)中“在”為介詞，與“民國時期的上?！苯M成介詞短語；例句 (6)中“和”為連詞，“北京”、“上?！?、“重慶”為并列關(guān)系。 圖 通過 沒有使用虛詞用法的 5)、 (6)進行句法分析所得到的句法樹。 生 活在 時 期a) (b) 圖 句 5、 6 句法樹 由圖 1.3(a)可看出此句的句法分析結(jié)果中，“在民國時期”為例句 (5)的介詞短語，即賓語指動作發(fā)生的時間，而經(jīng)分析，此句中的介詞短語為“在民國時期的上?！?，即賓語指動作發(fā)生或事物存在的處所。在對此句進行句法分析時，如果首先考慮到此處介詞“在”的用法，即首先通過介詞“在”用法確定介詞所引導的賓語是表示處所的，就可以識別出正確的介詞短語。圖 1.3(b)中，“上?！焙汀爸貞c”為并列結(jié)構(gòu)，即兩個詞組成并列結(jié)構(gòu)，而經(jīng)分析，此句的并列結(jié)構(gòu)中有“北京”、“ 上海”、“重慶”，即三個或三個以上的詞組成并列結(jié)構(gòu)。同樣，在對此句進行句法分析時，如果首先考慮到連詞“和”的用法，即首先通過連詞“和”的用法確定組成并列結(jié)構(gòu)詞語的個數(shù)，就可以得到正確的句法樹。 由此可見，在句法分析的研究中，不僅要考慮虛詞本身的詞性，還要考慮虛詞的不同用法，從而提高句法分析的正確率。 介詞和連詞都是漢語虛詞中重要的種類，且在文本中出現(xiàn)頻率頗高。同時 ，介詞句法位置多種多樣，句法意義難以掌握，在意義、來源、用法、作用、分布等方面具有相當大的復(fù)雜性，在漢語句法分析中有獨特的研究價值。連詞是1 ，在上下文中起到連接段落、句子、分句、詞語的作用，能夠表達出縝密的邏輯語義關(guān)系，在漢語句法分析中具有不可忽視的地位。 介詞、連詞用法在短語結(jié)構(gòu)句法分析中的應(yīng)用研究有非常重要的理論和應(yīng)用價值，此研究將會很大程度的推進句法分析的發(fā)展，有利于信息抽取、機器翻譯等自然語言處理的相關(guān)領(lǐng)域的研究發(fā)展。 究背景 鄭州大學自然語言處理實驗室于 2006 年起開始承擔“現(xiàn)代漢語廣義虛詞知識庫”課題，此課題是北京大學計算語言學研究所承擔的國家 973 課題“文本理解的數(shù)據(jù)基礎(chǔ)項目”（ 2004的子課題，鄭州大學從事有關(guān)現(xiàn)代漢語廣義虛詞知識庫建設(shè)的研究工作，課題已經(jīng)于 2012 年 11 月 通過河南省科學技術(shù)廳項目鑒定 ，完成了廣義虛詞知識庫總體構(gòu)建以及有關(guān)副詞、介詞、連詞、助詞、語氣詞、方位詞等詞類的用法知識庫構(gòu)建。本文所研究的第一部分，即現(xiàn)代漢語介詞用法自動識別就是該項工作的一部分，同時也是國家自然科學基金項目“規(guī)則與統(tǒng)計相結(jié)合的現(xiàn)代漢語虛詞用法自動識別研究”（ 60970083）的重要組成部分，并且還受模式識別國家重點實驗室開放課題基金 和河南省科技創(chuàng)新人才杰出青年基金項目（ 104100510026） 資助 。 目前國內(nèi)外在語言知識庫方面的研究主要是針對實詞，對虛詞的研究相對較少。因此，俞士汶 3在原有語言資源的基礎(chǔ)之上提出了“三位一體”的思路，來實現(xiàn)現(xiàn)代漢語廣義虛詞知識庫的構(gòu)建。劉云 4為各類虛詞設(shè)計了相應(yīng)的屬性描述，對常用虛詞進行歸類總結(jié)，從而構(gòu)建了現(xiàn)代漢語虛詞詞典基本框架。昝紅英等 5完成了現(xiàn)代漢語廣義虛詞知識庫的構(gòu)建，包括現(xiàn)代漢語虛詞用法詞典、現(xiàn)代漢語虛詞用法規(guī)則庫和現(xiàn)代漢語虛詞語料庫。劉銳等 6初步研究了基于規(guī)則的副詞用法自動識別。 昝紅英 等 7探討了基于統(tǒng)計的副詞用法自動識別。在對虛詞用法研 究的基礎(chǔ)上，袁應(yīng)成等 8對現(xiàn)代漢語介詞短語邊界識別進行了研究。周麗娟等 9對現(xiàn)代漢語連詞結(jié)構(gòu)短語自動識別進行了研究。 本文在以上研究的基礎(chǔ)上，完善了現(xiàn)代漢語介詞用法詞典和現(xiàn)代漢語介詞用法規(guī)則庫，并對基于統(tǒng)計的現(xiàn)代漢語介詞用法自動識別進行了研究 10,是現(xiàn)代漢語虛詞知識庫的重要組成部分。并且在介詞用法知識庫及介詞短語邊界識別的基礎(chǔ)上，初步探討了介詞用法在短語結(jié)構(gòu)句法分析中的應(yīng)用，并進一步將其1 引言 5 運用到連詞用法在短語結(jié)構(gòu)句法分析中的應(yīng)用研究中，證明了其適用性。 法分析研究現(xiàn)狀 外研究現(xiàn) 狀 二十世紀 90 年代，自然語言處理開始從原來的小規(guī)模處理轉(zhuǎn)變?yōu)榇笠?guī)模真實文本的處理上。此后，句法分析的研究也發(fā)生了根本的變化，即由傳統(tǒng)的基于理論的自然語言處理方法轉(zhuǎn)換為基于語料庫的統(tǒng)計方法。 目前，形式最簡單、研究最充分的統(tǒng)計句法分析模型為概率上下文無關(guān)文法模型 (11。 2（ 1990）最先使用了 法，從未標 注的語 料庫 中自動 的估計 各種參 數(shù)， 通過迭 代執(zhí)行法，拋棄了大量的無用規(guī)則，而由剩余的規(guī)則組成了最終的文 法，實驗表明該算法使句法分析的運行效率有了很大的改善。 3（ 1996）提出了一種基于詞間依賴的、統(tǒng)計的句法分析模型，使用標準的二元概率估計方法來技術(shù)詞語詞之間的依賴概率。在這種方法的基礎(chǔ)上， 4（ 1997）提出了一個產(chǎn)生式句法分析模型，此模型是目前影響最廣泛的英文句法分析模型之一。 5（ 2000）采用了最大熵模型，使用了更多的特征，并且首先核心節(jié)點的詞性進行預(yù)測。該方法借鑒了最大熵模型的可以方便地 融合 各種特征的優(yōu)點，使各種特征能夠均勻分布，確保了語 料庫中特征的充分利用，加快了句法分析的速度。 6（ 2000）提出了重排序的方法，使用兩個模型來進行句法處理，首先使用第一個模型對待分析句子進行處理，生成最可能的 法分析樹，再使用第二個模型對 法分析樹進行重排序，從中選擇出一棵最優(yōu)的句法樹來作為最終分析結(jié)果。 7（ 2005）提出了在重排序和產(chǎn)生式模型上改進的句法分析方法。在該方法中，首先輸入長度小于 100 的句子，使用一個由粗到細的產(chǎn)生式模型，產(chǎn)生 50選句法樹，最后使 用一個基于最大熵模型的判別式重排序方法從候選句法樹中選擇出最優(yōu)的句法分析樹。 8（ 2010）提出了將 句法分析器分析出的 法樹合并的方法，使用重排序器來選擇合并的句法分析樹的特征，1 引言 6 該實驗證明了使用重排序器合并句法分析的有效性。 內(nèi)研究現(xiàn)狀 在 90 年代之前，因為沒有足夠規(guī)模的統(tǒng)一的中文樹庫，中文句法分析的研究發(fā)展較為緩慢。而隨著賓州中文樹庫（ 發(fā)布，中文句法分析取得了較快發(fā)展。目前，中文句法分析已經(jīng)成為了中文信息處理研 究領(lǐng)域的一個熱點問題，國內(nèi)外很多學者也對中文句法分析進行了不斷的研究。 清華大學的 9（ 1997）設(shè)計了基于統(tǒng)計的漢語句法分析器，通過預(yù)計句法分析樹的構(gòu)成，匹配左右括號，產(chǎn)生了相應(yīng)的句法分析樹，最后再使用消歧的方法，生發(fā)最優(yōu)的句法分析樹。 202002 年提出了一種結(jié)合了 法的漢語句法分析器，該方法定義了新的 法，并且使用了規(guī)則和統(tǒng)計相結(jié)合的方法。 曹海龍 212006 年提出了在 的中心驅(qū)動模型結(jié)果，之后 又 提出了一種兩級句法分析方法，該方法首先 使用一個快速且有效的模型來識別較為簡單的基本短語，然后在擴展中心驅(qū)動模式，來識別句子中包含有較多的遞歸結(jié)構(gòu)的復(fù)雜短語。 222006 年使用移近規(guī)約決策模型對賓州樹庫進行了句法分析實驗，比較了 策樹等統(tǒng)計模型，并且利用了中文的韻律特征，提高了句法分析的 準確率和解碼速度。 23提出了一種新的生成句法分析樹的方法，該方法采用多個句法分析器生成的 法分析樹，將其重新合并生財了新的句法分析樹。 徐文 智和王小捷 242009年提出了一個新的基于詞匯化的 方法有效的利用了漢語中的字信息，相對緩解了詞匯化 型的數(shù)據(jù)稀疏的問題。 究內(nèi)容 本文根據(jù)已有的現(xiàn)代漢語虛詞知識庫，首先對介詞用法自動識別進行了研究，其次利用介詞用法自動識別及介詞短語邊界識別方法對短語結(jié)構(gòu)句法分析進行了初步研究，最后利用介詞用法在短語結(jié)構(gòu)句法分析中的應(yīng)用的成功思路，1 引言 7 將其應(yīng)用在連詞用法在短語結(jié)構(gòu)句法分析中的相關(guān)研究上。 本文所包含的主要工作： (1)在基于規(guī)則的現(xiàn)代漢語介詞用法自動識別的基礎(chǔ)上 ，人工校對 2000 年 2月、 3 月、 4 月人民日報分詞與詞性標注語料庫 中的介詞用法 ，在此正確語料的基礎(chǔ)上，實現(xiàn)基于統(tǒng)計的介詞用法自動識別，并進一步完善介詞用法詞典和用法規(guī)則。 (2)在基于規(guī)則和基于統(tǒng)計的介詞邊界識別及 基礎(chǔ)上，對句法分析結(jié)果進行基于介詞用法屬性的后處理，從而提高句法分析的正確率。 (3)在介詞用法屬性在短語結(jié)構(gòu)句法分析中的應(yīng)用研究的思路的基礎(chǔ)上，將其運用于連詞用法在短語結(jié)構(gòu)句法分析中的應(yīng)用研究，驗證本文所提出方法在虛詞中的適用性。且因為連詞用法與介詞用法特征有 所不同，在使用的過程中對原有方法進行調(diào)整，得到連詞用法在短語結(jié)構(gòu)句法分析中的應(yīng)用研究方法。 文組織框架 根據(jù)本文的研究工作，本文主要將其分為五章來闡述。各章具體安排如下： 第一章，引言。主要概述了本文的研究意義、研究背景、句法分析研究現(xiàn)狀及本文主要研究的工作以及組織框架。 第二章，介詞用法自動識別。首先介紹了基于規(guī)則的介詞用法自動識別，其次講述了 種統(tǒng)計模型的特征選取及基于三種統(tǒng)計模型的介詞用法自動識別方法，分別給出了四種識別方法的實驗結(jié)果，并對其進行分析。 第三章，介詞用法在 短語結(jié)構(gòu)句法分析中的應(yīng)用。首先介紹了基于介詞用法的介詞短語邊界識別方法，且在此方法的基礎(chǔ)上，通過獲取邊界識別標準庫與后處理兩部分詳細講述了介詞用法在短語結(jié)構(gòu)句法分析中的應(yīng)用研究方法。