亚洲一区在线播放-欧美另类极品videosbest使用方法-亚洲成人av在线播放-黄色录像大片-色悠悠av-91欧美日韩-中文字幕偷拍-综合色婷婷一区二区亚洲欧美国产-一级爱爱片-黑人添美女bbb添高潮了-久久青娱乐-黄色一级视屏-美女国产在线-亚洲九九九九-欧美 日韩 国产 成人 在线观看-星空大象mv高清在线观看免费-国产福利合集-好吊色视频在线观看-尤物综合网-18岁成年人网站

什么是文本的粒度?我們用什么來衡量文本粒度?

2012/5/5 15:19:57   閱讀:4785    發布者:4785

一般而言,大型搜索引擎的索引都采用分布式系統。不同文本的索引,被某種hash算法“分配”到了某臺機器。理論上講,索引的數量的增長,只會造成所需機器的增長,而對整體系統性能的消耗影響比較小。所以一般搜索引擎會從性價比的角度來考慮索引數量與機器數量的折衷,也就是召回與硬件投入的折衷。粒度分析對于折衷的性價比也有一定的貢獻,在粒度層次里,當粒度逐漸變小的過程中,我們并不一定對所有小粒度詞都建索引,而是選擇“更有可能召回相關結果”的小粒度詞。詞匯的什么性質決定了“更有可能召回相關結果”?

傳統的搜索引擎的定義,是指一種對于指定的查詢(Query),能夠返回與之相關的文檔集合(Documents)的系統。而百度將這個定義更加豐富化,即搜索引擎能夠幫助人們更方便的找到所求。這里的“所求”,比“文檔”更加寬泛和豐富,比如一個關于天氣的查詢,直接返回一個天氣預報的窗口,而非一篇關于天氣的文檔;再如一個關于小游戲的查詢,直接返回這個小游戲的Flash頁面而非簡單的介紹性的文字。

百度對Query深刻的理解,源于自然語言處理技術在其中發揮的巨大作用。對搜索引擎而言,文本切分是最基礎也是最重要的自然語言問題之一。今天,我們就來談談文本切分粒度與搜索引擎的關系。

什么是文本的粒度?我們用什么來衡量文本粒度?專名是一類比較特殊的詞,盡管所含字數很多,但其實只表達一個意思,如“步步驚心”,“家的n次方”這樣的電影、電視劇的名稱,粒度是很小的。機構名、人名等屬于有內部結構的專名,比電影名的粒度稍大一些。

一般我們采用倒排索引的方式來實現這個系統。所謂倒排索引,就是對關鍵字建立索引,記錄包含這個關鍵字的文檔集合D。對于請求的關鍵字集合,找出所有關鍵字對應的索引,并對索引求交,最后返回同時存在于所有索引中的文檔。

在百度,我們不僅允許用戶輸入關鍵字,也可以輸入任何長度在一定范圍內的文本。此時我們需要對文本做一定處理,切分成一系列關鍵字,從而能夠從倒排索引中找出對應的文檔。

既然粒度是衡量文本所含信息量的大小,那么緊密度就是描述文本所含信息緊密程度的量。再說的通俗一些,緊密度就是信息被人們表達和接受的穩定程度。穩定有兩種解釋,第一,穩定是相對于臨時而言的。一般來說,如果信息是因為某些因素臨時組合在一起,那就是不穩定的,即不緊密。比如許多動賓結構的短語(“過馬路”,“踢足球”),定中結構的短語(“紅蘋果”,“豪華轎車”)。第二,穩定是相對于順序不固定而言的。如果同樣一個信息,內部的子信息順序可以互換,那么這個詞匯就不穩定,即不緊密。比如一些大粒度的詞匯“鼠標護腕墊”、“護腕鼠標墊”。

主站蜘蛛池模板: 西西人体做爰大胆gogo | 亚洲国产精品99 | 午夜毛片在线观看 | 蜜臀尤物一区二区三区直播 | 国产福利视频一区二区 | 最新中文字幕在线视频 | 亚洲AV无码阿娇国产精品 | 久草手机在线视频 | 日本美女久久久 | 久久av无码精品人妻系列试探 | 超碰97av | 91福利视频免费观看 | 久久久久久久美女 | 亚洲精品一区二三区 | 91视频在线观看免费 | 国产嫩草影院久久久久 | 欧美一区二区福利 | 五月天婷婷在线视频 | 国产黄色av网站 | 日韩污视频 | 亚洲精品五月天 | 黄色网页入口 | 成人av高清在线 | 久久观看最新视频 | 日韩欧美高清片 | 色狠狠一区 | 精品亚洲中文字幕 | 亚洲高清在线 | 亚洲av熟女高潮一区二区 | 丰满人妻一区二区三区四区 | 福利影院av | 欧美激情动态图 | 欧美午夜精品理论片 | 少妇一级淫片免费放中国 | 天天干天天色天天 | 黄av网| 黄色特级网站 | 少妇高潮毛片 | 国产精品搬运 | 日韩国产成人 | 久久婷婷国产麻豆91天堂 | 婷婷九月综合 | 亚洲图片二区 | 69视频在线观看免费 | 91视频区| 久久视频在线 | 大j8黑人w巨大888a片 | 国产精品影音先锋 | 欧美疯狂做受 | 久久影视一区 | 91精品婷婷国产综合久久 | 美女被艹视频网站 | 国产精品精品 | 中文字幕最新在线 | 日韩欧美一区二区三区四区五区 | 国产夫妻性生活 | 婷婷五月综合缴情在线视频 | 欧美亚洲另类在线 | 日本乱轮视频 | 亚洲视频中文 | 中文字幕亚洲欧美 | 久久99精品久久久久久国产越南 | 黑人精品无码一区二区三区 | 黄色大片在线免费观看 | 日韩大片在线观看 | 午夜香蕉视频 | 日本精品视频一区二区三区 | 欧美三级在线播放 | av一级在线观看 | 国产毛片毛片毛片毛片毛片 | 伦理久久| 国产丝袜视频在线 | 国产美女精品在线 | 嫩草嫩草嫩草嫩草嫩草 | 奇米影视网| 伊人精品 | 国产无遮挡又黄又爽又色视频 | 国产av一区二区三区 | 韩国一级一片高清免费观看 | 色月婷婷 | 一级黄色大片免费 | 操丰满女人 | 特黄特色大片免费播放器使用方法 | 日韩美女性生活 | 欧美激情久久久久久久 | 五月天丁香久久 | 国产xxxxx在线观看 | 国产 欧美 日韩 在线 | 欧美性第一页 | av成人动漫 | 色婷婷av一区二区三区之红樱桃 | 91精品国产一区二区三竹菊影视 | 秋霞一级全黄大片 | 国产农村妇女精品一区二区 | 曰女同女同中文字幕 | av色片| 成人在线观看91 | 婷婷精品| 91在线视频免费观看 |