WEBフォーラムの構文情報を用いた トラブルシュート文書抽出.pptxVIP

Webフォーラムの構文情報を用いたトラブルシュート文書抽出2008.3.14東京大学工学部電子情報工学科栗田光晴 柴田剛志 田浦健次郎 近山隆本研究の背景 トラブル 原因が分からないと検索できない 原因が分かってもその表現が多様すぎる検索語や表現を少しずつ変えて検索を繰り返してしまうソフトウェアのトラブルシュート情報ほとんどの場合 Web上の情報源本研究の目的文書の「トラブルシュートらしさ」を評価トラブルシュート文書の効率的取得のために検索語に対するマッチでは順位の低いトラブルシュート文書も発見が容易にトラブルシュート事例の自動収集等の応用可能性トラブルシュート文書の特徴トラブルシュート文書における構文の構造上の特徴を利用「トラブルシュートらしさ」の所在文書の特徴としては、単語を用いるのが一般的トラブルシュート文書から特徴語を取り出すと、トラブルシュートの特徴とともに扱われているソフトウェアの特徴語が取り出されると考えられる単語よりも大きな単位で、トラブルシュートに出現するような表現に相当する特徴を抽出関連研究構文解析を用いた大量テキストからの情報抽出Info-Pubmed [薬師寺ら 06]述語項構造と呼ばれる構文情報を利用医学?生物学分野の論文からタンパク質の相互作用情報を抽出On Demand Information Extraction [関根ら 06]テキスト中に頻出する係り受け構造を抽出そこに含まれる固有表現を表にして出力構造化されていないテキストデータから、構造化された表形式のデータを作成提案手法トラブルシュート文書の構文的特徴を用いた文書スコアリングトラブルシュート文の構文情報における特徴的な構造を抽出取り出された特徴構造の各々をスコア付け評価対象文書中に出現した特徴構造に基づき文書のトラブルシュートらしさを評価構文情報 : 述語項構造“The book written by the author is funny.”文中の単語の意味的なつながりを表す情報意味上の主述関係?修飾関係などが得られるトラブルシュート文の構造例“I am having problem connecting to the Internet.”実際のトラブルシュート文書から得られた例“I am having problem”が共通連続する単語列はbe have 以外は一致しない構文解析を行い両者のグラフの一致を調べることで、上記の共通する表現の存在が機械的に確認できるこの特徴は、“Internet” や “sound card”よりもトラブルシュートらしさとして適切“I am having problem connecting to the Internet.”“I’ve been having weird problem with my sound card”.“I’ve been having weird problem with my sound card”.特徴構造の取り出しトラブルシュート文書単語をノードとしたグラフ構造構文解析多数のトラブルシュート文を収集それらの文書の構文解析により、構文に基づく単語のグラフ構造を取得特徴構造の取り出し一定回数以上出現する部分グラフ多くのグラフに共通する部分グラフを抽出大量のグラフ構造データからの頻出部分抽出gSpanアルゴリズム多数のグラフ構造データから一定回数以上出現する部分グラフを数え上げる特徴構造と文書のスコア特徴構造のスコア構造を単位とした TF-IDF によって定めるTFはgSpanの出力から得られているIDF の算出には、トラブルシュートに限らないクロールによる文書を利用評価対象文書のスコア文書中の文を構文解析、上述の頻出構造とマッチングマッチした頻出構造のスコアの和を文書のスコアとする実験ある検索語について Google による検索結果を50件取得各文書は人手でトラブルシュートか否か判定提案手法によって文書をスコアリングし、それによってソートトラブルシュート文書の順位を MAP (Mean Average Precision)で評価実験設定サンプルとしたトラブルシュート文Open Source and Linux Forums各トピックの先頭の発言のうち、タイトルに含まれる語の割合が最も高い一文を取り出し 43975文これらの中に100回以上出現する部分構造を抽出IDFの算出に用いる文書無作為なクローリングによって収集されたWeb上のドキュメント 20964件実験設定検索語研究室内でのトラブルシュート事例“Linux sound”、“nic intel”、“python connection”、“vmware hp”、“vt vmware 64”、“iptables pac