hirax.net::Keywords::「類似度」のブログ



2001-02-19[n年前へ]

ひとりで書いてるだけだから。 

ヘッポコ文章を直したい


   面白い情報を探しにと「お笑いパソコン日誌」を眺めていると、「ウエヤマの事件簿」の「他人の日記をオモチャにしよう!」が紹介されていた。「お笑いパソコン日誌」に〜『できるかな?』風ネタであります〜と紹介されてあった通り、実に私好みの話だった。ウエヤマ氏が「自分で書いてる日記の文章」を解析して、文字の出現頻度を調べてみたものである。

 「できるかな?」は画像や科学の関連の話が多いように見える。しかし、実はそれだけではなくて文章や日記に関する話も多い。例えば、これまでに出てきた話を振り返ってみると、

に始まり、と続く、「文学の世界を眺めてみよう」という話など、あるいは「WEBページで見かける文体の特徴を解析しよう」としたなど、あるいは「WEB日記の文化を眺めて見たい」というなどの話があった。「技術サイト」という分類をされることも多い本サイトではあるのだけど、非技術的な話に強引に技術的な話を持ち込みたくなったり、技術的な話なのに何故かとても私的で非技術的な話が入ってしまったりするのが、良くも悪くも「できるかな?」の特徴だろう。もちろん、良いことでは全然無いのだけれど、こうでも書かないと悲しい気分になってしまうので、「良くも悪くも」と書いているのである。

 そういったhirax.netの特長ならぬ特徴は私が書く文章が下手なせいなわけで、そんなヘッポコ文章から脱出するべく、私の書く文章の特徴を調べて反省してみることにした。もちろん、自分のヘッポコ文章だけを眺めてみてもしょうがない。他の素晴らしい文章を書く書き手と比較しなければならないだろう。そこで、今回はいくつかの文章を品詞解析し、その結果の特徴を調べることにする。そして、書き手による文章の特徴が眺めながら、私のヘッポコ文章の欠点を調べ、さらには誰もが思わず涙がこぼしてしまうような素晴らしい文章を書けるようになりたい、と思うのである。
 

 さて、まずは目標を決めよう。私がヘッポコ文章を脱出してどんな文章を目指すかを、何より先に決めなくてはならない。となれば、あまりにも大それた目標ではあるのだが、やはり日本の文豪、夏目漱石は外せないだろう。そして、その教え子でもある寺田寅彦もやはり外すわけにはいかない。一応私も理系のはしくれ、日本の理系文章の流れを作ったこの二人を目標にしなくてなんとしよう。ヘッポコ文章を脱出していきなり、夏目漱石と寺田寅彦というところに無理があるが、そんなことを考えていては駄目なのである。「少年よ大志を抱け」とクラーク博士も言ったのである。もう少年と言うにはどう考えても年齢的に無理があるのだが、気持ちはまだまだ少年で目標は大きく持ってみたいと思うのである。

 そして、もう一人の目標は「ちゃろん日記(仮)」をマイペースに書き続ける「ななゑ」さんである。私は彼女の書く文章を読むたびにとても素晴らしい理系的センスが感じ続けているのである。しかも、理系的でありつつも笑いと涙のペーソスたっぷりの「ちゃろん文体」という独自の確固とした文体を築いているところも尊敬していたりするのである。

 というわけで、今回の文章の比較は

  1. 夏目漱石
  2. 寺田寅彦
  3. ちゃろん日記(仮) ななゑ
  4. 「できるかな?」 jun hirabayashi
の四人の書き手の文章を適当に二つずつピックアップして、その文章を品詞解析して簡単に特徴を眺めてみることにした。各書き手に対して、それぞれピックアップした文章はである。なお、夏目漱石と寺田寅彦は「青空文庫」から入手した。そして、これらの文章を日本語形態素解析システム茶筌&perlで解析後、Excelでさらに解析・表示を行ってみることにしよう。

 ところで、形態素解析とはどのようなものだろうか。まずは、例を挙げよう。例えば、

私が好きな書き手達は、夏目漱石、寺田寅彦、ななゑさんです。
という文章を茶筌で分解すると、
  1. 私 名詞-代名詞-一般
  2. が 助詞-格助詞-一般
  3. 好き 名詞-形容動詞語幹
  4. な 助動詞
  5. 書き手 名詞-一般
  6. 達 名詞-接尾-一般
  7. は 助詞-係助詞
  8. 、 記号-読点
  9. 夏目 名詞-固有名詞-人名-姓
  10. 漱石 名詞-固有名詞-人名-名
  11. 、 記号-読点
  12. 寺田 名詞-固有名詞-人名-姓
  13. 寅彦 名詞-固有名詞-人名-名
  14. 、 記号-読点
  15. ななゑ 名詞-固有名詞-人名-名
  16. さん 名詞-接尾-人名
  17. です 助動詞
  18. 。 記号-句点
というようになる。このように各文章を品詞毎に分解して、その出現分布から特徴を調べてみるのである。なお、今回注目した品詞は
  1. 読点
  2. 形容詞
  3. フィラー
  4. 感動詞
の四つである。この四つを選んだ理由は、読点は明確な決まりがないだけに書き手の感覚が入りやすいと思われ、形容詞、フィラー・感動詞に関しては書き手の気持ちが素直に現れやすいと思われるからである。ちなみに、フィラーとはから引用すれば、「あのー」「えー」といった語句ということになる。まずは各文章が書き手によってどのくらい特徴づけられるかのイメージを掴むために、形容詞の出現頻度とフィラーの出現頻度を軸にとり、各文章を二次元の世界に配置してみた結果を図示してみよう。
 
形容詞の出現頻度とフィラーの出現頻度を軸にとって、
各文章を二次元の世界に配置した結果

 結構、同じ書き手による文章が同じような位置に配置されることがわかると思う。ちゃろん日記(仮)などは、二つの独立した文章がほとんど同じ位置に配置されている。もう、ちゃろん文体は安定しまくっていて完成されているのである。そしてまた、「文豪」夏目漱石の場合も、「我が輩は猫である」と「坊っちゃん」がかなり近い位置に配置されていることがわかる。

 なるほど、結構書き手による特徴はこんないかにも雑な解析でも評価できるものなのかもしれない(あくまで「遊び」だけどね)。そして、形容詞の出現頻度などは、「雪だるまがいる景色」と「自然と生物」以外は大体同じようなものである。寺田寅彦の「自然と生物」は妙に形容詞の出現頻度が高いところが面白いところである。私の「雪だるまがいる景色」はあまり技術的な話ではなくて、確かに形容詞が多そうな話ではあるのだが、一体「自然と生物」はどうだっただろうか?

 ちなみに、「できるかな?」からの二つの文章は共にフィラーが一個も出てこない。その他の6つの文章にはフィラーが出てくるのであるが、何故か「できるかな?」の二つの文章にはフィラーが含まれていないのである。この差がなければ、寺田寅彦の二編と「できるかな?」はかなり似た場所に位置するのであるが、このフィラーは特に違うのである。

 さて、上の図ではフィラーと形容詞の出現頻度だけを眺めてみたが、読点、感動詞の出現頻度も加えて、クラスター分析を行ってみた。つまり、「読点・形容詞・フィラー・感動詞」の出現分布が似ているものを分類してみたわけである。クラスター分析にはExcelアドイン工房「早狩」の統計解析アドインを使用させて頂いた。ちなみに、クラスターの結合はウォード法を用い、非類似度計算法には標準化ユークリッド平方距離を使用した。その結果が下の図である。
 

クラスター分析の結果

 このクラスター分析の結果を示す図は近い文章をまとめていったものを示している。つまり、文章の「近さ」あるいは「似ている度」を示しているのである。ちゃろん日記(仮)の二編は本当によく似ていて、また夏目漱石の書いた二編も互いに似ている。そして、それより「近い度」は低いが「新宿駅は電気羊の夢を見るか?」は「科学について」に近くて、「雪だるまがいる景色」は「自然と生物」に近い。おして、さらに似ているものを探せば、ちゃろんの二編と「新宿駅は電気羊の夢を見るか?」・「科学について」は似ているといえなくもない、さらに言えばその四編と夏目漱石の二編が似ている。

 ここでは、四人の書き手がいるということが私には判っているので、あえて四つのクラスターに分解してみると、

1.
    • 「雪だるま」がいる景色
    • 自然と生物
    2.
    • 新宿駅は電気羊の夢を見るか?
    • 科学について
    3.
    • ちゃろん日記1998(仮)11月上旬
    • ちゃろん日記1999(仮)6月上旬
    4.
    • 我が輩は猫である
    • 坊ちゃん
という風になる。やはり夏目漱石とちゃろん日記に関してはこんなチープなごく少数の品詞解析でも、「作者の文体が同じである」と解析されてしまうのである。なかなか、スゴイとは思わないだろうか?数多くの解析をしてみるのもなかなか面白いと思う。高校生のレポートくらいだったら、これで何とか書けそうである。

 しかし、その一方で考えてみれば寺田寅彦の名随筆と「できるかな?」のヘッポコ文章が「文体が近い」と解析されてしまっているわけなので、実はこの解析の信頼性はかなり低いと言わざるを得ないところもあるのである。いや、もしかしたら「文体は同じやけど、内容が全然違いますがな」というような冷たいアドバイスを解析結果は言わんとしているのかもしれないが、もうそれは哀しすぎる事実なので考えたくないのである。

 さて、そう言えば一番最初の図で「できるかな?」と寺田寅彦の差はフィラーの出現分布だったわけであるが、「大学の講義における文科系の日本語と理科系の日本語-- 「フィラー」に注目して --」では、「聞き手への働きかけのあるフィラーが多いということは聞き手への配慮が大きいということにつながる」と書いてあった。ということは、フィラーの出現分布は聞き手への配慮に比例するというわけで、「できるかな?」の文章にフィラーが出てこない、ということは読み手に対する配慮がない、なんてことなのかなと思ってしまったりするのである。

 そんなことを考え出すと、ホラどうせひとりで書いてるだけだから読み手のことなんか考えていないのさと、思わず涙がこぼれてしまうような哀しい気持ち、になったのである。う〜む、最初は誰もが思わず涙がこぼしてしまうような素晴らしい文章を書けるようになりたいと思ったったのに、何でこんな結論になるんだろう?

 答え: それは文才がないからです。ハイ。
 
 

2003-10-28[n年前へ]

政党間類似度や政党のイメージ二次元配置図 

 選挙が近づく今日この頃

「民主」と「自由」は近い位置、「公明」と「自民」、「民主」と「自由」がそれぞれまとまり、次いで「社民」、これらから遠くはなれて「共産」。 「公明」がプラス方向に、マイナス方向には「民主」・「自由」がくる。全般的に「自民党 v.s. 他の1政党」という識別の基準がうかがわれる
などとても面白い政党認知に関する調査

2004-01-20[n年前へ]

「地図にない場所」 

 「男の隠れ家」という雑誌に少しハマっていたのは何年も前。その頃は、山奥や海が見える山中にある「男の隠れ家」を扱う雑誌がずいぶんと多かった。今では、そんな雑誌の扱う話もずいぶんと小さくなって、「男の小さな玩具」程度の雑誌が増えてしまった。それも、現実の経済事情を考えれば、まぁ仕方のない話だ。

1 山奥にある「男の隠れ家」ではないけれど、ガイドブックにも載っていない、地図にすら載っていないような隠し湯に憧れたりする気持ちを持つ人は多いと思う。つげ義春が歩くような辺鄙な温泉宿や、あるいは誰もいない山の中でぼぉっとしてみたいなんて思う人は多いハズだ。「地図にもない場所」だなんて、その響きだけで気になってしまう人だっていると思う。


 「はてなアンテナ」というサービスを知ったのは一年少し前だったろうか。『「おとなりアンテナ」という機能があって、不思議なくらい自分の好みに合ったサイトを教えてくれるんですよ』と、ある人に教えてもらったのだった。そして、実際に使ってみると、サイトの好みの類似度から「好みに-近い-サイト」を計算するその「おとなりアンテナ」はとても面白く感じた。だから、しばらくして「はてなダイアリ」が始まった時、ベータテスターに応募してみることにした。「はてなダイアリ」を使い始めると、日記内のリンク(キーワードリンク)の類似度から、その日記に「近い」と想定される「おとなり日記」を算出してみたりする機能が付いてみたりして、その「近い」「遠い」を算出する手法と趣向には感嘆したのである。そのサイトの間の「距離」にこだわるやり方をとても面白く好ましく思ったのだった。そして、その頃にはてなの作成者が研究室の後輩であることを知った。

 なるほど、測地学研究室という名前で、種々の測定手法で色々な箇所の位置を求め、種々の座標系の中にそれらの箇所を書き記したりするという研究室を選んだり、あるいはその中で時間をいくばくかの時間を費やしたのでであれば、「近い」「遠い」にこだわってみたり、「おとなりMap」を描いてみたりするのはとても自然に違いない。三角測量やGPS衛星を使って、色んな場所の位置や距離を求め、そしてそれぞれに適した座標系のもとで地図をつくる、という研究室にいたならば、「距離」を測って地図を描きたいと思うのが自然に違いない。GPS衛星ならぬネットワークロボットを使って、ネット上を測量し、色んな距離を測ってみたいと思うのだろう。そして、彼(彼ら)のあの伊能忠敬のような行動力であれば、これからも色んな地図を作り出して行くに違いない。

2 そんな、「色んな場所の地図を描きたい」という欲求は私にももちろんとても強くある。ひっそりと隠れている何かを誰の目に見えるようにしたい、という気持ちが強くある。そして、そんな欲求がある一方で、それと同時に「地図にはない場所」や「誰も知らない場所」に憧れる気持ちもやはりある。誰もいない「地図にない場所」に行ってみたいという気持ちも強い。色んな場所の地図を描いてしまえば、「地図にない場所」は減ってしまうだろうし、そこにはたくさんの人も訪れてしまうかもしれない。実際、私にはてなを教えてくれた人は、しばらく前にその人の「はてなダイアリ」を閉じてしまった。「ひっそりと隠れているつもりの日記」は消えてしまった。

 まぁ、よくある言い古されたジレンマの話なのだけれど、ふと「地図にない場所」を好きな人こそ「地図を作ろう」としてしまうんじゃなかろうか、と思ったのである。そして、「地図にない場所」をなくしてしまったりするんじゃなかろうか、とふと思ったりしたのだった。

2004-06-26[n年前へ]

画像データを対象とした特徴量類似度計量系によるメタデータ自動生成 

画像データを対象とした特徴量類似度計量系によるメタデータ自動生成方式の実現

2005-08-29[n年前へ]

「はてなアンテナの…」 

 「はてなアンテナのおとなりページの類似度を計算式を変えて算出してみた



■Powered by yagm.net