Japan: Newsgraphy and HatenarMaps · Global Voices
Chris Salzberg

With ever-increasing amount of news information making its way onto the Internet every day, the question of how to parse and interpret this information is becoming more and more critical. Services such as Newsmap tackle this problem by visualizing data from news flows in a 2-dimensional space in an attempt to reveal patterns in news reporting.
Japanese blogger and engineer id:kaiseh [ja] has taken a somewhat different approach with their visualization tool HatenarMaps [ja], which made a splash [ja] in June of this year, and more recently with Newsgraphy, launched on September 25th. Both tools use Voronoi Treemaps to display data in a 2-dimensional space, HatenarMaps taking its information from Japan's popular blogging platform Hatena Diary [ja], Newsgraphy drawing in news feeds from Yahoo! News [ja]. id:kaiseh has also developed a popular [ja] visualization service for tracking the top bloggers on Hatena Diary through number of bookmarks and RSS readership, referred to as TopHatenar [ja].
In a post from June 9th, id:kaiseh explains how HatenarMaps works:
このサービスを簡単に説明すると、はてなダイアリーのユーザに、獲得ブクマ数に応じた領土面積を割り当て、さらに似た者同士の領土を隣接させるという試みです。
地図の全体を見渡すことで、はてダの大まかなトレンドを掴むこともできるし、スケールを拡大していけば個別記事に到達することもできます。さらに、 Google Mapsで検索するような感覚ではてなidやキーワードを入力して地図を探索したり、「去年と今年で勢力図がどう変わったか」を調べることもできます。
To get a good idea of how HatenarMaps works, have a look at the fantastic video below demonstrating the visualization algorithm. The video cannot be embedded directly, please see pages at Hatena (no registration) or NicoNico Douga (requires registration, English instructions for which can be found here) to watch it.:
HatenarMaps is developed with Java, and uses the following method to minimize the group of all Hatena users to a manageable size:
まず、以下のルールに基づいて、はてなダイアラーの「上位1000人」を抽出します。
1. 被ブクマ数総計の多いユーザから順に抽出。
2. ただし、RSS購読者数が上位2000位以内にランクしていないユーザは除外。
(The blogger notes that the above steps use the database from TopHatenar.)
Next, vectors are calculated for each of these users:
次に、この1000人についてそれぞれ、被ブクマ数の多い日記エントリのベスト5までを対象に、はてブに付与されたタグの頻度を合計し、タームベクトルを構成します。ただし、タグは全部で数万個あるので、使用頻度の低いタグを切り捨てて、ベクトルの次元数を300まで減らします。
And finally, groups are created through clustering:
各ユーザに対してベクトルが定まったら、そのベクトルを基に、K-means法という手法による非階層的クラスタリングを実行して、1000人のユーザを100個のクラスタに分割します。この結果、はてブタグの類似性が強い（≒日記のテーマが似ている）ユーザ同士がグループを形成します。
このときついでに、グループに名前を付けます。グループに属する全ユーザのタームベクトルを合計し、一番強い成分のタグをグループ名とします。
For further details about how HatenarMaps works, please see the original post in Japanese.
Newsgraphy is a service with a similar concept to that of HatenarMaps. In a September 25th post, id:kaiseh explains:
6月に公開して大きな反響をいただいたHatenarMapsの可視化手法を、Yahoo!のトピックスAPIから取得したニュース記事に適用して、いろいろと機能強化を施したものがNewsgraphyです。Mashup Award 4thにも応募しています。
追記（2008/9/26）: 「HatenarMapsの可視化手法を適用」と書きましたが、これは二次元平面へのマッピング手法（Voronoi Treemap）のことで、クラスタリング手法は含んでいません。Newsgraphyは、Yahoo!で分類済みのニュースカテゴリ階層を使用しています。
The blogger then contrasts Newsgraphy with newsmap:
ニュースの可視化と言えばnewsmapが有名ですが、newsmapよりも面白くて実用性の高いサイトを目指して開発しました。
and with HatenarMaps:
HatenarMapsでは各々の領土が角ばっていて、地図というにはやや無機的な感じがしていたので、地形をフラクタル化してみました。かなり自然物に近い見た目になったと思います。
In Newsgraphy, it is possible to narrow the range of visualization through use of a calendar:
カレンダーで日付の範囲を指定すると、その期間内に報道されたニュースの領土がハイライトされます。この機能を使えば、世間で注目されているトピックが時系列的に推移する様子を観察できます。
id:kaiseh notes later that it is possible to highlight regions by searching for keywords. The default mode colors regions differently according to the category of news, with a 3-color classification scheme used to enable users to survey news from various perspectives.
There is another visualization mode for person/place/organization, which functions as follows:
ニュースの見出しを形態素解析した結果から
* 特定の人物に関わるニュース
* 特定の（地理的な）場所に関わるニュース
* 特定の企業や組織に関わるニュース
を判別し、それぞれアイコンで表示します。緑が人、青が場所、赤が組織のアイコンです。
Finally, news can also be categorized by coloring it according to how recent it is. In this method:
最近のニュースほど緑豊かな領土になり、古いニュースほど土気が多い領土になります。
The blogger finishes the post with a look to the future of Newsgraphy:
クローリングは今月9日から開始しているので、まだ情報が若いですが、今後半年、1年とデータが溜って地図が成長すれば、かなり面白いニュース傾向分析ができるようになると思います。