Skip to content

Instantly share code, notes, and snippets.

@hdemon
Created August 18, 2011 02:22
Show Gist options
  • Save hdemon/1153151 to your computer and use it in GitHub Desktop.
Save hdemon/1153151 to your computer and use it in GitHub Desktop.
ゆっくり動画クローラ v0.1のログ例
# 初期化とログイン
Mechanize initialized.
connect to https://secure.nicovideo.jp/secure/login_form
Logged in Niconico.
#検索画面のスクレイピング
connect to http://www.nicovideo.jp/search/%E3%82%86%E3%81%A3%E3%81%8F%E3%82%8A%E5%AE%9F%E6%B3%81?page=1&sort=f&order=d
connect to http://www.nicovideo.jp/search/%E3%82%86%E3%81%A3%E3%81%8F%E3%82%8A%E5%AE%9F%E6%B3%81?page=2&sort=f&order=d
connect to http://www.nicovideo.jp/search/%E3%82%86%E3%81%A3%E3%81%8F%E3%82%8A%E5%AE%9F%E6%B3%81?page=3&sort=f&order=d
...
# 検索結果6ページの28番目の動画を取得する、という意味。なぜここから始まるかというと、
# 前々日0:00~前日0:00の動画を抽出する設定にしており、この動画が23:46分投稿で、
# 前日の最新投稿動画であるため。
6-28: sm15329120 【minecraft】The Aether Mod まったり過ごす part5 【ゆっくり実況】
6-29: sm15328764 【sims3】 ゆっくり警備員 「招かれざる客」
6-30: sm15328948 スタクラⅡ キャンペーンモード MISSION16おまけ『ゴーストの公算』
6-31: sm15328929 みんゴル4 その13【ゆっくり実況】
7-0: sm15328901 東方蒼神縁起-残暑-をゆっくりさんに初見(ry。Part6
7-1: sm15328961 【ゆっくり実況】ZWEIⅡを制覇してみる FINAL
...
11-3: sm15319080 ゆっくりの冒険~バイオハザード2~Part12
# 先頭の6-28から検査開始
connect to http://www.nicovideo.jp/watch/sm15329120
Extracting mylist-id in sm15329120
# 動画説明文から、マイリスID:26552723を取得。
26552723 is extracted.
connect to http://www.nicovideo.jp/mylist/26552723
matching...
# sm15329120と、26552723内の動画とのタイトル比較を行う。
【minecraft】The Aether Mod まったり過ごす part5 【ゆっくり実況】
# タイトルは一致しない。レーベンシュタイン距離が1。つまり1文字違い。
【minecraft】The Aether Mod まったり過ごす part1 【ゆっくり実況】 [unmatched] lvd:1
【minecraft】The Aether Mod まったり過ごす part2 【ゆっくり実況】 [unmatched] lvd:1
【minecraft】The Aether Mod まったり過ごす part3 【ゆっくり実況】 [unmatched] lvd:1
【minecraft】The Aether Mod まったり過ごす part4 【ゆっくり実況】 [unmatched] lvd:1
# タイトル一致。自分自身が含まれていることを確認。
【minecraft】The Aether Mod まったり過ごす part5 【ゆっくり実況】 [matched] lvd:0
# 全体の類似性は約0.98
Similarity: 0.9833333333333333
# そこで、このマイリストはシリーズものと判定。
26552723/Minecraft The Aether mod まったり過ごす ゆっくり実況 is series.
...
connect to http://www.nicovideo.jp/watch/sm15328243
Extracting mylist-id in sm15328243
21098185 is extracted.
connect to http://www.nicovideo.jp/mylist/21098185
matching...
【JustCause2】ゆっくりといっしょに山登り③
【JustCause2】でっかい島でゆっくりしよう 一歩目【ゆっくり実況】 [unmatched] lvd:11
【JustCause2】でっかい島でゆっくりしよう 二歩目【ゆっくり実況】 [unmatched] lvd:11
【JustCause2】でっかい島でゆっくりしよう 三歩目【ゆっくり実況】 [unmatched] lvd:11
【JustCause2】でっかい島でゆっくりしよう 四歩目【ゆっくり実況】 [unmatched] lvd:11
【JustCause2】でっかい島でゆっくりしよう 六歩目【ゆっくり実況】 [unmatched] lvd:11
【JustCause2】ゆっくりといっしょに観光【パナウ市・金融街①】 [unmatched] lvd:13
【JustCause2】ゆっくりといっしょに観光【パナウ市・金融街②】 [unmatched] lvd:13
【JustCause2】ゆっくりといっしょに観光【パナウ市・公園街①】 [unmatched] lvd:13
【JustCause2】ゆっくりといっしょに観光【パナウ市・公園街②】 [unmatched] lvd:13
【JustCause2】ゆっくりといっしょに観光【パナウ市・港湾街①】 [unmatched] lvd:13
【JustCause2】ゆっくりといっしょに観光【パナウ市・港湾街②】 [unmatched] lvd:13
【JustCause2】ゆっくりといっしょに観光【パナウ市・居住区①】 [unmatched] lvd:13
【JustCause2】ゆっくりといっしょに観光【パナウ市観光最終日】 [unmatched] lvd:13
【JustCause2】ゆっくりといっしょに家探し【スリーキングスホテル】 [unmatched] lvd:15
【JustCause2】ゆっくりといっしょに車ゲー【乗り物紹介:速い車編】 [unmatched] lvd:14
【JustCause2】ゆっくりといっしょに旅行【グヌンホテルスキーリゾート①】 [unmatched] lvd:18
【JustCause2】ゆっくりといっしょに旅行【グヌンホテルスキーリゾート②】 [unmatched] lvd:18
【JustCause2】ゆっくりといっしょに旅行【グヌンホテルスキーリゾート③】 [unmatched] lvd:17
【JustCause2】ゆっくりといっしょに旅行【マイルハイクラブ】 [unmatched] lvd:12
【JustCause2】ゆっくりといっしょに川登り① [unmatched] lvd:2
【JustCause2】ゆっくりといっしょに川登り② [unmatched] lvd:2
【JustCause2】ゆっくりといっしょに観光(?)【サワ・リバー観光】 [unmatched] lvd:15
【JustCause2】ゆっくりといっしょに空の旅【次回企画の説明会】 [unmatched] lvd:13
【JustCause2】ゆっくりといっしょに逃走【HEATで駆け抜けろパナウ!①】 [unmatched] lvd:19
【JustCause2】ゆっくりといっしょに逃走【HEATで駆け抜けろパナウ!②】 [unmatched] lvd:19
【JustCause2】ゆっくりといっしょに逃走【HEATで駆け抜けろパナウ!③】 [unmatched] lvd:18
【JustCause2】ゆっくりといっしょに逃走【HEATで駆け抜けろパナウ!④】 [unmatched] lvd:19
【JustCause2】ゆっくりといっしょに逃走【HEATで駆け抜けろパナウ!⑤】 [unmatched] lvd:19
【JustCause2】ゆっくりといっしょに山登り① [unmatched] lvd:1
【JustCause2】ゆっくりといっしょに山登り② [unmatched] lvd:1
【JustCause2】ゆっくりといっしょに山登り③ [matched] lvd:0
# 副題が多種多様で、判定がギリギリな場合の一例。
Similarity: 0.5272952853598014
21098185/【JustCause2】大きな島でゆっくりしよう【ゆっくり実況】 is series.
# この動画の説明分には、もう一つマイリスが含まれているらしい。
25220598 is extracted.
connect to http://www.nicovideo.jp/mylist/25220598
matching...
【JustCause2】ゆっくりといっしょに山登り③
【DeadRising2】ゆっくりといっしょにお買いもの 一日目 [unmatched] lvd:11
【DeadRising2】ゆっくりといっしょにお買いもの 二日目 [unmatched] lvd:11
Similarity: 0.5769230769230769
# 類似性は0.5を超すが、自分自身が含まれていないので、シリーズではないと認定。
# もっとも、この2つは個別にシリーズ性検査を受けているはずであり、その場合はシリーズと認定される条件を満たしている。
25220598/DeadRising2 ゆっくりといっしょにお買いもの is not series.
...
# 本来シリーズと判定されるべきだが、
connect to http://www.nicovideo.jp/watch/sm15327515
Extracting mylist-id in sm15327515
25227333 is extracted.
connect to http://www.nicovideo.jp/mylist/25227333
matching...
# 自分自身を含んでいないので、
【ゆっくり実況】 14代目ゆっくりが超力兵団と戦ってみる part9
【ゆっくり実況】 14代目ゆっくりが超力兵団と戦ってみる part1 [unmatched] lvd:1
【ゆっくり実況】 14代目ゆっくりが超力兵団と戦ってみる part2 [unmatched] lvd:1
【ゆっくり実況】 14代目ゆっくりが超力兵団と戦ってみる part3 [unmatched] lvd:1
【ゆっくり実況】 14代目ゆっくりが超力兵団と戦ってみる part4 [unmatched] lvd:1
【ゆっくり実況】 14代目ゆっくりが超力兵団と戦ってみる part5 [unmatched] lvd:1
【ゆっくり実況】 14代目ゆっくりが超力兵団と戦ってみる part6 [unmatched] lvd:1
【ゆっくり実況】 14代目ゆっくりが超力兵団と戦ってみる part7 [unmatched] lvd:1
【ゆっくり実況】 14代目ゆっくりが超力兵団と戦ってみる part8 [unmatched] lvd:1
Similarity: 0.9705882352941176
# シリーズではないとされてしまう。
25227333/14代目ゆっくり is not series.
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment