2018-09-03TwitterFacebookはてブLINEPhantomJSを元々使っていたものの、waitがかけにくいとか、微妙によくわからない動作をすることがあったりと、不満点が色々あったので、CasperJSに乗り換えました。乗り換えたと言っても、CasperJSで利用するヘッドレスブラウザにPhantomJSを選択したので、実際には「PhantomJSを拡張するCasperJSを利用することにした」と言った感じです。今回は、いくつかのサイトに対するスクレイピング(HTML情報の取得)と、特定サイトにログインしてからの操作(例えば、CMSにログインして記事を投稿するなど)を試してみましたが、CasperJSの知識というよりも、Javascriptの制約とか、サイト毎に異なる仕様の部分で引っかかることが多かった印象です。いうことで、色々試した結果得られた「とりあえず動かす方法」と「いくつかの注意点」をお伝えしていきます。CasperJS、PhantomJSのインストールCasperJSの公式サイトを見ると、「npmで簡単インストール!」な雰囲気になっていますが、今回私が受けた要件は「CentOSのroot権限が使えないサーバでやってくれ」ということだったので(sudoも使えない)、npmは使えません。仕方ないので、CasperJSの公式サイトから直接ファイルをダウンロード。適当な場所に置いて、.bash_profile(.bashrc)でbinをPATHに追加。PhantomJSもダウンロードページからファイルをダウンロード。適当な場所に置いて、.bash_profile(.bashrc)でbinをPATHに追加。出来るのであれば、/usr/binに追加したり、/usr/binからシンボリックリンク貼って、/lib/node_modulesに追加したりしても構いません。--versionを叩いて、バージョンが返ってくれば問題なし。phantomjs?」エラーが返ってきますが、この手順でPATH指定エラーが返ってくるのであれば、PATHが正しく設定されていないということなので、PhantomJSもCasperJSと同じく、PATHを設定してあげてください。CasperJS実行ファイルの作成とりあえず、適当なサイトにアクセスして5秒待ってからキャプチャー取るだけのプログラム。書き方は色々ありますが、初心者でもわかりやすいんじゃないかと思われる書き方にしてます。かっこよく書きたい人はそれぞれ好きに変えてください。{casper.wait(5000);this.capture("capture.png");});casper.run();sample.jsというファイル名で作ったので、これをCasperJSインストール済のサーバに配置。sample.jsで実行。実行すると、capture.pngが生成される。CasperJSでスクレイピングサンプルと大差ありませんが、evaluateを使う必要が出てきます。scraping.jsYahooトップページのニュース1件目を取ってみました。官僚の法令無視写真”」なるほど...。写真アイコンの文字まで取って来てしまった模様。お試しで出力してみましたが、本気でスクレイピングをするのであればファイルに保存などすれば良いでしょう。ファイルの保存方法はCasperJSと全然関係ないので書きませんが、「require(‘fs’)」とかで調べればすぐわかります。CasperJSでログインここからが本番です。何らかのサイトにログインして、その後、設定を変更したり、記事を投稿したりするための処理を考えてみます。--cookies-file=cookies.txt適当なサイトにログインするための簡単な処理だけ書いてます。ログイン後は適当なaタグをクリックしてますが、セレクタの指定はchromeの機能使うと楽で確実になります。実行する際、ログインする場合はcookie情報が必要なケースがあるので、適当なファイルにcookieを記載して利用します。ログインした後は色々やりたい放題ですが、サイトによってはbot回避のための様々な仕掛けが施されているので、上手く動かないことも多々あります。以下、色々な仕掛けの例。reCAPTCHAがログイン画面にある画像選んだり、汚い文字を頑張って入力したりするやつ。機械学習とか使わない限り、基本的にお手上げです。submit出来ないsubmitボタンが無く、buttonを叩くとjsで処理されるような仕組みになっているやつ。fillを使わず、this.click使うと回避出来たりする。出来なかったりもする。モーダルが出まくって邪魔されるログイン後、色々な個所でモーダルが出てきて邪魔されるやつ。this.captureで丁寧に1処理づつキャプチャー取って、どこで邪魔されてるかを把握してthis.clickとかでモーダルを閉じれば回避できる。ブラウザで普通にアクセスした時には出ないモーダルが出る場合があるが、スクレイピングでセレクタ情報を取得出来れば何とかなる。aタグがtarget=”_blank”だらけ対象タグの属性を変えてしまうか、casper.openを使ってページを直接開くようにする。ランダムでパラメーター付加されるような仕組みだった場合は、前者しか使えない。編集しようと思ったら、入力欄が外部ドメインのiframeで編集できないこれは無理。javascriptの限界。ありますが、こういったことに出くわす場合は「CasperJSとか使ってbot処理するんじゃねえよ」と言われているに等しい状況なので、基本的には辞めておきましょう。何らかの規約に触れるケースもあるので、アカウントの削除くらいは当たり前、場合によっては業務妨害で訴えられる可能性もあります。