mt-search.cgi が悪いのか?robot が悪いのか?

この間、チラっと書いたけど、このブログを動かしているサーバが時々落ちる。いや、正確には落ちはしないんだけど、SWAP 領域を食いつぶして OOM Killer がプロセス殺しまくるが追っつかず、完全に固まった状態になってしまう・・・

しばらくしたら自然に復旧することもあるし、数時間そのまんまのこともあるし、発生する頻度もまちまち。
今、ログで調べてみたら、

3/4
3/13
3/14
3/19
3/23
3/24
3/25
4/3
4/5

こんな感じで発生している。

この状況になったらメールが飛んでくるんだけど、自社のテスト用サーバだから面倒臭いときはそのまま放置なんだよね(笑)
でも、4/3、4/5 と連続で「再起動しないといけないほどの状況」になったので真面目に対応することにした。

/var/log/messages を見ると、OOM Killer が殺してるプロセスがほとんど httpd か mt-search.cgi だし、access_log 見ると、固まる前には大量のロボット型検索エンジンからの mt-search.cgi へのアクセスが発生している。
どうも原因は mt-search.cgi への大量アクセスによる過負荷のようだ。

ほとんどが、Bing か NHN だ。
Bing と言えば MSN の検索サイト。まったく、Microsoft は何してくれてんねん!!
あと、NHN。お前は韓国の会社やろ?他国のサーバに迷惑かけてんじゃねえよ、実際。

つーことで、

User-Agent: *
Disallow: /mt/mt-search.cgi

という内容の robots.txt を置いた。

まあ、robots.txt というのは紳士協定で、守らなきゃ守らないでもいいんだけど、いくらなんでも Microsoft も NHN も大手企業なんだから守るやろう(笑)

ということで、これでしばらく様子を見ることにしよう。

トラックバック(0)

このブログ記事を参照しているブログ一覧: mt-search.cgi が悪いのか?robot が悪いのか?

このブログ記事に対するトラックバックURL: https://blog.netandfield.com/mt/mt-tb.cgi/2426

コメント(1)

今のところ、時々 out of memory が発生してはいるけど、瞬間的なもので、継続的に発生してマシンが固まってしまうということは起きてない。
監視プログラムからのメールもないので、取り敢えず検索ロボットに mt-search.cgi へのアクセスを禁止したのは効いてるみたいだな。

コメントする

このブログ記事について

このページは、shinodaが2013年4月 6日 17:18に書いたブログ記事です。

ひとつ前のブログ記事は「今日の晩飯は「くにまつ」の汁なし担々麺。但し自分で作るやつ」です。

次のブログ記事は「久しぶりのGOGOやまぐち弁当を肴に独り花見・・・」です。

最近のコンテンツはインデックスページで見られます。過去に書かれたものはアーカイブのページで見られます。


月別 アーカイブ

電気ウナギ的○○ mobile ver.

携帯版「電気ウナギ的○○」はこちら