電気ウナギ的○○

About Home

mt-search.cgi が悪いのか?robot が悪いのか?

shinoda (2013年4月 6日 17:18)
この間、チラっと書いたけど、このブログを動かしているサーバが時々落ちる。いや、正確には落ちはしないんだけど、SWAP 領域を食いつぶして OOM Killer がプロセス殺しまくるが追っつかず、完全に固まった状態になってしまう・・・

しばらくしたら自然に復旧することもあるし、数時間そのまんまのこともあるし、発生する頻度もまちまち。
今、ログで調べてみたら、

3/4
3/13
3/14
3/19
3/23
3/24
3/25
4/3
4/5

こんな感じで発生している。

この状況になったらメールが飛んでくるんだけど、自社のテスト用サーバだから面倒臭いときはそのまま放置なんだよね(笑)
でも、4/3、4/5 と連続で「再起動しないといけないほどの状況」になったので真面目に対応することにした。

/var/log/messages を見ると、OOM Killer が殺してるプロセスがほとんど httpd か mt-search.cgi だし、access_log 見ると、固まる前には大量のロボット型検索エンジンからの mt-search.cgi へのアクセスが発生している。
どうも原因は mt-search.cgi への大量アクセスによる過負荷のようだ。

ほとんどが、Bing か NHN だ。
Bing と言えば MSN の検索サイト。まったく、Microsoft は何してくれてんねん!!
あと、NHN。お前は韓国の会社やろ?他国のサーバに迷惑かけてんじゃねえよ、実際。

つーことで、

User-Agent: *
Disallow: /mt/mt-search.cgi

という内容の robots.txt を置いた。

まあ、robots.txt というのは紳士協定で、守らなきゃ守らないでもいいんだけど、いくらなんでも Microsoft も NHN も大手企業なんだから守るやろう(笑)

ということで、これでしばらく様子を見ることにしよう。

電気ウナギ的○○

電気ウナギ的○○

About Back

コメント(1)

shinoda |2013年4月10日 20:27

今のところ、時々 out of memory が発生してはいるけど、瞬間的なもので、継続的に発生してマシンが固まってしまうということは起きてない。
監視プログラムからのメールもないので、取り敢えず検索ロボットに mt-search.cgi へのアクセスを禁止したのは効いてるみたいだな。

電気ウナギ的○○

電気ウナギ的○○

About Back

トラックバック(0)

トラックバックURL: https://blog.netandfield.com/mt/mt-tb.cgi/2426

電気ウナギ的○○

About This Site

電気ウナギ的○○
岩国在住。広島で働く超零細IT企業社長のいわゆる社長日記。
何か、酒と食い物のことばかり書いているようで・・・お察しのとおり、肥満体です:-)


2011/06/24
iPhone用サイト公開

Create with jQuery, jQTouch.


CLOSE