« ウィルコムストアが重いのは想定ミスだと思います | メイン | ProxyなしでAmazonをAJAXするにRESTを追加しました。 »
ここがスゴイよlivedoor 技術がわからない人向け易しく説明
TAKESAKO @ Yet another Cybozu Labs: ライブドア次世代テクノロジーセミナー第1弾のレポートを読んでいて、あ、ライブドアすげー
と感じました
しかし、技術者でない人にはわかりにくいかな?と思ったので
易しく解説
これがスゴイ
要約・iSCSIを使って、ストレージを大量に安く提供する技術がある。
・CPU分散環境で、CPUを高速に安く提供する技術がある
・分散監視で、故障に安くて強い技術がある。
アメリカでは常識ですが、日本ではまだ、流行っていないこれらの技術を 使っていることがわかります。これはスゴイと思います。
おそらく、livedoorと他社を比べた場合に同じ性能ならlivedoorの方が 20倍〜30倍は安く上がっていると試算できます。
しかし、これはスゴイ。とくにiSCSIを使っていたのはスゴイと思います。
コストが安い
現在、もっとも問題になっているのは・・・データベースとハードディスクであると言われています。
ここを、いかに安く、速くつくるかがキモなわけです。
以下に述べますが、従来の手法では400万円以上かかる
事を100万円未満でできるようになります。
コスト的には大幅カットです。
しかも以下の試算は低容量で比べていますが、大容量の場合
コストは10倍ほど差が付く場合も有ります。
分散環境を使って安く上げる
ライブドアのレポートみると以下のキーワードが光ります。
☆iSCSIクラスター
iSCSIというのは聞き慣れない人も多いでしょうが、IPを使った、
SCSI技術のことです。
簡単な試算をしましょう
4T(テラ)のストレージを普通に買ったとしましょう。
http://jpstore.dell.com/store/newstore/soho/soho_catalog_217.asp
DELL等のモデルを普通に買うと
470万円程度です。
これをiSCSIクラスターを使うと考えましょう。
iSCSIはlinuxで再現できますので、
4Tを再現するには6台のマシンが必要です。
1台あたり1Tを積んだマシンを5台購入し
1台のマシンをホストにしてRAID5を組むとします。
同じくDELLで購入すると・・・
http://www1.jp.dell.com/content/products/category.aspx/enterprise?c=jp&l=jp&s=soho
16万円x5+ホスト5万円=80万円で達成できます。
@IT:特集:最新IPストレージ技術「iSCSI」 - Part.1
はい、ここで覚えておいて欲しいのは、iSCSIを使って、IPベースのストレージを使う。IPベースなのでlinuxなどで安く上がる。低容量でも数倍安い。大容量では数十倍安い。iSCSIクラスターはスゴイ!!
という事です。
簡単に試算したため、数字はかなり適当ですが、10T 20Tとなるにつれ、1マシンですます構成は1000万 2000万とどんどん高額になるのに対しiSCSI+Linuxクラスターという構成ではLinuxマシンを追加するだけなので、あまり高額にならないということを感じ取っていただければ幸いです。
動作が速い
ちょっとこちらのCPU価格表をご覧下さい。http://www.watch.impress.co.jp/akiba/hotline/20051217/p_cpu.html
Pentium 4 670 (3.80GHz) 70,800
Pentium 4 3E GHz 20,790
Celeron D 325 (2.53GHz) 7,802
CPUの値段というのは不思議な物で、高速なCPUほど単位価格あたりのパフォーマンスが悪くなります。 一番下のCeleron D 325 と Pentium 4 670の価格差は10倍程度ありますが、速度差は数倍でしょう。
以前は、これに共通部品である、マザーボードの値段などが加味され高い方が良いとされていましたが・・・ こちらをご覧下さい・・・
http://jpstore.dell.com/store/newstore/soho/soho_catalog_253.asp
オンライン限定パッケージ 構成例 274,800 円(税込) 選択
http://www1.jp.dell.com/content/products/compare.aspx/tower_servers?c=jp&l=jp&s=soho
SATA構成 メモリ無料アップグレードパッケージ(12/19迄) 構成例 79,980 円(税込) 選択
http://jpstore.dell.com/store/newstore/soho/soho_catalog_311.asp
SATA構成 512MBメモリ標準搭載パッケージ 構成例 32,980 円(税込)
安いマシンでは、他のパーツも安く上げているために、全体的に安く上がります。
対して、高いマシンでは他のパーツも高くなってくるので全体的に高くなります。
昨今では、高いマシンを1台購入するよりも、安いマシンを大量に購入した方が
単位コスト当たりのCPUパワーというのは上がるというのが常識になりつつあります。
ホリエモンがOpteronサーバー1,000台導入
【やじうまPC Watch】ホリエモンがOpteronサーバー1,000台導入
こちらの記事から察することができますが。購入されたのはOpteron 146HE(2GHz)
高額なOpteron 280 (2.4GHz)ではなく、安いOpteron 146HE(2GHz)であることから、livedoorが安いCPUを大量にならべて、分散させる技術を持っていることがわかります。
AMD 64bit CPU
シャーシから独自設計
1Uの1/3 後ろから前から
1ラック60台まで搭載可能 3kVA(すごい!)
といのがありますが・・・。実際にlivedoorとしても、高いマシンは効率が悪い。安いマシンを沢山使ってクラスター化したほうが、コスト当たりの効率がよいという事でしょう。
実際livedoorでは数百台のマシンを並列動作させているみたいです。このノウハウはスゲーと思います。
ここで覚えておいて欲しいのは200万円のマシンを1台かうよりは、4万円のマシンを50台買った方が速いという事です。
特に、高額なマシンは、メモリバスや、HDDバスとよばれるバスが1本しかないのに対し、4万円のマシンでは50本あり、単純に考えると50倍速いという事になります。
実際にそこまで高速にはなりませんが、上記の200万円の例では、同じ金額であるのに対し4万円のマシン50台の方が数十倍ぐらいは速いはずです。(プログラムの種類にもよります)
分散なので、故障に強い!!
200万円のマシン1台と、4万円のマシン50台
壊れにくいのはどっち?
単純に考えれば安いパーツを使っている4万円の方が壊れやすいマシンです。
しかし、サービスという意味では200万円のマシンは1台壊れればサービス停止なのに対して
4万円のマシンは1台こわれても49台残っています。
普通は200万円のマシンは2重化して信頼性を上げますが・・・
2重化するとコストは2倍です。
しかも、電源・・・HDD・・・などなどあらゆる部品を2重化していくと
コストは数倍に・・・
対して、4万円を50台の方は、4万円をたとえば、2割追加しても 60台・・・40万円の追加です。
電源を2重化する費用でもう1台まるまる追加する。
これが安いマシンを大量に買うメリットです。
しかもlivedoorの場合は最も壊れやすいHDDを積んでいない。すべてIPネットワーク上のiSCSI 壊れやすさでいっても、普通のマシンより壊れにくいですね。
それに、1年に1回しか壊れないマシンと、50台のうち1台が毎月壊れるマシン。
はたして、修理の人の腕はどっちが上でしょうね?
安いマシンを大量に買った場合、1台ぐらいこわれても残りが大量にあるから平気 (すぐに予備に切り替わる)。1台の値段も安いから、費用がかからない。 壊れることが前提なので修理人の腕も上がる。
トータルとして、こちらの方が安定することになります。
なぜ、こういう方式が日本で流行らないか
高い方が良いという信仰があるから
でしょうね。それに営業としても、高い物を売った方が利益がでるので、 何も言わなければメーカは高い物を売ってくる。という現状があります。貴方の会社、営業の言うことを鵜呑みにしてませんか?
ソフトウェアが軽視されているから
日本ではソフトウェアが軽視されているのでどうしてもハードでという信仰があります。
しかし、何回コピーしても無料であるソフトに対して
ハードは台数分だけ購入しなければいけないので、
大規模エンタープライズでは、莫大な費用がかかります。
こういった、大規模分散方式は、ハードよりもソフトに頼った方式です。 ソフト力が無い日本ではいままで流行りませんでした。
バブルの影響
金余り日本という影響で、コストというものに目を向けられていいませんでした。そのせいで、数%のコストカットというのは当たり前でもコスト十分の1とかいう ソフトを使った技法は胡散臭い物という見方が主流で、 金をかければ良い物が出来るという間違った信仰がありました。
人件費を削れば人材も悪くなる
外資系がどんどん日本に参入している現在、コスト競争の時代が来ています。 ようやく日本もコスト削減に力を入れていますが・・・ コスト削減と言えば人件費・・・結局、安かろう悪かろうの人が増え、良いソフトが作れず、お金に頼り良いハードを購入する という負の連鎖があるでしょう。
人件費を削っても、人材は変わらないと考えている人が異常に多いですが、 現実問題は・・・良い人材をどんどん外資系にとられているのが実用です。
日本のソフト業界は大丈夫?
livedoorなどの優秀な技術メーカが残れば大丈夫でしょう。ここがダメだよlivedoor
使ってる OS はほとんど (9割方) FreeBSD 4、一部 Turbolinux 8やっぱりmod_perl問題にはまってますね、
・FreeBSD 4.x (5.x は Perl の扱いが…)
・Apache 1.3 (2.0は mod_perl の互換性が…)
・MySQL 4.0 (4.1は日本語の取り扱いが…)
・Perl 5.8 (これだけは最新の Stable でも問題ない)
mod_perlの1と2では互換性がなく通常のperlとも互換性が無い部分があるため
新しいシステムに乗り換えられない事が問題となっています。
個人的にはMTなどのBlogシステムはPHPやmod_perl2.0で組み直した方が良いと思いますが・・・
どうやら、優秀なソフトウェア人材がlivedoorから抜けた?形跡があり、そこまでは難しいのでしょうね・・・
日本では技術やにはなれません(w
エンジニアに贈るエール、「理系思考」とは? − @IT自分戦略研究所基本的に理系の人材というのは、優秀になっても無能でも給料が一緒というのが、 相場です。
そりゃそうだ・・・理系の人は社内政治に弱い傾向があり、
給料は技重力ではなく、政治力できまるのが日本の会社ですから、給料は安いです。
高い給料を得ようと思ったら、政治=マネージメントも出来る技術職にならないとダメです。
一番良いのは社長兼技術職なんでしょうが・・・それはめんどくさい・・・
CEOとかCTOとかそういった職業が日本にもできると良いのですが。できないでしょうね。
カテゴリ:[プログラムよもやま]
投稿者 kokorohamoe : 2005年12月17日 20:46
トラックバック
このエントリーのトラックバックURL:
http://revilog.com/tb_ping.php/6630
スパム防止のため、当サイトへのリンクの無い記事からのトラックバックを禁止する設定にしてあります。
トラックバックされる場合は、リンクを作成してから、トラックバックを打ってください。
このリストは、次のエントリーを参照しています: ここがスゴイよlivedoor 技術がわからない人向け易しく説明:
» [2019] from inamode6 cosmetic
レビログ::プログラム: ここがスゴイよlivedoor 技術がわからない人向け易しく説明
http://revilog.com/program/archives/2005/12/livedoor.html
>>
ここがダメだよlivedoor
使ってる OS はほとんど (9割方) FreeBSD 4、一部 Turbolinux 8
・FreeBSD 4.x (5.x は Perl の扱いが…)
・Apache 1.3 (2.0は mod_perl の互換性が…)
・MySQL 4.0 (4.1は日本語の取り扱いが…)
・Perl 5.8 (これだけは最新の Stable でも問題ない)
>
個人的にはMTなどのBlogシステムはPHPやmod_perl2.0で組み直した方が良いと思いますが・・・
どうやら、優秀なソフトウェア人材がlivedoorから抜けた?形跡があり、そこまでは難しいのでしょうね・・・
[続きを読む]
トラックバック時刻: 2005年12月20日 12:44
コメント
これはなかなか興味深いですね。
うちもDual Xeonのサーバーが限界に来てしまってどう
しようかと考えた挙げ句、安いサーバーをクラスター化
することでなんとかなりました。
iSCSIだとメンテナンスも楽になりそうですね。
ライブドアがこんな技術を使ってたなんて知りませんでした。
投稿者 Kaz : 2005年12月18日 22:14








