2011年12月14日水曜日

大容量対応自作シャーシ step6

こんばんわ。firestorage技術担当の長男 太郎です。
本日は第六弾です。

 前回設計図を公開させて頂いたステイが出来ましたので、
ご報告させて頂きます。

こちらが完成したステイになります


バックプレーンを3台設置するとこんな感じです

これを予定の45台分、3列つないだ形です。


別角度より。負荷を避ける為に養生テープで固定してます。

次はこのステイを固定できるシャーシを設計していきたいと思います。
また、HDDが傾かないように固定するブリッジも必要になってきますので、
合わせて設計し製作していく予定です。

取り急ぎご報告でした。
続きは次回へ。

2011年12月12日月曜日

大容量対応自作シャーシ step5

こんにちわ。firestorage技術担当の長男 太郎です。
本日は第五弾です。


まずは前回の45台接続テスト時にLinuxでどのように認識したかですが、
下記のようになりました。


-----------------------------------------------
Disk /dev/sda: 40.0 GB, 40020664320 bytes
Disk /dev/sdb: 160.0 GB, 160000081920 bytes
Disk /dev/sdc: 160.0 GB, 160000081920 bytes
Disk /dev/sdd: 160.0 GB, 160000081920 bytes
Disk /dev/sde: 160.0 GB, 160000081920 bytes
Disk /dev/sdf: 160.0 GB, 160000081920 bytes
Disk /dev/sdg: 160.0 GB, 160000081920 bytes
Disk /dev/sdh: 250.1 GB, 250059350016 bytes
Disk /dev/sdi: 750.2 GB, 750156374016 bytes
Disk /dev/sdj: 160.0 GB, 160000081920 bytes
Disk /dev/sdk: 160.0 GB, 160000081920 bytes
Disk /dev/sdl: 160.0 GB, 160000081920 bytes
Disk /dev/sdm: 160.0 GB, 160000081920 bytes
Disk /dev/sdn: 160.0 GB, 160000081920 bytes
Disk /dev/sdo: 160.0 GB, 160000081920 bytes
Disk /dev/sdp: 160.0 GB, 160041885696 bytes
Disk /dev/sdq: 160.0 GB, 160000081920 bytes
Disk /dev/sdr: 160.0 GB, 160000081920 bytes
Disk /dev/sdu: 160.0 GB, 160000081920 bytes
Disk /dev/sdt: 160.0 GB, 160000081920 bytes
Disk /dev/sds: 160.0 GB, 160000081920 bytes
Disk /dev/sdv: 160.0 GB, 160041885696 bytes
Disk /dev/sdw: 160.0 GB, 160000081920 bytes
Disk /dev/sdx: 160.0 GB, 160000081920 bytes
Disk /dev/sdy: 160.0 GB, 160000081920 bytes
Disk /dev/sdz: 160.0 GB, 160000081920 bytes
Disk /dev/sdaa: 160.0 GB, 160000081920 bytes
Disk /dev/sdab: 160.0 GB, 160000081920 bytes
Disk /dev/sdac: 160.0 GB, 160000081920 bytes
Disk /dev/sdad: 250.1 GB, 250059350016 bytes
Disk /dev/sdae: 250.1 GB, 250059350016 bytes
Disk /dev/sdaf: 160.0 GB, 160000081920 bytes
Disk /dev/sdag: 160.0 GB, 160000081920 bytes
Disk /dev/sdai: 160.0 GB, 160000081920 bytes
Disk /dev/sdah: 160.0 GB, 160000081920 bytes
Disk /dev/sdaj: 160.0 GB, 160000081920 bytes
Disk /dev/sdak: 160.0 GB, 160000081920 bytes
Disk /dev/sdam: 160.0 GB, 160000081920 bytes
Disk /dev/sdal: 160.0 GB, 160000081920 bytes
Disk /dev/sdao: 160.0 GB, 160000081920 bytes
Disk /dev/sdan: 160.0 GB, 160000081920 bytes
Disk /dev/sdap: 160.0 GB, 160000081920 bytes
Disk /dev/sdaq: 160.0 GB, 160000081920 bytes
Disk /dev/sdat: 160.0 GB, 160000081920 bytes
Disk /dev/sdas: 160.0 GB, 160041885696 bytes
Disk /dev/sdar: 160.0 GB, 160000081920 bytes
-----------------------------------------------

HDDの台数の都合によりいろんなサイズのHDD混ざっています。
sdaからアルファベット順に認識されていきますが、
sdzまでいくとsdaaとなるようです。
認識の順番の関係か、完全にアルファベット順にはならないようです。


さて、これで接続試験は完了した訳ですが、
バックプレーン搭載可能なシャーシの設計をしなければなりません。
前回のシャーシはまずHDDを出来るだけ搭載し、接続テストを行う事を目的としておりました。
今回からはラックマウントする際の事を考慮しながら設計していこうと思います。

前回は板厚1.5mmのシャーシを作成したのですがHDDコネクタを付ける為に20mmのスペーサーを利用していました。
今回も利用するのですが、このスペーサーの雄ネジ部分は3mmあります。
板厚1.5mmだともう半分の1.5mmは突き抜けてしまいます。
真横にラックレールを付ける場合は問題ないかと思いますが、
使用しているサーバーラックの関係上、既製品のラックレールを使用すると
ラックレールの幅を考慮する必要が出てくる為、シャーシの幅を狭める事になってしまいます。
その為、既製品のラックレールのではなく専用のレールかステイを作成することにしました。

しかし、前述した通りスペーサーのネジが飛び出てしまいます。
前回もそうでしたが、端から端まで使いますので専用に設計するとしても、
ネジが飛び出ていてはメンテナンスもなにもありません。


そこで、下図のようなステイを設計しました。


バックプレーン用ステイ


3mm厚の板にネジ穴を開け、そこにスペーサーを取り付け、
バックプレーンを載せ固定します。一列に3台バックプレーンが搭載できます。
3mm厚を使うことによりスペーサーの雄ネジ部分の長さを全て吸収出来ます。
また、シャーシとの接続用にバカ穴を開け、シャーシは1mm厚に変更し、
雄ネジ部分が4mmのネジを利用することによりシャーシの裏側にはネジが飛び出ないようにしました。
これがうまくいけばシャーシのネジ穴も少なくて済みます。

後は板金屋さんからの到着を待つとします、今回はここまでになります。
続きは次回で!

2011年12月9日金曜日

大容量対応自作シャーシ step4

こんにちわ。firestorage技術担当の長男 太郎です。
本日は第四弾です。

前回はご紹介したバックプレーンを使っての
接続テストのご報告です。


まだ固定するアングルが無いので横において接続してみました

電源ケーブルを接続

SATAケーブルを本体に接続
起動してみました、LEDが付いているんですね
本日は取り急ぎここまでのご報告です
45台をLinuxがどう認識するのかなど興味は尽きません。

次回に続きます。


2011年12月1日木曜日

大容量対応自作シャーシ step3


こんにちわ。firestorage技術担当の長男 太郎です。
本日は第三弾です。 


前回の反省
  1. 電源・SATAケーブルの取り回しが煩雑
  2. 接続ケーブルが多すぎて故障した場合の問題発見が困難

簡単に言えばメンテナンス性が悪いに尽きるのですが
やはり、SATAとポートマルチプライヤの接続のケーブル
それぞれのHDDに電源を供給するケーブルをまとめるしか方法は無さそうです

そうなると
  1. 基板を設計する
  2. 使えそうなバックプレーンを探す
この2つに選択肢が限られてしまうのですが流石に基板設計の
ノウハウはまだ無いので、使えそうなバックプレーンを探すことにします。

一番先に思いついたのが、RAIDボックスなど外付けのHDDケースの
バックプレーンを移植してはどうかなと言うことでした。
但し、RAID機能が付いていないポートマルチプライヤ対応のBOXです

ドライブドアSATAボックス5BAY(EX35ES5) 但し販売終了

探しに探した結果、上記の「ドライブドアSATAボックス5BAY」がよさそうなのですが
販売終了で、現行機種では「裸族のインテリジェントビル5Bay USB3.0+eSATAコンボ(CRIB535EU3)」
になってしまうのですが、この機種はRAID機能とか余計な機能が付いています。

困った挙句、いろいろ調べてると、coneco.netの商品レビューに興味深い記述が…
http://club.coneco.net/user/13212/review/33523/

・LED基盤
メーカー:CFI
型番:CFI-B53PM LED BOARD REV.A 

 
 と、バックプレーンの記述が載っていました
結局海外サイトで調べてみると、かなり一般的に使われている
バックプレーンの様です。


販売終了の製品のバックプレーンを売ってくれるか心配でしたが
なんとか入手することができました。
http://www.chyangfun.com/


CFI-B53PM 表面

CFI-B53PM 裏面
これなら、複雑なケーブルの取り回しも必要なさそうです…
次回はこのバックプレーンを使って、45台を駆動させる実験を行なってみようと思います。

2011年11月22日火曜日

大容量対応自作シャーシ step2

こんにちわ。firestorage技術担当の長男 太郎です。
本日は第二弾です。


まずはカードのテストを行います、配線がみっともないですね…

とりあえず、つなぎます

無事点灯しました

とりあえず、11台接続してみました


まず試作台に底上げの為の六角を挿入します(2cmの3パイ)
ポートマルチプライヤカードとSATAのパーツもネジ止めします

なにやら凄い事になりそうな予感…


樹脂の六角だとたよりないので金属製に変更


配線完了ですが・・・、当初考えていた2cmの隙間にケーブル類がおさまりそうにありません
それでもかまわず搭載してみましょう、グラつくので養生テープで補強します

熱くなりそうなので、とりあえず12cmファン

美しくない・・・
マザーとの接続は悲惨な感じです

試験台に40台を搭載することは成功したのですが
あくまで試験台上の話で、ケーブル類が思いの外大量に発生していて
うまくラックに収まらないことが判明しました…

これはコンセプトを変更しなければならないかもです
この続きはstep3で

2011年11月21日月曜日

大容量対応自作シャーシ step1



こんにちわ。firestorage技術担当の長男 太郎です。
現在、firestorageで新たなサービスを開始するにあたり現状のシャーシでは対応できない為
新たなシャーシを開発しておりますのでその過程を公開させて頂こうと思います。

目指すスペックは以下になります。
4UにマザーとHDDを収める
1つのシャーシに出来るだけ多くのHDDを搭載する
なるべく汎用パーツを使用する

まず、ケースですが4Uで最大詰めるケースで入手しやすいケースは
supermicro製の[ SC847E16-R1400LPB ] ではないでしょうか?

前面に24台、背面に12台の合計36台詰めますが
価格が16万円ほどしますので、選択肢には入りませんでした。

と思ったら、45台入るケースもあるんですね

ストレージ拡張ユニット S1030
お値段は\247,800円で、拡張ユニットなのでマザーは搭載出来ない様です。

あと、60台入る製品も存在する様です
http://cloud.watch.impress.co.jp/docs/news/20110510_444444.html

スペックは以下で、とても気軽に試せるものではありません。
E60X(3TB SATA HDD×60、デュアルエクスパンダー)が1517万2500円。
ちなみに3Tx60台=180Tb、180Tb x 1024Gb = 184320Gb 1Gバイトの単価が約82円になります


やはり、自作の経験を生かして、まずは40台を目標に検証用の試験台を作成しました。

サイズは今まで使っていたハーフサイズではなく、
1枚のシャーシでの利用を考えています。
試験台ですのでHDD搭載部分になります。

HDD設置スペースを考えると立てて置くのが理想という結論に至りました。
立てて設置した場合、最大で15台が4列ほど設置可能です。つまり、60台設置可能なのですが、
そうするとHDD間の隙間がなく、HDDが冷却できずに故障のリスクが高くなってしまう為、
HDD間を10mmはスペースを取れるように設計した結果、40台になりました。

前回ご紹介したHDDコネクタ(SATAインターフェース変換)を利用し、
コネクタ面を下にする事により上から交換可能にしました。
配線はHDDコネクタより下で行う形をとりました。

試験台 設計図

実際に試作したのがこちらです。

試験台

重量に耐える為に2mm厚の鉄板で作成したのですが、
とても重いです…次からは1.5mm厚に変更する事にしました。

あと、板金屋さんの開けた穴が数カ所間違ってました(汗)

HDD40台のSATA接続を可能にする為にポートマルチプライヤーを利用します。
5ポートのポートマルチプライヤーですので、8台使用します。


SATA2 Port Multiplier 5-Port with Raid(SY-PCI40037)

ポートマルチプライヤーからの接続を以下のカードで行います。

Syba PCI Express SATA II 4 x Ports RAID Controller Card SY-PEX40008


現在使用しているサーバーはPCI-Eスロットが3つありますので
SY-PEX40008を1枚で4ポート、SATA2I2-PCIEを2枚で4ポート、合計8ポートで
ポートマルチプライヤカードは5つまでのHDDを分岐できますので
これで40台HDDを稼働出来る計算になります。

実際にHDD40台の接続を試し、問題なければ次のステップへ進んでいこうと思います。