月別アーカイブ: 2018年4月

ESXiでsmart値の確認

ESXiでDiskのSmart値を確認するには、以下の方法があります。

方法1.esxcliコマンドを使用する方法

データストアのプロパティからも、該当デバイス名を確認します。

データストアの一覧の画面からデータストアを選択して、右クリック->「クリップボードにコピー」からも確認できます。

 

また、esxcli storage core device listからも、ストレージのDevice名を確認できます。

Device名を確認したら、esxcli storage core device smart get -d <デバイス名>でSmart値を確認します。

なお、ストレージやインターフェイスがSmart取得をサポートしていない場合は、以下のように表示されるようです。

 

 

方法2.VMware support取得ツールの一部である Smartinfo.sh を利用する方法

こちらは、ストレージ上のデバイス全部のSmart値を一括表示できます。

 

 

Z820にESXi 5.5用e1001eドライバ (Intel 82579LMドライバ) を組み込む

Z820は、マザーに2つのNICが実装されています。
・82574L Gigabit Ethernet Controller (通称 intel E1000e)
・82579LM Gigabit Ethernet Controller (通称 intel E1001e)

このうち、82579LMは、ESX5.5U3からは標準で認識しますが、
それ以前ですと認識しません。この場合は、個別でvibをインストールしないといけません。

ドライバの入手先は、以下のサイトで可能です。

https://vibsdepot.v-front.de/wiki/index.php/Net-e1000e

実際のインストールは以下の手順になります。

他にもいくつかのドライバーやツールなどがこのサイトにはありますね。
https://vibsdepot.v-front.de/wiki/index.php/Welcome

5/9のWindows Update

5/9のWindows UpdateでCVE-2018-0886の更新が予定されていますが、この更新、業務影響大きい気がするのに、全然騒ぎになっていない気がする。
簡単に言うと、以下の運用の場合は、5/9以降クライアントからサーバ側へRDPで接続出来なくなる可能性があります。
・サーバはWindowsUpdateしない運用
・クライアントは自動でWindows Updateがかかるようにしている、

https://blogs.technet.microsoft.com/jpntsblog/2018/04/20/cve-2018-0886/

https://support.microsoft.com/ja-jp/help/4093492/credssp-updates-for-cve-2018-0886-march-13-2018

さらに仮想環境用サーバ壊れました(gt110bサーバ)

メインの仮想環境Z800->Z820の暫定修復が終わったと思ったら、
3台ある残り2台の仮想環境のうちの1台の、一番いろんな実験をしていたサーバも、
物理的に死にました。

このサーバでやってた変態的いや、いろいろな運用の例
・USBブートESXi [一様公式だけど、本番運用では普通しない]
・安鯖[NEC Express5800/GT110b]にCPU i7 870 & 32GBメモリ交換での運用
・筺体内ストレージ仮想マシンによる自作自演NFSストレージ(2TB*4 RAID5 & 2TB) [今で言うVSAN的運用]
・Radeon 5570をVMDirectPathでWin7仮想マシンに直結 [今で言うvDGA運用]
・USB3.0インターフェイスをVMDirectPathでWindowsストレージサーバに直結してのファイルサーバ(管理Disk容量約65TB)
・Xen on ESXiによる仮想 on 仮想環境

元々、一度電源を落とすと5,6回、多いときだと十数回、電源OFF.ONを繰り返さないと起動できない状況 & マザー搭載VGA機能死亡状態で
3年ぐらいだましだまし使っていたのですが、
電源OFF.ONを繰り返しているうちに、
起動用USBにダメージを受けてしまった&色々試行錯誤しているうちに、マザーボードのストレージコントローラを完全に見失っていて、ジ・エンドとなりました。

ただ、GT110bは発売からすでに10年経っている機種なので、何かあったときに入手困難となる可能性があったので、
共食い修理用の同型機種を2台ほど確保済みだったので、この予備サーバを使って復旧実施。

・保管してあった予備サーバに、CPU,メモリ、ストレージ、起動用USBメモリを移植
・ESXiのアップグレードインストール(ESXi 5.0->5.5、以前のコンフィグを継承するため)

いままで、なかなかふんぎりつかなくて、交換できていなかったのですが、
いざ始めてみたら、交換開始からさくっと2-3時間ぐらいで復旧。
(まったくの同一機種なので、移植は非常に楽。)

ちょうど、GWぐらいに先日暫定復旧したZ820環境にDISK拡張した後に、
この環境もマージできるように各種単体機能テストをしようかと考えていたのだけど、このタイミングで完全に壊れるとは・・・

突然死したZ800の復旧(Z820へのリプレース)

突然死したZ800ですが、交換用のZ820が到着しました。

到着したのは、
HP Z820 水冷モデル
CPU :E5-2687W @3.10 x 2
MEM:32GB(RDIMM 1600メモリ 8GB x4)
GPU :Quadro K2000

とりあえず故障したのZ800からパーツを移植
・メモリ192GB (RIMM 16GB x12)
・Quadro4000 x1
・Intel CT NIC x1
・ストレージ系(SSD 960 x2,SDD 128 x1,4TB SATA HDD x3,300GB SAS HDD x4)

特にZ820サポート外のDDR3 RIMM 1333メモリを搭載したけど、普通に認識してメモリチェックもOK
メモリはZ820についていた32GBも追加して、現状224GBという中途半端な容量に。

ただ、Quadro4000とIntel CT NICを搭載したらBIOSのメモリオーバーエラーがでてしまったのでBIOSでbootに必要な誘うなNIC系のBIOSを切る必要がありました。

とりあえず、既存のSSDに入っていたESXiは普通に起動

ただ、SATA 6ポートのうち、6Gbpsのポート2つに挿したSSD2つは認識してVMFS領域もマウントできたけど、
残りの4ポート(3Gbps)が、ブロックSCSI扱いではなく、SCSI扱いになっていて、認識はするけどVMFS領域マウントせず。
どうやらvCenterに昔のVMFS領域のシグネーチャが残っていて、
接続がブロックSCSIからSCSI扱いに変わっている影響で同じシグネーチャでも、違うものとして認識しまったのに、すでに同じVMFS領域名が登録されているため、マウントできない模様

とりあえず以下をしたら、マウントできました。
・vCenterに残っているVMFS領域の名前を変更
・既存のVMFS領域のシグネーチャを更新してマウント
ただ、VMFS領域においてあった仮想マシン&VMDKは再登録する羽目になりましたが(仮想マシン2つ&VMDK6個だけでしたが)。

なお、vCenterに昔のVMFS領域が残っていたのは、その領域を使用している仮想マシン&VMDKが登録されていたためだったようで、それを消したら、昔のVMFS領域は消えました。

もしかしたら、以下の手順のほうが簡単に復帰できたかも知れず・・・
・昔のVMFS領域を使用している仮想マシンをvCenterのインベントリから削除
・DISKを再マウント
・インベントリから削除した想マシンの再登録

とりあえず、これでストレージ系の復旧は完了。データ欠損なし。

あとはNICのMACアドレスが変わっているので念のため以下のコマンドを実行
# esxcfg-advcfg -s 1 /Net/FollowHardwareMac
(ESXは、ESXのインストールを実施したときにNICのMACアドレスをシステムに登録してしまって、NICが変更されても依存のMACアドレスで通信するため)
ただ、コレをやると、仮想マシンごとにを最初に立ち上げるときに「移動」したか、「コピー」したかを聞かれてしまうので、ハードをしないのであれば、しなくてもいいかも。

とりあえず、暫定復旧は完了。
あとは、ちょっとしたグレードアップとして
流用したRIMM 8GBメモリx4を、追加購入予定の16Gメモリx4に変更して合計メモリを256GBにするのと、
SAS 300GBx4を、SATA 8TBx4に置き換えを計画するくらいですかね。RAIDは5にするか10にするかは迷っていますが。

メインのESXサーバ故障中

うちのメインのESXサーバが壊れて、電源が入らなくなってしまった。

Xeon X5690 Dual + メモリ192GB な HP Z800 水冷タイプなのですが、
昼に電源が落ちたらしく、家に戻ったときには電源が落ちていて、電源ボタン押しても、ビープ音が4回なるだけで起動せず。

すべてのPCIボード、メモリをはずしても同じ状況なので、ほぼ故障箇所はマザーボードっぽいのだがさてどうするか・・・・

とりあえず、管理基盤(AD,DHCP,vCenter,監視,)、ファイルサーバ、ネットワークサービス(http,mail,Webストレージ)、SSL-VPN
とかの最小限は、他の2台のESXで稼動させて縮退運用できたけど、
動いているESXはメモリが32GBのサーバが2台しかないので、これまでが限界。

シンクライアントアクセス先基盤と、動画エンコード環境、検証環境系は全滅状態。
やはり、メモリ192GBがいきなりなくなると痛い。

いまのところ回復案として検討中なのが以下の3種類。

・マザーボードだけ購入して、交換
推定予算50K
マザー以外が壊れている可能性があるのと、マザー到着が4/24以降っぽい
あとマザー交換がメンテナンス資料見た限りだとすごい大変そう。

・中古のZ800買ってきて、CPU,メモリ,水冷ユニット,PCIボード,ストレージ系その他もろもろ移植した共食い修理
推定予算100K
ただ、古いリビジョンのマザーだと、X5690乗らないらしいので、その辺の確認しないとだめそう。

・後継機種のZ820調達して、メモリ,PCIボード,ストレージを移植する
推定予算210K
Z800の残念ポイントであるストレージ3GBps制限やジャンボフレーム制限が解除できそうなのと、
CPU世代がWestmere EPからivyBridgeにあげられるのがメリット。
今使っているメモリのクロックが1333なので、うまく動くかは賭けだけど、
早ければ、来週早々には到着しそう。

一番現実的なのは、中古のZ800用意しての共食い修理なんだろうけど。
やはりZ820ルートも捨てがたい。
Z840まで行くと、メモリの流用ができないのと5インチベイ1個少ないからそのまま移植できないし・・・