- 1 -

ノードとクラスタの停⽌・起動⼿順 2019 年 6 ⽉版

ノードの停⽌、再起動をする前に Data Resiliency ステータスが OK であるか確認する必要があります。

・ 任意の CVM に nutanix ユーザでログインし、「ncli cluster get-domain-fault-tolerance-status type=node」を実⾏して

全ての項⽬の Current Fault Tolerance が 1 以上であることを確認します。

・ Prism 上の Data Resiliency Status が OK である事を確認します。

RF2（Replication Factor 2）の場合、⼀台のノードのみを停⽌することができます。同時に複数台のノードを停⽌する場合はクラスタ全体の停⽌が必要になることをご注意ください。 ノード停⽌⼿順 １ ESXi (vSphere Web Client)

１-１ vSphere Web Client を利⽤して vCenter/ESXi にログインします。 １-２ DRS が有効になっていない場合、⼿動で CVM 以外のゲスト VM をシャットダウンするか、 他のホストに移⾏します。DRS が有効になっている場合はスキップ可能です。 １-３ ホストを右クリックして、「メンテナンスモードへの切り替え」を選択します。 １-４ 「メンテナンスモードの確認」画⾯が表⽰されたら「はい」をクリックします。 １-５ SSH で CVM にログインして、下記コマンドで CVM をシャットダウンします。 nutanix@cvm$ cvm_shutdown ‒P now １-６ ホストが「メンテナンスモード」になるのを確認します。 １-７ メンテナンスモードに⼊りましたら、ホストを右クリックして、「シャットダウン」を選択します。 １-８ ホスト状態が「応答なし」になるのを確認します。

２ ESXi (vSphere Command Line)

２-１ DRS が有効になっていない場合、⼿動で CVM 以外のゲスト VM をシャットダウンするか、 他のホストに移⾏します。DRS が有効になっている場合はスキップ可能です。 ２-２ ホストをメンテナンスモードに移⾏します。 nutanix@cvm$ ~/serviceability/bin/esx-enter-maintenance-mode -s <CVM IP Address> 成功に実⾏できた場合は何も返りません。 ２-３ SSH で CVM にログインして、下記コマンドで CVM をシャットダウンします。 nutanix@cvm$ cvm_shutdown ‒P now ２-４ ESXi ホストをシャットダウンします。 nutanix@cvm$ ~/serviceability/bin/esx-shutdown -s <CVM IP Address>

- 2 -

２-５ ESXi ホストがシャットダウンになったことを確認します。 nutanix@cvm$ ping <ESXi host IP>

３ Hyper-V ※メンテナンスモードにしないでください。

３-１ CVM 以外のゲスト VM をシャットダウンするか、他のホストに移⾏します。 ３-２ SSH で CVM にログインして、下記コマンドで CVM をシャットダウンします。

nutanix@cvm$ cvm_shutdown -P now ３-３ Hyper-V ホストに Remote Desktop でログインし、PowerShell で下記コマンドを実⾏し

Hyper-V ホストをシャットダウンします。 > shutdown /i

３-４ IPMI でホストに接続して、"Remote Control">"Power Control"に移動し、ノードがシャットダウンされていることを確認します。"Host is currently off"というメッセージが表⽰されていれば、正常にシャットダウンが完了したと判断することができます。

４ AHV

４-１ CVM 以外のゲスト VM をシャットダウンするか、他のホストに移⾏します。 ４-２ SSH で CVM にログインして、下記コマンドでホスト⼀覧を出⼒します。

nutanix@cvm$ acli host.list シャットダウン対象ホストの Hypervisor の IP アドレス(Hypervisor Address)を控えます。

４-３ 下記コマンドでシャットダウン対象ホストをメンテナンスモードに移⾏します。 nutanix@cvm$ acli host.enter_maintenance_mode <Hypervisor Address> wait=true

４-４ 下記コマンドで CVM をシャットダウンします。 nutanix@cvm$ cvm_shutdown -P now

４-５ SSH で AHV ホストにログインして、AHV ホストをシャットダウンします。 root@ahv# shutdown -h now

４-６ IPMI でホストに接続して、"Remote Control">"Power Control"に移動し、ノードがシャットダウンされていることを確認します。"Host is currently off"というメッセージが表⽰されていれば、正常にシャットダウンが完了したと判断することができます。

- 3 -

ノード起動⼿順 １ ESXi (vSphere Web Client)

１-１ 電源が⼊っていない場合、電源ボタンを押します。 １-２ vCenter/ESXi にログインします。 １-３ ESXi ホストを右クリックして、「メンテナンスモードの終了」を選択します。 １-４ CVM を右クリックして、「電源」→「パワーオン」で起動します（5 分ほど待ちます）。 １-５ ESXi ホストを右クリックして、「データストアの再スキャン」を実施して、「構成」の 「ストレージ」にデータストアが正しく表⽰されているか確認します。 １-６ 全ての CVM のサービスが UP になっていることを確認します。 nutanix@cvm$ cluster status １-７ Data Resiliency Status を確認します。（再起動後にすぐには回復しないので暫くお待ちください） ・任意の CVM に nutanix ユーザでログインし、

「ncli cluster get-domain-fault-tolerance-status type=node」を実⾏して、 全ての項⽬の Current Fault Tolerance が 1 以上であることを確認します。 ・Prism 上の Data Resiliency Status が OK に戻ったことを確認します。

２ ESXi (vSphere Command Line)

２-１ 任意の CVM に SSH でログインします。 ２-２ 下記コマンドで起動対象ホストのメンテナンスモードを解除します。 nutanix@cvm$ ~/serviceability/bin/esx-exit-maintenance-mode -s <CVM IP> ２-３ CVM を起動します（5 分ほど待ちます）。 nutanix@cvm$ ~/serviceability/bin/esx-start-cvm -s <CVM IP> ２-４ クラスタサービスが全て UP になっているか確認します。 nutanix@cvm$ cluster status ２-５ ストレージが正しくマウントされたか確認します。 ・SSH で該当 ESXi ホストにログインします。 ・データストアの再スキャンを⾏います。 root@esx# esxcli storage core adapter rescan --all ・データストアが正しく表⽰されているか確認します。 root@esx# esxcfg-scsidevs -m | awk '{print $5}' ２-６ Data Resiliency Status を確認します。（再起動後にすぐには回復しないので暫くお待ちください） ・任意の CVM に nutanix ユーザでログインし、

「ncli cluster get-domain-fault-tolerance-status type=node」を実⾏して、 全ての項⽬の Current Fault Tolerance が 1 以上であることを確認します。

- 4 -

・Prism 上の Data Resiliency Status が OK に戻ったことを確認します。

３ Hyper-V

３-１ 電源が⼊っていない場合、電源ボタンを押します。 ３-２ Remote Desktop にて Hyper-V ホストに接続し、PowerShell を起動します。 ３-３ 起動していない CVM のホスト名を控えます。 >Get-VM | Where {$_.Name -match 'NTNX.*CVM'} 出⼒例： ・CVM が起動している場合 NTNX-13SM35230026-C-CVM Running 2 16384 05:10:51 Opera... ・CVM が起動していない場合 NTNX-13SM35230026-C-CVM Stopped - - - Opera... ３-４ CVM を起動します（5 分ほど待ちます）。 ＞Start-VM -Name NTNX-*CVM ３-５ コンテナ状況を確認します。 ＞Get-Childitem \\shared_host_name\container_name ３-６ CVM に SSH でログインして、クラスタサービスが全て UP になっていることを確認します。 nutanix@cvm$ cluster status ３-７ Data Resiliency Status を確認します。（再起動後にすぐには回復しないので暫くお待ちください） ・任意の CVM に nutanix ユーザでログインし、

「ncli cluster get-domain-fault-tolerance-status type=node」を実⾏して、 全ての項⽬の Current Fault Tolerance が 1 以上であることを確認します。 ・Prism 上の Data Resiliency Status が OK に戻ったことを確認します。

- 5 -

４ AHV

４-１ AHV ホストに SSH でログインします。 ４-２ CVM の起動状況を確認します。 root@ahv# virsh list --all | grep CVM ４-３ CVM が running 状態ではない場合、⼿動で起動します（5 分ほど待ちます）。 root@ahv# virsh start <CVM Hostname> ４-４ CVM が起動しましたら、SSH でログインして、AHV ホストがメンテナンスモードか確認 nutanix@cvm$ acli host.get <AHV host IP> | grep node_state 出⼒例： ・メンテナンスモードである場合 node_state: "kEnteredMaintenanceMode" ・メンテナンスモードではない場合 node_state: " kAcropolisNormal" ４-５ メンテナンスモードである場合は下記コマンドで解除します。 nutanix@cvm$ acli host.exit_maintenance_mode <AHV host IP> ４-６ CVM のサービスが全て UP であることを確認します。 nutanix@cvm$ cluster status ４-７ Data Resiliency Status を確認します。（再起動後にすぐには回復しないので暫くお待ちください） ・任意の CVM に nutanix ユーザでログインし、

「ncli cluster get-domain-fault-tolerance-status type=node」を実⾏して、 全ての項⽬の Current Fault Tolerance が 1 以上であることを確認します。 ・Prism 上の Data Resiliency Status が OK に戻ったことを確認します。

- 6 -

クラスタ全体の停⽌⼿順（ESXi） ※Hyper-V の場合、下記 KB をご参照ください。 https://portal.nutanix.com/kb/4673 ⒈ 最新の NCC へアップグレードして、ncc health_checks run_all を CVM で実施します。 内容及び対処⽅法が不明な FAIL エラーが⽣じた場合 Nutanix Support にご連絡ください。 ⒉ AFS(Acropolis File Services)または Nutanix Files を利⽤している場合、任意の CVM から FSVM をシャットダウンします。

(AOS 5.0.x から 5.5.x で利⽤している場合) nutanix@cvm$ minerva -a stop

(AOS 5.6 以降で利⽤している場合) nutanix@cvm$ afs infra.stop * ⒊ CVM 以外の全てのゲスト VM をシャットダウンします。 ⒋ Data Protection が有効になっている場合は無効するか、実⾏中のジョブがないことを確認します。 ・Metro Availability Prism→Data Protection→Table から、Active 状態の Protection Domain を Disable に設定します。 ・Async DR 下記コマンドで、実⾏中のレプリケーションがないことを確認します。 nutanix@cvm$ ncli pd ls-repl-status [None] ⒌ 任意の CVM にログインして、クラスタサービスを停⽌します。 nutanix@cvm$ cluster stop 全ての CVM から下記のような結果が出⼒されるまで待ちます。

- 7 -

⒍ 各 CVM にログインして、CVM 及び ESXi ホストを順番にシャットダウンします。 nutanix@cvm$ sudo shutdown -P now [vSphere Client から CVM のシャットダウンをおこなう場合] ６-１ vSphere Client にログインします。 ６-２ 「Hosts and Clusters」から対象の CVM を右クリックし、[Power]-[Shut Down Guest OS]を選

択します。

６-３ 「Confirm Guest Shut Down」にてシャットダウンの確認をしてきますので「Yes」をクリックしてシャットダウンします。

６-４ 6-2 から 6-3 の操作を他の CVM に対しても同様に実施します。 ６-５ ホストを右クリックして、「シャットダウン」を選択します。 ６-６ ホスト状態が「応答なし」になるのを確認します。 ６-７ 6-5 から 6-6 の操作を他の ESXi ホストに対しても同様に実施します。

- 8 -

[ESXi ホストからコマンドラインで CVM のシャットダウンをおこなう場合] ６-１ SSH で ESXi ホストにログインします。 ６-２ 以下のコマンドで CVM の Vmid を確認します。

root@esx# vim-cmd vmsvc/getallvms | grep CVM ６-３ CVM を以下のコマンドでシャットダウンします。

root@esx# vim-cmd vmsvc/power.shutdown <CVM Vmid> ６-４ 6-1 から 6-3 の操作を各 ESXi ホスト上にて実施します。 ６-５ ESXi ホストをシャットダウンします。

root@esx# poweroff ６-６ 6-5 の操作を他の ESXi ホストに対しても同様に実施します。

- 9 -

クラスタ全体の停⽌⼿順（AHV） ※Hyper-V の場合、下記 KB をご参照ください。 https://portal.nutanix.com/kb/4673 ⒈ 最新の NCC へアップグレードして、ncc health_checks run_all を CVM で実施します。 内容及び対処⽅法が不明な FAIL エラーが⽣じた場合 Nutanix Support にご連絡ください。 ⒉ AFS(Acropolis File Services)または Nutanix Files を利⽤している場合、任意の CVM から FSVM をシャットダウンします。

(AOS 5.0.x から 5.5.x で利⽤している場合) nutanix@cvm$ minerva -a stop

(AOS 5.6 以降で利⽤している場合) nutanix@cvm$ afs infra.stop * ⒊ CVM 以外の全てのゲスト VM をシャットダウンします。 ⒋ Data Protection が有効になっている場合は無効するか、実⾏中のジョブがないことを確認します。 ・Metro Availability Prism→Data Protection→Table から、Active 状態の Protection Domain を Disable に設定します。 ・Async DR 下記コマンドで、実⾏中のレプリケーションがないことを確認します。 nutanix@cvm$ ncli pd ls-repl-status [None] ⒌ 任意の CVM にログインして、クラスタサービスを停⽌します。 nutanix@cvm$ cluster stop 全ての CVM から下記のような結果が出⼒されるまで待ちます。

- 10 -

⒍ 各 CVM にログインして、CVM を順番にシャットダウンします。 nutanix@cvm$ sudo shutdown -P now ※ AHV ホストからコマンドラインで CVM をシャットダウンする場合は以下を実⾏ください ６-１ AHV ホストに SSH でログインします。 ６-２ 以下のコマンドで CVM の名前を確認します。

root@ahv# virsh list --all | grep CVM ６-３ CVM を以下のコマンドでシャットダウンします。

root@ahv# virsh shutdown <CVM Hostname> ６-４ 6-1 から 6-3 の操作を各 AHV ホスト上にて実施します。 ⒎ SSH で各 AHV ホストにログインして、AHV ホストをシャットダウンします。

root@ahv# shutdown -h now ⒏ IPMI で各ホストに接続して、"Remote Control">"Power Control"に移動し、ノードがシャットダウン

されていることを確認します。"Host is currently off"というメッセージが表⽰されていれば、正常にシャットダウンが完了したと判断することができます。

- 11 -

クラスタ全体の起動⼿順（ESXi と AHV のみ） ※Hyper-V の場合、下記 KB をご参照ください。 https://portal.nutanix.com/kb/4673

⒈ ［ノード起動⼿順］を参照して、各ノード及び CVM を起動します。 ⒉ 任意 CVM にログインして、下記コマンドでクラスタを起動します。 nutanix@cvm$ cluster start 全ての CVM から下記のような結果が出⼒されるまで待ちます。

⒊ クラスタサービスが起動されたか確認します。 nutanix@cvm$ cluster status ⒋ AFS(Acropolis File Services)または Nutanix Files を利⽤している場合、FSVM を下記コマンドで起動します。

(AOS 5.0.x から 5.5.x で利⽤している場合) nutanix@cvm$ minerva -a start

(AOS 5.6 以降で利⽤している場合) nutanix@cvm$ afs infra.start * ⒌ 各ホストのデータストアが正しく表⽰されているか確認して、ゲスト VM を起動します。 vCenter VM を先に起動したい場合、下記⼿順でお願いします。 5-1 vCenter VM が格納されるホストにログインします。 5-2 vCenter VM の VMID を確認します。（下記コマンド結果の⼀列⽬） root@HOST# vim-cmd /vmsvc/getallvms | grep <vCenter VM Name> 5-3 電源が⼊っているか確認します。 root@HOST# vim-cmd vmsvc/power.getstat <vmid>

- 12 -

5-4 電源を⼊れて起動します。 root@HOST# vim-cmd vmsvc/power.on <vmid> 5-5 vCenter VM に接続して、他のゲスト VM を起動します。

- 13 -

参考情報 Hardware Replacement Documentation - Common Procedures https://portal.nutanix.com/#/page/docs/details?targetId=Hardware-Replacement-Platform-v510:Common%20Procedures

AHV Administration Guide - Node Management https://portal.nutanix.com/#/page/docs/details?targetId=AHV-Admin-Guide-v51:Node-Management

Shutting Down an AHV Cluster for Maintenance or Relocation https://portal.nutanix.com/kb/3397

Shutting down Hyper-V cluster for maintenance or relocation https://portal.nutanix.com/kb/4673

Shutting down VMware vSphere cluster for maintenance or relocation https://portal.nutanix.com/kb/1438

Nutanix Files - Graceful Shutdown of a Nutanix Cluster https://portal.nutanix.com/kb/4429