DRBD9 ユーザーズガイド

2024-07-03 14:29:06 UTC

Please Read This First

本書はDistributed Replicated Block Device (DRBD)を利用するための完全なリファレンスガイドです。同時にハンドブックとしても活用できるように編集してあります。

本書はDRBDプロジェクトのスポンサーである LINBIT がそのコミュニティ向けに作成しています。そしてコミュニティにとって有益であることを願って無償で公開しています。本ユーザーズガイドは、随時更新しています。DRBDの新しいリリースと同時に、その新機能の説明を追加する予定です。オンラインHTML版は https://linbit.com/drbd-user-guide/drbd-guide-9_0-ja/ で公開しています。

このガイドはDRBDの最新バージョンのユーザーを対象にしています。DRBDバージョン8.4をご使用の場合には https://linbit.com/drbd-user-guide/users-guide-drbd-8-4-japanese-version/ から対応するバージョンをご利用ください。

本書に対する改善提案や誤りの指摘は drbd-user メーリングリスト へお寄せください。

This guide is organized as follows:

  • DRBDの紹介ではDRBDの基本的な機能を扱います。Linuxの I/OスタックにおけるDRBDの位置付け、DRBDの基本コンセプトなど、基礎となる事項を取り扱います。また、DRBDのもっとも重要な機能について説明します。

  • DRBDのコンパイル、インストールおよび設定 ではDRBDのビルド方法、コンパイル済みのパッケージからのインストール方法、またクラスタシステムでのDRBDの運用方法の概要について説明します。

  • DRBDの使い方 ではリソース設定ファイルと一般的なトラブルシューティングについて説明します。

  • DRBDとアプリケーションの組み合わせではストレージのレプリケーションの追加やアプリケーションの高可用性のためDRBDを活用する方法を説明します。ここではDRBDとPacemakerクラスタ管理システムとの組み合わせだけでなく、LVMとの高度な組み合わせ、GFSとの組み合わせ、Xenによる仮想環境の可用性向上についても触れます。

  • DRBDパフォーマンスの最適化ではパフォーマンスを向上させるDRBDの設定について説明します。

  • さらに詳しく知る ではDRBDの内部構造を説明します。読者に有益と思われる他の情報リソースについても紹介します。

  • 付録:

    • 最近の変更 はこれまでのDRBDバージョンと比較した、DRBD9.0での変更点の概要です。

DRBDトレーニングやサポートサービスにご興味のある方は [email protected] または [email protected] にお問い合せください。

DRBDの紹介

1. DRBDの基礎

Distributed Replicated Block Device (DRBD)は、ストレージのレプリケーション(複製)のためのソフトウェアで、シェアードナッシングを実現します。DRBDはサーバ間でブロックデバイス(ハードディスク、パーティション、論理ボリュームなど)の内容をミラーします。

DRBDによるミラーは次の特徴を持ちます。

  • リアルタイムレプリケーション. 上位アプリケーションがデバイスのデータを書き換えると、 そのデータをリアルタイムでレプリケートします。

  • アプリケーションから透過的. アプリケーションは、データが複数のホスト上に格納されていることを意識する必要はありません。

  • 同期 または 非同期 の両方に対応同期でミラーリングを行う場合には、 すべてのホストのディスクへの書き込みが完了した後で、アプリケーションが完了通知を受け取ります。 非同期でミラーリングを行う場合には、 ローカルディスクへの書き込みが完了したときに、すぐにアプリケーションが完了通知を受け取ります。 この際、他のホストへの書き込みは後で行われます。

1.1. カーネルモジュール

DRBDのコア機能はLinuxのカーネルモジュールとして実装されています。OSのI/Oスタックの下位の階層でDRBDは仮想的なブロックデバイスを作ります。このために、DRBDは非常に柔軟で応用範囲が広く、さまざまなアプリケーションの可用性を高めるために利用できます。

その定義とLinuxカーネルアーキテクチャとの関連にもとづき、DRBDは上位レイヤに関して一切関知しません。このため、DRBDは上位レイヤに対しては何ら機能を付与できません。たとえば、DRBDはファイルシステムの障害を検出できません。またext3やXFSなどのファイルシステムに対してアクティブ-アクティブクラスタ機能を追加することもできません。

drbd in kernel
図 1. LinuxのI/OスタックでのDRBDの位置

1.2. ユーザー空間の管理ツール

DRBDにはカーネルモジュールと通信を行う管理ツールがいくつか用意されています。トップレベルのものからボトムレベルの順に以下に説明します。

drbdadm

DRBD-utilsプログラムスイートの高度な管理ツール。設定ファイル /etc/drbd.conf からすべてのDRBD設定パラメータを取得し、drbdsetup`と`drbdmeta`のフロントエンドとして機能します。`drbdadm`には、-d`オプションを付けて呼び出すことで、実際にそれらのコマンドを呼び出さずに`drbdadm`が発行する`drbdsetup`と`drbdmeta`の呼び出しを表示する「ドライラン」モードがあります。

drbdsetup

カーネルにロードされたDRBDモジュールを設定します。 drbdsetup の全パラメータはコマンドラインで指定する必要があります。 drbdadmdrbdsetup を分離していることで最大限の柔軟性を確保しています。ほとんどのユーザーは drbdsetup を使う事はないでしょう。

drbdmeta

DRBDメタデータ構造を作成、ダンプ、復元、および変更する機能を提供します。`drbdsetup`と同様に、ほとんどのユーザーは直接`drbdmeta`を使用する必要はほとんどありません。

1.3. リソース

DRBDでは、レプリケートするデータセットに関するさまざまな属性を総称して リソース と呼びます。リソースは以下の要素で構成されます。

リソース名

個々のリソースを区別するために、ホワイトスペース以外のUS-ASCII文字で表される任意の名前を与えることができます。

DRBD 9.2.0から、リソースの命名規則がより厳密になりました。DRBD 9.2.xでは、リソース名には英数字、., +, _, -`の文字のみを受け付けます(正規表現: `[0-9A-Za-z.+_-]*)。以前の動作に依存している場合は、厳密な名前のチェックを無効にすることで元の動作を復元することができます: echo 0 > /sys/module/drbd/parameters/strict_names
ボリューム

どのリソースも、複数のレプリケーションストリームを共有する ボリュームのうちの1つを構成するレプリケーショングループですDRBDは、リソース内のすべてのボリューム間で書き込みの忠実性を保証します。ボリュームは 0 から番号付けされ、1つのリソースにおいて、最大で65,535ボリュームまで可能です。ボリュームにはレプリケートされたデータセットを含み、DRBD内部で使用するメタデータのセットも含みます。

drbdadm コマンドでは、リソース内のボリュームを、リソース名とボリューム名を <resource>/<volume> のように記述して指定します。

DRBDデバイス

DRBDが管理する仮想的なブロックデバイスです。DRBDが管理する仮想的なブロックデバイスで、147のメジャー番号を持ち、minor番号は0から順次割り振られます。各DRBDデバイスは、リソース内の1つのボリュームに該当します。関連付けられたブロックデバイスは通常 /dev/drbdX の形式になり、 X はデバイス番号です。通常 udev#/dev/drbd/by-res/#resource/vol-nr にあるリソース名とボリューム名を含むシンボリックリンクも作成します。

DRBD のインストール方法によっては、RPM ベースのシステムに drbd-udev パッケージをインストールして、DRBD udev ルールをインストールする必要がある場合があります。DRBD udev ルールがインストールされる前にDRBDリソースが作成された場合は udevadm trigger コマンドを使用して、udevルールを手動でトリガーし、DRBDリソースの udev シンボリックリンクを生成する必要があります。
初期のバージョンのDRBDは、NBDのデバイスメジャー番号43を勝手に使っていました。現在は 147 という番号が、DRBD デバイスメジャー番号として、 allocated に登録されています。
コネクション

コネクション はレプリケートされるデータセットを共有する、2つのホスト間の通信リンクです。DRBD9では、各リソースが複数のホストで設定できますが、この場合、現在のバージョンではホスト間にフルメッシュ型の接続が必要です。つまり、リソース用に各ホストは他のホストへの接続が必要です。

drbdadm では、コネクションはリソース名とコネクション名(デフォルトでは対向のホスト名)で指定されます。

1.4. Resource Roles

DRBDのすべてのリソースプライマリ または セカンダリ のどちらかのロール(役割)を持っています。

「プライマリ」と「セカンダリ」という用語は適当に選んだものではないことを理解してください。DRBD開発者は意図的に「アクティブ」と「パッシブ」という用語を避けました。プライマリセカンダリストレージ の可用性に関する概念です。一方、 アクティブパッシブアプリケーション の可用性に関する概念です。ハイアベイラビリティクラスタ環境では、一般的にアクティブノードのDRBDは プライマリ になりますが、これが例外のないルールだということではありません。
  • プライマリロールのDRBDデバイスでは、データの読み込みと書き込みが制約なく行えます。  この状態のストレージに対しては、ファイルシステムの作成やマウントが可能であり、 ブロックデバイスに対する下位デバイスI/OやダイレクトI/O等も可能です。

  • セカンダリ ロールのDRBDデバイスは、対向するノードのすべてのデータの更新を受け取りますが、 他からのアクセスは受け付けません。 つまり自ノードのアプリケーションからのアクセスについても、読み込みと書き込みの両方とも一切受け付けません。  読み込みすら受け付けない理由は、 キャッシュの透過性を保証するためです。 もしもセカンダリリソースが自ノードからのアクセスを受け付けると、この保証ができなくなります。

リソースのロールは、もちろん手動で切り替えできる他に、クラスタ管理アプリケーションの何らかの自動化アルゴリズムによって、または自動プロモーションでも切り替えられます。セカンダリからプライマリへの切り替えを 昇格 と呼びます。一方プライマリからセダンダリの切り替えは 降格 と呼びます。

1.5. ハードウェアと環境の要件

DRBD のハードウェア、環境の要件と制限を以下に示します。DRBD は、数 KiB の物理ストレージとメモリで動作しますし、数 TiB のストレージと数 MiB メモリで動作するようにスケールアップもできます。

1.5.1. 最大デバイスサイズ

DRBD の最大デバイスサイズは 1PiB (1024TiB) です。

1.5.2. 必要なメモリ

DRBD は、1 TiB のストレージあたり約 32 MiB の RAM を必要とします[1]。したがって、DRBD の最大ストレージ容量 (1PiB) の場合、オペレーティングシステム、ユーザー空間、およびバッファキャッシュを考慮する以前に、DRBD ビットマップだけで 32GiB の RAM が必要になります。

1.5.3. CPU 要件

DRBD 9 は、次の CPU アーキテクチャ向けのビルドがテストされています。

  • amd64

  • arm64

  • ppc64le

  • s390x

DRBD 9 の最近のバージョンは、64 ビット CPU アーキテクチャビルドのみがテストされています。32 ビット CPU アーキテクチャビルドはサポートされておらず、動作するかどうかは不明です。

1.5.4. Linux カーネルの最小バージョン

DRBD 9.0 でサポートされている Linux カーネルの最小バージョンは 2.6.32 です。DRBD 9.1 以降、サポートされる Linux カーネルの最小バージョンは 3.10 です。

1.5.5. ノード上の DRBD ボリュームの最大数

マイナー番号に 20 ビットの制約があるため、ノードで使用できる DRBD ボリュームの最大数は 1048576 です。

1.5.6. DRBD リソースあたりの最大ボリューム数

DRBD リソースあたりのボリュームの最大数は 65535 で、0 から 65534 までの番号が付けられています。

1.5.7. リソースにアクセスするノードの最大数

同じ DRBD リソースに同時にアクセスできるノード数は 32 に制限されています。実際には、6 ノード以上のクラスターは推奨されません。

1.6. FIPSコンプライアンス

この標準は、暗号モジュールの設計および実装に使用されます。 — NIST’s FIPS 140-3 publication

DRBDバージョン9.2.6以降、TLS機能を使用してDRBDトラフィックを暗号化することが可能になりました。ただし、DRBD自体には暗号モジュールが含まれていません。DRBDは、`ktls-utils`パッケージ(`tlshd`デーモンで使用される)またはhttps://www.kernel.org/doc/html/latest/crypto/index.html[Linuxカーネル暗号API]で参照される 暗号モジュールを使用します。いずれの場合も、DRBDがトラフィックを暗号化するために使用する暗号モジュールは、FIPS準拠であり、FIPSモードが有効になっているオペレーティングシステムを使用している限り、FIPS準拠になります。

TLS機能を有効にしていない場合、DRBDは暗号モジュールを使用しません。

DRBDのバージョン9.2.6以前では、暗号化を利用する場合、DRBD自体ではなく別のブロックレイヤーで実装する必要がありました。Linux Unified Key Setup(LUKS)はそのような実装の一例です。 「LINSTORユーザーガイド」には、LINSTORをDRBDレイヤーの下にLUKSレイヤーを重ねる方法についての詳細が記載されています。https://linbit.com/drbd-user-guide/linstor-guide-1_0-en/#s-linstor-without-drbd[LINSTOR User’s Guide]に詳細があります。

LINSTORの外でDRBDを使用している場合、DRBDの上にLUKSを重ねることができます。ただし、この実装は推奨されていません。なぜなら、DRBDがディスクレスにアタッチしたりリソースを自動昇格したりできなくなるからです。

2. DRBDの機能

本章ではDRBDの有用な機能とその背景にある情報を紹介します。いくつかの機能はほとんどのユーザーにとって重要な機能ですが、別のいくつかの機能については特定の利用目的においてのみ関係します。これらの機能を使うために必要な設定方法については、DRBDの使い方およびトラブルシューティングとエラーからの回復を参照してください。

2.1. シングルプライマリモード

シングルプライマリモードでは、個々のリソース は、任意の時点でクラスタメンバのどれか1台のみプライマリになれます。どれか1台のクラスタノードのみがデータを更新できることが保証されるため、従来の一般的なファイルシステム(ext3、ext4、XFSなど)を操作するのに最適な処理モードと言えます。

一般的なハイアベイラビリティクラスタ(フェイルオーバタイプ)を実現する場合、DRBDをシングルプライマリモードで設定してください。

2.2. デュアルプライマリモード

デュアルプライマリモードでは、リソースは一度に 2 つのノードでプライマリの役割を担うことができます。したがって、データへの同時アクセスが可能であるため、このモードでは通常、分散ロックマネージャーを利用する共有クラスターファイルシステムを使用する必要があります。 利用できるファイルシステムには GFSOCFS2 があります。

2つのノード経由でのデータへの同時アクセスが必要なクラスタシステムの負荷分散をはかりたい場合、デュアルプライマリモードが適しています。例えばライブマイグレーションが必要な仮想化環境などです。 このモードはデフォルトでは無効になっており、DRBD設定ファイルで明示的に有効にする必要があります。

特定のリソースに対して有効にする方法については、デュアルプライマリモードを有効にするを参照してください。

2.3. レプリケーションのモード

DRBDは3種類のレプリケーションモードをサポートしています。

プロトコルA

非同期レプリケーションプロトコルプライマリノードでのディスクへの書き込みは、自機のディスクに書き込んだ上でレプリケーションパケットを自機のTCP送信バッファに送った時点で、完了したと判断されます。システムクラッシュなどの強制的なフェイルオーバが起こると、データを紛失する可能性があります。クラッシュが原因となったフェイルオーバが起こった場合、待機系ノードのデータは整合性があると判断されますが、クラッシュ直前のアップデート内容が反映されない可能性があります。プロトコルAは、遠隔地へのレプリケーションに最も適しています。 DRBD Proxyと組み合わせて使用すると、効果的なディザスタリカバリソリューションとなります。詳しくは DRBD Proxyによる遠距離レプリケーション を参照ください。

プロトコルB

メモリ同期(半非同期)レプリケーションプロトコル。プライマリノードでのディスクへの書き込みは、自機のディスクに書き込んだ上でレプリケーションパケットが他機に届いた時点で、完了したと判断されます。通常、システムクラッシュなどの強制的なフェイルオーバでのデータ紛失は起こりません。しかし、両ノードに同時に電源障害が起こり、プライマリノードのストレージに復旧不可能な障害が起きると、プライマリ側にのみ書き込まれたデータを失う可能性があります。

プロコトルC

同期レプリケーションプロトコルプライマリノードでのディスクへの書き込みは、両ノードのディスクへの書き込みが終わった時点で完了したと判断されます。このため、どちらかのノードでデータを失っても、系全体としてのデータ紛失には直結しません。当然ながら、このプロトコルを採用した場合であっても、両ノードまたはそのストレージサブシステムに復旧できない障害が同時に起こると、データは失われます。

このような特質にもとづき、もっとも一般的に使われているプロトコルはCです。

レプリケーションプロトコルを選択するときに考慮しなければならない要因が2つあります。 データ保護レイテンシ遅延 です。一方で、レプリケーションプロトコルの選択は スループット にはほとんど影響しません。

レプリケーションプロトコルの設定例については、リソースの設定を参照してください。

2.4. 2重以上の冗長性

DRBD9では同時に2つ以上のクラスタノードにデータを書き込むことができます。

これはスタッキングを通じても可能でしたが、DRBD9では枠を超えて32ノードまで対応しました。 (実際の環境では、DRBDを通じて3重、4重、または5重の冗長化は、ダウンタイムを招く原因になることがあります。)

スタッキングを用いる場合との最大の違いは、同一の階層でデータのレプリケーションを行うのでパフォーマンスの低下が少ないことです。

2.5. リソースの自動プロモーション

DRBD9以前は、リソースを昇格するときには drbdadm primary コマンドを使用しました。DRBD9では、 auto-promote オプションが有効になっていればDRBDが自動的にリソースをプライマリにして、ボリュームをマウントや書き込みが可能になります。全ボリュームがアンマウントされると、すぐにセカンダリロールに変更されます。

自動プロモーションは、それが可能なクラスタ状態の時にのみ成功します。(つまり drbdadm primary コマンドの実行が成功する場合)そうでなければ、DRBD9以前と同様にマウントやデバイスのオープンは行えません。

2.6. 複数の転送プロトコル

DRBDは複数のネットワークプロトコルに対応しています。現在、TCPとRDMAの2つのトランスポートに対応しています。各トランスポートの実装はOSのカーネルモジュールを使用しています。

2.6.1. TCPトランスポート

DRBDのパッケージファイルには drbd_trasport_tcp.ko が含まれ、これによって実装されています。 その名の通り、TCP/IPプロトコルを使ってマシン間のデータ転送を行います。

DRBDのレプリケーションおよび同期フレームワークのソケットレイヤーは複数のトランスポートプロトコルに対応しています。

TCP over IPv4

標準的かつDRBDのデフォルトのプロトコルです。IPv4が有効なすべてのシステムで利用できます。

TCP over IPv6

レプリケーションと同期用のTCPソケットの設定においては、IPv6もネットワークプロトコルとして使用できます。アドレシング方法が違うだけで、動作上もパフォーマンス上もIPv4と変わりはありません。

SDP

SDPは、InfiniBandなどのRDMAに対応するBSD形式ソケットです。SDPは多くのディストリビューションでOFEDスタックの一部として利用されていましたが、現在は 非推奨 です。SDPはIPv4形式のアドレシングに使用しますインフィニバンドを内部接続に利用すると、SDPによる高スループット、低レイテンシのDRBDレプリケーションネットワークを実現することができます。

SuperSockets

スーパーソケットはTCP/IPスタック部分と置き換え可能なソケット実装で、モノリシック、高効率、RDMA対応などの特徴を持っています。きわめてレイテンシが低いレプリケーションを実現できるプロトコルとして、DRBDはSuperSocketsをサポートしています。現在のところ、SuperSocketsはDolphin Interconnect Solutionsが販売するハードウェアの上でのみ利用できます。

2.6.2. RDMAトランスポート

DRBD バージョン 9.2.0 以降、 drbd_transport_rdma カーネルモジュールがオープンソースコードとして利用可能になりました。

LINBIT の tar archived DRBD releases page または DRBD GitHub repository からオープンソースコードをダウンロードできます。

あるいは、LINBIT の顧客であれば、 drbd_transport_rdma.ko カーネルモジュールが LINBIT の顧客ソフトウェアリポジトリで利用できます。

このトランスポートはverbs/RDMA APIを使ってInfiniBand HCAsやiWARPが使えるNIC、またはRoCEが使えるNICでデータ転送をします。TCP/IPで使用するBSDソケットAPIと比較して、verbs/RDMA APIでは非常に低いCPU負荷でデータ転送が行えます。

TCPトランスポートのCPUロード/メモリ帯域が制約要因であれば、高い転送率が可能となります。 適切なハードウェアでRDMAトランスポートを使用すれば高い転送率を実現することができます。

転送プロトコルはリソースのコネクションごとに設定することができます。詳細はトランスポートプロトコルの設定を参照ください。

2.7. 複数の path

DRBDは接続ごとに複数のパスを設定することができます。TCP転送では、接続ごとに通常1つのパスしか使用されませんが、TCPロードバランシング機能を設定している場合は複数のパスを利用できます。一方、RDMA転送では、1つの接続の複数のパスでネットワークトラフィックのバランスを取ることができます。詳細については、複数の経路の設定 を参照してください。

2.8. 効率的なデータ同期

同期ならびに再同期は、レプリケーションとは区別されます。レプリケーションは、プライマリノードでのデータの書き込みに伴って実施されますが、同期はこれとは無関係です。同期はデバイス全体の状態に関わる機能です。

プライマリノードのダウン、セカンダリノードのダウン、レプリケーション用ネットワークのリンク中断など、さまざまな理由によりレプリケーションが一時中断した場合、同期が必要になります。DRBDの同期は、もともとの書き込み順序ではなくリニアに書き込むロジックを採用しているため、効率的です。

  • 何度も書き込みが行われたブロックの場合でも、同期は1回の書き込みですみます。このため、同期は高速です。

  • ディスク上のブロックレイアウトを考慮して、わずかなシークですむよう、同期は最適化されています。

  • 同期実行中は、スタンバイノードの一部のデータブロックの内容は古く、残りは最新の状態に更新されています。この状態のデータは inconsistent (不一致)と呼びます。

DRBDでは、同期はバックグラウンドで実行されるので、アクティブノードのサービスは同期によって中断されることはありません。

重要:データに不一致箇所が残っているノードは、多くの場合サービスに利用できません。このため、不一致である時間を可能な限り短縮することが求められます。そのため、DRBDは同期直前のLVMスナップショットを自動で作成するLVM統合機能を実装しています。これは同期中であっても対向ノードと_consistent_(一致する)一致するコピーを保証します。この機能の詳細についてはDRBD同期中の自動LVMスナップショットの使用をご参照ください。

2.8.1. 可変レート同期

可変レート同期(8.4以降のデフォルト)の場合、DRBDは同期のネットワーク上で利用可能な帯域幅を検出し、それと、フォアグランドのアプリケーションI/Oからの入力とを比較する、完全自動制御ループに基づいて、最適な同期レートを選択します。

可変レート同期に関する設定の詳細については、可変同期速度設定を参照してください。

2.8.2. 固定レート同期

固定レート同期の場合、同期ホストに対して送信される1秒あたりのデータ量(同期速度)には設定可能な静的な上限があります。この上限に基づき、同期に必要な時間は、次の簡単な式で予測できます。

equation
図 2. 同期時間

tsync は同期所要時間の予測値です。 D は同期が必要なデータ量で、リンクが途絶えていた間にアプリケーションによって更新されたデータ量です。 R は設定ファイルに指定した同期速度です。ただし実際の同期速度はネットワークやI/Oサブシステムの性能による制約を受けます。

固定レート同期に関する設定の詳細については同期速度の設定を参照してください。

2.8.3. チェックサムベース同期

DRBDの同期アルゴリズムは、データダイジェスト(チェックサム)を使うことによりさらに効率化されています。チェックサムベースの同期を行うことで、より効率的に同期対象ブロックの書き換えが行われます。DRBDは同期を行う前にブロックを_読み込み_ディスク上のコンテンツのハッシュを計算します。このハッシュと、相手ノードの同じセクタのハッシュを比較して、値が同じであれば、そのブロックを同期での書き換え対象から外します。これにより、DRBDが切断モードから復旧し再同期するときなど、同期時間が劇的に削減されます。

同期に関する設定の詳細はチェックサムベース同期の設定をご参照ください。

2.9. レプリケーションの中断

DRBDが正しく設定されていれば、DRBDはレプリケーションネットワークが輻輳していることを検出することが可能です。その場合にはレプリケーションを 中断 します。この時、プライマリノードはセカンダリとの通信を切断するので一時的に同期しない状態になりますが、セカンダリでは整合性のとれたコピーを保持しています。帯域幅が確保されると、自動で同期が再開し、バックグラウンド同期が行われます。

レプリケーションの中断は、データセンタやクラウドインスタンス間との共有接続で遠隔地レプリケーションを行うような、可変帯域幅での接続の場合に通常利用されます。

輻輳のポリシーとレプリケーションの停止についてほ詳細は輻輳ポリシーと中断したレプリケーションの構成をご参照ください。

2.10. オンライン照合

オンライン照合機能を使うと、2ノードのデータの整合性を、ブロックごとに効率的な方法で確認できます。

ここで 効率的 というのはネットワーク帯域幅を効率的に利用することを意味しています。照合によって冗長性が損なわれることはありません。しかしオンライン照合はCPU使用率やシステム負荷を高めます。この意味では、オンライン照合はリソースを必要とします。

一方のノード( 照合ソース )で、低レベルストレージデバイスのブロックごとのダイジェストを計算します。DRBDはダイジェストを他方のノード( 照合ターゲット )に転送し、そこでローカルの対応するブロックのダイジェストと照合します。ダイジェストが一致しないブロックはout-of-syncとマークされ、後で同期が行われます。DRBDが転送するのはダイジェストであって、ブロックのデータそのものではありません。このため、オンライン照合はネットワーク帯域幅をきわめて効率的に活用します。

このプロセスは、照合対象のDRBDリソースを利用したまま実行できます。これが_オンライン_の由来です。照合によるパフォーマンス低下は避けられませんが、照合およびその後の同期作業全体を通じてサービスの停止やシステム全体を停止する必要はありません。

オンライン照合は、週または月に1回程度の頻度でcronデーモンから実行するのが妥当です。オンライン照合機能を有効にして実行する方法や、これを自動化する方法については、オンラインデバイス照合の使用をご参照ください。

2.11. レプリケーション用トラフィックの整合性チェック

DRBDは、MD5、SHA-1またはCRD-32Cなどの暗号手法にもとづきノード間のメッセージの整合性チェックができます。

DRBD自身はメッセージダイジェストアルゴリズムは 備えていません 。Linuxカーネルの暗号APIが提供する機能を単に利用するだけです。したがって、カーネルが備えるアルゴリズムであれば、どのようなものでも利用可能です。

本機能を有効にすると、レプリケート対象のすべてのデータブロックごとのメッセージダイジェストが計算されます。レプリケート先のDRBDは、レプリケーション用パケットの照合にこのメッセージダイジェストを活用します。 データの照合が失敗したら、レプリケート先のDRBDは、失敗したブロックに関するパケットの再送を求めます。 この機能を使うことで、データの損失を起こす可能性がある次のようなさまざまな状況への備えが強化され、DRBDによるレプリーションが保護されます。

  • 送信側ノードのメインメモリとネットワークインタフェースの間で生じたビット単位エラー(ビット反転)。 この種のエラーは、多くのシステムにおいてTCPレベルのチェックサムでは検出できません。

  • 受信側ノードのネットワークインタフェースとメインメモリの間で生じたビット反転。 TCPチェックサムが役に立たないのは前項と同じです。

  • 何らかのリソース競合やネットワークインタフェースまたはそのドライバのバグなどによって生じたデータの損傷。

  • ノード間のネットワークコンポーネントが再編成されるときなどに生じるビット反転やデータ損傷。 このエラーの可能性は、ノード間をネットワークケーブルで直結しなかった場合に考慮する必要があります。

レプリケーショントラフィックの整合性チェックを有効にする方法については、レプリケーショントラフィックの整合性チェックを設定をご参照ください。

2.12. スプリットブレインの通知と自動修復

クラスタノード間のすべての通信が一時的に中断され、クラスタ管理ソフトウェアまたは人為的な操作ミスによって両方のノードが プライマリ になった場合に、スプリットブレインの状態に陥ります。それぞれのノードでデータの書き換えが行われることが可能になってしまうため、この状態はきわめて危険です。つまり、2つの分岐したデータセットが作られてしまう軽視できない状況に陥る可能性が高くなります。

クラスタのスプリットブレインは、Pacemaker などが管理するホスト間の通信がすべて途絶えたときに生じます。これとDRBDのスプリットブレインは区別して考える必要があります。このため、本書では次のような記載方法を使うことにします。

  • スプリットブレイン は、DRBDのスプリットブレインと表記します。

  • クラスタノード間のすべての通信の断絶のことを クラスタ・パーティション と表記します。

スプリットブレインに陥ったことを検出すると、DRBDは電子メールまたは他の方法によって管理者に自動的に通知できます。この機能を有効にする方法についてはスプリットブレインの通知をご参照ください。

スプリットブレインへの望ましい対処方法は、手動回復 を実施した後、根本原因を取り除くことです。しかし、ときにはこのプロセスを自動化する方がいい場合もあります。自動化のために、DRBDは以下のいくつかのアルゴリズムを提供します。

  • 「若い」プライマリ側の変更を切り捨てる方法 ネットワークの接続が回復してスプリットブレインを検出すると、DRBDは 直近で プライマリに切り替わったノードのデータを切り捨てます。

  • 「古い」プライマリ側の変更を切り捨てる方法 DRBDは 先に プライマリに切り替わったノードの変更を切り捨てます。

  • 変更が少ないプライマリ側の変更を切り捨てる方法 DRBDは2つのノードでどちらが変更が少ないかを調べて、少ない方のノードの すべて を切り捨てます。

  • 片ノードに変更がなかった場合の正常回復 もし片ノードにスプリットブレインの間にまったく変更がなかった場合、DRBDは正常に回復し、修復したと判断します。しかし、こういった状況はほとんど考えられません。仮にリードオンリーでファイルシステムをマウントしただけでも、デバイスへの書き換えが起きるためです。

自動修復機能を使うべきかどうかの判断は、個々のアプリケーションに強く依存します。データベースをレプリケーションしている場合を例とすると、変更量が少ないノードのデータを切り捨てるアプローチは、ある種のWebアプリケーションの場合には適しているかもしれません。一方で、金融関連のデータベースアプリケーションでは、 いかなる 変更でも自動的に切り捨てることは受け入れがたく、いかなるスプリットブレインの場合でも手動回復が望ましいでしょう。スプリットブレイン自動修復機能を使う場合、アプリケーションの特性を十分に考慮してください。

DRBDのスプリットブレイン自動修復機能を設定する方法については、スプリットブレインからの自動復旧ポリシーを参照してください。

2.13. ディスクフラッシュのサポート

ローカルディスクやRAID論理ディスクでライトキャッシュが有効な場合、キャッシュにデータが記録された時点でデバイスへの書き込みが完了したと判断されます。このモードは一般にライトバックモードと呼ばれます。このような機能がない場合の書き込みはライトスルーモードです。ライトバックモードで運用中に電源障害が起きると、最後に書き込まれたデータはディスクにコミットされず、データを紛失する可能性があります。

これを解消するために、DRBDはディスクフラッシュを使用しています。ディスクフラッシュとは、関連するデータが安定した(不揮発性の)ストレージに確保された時点で完了する書き込み操作のことです。つまり、データがディスクに書き込まれたときにのみ完了し、キャッシュではなくディスクに書き込まれたことを意味します。DRBDは、複製されたデータセットとメタデータの両方に対して書き込み操作にディスクフラッシュを使用します。実際には、DRBDは、アクティビティログの更新や暗黙の書き込み後書き込み依存関係の強制など、必要と判断される状況で書き込みキャッシュを迂回します。これにより、停電の際でも追加の信頼性が得られます。

しかしDRBDがディスクフラッシュを活用できるのは、直下のディスクデバイスがこの機能をサポートしている場合に限られることに注意してください。最近のカーネルは、ほとんどのSCSIおよびSATAデバイスに対するフラッシュをサポートしています。LinuxソフトウェアRAID (md)は、直下のデバイスがサポートする場合に限り、RAID-1に対してフラッシュをサポートします。デバイスマッパ(LVM2、dm-raid、マルチパス)もフラッシュをサポートしています。

電池でバックアップされた書き込みキャッシュ(BBWC)は、電池からの給電による不揮発性ストレージです。このようなデバイスは、電源障害から回復したときに中断していたディスクへの書き込みをディスクにフラッシュできます。このため、キャッシュへの書き込みは、事実上安定したストレージへの書き込みと同等とみなせます。この種のデバイスが使える場合、DRBDの書き込みパフォーマンスを向上させるためにフラッシュを無効に設定するのがよいかもしれません。詳細は下位デバイスのフラッシュを無効にするをご参照ください。

2.14. Trim/Discardのサポート

Trim and Discard are two names for the same feature: a request to a storage system, telling it that some data range is not being used anymore[2] and can be erased internally.
This call originates in Flash-based storages (SSDs, FusionIO cards, and so on), which cannot easily rewrite a sector but instead have to erase and write the (new) data again (incurring some latency cost). For more details, see for example, the wikipedia page.

DRBDは8.4.3から trim/discard をサポートしています。設定や有効化を行う必要はありません。DRBDはローカル(下位の)ストレージシステムがそれらのコマンドをサポートしていることを検出すると、自動的に利用します。

その効果の例をあげると、大部分または全てのストレージ領域が無効になったとDRBDに伝えることで(DRBDはこれをすべての接続しているノードにリレーします)、比較的最近のmkfs.ext4であれば、初期同期時間を数TBのボリュームでも数秒から数分ほどに短縮することができます。

その後そのノードに接続する後続のリソースは Trim/Discard 要求ではなく、フル同期を行います。カーネルバージョンやファイルシステムによっては fstrim が効果を持つことがあります。

ストレージ自体が Trim/Discard をサポートしていなくても、LVMのシンプロビジョニングボリュームなどの仮想ブロックデバイスでも同様の機能を提供しています。

2.15. ディスクエラー処理ストラテジー

どちらかのノードのDRBD下位ブロックデバイスがI/Oエラーを返したときに、DRBDがそのエラーを上位レイヤ(多くの場合ファイルシステム)に伝えるかどうかを制御できます。

I/Oエラーを伝える

pass_onを設定すると、下位レベルのエラーをDRBDはそのまま上位レイヤに伝えます。したがって、そのようなエラーへの対応(ファイルシステムをリードオンリーでマウントしなおすなど)は上位レイヤに任されます。このモードはサービスの継続性を損ねることがあるので、多くの場合推奨できない設定だといえます。

I/Oエラーを伝えない.

detach を設定すると、最初の下位レイヤでのI/Oエラーに対して、DRBDは自動的にそのレイヤを切り離します。上位レイヤにI/Oエラーは伝えられず、該当ブロックのデータはネットワーク越しに対向ノードに書き込まれます。その後DRBDはディスクレスモードと呼ばれる状態になり、すべてのI/Oは対向ノードに対して読み込んだり、書き込むようになります。このモードでは、パフォーマンスは犠牲になりますが、サービスは途切れることなく継続できます。また、都合のいい任意の時点でサービスを対向ノードに移動させることができます。

I/Oエラー処理方針を設定する方法についてはI/Oエラー処理方針の設定を参照してください。

2.16. 無効データの処理ストラテジー

DRBDはデータの inconsistent(不整合状態)outdated(無効状態) を区別します。不整合とは、いかなる方法でもアクセスできずしたがって利用できないデータ状態です。たとえば、進行中の同期先のデータが不整合データの例です。この場合、ノードのデータは部分的に古く、部分的に新しくなっており、ノード間の同期は不可能になります。下位デバイスの中にファイルシステムが入っていたら、このファイルシステムは、マウントはもちろんチェックも実行できません。

無効データは、セカンダリノード上のデータで、整合状態にあるもののプライマリ側と同期していない状態のデータをさします。一時的か永続的かを問わず、レプリケーションリンクが途切れたときに、この状態が生じます。リンクが切れている状態でのセカンダリ側の無効データは、クリーンではあるものの、対向ノードのデータ更新が反映されず古いデータ状態になっている可能性があります。サービスが無効データを使ってしまうことを防止するために、DRBDは無効データをプライマリに切り替えることを許可しません。

DRBDにはネットワークの中断時にセカンダリノードのデータを無効に設定するためのインタフェースがあります。DRBDは無効データをアプリケーションが使ってしまうことを防止するために、このノードがプライマリになることを拒絶します。 本機能の完全は実装は、DRBDレプリケーションリンクから独立した通信経路を使用するPacemakerクラスタ管理フレームワーク用になされていますが、しかしこのAPIは汎用的なので、他のクラスタ管理アプリケーションでも容易に本機能を利用できます。

レプリケーションリンクが復活すると、無効に設定されたリソースの無効フラグは自動的にクリアされます。そしてバックグラウンド同期が実行されます。

2.17. 3ノードレプリケーション

この機能はDRBDバージョン8.3.0以上で使用可能ですが、DRBDバージョン9.xでは単一階層で複数ノードが使用可能のため非推奨です。詳細は ネットワークコネクションの定義をご参照ください。

3ノードレプリケーションとは、2ノードクラスタに3番目のノードを追加してDRBDでレプリケーションするものです。この方法は、バックアップやディザスタリカバリのために使われます。 このタイプの構成では一般的に DRBD Proxyによる遠距離レプリケーション の内容も関係します。

3ノードレプリケーション既存のDRBDリソースの上にもうひとつのDRBDリソースを スタック(積み重ね) することによって実現されます。次の図を参照してください。

drbd resource stacking
図 3. DRBDリソーススタッキング

下位リソースのレプリケーションには同期モード(DRBDプロトコルC)を使いますが、上位リソースは非同期レプリケーション(DRBDプロトコルA)で動作させます。

3ノードレプリケーションは、常時実行することも、オンデマンドで実行することもできます。常時レプリケーションでは、クラスタ側のデータが更新されると、ただちに3番目のノードにもレプリケートされます。オンデマンドレプリケーションでは、クラスタシステムとバックアップサイトの通信はふだんは停止しておき、cronなどによって定期的に夜間などに同期をはかります。

2.18. DRBD Proxyによる遠距離レプリケーション

DRBDのプロトコルAは非同期モードです。しかし、ソケットの出力バッファが一杯になると(drbd.conf マニュアルページの sndbuf-size を参照ください)、アプリケーションからの書き込みはブロックされてしまいます。帯域幅が狭いネットワークを通じて書き込みデータが対向ノードに送られるまで、そのデータを書き込んだアプリケーションは待たなければなりません。

平均的な書き込み帯域幅は、利用可能なネットワークの帯域幅によって制約されます。ソケットの出力バッファに収まるデータ量までのバースト的な書き込みは、問題なく処理されます。

オプション製品のDRBD Proxyのバッファリング機構を使って、この制約を緩和できます。DRBDプライマリノードからの書き込みデータは、DRBD Proxyのバッファに格納されます。DRBD Proxyのバッファサイズは、アドレス可能空間や搭載メモリの範囲内で自由に設定できます

データ圧縮を行うように設定することも可能です。圧縮と伸長(解凍)は、応答時間をわずかに増やしてしまいます。しかしネットワークの帯域幅が制約要因になっているのなら、転送時間の短縮効果は、圧縮と伸長(解凍)によるオーバヘッドを打ち消します。

圧縮伸長(解凍)機能は複数CPUによるSMPシステムを想定して実装され、複数CPUコアをうまく活用できます。

多くの場合、ブロックI/Oデータの圧縮率は高く、帯域幅の利用効率は向上します。このため、DRBD Proxyを使うことによって、DRBDプロトコルBまたはCを使うことも現実的なものとなります。

DRBD Proxyの設定についてはDRBD Proxyの使用を参照ください。

DRBD ProxyはオープンソースライセンスによらないDRBDプロダクトファミリの製品になります。評価や購入については [email protected] へご連絡ください。

2.19. トラック輸送によるレプリケーション

トラック輸送(またはディスク輸送)によるレプリケーションは、ストレージメディアを遠隔サイトに物理的に輸送することによるレプリケーションです。以下の制約がある場合に、この方法はとくに有効です。

  • 合計のレプリケート対象データ領域がかなり大きい(数百GB以上)

  • 予想されるレプリケートするデータの変更レートがあまり大きくない

  • 利用可能なサイト間のネットワーク帯域幅が限られている

このような状況にある場合、トラック輸送を使わなければ、きわめて長期間(数日から数週間またはそれ以上)の初期同期が必要になってしまいます。トラック輸送でデータを遠隔サイトに輸送する場合、初期同期時間を劇的に短縮できます。詳細はトラックベースのレプリケーションの使用を参照ください。

2.20. 動的対向ノード

この記述方法はDRBDバージョン8.3.2以上で使用できます。

DRBDのやや特殊な使用方法に 動的対向ノード があります。動的対向ノードを設定すると、DRBDの対向同士は(通常設定の)特定のホスト名を持つノードには接続せず、いくつかのホスト間を動的に選択して接続するする事ができます。この設定において、DRBDは対向ノードをホスト名ではなくIPアドレスで識別します。

動的対向ノードの設定については2セットのSANベースPacemakerクラスタ間をDRBDでレプリケートを参照ください。

2.21. データ再配置(ストレージの水平スケール)

例えば、会社のポリシーで3重の冗長化が要求される場合、少なくとも3台のサーバが必要になります。

しかし、データ量が増えてくると、サーバ追加の必要性に迫られます。その際には、また新たに3台のサーバを購入する必要はなく、1つのノードだけを追加をしてデータを 再配置 することができます。

rebalance
図 4. DRBDデータ再配置

上の図では、3ノードの各々に25TiBのボリュームがある合計75TiBの状態から、4ノードで合計100TiBの状態にしています。

これらはDRBD9ではオンラインで行うことができます。実際の手順についてはデータ再配置ご覧ください。

2.22. DRBDクライアント

DRBDの複数の対向ノード機能に、 DRBDクライアント などの新しいユースケースが追加されました。

基本的にDRBD バックエンド は3〜4、またはそれ以上(冗長化の要件に応じて)で構成できます。しかしDRBD9はそれ以上でも接続することができます。なお1つのビットマップslot[3]ディスクレスプライマリ ( DRBDクライアント )用に予約されます。

プライマリの DRBDクライアント で実行されるすべての書き込み要求は、ストレージを備えたすべてのノードに送られます。読み込み要求は、サーバーノードの1つにのみ送られます。 DRBDクライアント は、使用可能なすべてのサーバーノードに均等に読み読み要求を送ります。

詳細は 永続的なディスクレスノード を参照ください。

2.23. クォーラム

スプリットブレインまたは複製データの分離を回避するためには、フェンシングを構成する必要があります。しかし、ノードのフェンシングは実際の配備であまり人気がありません。これは計画や配備でミスが発生しやすいからです。

データセットに3つの複製をもつことで、Pacemakerレベルのフェンシングに変わってDRBDのクォーラム実装を使用することができます。 Pacemakerはリソースのマスタースコアを通してクォーラムまたはクォーラム喪失の通知を受け取ります。

DRBDのクォーラムはあらゆる種類のLinuxベースのサービスで使用できます。IOエラーによりサービスが終了する瞬間など、クォーラム喪失の動作はとてもよくできています。IOエラーでサービスが終了しないときは、クォーラム喪失したプライマリノードをリブートするようシステもを構成する必要があります。

詳細は クォーラム設定 を参照ください。

2.23.1. タイブレーカー

クォーラムタイブレーカー機能は、DRBDバージョン9.0.18以降で使用できます。

2つのノードクラスタの基本的な問題は、それらが接続性を失うと同時に2つのパーティションを持ち、それらのどちらもクォーラムを持たず、その結果クラスタサービスが停止することです。この問題は、クォーラムタイブレーカーとして機能する3つ目のディスクレスノードをクラスターに追加することで軽減できます。

2.24. Resync-after

DRBD は必要なすべての再同期操作を並行して実行するため、ノードはできるだけ早く最新のデータと再統合されます。これは、下位ディスクごとに 1 つの DRBD リソースがある場合にうまく機能します。

しかし、DRBD リソースが物理ディスクを共有している場合 (または単一のリソースが複数のボリュームにまたがっている場合)、これらのリソース (またはボリューム) を並行して再同期すると、非線形のアクセス パターンが発生します。ハードディスクは、線形アクセスパターンではるかに優れたパフォーマンスを発揮します。このような場合、DRBD リソース構成ファイルの disk セクション内で resync-after キーワードを使用して、再同期をシリアル化できます。

例としては こちら を参照ください。

2.25. フェールオーバークラスター

多くのシナリオでは、DRBD をフェールオーバークラスターのリソースマネージャーと組み合わせると便利です。DRBD は、DRBD Reactor やそのプロモータープラグイン (Pacemaker) などのクラスターリソースマネージャー (CRM) と統合して、フェイルオーバークラスターを作成できます。

DRBD Reactor は、DRBD イベントを監視して対応するオープンソースツールです。そのプロモータープラグインは、systemd ユニット ファイルまたは OCF リソースエージェントを使用してサービスを管理します。DRBD Reactor は DRBD のクラスタ通信のみに依存しているため、独自の通信の設定は必要ありません。

DRBD Reactor では、監視している DRBD リソースでクォーラムが有効になっている必要があるため、フェイルオーバークラスターには少なくとも 3 つのノードが必要です。制限は、コロケーションされたサービスに対してのみサービスの順序をサポートすることです。その利点の 1 つは、一時的なネットワーク障害の後にクラスターを完全に自動回復できることです。これは、その単純さと相まって、推奨されるフェールオーバークラスターマネージャーになります。さらに、DRBD Reactor は、3 つ以上のノード (クォーラム用) のデプロイメントで STONITH や冗長ネットワークを必要としないため、クラウドへの展開に完全に適しています。

Pacemaker は、高可用性クラスター向けの最も長く利用されているオープンソースクラスターのリソースマネージャーです。独自の通信レイヤー (Corosync) が必要であり、さまざまなシナリオに対処するには STONITH が必要です。STONITH には専用のハードウェアが必要な場合があり、サービス障害の影響範囲が広がる可能性があります。Pacemaker はおそらく、リソースの場所と順序の制約を表現するための最も柔軟なシステムを備えています。ただし、この柔軟性により、セットアップが複雑になる可能性があります。

さらに、Linux 用 SIOS LifeKeeper、Linux 用 HPE Serviceguard、Veritas Cluster Server など、DRBD と連携するフェイルオーバークラスターの独自のソリューションもあります。

2.26. DRBDとVCSの統合

Veritas Cluster Server (or Veritas Infoscale Availabilty) はオープンソースであるPacemakerの代替となる商用製品です。DRBDリソースをVSCセットアップとともに使用する場合は github の drbd-utils/scripts/VCS の README を参照ください。

DRBDのコンパイル、インストールおよび設定

3. コンパイル済みDRBDバイナリパッケージのインストール

3.1. LINBIT 提供パッケージ

DRBDプロジェクトのスポンサー企業であるLINBITは、商用サポートの顧客向けにバイナリパッケージを提供しています。これらのパッケージはリポジトリやパッケージマネージャーのコマンド(例: apt, dnf)を通じて利用可能であり、適切な場合はLINBITのDockerレジストリを通じても利用できます。これらのソースからのパッケージやイメージは「公式」ビルドと見なされています。

これらのビルドは次のディストリビューションで入手できます。

  • Red Hat Enterprise Linux (RHEL), versions 7, 8 and 9

  • SUSE Linux Enterprise Server (SLES), versions 12 and 15

  • Debian GNU/Linux, 9 (stretch), 10 (buster), and 11 (bullseye)

  • Ubuntu Server Edition LTS 18.04 (Bionic Beaver), LTS 20.04 (Focal Fossa), and LTS 22.04 (Jammy Jellyfish)

  • Oracle Linux (OL), versions 8 and 9

特定の配布情報に署名されたDRBDカーネルモジュールの詳細な情報については、セキュアブートのための LINBIT カーネルモジュール署名セクションを参照してください。

他のディストリビューションのビルドも用意していますが、十分なテストは経ていません。

LINBIT社では、新規のDRBDソースのリリースと並行してバイナリビルドをリリースしています。

SLES、RHEL、AlmaLinuxなどのRPMベースのシステムでのパッケージのインストールは、単純に`dnf install`(新規インストール用)または`dnf update`(アップグレード用)を使用することで行われます。

DEBベースのシステム(Debian GNU/Linux、Ubuntu)では、`drbd-utils`および`drbd-module-`uname -r“パッケージは`apt install`を使用してインストールされます。

3.1.1. ノードを登録し、パッケージリポジトリを構成するためのLINBITヘルパースクリプトの使用

LINBITのお客様であれば、LINBITのカスタマーリポジトリから必要なDRBDおよび依存関係をインストールすることができます。これらのリポジトリにアクセスするには、LINBITのシステムで設定されており、リンク:https://my.linbit.com/[LINBIT Customer Portal] にアクセスできる必要があります。もしLINBITのシステムで設定されていない場合や評価アカウントをご希望の場合は、[email protected] に連絡してください。

ノードを登録するためのLINBIT Customer Portalの使用

LINBITの顧客ポータルへのアクセスが可能になったら、LINBITのPythonヘルパースクリプトを使用してクラスターノードを登録し、リポジトリへのアクセスを設定することができます。このスクリプトの詳細については、顧客ポータルのhttps://my.linbit.com/#/reg_nodes[Register Nodes]セクションをご覧ください。

LINBIT Manage Nodes ヘルパースクリプトのダウンロードおよび実行

LINBITヘルパースクリプトをダウンロードして実行し、ノードを登録してLINBITリポジトリへのアクセスを構成するためには、すべてのノードで次のコマンドを1つずつ入力してください。

# curl -O https://my.linbit.com/linbit-manage-node.py
# chmod +x ./linbit-manage-node.py
# ./linbit-manage-node.py
スクリプトは管理者権限で実行する必要があります。
`linbit-manage-node.py`を実行する際に`no python interpreter found :-(`というエラーメッセージが表示された場合、Python 3をインストールするために、RPMベースのディストリビューションでは`dnf -y install python3`と入力し、DEBベースのディストリビューションでは`apt -y install python3`と入力してください。

スクリプトは、あなたにLINBITカスタマーポータルのユーザー名とパスワードを入力するように促します。資格情報を検証した後、スクリプトは、あなたのアカウントに関連付けられているクラスターとノード(すでに登録されている場合)のリストを表示します。

クラスターにノードを追加する

現在のノードを登録したいクラスタを選択してください。新しいクラスタの最初のノードにしたい場合は、「新しいクラスタ」オプションを選択してください。

登録情報とリポジトリ設定をファイルに保存します。

ノードの登録情報を保存するために、ヘルパースクリプトが登録データをJSONファイルに書き込むことを求めるときには、書き込みを確認してください。

Writing registration data:
--> Write to file (/var/lib/drbd-support/registration.json)? [y/N]

LINBITリポジトリの構成をノード上のファイルに保存するには、ヘルパースクリプトがファイルの linbit.repo への書き込みを促すときに、その書き込みを確認してください。

LINBIT リポジトリへのアクセスを有効にする

LINBITのノード管理ヘルパースクリプトを使用してノードを登録し、クラスターに参加させた後、スクリプトはLINBITリポジトリのメニューを表示します。

DRBDやその依存関係、関連パッケージをインストールするためには、`drbd-9`リポジトリを有効にしてください。

`drbd-9`リポジトリには最新のDRBD 9バージョンが含まれています。また、LINSTOR®、DRBD Reactor、LINSTOR GUI、OCFリソースエージェントなど、他のLINBITソフトウェアパッケージも含まれています。
LINBITのパブリックキーをインストールし、LINBITリポジトリを検証する

LINBITリポジトリを有効にした後、選択を確認してから、LINBITの公開鍵をキーリングにインストールし、リポジトリの構成ファイルを書き込むことについて*yes*と回答することを忘れないでください。

Before it closes, the script will show a message that suggests different packages that you can install for different use cases.

LINBITリポジトリの検証

LINBITの管理ノード補助スクリプトが完了した後は、パッケージマネージャーのパッケージメタデータを更新した後に、`dnf info`または`apt info`コマンドを使用して、LINBITリポジトリが有効になっているかどうかを確認できます。

RPM ベースのシステムでは、次のコマンドを入力してください。

# dnf --refresh info drbd-utils

DEB ベースのシステムでは、次のコマンドを入力してください:

# apt update && apt info drbd-utils

パッケージマネージャの`info`コマンドからの出力には、パッケージマネージャがLINBITリポジトリからパッケージ情報を取得していることが表示されるはずです。

Red HatやAlmaLinuxのリポジトリからパッケージを除外する

RPMベースのLinuxディストリビューションを使用している場合は、DRBDをインストールする前に、LINBITリポジトリからのみDRBDおよび関連パッケージを取得してください。これを行うためには、LINBITの顧客リポジトリのパッケージと重複するRPMベースのディストリビューションのリポジトリから特定のパッケージを除外する必要があります。

以下のコマンドは、リポジトリ構成ディレクトリ内のすべてのファイルにおいて、有効なリポジトリ行の後に「exclude」行を挿入します。ただし、LINBITリポジトリファイルを除きます。

RPMベースのディストリビューションで、有効化されているリポジトリから関連するDRBDパッケージを除外するには、以下のコマンドを入力してください:

# RPM_REPOS="`ls /etc/yum.repos.d/*.repo|grep -v linbit`"
# PKGS="drbd kmod-drbd"
# for file in $RPM_REPOS; do sed -i "/^enabled[ =]*1/a exclude=$PKGS" $file; done
DRBDをインストールするために、ヘルパースクリプトの提案するパッケージマネージャーのコマンドを使用します。

DRBDをインストールするには、LINBITのヘルパースクリプトが完了する前に表示されたパッケージマネージャーのコマンドを使用することができます。該当するコマンドは、この行の後に表示されました:

If you don't intend to run an SDS satellite or controller, a useful set is:
[...]

スクリプトが完了した後でヘルパースクリプトの提案されたアクションを参照する必要がある場合は、--hints フラグを使用してスクリプトを再実行することができます。

# ./linbit-manage-node.py --hints
On DEB based systems you can install a precompiled DRBD kernel module package, drbd-module-$(uname -r), or a source version of the kernel module, drbd-dkms. Install one or the other package but not both.

3.1.2. セキュアブートのための LINBIT カーネルモジュール署名

LINBIT は、ほとんどのカーネルモジュールオブジェクトファイルを署名します。次の表に、各ディストリビューションごとの署名開始バージョンを示します。

Distribution Module signing since DRBD release

RHEL7

8.4.12/9.0.25/9.1.0

RHEL8

9.0.25/9.1.0

RHEL9+

all available

SLES15

9.0.31/9.1.4

Debian

9.0.30/9.1.3

Ubuntu

9.0.30/9.1.3

Oracle Linux

9.1.17/9.2.6

公開署名鍵は rpm パッケージに含まれ、 /etc/pki/linbit/SECURE-BOOT-KEY-linbit.com.der にインストールされます。次の方法で登録できます。

# mokutil --import /etc/pki/linbit/SECURE-BOOT-KEY-linbit.com.der
input password:
input password again:

パスワードは自由に選択できます。再起動後、キーが実際にMOKリストに登録されるときに使用されます。

3.2. LINBIT 提供 Docker イメージ

LINBITは商用サポートカスタマー向けにDockerレポジトリを提供します。レポジトリはホスト名 ‘drbd.io’ 経由でアクセスします。

LINBIT のコンテナー イメージ リポジトリ (http://drbd.io) は、LINBIT のお客様、または LINBIT のお客様の試用アカウントを通じてのみ利用できます。価格についての情報や試用開始するには こちら を参照ください。また、LINSTOR SDS のアップストリームプロジェクト Piraeus は LINBIT の顧客ではなくてもを使用できます。

イメージを取得する前に、レジストリにログインする必要があります。

# docker login drbd.io

ログインに成功するとイメージを取得できます。ログインしてテストするには以下のコマンド実行してください。

# docker pull drbd.io/drbd-utils
# docker run -it --rm drbd.io/drbd-utils # press CTRL-D to exit

3.3. ディストリビューション提供パッケージ

コンパイル済みバイナリパッケージを含め、いくつかのディストリビューションでDRBDが配布されています。これらのパッケージに対するサポートは、それぞれのディストリビュータが提供します。リリースサイクルは、DRBDソースのリリースより遅れる場合があります。

3.3.1. SUSE Linux Enterprise Server

SLES High Availability Extension (HAE) includes DRBD.

SLESの場合、DRBDは通常はYaST2のソフトウェアインストールコンポーネントによりインストールされます。これは High Availabilityパッケージセレクションに同梱されています。

コマンドラインを使用してインストールする場合は、次のコマンドを実行します。

# yast -i drbd

または

# zypper install drbd

3.3.2. CentOS

CentOSのリリース5からDRBD 8が含まれています。DRBD 9はEPEL等から探してください。

DRBDは yum でインストールします。この際には、正しいリポジトリが有効である必要があります。

# yum install drbd kmod-drbd

3.3.3. Ubuntu Linux

LINBITはUbuntu LTS用にPPAリポジトリを提供しています。 https://launchpad.net/~linbit/`archive/ubuntu/linbit-drbd9-stack. 詳細は以下をご確認ください。 Adding Launchpad PPA Repositories

# apt install drbd-utils drbd-dkms

3.4. ソースからパッケージをコンパイル

github で git tags によって生成されたリリースはある時点での git レポジトリのスナップショットです。これらはマニュアルページや configure スクリプト、あるいはその他の生成されるファイルが不足しているかもしれません。tarball からビルドするなら、 こちら を使用してください。

すべてのプロジェクトは標準のビルドスクリプト (eg, Makefile, configure) を含みます。ディストリビューション毎に固有の情報をメンテナンスすることは手間がかかり、また歴史的にすぐに最新でなくなってしまいました。標準的な方法でソフトウェアをビルドする方法を知らない場合は、LINBITによって供給されるパッケージを使ってください。

4. ソースコードからのDRBDのビルドおよびインストール

4.1. DRBDのソースコードをダウンロードする

現在のDRBDリリースと過去のリリースのソースtarファイルは、https://pkg.linbit.com/ からダウンロード可能です。ソースtarファイルは通常、`drbd-x.y.z.tar.gz`という名前が付けられています。例えば、`drbd-utils-x.y.z.tar.gz`のように、xyz はメジャー番号、マイナー番号、バグ修正リリース番号を表します。

DRBDの圧縮されたソースアーカイブは、サイズが半メガバイト未満です。tarファイルをダウンロードした後は、tar -xzf コマンドを使用してその内容を展開して、現在の作業ディレクトリにダウンロードすることができます。

組織的な目的で、通常ソースコードを保管するディレクトリ(たとえば /usr/src/usr/local/src など)に DRBD を展開してください。このガイドの例では /usr/src を前提としています。

4.2. 公開されているDRBDソースリポジトリからソースを取得する

DRBDのソースコードは公開されたGitリポジトリに保管されています。このリポジトリは https://github.com/LINBIT からオンラインで閲覧できます。DRBDソフトウェアは以下のプロジェクトから構成されています。

  1. DRBDカーネルモジュール

  2. DRBDユーティリティ

ソースコードは、Gitリポジトリをクローンするか、リリース用のtarファイルをダウンロードして取得できます。展開されたソースtarファイルと同じリリースのGitチェックアウトとの間には、わずかな違いが2つ存在します:

  • Gitのチェックアウトには`debian/`サブディレクトリが含まれていますが、ソースtarファイルには含まれていません。これは、Debianのメンテナーからの要求によるもので、彼らは元のアップストリームtarファイルに独自のDebianビルド設定を追加することを好むためです。

  • ソースtarファイルには、事前に処理されたmanページが含まれていますが、Gitのチェックアウトには含まれていません。そのため、GitのチェックアウトからDRBDをビルドする場合は、manページをビルドするための完全なDocbookツールチェーンが必要ですが、ソースtarファイルからビルドする際にはその必要はありません。

4.2.1. DRBD カーネルモジュール

リポジトリから特定のDRBDリリースをチェックアウトするには、まずDRBDリポジトリを「クローン」する必要があります。

git clone --recursive https://github.com/LINBIT/drbd.git

このコマンドは、drbd という名前のGitチェックアウトサブディレクトリを作成します。特定のDRBDリリース(ここでは9.2.3)に相当するソースコードの状態に移動するには、以下のコマンドを入力してください。

$ cd drbd
$ git checkout drbd-9.2.3
$ git submodule update

4.2.2. DRBD ユーティリティ

`drbd-utils`の問題をチェックするには、以下のコマンドを実行してください。

$ git clone --recursive https://github.com/LINBIT/drbd-utils.git

drbd-utils のバージョン8.9.x以降は、DRBDカーネルモジュールのバージョン8.3、8.4、9.0をサポートしています。

4.3. ソースコードからDRBDをビルドする

DRBDおよび関連ユーティリティのソースコードリポジトリをローカルホストにクローンした後、そのソースコードからDRBDをビルドする作業に進むことができます。

4.3.1. ビルドの前提条件の確認

ソースコードからDRBDをビルドする前に、ビルドホストは以下の前提条件を満たす必要があります。

  • 必要なものは、makegcc、glibcの開発用ライブラリ、そして`flex`スキャナージェネレーターのインストールです。

モジュールをコンパイルするために使用する`gcc`が、実行しているカーネルをビルドする際に使用した`gcc`と同じであることを確認すべきです。システムに複数の`gcc`のバージョンがある場合、DRBDのビルドシステムには特定の `gcc`バージョンを選択する 機能が含まれています。
  • Gitのチェックアウトから直接ビルドする場合は、GNU Autoconfも必要です。ただし、tarファイルからビルドする場合は、この要件は必要ありません。

  • もしディストリビューションが提供している標準のカーネルを使用している場合は、対応するカーネルヘッダーパッケージをインストールする必要があります。これらは一般的に`kernel-devel`、kernel-headers、`linux-headers`などの名前が付けられています。この場合、 カーネルソースツリーの準備 をスキップして、 DRBDのユーザースペースユーティリティ構築ツリーの準備 に続けることができます。

  • もし標準のディストリビューションのカーネルを使っていない場合(つまり、システムがソースからカスタム設定で構築されたカーネルを実行している場合)、カーネルのソースファイルがインストールされている必要があります。

    RPM ベースのシステムでは、これらのパッケージは kernel-source-version.rpm のような名前で呼ばれますが、これは kernel-version.src.rpm と間違えやすいです。前者が DRBD をビルドするために正しいパッケージです。

HTTP://KERNEL.ORG/アーカイブからの「バニラ」カーネルのtarファイルは、単純に`linux-version.tar.bz2`という名前が付けられており、/usr/src/linux-version`で展開されるべきであり、/usr/src/linux`というシンボリックリンクはそのディレクトリを指すようにする必要があります。

この場合、カーネルソース(ヘッダーではなく)に対して DRBD を構築する際には、 カーネルソースツリーの準備 を続行する必要があります。

4.3.2. カーネルソースツリーの準備

DRBDを構築するために、まずは展開されたカーネルソースが格納されているディレクトリに入る必要があります。通常、それは`/usr/src/linux-version`、あるいは単純に`/usr/src/linux`という名前のシンボリックリンクです。

# cd /usr/src/linux

次のステップは推奨されていますが、厳密に必要というわけではありません。この手順を実行する前に、既存の`.config`ファイルを安全な場所にコピーすることを忘れないでください。この手順は、以前のビルドや設定実行からの残留物を取り除き、カーネルソースツリーを元の状態に戻すものです。

# make mrproper

今、現在実行中のカーネル構成をカーネルソースツリーに「クローン」する時間です。これを行うためのいくつかの可能なオプションがあります:

  • 最近の多くのカーネルビルドは、現在実行中の設定を圧縮形式で`/proc`ファイルシステム経由でエクスポートしており、そこからコピーすることができます。

# zcat /proc/config.gz > .config
  • SUSEのカーネルMakefileには、`cloneconfig`ターゲットが含まれているため、そのようなシステムでは次のようにコマンドを実行できます。

# make cloneconfig
  • 一部のインストールでは、カーネル設定のコピーを /boot に保存しており、それによって以下の操作が可能になります。

# cp /boot/config-$(uname -r).config
  • 最終的に、現在実行中のカーネルをビルドする際に使用された .config ファイルのバックアップコピーを簡単に使用できます。

4.3.3. DRBDのユーザースペースユーティリティ構築ツリーの準備

DRBDのユーザースペースのコンパイルを行う際には、まず付属の「configure」スクリプトを使用してソースツリーを構成する必要があります。

Gitのチェックアウトからビルドする際には、`configure`スクリプトがまだ存在しません。チェックアウトのトップディレクトリから単純に`autoconf`と入力することで、それを作成する必要があります。

configure`スクリプトを–help`オプションで呼び出すと、サポートされているオプションの完全なリストが表示されます。以下の表は、最も重要なオプションをまとめたものです。

表 1. DRBDの`configure`スクリプトでサポートされるオプション
Option Description Default Remarks

–prefix

Installation directory prefix

/usr/local

This is the default to maintain Filesystem Hierarchy Standard compatibility for locally installed, unpackaged software. In packaging, this is typically overridden with /usr.

–localstatedir

Local state directory

/usr/local/var

Even with a default prefix, most users will want to override this with /var.

–sysconfdir

System configuration directory

/usr/local/etc

Even with a default prefix, most users will want to override this with /etc.

–with-udev

Copy a rules file into your udev(7) configuration, to get symlinks named like the resources.

yes

Disable for non-udev installations.

–with-heartbeat

Build DRBD Heartbeat integration

yes

You can disable this option unless you are planning to use DRBD’s Heartbeat v1 resource agent or dopd.

–with-pacemaker

Build DRBD Pacemaker integration

yes

You can disable this option if you are not planning to use the Pacemaker cluster resource manager.

–with-rgmanager

Build DRBD Red Hat Cluster Suite integration

no

You should enable this option if you are planning to use DRBD with rgmanager, the Red Hat Cluster Suite cluster resource manager. Please note that you will need to pass --with rgmanager to rpmbuild to get the rgmanager-package built.

–with-xen

Build DRBD Xen integration

yes (on x86 architectures)

You can disable this option if you don’t need the block-drbd helper script for Xen integration.

–with-bashcompletion

Installs a bash completion script for drbdadm

yes

You can disable this option if you are using a shell other than bash, or if you do not want to use programmable completion for the drbdadm command.

–with-initscripttype

Type of your init system

auto

Type of init script to install (sysv, systemd, or both).

–enable-spec

Create a distribution specific RPM spec file

no

For package builders only: you can use this option if you want to create an RPM spec file adapted to your distribution. See also DRBDのユーザースペースRPMパッケージをビルドする.

ほとんどのユーザーは、次の設定オプションを希望するでしょう。

$ ./configure --prefix=/usr --localstatedir=/var --sysconfdir=/etc

configureスクリプトは、DRBDビルドをディストリビューション固有の必要に合わせて調整します。これは、どのディストリビューションが呼び出されているかを自動検出し、それに応じてデフォルトを設定することで行われます。デフォルトを上書きする際は慎重に行ってください。

configureスクリプトは、呼び出されたディレクトリに`config.log`というログファイルを作成します。メーリングリストでビルドの問題を報告する際には、そのファイルのコピーをメールに添付するか、他の人々が閲覧またはダウンロードできる場所を指摘するのが賢明です。

4.3.4. DRBDユーザースペースユーティリティの構築

DRBDのユーザースペースユーティリティを構築するには、Gitのチェックアウトのトップまたは展開されたtarファイルから次のコマンドを実行してください。

$ make
$ sudo make install

これにより、管理ユーティリティ(drbdadmdrbdsetupdrbdmeta)がビルドされ、適切な場所にインストールされます。 [s-build-prepare-checkout、構成ステージ] で選択された他の --with オプションに基づいて、他のアプリケーションと統合するスクリプトもインストールされます。

4.3.5. DRBD カーネルモジュールのコンパイル

カーネルモジュールは`GNU`の`autotools`を使用していないため、一般的にはカーネルモジュールのビルドとインストールは通常、簡単な2ステップのプロセスです。

現在実行中のカーネル用に、DRBD カーネルモジュールをビルドする

アンパックしたDRBDカーネルモジュールのソースディレクトリに移動したら、モジュールをビルドすることができます。

$ cd drbd-9.0
$ make clean all

この操作は、現在実行中のカーネルと一致するDRBDカーネルモジュールを構築します。カーネルソースは /lib/modules/`uname -r/build` シンボリックリンクを介してアクセス可能であることが前提です。

準備が整ったカーネル・ヘッダーに対応するビルド

/lib/modules/`uname -r/build` シンボリックリンクが存在しない場合、および実行中の標準カーネル(ディストリビューションとともに事前にコンパイルされたもの)に対して構築を行っている場合、KDIR 変数を一致するカーネルヘッダー(カーネルソースではなく)ディレクトリを指すように設定することもできます。 — /usr/src/linux-version/include`に一般的に見つかる実際のカーネルヘッダー以外にも、DRBDのビルドプロセスは、通常、事前にビルドされたカーネルヘッダーパッケージが含むカーネルの`Makefile`や構成ファイル(.config`)も探します。

例えば、準備されたカーネルヘッダに対してビルドする場合は、次のようにします。

$ cd drbd-9.0
$ make clean
$ make KDIR=/usr/src/linux-headers-3.2.0-4-amd64/
カーネルソースツリーに対してビルドを行う

もし、現在実行中のカーネルと異なるカーネルに対してDRBDをビルドする場合、または対象カーネルの準備済みのソースコードが利用できない場合、完全な対象カーネルのソースツリーに対してDRBDをビルドする必要があります。そのためには、KDIR変数をカーネルソースディレクトリを指すように設定してください。

$ cd drbd-9.0
$ make clean
$ make KDIR=/root/linux-3.6.6/
非デフォルトのCコンパイラを使用する

CC変数を使ってコンパイラを明示的に設定するオプションもあります。これは、たとえば一部のFedoraバージョンで必要とされていることが知られています。

$ cd drbd-9.0
$ make clean
$ make CC=gcc32
ビルドが正常に完了したかを確認しています

もしモジュールのビルドが成功したら、drbd`ディレクトリ内に`drbd.ko`というカーネルモジュールファイルが表示されるはずです。もし興味があれば、新しくビルドされたモジュールを/sbin/modinfo drbd.ko`で調べることができます。

一部のディストリビューションにおいて、カーネルアプリケーションバイナリインターフェースの警告が発生しています。

一部のディストリビューション(例えば、RHEL 6およびその派生版)では、安定したカーネルアプリケーションバイナリインターフェース(kABI)が提供されていると主張されています。つまり、カーネルのAPIはマイナーリリース中も一貫して保たれるべきであり(たとえば、RHEL 6.3シリーズで公開されるカーネルを指します)、一定の安定性が期待されています。

実際には、これは常にうまくいくわけではありません。(マイナーリリース内でも)完全に互換性のない変更が行われたという既知のケースがあります。こうした場合、外部モジュール(例:DRBD)が読み込まれなくなったり、カーネルパニックを引き起こしたり、さらに微妙な問題が発生することがあります。その場合、_適合する_カーネルヘッダに対してモジュールを再構築する必要があります。[注: 32GiBのRAMを搭載した新しく起動したマシンで、DRBDモジュールを読み込むときに「メモリ不足」という報告がされるケースがありました…​]

4.4. DRBDのインストール

DRBDのビルドが成功した場合、次のコマンドを入力することでDRBDをインストールできます。

$ cd drbd-9.0 && sudo make install && cd ..
$ cd drbd-utils && sudo make install && cd ..

DRBDのユーザースペース管理ツール(drbdadmdrbdsetupdrbdmeta)は、通常`/sbin/などの `configure に渡された prefix パスにインストールされます。

カーネルをアップグレードする際には、新しいカーネルに合わせて、DRBDカーネルモジュールを再構築して再インストールする必要があります。

一部のディストリビューションでは、カーネルモジュールのソースディレクトリを登録しておくことで、必要に応じて再構築が行われます。例えば、Debianでは`dkms(8)`を参照してください。

一方で、DRBDのユーザースペースツールは、新しいDRBDバージョンにアップグレードする際には、再構築して再インストールするだけで済みます。新しいカーネルと新しいDRBDバージョンの両方にアップグレードする場合、両コンポーネントをアップグレードする必要があります。

4.5. DRBDのユーザースペースRPMパッケージをビルドする

DRBDビルドシステムには、DRBDのソースツリーから直接RPMパッケージをビルドする機能が含まれています。RPMをビルドする際には、`make`でビルドおよびインストールする場合と基本的に同様に ビルドの前提条件の確認 が適用されますが、もちろんRPMビルドツールも必要です。

もし、実行中のカーネルとプリコンパイル済ヘッダを使用せずにビルドする場合は、 カーネルソースツリーの準備 も参照してください。

ビルドシステムは、RPMをビルドするための2つのアプローチを提供しています。より簡単な方法は、単にトップレベルのMakefileで`rpm`ターゲットを呼び出すことです。

$ ./configure
$ make rpm

このアプローチは、事前定義されたテンプレートから仕様ファイルを自動生成し、その仕様ファイルを使用してバイナリのRPMパッケージをビルドします。

`make rpm`のアプローチは、複数のRPMパッケージを生成します。

表 2. DRBDのユーザーランドRPMパッケージ
Package name Description Dependencies Remarks

drbd

DRBD meta-package

All other drbd-* packages

Top-level virtual package. When installed, this pulls in all other userland packages as dependencies.

drbd-utils

Binary administration utilities

Required for any DRBD enabled host

drbd-udev

udev integration facility

drbd-utils, udev

Enables udev to manage user-friendly symlinks to DRBD devices

drbd-xen

Xen DRBD helper scripts

drbd-utils, xen

Enables xend to auto-manage DRBD resources

drbd-heartbeat

DRBD Heartbeat integration scripts

drbd-utils, heartbeat

Enables DRBD management by legacy v1-style Heartbeat clusters

drbd-pacemaker

DRBD Pacemaker integration scripts

drbd-utils, pacemaker

Enables DRBD management by Pacemaker clusters

drbd-rgmanager

DRBD RedHat Cluster Suite integration scripts

drbd-utils, rgmanager

Enables DRBD management by rgmanager, the Red Hat Cluster Suite resource manager

drbd-bashcompletion

Programmable bash completion

drbd-utils, bash-completion

Enables Programmable bash completion for the drbdadm utility

もう一つの、柔軟なアプローチは、`configure`にスペックファイルを生成させ、必要な変更を加え、その後`rpmbuild`コマンドを使用する方法です。

$ ./configure --enable-spec
$ make tgz
$ cp drbd*.tar.gz `rpm -E %sourcedir`
$ rpmbuild -bb drbd.spec

RPMは、システムのRPM構成(またはあなたの個人の ~/.rpmmacros 構成)に応じて作成されます。

これらのパッケージを作成した後、システム内の他の任意のRPMパッケージと同様に、それらをインストール、アップグレード、アンインストールすることができます。

注意:どんなカーネルのアップグレードでも、新しいカーネルに合わせて新しい「kmod-drbd」パッケージを生成する必要があります。詳細は 一部のディストリビューションにおいて、カーネルアプリケーションバイナリインターフェースの警告が発生しています。 も参照してください。

一方、DRBDユーザーランドパッケージは、新しいDRBDバージョンにアップグレードする際にのみ再作成する必要があります。新しいカーネルと新しいDRBDバージョンの両方にアップグレードする場合は、両方のパッケージをアップグレードする必要があります。

4.6. Debianパッケージの作成について

DRBDのビルドシステムには、DRBDのソースツリーから直接Debianパッケージをビルドするための機能が含まれています。Debianパッケージをビルドする場合、make`でビルドおよびインストールする場合と基本的に同じように ビルドの前提条件の確認 が適用されますが、Debianのパッケージングツールを含む`dpkg-dev`パッケージと、DRBDを非rootユーザーとしてビルドする場合には`fakeroot`も必要です(強く推奨)。全てのDRBDのサブプロジェクト(カーネルモジュールと`drbd-utils)は、Debianパッケージのビルドをサポートしています。

もし、実行中のカーネルとプリコンパイル済ヘッダを使用せずにビルドする場合は、 カーネルソースツリーの準備 も参照してください。

DRBDのソースツリーには、Debianパッケージングに必要なファイルが含まれている`debian`サブディレクトリがあります。ただし、そのサブディレクトリはDRBDソースtarファイルには含まれていません。その代わりに、特定のDRBDリリースに関連付けられた「タグ」を使用して Gitをチェックアウトする 必要があります。

この手法でチェックアウトを作成した後、DRBDのDebianパッケージをビルドするために以下のコマンドを発行することができます。

$ dpkg-buildpackage -rfakeroot -b -uc
この(例えば)drbd-buildpackage`の呼び出しは、非特権ユーザーによるバイナリのみのビルド(-b`)を有効にし、変更ファイルのための暗号署名を無効にする(-uc)ために`-rfakeroot`が使われています。もちろん、他のビルドオプションを使用することも可能であり、詳細は`dpkg-buildpackage`のmanページを参照してください。

このビルドプロセスにより、以下のDebianパッケージが作成されます。

  • DRBDユーザースペースツールを含むパッケージは、`drbd-utils_x.y.zARCH.deb`という名前です。

  • module-assistant に適したモジュールソースパッケージで、drbd-module-source_x.y.z-BUILD_all.deb という名前です。

  • dkms に適した dkms 用のパッケージであり、drbd-dkms_x.y.z-BUILD_all.deb という名前のもの。

これらのパッケージを作成した後は、システム内の他のDebianパッケージと同様に、それらをインストール、アップグレード、アンインストールすることができます。

drbd-utils パッケージは、Debianの`dpkg-reconfigure`機能をサポートしており、デフォルトで表示されるmanページのバージョンを切り替えるために使用することができます(8.3、8.4、または9.0)。

インストールされたモジュールのソースパッケージから実際のカーネルモジュールをビルドしてインストールすることは、Debianの module-assistant ツールを使用することで簡単に行うことができます。

# module-assistant auto-install drbd-module

上記のコマンドの省略形も使用することができます。

# m-a a-i drbd-module

新しいカーネルへのアップグレードでは、その新しいカーネルに合わせてカーネルモジュールを再構築する必要があります(前述のように`module-assistant`を使用して)。対照的に、`drbd-utils`および`drbd-module-source`パッケージは、新しいDRBDバージョンにアップグレードするときにのみ再作成する必要があります。新しいカーネルと新しいDRBDバージョンの両方にアップグレードする場合は、両方のパッケージをアップグレードする必要があります。

DRBD9からは、dkms(8)`を利用してDRBDカーネルモジュールの自動更新が可能になりました。`drbd-dkms Debianパッケージをインストールすれば、簡単に更新することができます。

DRBDの使い方

5. 一般的な管理作業

この章では一般的なオペレーションでの管理作業を説明します。トラブルシューティングについては扱いません。トラブルシューティングについてはトラブルシューティングとエラーからの回復を参照ください。

5.1. DRBDの設定

5.1.1. 下位レベルストレージの準備

DRBDをインストールしたら、両方のクラスタノードにほぼ同じ容量の記憶領域を用意する必要があります。これがDRBDリソースの 下位レベルデバイス になります。システムの任意のブロックデバイスを下位レベルデバイスとして使用できます。たとえば、次のようなものがあります。

  • ハードドライブのパーティション(または物理ハードドライブ全体)

  • ソフトウェアRAIDデバイス

  • LVM論理ボリュームまたはLinuxデバイスマッパインフラストラクチャによって構成されるその他のブロックデバイス

  • システム内のその他のブロックデバイス

リソースを スタッキング(積み重ね) することもできます。つまり、DRBDデバイスを他のDRBDデバイスの下位レベルのデバイスとして利用することができます。リソースの積み重ねにはいくつかの注意点があります。詳しくはスタック3ノード構成の作成を参照ください。

ループデバイスをDRBDの下位レベルデバイスとして使用することもできますが、デッドロックの問題があるためお勧めできません。

DRBDリソースを作成する前に、そのストレージ領域を空にしておく 必要はありません 。DRBDを使用して、非冗長のシングルサーバシステムから、2ノードのクラスタシステムを作成することは一般的なユースケースですが、いくつか重要な注意点があります。(その場合にはDRBDメタデータを参照ください)

本ガイドの説明は、次のようなとてもシンプルな構成を前提としています。

  • 両ホストには使用可能な(現在未使用の) /dev/sda7 というパーティションがある。

  • 内部メタデータを使用する。

5.1.2. ネットワーク構成の準備

必須要件ではありませんが、DRBDによるレプリケーションの実行には、専用接続を使用することをお勧めします。この書き込みには、ギガビットイーサネット同士をケーブルで直結した接続が最適です。DRBDをスイッチを介して使用する場合には、冗長コンポーネントと bonding ドライバ( active-backup モードで)の使用を推奨します。

一般に、ルータを介してDRBDレプリケーションを行うことはお勧めできません。スループットと待ち時間の両方に悪影響を及ぼし、パフォーマンスが大幅に低下します。

ローカルファイアウォールの要件として重要な点は、通常、DRBDは7788以上のTCPポートを使用し、それぞれのTCPリソースが個別のTCPポート上で待機するということです。DRBDは 2つ のTCP接続を使用します。これらの接続が許可されるようにファイアウォールを設定する必要があります。

SELinuxやAppArmorなどのMAC (Mandatory Access Control)スキーマが有効な場合は、ファイアウォール以外のセキュリティ要件も考慮する場合があります。DRBDが正しく機能するように、 必要に応じてローカルセキュリティポリシーを調整してください。

また、DRBDに使用するTCPポートを別のアプリケーションが使用していないことも確認してください。

DRBDのバージョン9.2.6以降、トラフィックの負荷分散のために複数のTCP接続ペアをサポートするDRBDリソースを設定することが可能です。詳細は Load Balancing DRBD Traffic セクションを参照してください。

本ガイドの説明は、次のようなとてもシンプルな構成を前提としています。

  • 2つのDRBDホストそれぞれに、現在使用されていないネットワークインタフェース eth1 が存在する(IPアドレスはそれぞれ 10.1.1.3110.1.1.32 )。

  • どちらのホストでも他のサービスがTCPポート7788〜7799を使用していない。

  • ローカルファイアウォール設定は、これらのポートを介したホスト間のインバウンドとアウトバウンドの両方のTCP接続を許可する。

5.1.3. リソースの設定

DRBDのすべての機能は、設定ファイル /etc/drbd.conf で制御されます。通常、この設定ファイルは、次のような内容となっています。

include "/etc/drbd.d/global_common.conf";
include "/etc/drbd.d/*.res";

通例では、/etc/drbd.d/global_common.conf にはDRBD設定の globalcommon セクションが含まれます。また .res ファイルには各 リソース セクションが含まれます。

drbd.confinclude ステートメントを使用せずにすべての設定を記載することも可能です。しかし、設定の見やすさの観点から、複数のファイルに分割することをお勧めします。

いずれにしても drbd.conf や、その他の設定ファイルは、すべてのクラスタノードで 正確に同じ である必要があります。

DRBDのソースtarファイルの scripts サブディレクトリに、サンプル設定ファイルがあります。バイナリインストールパッケージの場合、サンプル設定ファイルは直接 /etc にインストールされるか、 /usr/share/doc/packages/drbd などのパッケージ固有の文書ディレクトリにインストールされます。

このセクションは、DRBDを稼働させるために理解しておく必要のある設定ファイルの項目についての説明です。設定ファイルの構文と内容の詳細については drbd.conf マニュアルページを参照ください。

設定例

本ガイドでの説明は、前章であげた例をもとにする最小限の構成を前提にしています。

Listing 1. シンプルなDRBD構成例 (/etc/drbd.d/global_common.conf)
global {
  usage-count yes;
}
common {
  net {
    protocol C;
  }
}
Listing 2. シンプルなDRBDリソースの構成例 (/etc/drbd.d/r0.res)
resource "r0" {
  device minor 1;
  disk "/dev/sda7";
  meta-disk internal;

  on "alice" {
    node-id 0;
  }
  on "bob" {
    node-id 1;
  }
  connection {
    host "alice" address 10.1.1.31:7789;
    host "bob" address 10.1.1.32:7789;
  }
}

この例では、DRBDが次のように設定されます。

  • DRBDの使用状況の統計をオプトインとして含める(usage-count参照)。

  • 特に他の指定がない限り完全に同期したレプリケーションを使用するようにリソースを設定する(プロトコルC)。

  • クラスタには2つのノード alicebob がある。

  • r0`という任意の名前のリソースがあり、その下位レベルデバイスとして `/dev/sda7 を使用し、内部メタデータ で構成されています。

  • リソースはネットワーク接続にTCPポート7789を使用し、それぞれIPアドレス10.1.1.31と10.1.1.32にバインドされる

暗黙的に、上記の設定はリソースの1つのボリュームを作成し、番号 ゼロ(0) が付与されます。1つのリソースに複数のボリュームを設定する場合には、次のようにします(両ノードで下位デバイスとして同レベルでストレージブロックデバイスを使用する場合)。

Listing 3. 複数ボリュームのDRBDリソース構成例(/etc/drbd.d/r0.res)
resource "r0" {
  volume 0 {
    device minor 1;
    disk "/dev/sda7";
    meta-disk internal;
  }
  volume 1 {
    device minor 2;
    disk "/dev/sda8";
    meta-disk internal;
  }
  on "alice" {
    node-id 0;
  }
  on "bob" {
    node-id 1;
    volume 1 {
      disk "/dev/sda9";
    }
  }
  connection {
    host "alice" address 10.1.1.31:7789;
    host "bob" address 10.1.1.32:7789;
  }
}
  • ホストセクション(’on’ キーワード)は、リソースレベルから volume セクションを継承します。それには volume 自体が含まれる場合があり、この値は継承された値よりも優先されます。

ボリュームは既存のデバイスの動作中にも追加できます。新しいDRBDボリュームを既存のボリュームグループへ追加するをご参照ください。

DRBD の古いリリースとの互換性のために、drbd-8.4 の構成ファイルもサポートします。

Listing 4. 古い(8.4)スタイルの構成ファイル
resource r0 {
  on alice {
    device    /dev/drbd1;
    disk      /dev/sda7;
    meta-disk internal;
    address 10.1.1.31:7789;
  }
  on bob {
    device    /dev/drbd1;
    disk      /dev/sda7;
    meta-disk internal;
    address   10.1.1.32:7789;
  }
  • キーワードを含まない文字列は、二重引用符 " なしで指定される場合があります。

  • 古いバージョン (8.4) でデバイスを指定する方法は、 /dev/drbdX デバイスファイルの名前で指定することでした。

  • 2 ノード構成は、drbdadm によって割り当てられたノード番号を使用します。

  • 純粋な 2 ノード構成は暗黙的な connection を使用します。

global セクション

このセクションは設定の中で1回しか使用できません。通常この設定は /etc/drbd.d/global_common.conf ファイルに記述します。設定ファイルが1つの場合は、設定ファイルの一番上に記述します。このセクションで使用できるオプションはわずかですが、ほとんどのユーザーの場合、必要なのは次の1つだけです。

usage-count

DRBDプロジェクトはさまざまなバージョンのDRBDの使用状況について統計を取ります。これは、システムに新規のDRBDバージョンがインストールされるたびに、HTTPサーバに接続することにより実行されます。これを無効にするには、 usage-count no; を指定します。デフォルトは usage-count ask; で、 DRBDをアップグレードするたびにプロンプトが表示されます。

DRBDの使用状況の統計は公開されています。http://usage.drbd.orgを参照ください。

common セクション

このセクションで、各リソースに継承される設定を簡単に定義できます。通常この設定は /etc/drbd.d/global_common.conf に指定します。ここで定義するオプションは、リソースごとに定義することもできます。

common セクションは必須ではありませんが、複数のリソースを使用する場合は、記述することを強くお勧めします。これにより、オプションを繰り返し使用することによって設定が複雑になることを回避できます。

上の例では net { protocol C; }common セクションで指定されているため、設定されているすべてのリソース( r0 含む)がこのオプションを継承します。ただし、明示的に別の protocol オプションが指定されている場合は除きます。使用可能なその他の同期プロトコルについては、レプリケーションのモードを参照してください。

resource セクション

各リソースの設定ファイルは、通常 /etc/drbd.d/resource.res という名前にします。定義するDRBDリソースは、設定ファイルでresource nameを指定して名前を付ける必要があります。通常は文字または数字、アンダースコアのみを使用します。他の文字を使用することも技術的には可能ですが、より具体的な resource:_peer/volume の構文が必要になった場合、うまくいかないでしょう。

各リソースには各クラスタノードに最低2つの on <host> サブセクションも必要です。その他すべての設定は common セクション(記述した場合)から継承されるか、DRBDのデフォルト設定から取得されます。

さらに、オプションの値が両方のホストで等しい場合は、直接 resource セクションで指定することができます。このため、設定例は次のように短くすることができます。

resource "r0" {
  device minor 1;
  disk "/dev/sda7";
  meta-disk internal;
  on "alice" {
    address   10.1.1.31:7789;
  }
  on "bob" {
    address   10.1.1.32:7789;
  }
}

5.1.4. ネットワークコネクションの定義

現時点では、DRBD9の通信リンクはフルメッシュである必要があります。つまり、全リソース全ノードが他の全ノードに直接のコネクションを持っている必要があります(当然、自ノードに対しては不要です)。

ホスト2台のシンプルな構成の場合、使い勝手と後方互換性のため、drbdadm は(1つの)ネットワークコネクションを自身で挿入します。

必要なネットワークコネクション数はホスト数の二次関数です。”従来の”2ノードでは1コネクションが必要でしたが、3つのホストでは3対、4つのホストでは6対、5つのホストでは10対のコネクションが…というように必要になってきます。32ノードであれば496対のコネクションが必要になります。

connection mesh
図 5. N 個のホストの時のコネクション数

以下は3つのホストでの設定ファイルの例です。

resource r0 {
  device    minor 1;
  disk      "/dev/sda7";
  meta-disk internal;
  on alice {
    address   10.1.1.31:7000;
    node-id   0;
  }
  on bob {
    address   10.1.1.32:7000;
    node-id   1;
  }
  on charlie {
    address   10.1.1.33:7000;
    node-id   2;
  }
  connection-mesh {
    hosts alice bob charlie;
  }
}

サーバに十分なネットワークカードがあれば、サーバ間をクロスケーブルで直結できます。 1つ4ポートのイーサネットカードであれば、4ノードのフルメッシュにするために1つの管理インターフェースと3つの他サーバへの接続を行うことができます。

この場合には直接接続に異なるIPアドレスを指定することができます。

resource r0 {
  ...
  connection {
    host alice   address 10.1.2.1:7010;
    host bob     address 10.1.2.2:7001;
  }
  connection {
    host alice   address 10.1.3.1:7020;
    host charlie address 10.1.3.2:7002;
  }
  connection {
    host bob     address 10.1.4.1:7021;
    host charlie address 10.1.4.2:7012;
  }
}

メンテナンスとデバッグを容易にするために、エンドポイントごとに異なるポートを使用することをお勧めします。これにより tcpdump を実行するときにパケットをエンドポイントに簡単に関連付けることができます。以下の例では、2 つのサーバーを使用しています。4 ノードについては 4ノードでの構成例 を参照ください。

5.1.5. 複数の経路の設定

DRBD は、connection に複数の path セクションを使用することで、connection ごとに複数の path を構成できます。次の例を参照してください。

resource <resource> {
  ...
  connection {
    path {
      host alpha address 192.168.41.1:7900;
      host bravo address 192.168.41.2:7900;
    }
    path {
      host alpha address 192.168.42.1:7900;
      host bravo address 192.168.42.2:7900;
    }
  }
  ...
}

2 つのエンドポイントホスト名は connection の path 内で同じである必要があります。path は異なる IP(潜在的に異なるNIC)上にある場合もあれば、異なるポート上のみである場合もあります。

TCPトランスポートは1度に1つのパスを使用しますが、Load Balancing DRBD Trafficを参照してロードバランシングを設定している場合は除きます。バックグラウンドのTCP接続が切断されたり、タイムアウトが発生した場合、TCPトランスポートの実装は次のパスを介して接続を確立しようと試みます。ラウンドロビン方式ですべてのパスを試行し、接続が確立されるまで続けます。

RDMA トランスポートは、connection のすべての path を同時に使用し、path 間のネットワークトラフィックを均等に分散します。

5.1.6. トランスポートプロトコルの設定

DRBDは複数のネットワーク転送プロトコルに対応しています。 トランスポートプロトコルの設定はリソースの各コネクションごとに設定できます。

TCP/IP

TCPは、 DRBD複製トラフィックのデフォルトの転送手段です。リソース構成で transport オプションが指定されていない場合、各DRBDリソース接続はTCP転送を使用します。

resource <resource> {
  net {
    transport "tcp";
  }
  ...
}

以下のオプションを指定することで、tcp トランスポートを構成できます。これらのオプションは、リソース構成の`net`セクションに指定することができます:sndbuf-sizercvbuf-sizeconnect-intsocket-check-timeoutping-timeouttimeoutload-balance-paths、および`tls`。それぞれのオプションについての詳細については、man drbd.conf-9.0 を参照してください。

Load Balancing DRBD Traffic
現時点では、同じリソースでDRBD TCPロードバランシングとTLSトラフィックの暗号化機能を同時に使用することはできません。

デフォルトでは、TCPトランスポートは、DRBDリソースのピア間で接続パスを直列に(つまり、一度に1つずつ)確立します。DRBDバージョン9.2.6以降、オプション`load-balance-paths`を`yes`に設定することで、トランスポートをすべてのパスを並列に確立できます。また、ロードバランシングが構成されている場合、トランスポートは常に送信キューが最も短いパスに複製されたトラフィックを送信します。複数のパスが確立されている場合、受信側でデータが順番に到着しない可能性があります。DRBDトランスポートの実装は、受信したデータパケットを並べ替え、元の送信順序でデータをDRBDコアに提供します。

ロードバランシング機能を使用するには、`drbd-utils`のバージョン9.26.0以降が必要です。もしも旧バージョンの`drbd-utils`がインストールされている場合、ロードバランシングを設定したリソースに対して`drbdadm`コマンドを実行しようとすると、「bad parser」というエラーメッセージが表示される可能性があります。

`drbd-lb-0`というDRBDリソースにロードバランシングが設定された例の構成は、次のようになります:

Listing 5. drbd-lb-0.res
resource "drbd-lb-0"
{
[...]
    net
    {
        load-balance-paths      yes;
        [...]
    }

    on "node-0"
    {
        volume 0
        {
        [...]
        }
        node-id    0;
    }

    on "node-1"
    {
        volume 0
        {
        [...]
        }
        node-id    1;
    }

    on "node-2"
    {
        volume 0
        {
        [...]
        }
        node-id    2;
    }

    connection
    {
        path
        {
            host "node-0" address ipv4 192.168.220.60:7900;
            host "node-1" address ipv4 192.168.220.61:7900;
        }
        path
        {
            host "node-0" address ipv4 192.168.221.60:7900;
            host "node-1" address ipv4 192.168.221.61:7900;
        }
    }

    connection
    {
        path
        {
            host "node-0" address ipv4 192.168.220.60:7900;
            host "node-2" address ipv4 192.168.220.62:7900;
        }
        path
        {
            host "node-0" address ipv4 192.168.221.60:7900;
            host "node-2" address ipv4 192.168.221.62:7900;
        }
    }
        connection
    {
        path
        {
            host "node-1" address ipv4 192.168.220.61:7900;
            host "node-2" address ipv4 192.168.220.62:7900;
        }
        path
        {
            host "node-1" address ipv4 192.168.221.61:7900;
            host "node-2" address ipv4 192.168.221.62:7900;
        }
    }
}
上記の構成では、3つのDRBD接続パスが表示されていますが、3ノードクラスターでは2つだけで十分です。例えば、上記の構成がノード node-0 上にある場合、node-1node-2 の間の接続は構成上不要です。node-1 上では、node-0node-2 の間の接続も不要であり、同様に、node-2 上の構成でも同様です。それでも、すべての可能な接続をリソースの構成に含めておくと便利です。これにより、クラスター内のすべてのノードで同じ構成ファイルを使用し、各ノードで構成を編集してカスタマイズする必要がなくなります。
Securing DRBD Connections with TLS
現時点では、同じリソースでDRBD TCPロードバランシングとTLSトラフィックの暗号化機能を同時に使用することはできません。

DRBDリソース構成ファイルに tls ネットオプションを追加することで、`tcp`転送を介した認証された暗号化されたDRBD接続を有効にすることができます。

resource <resource> {
  net {
    tls yes;
  }
  ...
}

DRBDは接続を確立する際に、ユーザースペースユーティリティ(tlshdktls-utils`パッケージの一部)にソケットを一時的に渡します。`tlshd`は、/etc/tlshd.conf`で設定されたキーを使用して認証と暗号化を設定します。

Listing 6. /etc/tlshd.conf
[authenticate.client]
x509.certificate=/etc/tlshd.d/tls.crt
x509.private_key=/etc/tlshd.d/tls.key
x509.truststore=/etc/tlshd.d/ca.crt

[authenticate.server]
x509.certificate=/etc/tlshd.d/tls.crt
x509.private_key=/etc/tlshd.d/tls.key
x509.truststore=/etc/tlshd.d/ca.crt
RDMA

DRBDリソースの複製トラフィックをTCPではなくRDMAを使うように構成することができます。これは、DRBDリソースの設定で明示的に指定することで実現できます。

resource <resource> {
  net {
    transport "rdma";
  }
  ...
}

rdma トランスポートを設定する際には、リソース構成の`net`セクションで以下のオプションを指定することができます: sndbuf-size, rcvbuf-size, max_buffers, connect-int, socket-check-timeout, ping-timeout, timeout。各オプションの詳細については、`man drbd.conf-9.0`を参照してください。

rdma`輸送は零コピー受信輸送です。その影響の1つは、`max_buffers`構成オプションを `rcvbuf-size をすべて保持できる十分な大きさの値に設定する必要があるということです。

`rcvbuf-size`はバイト単位で設定されており、一方で`max_buffers`はページ単位で設定されています。最適なパフォーマンスを得るためには、`max_buffers`は`rcvbuf-size`全体と、常にバックエンドデバイスに送信されるデータ量を保持できるだけの大きさに設定する必要があります。
InfiniBandホストチャネルアダプタ(HCAs)を使用している場合、 `rdma`トランスポートとともにIP over InfiniBand(IPoIB)を構成する必要があります。 IPアドレスはデータ転送に使用されるわけではありませんが、接続を確立する際に適切なアダプタやポートを見つけるために使用されます。
`sndbuf-size`と`rcvbuf-size`の設定オプションは、接続が確立される時点でのみ考慮されます。接続が確立された時に値を変更することはできますが、その変更は接続が再確立された時にのみ反映されます。
RDMAのパフォーマンスにおける考慮事項

擬似ファイル/sys/kernel/debug/drbd/<リソース>/connections/<対向ノード>/transportを見れば、使用可能な受信識別子(rx_desc)と送信識別子(tx_desc)の数を監視できます。識別子が枯渇した場合には sndbuf-size または rcvbuf-size を増やす必要があります。

5.1.7. リソースを初めて有効にする

すでに述べた手順に従って最初のリソース設定を完了したら、リソースを稼働させます。

両方のノードに対して、次の手順を行います。

さきほどの構成例( resource r0{ … } )では、 <resource>r0 となります。

メタデータを作成する

この手順は、最初にデバイスを作成するときにのみ必要です。これにより、DRBDのメタデータを初期化します。

# drbdadm create-md <resource>
v09 Magic number not found
Writing meta data...
initialising activity log
NOT initializing bitmap
New drbd meta data block successfully created.

メタデータに割り当てられるビットマップスロットの数はリソースのホストの数に依存します。 デフォルトではリソース設定のホストの数をカウントします。 メタデータの作成前にすべてのホストが指定されていれば、そのまま動作します。後から追加ノード用のビットマップを付け足すことも可能ですが、手動での作業が必要になります。

リソースを有効にする

これにより、リソースとその下位デバイス(マルチボリュームリソースの場合は、すべてのデバイス)とを結びつけます。また、対向ノードのリソースと接続します。

# drbdadm up <resource>
drbdadm status でステータスを確認する

status コマンドの出力は次のような情報を表示します。

# drbdadm status r0
r0 role:Secondary
  disk:Inconsistent
  bob role:Secondary
    disk:Inconsistent
この時点では Inconsistent/Inconsistent のディスク状態になっているはずです。

これで、DRBDがディスクリソースとネットワークリソースに正しく割り当てられ、稼働できるようになりました。次に、どちらのノードをデバイスの初期同期のソースとして使用するか指定する必要があります。

5.1.8. デバイスの初期同期

DRBDを完全に機能させるには、さらに次の2つの手順が必要です。

同期元を選択する

新しく初期化した空のディスクを使用する場合は、任意のディスクを同期元にできます。いずれかのノードにすでに重要なデータが格納されている場合は、 十分注意して、必ず そのノードを同期元として選択してください。デバイスの初期同期の方向が誤っていると、データを失うおそれがあります。慎重に行ってください。

初期フル同期を開始する

この手順は、最初のリソース設定の際に、同期ソースとして選択した1つのノードに対してのみ実行します。次のコマンドで実行します。

# drbdadm primary --force <resource>

このコマンドを指定すると、初期フル同期が開始します。 drbdadm status で同期の進行状況を監視できます。デバイスのサイズによっては、同期に時間がかかる場合があります。

この時点で、初期同期が完了していなくてもDRBDデバイスは完全に稼働します(ただし、パフォーマンスは多少低いです)。空のディスクから開始した場合は、デバイスにファイルシステムを作成してもかまいません。これを下位ブロックデバイスとして使用し、マウントして、アクセス可能なブロックデバイスとしてさまざまな操作を実行することができます。

リソースに対して一般的な管理タスクを行う場合は、DRBDの使い方に進んでください。

5.1.9. 初期同期のスキップ

If (and only if) you are starting DRBD resources from scratch (with no valuable data on them) you can use following command sequence to skip initial resync (don’t do that with data you want to keep on the devices):

すべてのノードで次のコマンドを実行します。

# drbdadm create-md <res>
# drbdadm up <res>

コマンド drbdadm status は、すべてのディスクを Inconsistent として表示するはずです。

次に1つのノードで次のコマンドを実行します。

# drbdadm new-current-uuid --clear-bitmap <resource>/<volume>

または — # drbdsetup new-current-uuid –clear-bitmap <minor>


その後 drbdadm status を実行すると、ディスクが UpToDate として表示されるようになります(下位デバイスが同期していない場合でも)。これでディスク上にファイルシステムを作成し、使用を開始できます。

Don’t do the above with data you want to keep or it gets corrupted.

5.1.10. トラックベースのレプリケーションの使用

リモートノードに同期するデータを前もってロードし、デバイスの初期同期をスキップする場合は、次の手順を行います。

This assumes that your local node has a configured, but disconnected DRBD resource in the Primary role. That is to say, device configuration is completed, identical drbd.conf copies exist on both nodes, and you have issued the commands for initial resource promotion on your local node — but the remote node is not connected yet.

  • On the local node, issue the following command:

    # drbdadm new-current-uuid --clear-bitmap <resource>/<volume>

    or

    # drbdsetup new-current-uuid --clear-bitmap <minor>
  • Create a consistent, verbatim copy of the resource’s data and its metadata. You may do so, for example, by removing a hot-swappable drive from a RAID-1 mirror. You would, of course, replace it with a fresh drive, and rebuild the RAID set, to ensure continued redundancy. But the removed drive is a verbatim copy that can now be shipped off site. If your local block device supports snapshot copies (such as when using DRBD on top of LVM), you may also create a bitwise copy of that snapshot using dd.

  • On the local node, issue:

    # drbdadm new-current-uuid <resource>

    or the matching drbdsetup command.

    Note the absence of the --clear-bitmap option in this second invocation.

  • Physically transport the copies to the remote peer location.

  • Add the copies to the remote node. This may again be a matter of plugging in a physical disk, or grafting a bitwise copy of your shipped data onto existing storage on the remote node. Be sure to restore or copy not only your replicated data, but also the associated DRBD metadata. If you fail to do so, the disk shipping process is moot.

  • On the new node we need to fix the node ID in the metadata, and exchange the peer-node info for the two nodes. Please see the following lines as example for changing node id from 2 to 1 on a resource r0 volume 0.

    これはボリュームが未使用中のときに実行する必要があります。

    最初の4行をあなたのニーズに合わせて編集する必要があります。Vはボリューム番号を示すリソース名です。NODE_FROMはデータの元となるノードのノードIDです。NODE_TOはデータがレプリケートされるノードのノードIDです。META_DATA_LOCATIONはメタデータの場所であり、内部か柔軟外部かのいずれかです。

    V=r0/0 NODE_FROM=2 NODE_TO=1 META_DATA_LOCATION=internal
    
    drbdadm -- --force dump-md $V > /tmp/md_orig.txt
    sed -e "s/node-id $NODE_FROM/node-id $NODE_TO/" \
    	-e "s/^peer.$NODE_FROM. /peer-NEW /" \
    	-e "s/^peer.$NODE_TO. /peer[$NODE_FROM] /" \
    	-e "s/^peer-NEW /peer[$NODE_TO] /" \
    	< /tmp/md_orig.txt > /tmp/md.txt
    
    drbdmeta --force $(drbdadm sh-minor $V) v09 $(drbdadm sh-md-dev $V) $META_DATA_LOCATION restore-md /tmp/md.txt
    NOTE

    drbdmeta before 8.9.7 cannot cope with out-of-order peer sections; you’ll need to exchange the blocks via an editor.

  • Bring up the resource on the remote node:

    # drbdadm up <resource>

After the two peers connect, they will not initiate a full device synchronization. Instead, the automatic synchronization that now commences only covers those blocks that changed since the invocation of drbdadm --clear-bitmap new-current-uuid.

Even if there were no changes whatsoever since then, there may still be a brief synchronization period due to areas covered by the Activity Log being rolled back on the new Secondary. This may be mitigated by the use of checksum-based synchronization.

You may use this same procedure regardless of whether the resource is a regular DRBD resource, or a stacked resource. For stacked resources, simply add the -S or --stacked option to drbdadm.

5.1.11. 4ノードでの構成例

以下は4ノードクラスタの例です。

resource r0 {
  device      minor 0;
  disk        /dev/vg/r0;
  meta-disk   internal;

  on store1 {
    address   10.1.10.1:7100;
    node-id   1;
  }
  on store2 {
    address   10.1.10.2:7100;
    node-id   2;
  }
  on store3 {
    address   10.1.10.3:7100;
    node-id   3;
  }
  on store4 {
    address   10.1.10.4:7100;
    node-id   4;
  }

  connection-mesh {
	hosts     store1 store2 store3 store4;
  }
}

In case you want to see the connection-mesh configuration expanded, try drbdadm dump <resource> -v.

As another example, if the four nodes have enough interfaces to provide a complete mesh via direct links[4], you can specify the IP addresses of the interfaces:

resource r0 {
  ...

  # store1 has crossover links like 10.99.1x.y
  connection {
    host store1  address 10.99.12.1 port 7012;
    host store2  address 10.99.12.2 port 7021;
  }
  connection {
    host store1  address 10.99.13.1  port 7013;
    host store3  address 10.99.13.3  port 7031;
  }
  connection {
    host store1  address 10.99.14.1  port 7014;
    host store4  address 10.99.14.4  port 7041;
  }

  # store2 has crossover links like 10.99.2x.y
  connection {
    host store2  address 10.99.23.2  port 7023;
    host store3  address 10.99.23.3  port 7032;
  }
  connection {
    host store2  address 10.99.24.2  port 7024;
    host store4  address 10.99.24.4  port 7042;
  }

  # store3 has crossover links like 10.99.3x.y
  connection {
    host store3  address 10.99.34.3  port 7034;
    host store4  address 10.99.34.4  port 7043;
  }
}

Please note the numbering scheme used for the IP addresses and ports. Another resource could use the same IP addresses, but ports 71xy, the next one 72xy, and so on.

5.2. DRBDのステータスを確認する

5.2.1. リアルタイムでのDRBDリソースの監視と操作

DRBDを操作し監視する便利な方法の1つは、DRBDmonユーティリティを使用する方法です。 DRBDmonは、`drbd-utils`パッケージに含 まれています。 このユーティリティを実行するには、`drbd-utils`パッケージがインストールされているノードで`drbdmon`と入力します。

DRBDmonはCLIベースですが、ウィンドウの概念に従っており、キーボードとマウスのナビゲーションをサポートしています。DRBDmonの異なる表示は、DRBDの状態やアクティビティの異なる側面を示します。たとえば、1つの表示では、現在のノード上のすべてのDRBD リソースとその状態がリストされます。別の表示では、選択されたリソースに対するピア接続とその状態がリストされます。他のDRBDコンポーネント用の表示もあります。

DRBDmonで複数のリソースを選択する
図 6. DRBDmonで複数のリソースを選択する

DRBDモニタ(DRBDmon)は、DRBDリソース、ボリューム、接続などの状態に関する情報を取得できるだけでなく、それらに対して操作 も行うことができます。DRBDmonには、ユーティリティ内にコンテキストに基づいたヘルプテキストがあり、ナビゲーションや使用方 法をサポートするために利用できます。DRBDmonは、CLIコマンドを入力することなく、状態情報を取得したり、操作を行ったりできるため、新しいDRBDユーザーにとって便利です。また、多数のDRBDリソースを持つクラスターで作業している経験豊富なDRBDユーザーにも役立つユーティリティです。

DRBDmonのリソースアクション表示ページ
図 7. DRBDmonのリソースアクション表示ページ

5.2.2. DRBD プロセスファイルを介したステータス情報の取得

/proc/drbd を使用して DRBD ステータスを監視することは非推奨です。 DRBD 管理ツールを使用したステータス情報の取得 またはさらに便利な DRBDセットアップコマンドを使用してステータス情報を取得する などの他の手段に切り替えることをお勧めします。

/proc/drbd はDRBDモジュールの基本情報を表示する仮想ファイルです。 DRBD8.4まで広く使用されていましたが、DRBD9の情報量を表示するためには対応できません。

$ cat /proc/drbd
version: 9.0.0 (api:1/proto:86-110)
GIT-hash: XXX build by [email protected], 2011-10-12 09:07:35

1行目にはシステムで使用するDRBDの バージョン を表示します。2行目にはビルド特有の情報を表示します。

5.2.3. DRBD 管理ツールを使用したステータス情報の取得

一番シンプルなものとして、1つのリソースのステータスを表示します。

# drbdadm status home
home role:Secondary
  disk:UpToDate
  nina role:Secondary
    disk:UpToDate
  nino role:Secondary
    disk:UpToDate
  nono connection:Connecting

ここではリソース home がローカルと ninanino にあり、 UpToDateセカンダリ であることを示しています。つまり、3ノードが同じデータをストレージデバイスに持ち、現在はどのノードでもデバイスを使用していないという意味です。

ノード nono は接続していません。 Connecting のステータスになっています。詳細はコネクションステータスを参照してください。

drbdsetup--verbose および/または --statistics の引数を付けると、より詳細な情報を得ることができます:

# drbdsetup status home --verbose --statistics
home node-id:1 role:Secondary suspended:no
    write-ordering:none
  volume:0 minor:0 disk:UpToDate
      size:1048412 read:0 written:1048412 al-writes:0 bm-writes:48 upper-pending:0
                                        lower-pending:0 al-suspended:no blocked:no
  nina local:ipv4:10.9.9.111:7001 peer:ipv4:10.9.9.103:7010 node-id:0
                                               connection:Connected role:Secondary
      congested:no
    volume:0 replication:Connected disk:UpToDate resync-suspended:no
        received:1048412 sent:0 out-of-sync:0 pending:0 unacked:0
  nino local:ipv4:10.9.9.111:7021 peer:ipv4:10.9.9.129:7012 node-id:2
                                               connection:Connected role:Secondary
      congested:no
    volume:0 replication:Connected disk:UpToDate resync-suspended:no
        received:0 sent:0 out-of-sync:0 pending:0 unacked:0
  nono local:ipv4:10.9.9.111:7013 peer:ipv4:10.9.9.138:7031 node-id:3
                                                           connection:Connecting

この例では、ローカルノードについては多少異なりますが、このリソースで使用しているノードすべてを数行ごとにブロックで表示しています。以下で詳細を説明します。

各ブロックの最初の行は node-id です。(現在のリソースに対してのものです。ホストは異なるリソースには異なる node-id がつきます) また、 role (Resource Roles参照)も表示されています。

次に重要な行が、 volume の表示がある行です。通常は0から始まる数字ですが、設定によっては別のIDをつけることもできます。この行では replication でコネクションステータス(コネクションステータス参照)を、 disk でリモートのディスク状態(ディスク状態参照)が表示されます。 また、ボリュームの統計情報が少し表示される行もあります。データの receivedsent , out-of-sync などです。詳細は パフォーマンス指標接続情報データを参照してください。

ローカルノードでは、最初の行はリソース名を表示します。この例では home です。最初の行には常にローカルノードが表示されますので、 Connection やアドレス情報は表示されません。

より詳細な情報については、 drbd.conf マニュアルページをご覧ください。

この例のブロックになっている他の4行は、すべての設定のあるDRBDデバイスごとになっており、最初にデバイスマイナー番号がついています。この場合にはデバイス /dev/drbd0 に対応して 0 です。

リソースごとの出力には様々なリソースに関する情報が含まれています。

5.2.4. DRBDセットアップコマンドを使用してステータス情報を取得する

この機能はユーザスペースのDRBDが8.9.3より後のバージョンでのみ使用できます。

追加オプションと引数を指定してコマンド drbdsetup events2 を使用することは、 DRBD から情報を取得するための低レベルのメカニズムであり、監視などの自動ツールでの使用に適しています。

ワンショットモニタリング

一番シンプルな使用方法では、以下のように現在のステータスのみを表示します(端末上で実行した場合には色も付いています)。

# drbdsetup events2 --now r0
exists resource name:r0 role:Secondary suspended:no
exists connection name:r0 peer-node-id:1 conn-name:remote-host connection:Connected role:Secondary
exists device name:r0 volume:0 minor:7 disk:UpToDate
exists device name:r0 volume:1 minor:8 disk:UpToDate
exists peer-device name:r0 peer-node-id:1 conn-name:remote-host volume:0
    replication:Established peer-disk:UpToDate resync-suspended:no
exists peer-device name:r0 peer-node-id:1 conn-name:remote-host volume:1
    replication:Established peer-disk:UpToDate resync-suspended:no
exists -
リアルタイムモニタリング

”–now” を付けないで実行した場合には動作し続け、以下のように更新を続けます。

# drbdsetup events2 r0
...
change connection name:r0 peer-node-id:1 conn-name:remote-host connection:StandAlone
change connection name:r0 peer-node-id:1 conn-name:remote-host connection:Unconnected
change connection name:r0 peer-node-id:1 conn-name:remote-host connection:Connecting

そして監視用途に、”–statistics”という別の引数もあります。これはパフォーマンスその他のカウンタを作成するものです。

”drbdsetup” の詳細な出力(読みやすいように一部の行は改行しています)

# drbdsetup events2 --statistics --now r0
exists resource name:r0 role:Secondary suspended:no write-ordering:drain
exists connection name:r0 peer-node-id:1 conn-name:remote-host connection:Connected
                                                        role:Secondary congested:no
exists device name:r0 volume:0 minor:7 disk:UpToDate size:6291228 read:6397188
            written:131844 al-writes:34 bm-writes:0 upper-pending:0 lower-pending:0
                                                         al-suspended:no blocked:no
exists device name:r0 volume:1 minor:8 disk:UpToDate size:104854364 read:5910680
          written:6634548 al-writes:417 bm-writes:0 upper-pending:0 lower-pending:0
                                                         al-suspended:no blocked:no
exists peer-device name:r0 peer-node-id:1 conn-name:remote-host volume:0
          replication:Established peer-disk:UpToDate resync-suspended:no received:0
                                      sent:131844 out-of-sync:0 pending:0 unacked:0
exists peer-device name:r0 peer-node-id:1 conn-name:remote-host volume:1
          replication:Established peer-disk:UpToDate resync-suspended:no received:0
                                     sent:6634548 out-of-sync:0 pending:0 unacked:0
exists -

”–timestamp” パラメータも便利な機能です。

5.2.5. コネクションステータス

リソースのコネクションステータスは drbdadm cstate コマンドで確認することができます。

# drbdadm cstate <resource>
Connected
Connected
StandAlone

確認したいのが1つのコネクションステータスだけの場合にはコネクション名を指定してください。

デフォルトでは設定ファイルに記載のある対向ノードのホスト名です。

# drbdadm cstate <resource>:<peer>
Connected

リソースのコネクションステータスには次のようなものがあります。

StandAlone

ネットワーク構成は使用できません。リソースがまだ接続されていない、管理上の理由で切断している( drbdadm disconnect を使用)、認証の失敗またはスプリットブレインにより接続が解除された、のいずれかが考えられます。

Disconnecting

切断中の一時的な状態です。次の状態は StandAlone です。

Unconnected

接続を試行する前の一時的な状態です。次に考えられる状態は、 Connecting です。

Timeout

対向ノードとの通信のタイムアウト後の一時的な状態です。次の状態は Unconnected です。

BrokenPipe

対向ノードとの接続が失われた後の一時的な状態です。次の状態は Unconnected です。

NetworkFailure

対向ノードとの接続が失われた後の一時的な状態です。次の状態は Unconnected です。

ProtocolError

対向ノードとの接続が失われた後の一時的な状態です。次の状態は Unconnected です。

TearDown

一時的な状態です。対向ノードが接続を閉じています。次の状態は Unconnected です。

Connecting

対向ノードがネットワーク上で可視になるまでノードが待機します。

Connected

DRBDの接続が確立され、データミラー化がアクティブになっています。これが正常な状態です。

5.2.6. 複製ステータス

各ボリュームは各接続ごとに複製ステータスを持ちます。可能な複製ステータスは以下になります。

Off

ボリュームはこの接続を通して複製されていません。接続が Connected になっていません。す。次の状態は Unconnected です。

Established

このボリュームへのすべての書き込みがオンラインで複製されています。これは通常の状態です。

StartingSyncS

管理者により開始されたフル同期が始まっています。次に考えられる状態は SyncSource または PausedSyncS です。

StartingSyncT

管理者により開始されたフル同期が始まっています。次の状態は WFSyncUUID です。

WFBitMapS

部分同期が始まっています。次に考えられる状態は SyncSource または PausedSyncS です。

WFBitMapT

部分同期が始まっています。次に考えられる状態は WFSyncUUID です。

WFSyncUUID

同期が開始されるところです。次に考えられる状態は SyncTarget または PausedSyncT です。

SyncSource

現在、ローカルノードを同期元にして同期を実行中です。

SyncTarget

現在、ローカルノードを同期先にして同期を実行中です。

PausedSyncS

ローカルノードが進行中の同期の同期元ですが、現在は同期が一時停止しています。原因として、別の同期プロセスの完了との依存関係、または drbdadm pause-sync を使用して手動で同期が中断されたことが考えられます。

PausedSyncT

ローカルノードが進行中の同期の同期先ですが、現在は同期が一時停止しています。原因として、別の同期プロセスの完了との依存関係、または drbdadm pause-sync を使用して手動で同期が中断されたことが考えられます。

VerifyS

ローカルノードを照合元にして、オンラインデバイスの照合を実行中です。

VerifyT

現在、ローカルノードを照合先にして、オンラインデバイスの照合を実行中です。

Ahead

リンクが負荷に対応できないので、データの複製が中断しました。このステータスは on-congestion オプションの設定で有効にできます(輻輳ポリシーと中断したレプリケーションの構成を参照)。

Behind

リンクが負荷に対応できないので、データの複製が対向ノードによって中断されました。このステータスは対向ノードの on-congestion オプション設定で有効にできま>す(輻輳ポリシーと中断したレプリケーションの構成を参照)。

5.2.7. Resource Roles

リソースのロールはdrbdadm role コマンドを実行することで確認できます。

# drbdadm role <resource>
Primary

以下のいずれかのリソースのロールが表示されます。

Primary

リソースは現在プライマリロールで読み書き加能です。2つのノードの一方だけがこのロールになることができます。ただし、デュアルプライマリモードの場合は例外です。

Secondary

リソースは現在セカンダリロールです。対向ノードから正常に更新を受け取ることができますが(切断モード以外の場合)、このリソースに対して読み書きは実行できません。1つまたは両ノードがこのロールになることができます。

Unknown

リソースのロールが現在不明です。ローカルリソースロールがこの状態になることはありません。切断モードの場合に、対向ノードのリソースロールにのみ表示されます。

5.2.8. ディスク状態

リソースのディスク状態は drbdadm dstate コマンドを実行することで確認できます。

# drbdadm dstate <resource>
UpToDate

ディスク状態は以下のいずれかです。

Diskless

DRBDドライバにローカルブロックデバイスが割り当てられていません。原因として、リソースが下位デバイスに接続されなかった、 drbdadm detach を使用して手動でリソースを切り離した、または下位レベルのI/Oエラーにより自動的に切り離されたことが考えられます。

Attaching

メタデータを読み取る際の一時的な状態として、「ディスクの状態、アタッチ」という用語が使われています。

Detaching

切断され、進行中のIO処理が完了するのを待っている一時的な状態。

Failed

ローカルブロックデバイスがI/O障害を報告した後の一時的な状態です。次の状態は Diskless です。

Negotiating

すでに Connected のDRBDデバイスで attach が実行された場合の一時的状態です。

Inconsistent

データが一致しません。新規リソースを作成した直後に(初期フル同期の前に)両方のノードがこの状態になります。また、同期中には片方のノード(同期先)がこの状態になります。

Outdated

リソースデータは一致していますが、無効です。

DUnknown

ネットワーク接続を使用できない場合に、対向ノードディスクにこの状態が使用されます。

Consistent

接続していない状態でノードのデータが一致しています。接続が確立すると、データが UpToDateOutdated か判断されます。

UpToDate

データが一致していて最新の状態です。これが正常な状態です。

5.2.9. 接続情報データ

local

ネットワークファミリ、ローカルアドレス、対向ノードから接続を許可されたポートを表示します。

peer

ネットワークファミリ、ローカルアドレス、接続に使用しているポートを表示します。

congested

データのTCP送信バッファを80%より多く使用している場合にこのフラグがつきます。

5.2.10. パフォーマンス指標

コマンド drbdsetup status --verbose --statistics を使用して、パフォーマンス統計を表示できます。これは drbdsetup events2 --statistics でも利用できますが、変更ごとに changed イベントが発生するわけではありません。統計には、次のカウンターとゲージが含まれます。

ボリューム/デバイス単位:

read (disk read)

ローカルディスクから読み取られたネットデータ (kibyte単位)。

written (disk written)

ローカルのディスクに書き込んだ正味データ量(kibyte単位)。

al-writes (activity log)

メタデータのアクティビティログエリアの更新回数。

bm-writes (bitmap)

メタデータのビットマップ領域の更新回数。

upper-pending (application pending)

まだDRBDから応答がない(完了していない)DRBDへのブロックI/Oリクエスト数。

lower-pending (local count)

DRBDが発行したローカルI/Oサブシステムへのオープンリクエストの数。

blocked

ローカルI/Oの輻輳を示します。

  • no:輻輳なし

  • uppeer: ファイルシステムなどDRBD より上位 のI/Oがブロックされている。代表的なものには以下がある。

    • 管理者によるI/O中断。 drbdadm コマンドの suspend-io を参照。

    • アタッチ/デタッチ時の一時的なブロック。

    • バッファーの枯渇。DRBDパフォーマンスの最適化 参照。

    • ビットマップIO待ち

  • lower: 下位デバイスの輻輳

  • 上位、下位両方がブロックされている。

接続単位:

ap-in-flight (application in-flight)

対向ノードによって書き込まれているアプリケーションデータ。つまり、DRBD はそれを対向ノードに送信し、書き込まれたという確認応答を待っています。セクター単位(512バイト)。

rs-in-flight (resync in-flight)

対向ノードによって書き込まれている同期データ。つまり、DRBD は SyncSource が 同期データを対向ノードに送信し、データが書き込まれたことの確認応答を待っています。セクター単位(512バイト)。

接続とボリューム単位 (“peer device”):

done

同期されるデータのうち同期されたデータのパーセンテージ。

resync-suspended

現在同期が中断されているかどうかを示す。値は no, user, peer, dependency でカンマ区切り。

received (network receive)

対向ノードから受信したネットデータ(KiB単位)。

sent (network send)

対向ノードへ送信したネットデータ(KiB単位)。

out-of-sync

DRBD のビットマップによる現在この対向ノードと同期していないデータ量(KiB単位)。

pending

対向ノードに送信されたが、対向ノードによってまだ確認されていないリクエスト数。

unacked (unacknowledged)

対向ノードから受信したが、このノードの DRBD によってまだ確認されていないリクエスト数。

dbdt1

過去数秒以内の同期速度。単位は MiB/秒。このユーザーズガイドの 同期速度の設定 セクションで説明されているオプションで、同期速度を変更できます。

eta

同期が完了するまでの残り秒数。この数値は、過去数秒以内の同期速度と、同期されていないリソースの下位デバイスのサイズに基づいて計算されます。

5.3. リソースの有効化と無効化

5.3.1. リソースの有効化

通常、自動的にすべての設定済みDRBDリソースが有効になります。これは、

  • クラスタ構成に応じたクラスタ管理アプリケーションの操作による、または

  • systemd units (e.g., [email protected]) による

手動でリソースを起動する必要がある場合には、以下のコマンドの実行によって行うことができます。

# drbdadm up <resource>

他の場合と同様に、特定のリソース名の代わりにキーワード all を使用すれば、 /etc/drbd.conf で設定しているすべてのリソースを一度に有効にできます。

5.3.2. リソースを無効にする

特定のリソースを一時的に無効にするには、次のコマンドを実行します。

# drbdadm down <resource>

ここでも、リソース名の代わりにキーワード all を使用して、1回で /etc/drbd.conf に記述しているすべてのリソースを一時的に無効にできます。

5.4. リソースの再設定

DRBDの動作中にリソースを再設定することができます。次の手順を行います。

  • /etc/drbd.conf のリソース設定を変更します。

  • 両方のノードで /etc/drbd.conf ファイルを同期します。

  • drbdadm adjust <resource> コマンドを 両ノードで実行します。

drbdadm adjustdrbdsetup を通じて実行中のリソースを調整します。保留中の drbdsetup 呼び出しを確認するには、 drbdadm-d (dry-run,予行演習)オプションを付けて実行します。

/etc/drbd.confcommon セクションを変更して一度にすべてのリソースに反映させたいときには drbdadm adjust all を実行します。

5.5. リソースの昇格と降格

手動でリソースロールをセカンダリからプライマリに切り替える(昇格)、またはその逆に切り替える(降格)には、次のコマンドを実行します。

# drbdadm primary <resource>
# drbdadm secondary <resource>

DRBDがシングルプライマリモード(DRBDのデフォルト)で、コネクションステータスConnected の場合、任意のタイミングでどちらか1つのノード上でのみリソースはプライマリロールになれます。したがって、あるリソースが他のノードに対してプライマリロールになっているときに drbdadm primary <resource> を実行すると、エラーが発生します。

リソースがデュアルプライマリモードに対応するよう設定している場合には、両方のノードをプライマリロールに切り替えることができます。これは、例えば仮想マシンのオンラインマイグレーションの際に利用できます。

5.6. 基本的な手動フェイルオーバ

Pacemakerを使わず、パッシブ/アクティブ構成でフェイルオーバを手動で制御するには次のようにします。

現在のプライマリノードで、DRBDデバイスを使用しているすべてのアプリケーションやサービスを停止し、DRBDデバイスをアンマウントし、リソースをセカンダリに降格させてください。

# umount /dev/drbd/by-res/<resource>/<vol-nr>
# drbdadm secondary <resource>

プライマリにしたいノードでリソースを昇格してデバイスをマウントします。

# drbdadm primary <resource>
# mount /dev/drbd/by-res/<resource>/<vol-nr> <mountpoint>

自動プロモート 機能を使用している場合はロール(プライマリ/セカンダリ)を手動で変更する必要はありません。それぞれサービス停止とアンマウント、マウントの操作のみ必要です。

5.7. systemdサービスを使用してきれいにシャットダウンする

`drbd-utils`バージョン9.26.0以降には、「優雅なシャットダウン」サービスである`drbd-graceful-shutdown.service`が含まれています。このサービスは、ノードをシャットダウンする際にクラスター全体においてDRBDの“「最後の1台」”の動作が適用されるようにし ます。

最初のDRBDデバイスが作成された時点で、優雅なシャットダウンサービスはudevサービスによって自動的に起動されます。システムをシャットダウンする際、優雅なシャットダウンサービスは、DRBDリソースをホストしているすべてのノードが正しい順序でサービスをシャットダウンし、最後のノードがクォーラムを維持できるようにします。

通常のシステムシャットダウンシーケンスでは、この介入なしには、ネットワーキングがシステムがファイルシステムをアンマウントし、DRBDデバイスを停止する前に停止することがよくあります。Graceful shutdownサービスがない場合、最後にシャットダウンする ノードがDRBDクオーラムを保持するようにするには、ノードをシャットダウンする前にファイルシステムを手動でアンマウントし、DRBDリソースを停止する必要があります。

ノード上で実行されているGraceful Shutdownサービスのおかげで、シャットダウン時にノードは自身のDRBDリソースを時代遅れとマ ークし、実行中のDRBDサービスを停止し、その後にネットワーキングサービスを停止させます。このシャットダウン手順により、クラスタを離れるDRBDノードは、ネットワークを介してその時代遅れの状態を最後のノードに伝えることができます。この方法で、クラスタを離れる最後のノードはクォーラムを維持することができます。

5.8. DRBDのアップグレード

DRBDのアップグレードは比較的簡単なプロセスです。このセクションには、特定のDRBD 9バージョンから別のDRBD 9バージョンへのアップグレードに関する警告や重要な情報が含まれています。

DRBDを8.4.xから9.xにアップグレードする場合は、[ap-upgrading-8.4-to-9.x、付録] の手順に従ってください。

5.8.1. DRBD 9.2.x へのアップグレード

以前の9.2ブランチ以外のバージョンからDRBD 9.2.xにアップグレードする場合は、リソース名に注意する必要があります。 DRBD 9.2.xではDRBDリソースの名前に厳格な命名規則が適用されます。デフォルトでは、DRBD 9.2.xではリソース名には英数字、。、+、、-の文字しか受け入れません(正規表現:[0-9A-Za-z.+-]*)。古い動作に依存している場合は、厳格な名前のチェックを無効にして戻すことができます:

# echo 0 > /sys/module/drbd/parameters/strict_names

5.8.2. 互換性

DRBD は、マイナーバージョン間でワイヤプロトコル互換です。これはホストのカーネルのバージョンやマシンの CPU アーキテクチャに依存しません。

DRBDは、メジャーバージョン内ではプロトコル互換性があります。たとえば、すべての9.x.yリリースはプロトコル互換性があります。

5.8.3. DRBD9 のアップグレード

もし既に DRBD 9.x を稼働させている場合、新しい DRBD 9 バージョンにアップグレードするには、以下の手順に従ってください:

  1. DRBDリソースが同期されていることを確認するためには、DRBDの状態を確認する必要があります。

  2. 新しいバージョン をインストールする。

  3. DRBDサービスを停止するか、クラスターマネージャーを使用している場合は、アップグレードを行うクラスターノードを スタンバイ 状態にしてください。

  4. 新しいカーネルモジュールをロード するために、まずカーネルモジュールをアンロードしてから更新してください。

  5. クラスターノードを使用している場合は、 [s-upgrade-start-drbd、DRBDリソースの開始し、] 再びクラスターノードをオンラインにします。

これらの個々の手順は以下に詳細に記載されています。

Checking the DRBD State

DRBDを更新する前に、リソースが同期されていることを確認してください。`drbdadm status all`の出力には、リソースの状態が表示されます。以下に例として示される「data」というリソースが「UpToDate」の状態で表示されるはずです。

# drbdadm status all
data role:Secondary
  disk:UpToDate
  node-1 role:Primary
    peer-disk:UpToDate
パッケージのアップグレード

バージョン9以内でDRBDをアップグレードする準備が整っている場合は、まずパッケージをアップグレードしてください。

RPM-based:

# dnf -y upgrade

DEB-based:

# apt update && apt -y upgrade

アップグレードが完了すると、最新のDRBD 9.xカーネルモジュールと`drbd-utils`がインストールされます。ただし、新しいカーネルモジュールはまだアクティブではありません。新しいカーネルモジュールをアクティブにする前に、まずクラスターサービスを一時停止する必要があります。

サービスの一時停止

クラスターサービスを手動で一時停止するか、クラスターマネージャーのドキュメントに従って停止することができます。 Both processes are covered below. If you are running Pacemaker as your cluster manager do not use the manual method.

手動手順
# systemctl stop drbd@<resource>.target
To use the systemctl stop command with a DRBD resource target, you would have needed to have enabled the drbd.service previously. You can verify this by using the systemctl is-enabled drbd.service command.
Pacemaker

セカンダリノード(アップグレード対象のノード)をスタンバイモードにしてください。

# crm node standby node-2
You can watch the status of your cluster using crm_mon -rf or watch cat /proc/drbd until it shows Unconfigured for your resources.
Loading the New Kernel Module

クラスターサービスを一時停止した後、DRBDモジュールは使用されていないはずなので、次のコマンドを入力してアンロードしてください。

# rmmod drbd_transport_tcp; rmmod drbd

If there is a message like ERROR: Module drbd is in use, then not all resources have been correctly stopped.

パッケージのアップグレードを再試行するか、アクティブなリソースを特定するために`drbdadm down all`コマンドを実行してください。

Some typical issues that might prevent you from unloading the kernel module are:

  • NFS export on a DRBD-backed filesystem (see exportfs -v output)

  • ファイルシステムがまだマウントされています – grep drbd /proc/mounts を確認してください。

  • Loopback device active (losetup -l)

  • Device mapper using DRBD, directly or indirectly (dmsetup ls --tree)

  • LVM with a DRBD-PV (pvs)

This list is not complete. These are just the most common examples.

Now you can load the new DRBD module.

# modprobe drbd

次に、読み込まれているDRBDカーネルモジュールのバージョンがアップデートされた9.x.yバージョンであることを確認できます。`drbdadm –version`の出力には、期待しているアップグレード先の9.x.yバージョンが表示され、次のように似ているはずです。

DRBDADM_BUILDTAG=GIT-hash: [...] build\ by\ buildd@lcy02-amd64-080\,\ 2023-03-14\ 10:21:20
DRBDADM_API_VERSION=2
DRBD_KERNEL_VERSION_CODE=0x090202
DRBD_KERNEL_VERSION=9.2.2
DRBDADM_VERSION_CODE=0x091701
DRBDADM_VERSION=9.23.1
DRBDリソースを再起動します。

Now, the only thing left to do is to get the DRBD devices up and running again. You can do this by using the drbdadm up all command.

次に、クラスターマネージャーを使用しているか、DRBDリソースを手動で管理しているかによって、リソースを起動する方法が異なります。クラスターマネージャーを使用している場合は、そのドキュメントに従ってください。

  • Manually

    # systemctl start drbd@<resource>.target
  • Pacemaker

    # crm node online node-2

This should make DRBD connect to the other node, and the resynchronization process will start.

両方のノードがすべてのリソースで「最新」の状態に戻ると、アプリケーションをすでに更新済みのノードに移動させ、その後次にアップグレードしたいクラスターノードでも同じ手順を踏みます。

5.9. デュアルプライマリモードを有効にする

デュアルプライマリモードではリソースが複数ノードで同時にプライマリになることができます。永続的でも一時的なものでも可能です。

Dual-primary mode requires that the resource is configured to replicate synchronously (protocol C). Because of this it is latency sensitive, and ill-suited for WAN environments.

さらに、両リソースが常にプライマリとなるので、いかなるノード間のネットワーク不通でもスプリットブレインが発生します。

In DRBD 9.0.x Dual-Primary mode is limited to exactly two Primaries for the use in live migration.

5.9.1. 永続的なデュアルプライマリモード

デュアルプライマリモードを有効にするため、リソース設定の net セクションで、 allow-two-primaries オプションを yes に指定します。

resource <resource>
  net {
    protocol C;
    allow-two-primaries yes;
    fencing resource-and-stonith;
  }
  handlers {
    fence-peer "...";
    unfence-peer "...";
  }
  ...
}

そして、両ノード間で設定を同期することを忘れないでください。両ノードで drbdadm adjust <resource> を実行してください。

これで drbdadm primary <resource> で、両ノードを同時にプライマリのロールにすることができます。

適切なフェンシングポリシーを常に実装すべきです。フェンシングなしで ‘allow-two-primaries’ を設定するのは危険です。これはフェンシングなしで、シングルプライマリを使うことより危険になります。

5.9.2. 一時的なデュアルプライマリモード

通常はシングルプライマリで稼動しているリソースを、一時的にデュアルプライマリモードを有効にするには次のコマンドを実行してください。

# drbdadm net-options --protocol=C --allow-two-primaries <resource>

一時的なデュアルプライマリモードを終えるには、上記と同じコマンドを実行します。ただし --allow-two-primaries=no としてください(また、適切であれば希望するレプリケーションプロトコルにも)。

5.10. オンラインデバイス照合の使用

5.10.1. オンライン照合を有効にする

オンラインデバイス照合はデフォルトでは有効になっていません。有効にするには /etc/drbd.conf のリソース設定に以下の行を追加します。

resource <resource>
  net {
    verify-alg <algorithm>;
  }
  ...
}

<algorithm> は、システムのカーネル構成内のカーネルcrypto APIでサポートされる任意のメッセージダイジェストアルゴリズムです。通常は sha1md5crc32c から選択します。

既存のリソースに対してこの変更を行う場合は、 drbd.conf を対向ノードと同期し、両方のノードで drbdadm adjust <resource> を実行します。

5.10.2. オンライン照合の実行

オンライン照合を有効にしたら、次のコマンドでオンライン照合を開始します。

# drbdadm verify <resource>:<peer>/<volume>

コマンドを実行すると、DRBD が <peer> の <resource><volume> に対してオンライン照合を実行します。同期していないブロックを検出した場合は、ブロックに非同期のマークを付け、カーネルログにメッセージを書き込みます。このときにデバイスを使用しているアプリケーションは中断なく動作し続けます。また、リソースロールの切り替えも行うことができます。

<Volume> is optional, if omitted, it will verify all volumes in that resource.

照合中に同期していないブロックが検出された場合は、照合の完了後に、次のコマンド使用して再同期できます。

drbd-9.0.29 以降、推奨される方法は次のいずれかのコマンドです。

# drbdadm invalidate <resource>:<peer>/volume --reset-bitmap=no
# drbdadm invalidate-remote <resource>:<peer>/volume --reset-bitmap=no

最初のコマンドは、リモートバージョンによってローカルの違いが上書きされます。 2 番目のコマンドは反対方向にそれを行います。

drbd-9.0.29 より前のバージョンでは、再同期を開始する必要があります。これを行う方法は、対向ノードをプライマリから切断し、切断している間にプライマリが少なくとも1 つのブロックを変更するようにすることです。

# drbdadm disconnect <resource>:<peer>
## write one block on the primary
# drbdadm connect <resource>:<peer>

5.10.3. 自動オンライン照合

通常は、オンラインデバイス照合を自動的に実行するほうが便利です。自動化は簡単です。一方 のノードに /etc/cron.d/drbd-verify という名前で、次のような内容のファイルを作成します。

42 0 * * 0    root    /sbin/drbdadm verify <resource>

これにより、毎週日曜日の午前0時42分に、 cron がデバイス照合を呼び出します。そのため、月曜の朝にリソース状態をチェックして結果を確認することができます。デバイスが大きくて32時間では足りなかった場合、 コネクションステータスが VerifyS または VerifyT になっています。これは verify がまだ動作中であることを意味しています。

オンライン照合をすべてのリソースで有効にした場合(例えば /etc/drbd.d/global_common.confcommon セクションに verify-alg <アルゴリズム> を追加するなど)には、以下のようにします。

42 0 * * 0    root    /sbin/drbdadm verify all

5.11. 同期速度の設定

バックグラウンド同期中は同期先のデータとの一貫性が一時的に失われるため、同期はできるだけ短時間で完了させるべきです。ただし、すべての帯域幅がバックグラウンド同期に占有されてしまうと、フォアグラウンドレプリケーションに使用できなくなり、アプリケーションのパフォーマンス低下につながります。これは避ける必要があります。同期用の帯域幅はハードウェアに合わせて設定する必要があります。

同期速度をセカンダリノードの最大書き込みスループットを上回る速度に設定しても意味がありません。デバイス同期の速度をどれほど高速に設定しても、セカンダリノードがそのI/Oサブシステムの能力より高速に書き込みを行うことは不可能です。

また、同じ理由で、同期速度をレプリケーションネットワークの帯域幅の能力を上回る速度に設定しても意味がありません。

5.11.1. 同期速度の計算

概算としては使用可能なレプリケーション帯域幅の30%程度を想定するのがよいでしょう。400MB/sの書き込みスループットを維持できるI/Oサブシステム、および110MB/sのネットワークスループットを維持できるギガビットイーサネットネットワークの場合は、ネットワークがボトルネックになります。速度は次のように計算できます。
sync rate example1
図 8. syncer 速度の例(有効帯域幅が110MB/sの場合)

この結果、 resynce-rate オプションの推奨値は 33M になります。

一方、最大スループットが80MB/sのI/Oサブシステム、およびギガビットイーサネット接続を使用する場合は、I/Oサブシステムが律速要因になります。速度は次のように計算できます。

sync rate example2
図 9. syncer 速度の例(有効帯域幅が80MB/sの場合)

この場合、 resync-rate オプションの推奨値は 24M です。

同じようにして800MB/sのストレージ速度で10Gbeのネットワークコネクションであれば、〜240MB/sの同期速度が得られます。

5.11.2. 可変同期速度設定

複数のDRBDリソースが1つのレプリケーション/同期ネットワークを共有する場合、同期が固定レートであることは最適なアプローチではありません。そのためDRBD 8.4.0から可変同期速度がデフォルトで有効になっています。このモードではDRBDが自動制御のループアルゴリズムで同期速度を決定して調整を行います。このアルゴリズムはフォアグラウンド同期に常に十分な帯域幅を確保し、バックグラウンド同期がフォアグラウンドのI/Oに与える影響を少なくします。

最適な可変同期速度の設定は、使用できるネットワーク帯域幅、アプリケーションのI/Oパターンやリンクの輻輳によって変わります。 DRBD Proxy の有無によっても適切な設定は異なります。DRBDの機能を最適化するためにコンサルタントを利用するのもよいでしょう。以下は(DRBD Proxy使用を想定した環境での)設定の 一例 です。

resource <resource> {
  disk {
    c-plan-ahead 5;
    c-max-rate 10M;
    c-fill-target 2M;
  }
}
c-fill-target の初期値は BDP✕2 がよいでしょう。 BDP とはレプリケーションリンク上の帯域幅遅延積(Bandwidth Delay Product)です。

For example, when using a 1GBit/s crossover connection, you’ll end up with about 200µs latency[5].
1GBit/s means about 120MB/s; times 200*10-6 seconds gives 24000 Byte. Just round that value up to the next MB, and you’re good to go.

別の例をあげると、100MBitのWAN接続で200msのレイテンシなら12MB/s掛ける0.2sです。2.5MBくらいになります。c-fill-target の初期値は3MBがよいでしょう。

他の設定項目については drbd.conf のマニュアルページを参照してください。

5.11.3. 永続的な固定同期速度の設定

ごく限られた状況[6]では、固定同期速度を使うことがあるでしょう。この場合には、まず c-plan-ahead 0; にして可変同期速度調節の機能をオフにします。

そして、リソースがバックグラウンド再同期に使用する最大帯域幅をリソースの resync-rate オプションによって決定します。この設定はリソースの /etc/drbd.confdisk セクションに記載します。

resource <resource>
  disk {
    resync-rate 40M;
    ...
  }
  ...
}

同期速度の設定は1秒あたりの バイト 単位であり ビット 単位でない点に注意してください。デフォルトの単位は kibibyte で、 4096 であれば 4MiB となります。

これはあくまでDRBDが行おうとする速度にすぎません。低スループットのボトルネック(ネットワークやストレージの速度)がある場合、設定した速度(いわゆる”理想値”)には達しません。

5.11.4. 同期速度の設定

同期すべきデータ領域の一部が不要になった場合、例えば、対向ノードとの接続が切れている時にデータを削除した場合などにはTrim/Discardのサポートの有効性が感じられるかもしれません。

Furthermore, c-min-rate is easy to misunderstand – it doesn’t define a minimum synchronization speed, but rather a limit below which DRBD will not slow down further on purpose.
Whether you manage to reach that synchronization rate depends on your network and storage speed, network latency (which might be highly variable for shared links), and application I/O (which you might not be able to do anything about).

5.12. チェックサムベース同期の設定

チェックサムベース同期はデフォルトでは有効になっていません。有効にするには、 /etc/drbd.conf のリソース構成に次の行を追加します。

resource <resource>
  net {
    csums-alg <algorithm>;
  }
  ...
}

<algorithm> は、システムのカーネル構成内のカーネルcrypto APIでサポートされる任意のメッセージダイジェストアルゴリズムです。通常は sha1md5crc32c から選択します。

既存のリソースに対してこの変更を行う場合は、 drbd.conf を対向ノードと同期し、両方のノードで drbdadm adjust <resource> を実行します。

5.13. 輻輳ポリシーと中断したレプリケーションの構成

レプリケーション帯域幅が大きく変動する環境(WANレプリケーション設定で典型的)の場合、レプリケーションリンクは時に輻輳します。デフォルト設定では、プライマリノードのI/Oのブロックを引き起こし、望ましくない場合があります。

その代わりに、進行中の同期を suspend (中断)に設定し、プライマリのデータセットをセカンダリから pull ahead (引き離す)にします。このモードではDRBDはレプリケーションチャネルを開いたままにし、切断モードにはしません。しかし十分な帯域幅が利用できるようになるまで実際にはレプリケートを行いません。

次の例は、DRBD Proxy構成のためのものです。

resource <resource> {
  net {
    on-congestion pull-ahead;
    congestion-fill 2G;
    congestion-extents 2000;
    ...
  }
  ...
}

通常は congestion-fillcongestion-extentspull-ahead オプションと合わせて設定するのがよい方法でしょう。

congestion-fill の値は以下の値の90%にするとよいでしょう。

  • DRBD Proxy越しの同期の場合のDRBD Proxyのバッファメモリの割り当て、 または

  • DRBD Proxy構成でない環境でのTCPネットワークの送信バッファ

congestion-extents の値は、影響するリソースの al-extents に設定した値の90%がよいでしょう。

5.14. I/Oエラー処理方針の設定

DRBDが 下位レベルI/Oエラーを処理する際の方針は、リソースの /etc/drbd.confdisk セクションの on-io-error で指定します。

resource <resource> {
  disk {
    on-io-error <strategy>;
    ...
  }
  ...
}

すべてのリソースのグローバルI/Oエラー処理方針を定義したい場合は、これを common セクションで設定します。

<strategy> は以下のいずれかを指定します。

detach

これがデフォルトで、推奨オプションです。下位レベルI/Oエラーが発生すると、DRBDはそのノードの下位デバイスを切り離し、ディスクレスモードで動作を継続します。

pass-on

上位層にI/Oエラーを通知します。プライマリノードの場合は、マウントされたファイルシステムに通知されます。セカンダリノードの場合は無視されます(セカンダリノードには通知すべき上位層がないため)。

call-local-io-error

ローカルI/Oエラーハンドラとして定義されたコマンドを呼び出します。このオプションを使うには、対応する local-io-error ハンドラをリソースの handlers セクションに定義する必要があります。local-io-error で呼び出されるコマンド(またはスクリプト)にI/Oエラー処理を実装するかどうかは管理者の判断です。

DRBDの以前のバージョン(8.0以前)にはもう1つのオプション panic があり、これを使用すると、ローカルI/Oエラーが発生するたびにカーネルパニックによりノードがクラスタから強制的に削除されました。このオプションは現在は使用できませんが、 local-io-error / call-local-io-error インタフェースを使用すると同じような動作を実現します。ただし、この動作の意味を十分理解した上で使用してください。

次のコマンドで、実行中のリソースのI/Oエラー処理方針を再構成することができます。

  • /etc/drbd.d/<resource>.res のリソース構成の編集

  • 構成の対向ノードへのコピー

  • 両ノードでの drbdadm adjust <resource> の実行

5.15. レプリケーショントラフィックの整合性チェックを設定

レプリケーショントラフィックの整合性チェック はデフォルトでは有効になっていません。有効にする場合は、 /etc/drbd.conf のリソース構成に次の行を追加します。

resource <resource>
  net {
    data-integrity-alg <algorithm>;
  }
  ...
}

<algorithm> は、システムのカーネル構成内のカーネルcrypto APIでサポートされる任意のメッセージダイジェストアルゴリズムです。通常は sha1md5crc32c から選択します。

既存のリソースに対してこの変更を行う場合は、 drbd.conf を対向ノードと同期し、両方のノードで drbdadm adjust <resource> を実行します。

この機能は本番環境での使用は想定していません。データ破壊の問題や、通信経路(ネットワークハードウェア、ドライバ、スイッチ)に障害があるかどうかを診断する場合にのみ使用してください。

5.16. リソースのサイズ変更

DRBD ボリュームを拡張する場合は、下から上に拡張する必要があります。最初に、すべてのノードで下位ブロックデバイスを拡張する必要があります。次に、DRBD に新しいスペースを使用するように指示します。

DRBD ボリュームが拡張された後、DRBD を使用しているものにそれを伝える必要があります。ファイルシステムを拡張する、あるいはこのボリュームが接続された状態で実行されている VM に新しい「ディスクサイズ」を認識させます。

これは通常、次のようになります。

# # on all nodes, resize the backing LV:
# lvextend -L +${additional_gb}g VG/LV
# # on one node:
# drbdadm resize ${resource_name}/${volume_number}
# # on the Primary only:
# # resize the file system using the file system specific tool, see below

次のセクション オンライン拡張 も参照ください。

ファイルシステムが異なれば、機能や管理ツールのセットも異なることに注意してください。例えば、XFS は拡張しかできません。また、引数にアクティブなマウントポイントを指定します: xfs_growfs /where/you/have/it/mounted

EXT ファミリは、拡張(オンラインでも)と縮小(オフラインのみ。最初にマウントを解除する必要があります)の両方が可能です。 ext3 または ext4 のサイズを変更するには、引数にマウントポイントではなく、(マウントされた)ブロックデバイスを指定します: resize2fs /dev/drbd#

当然、正しいDRBD(mount`や`df -T`で表示されるもの)を使用してください。バッキング・ブロック・デバイスを使ってはいけません。DRBDが稼働している場合、それは動作しないはずです(`resize2fs: Device or resource busy while trying to open /dev/mapper/VG-LV Couldn’t find valid filesystem superblock.)。 もしDRBDを停止させてオフラインで行おうとした場合、バッキングのLVやパーティションに直接ファイルシステムツールを実行したら、DRBDメタデータが破損する可能性があります。ですので、やめておいてください。

プライマリでアクティブなDRBDデバイスに対して、ファイルシステムのリサイズは 1 回だけ 実行します。DRBDはファイルシステム構造の変更をレプリケートします。そのためにDRBDを使用しています。

また、XFS ボリュームで resize2fs を使用したり、EXT で XFS ツールを使用したりしないでください。使用中のファイルシステムに適したツールを使用してください。

resize2fs で /dev/drbd7 をオープンしたとき、スーパーブロックの不正なマジックナンバーは、これが EXT ファイルシステムではないことを伝えているので、代わりに他のツールを試す必要があります。例えば xfs_growfs です。ブロックデバイスではなく、マウントポイントを引数として取ることに注意してください。

DRBDボリュームを縮小する場合、トップからボトムに向かって縮小する必要があります。まず、切り詰めたいスペースが誰も使用していないことを確認してください。次にファイルシステムを縮小します(ファイルシステムがその機能をサポートしている場合)。その後、DRBDにそのスペースの使用を停止するよう指示します。DRBD内部のメタデータは、バッキングデバイスの「末尾」にあるため、これは簡単ではありません。

DRBD がスペースを使用しないことが確実になったら、たとえば lvreduce を使用して、下位デバイスからスペースを切り離すことができます。

オンライン縮小, オフライン縮小 も参照ください。

5.16.1. オンライン拡張

動作中(オンライン)に下位ブロックデバイスを拡張できる場合は、これらのデバイスをベースとするDRBDデバイスについても動作中にサイズを拡張することができます。その際に、次の2つの条件を満たす必要があります。

  1. 影響を受けるリソースの下位デバイスが、 LVMやEVMSなどの論理ボリューム管理サブシステムによって管理されている。

  2. 現在、リソースのコネクションステータスが Connected になっている。

両方のノードの下位ブロックデバイスを拡張したら、一方のノードだけがプライマリ状態であることを確認してください。プライマリノードで次のように入力します。

# drbdadm resize <resource>

新しいセクションの同期がトリガーされます。同期はプライマリノードからセカンダリノードへ実行されます。

追加する領域がクリーンな場合には、追加領域の同期を—​assume-cleanオプションでスキップできます。

# drbdadm -- --assume-clean resize <resource>

5.16.2. オフライン拡張する

DRBDが非アクティブの状態で両ノードのバックアップブロックデバイスが成長され、かつDRBDリソースが外部メタデータを使用している場合、新しいサイズが自動的に認識されます。管理者の介入は不要です。次に両ノード上でDRBDが再アクティブ化され、ネットワーク接続が正常に確立された後、DRBDデバイスは新しいサイズを持つようになります。

ただし、DRBD リソースが 内部メタデータ を使用するように設定されている場合、新しいサイズが利用可能になる前にこのメタデータを成長したデバイスの末尾に移動する必要があります。これを行うには、以下の手順を完了してください。

これは高度な手順です。慎重に検討した上で実行してください。
  • DRBDリソースを停止します。

# drbdadm down <resource>
  • リサイズする前にメタデータをテキストファイルに保存してください。

# drbdadm dump-md <resource> > /tmp/metadata

両方のノードでこれを行う必要があります。各ノードには個別のダンプファイルを使用してください。片方のノードでメタデータをダンプして、単にダンプファイルを相手のノードにコピーすることはやめてください。この方法ではうまくいきません。

  • 両方のノードの下位ブロックデバイスを拡大します。

  • /tmp/metadata ファイルのサイズ情報( la-size-sect )を書き換えます。la-size-sect は、必ずセクタ単位で指定する必要があります。

  • メタデータ領域の再初期化をします。

# drbdadm create-md <resource>
  • 修正されたメタデータを両方のノードに再インポートしてください。

# drbdmeta_cmd=$(drbdadm -d dump-md <resource>)
# ${drbdmeta_cmd/dump-md/restore-md} /tmp/metadata
Valid meta-data in place, overwrite? [need to type 'yes' to confirm]
yes
Successfully restored meta data
この例では bash パラメータ置換を使用しています。他のシェルの場合、機能する場合もしない場合もあります。現在使用しているシェルが分からない場合は、 SHELL 環境変数を確認してください。
  • 再度DRBDリソースを起動します。

# drbdadm up <resource>
  • 一方のノードでDRBDリソースを昇格します。

# drbdadm primary <resource>
  • 最後に、拡張したDRBDデバイスを活用するために、ファイルシステムを拡張します。

5.16.3. オンライン縮小

警告 : オンラインでの縮小は外部メタデータ使用の場合のみサポートしています。

DRBDデバイスを縮小する前に、DRBDの上位層(通常はファイルシステム)を縮小 しなければいけません 。ファイルシステムが実際に使用している容量を、DRBDが知ることはできないため、データが失われないように注意する必要があります。

ファイルシステムをオンラインで縮小できるかどうかは、使用しているファイルシステムによって異なります。ほとんどのファイルシステムはオンラインでの縮小をサポートしません。XFSは縮小そのものをサポートしません。

オンラインでDRBDを縮小するには、その上位に常駐するファイルシステムを縮小した_後に_、次のコマンドを実行します。

# drbdadm resize --size=<new-size> <resource>

<new-size> には通常の乗数サフィックス(K、M、Gなど)を使用できます。DRBDを縮小したら、DRBDに含まれるブロックデバイスも縮小できます(デバイスが縮小をサポートする場合)。

DRBDのメタデータがボリュームの想定される箇所に 実際に 書き込まれるように下位デバイスのリサイズ後に drbdadm resize <resource> を実行してもよいでしょう。

5.16.4. オフライン縮小

もしDRBDが非アクティブの状態でバッキングブロックデバイスを縮小しようとすると、外部メタデータを使用している場合はブロックデバイスが現在のサイズよりも小さくなるため、次のアタッチ試行時にDRBDはこのブロックデバイスにアタッチを拒否します。または、内部メタデータを使用している場合はDRBDメタデータがバッキングブロックデバイスの末尾に書き込まれるため、メタデータが見つからなくなります。これらの問題を回避するためには、online shrinkingを使用できない場合には、この手順を使用してください。

これは高度な手順です。慎重に検討した上で実行してください。
  • DRBDがまだ動作している状態で、一方のノードのファイルシステムを縮小します。

  • DRBDリソースを停止します。

    # drbdadm down <resource>
  • 縮小する前にメタデータをテキストファイルに保存してください。

    # drbdadm dump-md <resource> > /tmp/<resource>-metadata
    dump-md コマンドがメタデータについての「不正な」警告で失敗した場合、まず指定したリソースのアクティビティログを適用するために drbdadm apply-al <resource> コマンドを実行する必要があります。その後で、dump-md コマンドを再試行することがで きます。

    DRBDリソースに設定されたすべてのノードのメタデータを、各ノードごとに別々のダンプファイルを使用して取得してください。

    メタデータを1つのノードにダンプして、単にそのダンプファイルをピアノードにコピーしないでください。これはうまくいきません。
  • 各ノードで構成されたDRBDリソースのバッキングブロックデバイスを縮小してください。

  • 各ノードで、ファイル /tmp/<resource>-metadata 中のサイズ情報 (la-size-sect) をセクター単位で適切に調整してください。la-size-sect はセクター単位で指定する必要があることを覚えておいてください。

  • *内部メタデータを使用している場合は、メタデータ領域を再初期化します(この時点では、縮小によりおそらく内部メタデータが失われています)。

    # drbdadm create-md <resource>
  • 各ノードで修正されたメタデータを再度インポートしてください。

    # drbdmeta_cmd=$(drbdadm --dry-run dump-md <resource>)
    # ${drbdmeta_cmd/dump-md/restore-md} /tmp/<resource>-metadata
    Valid meta-data in place, overwrite?
    [need to type 'yes' to confirm] yes
    
    再起動
    メタデータの復元に成功しました。
    この例では、修正されたメタデータを復元するために必要な drbdmeta restore-md コマンドを生成するために、BASHパラメータ置換が使用されています。他のシェルでは機能しないかもしれません。現在使用しているシェルが何かわからない場合は、SHELL 環境変数を確認してください。
  • 再度DRBDリソースを起動します。

    # drbdadm up <resource>

5.17. 下位デバイスのフラッシュを無効にする

バッテリバックアップ書き込みキャッシュ(BBWC)を備えたデバイスでDRBDを実行している場合にのみ、デバイスのフラッシュを無効にできます。ほとんどのストレージコントローラは、バッテリが消耗すると書き込みキャッシュを自動的に無効にし、バッテリが完全になくなると即時書き込み(ライトスルー)モードに切り替える機能を備えています。このような機能を有効にすることを強くお勧めします。

BBWC機能を使用していない、またはバッテリが消耗した状態でBBWCを使用しているときに、DRBDのフラッシュを無効にすると、 データが失われるおそれがあります したがって、これはお勧めできません。

DRBDは下位デバイスのフラッシュを、レプリケートされたデータセットとDRBD独自のメタデータについて、個別に有効と無効を切り替える機能を備えています。この2つのオプションはデフォルトで有効になっています。このオプションのいずれか(または両方)を無効にしたい場合は、DRBD設定ファイルの /etc/drbd.confdisk セクションで設定できます。

レプリケートされたデータセットのディスクフラッシュを無効にするには、構成に次の行を記述します。

resource <resource>
  disk {
    disk-flushes no;
    ...
  }
  ...
}

DRBDのメタデータでディスクフラッシュを無効にするには、次の行を含めます:

resource <resource>
  disk {
    md-flushes no;
    ...
  }
  ...
}

リソースの構成を修正し、また、もちろん両ノードの /etc/drbd.conf を同期したら、両ノードで次のコマンドを実行して、これらの設定を有効にします。

# drbdadm adjust <resource>

1台のサーバのみがBBWCがある場合[7]には、ホストセクションに以下のような設定をしてください。

resource <resource> {
  disk {
    ... common settings ...
  }

  on host-1 {
    disk {
      md-flushes no;
    }
    ...
  }
  ...
}

5.18. スプリットブレイン時の動作の設定

5.18.1. スプリットブレインの通知

スプリットブレインが 検出される と、DRBDはつねに split-brain ハンドラを呼び出します(設定されていれば)。このハンドラを設定するには、リソース構成に次の項目を追加します。

resource <resource>
  handlers {
    split-brain <handler>;
    ...
  }
  ...
}

<handler> はシステムに存在する任意の実行可能ファイルです。

DRBDディストリビューションでは /usr/lib/drbd/notify-split-brain.sh という名前のスプリットブレイン対策用のハンドラスクリプトを提供しています。これは指定したアドレスに電子メールで通知を送信するだけのシンプルなものです。root@localhost (このアドレス宛のメールは実際のシステム管理者に転送されると仮定)にメッセージを送信するようにハンドラを設定するには、 split-brain handler を次のように記述します。

resource <resource>
  handlers {
    split-brain "/usr/lib/drbd/notify-split-brain.sh root";
    ...
  }
  ...
}

実行中のリソースで上記の変更を行い(ノード間で設定ファイルを同期すれば)、後はハンドラを有効にするための他の操作は必要ありません。次にスプリットブレインが発生すると、DRBDが新しく設定したハンドラを呼び出します。

5.18.2. スプリットブレインからの自動復旧ポリシー

スプリットブレイン(またはその他)のシナリオの結果、データの相違状況を自動的に解決するDRBDの構成は、潜在的な 自動データ損失 を構成することを意味します。その意味をよく理解し、それを意味しない場合は設定しないでください。
むしろ、フェンシングポリシー、クォーラム設定、クラスタマネージャの統合、クラスタマネージャの冗長化通信リンクなどを調べて、まず最初にデータの相違状況をつくらないようにすべてきです。

スプリットブレインからの自動復旧ポリシーには、状況に応じた複数のオプションが用意されています。DRBDは、スプリットブレインを検出したときのプライマリロールのノードの数にもとづいてスプリットブレイン回復手続きを適用します。そのために、DRBDはリソース設定ファイルの net セクションの次のキーワードを読み取ります。

after-sb-0pri

スプリットブレインが検出されたときに両ノードともセカンダリロールの場合に適用されるポリシーを定義します。次のキーワードを指定できます。

  • disconnect: 自動復旧は実行されません。 split-brain ハンドラスクリプト(設定されている場合)を呼び出し、 コネクションを切断して切断モードで続行します。

  • discard-younger-primary: 最後にプライマリロールだったホストに加えられた変更内容を破棄して ロールバックします。

  • discard-least-changes:変更が少なかったほうのホストの変更内容を破棄してロールバックします。

  • discard-zero-changes: 変更がなかったホストがある場合は、 他方に加えられたすべての変更内容を適用して 続行します。

after-sb-1pri

スプリットブレインが検出されたときにどちらか1つのノードがプライマリロールである場合に適用されるポリシーを定義します。次のキーワードを指定できます。

  • disconnect: after-sb-0pri と同様に split-brain ハンドラスクリプト(構成されている場合)を呼び出し、 コネクションを切断して切断モードで続行します。

  • consensus: after-sb-0pri で設定したものと同じ復旧ポリシーが適用されます。 これらのポリシーを適用した後で、 スプリットブレインの犠牲ノードを選択できる場合は自動的に解決します。それ以外の場合は、 disconnect を指定した場合と同様に動作します。

  • call-pri-lost-after-sb: after-sb-0pri で指定した復旧ポリシーが適用されます。 これらのポリシーを適用した後で、 スプリットブレインの犠牲ノードを選択できる場合は、犠牲ノードで pri-lost-after-sb ハンドラを起動します このハンドラは handlers セクションで設定する必要があります。 また、クラスタからノードを強制的に削除します。

  • discard-secondary: 現在のセカンダリロールのホストを、 スプリットブレインの犠牲ノードにします。

after-sb-2pri

スプリットブレインが検出されたときに両ノードともプライマリロールである場合に適用されるポリシーを定義します。このオプションは after-sb-1pri と同じキーワードを受け入れます。ただし、 discard-secondaryconsensus は除きます。

上記の3つのオプションで、DRBDは他のキーワードも認識しますが、それらはめったに使用されないためここでは省略します。ここで説明されていないスプリットブレインの復旧キーワードに関しては drbd.conf のマニュアルページを参照ください。

たとえば、デュアルプライマリモードでGFSまたはOCFS2ファイルシステムのブロックデバイスとして機能するリソースの場合、次のように復旧ポリシーを定義できます。

resource <resource> {
  handlers {
    split-brain "/usr/lib/drbd/notify-split-brain.sh root"
    ...
  }
  net {
    after-sb-0pri discard-zero-changes;
    after-sb-1pri discard-secondary;
    after-sb-2pri disconnect;
    ...
  }
  ...
}

5.19. スタック3ノード構成の作成

3ノード構成では、1つのDRBDデバイスを別のデバイスの上に スタック (積み重ね)します。

DRBD9.xでは1つの階層で複数ノードを使用できるのでスタッキングは非推奨です。詳細は ネットワークコネクションの定義をご参照ください。

5.19.1. デバイススタックの留意事項

次のような事項に注意する必要があります。

  • スタックデバイス側が利用可能です。1つのDRBDデバイス /dev/drbd0 を設定して、その上位にスタックデバイス /dev/drbd10 があるとします。この場合は、 /dev/drbd10 がマウントして使用するデバイスになります 。

  • デバイスのメタデータは、基になるDRBDデバイスとスタックされたDRBDデバイスの両方に保存されます。スタックされたデバイスでは、常に内部メタデータを使用する必要があります。つまり、スタックされたデバイスの有効なストレージ領域は、スタックされていないデバイスと比較して僅かに小さくなります。

  • スタックした上位デバイスを実行するには、下位のデバイスが プライマリロールになっている必要があります。

  • バックアップノードにデータを同期するには、 アクティブなノードのスタックデバイスがプライマリモードで動作している必要があります。

5.19.2. スタックリソースの設定

次の例では alicebobcharlie という名前のノードがあり、 alicebob が2ノードクラスタを構成し、 charlie がバックアップノードになっています。

resource r0 {
  protocol C;
  device    /dev/drbd0;
  disk      /dev/sda6;
  meta-disk internal;

  on alice {
    address    10.0.0.1:7788;
  }

  on bob {
    address   10.0.0.2:7788;
  }
}

resource r0-U {
  protocol A;

  stacked-on-top-of r0 {
    device     /dev/drbd10;
    address    192.168.42.1:7789;
  }

  on charlie {
    device     /dev/drbd10;
    disk       /dev/hda6;
    address    192.168.42.2:7789; # Public IP of the backup node
    meta-disk  internal;
  }
}

他の drbd.conf 設定ファイルと同様に、この設定ファイルもクラスタのすべてのノード(この場合は3つ)に配布する必要があります。非スタックリソースの設定にはない、次のキーワードにご注意ください。

stacked-on-top-of

このオプションによって、DRBDに含まれるリソースがスタックリソースであることをDRBDに知らせます。これは、通常リソース設定内にある on セクションのうちの1つを置き換えます。stacked-on-top-of は下位レベルのリソースには使用しないでください。

スタックリソースにProtocol Aを使用することは必須ではありません。アプリケーションに応じて任意のDRBDのレプリケーションプロトコルを選択できます。
single stacked
図 10. 単一スタックの構成

5.19.3. スタックリソースを有効にする

スタックリソースを有効にするには、まず、下位レベルリソースを有効にしてどちらか一方をプライマリに昇格します。

drbdadm up r0
drbdadm primary r0

非スタックリソースと同様に、スタックリソースでは DRBD メタデータを作成する必要があります。これは、以下のコマンドを使用して行います:

# drbdadm create-md --stacked r0-U

この後でバックアップノードのリソースを起動し、3ノードレプリケーションを有効にします。

# drbdadm up --stacked r0-U
# drbdadm primary --stacked r0-U

この後でバックアップノードのリソースを起動し、3ノードレプリケーションを有効にします。

# drbdadm create-md r0-U
# drbdadm up r0-U

クラスタ管理システムを使えばスタックリソースの管理を自動化できます。

5.20. 永続的なディスクレスノード

ノードはしばしDRBDの中で永続的にディスクレスになるときがあります。以下はディスクをもつ3つのノードと永続的なディスクレスノードの構成例です。

resource kvm-mail {
  device      /dev/drbd6;
  disk        /dev/vg/kvm-mail;
  meta-disk   internal;

  on store1 {
    address   10.1.10.1:7006;
    node-id   0;
  }
  on store2 {
    address   10.1.10.2:7006;
    node-id   1;
  }
  on store3 {
    address   10.1.10.3:7006;
    node-id   2;
  }

  on for-later-rebalancing {
    address   10.1.10.4:7006;
    node-id   3;
  }

  # DRBD "client"
  floating 10.1.11.6:8006 {
    disk      none;
    node-id   4;
  }

  # rest omitted for brevity
  ...
}

永続的なディスクレスノードはビットマップスロットが割り当てられません。このようなノードのステータスは、エラーでも予期せぬ状態でもないので緑で表示されます。詳細は クライアントモード を参照ください。

5.21. データ再配置

以下の例では、すべてのデータ領域は3台に冗長化するポリシーを想定しています。したがって最小構成で3台のサーバが必要です。

しかし、データ量が増えてくると、サーバ追加の必要性に迫られます。その際には、また新たに3台のサーバを購入する必要はなく、1つのノードだけを追加をしてデータを 再配置 することができます。

rebalance
図 11. DRBDデータ再配置

上の図では、3ノードの各々に25TiBのボリュームがある合計75TiBの状態から、4ノードで合計100TiBの状態にしています。

To redistribute the data across your cluster you have to choose a new node, and one where you want to remove this DRBD resource.
Please note that removing the resource from a currently active node (that is, where DRBD is Primary) will involve either migrating the service or running this resource on this node as a DRBD client; it’s easier to choose a node in Secondary role. (Of course, that might not always be possible.)

5.21.1. ビットマップスロットの用意

移動するリソースには一時的に未使用のビットマップスロット用のスペースが必要です。

drbdadm create-md の時にもう一つ割り当てます。または、 drbdadm がもう1つスロットを取っておくように設定にプレースホルダを設けてもよいでしょう。

resource r0 {
  ...
  on for-later-rebalancing {
    address   10.254.254.254:65533;
    node-id   3;
  }
}

このスロットを実際に利用するには以下が必要です。

  1. メタデータをダンプする,

  2. メタデータ領域を拡大する,

  3. ダンプファイルを編集する,

  4. メタデータをロードする

今後のバージョンの drbdadm ではショートカットキーが用意されます。 drbdadm resize --peers N が使用できるようになる予定であり、カーネルがメタデータを書き換えられるようになります。

5.21.2. 新しいノードの用意と有効化

まずは新しいノードに( lvcreate 等で)下位のストレージリュームを作成する必要があります。 次に設定ファイルのプレイスホルダーに現在のホスト名、アドレス、ストレージのパスを書き込みます。そしてすべての必要なノードにリソース設定をコピーします。

新しいノードでメタデータを次のようにして(一度だけ)初期化します

# drbdadm create-md <resource>
v09 Magic number not found
Writing meta data...
initialising activity log
NOT initializing bitmap
New drbd meta data block successfully created.

5.21.3. 初期同期の開始

新しいノードでデータを受け取ります。

そのために以下のようにして既存のノードでネットワークコネクションを定義します。

# drbdadm adjust <resource>

そして新しいノードでDRBDデバイスを開始します。

# drbdadm up <resource>

5.21.4. 接続確認

新しいノードで、次のコマンドを入力して、DRBDリソースの状態を表示してください。

# drbdadm status <resource>

他のすべてのノードが接続されていることを確認してください。

5.21.5. 初期同期後

新しいノードが UpToDate になったらすぐに、設定中の他のノードのうち1つが for-later-rebalancing に変更できるようになり、次のマイグレーション用にキープしておけるようになります。 

Perhaps you want to comment the section; although that has the risk that doing a drbdadm create-md for a new node has too few bitmap slots for the next rebalancing.
It might be easier to use a reserved (unused) IP address and host name.

再度変更した設定をコピーして、以下のコマンドを

# drbdadm adjust <resource>

全ノードで実行します。

5.21.6. クリーニング

今までデータのあったノードでは、もうリソースを使用しない場合にはDRBDデバイスを次のようにして停止できます。

# drbdsetup down <resource>
drbdadm コマンドではなく、drbdsetup コマンドを使ってリソースをダウンさせるようにしてください。なぜなら、設定ファイルにもはや記載されていないリソースを drbdadm でダウンさせることはできないからです。

これで下位デバイスを使用しなくなり、他の用途で使用することができるようになります。論理ボリュームであれば lvremove でボリュームグループに戻すことができます。

5.21.7. まとめと他のステップ

1つのリソースを新しいノードに移動しました。同様の手順で1つまたはそれ以上のリソースを、クラスタ内の既存の2つまたは3つのノードの空きスペースに行う事も可能です。

再び3重の冗長化を行うのに必要な空き容量のあるノードが揃えば、新しいリソースを設定することが出来ます。

5.22. クォーラム設定

スプリットブレインや複製データの相違を防ぐために、フェンシングを構成する必要があります。フェンシングのすべてのオプションは、最後には冗長な通信路に依存します。それはノードが対向ノードのIPMIネットワークインタフェースに接続する形かもしれません。crm-fence-peerスクリプトの場合、DRBDのネットワークリンクが切断されたときに、pacemaker の通信が有効であることが必要になります。

一方クォーラムは完全に異なるアプローチをとります。基本的な考え方は、通信できるノードの数がノード総数の半分を超える場合、クラスタパーティションは複製されたデータセットを変更できるということです。そのようなパーティションのノードは、クォーラムを持つといいます。言い換えると、クォーラムを持たないノードは、複製されたデータを変更しないことを保証します。これはデータの相違を作成しないことを意味します。

DRBDのクォーラムの実装は、quorum リソースに majority , all または数値を設定することで有効にできます。 majority の動作が、前の文章で説明した動作になります。

5.22.1. 保証された最低限の冗長化

デフォルトでは、ディスクを持つすべてのノードがクォーラム選挙で投票権を持ちます。言い換えると、ディスクレスノードだけが持ちません。従って、3ノードクラスタでは、 Inconsistent ディスクを持つ2つのノード、 UpToDate を持つ1つノードは、クォーラム投票権を持つことができます。 quorum-minimum-redundancy を設定することによって、UpToDate ノードだけがクォーラム選挙で投票権を持つように変更することもできます。このオプションは quorum オプションと同じ引数をとります。

このオプションを使用すると、サービスを開始する前に必要な再同期操作が完了するまで待機する、ということも表現できます。 したがって、データの最低限の冗長性がサービスの可用性よりも保証されることを好む方法です。金融データとサービスなどはその一例です。

以下に5ノードクラスタの設定例を示します。パーティションは少なくとも3つのノードが必要であり、そのうち2つは UpToDate である必要があります。

resource quorum-demo {
  options {
    quorum majority;
    quorum-minimum-redundancy 2;
    ...
  }
}

5.22.2. クォーラムを失った時の動作

サービスを実行しているノードがクォーラムを失うと、すぐにデータセットの書き込み操作を中止する必要があります。これはIOがすぐにすべてのIO要求をエラーで完了し始めることを意味します。通常、これは、正常なシャットダウンが不可能であることを意味します。これはデータセットをさらに変更する必要があるためです。IOエラーはブロックレベルからファイルシステムに、ファイルシステムからユーザースペースアプリケーションに伝わります。

理想的には、IOエラーの場合、アプリケーションを単に終了させることです。これはその後、Pacemaker がファイルシステムをアンマウントし、DRBDリソースを降格させセカンダリロールに移すことを可能にします。その場合は、on-no-quorum リソースに io-error を設定してください。以下はその設定例です。

resource quorum-demo {
  options {
    quorum majority;
    on-no-quorum io-error;
    ...
  }
}

アプリケーションが最初のIOエラーで終了しない場合は、IOをフリーズさせノードをリブートさせることもできます。以下はその設定例です。

resource quorum-demo {
  options {
    quorum majority;
    on-no-quorum suspend-io;
    ...
  }

  handlers {
    quorum-lost "echo b > /proc/sysrq-trigger";
  }
  ...
}

5.22.3. タイブレーカーとしてのディスクレスノードを使用

クラスタ内のすべてのノードに接続されているディスクレスノードを利用して、クォーラムネゴシエーションプロセスのタイブレークを解消できます。

ノードAがプライマリで、ノードBがセカンダリである、次の2ノードクラスタを考えます。

quorum tiebreaker without

2つのノード間の接続が失われるとすぐに、2つのノードはクォーラムを失い、クラスタ上のアプリケーションはデータを書き込めなくなります。

quorum tiebreaker without disconnect

3番目のノードCをクラスタに追加し、それをディスクレスとして構成すると、タイブレーカーメカニズムを利用できます。

quorum tiebreaker

この場合、プライマリノードとセカンダリノードが接続を失っても、両ノードはディスクレスタイブレーカーとの接続をまだ維持しています。このため、プライマリは機能し続けることができますが、セカンダリはそのディスクをOutdatedに降格させるため、サービスをそこに移行することはできません。

quorum tiebreaker disconnect

同時に2つの接続が失われる場合は特別なケースであり、次に説明します。

quorum tiebreaker disconnect case2

この場合、タイブレーカーノードはプライマリとパーティションを形成します。そのため、プライマリはクォーラムを維持し、セカンダリは古くなります。セカンダリのディスクの状態は “UpToDate” のままですが、クォーラムがないためにプライマリに昇格できません。

プライマリがタイブレーカーとの接続を失う可能性を考えてみます。

quorum tiebreaker disconnect case3

この場合、プライマリは使用できなくなり、”クォーラム中断” 状態になります。これにより、DRBD上のアプリケーションが I/O エラーを受信します。その後、クラスタマネージャはノードBをプライマリに昇格させ、代わりにそこでサービスを実行し続けることができます。

ディスクレスタイブレーカーが “サイドを切り替える” 場合、データの相違を避ける必要があります。このシナリオを考えます。

quorum tiebreaker disconnect case1a

プライマリとセカンダリ間の接続が失われ、プライマリのディスクレスノードへの接続が突然失われた場合でも、アプリケーションはプライマリ上で実行を継続しています。

この場合は、どのノードもプライマリに昇格できず、クラスタは動作を継続できません。

データの分離を避けることは、サービスの可用性を確保することよりも常に優先されます。

他のシナリオを見てみます。

quorum tiebreaker disconnect case2a

ここでは、アプリケーションはプライマリで実行されていますが、セカンダリは利用できません。その後、タイブレーカーはプライマリへの接続を失い、次にセカンダリに再接続します。ここで重要なのは、クォーラムを失ったノードは、ディスクレスノードに接続してもクォーラムを取り戻すことはできないことです。したがって、この場合、どのノードもクォーラムを持たず、クラスタは停止します。

5.22.4. ラストマン・スタンディング

クラスタから正常に離脱するノードは、障害が発生したノードとは異なるものとしてカウントされることに注意する必要があります。正常に離脱した場合、離脱ノードのデータは Outdated(無効状態) としてマークされ、残りのノードにデータが無効状態であることを伝えることができます。

すべてのディスクが無効状態になっているノードのグループでは、そのグループの誰もプライマリに昇格できません [8]

つまり、1 つのノードを除くすべてのノードがクラスターから離脱した場合、そのすべてのノードが正常に離脱している限り、クォーラムを維持できます。ただし、他のノードのいずれかが不当に離脱した場合、残りのノードは、離脱したノードがパーティションを形成し、最新のデータにアクセスできると想定する必要があります。

5.23. DRBD の削除

DRBD を削除する場合は、以下のステップに従います。

  1. サービスを停止し、DRBD ボリュームのファイルシステムをマウント解除します。クラスタマネージャを使用している場合は、最初にサービスの制御を停止するようにしてください。

  2. drbdadm down <res> または drbdadm down all で DRBD リソースを停止します。

    1. DRBD リソースが内部メタデータを使用していた場合は、ファイルシステムのサイズを変更して、下位デバイスのすべてのスペースをカバーすることができます。この手順により、DRBD のメタデータが効果的に削除されます。これは簡単に元に戻せないアクションです。ファイルシステムが ext[234] ファミリの場合 resize2fs <backing_dev> でそれを行うことができます。マウントされていないファイルシステムのサイズ変更と特定の条件下ではオンラインでも対応可能です。 XFS は xfs_growfs コマンドを使用してのみオンラインで拡張できます。

  3. 下位デバイスを直接マウントし、それらの上でサービスを開始します。

  4. rmmod drbd_transport_tcprmmod drbd で DRBD カーネルモジュールをアンロードします。

  5. DRBD ソフトウェアパッケージをアンインストールします。

6. DRBD Proxyの使用

6.1. DRBD Proxyの使用においての検討事項

DRBD Proxyプロセスは、DRBDが設定されているマシン上に直接配置するか、個別の専用サーバに配置することができます。DRBD Proxyインスタンスは、複数のノードの複数のDRBDデバイスのプロキシとして機能することができます。

DRBD ProxyはDRBDに完全に透過的です。通常、データパケットの送信数が多いことが予想されるため、アクティビティログは十分に大きくする必要があります。これにより、プライマリノードの障害後に再同期が長くなる可能性があるため、DRBDの`csums-alg`設定を有効にすることが推奨されています。

DRBD Proxyのより詳細な情報についてはDRBD Proxyによる遠距離レプリケーションをご参照ください。

DRBD Proxy 3は、2.6.26以降でしか利用できない複数のカーネル機能を使用しているため、古いシステム(例:RHEL 5)で実行することはできません。ただし、ここでは、まだDRBD Proxy 1のパッケージを提供することができます。 [v1は異なるスケジューリングモデルを使用しており、したがってv3と同じパフォーマンスには達しません。したがって、本番セットアップがまだRHEL 5である場合でも、各データセンターで1つのRHEL 6/7 VMを実行することができるかもしれませんか?]

6.2. DRBD Proxyの制御

DRBD Proxyを入手するには、(日本では)サイオステクノロジー株式会社またはその販売代理店に連絡してください。特別な理由がない限り、常に最新バージョンのDRBD Proxyを使用してください。

DebianとDebianベースのシステム上でDRBD Proxyをインストールするには、dpkgを次のように使用します(DRBD Proxyのバージョンとアーキテクチャは、ターゲットのアーキテクチャに合わせてください)。

# dpkg -i drbd-proxy_3.2.2_amd64.deb

RPMベースのシステム(SLESやRedhat)にDRBD Proxyをインストールする場合は、次のコマンドを使用します(DRBD Proxyのバージョンとアーキテクチャは、ターゲットのアーキテクチャに合わせてください)。

# rpm -i drbd-proxy-3.2.2-1.x86_64.rpm

DRBD Proxyの設定にはdrbdadmが必要なので、これもインストールします。

これにより、[LINK]DRBD Proxyのバイナリがインストールされ、通常は`/etc/init.d`に配置されるinitスクリプトが追加されます。DRBD Proxyを起動/停止する際には常にinitスクリプトを使用してください。なぜなら、それによって`drbdadm`ツールを使用してDRBD Proxyの設定も行うからです。

6.3. ライセンスファイル

DRBD Proxyの実行には、ライセンスファイルが必要です。DRBD Proxyを実行したいマシンにライセンスファイルを設定してくださいこのファイルは drbd-proxy.license と呼ばれ、対象マシンの /etc ディレクトリにコピーされ、また drbdpxy ユーザー/グループに所有されている必要があります。

# cp drbd-proxy.license /etc/

6.4. Configuring DRBD Proxy Using LINSTOR

DRBD Proxyは、LINSTORを使用して設定することができます。詳細は[LINSTORユーザーガイド](https://linbit.com/drbd-user-guide/linstor-guide-1_0-en/)に記載されています。

6.5. リソースファイルを使用した設定

DRBD Proxyはリソースファイルを編集することで設定することもできます。`proxy`という追加セクションやホストセクション内の`proxy on`セクションを追加することで構成されます。

DRBDノードで直接実行されるプロキシのDRBD Proxyの設定例を次に示します。

resource r0 {
	protocol A;
	device     /dev/drbd15;
	disk       /dev/VG/r0;
	meta-disk  internal;

	proxy {
		memlimit 512M;
		plugin {
			zlib level 9;
		}
	}

	on alice {
		address 127.0.0.1:7915;
		proxy on alice {
			inside 127.0.0.1:7815;
			outside 192.168.23.1:7715;
		}
	}

	on bob {
		address 127.0.0.1:7915;
		proxy on bob {
			inside 127.0.0.1:7815;
			outside 192.168.23.2:7715;
		}
	}
}

inside IPアドレスはDRBDとDRBD Proxyとの通信に使用し、 outside IPアドレスはプロキシ間の通信に使用します。後者はファイヤーウォール設定で許可する必要があります。

6.6. DRBD Proxyの制御

drbdadm には proxy-up および proxy-down サブコマンドがあり、名前付きDRBDリソースのローカルDRBD Proxyプロセスとの接続を設定したり削除したりできます。これらのコマンドは、/etc/init.d/drbdproxy が実装する start および stop アクションによって使用されます。

DRBD Proxyには drbd-proxy-ctl という下位レベル構成ツールがあります。このツールをオプションを指定せずに呼び出した場合は、対話型モードで動作します。

対話型モードをにせずコマンドを直接渡すには、 '-c' パラメータをコマンドに続けて使用します。

使用可能なコマンドを表示するには次のようにします。

# drbd-proxy-ctl -c "help"

コマンドの周りのダブルクォートは読み飛ばされる点に注意ください。

以下にコマンドを列挙します。最初のいくつかのコマンドは通常は直接使用することはありません( drbdadm proxy-updrbdadm proxy-down コマンド経由で使用されます)。それ以降のものは様々なステータスや情報を表示します。

add connection <name> lots of arguments

通信経路を作成します。これは drbdadm proxy-up コマンド経由で使用されるものなので、長い構文は省略しています。

del connection <name>

通信経路を削除します。

set memlimit <name> <memlimit-in-bytes>

接続のメモリ制限を設定します。これは新たに設定する際にのみ行うことができ、実行時に変更することはできません。このコマンドは通常の単位 k, M, G を理解します。

show

現在設定されている通信経路を表示します。

show memusage

各接続のメモリ使用状況を表示します。例えば、次のコマンドはメモリ使用状況を監視します。

# watch -n 1 'drbd-proxy-ctl -c "show memusage"'
`show memusage`の周りの引用符は必須です。
show [h]subconnections

現在接続中の各コネクションを種々の情報と共に表示します。 h をつけると、人間が可読のバイト単位のフォーマットで出力します。

show [h]connections

`h`オプションを使用すると、現在構成されている接続とその状態が表示されます。`Status`列には以下のいずれかの状態が表示されます:

  • Off: 対向のDRBD Proxyプロセスとの通信経路がない。

  • Half-up: 対向のDRBD Proxyプロセスとの接続はおそらく確立しているものの、ProxyとDRBD間の経路がまだ確立していない。

  • DRBD-conn: 最初の数パケットをコネクションを通じて送信してはいるものの、まだスプリットブレインなどの状態にある。

  • Up: DRBDのコネクションが完全に確立された状態。

shutdown

drbd-proxy プログラムをシャットダウンします。

これは、DRBDプロキシを使用しているすべてのDRBD接続を無条件に終了します。
quit

drbd-proxy-ctlプログラムを終了します(プログラムとの接続を閉じます)。※DRBD Proxy自体は動作したままです。

統計情報を出力する

This prints detailed statistics for the currently active connections, in a format that can be easily parsed. Use this for integration to your monitoring solution!

上記のコマンドはUID 0(つまり`root`ユーザー)からのみ受け入れられますが、このコマンドは任意のユーザーによって使用されることができます(ただし、UNIXの権限が`/var/run/drbd-proxy/drbd-proxy-ctl.socket`でのプロキシソケットへのアクセスを許可する必要があります)。権限の設定に関しては、`/etc/init.d/drbdproxy`にある起動スクリプトを参照してください。

6.7. DRBD Proxy Pluginsについて

DRBD Proxyのバージョン3から、プロキシではWAN接続用にいくつかの特定のプラグインを有効にすることが可能です。現在利用可能なプラグインは、zstdlz4zlib、および`lzma`(すべてソフトウェア圧縮)です。

zstd(Zstandard)は、高い圧縮比を提供するリアルタイム圧縮アルゴリズムです。非常に広い圧縮速度トレードオフの範囲を提供しており、非常に高速なデコーダーに支えられています。圧縮率は「レベル」パラメータに依存しており、1から調整することができます。 22. レベル20を超えると、DRBD Proxyはより多くのメモリを必要とします。

lz4 は非常に高速な圧縮アルゴリズムです。 通常データを1/2から1/4に圧縮でき、使用するネットワーク帯域も1/2から3/2程度になります。

`zlib`プラグインは、圧縮にGZIPアルゴリズムを使用しています。`lz4`よりもCPUを多く使用しますが、圧縮率は1:3から1:5の比率を提供します。

lzma プラグインは liblzma2 ライブラリを使用しています。このプラグインは数百 MiB の辞書を使用できます。これにより、小さな変更でも繰り返しデータの非常に効率的なデルタ圧縮が可能です。lzmazlib よりもはるかに高い圧縮率を実現しますが、より多くの CPU とメモリを必要とします。仮想マシンが DRBD の上にある実世界のテストでは、1:10 から 1:40 の比率を実現しました。lzma プラグインはライセンスで有効にする必要があります。

お客様の環境に最適な設定を見つけるには、CPU(速度、スレッド数)、利用可能なメモリ、入力および利用可能な出力帯域幅、予想されるI/Oスパイクに依存します。すでに1週間分の`sysstat`データが利用可能であれば、構成を決定する際に役立ちます。 LINBITにお問い合わせいただくと良いです。

proxy`セクション内の古い `compression on は廃止され、将来のリリースで削除されます。現在は zlib level 9 として処理されています。

6.7.1. WAN側の帯域幅制限を使用する

DRBD Proxyの実験的な bwlimit オプションは機能しません。DRBD上のアプリケーションがI/Oでブロックする可能性があるため、使用しないでください。このオプションは削除される予定です。

代わって、Linuxカーネルのトラフィック制御フレームワークを使ってください。

以下の例で、インターフェース名、ソースのポート、IPアドレスを変更して使ってください。

# tc qdisc add dev eth0 root handle 1: htb default 1
# tc class add dev eth0 parent 1: classid 1:1 htb rate 1gbit
# tc class add dev eth0 parent 1:1 classid 1:10 htb rate 500kbit
# tc filter add dev eth0 parent 1: protocol ip prio 16 u32 \
        match ip sport 7000 0xffff \
        match ip dst 192.168.47.11 flowid 1:10
# tc filter add dev eth0 parent 1: protocol ip prio 16 u32 \
        match ip dport 7000 0xffff \
        match ip dst 192.168.47.11 flowid 1:10

この帯域幅制限は以下のコマンドで削除できます。

# tc qdisc del dev eth0 root handle 1

6.8. トラブルシューティング

DRBD Proxy は LOG_DAEMON ファシリティを使用して syslog を介してイベントをログします。通常、/var/log/daemon.log に DRBD Proxy のイベントが記録されています。

DRBD Proxyでデバッグモードを有効にするには次のようにします。

# drbd-proxy-ctl -c 'set loglevel debug'

たとえば、DRBD Proxyが接続に失敗すると、 Rejecting connection because I can’t connect on the other side というようなメッセージがログに記録されます。その場合は、DRBDが(スタンドアローンモードでなく)両方のノードで動作していて、両方ノードでプロキシが動作していることを確認してください。また、両方のノードで設定値を確認してください。

7. トラブルシューティングとエラーからの回復

この章では、ハードウェアやシステムに障害が発生した場合に必要な手順について説明します。

7.1. DRBDエラーコードに関する情報の取得

DRBDおよびDRBD管理ツールである drbdadm は、POSIXエラーコードを返します。特定のエラーコード番号について詳細な情報が必要な場合は、環境にPerlがインストールされている場合、次のコマンドを使用できます。例えば、エラーコード番号11について情報を取得するには、次のように入力してください:

# perl -e 'print $! = 11, "\n"'
Resource temporarily unavailable

7.2. ハードドライブの障害の場合

ハードドライブの障害への対処方法は、DRBDがディスクI/Oエラーを処理する方法(ディスクエラー処理ストラテジー参照)、また設定されているメタデータの種類(DRBDメタデータ参照)によって異なります。

ほとんどの場合、ここで取り上げる手順はDRBDを直接物理ハードドライブ上で実行している場合にのみ適用されます。次に示す層の上でDRBDを実行している場合には通常は適用されません。

  • MDソフトウェアRAIDセット( mdadm を使用してドライブ交換を管理)

  • デバイスマッパRAID( dmraid 使用)

  • ハードウェアRAID機器 (障害が発生したドライブの扱いについてはベンダーの指示に従ってください)

  • 一部の非標準デバイスマッパ仮想ブロックデバイス(デバイスマッパのマニュアルを参照してください)

7.2.1. 手動でDRBDをハードドライブから切り離す

DRBDがI/Oエラーを伝えるように設定(非推奨)している場合、まずDRBDリソースを切り離すとよいでしょう。つまり、下位デバイスからの切り離しです。

# drbdadm detach <resource>

drbdadm status [9]コマンドを実行することで、現在の状態を確認することができます。

# drbdadm status <resource>
<resource> role:Primary
  volume:0 disk:Diskless
  <peer> role:Secondary
    volume:0 peer-disk:UpToDate
# drbdadm dstate <resource>
Diskless/UpToDate

ディスク障害がプライマリノードで発生した場合、スイッチオーバーと、この手順を組み合わせることもできます。

7.2.2. I/Oエラー時の自動切り離し

DRBDがI/Oエラー時に自動的に切り離しを行うように設定(推奨オプション)されている場合、 手動での操作なしで、DRBDはすでにリソースを下位ストレージから自動的に切り離しているはずです。その場合でも drbdadm status コマンドを使用して、リソースが実際にディスクレスモードで実行されているか確認します。

7.2.3. 障害が発生したディスクの交換(内部メタデータを使用している場合)

内部メタデータを使用している場合、新しいハードディスクでDRBDデバイスを再構成するだけで十分です。交換したハードディスクのデバイス名が交換前と異なる場合は、DRBD設定ファイルを適切に変更してください。

新しいメタデータを作成してから、リソースを再接続します。

# drbdadm create-md <resource>
v08 Magic number not found
Writing meta data...
initialising activity log
NOT initializing bitmap
New drbd meta data block successfully created.

# drbdadm attach <resource>

新しいハードディスクの完全同期がただちに自動的に始まります。通常のバックグラウンド同期と同様、同期の進行状況を drbdadm status --verbose で監視することができます。

7.2.4. 障害の発生したディスクの交換(外部メタデータを使用している場合)

外部メタデータを使用している場合でも、手順は基本的に同じです。ただし、DRBDだけではハードドライブが交換されたことを認識できないため、追加の手順が必要です。

# drbdadm create-md <resource>
v08 Magic number not found
Writing meta data...
initialising activity log
NOT initializing bitmap
New drbd meta data block successfully created.

# drbdadm attach <resource>
# drbdadm invalidate <resource>
drbdadm invalidate は、必ず破棄するデータのある側のノードでを実行してください。 このコマンドはローカルのデータを対向ノードからのデータで上書きさせます。つまり、このコマンドを実行すると破棄する側のノードのデータが失われます。

上記の drbdadm invalidate コマンドが同期をトリガーします。この場合でも、同期の進行状況は drbdadm status --verbose で確認できます。

7.3. ノード障害に対処する

DRBDが(実際のハードウェア障害であれ手動による介入であれ)対向ノードがダウンしていることを検出すると、DRBDは自身のコネクションステータスを Connected から WFConnection に変更し、対向ノードが再び現れるのを待ちます。その後、DRBDリソースは disconnected mode(切断モード) で動作します。切断モードでは、リソースおよびリソースに関連付けられたブロックデバイスが完全に利用可能で、必要に応じて昇格したり降格したりします。ただし、ブロックの変更は対向ノードにレプリケートされません。切断中に変更されたブロックについての内部情報は対向ノードごとにDRBDが格納します。

7.3.1. 一時的なセカンダリノードの障害に対処する

セカンダリロールでリソースを持っているノードに一時的に障害が生じた場合(たとえばメモリ交換で直るようなメモリの問題)には、障害が発生したノードを修復してオンラインに戻すだけで十分です。修正したノードを起動すると、ノード間の接続が再確立され、停止中にプライマリノードに加えられた変更内容すべてがセカンダリノードに同期されます。

この時点で、DRBDの再同期アルゴリズムの性質により、セカンダリノードのリソースの一貫性が一時的に失われます。この短時間の再同期の間は、対向ホストが使用できない場合でも、セカンダリノードをプライマリロールに切り替えることができません。したがって、セカンダリノードの実際のダウンタイムとその後の再同期の間は、クラスタが冗長性を持たない期間になります。

DRBD9では各リソースに3ノード以上が接続することができます。そのため、例えば4ノードでは一度フェイルオーバーしてもまだ2回フェイルオーバーすることができます。

7.3.2. 一時的なプライマリノードの障害に対処する

DRBDからみると、プライマリノードの障害とセカンダリノードの障害はほぼ同じです。生き残ったノードが対向ノードの障害を検出し、切断モードに切り替わります。DRBDは生き残ったノードをプライマリロールに 昇格しません 。これはクラスタ管理システムが管理します。

障害が発生したノードが修復されてクラスタに戻る際に、セカンダリロールになります。すでに述べたように、それ以上の手動による介入は必要ありません。このときもDRBDはリソースのロールを元に戻しません。変更を行うように設定されている場合は、クラス管理システムがこの変更を行います。

プライマリノードに障害が発生すると、DRBDはアクティビティログというメカニズムによってブロックデバイスの整合性を確保します。詳細はアクティビティログを参照ください。

7.3.3. 永続的なノード障害に対処する

ノードに回復不能な問題が発生した場合やノードが永久的に破損した場合は、次の手順を行う必要があります。

  • 障害が発生したハードウェアを同様のパフォーマンスと ディスク容量を持つハードウェアと交換します。

    障害が発生したノードを、それよりパフォーマンスが低いものと置き換えることも可能ですが、お勧めはできません。障害が発生したノードを、それよりディスク容量が小さいものと置き換えることはできません。このような場合には、DRBDを置き換えたノードへの接続は拒否されます。[10]
  • OSとアプリケーションをインストールします。

  • DRBDをインストールし、生き残ったノードから /etc/drbd.conf と、全ての /etc/drbd.d/ を コピーします。

  • DRBDの設定 に記載された手順を デバイスの初期同期 の前まで実行します。

この時点で、デバイスの完全同期を手動で開始する必要はありません。生き残ったプライマリノードへの接続時に、同期が自動的に開始します。

7.4. スプリットブレインからの手動回復

ノード間の接続が可能になると、ノード間で初期ハンドシェイクのプロトコルが交換されます。この時点でDRBDはスプリットブレインが発生したかどうかを判断できます。両方のノードがプライマリロールであるか、もしくは切断中に両方がプライマリロールになったことを検出すると、DRBDは即座にレプリケーション接続を切断します。その場合、システムログにたとえば次のようなメッセージが記録されます。

Split-Brain detected, dropping connection!

スプリットブレインが検出されると、1つのノードは常にStandAlone の状態でリソースを保持します。もう一方のノードもまた StandAlone 状態になる(両方のノードが同時にスプリットブレインを検出した場合)、または WFConnection 状態になります(一方のノードがスプリットブレインを検出する前に対向ノードが切断をした場合)。

DRBDがスプリットブレインから自動的に回復するように設定されていない場合は、この時点で手動で介入して、変更内容を破棄するほうのノードを選択する必要があります(このノードは スプリットブレインの犠牲ノード と呼ばれる)。この介入は次のコマンドで行います。

# drbdadm disconnect <resource>
# drbdadm secondary <resource>
# drbdadm connect --discard-my-data <resource>

他方のノード(スプリットブレインの生存ノード)のコネクションステータスも StandAlone の場合には、次のコマンド実行します。

# drbdadm disconnect <resource>
# drbdadm connect <resource>

ノードがすでに Connecting の状態の場合は自動的に再接続するので、この手順は省略できます。

接続すると、スプリットブレインの犠牲ノードのコネクションステータスがすぐに SyncTarget に変化し、他のノードによって変更内容が上書きされます。

スプリットブレインの犠牲ノードは、デバイスのフル同期の対象にはなりません。代わりに、ローカル側での変更がロールバックされ、スプリットブレインの生存ノードに対して加えられた変更が犠牲ノードに伝播されます。

再同期が完了すると、スプリットブレインが解決したとみなされ、2つのノードが再び完全に一致した冗長レプリケーションストレージシステムとして機能します。

7.5. クォーラムを失ったプライマリノードの回復

次の手順は、DRBD のクォーラム喪失時のアクションが I/O 操作を一時停止するように設定されている場合に適用されます。アクションが I/O エラーを生成するように設定されている場合は必要ありません。

DRBD 管理ツール drbdadm には、強制セカンダリオプション secondary --force が含まれています。 DRBD クォーラム喪失時のアクションが I/O 操作を一時停止するように構成されている場合、force secondary オプションを使用すると、クォーラムを失ったノードを正常に回復し、他のノードと再統合できます。

要件:

  • DRBD バージョン 9.1.7 以降

  • drbd-utils バージョン 9.21 以降

クォーラムを失ったプライマリノードを回復させる場合、コマンド drbdadm secondary --force <all|resource_name> を使用して、プライマリノードをセカンダリに降格できます。このコマンドの引数は、単一の DRBD リソース名か、すべての DRBD リソースをセカンダリロールにノードを降格させる all のいずれかです。

クォーラムを失い中断された I/O 操作を伴うプライマリノードでこのコマンドを使用すると、中断されたすべての I/O 要求と新しく送信された I/O 要求が I/O エラーで終了します。その後、通常はファイル システムをアンマウントし、ノードをクラスター内の他のノードに再接続できます。例外は、I/O をまったく行わずにアイドル状態になるだけのファイルシステムオープナーです。このようなプロセスは、アンマウントが成功する前に手動で削除するか、 fuser -k などの外部ツールやクラスター化されたセットアップの OCF ファイル システム リソースエージェントを使用して削除する必要があります。

DRBD 管理ツールの強制セカンダリオプションに加えて、 on-suspended-primary-outdated オプションを DRBD リソース構成ファイルに追加し、キーワード値 force-secondary を設定することもできます。また、リソースロールの競合 (rr-conflict) オプションを DRBD リソース構成ファイルの net セクションに追加し retry-connect に設定することも必要です。これにより、DRBD は、中断された I/O 操作でクォーラムを失ったプライマリ ノードを自動的に回復できます。これらのオプションを設定すると、そのようなノードがより新しいデータセットを持つクラスターパーティションに接続すると、DRBD はクォーラムを失い、I/O 操作を中断したプライマリノードを自動的に降格させます。リソース構成ファイルの handlers セクションなどの追加構成や、クラスターマネージャー内の追加構成も、完全に自動化された復旧セットアップを完了するために必要になる場合があります。

このシナリオをカバーする DRBD リソース構成ファイルの options セクション内の設定は、次のようになります。

resource <resource_name> {
net {
	rr-conflict retry-connect;
[...]
}

options {
	quorum majority; # or explicit value
	on-no-quorum suspend-io;
	on-no-data-accessible suspend-io;
	on-suspended-primary-outdated force-secondary;
[...]
}
[...]
}

DRBDとアプリケーションの組み合わせ

8. DRBD Reactor

DRBD Reactorは、DRBDのイベントを監視し、それらに対応するデーモンです。 DRBD Reactorは、DRBDのリソースと指標の監視から、フェイルオーバークラスタの作成、通常は複雑なクラスタマネージャを使って設定する必要がある高可用性サービスの提供まで、さまざまな用途に利用できます。

8.1. DRBD Reactorのインストール

また、LINBIT のお客様は DRBD Reactor を LINBIT の drbd-9 パッケージリポジトリからビルド済みパッケージとしてインストールすることも可能です。

インストール後、 drbd-reactor --version コマンドを使用して、DRBD Reactor のバージョン番号を確認できます。

8.2. DRBD Reactor のコンポーネント

DRBD Reactorはさまざまな用途があるため、コアコンポーネントとプラグインコンポーネントに分割されました。

8.2.1. DRBD Reactor コア

DRBD Reactorの中核コンポーネントは、DRBDイベントを収集し、整形して、それらをDRBD Reactorプラグインに送信する役割を担っています。

コアは新しい設定や追加の更新された設定で再読み込みできます。必要ないプラグインインスタンスを停止し、新しいプラグインスレッドを開始することができ、DRBDイベントを失わずに行えます。そして最後に、コアはプラグインが初期状態および完全なDRBDの状態を受け取ることを確認しなければなりません。

8.2.2. DRBD Reactor プラグイン

プラグインは、DRBD Reactorの機能を提供し、異なる用途に対応するために異なるプラグインが存在します。プラグインは、コアコンポーネントからメッセージを受信し、メッセージの内容に基づいてDRBDリソースに対してプラグインの種類と構成に従って動作します。

プラグインは複数回インスタンス化されることができるため、全てのプラグインタイプの複数のインスタンスが存在する可能性があります。例えば、多数のプラグインインスタンスがクラスタ内で高可用性を提供したり、1つずつDRBDリソースに対応したりすることができます。

8.2.3. Promoter プラグイン

プロモータープラグインは、DRBDリアクターの最も重要で便利な機能と言えます。この機能を使用すると、他のより複雑なクラスターリソースマネージャー(CRM)よりも簡単に高可用性サービスをホストするフェイルオーバークラスタを作成することができます。素早く始めたい場合は、このセクションを読み終えてから、Promoter プラグインの設定にスキップしてください。次に、例として練習するためにDRBD ReactorのPromoterプラグインを使用して、高可用性のファイルシステムマウントを作成するセクションの手順を試すことができます。

プロモータープラグインはDRBDリソースのイベントを監視し、systemdユニットを実行します。このプラグインにより、DRBD Reactorはクラスタにフェイルオーバー機能を提供して高可用性展開を作成することができます。DRBD Reactorおよびそのプロモータープラグインは、軽量さと構成の簡素さが利点となる多くのシナリオで、Pacemakerなど他のCRMの代替として使用できます。

例えば、プロモータープラグインを使用して、孤立したプライマリノードの完全自動回復を設定することができます。さらに、Corosyncなどの別個の通信レイヤーは必要ありません。なぜなら、DRBDとDRBDリアクター(CRMとして使用される)は常にノードのクォーラム状態について合意するからです。

PacemakerなどのCRMと比較してPromoterプラグインの欠点は、配置に独立した順序制約を作成することができないという点です。例えば、ウェブサービスとデータベースが異なるノードで実行されている場合、Pacemakerはウェブサービスがデータベースの後に起動するよう制約を設定できますが、DRBD ReactorとそのPromoterプラグインではできません。

Promoter プラグインの仕組み

プロモータープラグインの主な機能は、DRBD デバイスを昇格できる場合は、それを Primary に昇格させて、ユーザーが指定した一連のサービスを開始することです。これには、次のような一連のサービスが含まれる可能性があります:

  1. DRBD デバイスを昇格する。

  2. デバイスをマウントポイントにマウントする。

  3. マウントポイントにあるデータベースを使用するデータベースを起動します。

リソースがクォーラムを失うと、DRBD Reactorはこれらのサービスを停止し、クォーラムが残っている別のノード(またはクォーラムを失ったノードがクォーラムを回復したとき)がサービスを開始できるようにします。

promoterプラグインは、Open Cluster Framework(OCF)リソースエージェントや、リソースの降格に失敗した場合の再起動などの障害対応アクションもサポートしており、リソースが別のノードで昇格できるようにしています。

8.2.4. ユーザーモードヘルパー(UMH)プラグイン

このプラグインおよびその固有のドメイン固有言語(DSL)を使用すると、定義したイベントが発生した場合にスクリプトを実行することができます。例えば、DRBDリソースが接続を失ったときにSlackメッセージを送信するスクリプトを実行できます。

この機能は以前から、DRBDにおいて「カーネル空間」での「ユーザー定義ヘルパースクリプト」によって存在していました。しかし、UMHプラグインを含むDRBD Reactorは「ユーザースペース」で実行することができます。これにより、より簡単にコンテナの展開が可能となり、コンテナディストリビューション内で見られる「読み取り専用」ホストファイルシステムとの組み合わせも容易になります。

UMHプラグインを使用することで、ユーザー定義のヘルパースクリプトを使用することよりも以前にはできなかった利点が得られます。今や、DRBDリソースで可能なすべてのイベントに対して独自のルールを定義できます。カーネルでイベントハンドラが存在するわずかなイベントに限定されることはもはやありません。

UMHプラグインスクリプトには、2つのタイプがあります。

  • ユーザー定義フィルター。これは、あるイベントが発生するとスクリプトが起動する 「ワンショット」UMHスクリプトです。

  • ヘルパーの置き換えと呼ばれるカーネル。このタイプのスクリプトは現在開発中です。 これらは、カーネルとの通信を必要とするUMHスクリプトです。イベントがスクリプトをトリガーしますが、 スクリプト内のアクションは、カーネルのアクションの失敗または成功に基づいて、スクリプトが次のアクションを 取ることができるように、カーネルがスクリプトに通信を返すことを必要とします。このようなスクリプトの例としては、 before-resync-target アクティベート スクリプトがあります。

8.2.5. Prometheusモニタリングプラグイン

このプラグインは、さまざまなDRBDメトリクス(例:同期されていないバイト、リソースの役割(たとえば、プライマリ)、および接続状態(たとえば、接続済み)を公開する、https://prometheus.io/[Prometheus] 互換のエンドポイントを提供します。この情報は、Prometheusエンドポイントをサポートするすべての監視ソリューションで使用できます。すべてのメトリクスと例としてのGrafanaダッシュボードは、https://github.com/LINBIT/drbd-reactor/blob/master/doc/prometheus.md[DRBD Reactor GitHubリポジトリ]で提供されています。

8.2.6. SNMPモニタリングのためのAgentXプラグイン

このプラグインは、SNMPのためのAgentXサブエージェントとして機能し、さまざまなDRBDメトリクスを公開します。たとえば、SNMPを介してDRBDリソースを監視するために使用されます。AgentXは、SNMPデーモンとAgentXプラグインのようなサブエージェントの間で使用できる標準化されたプロトコルです。

このプラグインがSNMPデーモンに公開するDRBDメトリクスは、プロジェクトのソースコードリポジトリであるhttps://github.com/LINBIT/drbd-reactor/blob/master/doc/agentx.md#metrics[こちら]に示されています。

8.3. DRBD Reactor の構成

DRBD Reactorを実行する前に、その設定を行う必要があります。グローバル設定はメインのTOML設定ファイル内で行われます。このファイルはこちらに作成されるべきです:/etc/drbd-reactor.toml。このファイルは有効なTOML (https://toml.io) ファイルである必要があります。プラグインの設定はスニペットファイル内で行われるべきで、これらはデフォルトのDRBD Reactorスニペットディレクトリである`/etc/drbd-reactor.d`に配置されるか、メイン設定ファイルで別のディレクトリが指定されている場合はそれに配置されます。DRBD Reactor GitHubリポジトリの`example`ディレクトリにはhttps://github.com/LINBIT/drbd-reactor/blob/master/example/drbd-reactor.toml[設定ファイルの例]が見つかります。

文書化の目的でのみ、上記で言及されている例の設定ファイルには、例のプラグインの設定が含まれています。しかしながら、展開時には、プラグインの設定は常にスニペットファイル内で行うべきです。

8.3.1. DRBD Reactorのコアの設定

DRBD Reactorの中核となる設定ファイルは、グローバル設定とログレベル設定から構成されています。

グローバル設定には、スニペットディレクトリの指定、統計情報の更新ポーリング期間の指定、ログファイルへのパスの指定が含まれます。また、設定ファイル内のログレベルを、trace、debug、info、warn、error、off のいずれかに設定することができます。「情報」はデフォルトのログレベルです。

これらの設定のシンタックスについては、 drbd-reactor.toml のマニュアルページを参照してください。

8.3.2. DRBD Reactorプラグインの設定

DRBD Reactorプラグインは、TOML形式のスニペットファイルを編集して構成します。各プラグインは、構成セクション内でID(id)を指定できます。DRBD Reactorデーモンを再読み込みすると、新しい構成にまだ存在する開始されたプラグインは実行されたままです。IDのないプラグインは停止され、新しい構成にまだ存在する場合は再起動されます。

IDを持たないプラグインの場合、DRBDリアクターサービスの再読み込みはすべて再起動となります。

8.3.3. Promoter プラグインの設定

通常、DRBD Reactorとプロモータープラグインが監視および管理する各DRBDリソースにつき1つのスニペットファイルがあるでしょう。

以下はPromoter プラグインの設定スニペットの例です。

[[promoter]]
[promoter.resources.my_drbd_resource] (1)
dependencies-as = "Requires" (2)
target-as = "Requires" (3)
start = ["path-to-my-file-system-mount.mount", "foo.service"] (4)
on-drbd-demote-failure = "reboot" (5)
secondary-force = true (6)
preferred-nodes = ["nodeA", "nodeB"] (7)
1 “my_drbd_resource”は、DRBD Reactorとプロモータープラグインが監視して管理すべきDRBDリソースの名前を指定しています。
2 サービス間依存関係を生成するための systemd 依存関係の種類を指定します。
3 最終的なターゲットユニットでサービスの依存関係を生成するための systemd の依存関係のタイプを指定します。
4 `start`は、監視されているDRBDリソースが昇格可能になったときに何を開始するかを指定します。この例では、昇格プラグインはファイルシステムのマウントユニットとサービスユニットを開始します。
5 DRBDリソースが降格に失敗した場合に取るべきアクションを指定します (クォーラム損失イベント後など)。この場合、降格に失敗したノードに対して、そのノードの「セルフフェンス」を作動させ、別のノードを昇格させるようなアクションを実行する必要があります。アクションは、reboot, reboot-force, reboot-immediate, poweroff, poweroff-force, poweroff-immediate, exit, exit-force のいずれかになります。
6 ノードがクォーラムを失うと、DRBD Reactorはそのノードをセカンダリロールに降格させようとします。リソースがクォーラムを失ったときにI/O操作を中断するように設定されている場合、この設定は、drbdadm のforce secondary機能を使ってノードをセカンダリロールに降格させるかどうかを指定します。詳細については、DRBDユーザーズガイドの クォーラムを失ったプライマリノードの回復 セクションを参照してください。この設定が指定されていない場合は、”true “がデフォルトのオプションです。ここでは説明のために指定されています。
7 設定された場合、可能であれば指定された順序で、優先ノードでリソースが開始される。
Promoter 開始リストでの複数行にわたるサービス文字列の指定

フォーマットや可読性の観点から、Promoter プラグインのスニペットファイルのサービスの開始リスト内で、長いサービス文字列を複数行に分割することが可能です。これは、https://toml.io/en/v1.0.0#string[TOML構文を使用したマルチラインベーシック文字列]によって行うことができます。次の例では、Promoter プラグインの開始リスト内の最初と三番目のサービス文字列が複数行に分割されています。マルチラインベーシック文字列内の行末にあるバックスラッシュ(\)は、文字列内の行間に改行文字が挿入されないようにします。

[...]
start = [
"""
ocf:heartbeat:Filesystem fs_mysql device=/dev/drbd1001 \
directory=/var/lib/mysql fstype=ext4 run_fsck=no""",
"mariadb.service",
"""ocf:heartbeat:IPaddr2 db_virtip ip=192.168.222.65 \
cidr_netmask=24 iflabel=virtualip"""
]
[...]
この技術を使用して、他のプラグインスニペットファイル内の長い文字列を分割することもできます。
リソースフリーズの設定

DRBD Reactor バージョン 0.9.0 からは、[Promoter] プラグインを設定して、DRBD Reactor が制御しているリソース を、現在アクティブなノードが独立権を失った時に停止させるのではなく、「フリーズ」できるようになりました。ノードが再び独立権を回復しアクティブになった場合、DRBD Reactor はリソースを再開させる代わりに「解凍」することができ ます。それにより、リソースを再起動する必要がなくなります。

ほとんどの場合、デフォルトの停止と開始の動作が優先されますが、フリーズと再開の構成は、起動に時間がかかるリソース (たとえば、大規模なデータベースなどのサービスを含むリソース) に役立つ場合があります。そのようなクラスターで Primary ノードがクォーラムを失い、残りのノードがクォーラムでパーティションを形成できない場合、リソースのフリーズが役立つ可能性があります。ネットワークの問題. フリーズしたリソースを持つ以前の Primary ノードがピアノードに再接続すると、ノードは再び Primary になり、DRBD Reactor はリソースを再開します. この動作の結果、リソースは数秒で再び利用可能になる可能性があります。リソースは停止状態から開始する必要がなく、フリーズ状態から再開するだけで済みました。

要件:

リソースのために Promoter プラグインの凍結機能を設定する前に、次のものが必要です:

  • cgroup v2 を使用し、統合された cgroup を実装するシステム。これは、システムに「/sys/fs/cgroup/cgroup.controllers」が存在することで確認できます。これが存在せず、カーネルがサポートしている場合は、カーネル コマンド ライン引数 systemd.unified_cgroup_hierarchy=1 を追加して、この機能を有効にできるはずです。

    これは、RHEL 8、Ubuntu 20.04、およびそれ以前のバージョンにのみ関連するはずです。
  • リソース用に構成された次の DRBD オプション:

    • on-no-quorumsuspend-io にセット;

    • on-no-data-accessiblesuspend-io にセット;

    • on-suspended-primaryforce-secondary にセット;

    • rr-conflict (net option) を retry-connect にセット;

  • 凍結と解凍に「耐える」ことができるリソース。`systemctl freeze <systemd_unit>`と`systemctl thaw <systemd_unit>`コマンドを使用して、リソース(およびリソースに依存するアプリケーション)が凍結と解凍にどのように応答するかをテストできます。ここで、Promoter プラグインの構成内の起動リストに対応する systemd ユニットまたはユニットを指定します。これらのコマンドを使用して、アプリケーションが依存するサービスが凍結され、解凍された後にどのように振る舞うかをテストできます。

    リソースとアプリケーションがフリーズに耐えられるかどうかわからない場合は、デフォルトの停止と開始の動作を維持する方が安全です。

リソースの凍結を設定するには、DRBD リアクター リソースのプロモーター プラグイン スニペット ファイルに次の行を追加してください。

on-quorum-loss = "freeze"
Promoter プラグインで OCF リソースエージェントを利用する

Promoter プラグインを設定して、サービスの start リストで OCF リソース エージェントを使用することもできます。

LINBIT の顧客または評価アカウントをお持ちの場合は、LINBIT の drbd-9 パッケージ リポジトリで利用可能な resource-agents パッケージをインストールして、”Filesystem” OCF リソース エージェントを含むリソース エージェントスクリプトをインストールできます。

OCF リソースエージェントを start リスト内のサービスとして指定するためのシンタックスは ocf:$vendor:$agent instance-id [key=value key=value …​] となります。ここで、instance-id はユーザー定義で、key=value のペアは、指定された場合、作成される systemd ユニットファイルに環境変数として渡されます。例えば

[[promoter]]
[...]
start = ["ocf:heartbeat:IPaddr2 ip_mysql ip=10.43.7.223 cidr_netmask=16"]
[...]
Promoterプラグインは、`/usr/lib/ocf/resource.d/`ディレクトリ内のOCFリソースエージェントを想定しています。
systemd マウントユニットと OCF ファイルシステムリソースエージェントを使用するタイミング

DRBD ReactorとそのPromoterプラグインを利用するほとんどのシナリオでは、おそらくファイルシステムのマウントが含まれるでしょう。もし、Promoterの起動リストにファイルシステムのマウント以外のサービスやアプリケーションが含まれる場合は、systemdのマウントユニットを使用してファイルシステムのマウントを処理すべきです。

ただし、ファイルシステムのマウントポイントが最終目標である場合、つまり、それがあなたの Promoter プラグインのサービス開始リストの最後になる場合は、systemd のファイルシステムマウントユニットを使用しないでください。代わりに、OCF Filesystem リソースエージェントを使用してファイルシステムのマウントとアンマウントを処理してください。

この場合、OCFリソースエージェントを使用することが好ましいです。リソースエージェントは、マウントポイントを保持している可能性のあるプロセスに対して`kill`アクションやその他のさまざまなシグナルを使ってノードのダウングレードを行うことができます。例えば、systemdが知らないファイルシステム内のファイルに対してアプリケーションを実行しているユーザーがいるかもしれません。その場合、systemdはファイルシステムをアンマウントできず、Promoterプラグインはノードをダウングレードできません。

詳細は、https://github.com/LINBIT/drbd-reactor/blob/master/doc/promoter.md#ha-involving-file-system-mount-points[DRBD Reactor GitHub ドキュメント]にあります。

8.3.4. ユーザーモードヘルパー(UMH)プラグインの設定

このプラグインの構成は以下の通りです:

  • ルールタイプ

  • 実行するコマンドまたはスクリプト

  • ユーザー定義環境変数(オプション)

  • DRBDリソース名、イベントタイプ、または状態変化に基づくフィルタリング

ルールを定義できるDRBDの種類は4つあります。リソース、デバイス、相手ノードのデバイス、コネクションです。

それぞれのルールタイプに対して、sh -c を使って実行するコマンドやスクリプト、および任意のユーザ定義環境変数を設定することができます。ユーザ定義の環境変数は、一般的に設定されているものに加えて、次のようなものがあります。

  • HOME “/”

  • TERM “Linux”

  • PATH “/sbin:/usr/sbin:/bin:/usr/bin”

UMHルールの種類をDRBDリソース名またはイベントタイプ(存在、作成、破棄、変更)でフィルタリングすることも可能です。

最後に、プラグインのアクションを DRBD の状態変化に基づいてフィルタリングできます。フィルタは、プラグインに報告される過去の状態と新しい(現在の)DRBDの状態の両方に基づいている必要があります。なぜなら、プラグインが変更に反応するようにしたいからです。このような場合、古い状態と新しい状態を両方フィルタリングすることで、プラグインが無作為にトリガーされるのを防ぐことができます。たとえば、新しい(現在の)DRBDの役割だけをフィルタリング対象として指定した場合、新しい役割が古いDRBDの役割と同じ場合でもプラグインがトリガーされる可能性があります。

こちらは、resource ルールのための UMH プラグインの設定スニペットの例です:

[[umh]]
[[umh.resource]]
command = "slack.sh $DRBD_RES_NAME on $(uname -n) from $DRBD_OLD_ROLE to $DRBD_NEW_ROLE"
event-type = "Change"
resource-name = "my-resource"
old.role = { operator = "NotEquals", value = "Primary" }
new.role = "Primary"

この例のUMHプラグインの設定は、`resource-name`値が`my-resource`で指定されたDRBDリソースから受け取った変更イベントメッセージに基づいています。

もしリソースの古い役割が「Primary」ではなく、新しい(現在の)役割が「Primary」である場合、slack.sh`というスクリプトが後に続く引数を使って実行されます。フルパスが指定されていないため、スクリプトはホストマシン(またはコンテナで実行される場合はそうであれば)の一般的に設定された `PATH 環境変数(/sbin:/usr/sbin:/bin:/usr/bin)の中に配置されている必要があります。おそらく、このスクリプトはリソースの役割変更を通知するためにSlackチャンネルにメッセージを送信するでしょう。コマンド文字列値で指定された変数は、例えば、resource-name`で指定された値はコマンドが実行される際に$DRBD_RES_NAME`に置換されます。

上記の設定例では、指定された演算子 “NotEquals” を使用して、old.role の値 “Primary” が真であるかどうかを評価しています。演算子を指定しない場合は、設定例の new.role = "Primary" フィルタのように、デフォルトの演算子は “Equals” となります。

UMHプラグインの構成で指定できる規則、フィールド、フィルタータイプ、および変数には、さらに多くのものがあります。詳細な説明、例、および注意事項については、DRBD Reactor GitHubリポジトリ内のhttps://github.com/LINBIT/drbd-reactor/blob/master/doc/umh.md[UMHドキュメントページ]を参照してください。

8.3.5. Prometheus プラグインの設定

このプラグインは、Prometheus互換のHTTPエンドポイントを提供し、DRBDのモニタリングメトリクスを提供します。具体的には、DRBDの接続状態、DRBDデバイスがクォーラムを持っているかどうか、同期が取れていないバイト数、TCP送信バッファの混雑の指標などが含まれます。drbd-reactor.prometheus のmanページには、メトリクスの完全なリストと詳細が記載されています。

8.3.6. SNMP 監視のための AgentX プラグインの設定

AgentXプラグインの設定には、公開されるDRBDメトリクスを定義するSNMP管理情報ベース(MIB)のインストール、SNMPデーモンの設定、AgentXプラグイン用のDRBDリアクター設定スニペットファイルの編集が含まれます。

すべての DRBD Reactor ノードで次のセットアップ手順を完了する必要があります。
Prerequisites

このプラグインを設定して、さまざまな DRBD のメトリクスを SNMP デーモンに公開する前に、もしまだインストールされていない場合は、以下のパッケージをインストールする必要があります。

RPMベースのシステム向け:

# dnf -y install net-snmp net-snmp-utils

DEBベースのシステム向け:

# apt -y install snmp snmpd
LINBITのMIBに対してSNMPコマンドを使用する際にMIBが見つからないエラーが発生した場合、不足しているMIBをダウンロードする必要があります。これを手動で行うか、snmp-mibs-downloader DEBパッケージをインストールして行うことができます。
AgentX ファイアウォールの考慮事項

ファイアウォールサービスを使用している場合、AgentXプロトコルを利用するためにポート705を介したTCPトラフィックを許可する必要があります。

LINBIT DRBD Management Information Baseのインストール

AgentXプラグインを使用するには、LINBIT社のDRBD MIBを /usr/share/snmp/mibs にダウンロードしてください。

# curl -L https://github.com/LINBIT/drbd-reactor/raw/master/example/LINBIT-DRBD-MIB.mib \
-o /usr/share/snmp/mibs/LINBIT-DRBD-MIB.mib
SNMP デーモンの設定

SNMPサービスのデーモンを設定するには、その設定ファイル(/etc/snmp/snmpd.conf)に以下の行を追加してください。

# add LINBIT ID to the system view and enable agentx
view    systemview    included   .1.3.6.1.4.1.23302
master agentx
agentXSocket tcp:127.0.0.1:705
使用するビュー名が SNMP 構成ファイルで適切に設定されているビュー名と一致しているかを確認してください。上記の例では、RHEL 8 システムで使用されているビュー名が systemview であることが示されています。Ubuntu の場合、ビュー名は異なる可能性があり、例えば Ubuntu 22.04 では systemonly となります。

次に、サービスを有効にして開始します(または既に有効かつ実行中の場合はサービスを再起動します)。

# systemctl enable --now snmpd.service
AgentXプラグインの構成スニペットファイルの編集

AgentXプラグインは、DRBD Reactorスニペットファイルでの最小限の構成のみを必要とします。次のコマンドを入力して、構成スニペットファイルを編集してください。

# drbd-reactorctl edit -t agentx agentx

その後、以下の行を追加してください。

[[agentx]]
address = "localhost:705"
cache-max = 60 # seconds
agent-timeout = 60 # seconds snmpd waits for an answer
peer-states = true # include peer connection and disk states

`drbd-reactorctl edit`コマンドを使用して構成スニペットファイルを編集すると、必要に応じて DRBD Reactor がサービスを再読み込みします。以前に編集したスニペットファイルを別のノードにコピーする場合、そのノードで DRBD Reactor サービスを再読み込みする必要があります。再読み込みは、以下のように入力して行います。

# systemctl reload drbd-reactor.service
AgentX プラグインの動作確認

AgentXプラグインの動作を確認する前に、次のコマンドを入力して、SNMPサービスが標準の、プリインストールされたMIBを公開しているかを最初に確認してください。

# snmpwalk -Os -c public -v 2c localhost iso.3.6.1.2.1.1.1
sysDescr.0 = STRING: Linux linstor-1 5.14.0-284.30.1.el9_2.x86_64 #1 SMP PREEMPT_DYNAMIC Fri Aug 25 09:13:12 EDT 2023 x86_64

次に、`drbd-reactorctl status`コマンドの出力に AgentX プラグインが表示されているか確認してください。

/etc/drbd-reactor.d/agentx.toml:
AgentX: connecting to main agent at localhost:705
[...]

次に、以下のコマンドを入力して LINBIT MIB テーブルの構造を表示してください。

# snmptranslate -Tp -IR -mALL linbit

最後に、snmptable`コマンドを使用して、現在のDRBDセットアップおよびリソースに保持されている値のテーブルを表示できます。以下は例として、LINBIT MIB内の`enterprises.linbit.1.2 (enterprises.linbit.drbdData.drbdTable) オブジェクト識別子(OID)でDRBDリソースの値を表示するコマンドを示しています。

# snmptable -m ALL -v 2c -c public localhost enterprises.linbit.1.2 | less -S
AgentXプラグインをLINSTORと共に使用する

DRBD ReactorとそのAgentXプラグインを使用してLINSTORが作成したDRBDリソースを操作している場合は、これらのDRBDリソースが1ではなく1000のマイナーナンバーから開始することに注意してください。したがって、特定のノードで最初にLINSTORが作成したリソースのDRBDリソース名を取得するためには、次のコマンドを入力してください。

# snmpget -m ALL -v 2c -c public localhost .1.3.6.1.4.1.23302.1.2.1.2.1000
LINBIT-DRBD-MIB::ResourceName.1000 = STRING: linstor_db

8.4. DRBD Reactor CLIユーティリティの使用法

DRBDリアクターCLIユーティリティである drbd-reactorctl を使用して、DRBDリアクターデーモンとそのプラグインを制御することができます。

このユーティリティは、プラグインの断片にのみ適用されます。メインの構成ファイル内にある既存のプラグインの設定(推奨されずサポートされない)は、スニペットディレクトリ内のスニペットファイルに移動する必要があります。

d`rbd-reactorctl` ユーティリティを使うと、次のことができます。

  • `drbd-reactorctl status`コマンドを使用して、DRBD Reactorデーモンと有効になっているプラグインの状態を取得してください。

  • 既存のプラグイン設定を編集するか、新しいプラグイン設定を作成するには、`drbd-reactorctl edit -t <plugin_type> <plugin_file>`コマンドを使用します。

  • drbd-reactorctl cat <plugin_file> コマンドを使用して、指定されたプラグインの TOML 構成を表示します。

  • drbd-reactorctl enable|disable <プラグインファイル> コマンドを使用して、プラグインを有効または無効にできます。

  • `drbd-reactorctl evict <プラグインファイル>`コマンドを使用して、ノードからPromoterプラグインリソースを削除します。

  • 指定されたプラグイン(またはプラグインが指定されていない場合は DRBD リアクターデーモン)を drbd-reactorctl restart <plugin_file> コマンドを使用して再起動します。既存のプラグインを削除してデーモンを再起動するには、drbd-reactorctl rm <plugin_file> コマンドを使用します。

  • drbd-reactorctl ls [--disabled] コマンドを使用して、アクティブ化されたプラグインをリストアップするか、オプションで無効化されたプラグインをリストアップします。

上記のアクションのいくつかをより細かく制御するために、追加のオプションが用意されています。 drbd-reactorctl の man ページに詳細とシンタックス情報があります。

8.4.1. Pacemaker CRMシェルコマンドとDRBD Reactorクライアントコマンドの対応表

次の表は、一般的なCRMタスクとそれに対応するPacemaker CRMシェル、および同等のDRBD Reactorクライアントコマンドを示したものです。

CRM task Pacemaker CRM shell command DRBD Reactor client command

Get status

crm_mon

drbd-reactorctl status

Migrate away

crm resource migrate

drbd-reactorctl evict

Unmigrate

crm resource unmigrate

Unnecessary

`crm resource unmigrate`に相当するDRBDリアクタークライアントコマンドは不要です。なぜなら、DRBDリアクターのPromoterプラグインはDRBDリソースを即座に排除しますが、後で状況が生じた場合にはそのリソースを元のノードにバックフェイルさせることを妨げません。それに対して、CRMシェルの`migrate`コマンドは、クラスタ情報ベース(CIB)に永続的な制約を挿入し、コマンドを実行したノード上でリソースが実行されないようにします。CRMシェルの`unmigrate`コマンドは、制約を削除し、リソースがコマンドを実行したノードにバックフェイルすることを可能にする手動介入です。`unmigrate`コマンドを忘れると、次回のHAイベント中にリソースをホストするためにノードが必要になった時に、深刻な影響が生じる可能性があります。

特定のノードへのフェイルバックを防ぎたい場合は、DRBD Reactor クライアントで evict --keep-masked を使用して、そのノードを取り除くことができます。これにより、ノードが再起動しフラグが削除されるまで、フェイルバックが防止されます。 drbd-reactorctl evict --unmask コマンドを使用すると、リブートよりも早くフラグを削除できます。このコマンドは CRM シェルの unmigrate コマンドに相当します。

8.5. DRBD ReactorのPromoterプラグインを使用して、高可用性のファイルシステムマウントを作成する

この例では、DRBD ReactorとPromoterプラグインを使用して、クラスタ内で高可用性のファイルシステムマウントを作成します。

前提条件:

  • すべてのクラスタノードで /mnt/test ディレクトリが作成されている。

  • すべてのノードで DRBD デバイスによって構成される ha-mount という名前の DRBD 構成済みリソース。以下の設定例では /dev/drbd1000 を使用しています。

  • Cluster Lab’s resource-agents GitHub リポジトリから入手できる Cluster Labs “Filesystem” OCF リソースエージェント。 /usr/lib/ocf/resource.d/heartbeat ディレクトリに存在している。

    LINBIT の顧客または評価アカウントをお持ちの場合は、LINBIT の drbd-9 パッケージ リポジトリで利用可能な resource-agents<