okuyamaを導入するまでに知っておきたいサーバリソースとの4つの関係[2ページ目]

続いてMasterNodeですが、MasterNodeはClientとDataNodeの間を橋渡しするGatewayの役目と、DataNodeの管理を行います。ただしMasterNodeを複数台で構築した場合、全てのNodeが2種類の役目を担う訳ではありません。

MasterNodeの内1台がGatewayとDataNode管理を行い、残りはGatewayだけを行います。両方の役目を担うNodeをMainMasterNodeと呼びます。図3はMasterNode.propertiesで、MasterNodeを定義してる箇所です

図3:MasterNode定義部分

ここで定義されている(2)がMainMasterNodeとなります。つまり、(1)と(2)の設定内容が一致した場合に、自身がMainMasterNodeとして起動します。(3)は全てのMasterNodeが定義されており、MainMasterNodeはここの設定を利用して、DataNodeの状態を全てのMasterNodeに伝播します。そして、ここに定義された順番でMainMasterNode障害時にMainMasterNodeに昇格します。

※設定ファイルが利用されるのは起動時の初期化処理のみとなり、以降は設定の動的変更に対応すため全てのMasterNdoeが共有できるように、DataNodeに通常のデータと同じように永続化されそちらの変更などを検知して稼働します。

以上のように、2種類のMasterNodeが存在するため、それぞれでメモリの使い方は異なります。MainMasterNodeを担当する可能性が高いノード、つまり、(3)の先頭よりに定義されているMasterNodeには、Clientとの仲介時に発生するデータをメモリ内に展開する容量と、DataNodeのデータ復旧、再配置時のデータ転送の中間点として利用されるメモリ容量が必要になります。MainMasterNode以外は、Clientとの仲介時における転送分の容量が最低限必要になります。それぞれ図4の計算式で求めることが可能です。

図4:MasterNodeで必要なメモリ容量の計算式

上記は最低限なので、ここにその他のMasterNodeを構成する要素が利用するメモリが加算されます。この場合、少なくとも128MBはその他の要素として検討することをお勧めします。

最後にDataNodeですが、DataNodeはデータを保存する役目を果たすので、保存方式によって利用するメモリ量は大きく異なります。そのため、一概にこれだけあれば良いとは言えません。ただし、どのデータをメモリに保持するかは細かく決定できますので、そちらに関しては次の章で詳しく解説させていただきます。それ以外の部分は先ほどのMasterNodeと同じ計算式で求めることが可能です。

図5:DataNodeで必要なメモリ容量の計算式

そして、DataNodeはデータの保存にメモリを利用した場合にメモリ空間を効率的に利用するSerializeMapという機能を持っています。これはJavaのメモリ空間上にデータを保存する際、インスタンス化されたJavaのObjectではなく、デシリアライズ後に圧縮したbyte型の配列で保持するという機能です。この機能を使うことで(デ)シリアライズオーバーヘッドと引き換えにメモリ空間を効率的に利用できるようになります。DataNode.propertiesに図6の設定を行うことで利用可能です。

図6:SerializeMap機能の設定

人気記事トップ10

人気記事ランキングをもっと見る

企画広告も役立つ情報バッチリ! Sponsored

ClickHouse Cloudが実現した広告運用SaaS「ATOM」のデータ基盤革新、パフォーマンスを向上しながら、運用負荷とコストを削減 11月11日 6:20 AIで開発が加速する時代、品質保証はどう変わる? Tricentisが示すAIエージェント活用の実像 11月9日 6:45 悪用までの猶予が「1分」に迫るフロンティアAI時代に開発と本番を貫く脆弱性管理が必要 10月29日 8:30 欧州CRA対応とSBOM運用。AI生成コードのOSS混入問題の対策とは ――スニペット単位で検出する「FossID」「Insignary Clarity」によるSBOM運用 9月16日 6:40 PostgreSQLからTiDBへ、稼働中SaaSで進める段階的DB移行の実践と再設計への展望 9月7日 6:30 機能安全開発におけるGoogleTestの活用を支援!「Parasoft C/C++test CT」で実現する効率化&AI連携 4月14日 6:30 【CNDW2025】Grafanaが明かす「オブザーバビリティの哲学」ー最小限の労力で実用的なインサイトを得るには 1月23日 6:30 【CNDW2025】プロダクト急増に備える基盤刷新 ーウェルスナビがECSからEKSへの移行で得た知見とは 1月15日 6:30 【CNDW2025】250環境を5人で運用、構築時間は30分に ーKINTOテクノロジーズが語るインフラ基盤組織の作り方 2025年12月18日 6:30 新たな自動化で熱視線! AIエージェントの「推論能力」を支える2つのコンポーネントとは? 2025年11月28日 6:30