一般的なWeb3層モデルのウェブサービスではフロントにロードバランサーを配置し、ロードバランサーの背後にWebサーバーやDBサーバーを配置します。ロードバランサーは、背後に配置されたサーバーへ届くリクエストをなるべく均等になるように配送する役割を担います。ただしサーバーに届くリクエスト1件当たりの処理にかかる計算コストが一定ではない場合、以下の図1に示すようにロードバランサーから配送されたリクエストを処理するサーバーの処理能力が足りなくなる状態（以下、高負荷状態）になることがあります。この高負荷状態が続くとシステムダウンやユーザーがサービス利用をやめてしまうことによる機会損失が起こります。そのため高負荷状態になった場合はスケールアウトを行い負荷の均等化を行います。しかし新規にサーバーを追加し負荷の均等化を行うことにより各サーバーの余剰リソースが増えるため、システム全体の利用効率は悪くなる場合があります^参考1。

システム全体のリソース利用効率を最適化することにより余剰リソースが最小化できるため、コスト削減効果が期待できます。以下の図2はwebサービス提供用のVM（virtual machine）3台（図中のweb）とログ収集用のVM1台（図中のlog）を各々独立して動かす場合と、余剰リソースが十分に有るVMにログ収集用の機能（以下、プロセス）を同居させる場合の利用効率の例になります。この例ではVM1台分のコスト削減が期待できます。

上述したようにリソースの利用効率を高めるには、余剰リソースのあるVMにさまざまなプロセスを同居させる事が効果的です。ただし状況によって余剰リソースがあるVMは異なるため、VM上で動いているプロセスは動的に他のVMにマイグレーションでき、プロセスが利用できるリソースも動的に変更できる必要があります。こういった作業を手作業で行うことは不可能ですが、Cluster Managerを使うと動的なプロセスのマイグレーションや動的なリソース変更を自動的に行うことができます。

現在Cluster Managerとして提供されているソフトウエア（Apache Mesos^参考2など）を利用するには、管理対象のプロセスが動作するVMの環境に非依存であることが必要になります。例えば、ウェブシステムの場合、ステートレス^参考3なシステムアーキテクチャになっている必要があります。管理対象のプロセスがVMの環境に依存している場合の例を以下の図4に示します。今後は管理対象のプロセスがどのような状態でもCluster Managerによって効率的なリソース管理が実現出来るようになるでしょう。

クラウドの利用によりシステムのスケールアウト・スケールインが容易に出来るようになりシステムの処理性能を簡単に増減できるようになりましたが、反面システムのリソース利用効率が低下することがあります。このような問題に対して、Cluster Managerが登場し、クラウドのリソース利用効率を最適化するトレンドが生まれています。