「AIエージェントキャッチアップ #12 - Multi-Agent Orchestrator」を開催しました

orchestrator = MultiAgentOrchestrator(
    options=OrchestratorConfig(
            :
    ),
)

tech_agent = BedrockLLMAgent(
    BedrockLLMAgentOptions(
        name="Tech Agent",
        streaming=True,
        description="Specializes in technology areas including software development, hardware, AI, \
  cybersecurity, blockchain, cloud computing, emerging tech innovations, and pricing/costs \
  related to technology products and services.",
        callbacks=BedrockLLMAgentCallbacks(),
    ),
)
orchestrator.add_agent(tech_agent)
    :
async def handle_request(
    _orchestrator: MultiAgentOrchestrator,
    _user_input: str,
    _user_id: str,
    _session_id: str,
):
    response: AgentResponse = await _orchestrator.route_request(
        _user_input,
        _user_id,
        _session_id,
    )
        :

簡単に言えば、以下のような使い方になります。

MultiAgentOrchestratorを初期化
「BedrockLLMAgent」などのAgentをnameやdescription、toolなどを与えて初期化
orchestrator.add_agentとしてAgentをOrchestratorに登録
_orchestrator.route_requestのようにしてOrchestrator実行

個人的な感覚としては、このようなマルチエージェントフレームワークはよく見かけます。

Agent

Multi-Agent Orchestratorにおける「Agent」はかなり広い概念です。

BedrockのLLMやAgent機能を使ったり、AnthropicやOpenAIのAPIを使うこともできれば、LambdaやCustom Agentで任意の関数を実行することもできます。 LLMによる処理に限らず、ルールベースの処理なども自由に実装できるということです。

「ChainAgent」を使用すれば、Agentを連鎖的に呼び出すことも可能とのことです。

awslabs.github.io

Classifier

Multi-Agent Orchestratorにおいて、Agentを選択するのが「Classifier」です。

Quickstartのコードを実行すると、以下のようなログが表示されます。

You: プログラミング初心者にPythonについて説明して
INFO:multi_agent_orchestrator.utils.logger:
** CLASSIFIED INTENT **
INFO:multi_agent_orchestrator.utils.logger:=======================
INFO:multi_agent_orchestrator.utils.logger:> Text: プログラミング初心者にPythonについて説明して
INFO:multi_agent_orchestrator.utils.logger:> Selected Agent: Tech Agent
INFO:multi_agent_orchestrator.utils.logger:> Confidence: 0.95
INFO:multi_agent_orchestrator.utils.logger:
INFO:multi_agent_orchestrator.utils.logger:
** AGENT TECH-AGENT CHAT HISTORY **
INFO:multi_agent_orchestrator.utils.logger:===================================
INFO:multi_agent_orchestrator.utils.logger:> - None -
INFO:multi_agent_orchestrator.utils.logger:
はい、プログラミング初心者にPythonについて説明させていただきます。

Selected Agent: Tech Agentという出力から、「Tech Agent」が選択されたことが分かります。また、Confidence: 0.95という出力から、確信度が0.95であることが分かります。

ClassifierとしてはデフォルトでClaude 3.5 SonnetのTool useが使われています。

ソースコードを参照すると、Tool useでAgentを選択し確信度（Confidence）を出力させていることが分かります。

        self.tools = [
            {
                                    :
                                "selected_agent": {
                                    "type": "string",
                                    "description": "The name of the selected agent",
                                },
                                "confidence": {
                                    "type": "number",
                                    "description": "Confidence level between 0 and 1",
                                },
                                    :

https://github.com/awslabs/multi-agent-orchestrator/blob/38ff0dc91590f9dd52728061e959498733367139/python/src/multi_agent_orchestrator/classifiers/bedrock_classifier.py#L41

LLMでAgentを選択するようなコードを書くときの定番で簡単な実装です。