独自の生成 AI アシストを構築する

独自の生成 AI アシストを構築すると、テキスト生成ツールを作成して Agent Assist に統合できます。テキスト生成ツールは、Text Bison や Gemini などの高度な大規模言語モデル（LLM）を使用して候補を生成します。これらの候補を使用すると、カスタマー サービス会話の両端の参加者（人間のエージェントや人間のユーザーなど）を支援できます。生成ツールは、ほとんどの LLM タスク用に構成できる Agent Assist の組み込み LLM 呼び出しを使用できます。Agent Assist の生成ツールの詳細については、Vertex AI のドキュメントをご覧ください。

生成ツールの入力

テキスト生成ツールには次の入力が必要です。

• 手順: テキスト生成ツールに実行させるタスクを説明するテキスト。Vertex AI では、手順はプロンプトと呼ばれます。

• モデル オプション: 最適なモデル パフォーマンスに必要なモデルの選択と設定（Temperature、出力トークン上限、TopK、TopP など）。生成ツールの出力は、これらの設定によって制限されます。[モデル オプション] をクリックして生成ツールを作成するときにモデルを選択してモデル オプションを設定することも、デフォルト設定を使用することもできます。Vertex AI では、モデル オプションは パラメータ値 と呼ばれます。

• トリガー イベント: 生成ツールを開始するタイミングを示す次のいずれかのイベント 。

  • END_OF_UTTERANCE: 発話が入力されるたびに生成ツールをトリガーします。
  • MANUAL_CALL: 生成ツールを呼び出す API 呼び出しを明示的に行う場合にのみ、生成ツールをトリガーします。
  • CUSTOMER_MESSAGE: 顧客メッセージごとにのみ、生成ツールをトリガーします。
  • AGENT_MESSAGE: エージェント メッセージごとにのみ、生成ツールをトリガーします。

生成ツールの出力

テキスト生成ツールに入力を指定すると、独自の生成 AI アシストを構築する生成ツールは、記事リンク、適切なレスポンス、プロモーション オファーに関するバックエンド情報などの候補を提供します。 これらの候補はテキスト形式で提供され、生成時にカスタマー サービス会話のコンテキスト内で関連します。

ユースケース

このセクションでは、独自の生成 AI アシストを構築する生成ツールを実装する方法の例として、3 つのユースケースを紹介します。モデルは、次の例とは異なる出力レスポンスを生成する場合があります。

プロフェッショナルな書き換え

次のように、お客様に返信する前に、人間のエージェントの発話をプロフェッショナルで丁寧かつ共感的な方法で言い換えるように生成ツールに指示できます。

• 生成ツールの名前: プロフェッショナルな書き換え
• トリガー イベント: エージェント メッセージ

• 手順:

  # TASK DESCRIPTION:
  Output the agent's response under ## LAST UTTERANCE rewritten in a professional, polite and empathetic way in EXAMPLE 4.
  - DO NOT miss any information mentioned by the original text.
  - Only output rewritten response.
  - You're provided with EXAMPLE 1-3. Follow the format.
  
  # EXAMPLE 1
  ## CONVERSATION:
  AGENT: Yo what's up it's Akshay. This is Amazon customer service. What do you want?
  
  ## LAST UTTERANCE:
  Yo what's up it's Akshay. This is Amazon customer service. What do you want?
  
  ## OUTPUT:
  Hi I'm Akshay. Thank you for choosing Amazon customer service. How can I assist you today?
  
  # EXAMPLE 2
  ## CONVERSATION:
  CUSTOMER: Hi, I'm having some trouble with my Apple Music subscription.
  AGENT: Hey, I'm [name]. I can help, I guess. What's your name and account number?
  CUSTOMER: Sure, my name is [name] and my account number is [number].
  AGENT: Alright. Checked that out. You are on Apple Music Individual plan, right?
  
  ## LAST UTTERANCE:
  Alright. Checked that out. You are on Apple Music Individual plan, right?
  
  ## OUTPUT:
  Thank you. I see that you're currently subscribed to the Apple Music Individual plan. Is that correct?
  
  # EXAMPLE 3
  ## CONVERSATION:
  AGENT: What is your order number?
  CUSTOMER: 12345
  AGENT: Hang on a sec. Looking.
  CUSTOMER: I'll wait.
  AGENT: Alright, it appears your order is not registered. Did you even submit the order?
  CUSTOMER: Let me double check. Shoot, someone canceled it. Must be the kids.
  AGENT: Yeah, watch your kids will you?
  CUSTOMER: I'm so sorry.
  AGENT: All good. Have a good one.
  
  ## LAST UTTERANCE:
  All good. Have a good one.
  
  ## OUTPUT:
  No problem. I'm glad I can help. Please have a good day!
  
  # EXAMPLE 4
  ## CONVERSATION:
  ${parameter:transcript}
  
  ## LAST UTTERANCE:
  ${parameter:transcript_last_utterance}
  
  ## OUTPUT:
  

顧客維持

また、次の例のように、商品の割引、商品のアップセルまたはクロスセル、問題の解決など、顧客維持のためのエージェント レスポンスを提案するように生成ツールに指示することもできます。生成ツールは、割引や特典に関する情報にコンテキスト リファレンスとしてアクセスします。IngestContextReferences API

• 生成ツールの名前: 顧客離反と維持
• トリガー イベント: 顧客メッセージ
• コンテキスト リファレンス: オファー
  • One: 11% 割引
  • Nest: 5% 割引
  • 新規顧客割引: 10%

• 手順:

  # TASK DESCRIPTION:
  You are an Agent who is helping a customer resolve an issue with complete understanding of the same.
  - Make sure you wait to understand the concern or query before making any suggestions.
  - If the customer informs about the issue, you need to ask the exact reason. If the reason is valid, you can give appropriate credit from the OFFERS section.
  - If the customer is about to cancel an order or subscription, make sure you offer something from the OFFERS section and try to retain the customer.
  - If a customer is inquiring about a new product, offer some combo for upselling another product.
  Below are two examples for detecting churn and generating suggestions for mitigation.
  The output should be a single message suggested to the agent according to the context of the conversation.
  
  # EXAMPLE 1
  Customer: Hello
  Agent: Welcome to Google. How may I help you?
  Customer: I want to cancel order.
  Agent: Sure Let me have an order ID.
  Customer: Its 123321
  Agent: I could see that you placed an order for Google Nest. May I know the reason for cancellation?
  Customer: It's available at cheaper rate now. 
  Agent: Ohh.! I see. Let me check the current price and adjust the order price. Is it okay ?
  Customer: Sure..! I can purchase the product  as long as I can get it at the discounted price. I'd definitely go with it
  Agent: Google Nest costs $200 at present. I can see that you paid $230.
  Customer: Yeah. Can you request to refund $30. I can buy it at $200.
  Agent : Sure. I have updated. You will get $30 refund once your order is delivered.
  Customer: Thanks.
  Agent : Welcome
  
  # EXAMPLE 2
  Customer: Hello
  Agent: Welcome to Google. How may I help you?
  Customer: I am having Google One Subscription. I think I may need some more space in future. 
  Agent: Okay. May I have your customer Id:
  Customer: Its 123321
  Agent: I could see that you have 100GB Plan at present. How much are you expecting to need in future?
  Customer: I think I may need 100GB or more.
  Agent: I could check that you are a loyal customer who had subscriptions since last 6 months. I can provide you 10% discount. 
  Customer: Sure..! That would be great. 
  Agent: 200GB Subscription costs $180 per annum which I can offer you at $162.
  Customer: That's cool. Thank you.
  Agent: Is there anything else I can help you with?
  Customer: No thanks.
  
  ## CONTEXT
  ${parameter:transcript}
  
  ## OFFERS
  ${parameter:offers}
  

生成ツールを作成する

次のサンプルは、独自の生成 AI アシストを構築するテキスト生成ツールを作成する方法を示しています。

パラメータ

${parameter:<parameter_name>} 形式を使用して単語をパラメータとしてマークすると、手順をコンテキスト化できます。また、Data Ingestion API を使用して、会話で IngestContextReferences メソッドを呼び出すことで、パラメータの実際の値をインポートすることもできます。このメソッドを使用すると、手順のパラメータは実行時に値に置き換えられます。

IngestContextReferences

{
  "contextReferences": {
    "glossary": {
      "contextContents": [
        {
          "content": "east one",
          "contentFormat": "PLAIN_TEXT"
        }
      ]
    }
  }
}

取り込む必要のない生成ツール パラメータもあります。これらの組み込みパラメータは次のとおりです。

• ${parameter:transcript}: エージェントとユーザーの間の会話（ユーザーが最後に送信したテキストを含む）。
• ${parameter:transcript_last_utterance}: 会話の最後の発話。

少なくとも 1 つの組み込みパラメータを任意の手順で使用する必要があります。

組み込みか取り込みかに関係なく、生成ツール パラメータは、生成ツールの作成時に設定されるモデル オプションとは異なります。これらの生成ツール パラメータの値は、会話の文字起こしまたは取り込まれたデータから取得されます。一方、生成ツール全体のモデル オプションの値を設定します。

生成ツールをテストする

独自の生成 AI アシストを構築するコンソールで、[生成ツールをテスト] セクションで生成ツールをテストできます。

独自の生成 AI アシストを構築するコンソールで生成ツールをテストする手順は次のとおりです。

会話プロファイル

会話プロファイルは、会話中に提示される候補を制御する一連のパラメータを定義します。次の手順では、conversationProfile リソースを使用して HumanAgentAssistantConfig オブジェクトを作成します。

会話プロファイルの JSON の例を次に示します。

{
  "displayName": "build-your-own-assist-test",
  "humanAgentAssistantConfig": {
    "humanAgentSuggestionConfig": {
      "generators": "projects/PROJECT_ID/locations/global/generators/GENERATOR_ID"
    }
  }
}

シミュレータで確認する

会話プロファイルは、Agent Assist シミュレータで確認できます。シミュレータには、生成ツールの名前でアノテーションが付けられた生成されたレスポンスが表示されます。

プロンプトをテストする

独自の生成 AI アシストを構築するコンソールで、会話プロファイルを確認するのと同じ方法で、シミュレータを使用してプロンプトをテストできます。 次の図に示す生成された出力は、freeform-tool-test1 生成ツールがサンプル プロンプトにどの程度従っているかを示しています。

実行時の会話

会話は、エージェント（人間のエージェントと仮想エージェント）とサポート担当者またはエンドユーザーとのやり取りとして定義されます。実行時に、エンドユーザーと人間のエージェントとの会話が開始されると、会話が作成されます。候補を表示するには、エンドユーザーの参加者と人間のエージェントの参加者を両方とも作成して、会話に加える必要があります。

会話を作成する

会話を作成する手順は次のとおりです。

1. conversation resource から create メソッドを呼び出します。
2. リクエストのデータを使用する前に、次のように置き換えます。
   • PROJECT_ID: プロジェクト ID
   • CONVERSATION_PROFILE_ID: 会話プロファイル ID

HTTP メソッドと URL:

POST https://dialogflow.googleapis.com/v2/projects/PROJECT_ID/conversations

リクエストの本文（JSON）:

{
  "conversationProfile": "projects/PROJECT_ID/conversationProfiles/CONVERSATION_PROFILE_ID",
}

JSON レスポンスの conversations の後のパスセグメントには、新しい会話 ID が含まれます。JSON レスポンスは次のようになります。

{
  "name": "projects/PROJECT_ID/conversations/CONVERSATION_ID",
  "lifecycleState": "IN_PROGRESS",
  "conversationProfile": "projects/PROJECT_ID/conversationProfiles/CONVERSATION_PROFILE_ID",
  "startTime": "2023-11-05T21:05:45.622Z"
}

エンドユーザーの参加者を作成する

エンドユーザーの参加者を作成する手順は次のとおりです。

1. participants リソースから create メソッドを呼び出します。
2. リクエストのデータを使用する前に、次のように置き換えます。
   • PROJECT_ID: プロジェクト ID
   • CONVERSATION_ID: 会話 ID

次のように、ロール フィールドに会話 ID と「END_USER」を指定します。

HTTP メソッドと URL:

POST https://dialogflow.googleapis.com/v2/projects/PROJECT_ID/conversations/CONVERSATION_ID/participants

リクエストの本文（JSON）:

{
  "role": "END_USER",
}

JSON レスポンスの participants の後のパスセグメントには、新しいエンドユーザー参加者 ID が含まれます。JSON レスポンスは次のようになります。

{
 "name": "projects/PROJECT_ID/conversations/CONVERSATION_ID/participants/USER_PARTICIPANT_ID", "role": "END_USER"
}

人間のエージェントの参加者を作成する

人間のエージェントの参加者を作成する手順は次のとおりです。

1. participants リソースから create メソッドを呼び出します。
2. リクエストのデータを使用する前に、次のように置き換えます。
   • PROJECT_ID: プロジェクト ID
   • CONVERSATION_ID: 会話 ID

次のように、フィールドに会話 ID と HUMAN_AGENT ロールを指定します。

HTTP メソッドと URL:

POST https://dialogflow.googleapis.com/v2/projects/PROJECT_ID/conversations/CONVERSATION_ID/participants

リクエストの本文（JSON）:

{
  "role": "HUMAN_AGENT",
}

JSON レスポンスの participants の後のパスセグメントには、新しい人間のエージェントの参加者 ID が含まれます。レスポンスは次のようになります。

{
"name": "projects/PROJECT_ID/conversations/CONVERSATION_ID/participants/AGENT_PARTICIPANT_ID", "role": "HUMAN_AGENT"
}

メッセージを分析する

生成ツールは、会話内のメッセージを分析することもできます。会話中にメッセージを追加できます。生成ツールは、analyzeContent メソッドを使用して、人間のエージェントとエンドユーザーの両方のメッセージを分析できます。participants

人間のエージェントのメッセージを追加して分析する手順は次のとおりです。

1. analyzeContent メソッドを呼び出します。
2. リクエストのデータを使用する前に、次のように置き換えます。
   • PROJECT_ID: プロジェクト ID
   • CONVERSATION_ID: 会話 ID
   • PARTICIPANT_ID: 人間のエージェントの参加者 ID

会話 ID と人間のエージェントの参加者 ID を指定します。リクエストには、次のようなものが含まれている必要があります。

HTTP メソッドと URL:

POST https://dialogflow.googleapis.com/v2/projects/PROJECT_ID/conversations/CONVERSATION_ID/participants/PARTICIPANT_ID:analyzeContent

リクエストの本文（JSON）:

{
  "textInput": {
    "text": "Bonjour, ici le service client d'ABC fishing, comment puis-je vous aider aujourd'hui ?",
    "languageCode": "en-US"
  }
}

次のような JSON レスポンスが返されます。

{
  "message": {
    "name": "projects/PROJECT_ID/conversations/CONVERSATION_ID/messages/MESSAGE_ID",
    "content": "Bonjour, ici le service client d'ABC fishing, comment puis-je vous aider aujourd'hui ?",
    "languageCode": "en-US",
    "participant": "PARTICIPANT_ID",
    "participantRole": "HUMAN_AGENT",
    "createTime": "2023-02-13T00:01:30.683Z"
  },
  "humanAgentSuggestionResults": [{
    "generateSuggestionsResponse": {
      "generatorSuggestionAnswers": [{
        "generatorSuggestion": {
          "freeFormSuggestion": {
            "response": "Hello, this is ABC fishing customer service, how can I help you today?"
          }
        },
        "sourceGenerator": "projects/PROJECT_ID/locations/global/generators/GENERATOR_ID",
        "answerRecord": "projects/PROJECT_ID/locations/global/answerRecords/ANSWER_RECORD_ID"
      }],
      "latestMessage": "projects/PROJECT_ID/locations/global/conversations/CONVERSATION_ID/messages/MESSAGE_ID"
    }
  }]
}

エンドユーザー メッセージを追加して分析する

1. analyzeContent メソッドを呼び出します。他の Agent Assist 機能でメソッドが呼び出されている場合は、メソッドを重複して呼び出さないでください。
2. リクエストのデータを使用する前に、次のように置き換えます。
   • PROJECT_ID: プロジェクト ID
   • CONVERSATION_ID: 会話 ID
   • PARTICIPANT_ID: 人間のエージェントの参加者 ID

会話 ID と人間のエージェントの参加者 ID を指定します。リクエストには、次のようなものが含まれている必要があります。

HTTP メソッドと URL:

POST https://dialogflow.googleapis.com/v2/projects/PROJECT_ID/conversations/CONVERSATION_ID/participants/PARTICIPANT_ID:analyzeContent

リクエストの本文（JSON）:

{
  "textInput": {
    "text": "Hi",
    "languageCode": "en-US"
  }
}

次のような JSON レスポンスが返されます。

{
  "message": {
    "name": "projects/PROJECT_ID/conversations/CONVERSATION_ID/messages/MESSAGE_ID",
    "content": "Hi",
    "languageCode": "en-US",
    "participant": "PARTICIPANT_ID",
    "participantRole": "END_USER",
    "createTime": "2020-02-13T00:07:35.925Z"
  },
  "humanAgentSuggestionResults": [{
    "generateSuggestionsResponse": {
      "generatorSuggestionAnswers": [{
        "generatorSuggestion": {
          "freeFormSuggestion": {
            "response": "Salut"
          }
        },
        "sourceGenerator": "projects/PROJECT_ID/locations/global/generators/GENERATOR_ID",
        "answerRecord": "projects/PROJECT_ID/locations/global/answerRecords/ANSWER_RECORD_ID"
      }],
      "latestMessage": "projects/PROJECT_ID/locations/global/conversations/CONVERSATION_ID/messages/MESSAGE_ID"
    }
  }]
}

会話が完了し、analyzeContent が使用されていない場合は、batchCreate メソッドを messages リソースから使用して、会話の履歴メッセージをインポートして分析できます。

提案を取得

生成ツールは、会話の任意の時点でメッセージに対する候補も提供します。デフォルトでは、候補はどちらかの参加者からの最新のメッセージに対するものです。候補を取得するメッセージを指定することもできます。デフォルトで候補を取得するか、次のいずれかのリソースを使用します。

含まれている候補を使用する

analyzeContent のレスポンスには候補が含まれています。トリガーされた生成ツールは、これらの候補を生成します。JSON リクエストには、次のようなものが含まれている必要があります。

HTTP メソッドと URL:

POST https://dialogflow.googleapis.com/v2/projects/PROJECT_ID/conversations/CONVERSATION_ID/participants/PARTICIPANT_ID:analyzeContent

リクエストの本文（JSON）:

{
  "textInput": {
    "text": "I want to reserve a room.",
    "languageCode": "en-US"
  }
}

suggestions リソースを使用する

候補を取得するもう 1 つの方法は、次の手順に沿って操作することです。

1. suggestions リソースから generate メソッドを呼び出します。
2. リクエストのデータを使用する前に、次のように置き換えます。
   • PROJECT_ID: プロジェクト ID
   • CONVERSATION_ID: 会話 ID
   • PARTICIPANT_ID: 人間のエージェントの参加者 ID

会話 ID、どちらかの参加者からの最新のメッセージ ID、トリガー イベントを指定します。メッセージ ID フィールドが設定されていない場合、候補はデフォルトでどちらかの参加者からの最新のメッセージに基づきます。トリガー イベントに関連付けられた生成ツールが開始されます。JSON リクエストには、次のようなものが含まれている必要があります。

HTTP メソッドと URL:

POST https://dialogflow.googleapis.com/v2/projects/PROJECT_ID/conversations/CONVERSATION_IDsuggestions:generate

リクエストの本文（JSON）:

{
  "latestMessage": "projects/PROJECT_ID/conversations/CONVERSATION_IDmessages/Message_ID",
  "triggerEvents": [ "END_OF_UTTERANCE" ]
}

statelessSuggestion リソースを使用する

候補を取得する最後のアプローチは、次の手順に沿って操作することです。

1. statelessSuggestion リソースから generate メソッドを呼び出します。
2. リクエストのデータを使用する前に、次のように置き換えます。
   • PROJECT_ID: プロジェクト ID
   • LOCATION_ID: 地域 ID

生成ツール、会話のメッセージ、取り込まれたデータを含むコンテキスト リファレンスを指定します。取り込まれたデータは、生成ツールの手順のパラメータを置き換えます。JSON リクエストは次のようになります。

HTTP メソッドと URL:

https://dialogflow.googleapis.com/v2/projects/PROJECT_ID/locations/LOCATION_ID/statelessSuggestion:generate

リクエストの本文（JSON）:

{
  "generator": {
    "description": "Translation",
    "triggerEvent": "END_OF_UTTERANCE",
    "freeFormContext": {
      "text": "Read the conversation between agent and customer, and the last utterance. Output the last utterance from customer by following these instructions:
      - If the last utterance from AGENT, output the utterance by translating it to English.
      - If the last utterance from CUSTOMER, output the utterance by translating it to French.
      - Specific brand names and technical terms specified under 'GLOSSARY' section, such as 'Google Home,' should remain unchanged as per the glossary guidelines.

# GLOSSARY
${parameter:glossary}

# CONVERSATION:
${parameter:transcript}

# LAST UTTERANCE:
${parameter:transcript_last_utterance}

# OUTPUT: "
    }
  },
  "contextReferences": {
    "glossary": {
      "contextContents": {
        "content": "east one",
        "contentFormat": "PLAIN_TEXT"
      }
    }
  },
  "conversationContext": {
    "messageEntries": [
      {
        "text": "hi",
        "languageCode": "en-US",
        "role": "END_USER",
        "createTime": {
          "seconds": "1400000000",
          "nanos": "10000000"
        }
      },
      {
        "text": "Bonjour, comment puis-je vous aider aujourd\\'hui ?",
        "languageCode": "en-US",
        "role": "HUMAN_AGENT",
        "createTime": {
          "seconds": "1400000010",
          "nanos": "10000000"
        }
      }
    ]
  },
  "triggerEvents": [
    "END_OF_UTTERANCE"
  ]
}

割り当て上限

Agent Assist の割り当てと上限は、Dialogflow の割り当てページで確認できます。独自の生成 AI アシストを構築するには、次の割り当て上限があります。