שימוש בסוכן LlamaIndex Query Pipeline

לפני שמתחילים

במדריך הזה אנחנו יוצאים מנקודת הנחה שקראתם את ההוראות במאמרים הבאים ופעלתם לפיהן:

אחזור מופע של סוכן

כדי לשלוח שאילתה ל-LlamaIndexQueryPipelineAgent, צריך קודם ליצור מכונה חדשה או לקבל מכונה קיימת.

כדי לקבל את LlamaIndexQueryPipelineAgent שמתאים למזהה משאב ספציפי:

Agent Platform SDK

מריצים את הקוד הבא:

import vertexai

client = vertexai.Client(  # For service interactions via client.agent_engines
    project="PROJECT_ID",
    location="LOCATION",
)

agent = client.agent_engines.get(name="projects/PROJECT_ID/locations/LOCATION/reasoningEngines/RESOURCE_ID")

print(agent)

איפה

ספריית הבקשות של Python

מריצים את הקוד הבא:

from google import auth as google_auth
from google.auth.transport import requests as google_requests
import requests

def get_identity_token():
    credentials, _ = google_auth.default()
    auth_request = google_requests.Request()
    credentials.refresh(auth_request)
    return credentials.token

response = requests.get(
f"https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/reasoningEngines/RESOURCE_ID",
    headers={
        "Content-Type": "application/json; charset=utf-8",
        "Authorization": f"Bearer {get_identity_token()}",
    },
)

‫API בארכיטקטורת REST 

curl \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/reasoningEngines/RESOURCE_ID

כשמשתמשים ב-Agent Platform SDK, האובייקט agent תואם למחלקה AgentEngine שכוללת את המאפיינים הבאים:

  • ‫agent.api_resource עם מידע על הסוכן שנפרס. אפשר גם לקרוא ל-agent.operation_schemas() כדי להחזיר את רשימת הפעולות ש-agent תומך בהן. פרטים נוספים זמינים במאמר בנושא פעולות נתמכות.
  • ‫agent.api_client שמאפשרת אינטראקציות סינכרוניות עם שירותים
  • ‫agent.async_api_client שמאפשרת אינטראקציות אסינכרוניות בין שירותים

בהמשך הקטע הזה נניח שיש לכם מכונת AgentEngine שנקראת agent.

פעולות נתמכות

הפעולות הבאות נתמכות ב-LlamaIndexQueryPipelineAgent:

  • ‫query: כדי לקבל תשובה לשאילתה באופן סינכרוני.

שליחת שאילתה לסוכן

כדי לשלוח שאילתה לסוכן, משתמשים בשיטה .query:

agent.query(input="What is Paul Graham's life in college?")

שווה לביטוי הבא (בצורה מלאה):

agent.query(input={"input": "What is Paul Graham's life in college?"})

כדי להתאים אישית את מילון הקלט, אפשר לקרוא את המאמר בנושא התאמה אישית של תבנית ההנחיה.

אפשר גם להתאים אישית את התנהגות הסוכן מעבר ל-input על ידי העברת ארגומנטים נוספים של מילות מפתח אל query().

response = agent.query(
    input={
      "input": [
        "What is Paul Graham's life in college?",
        "How did Paul Graham's college experience shape his career?",
        "How did Paul Graham's college experience shape his entrepreneurial mindset?",
      ],
    },
    batch=True  # run the pipeline in batch mode and pass a list of inputs.
)
print(response)

רשימה מלאה של הפרמטרים הזמינים מופיעה בקוד QueryPipeline.run.

המאמרים הבאים