生成式 AI

關於使用 Google Cloud 工具和產品建構及導入生成式 AI 應用程式的說明文件和資源。

免費試用

Google Cloud 新使用者首次註冊即可獲得 $300 美元贈金。此外，無論新舊使用者，均可免費使用 20 多款產品，累積實作經驗。

免費試用

Google Cloud 新使用者首次註冊即可獲得 $300 美元贈金。此外，無論新舊使用者，均可免費使用 20 多款產品，累積實作經驗。

瞭解如何建構生成式 AI 應用程式

存取 Google 的大型生成式 AI 模型，以便測試、調整及部署這些模型，然後在 AI 技術輔助應用程式中使用。
瞭解如何透過 Google Cloud 的 AI/機器學習平台 Vertex AI，將要求傳送至 Gemini API。
運用 GKE 的強大功能，打造可自訂的 AI/機器學習平台，透過業界領先的擴充能力和彈性基礎架構選項，以高效能且具成本效益的方式提供服務和訓練模型。
判斷生成式 AI、傳統 AI 或兩者兼具是否適合您的業務用途。
瞭解如何解決開發生成式 AI 應用程式時，在各個階段遇到的難題。
查看常見用途的程式碼範例，並部署安全、有效率、具備復原能力、高效能且經濟實惠的生成式 AI 應用程式範例。
瞭解與生成式 AI 相關的特定字詞。

生成式 AI 工具

生成式 AI 工具清單，包括 Cloud Console 下列出的 Vertex AI Studio、Colab Enterprise/Notebooks 和 Workbench，以及列為個別項目的 SDK/API。

生成式 AI 開發流程

這張圖表顯示生成式 AI 的開發流程，共分為六個階段：模型選取 (包括 Model Garden)、提示工程 (包括提示庫、Vertex AI Studio、比較提示和最佳化提示)、微調 (包括訓練和微調)、最佳化 (包括蒸餾)、部署 (包括 Model Registry、線上預測和批次預測)，以及監控。模型選取、提示工程、微調和最佳化階段屬於標示為「評估」的迴圈子週期。

模型探索與託管

Google Cloud 透過 Vertex AI 提供一系列最先進的基礎模型，包括 Gemini。您也可以將第三方模型部署至 Vertex AI Model Garden，或在 GKE 或 Compute Engine 上自行代管。

從機器學習模型庫探索、測試、自訂及部署 Google 模型和資產。
從機器學習模型庫探索、測試、自訂及部署選取的開放原始碼模型和資產。

透過 HuggingFace 存取的文字生成模型

瞭解如何將 HuggingFace 文字生成模型部署至 Vertex AI 或 Google Kubernetes Engine (GKE)。
將 GPU 附加至 VM 執行個體，加速處理 Compute Engine 上的生成式 AI 工作負載。

提示詞設計與提示工程

提示設計是指撰寫提示和回覆組合，為語言模型提供額外情境和指令的程序。撰寫提示詞後，請將其做為提示詞資料集提供給模型，進行預先訓練。模型提供預測結果時，會一併傳回您內建的指令。

設計、測試及自訂提示，然後傳送給 Google 的 Gemini 和 PaLM 2 大型語言模型 (LLM)。
瞭解提示工程工作流程和常見策略，以便影響模型回覆。
查看特定用途的提示和回覆範例。

建立基準和 RAG

建立基準可將 AI 模型連結至資料來源，提高回覆準確度並減少幻覺。RAG 是一種常見的基礎技術，會搜尋相關資訊並加入模型的提示，確保輸出內容以事實和最新資訊為依據。

您可以透過 Google 搜尋或儲存在 Agent Search 中的自有資料，建立 Vertex AI 模型基準。
使用「以 Google 搜尋強化事實基礎」功能，將模型連結至網路上最新的知識。
使用 AlloyDB 生成及儲存向量嵌入，然後使用 pgvector 擴充功能為嵌入建立索引及查詢。
將向量嵌入儲存在 Postgres SQL 中，然後使用 pgvector 擴充功能為嵌入建立索引及查詢。
使用 LangChain 從 BigQuery 擷取資料，並豐富及根據資料提供模型回覆。
從 Firestore 資料建立向量嵌入，然後為嵌入建立索引並查詢。
使用 LangChain 從 Memorystore 擷取資料，並豐富及根據模型的回覆內容提供資訊。

代理和函式呼叫

透過 Agent，您將能輕鬆設計對話式使用者介面，並將介面整合至行動應用程式，而函式呼叫則可擴充模型的功能。

運用 Google 的基礎模型、搜尋專業知識和對話式 AI 技術，打造企業級生成式 AI 應用程式。
在模型中新增函式呼叫功能，即可根據擷取的日曆資訊預約訂位等動作。

模型自訂和訓練

如果需要執行特殊工作，例如訓練語言模型使用特定術語，可能需要比單純設計提示詞或基礎模型更多的訓練。在這種情況下，您可以使用模型調整功能來提升成效，或是訓練自己的模型。

在 Vertex AI 中評估基礎模型和微調生成式 AI 模型的效能。
調整通用基礎模型，可提升模型在特定工作上的成效。
TPU 是 Google 量身打造的 ASIC，用於加速機器學習工作負載，例如訓練 LLM。
中階
參考架構：使用 Vertex AI 和 Vector Search 建構具備 RAG 功能的生成式 AI 應用程式。
中階
參考架構：使用 Vertex AI 和 AlloyDB for PostgreSQL 建構具備 RAG 功能的生成式 AI 應用程式。
中階
參考架構：使用 GKE、Cloud SQL 和開放原始碼工具 (例如 Ray、Hugging Face 和 LangChain)，建構支援 RAG 的生成式 AI 應用程式。

開始建構

LangChain 是生成式 AI 應用程式的開放原始碼框架，可讓您在提示詞中加入情境，並根據模型的回覆採取行動。
查看常見用途的程式碼範例，並部署安全、有效率、具備復原能力、高效能且經濟實惠的生成式 AI 應用程式範例。