Modell abstimmen

Auf dieser Seite wird beschrieben, wie Sie mit der Gemini Enterprise Agent Platform interagieren, um ein Modell mit der Seitenleiste in Colab Enterprise abzustimmen.

Wenn Sie auf Google Cloud Dienste und APIs zugreifen möchten, indem Sie Code in Ihrem Colab Enterprise-Notebook ausführen, können Sie die Anmeldedaten verwenden, die mit Ihrem Google-Konto verknüpft sind. Weitere Informationen finden Sie unter Auf Google Cloud Dienste und APIs zugreifen.

Die Seitenleiste ist eine zusätzliche Möglichkeit, mit der Agent Platform zu interagieren, um Modelle abzustimmen, ohne die Colab Enterprise-Oberfläche zu verlassen.

Die Seitenleiste wird rechts neben einem geöffneten Notebook angezeigt.

Modellabstimmung in der Agent Platform

Die Modellabstimmung ist eine effektive Möglichkeit, große Modelle an Ihre Aufgaben anzupassen. Sie ist ein wichtiger Schritt zur Verbesserung der Qualität und Effizienz des Modells. Die Modellabstimmung bietet folgende Vorteile:

  • Höhere Qualität für Ihre spezifischen Aufgaben
  • Erhöhte Robustheit des Modells
  • Niedrigere Inferenzlatenz und Kosten aufgrund kürzerer Prompts

Eine Übersicht über die Modellabstimmung der Agent Platform für Gemini finden Sie unter Einführung in die Abstimmung.

Hinweis

  1. Melden Sie sich in Ihrem Google Cloud Konto an. Wenn Sie noch kein Konto haben Google Cloud, erstellen Sie ein Konto, um die Leistung unserer Produkte in der Praxis sehen und bewerten zu können. Neukunden erhalten außerdem ein Guthaben von 300 $, um Arbeitslasten auszuführen, zu testen und bereitzustellen.

  2. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

    Roles required to select or create a project

    • Select a project: Selecting a project doesn't require a specific IAM role—you can select any project that you've been granted a role on.
    • Create a project: To create a project, you need the Project Creator role (roles/resourcemanager.projectCreator), which contains the resourcemanager.projects.create permission. Learn how to grant roles.

    Go to project selector

  3. Verify that billing is enabled for your Google Cloud project.

  4. Enable the Agent Platform, Dataform, and Compute Engine APIs.

    Roles required to enable APIs

    To enable APIs, you need the Service Usage Admin IAM role (roles/serviceusage.serviceUsageAdmin), which contains the serviceusage.services.enable permission. Learn how to grant roles.

    Enable the APIs

  5. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

    Roles required to select or create a project

    • Select a project: Selecting a project doesn't require a specific IAM role—you can select any project that you've been granted a role on.
    • Create a project: To create a project, you need the Project Creator role (roles/resourcemanager.projectCreator), which contains the resourcemanager.projects.create permission. Learn how to grant roles.

    Go to project selector

  6. Verify that billing is enabled for your Google Cloud project.

  7. Enable the Agent Platform, Dataform, and Compute Engine APIs.

    Roles required to enable APIs

    To enable APIs, you need the Service Usage Admin IAM role (roles/serviceusage.serviceUsageAdmin), which contains the serviceusage.services.enable permission. Learn how to grant roles.

    Enable the APIs

    8.

Erforderliche Rollen

Bitten Sie Ihren Administrator, Ihnen die folgenden IAM-Rollen für das Projekt zuzuweisen, um die Berechtigungen zu erhalten, die Sie zur Verwendung der Seitenleiste in einem Colab Enterprise-Notebook benötigen:

Weitere Informationen zum Zuweisen von Rollen finden Sie unter Zugriff auf Projekte, Ordner und Organisationen verwalten.

Sie können die erforderlichen Berechtigungen auch über benutzerdefinierte Rollen oder andere vordefinierte Rollen erhalten.

Modell abstimmen

Sie können ein Modell in der Agent Platform abstimmen, indem Sie die Seitenleiste in Colab Enterprise verwenden.

  1. Rufen Sie in der Google Cloud Console die Seite Meine Notebooks von Colab Enterprise auf.

    Zu „Meine Notebooks“

  2. Wählen Sie im Menü Region die Region aus, in der sich Ihr Notebook befindet.

  3. Klicken Sie auf das Notebook, das Sie öffnen möchten. Wenn Sie noch kein Notebook erstellt haben, erstellen Sie eines.

  4. Klicken Sie rechts neben Ihrem Notebook in der Seitenleiste auf die Schaltfläche  Abstimmung.

    Die Seitenleiste maximiert den Tab Abstimmung.

  5. Klicken Sie auf die Schaltfläche Gemini-Modell abstimmen.

    Colab Enterprise fügt Ihrem Notebook Codezellen hinzu, um ein Gemini-Modell abzustimmen.

  6. Suchen Sie in Ihrem Notebook die Codezelle, in der die Parameterwerte gespeichert sind. Mit diesen Parametern interagieren Sie mit der Agent Platform.

  7. Aktualisieren Sie die Werte für die folgenden Parameter:

    • PROJECT_ID: Die ID des Projekts, in dem sich Ihr Notebook befindet.
    • REGION: Die Region, in der sich Ihr Notebook befindet.
    • TUNED_MODEL_DISPLAY_NAME: Der Name Ihres abgestimmten Modells.

  8. Aktualisieren Sie in der nächsten Codezelle die Parameter für die Modellabstimmung:

    • source_model: Das Gemini-Modell, das Sie verwenden möchten, z. B. gemini-2.0-flash-001.
    • train_dataset: Die URL Ihres Trainingsdatensatzes.
    • validation_dataset: Die URL Ihres Validierungsdatensatzes.
    • Passen Sie die übrigen Parameter nach Bedarf an.

  9. Führen Sie die Codezellen aus, die die Seitenleiste Ihrem Notebook hinzugefügt hat.

  10. Nachdem die letzte Codezelle ausgeführt wurde, klicken Sie auf die Schaltfläche  Abstimmungsjob ansehen.

  11. In der Seitenleiste werden Informationen zu Ihrem Modellabstimmungsjob angezeigt.

    • Auf dem Tab Monitor werden Abstimmungsmesswerte angezeigt, sobald sie verfügbar sind.
    • Auf dem Tab Datensatz werden nach der Verarbeitung des Datensatzes eine Zusammenfassung und Messwerte zu Ihrem Datensatz angezeigt.
    • Auf dem Tab Details werden Informationen zu Ihrem Abstimmungsjob angezeigt, z. B. die Abstimmungsmethode und das verwendete Basismodell (Quellmodell).

  12. Nach Abschluss des Abstimmungsjobs können Sie direkt vom Tab Details zur Abstimmung zu einer Seite wechseln, auf der Sie Ihr Modell testen können. Klicken Sie auf Testen.

    Die Google Cloud Console wird auf der Seite Text-Chat der Agent Platform geöffnet, wo Sie Ihr Modell testen können.

Details eines Abstimmungsjobs ansehen

Sie können die Details eines Abstimmungsjobs ansehen, auch wenn Sie den Abstimmungsjob nicht in Colab Enterprise erstellt und ausgeführt haben. Sie können die Details eines Abstimmungsjobs über die Seitenleiste in Colab Enterprise ansehen.

  1. Rufen Sie in der Google Cloud Console die Seite Meine Notebooks von Colab Enterprise auf.

    Zu „Meine Notebooks“

  2. Wählen Sie im Menü Region die Region aus, in der sich Ihr Notebook befindet.

  3. Klicken Sie auf das Notebook, das Sie öffnen möchten. Wenn Sie noch kein Notebook erstellt haben, erstellen Sie eines.

  4. Klicken Sie rechts neben Ihrem Notebook in der Seitenleiste auf die Schaltfläche  Abstimmung.

    Die Seitenleiste maximiert den Tab Abstimmung.

  5. Klicken Sie auf die Schaltfläche Details des Abstimmungsjobs ansehen.

    Colab Enterprise fügt Ihrem Notebook Codezellen hinzu, um die Details eines Abstimmungsjobs abzurufen.

  6. Suchen Sie in Ihrem Notebook die Codezelle, in der die Parameterwerte gespeichert sind. Mit diesen Parametern interagieren Sie mit der Agent Platform.

  7. Aktualisieren Sie die Werte für die folgenden Parameter:

    • PROJECT_ID: Die ID des Projekts, in dem sich Ihr Notebook befindet.
    • REGION: Die Region, in der sich Ihr Notebook befindet.
    • TUNING_JOB_ID: Die ID Ihres Agent Platform-Abstimmungsjobs.

  8. Führen Sie die Codezellen aus, die die Seitenleiste Ihrem Notebook hinzugefügt hat.

  9. Nachdem die letzte Codezelle ausgeführt wurde, klicken Sie auf die Schaltfläche  Abstimmungsjob ansehen.

  10. In der Seitenleiste werden Informationen zu Ihrem Modellabstimmungsjob angezeigt.

    • Auf dem Tab Monitor werden Abstimmungsmesswerte angezeigt, sobald sie verfügbar sind.
    • Auf dem Tab Datensatz werden nach der Verarbeitung des Datensatzes eine Zusammenfassung und Messwerte zu Ihrem Datensatz angezeigt.
    • Auf dem Tab Details werden Informationen zu Ihrem Abstimmungsjob angezeigt, z. B. die Abstimmungsmethode und das verwendete Basismodell (Quellmodell).

Nächste Schritte