Skip to main content

Messen des Erfolgs einer GitHub Copilot-Testversion

Messen Sie den Erfolg einer Copilot Testversion, indem Sie Einführungs-, Engagement- und frühe Nutzungsmuster mithilfe von Copilot Nutzungsmetriken analysieren.

Wer kann dieses Feature verwenden?

Unternehmensbesitzer, Organisationsadministratoren, Abrechnungsmanager und Personen mit einer benutzerdefinierten Enterprise-Rolle mit der Berechtigung "Unternehmensmetriken Copilot anzeigen".

Wenn Sie einen Copilot Test durchführen, ist der Schlüssel zum Erfolg, zu verstehen, wie Teams Copilot einführen und verwenden. Durch die Kombination von Erkenntnissen aus dem Copilot Dashboard für Nutzungsmetriken und der API können Sie frühe Ergebnisse bewerten, Aktivierungsanforderungen identifizieren und entscheiden, ob das Rollout erweitert werden soll.

In diesem Tutorial lernen Sie:

  1. Definieren Sie klare Testziele und Erfolgskriterien.
  2. Anzeigen und Interpretieren von Einführungs- und Einsatzdaten im Dashboard.
  3. Bewerten Sie Ihre Testergebnisse.
  4. Integrieren Sie qualitatives Feedback von Entwicklern.
  5. Erweitern Sie Ihre Auswertung über die Copilot Verwendungsmetriken-API.
  6. Entscheiden Sie, ob das Rollout erweitert werden soll.

Schritt 1: Definieren Ihrer Testziele

Bevor Sie Metriken analysieren, entscheiden Sie, welche Ergebnisse eine erfolgreiche Testversion für Ihre Organisation definieren. Das Festlegen klarer Ziele erleichtert die Interpretation von Ergebnissen und die Kommunikation von Werten an die Projektbeteiligten.

BeispielzielWie der Erfolg aussiehtVerknüpfte Metriken
EinführungDie meisten lizenzierten Entwickler aktivieren und nutzen Copilot regelmäßig.Gesamtzahl der aktiven Benutzer, tägliche aktive Benutzer (DAU), wöchentlich aktive Benutzer (WAU)
BindungEntwickler erkunden mehrere Features und Modi.Anforderungen pro Chatfunktion, Agentakzeptanz
Produktivität und ZufriedenheitEntwickler melden Effizienzgewinne und Vertrauen in Vorschläge.Akzeptanzrate, internes Feedback, Zufriedenheitsumfragen
AktivierungseffektivitätTeams verstehen, wie und wann sie Copilot verwenden.Breite der Verwendung über Sprachen und IDEs hinweg

Schritt 2: Anzeigen von Einführungs- und Engagementmetriken im Dashboard

  1. Navigieren Sie zu Ihrem Unternehmen. Beispielsweise auf der Seite Unternehmen in GitHub.com.
  2. Klicke auf die Registerkarte Erkenntnisse.

Das Dashboard zeigt 28 Tage aggregierte IDE-Telemetriedaten für alle lizenzierten Benutzer an. Konzentrieren Sie sich während der Testversion auf diese wichtigen Metriken :

MetricWas es zeigtWarum das wichtig ist
Gesamtzahl der aktiven BenutzerDie Anzahl der Entwickler, die mindestens einmal während des Testzeitraums verwendet haben Copilot .Gibt die Lizenzaktivierung und die Gesamtreichweite an.
Tägliche aktive Benutzer (DAU)Die Anzahl der eindeutigen Benutzer, die jeden Tag aktiv sind.Zeigt frühzeitige Einführungstrends an – ob Interesse wächst, stabil oder rückläufig.
AgenteneinführungProzentsatz der aktiven Benutzer, die Copilot-Agent verwendet haben.Zeigt Tiefe des Engagements und der Erkundung über grundlegende Fertigstellungen hinaus.
AkzeptanzrateAnteil der akzeptierten Copilot Vorschläge.Spiegelt Relevanz und Vertrauen wider – Schlüsselindikatoren für Wert und Benutzerzufriedenheit.
Sprach- und ModellverwendungVerteilung der verwendeten Programmiersprachen und -modelle.Hilft dabei, zu ermitteln, wo Copilot teamübergreifend den größten Mehrwert bietet.

Hinweis

Die Nutzungsmetriken Copilot spiegeln nur die Aktivität in unterstützten IDEs wider. Die Verwendung in Copilot-Chat für GitHub.com, GitHub Mobile, Copilot Codeüberprüfung oder Copilot CLI ist nicht in Dashboarddaten enthalten.

Schritt 3: Bewerten der Testergebnisse

Vergleichen Sie Ihre Dashboarddaten mit Ihren Testzielen. Zu den allgemeinen Erfolgsindikatoren gehören:

ZielWas zu messen istAnzeichen für Erfolg
LizenzaktivierungGesamtzahl der aktiven Benutzer70 bis 90% von Testlizenzen zeigen die Nutzung innerhalb des ersten Monats an.
Nachhaltiges EngagementTägliche und wöchentlich aktive BenutzerDAU und WAU stabilisieren oder erhöhen sich im Laufe der Zeit.
Breite der NutzungAnforderungen pro Chatfunktion, SprachverwendungBenutzer experimentieren in mehreren Sprachen und Features.
Tiefe der NutzungAgenteneinführung, AkzeptanzrateEntwickler untersuchen erweiterte Copilot Funktionen.
Positive RückmeldungenTeamumfragen oder internes FeedbackEntwickler melden Produktivitätsgewinne oder Workflowverbesserungen.

Wenn mindestens ein Ziel nicht erfüllt ist, überlegen Sie, ob vor dem Erweitern des Rollouts möglicherweise zusätzliche Aktivierungs-, Kommunikations- oder IDE-Konfiguration erforderlich ist.

Schritt 4: Integrieren qualitativer Feedback

Während Die Akzeptanz und das Engagement quantitativ sind, helfen Ihnen Zufriedenheitsmetriken, wahrgenommenen Wert und Entwicklerstimmungen zu verstehen. Berücksichtigen Sie die Einbeziehung der folgenden Feedbackquellen von außen GitHubin Ihre Analyse.

QuelleDescription
Copilot ZufriedenheitsumfragenRegelmäßiges Feedback von Entwicklern zu Nützlichkeit, Vertrauen und Produktivität.
Interne FeedbackkanäleTeam-Retrospektive oder Impulsumfragen zu Workflowänderungen und wahrgenommenen Geschwindigkeitsgewinnen.
Trends im SupportWeniger "Wie mache ich..." Fragen im Laufe der Zeit deuten oft auf erhöhtes Vertrauen und Zufriedenheit hin.

Durch die Kombination von Nutzungsmetriken mit Entwicklerfeedback erhalten Sie die umfassendste Ansicht der CopilotAuswirkungen.

Schritt 5: Erweitern Sie Ihre Auswertung über die API für Nutzungsmetriken Copilot

Nach Der Testversion können Sie die Akzeptanz und das Engagement weiterhin über die Copilot Api für Nutzungsmetriken überwachen. Die API bietet Ihnen mehr Kontrolle darüber, welche Daten Sie sammeln und wie oft Sie sie analysieren.

Abrufen unternehmensweiter Daten

Sie können die Copilot Endpunkte der Nutzungsmetrik verwenden, um 28-Tage-Nutzungsberichte für Ihr Unternehmen herunterzuladen. Diese Berichte enthalten denselben Datensatz, der im Copilot Dashboard für Nutzungsmetriken angezeigt wird. Die API stellt zwei Endpunkte bereit.

EndpunktDescription
GET /enterprises/{enterprise}/copilot/metrics/reports/enterprise-28-day/latestGibt einen signierten Downloadlink für den neuesten 28-Tage-Nutzungsbericht auf Unternehmensebene zurück.
GET /enterprises/{enterprise}/copilot/metrics/reports/users-28-day/latestGibt einen signierten Downloadlink für den neuesten 28-tägigen Nutzungsbericht auf Benutzerebene zurück.

Jede Endpunktantwort enthält zeitlich begrenzte signierte URLs zum Herunterladen der Berichte aus Azure Blob Storage sowie den Berichtszeitraum, der von der Datei abgedeckt wird.

Beispielantwort:

{
  "download_links": [
    "https://example.com/copilot-usage-report.ndjson"
  ],
  "report_start_day": "2025-07-18",
  "report_end_day": "2025-08-14"
}

Vollständige Felddefinitionen finden Sie unter GitHub Copilot-Nutzungsmetriken.

Automatisieren Der Berichterstellung

Um Ihre Berichterstellung zu automatisieren, können Sie einen geplanten Auftrag einrichten, um die API in regelmäßigen Abständen (z. B. täglich oder wöchentlich) aufzurufen und die Ergebnisse in einer Datenbank oder data warehouse zur weiteren Analyse zu speichern. Auf diese Weise können Sie Trends im Laufe der Zeit nachverfolgen und benutzerdefinierte Berichte nach Bedarf generieren.

Schritt 6: Entscheiden, ob das Rollout erweitert werden soll

Verwenden Sie Ihre Ergebnisse aus dem Dashboard und api-Daten, um eine fundierte Entscheidung über die Erweiterung Copilot der Nutzung zu treffen.

EntscheidungsbereichWichtige FragenUnterstützende Metriken
EinführungSind die meisten Testbenutzer aktiv? Haben sie Copilot weiterhin konsequent verwendet?Gesamtzahl der aktiven Benutzer, Tägliche Aktive Nutzer (DAU), Wöchentliche Aktive Nutzer (WAU)
AktivierungsanforderungenBenötigen Teams weitere Anleitungen oder Ressourcen?Niedrige oder inkonsistente Verwendung über Sprachen oder Modelle hinweg
BindungUntersuchen Entwickler Funktionen und Möglichkeiten über grundlegende Vervollständigungen hinaus?Agentakzeptanz, Chatanfragen pro Feature
BefriedigungFinden Teams Copilot wertvolle Informationen?Akzeptanzrate, Feedback aus Umfragen

Dokumentieren Sie Ihre Ergebnisse, und teilen Sie sie mit den Projektbeteiligten zusammen, um die nächste Phase Ihres Rollouts zu informieren.

Nächste Schritte

Nachdem Sie nun wissen, wie Sie den Erfolg Ihrer Copilot Testversion messen können, können Sie die Akzeptanz und das Engagement weiterhin überwachen, während Sie die Nutzung erweitern. Weitere Informationen zur Förderung der Akzeptanz und zur Aktivierung von Entwicklern finden Sie unter Fördern der GitHub Copilot-Einführung in Ihrem Unternehmen.