# Anwendungskarte: KI-Funktionen für Sicherheit und Qualität in GitHub

Verwenden Sie die KI-basierten Codesicherheits- und Codequalitätsfeatures von GitHub verantwortungsbewusst, indem Sie ihre Zwecke, Funktionen und Einschränkungen verstehen.

## Was ist eine Anwendungskarte?

<!-- Do not modify this text.-->

GitHub’s application and platform cards are intended to help you understand how our AI technology works, the choices application owners can make that influence application performance and behavior, and the importance of considering the whole application, including the technology, the people, and the environment. Application cards are created for AI applications and platform cards are created for AI platform services. These resources can support the development or deployment of your own applications and can be shared with users or stakeholders impacted by them.

As part of its commitment to responsible AI, GitHub adheres to Microsoft's [six core principles](https://www.microsoft.com/en-us/ai/principles-and-approach/?msockid=3da790040c776d6f2b5485e40de56c06#ai-principles): fairness, reliability and safety, privacy and security, inclusiveness, transparency, and accountability. These principles are embedded in the [Responsible AI Standard](https://cdn-dynmedia-1.microsoft.com/is/content/microsoftcorp/microsoft/final/en-us/microsoft-brand/documents/Microsoft-Responsible-AI-Standard-General-Requirements.pdf?culture=en-us\&country=us), which guides teams in designing, building, and testing AI applications. Application and Platform Cards play a key role in operationalizing these principles by offering transparency around capabilities, intended uses, and limitations. For further insight, readers are encouraged to explore Microsoft’s [Responsible AI Transparency Report](https://cdn-dynmedia-1.microsoft.com/is/content/microsoftcorp/microsoft/msc/documents/presentations/CSR/Responsible-AI-Transparency-Report-2025-vertical.pdf) and [GitHub-Bedingungen](/de/site-policy/github-terms).

Für GitHub Enterprise Server gilt diese Anwendungskarte nur für die generische Geheimniserkennung für secret scanning.

## 1. Übersicht

Diese Anwendungskarte deckt die folgenden Erfahrungen ab:

* **Generische geheime Erkennung**: Verwendet ein Modell, um unstrukturierte geheime Schlüssel im Quellcode zu identifizieren, die den deterministischen Musterabgleich nicht finden können.

Die allgemeine Geheimniserkennung von Secret Scanning ist eine KI-gestützte Erweiterung von Secret Scanning, die unstrukturierte Geheimnisse im Quellcode oder in anderen Bereichen von GitHub erkennt und eine Warnung ausgibt. Benutzer von GitHub Secret Protection und GitHub Advanced Security können zwar bereits Secret-Scanning-Warnmeldungen für Partner- oder benutzerdefinierte Muster erhalten, die in ihrem Quellcode gefunden werden, doch unstrukturierte Geheimnisse lassen sich nicht leicht erkennen. Das geheime Scannen verwendet Modelle, um diese geheimen Schlüssel zu identifizieren. Wenn ein Fund erkannt wird, wird in der Liste „Generisch“ der Secret-Scanning-Warnungen eine Warnung angezeigt (auf der Registerkarte **<svg version="1.1" width="16" height="16" viewBox="0 0 16 16" class="octicon octicon-shield" aria-label="shield" role="img"><path d="M7.467.133a1.748 1.748 0 0 1 1.066 0l5.25 1.68A1.75 1.75 0 0 1 15 3.48V7c0 1.566-.32 3.182-1.303 4.682-.983 1.498-2.585 2.813-5.032 3.855a1.697 1.697 0 0 1-1.33 0c-2.447-1.042-4.049-2.357-5.032-3.855C1.32 10.182 1 8.566 1 7V3.48a1.75 1.75 0 0 1 1.217-1.667Zm.61 1.429a.25.25 0 0 0-.153 0l-5.25 1.68a.25.25 0 0 0-.174.238V7c0 1.358.275 2.666 1.057 3.86.784 1.194 2.121 2.34 4.366 3.297a.196.196 0 0 0 .154 0c2.245-.956 3.582-2.104 4.366-3.298C13.225 9.666 13.5 8.36 13.5 7V3.48a.251.251 0 0 0-.174-.237l-5.25-1.68ZM8.75 4.75v3a.75.75 0 0 1-1.5 0v-3a.75.75 0 0 1 1.5 0ZM9 10.5a1 1 0 1 1-2 0 1 1 0 0 1 2 0Z"></path></svg>Sicherheit** des Repositorys, der Organisation oder des Unternehmens), damit Maintainer und Sicherheitsverantwortliche die Warnung überprüfen und gegebenenfalls die Anmeldeinformationen entfernen oder eine Behebung implementieren können. Für die generische Erkennung von Geheimnissen ist kein GitHub Copilot-Abonnement erforderlich.

Die primäre unterstützte Sprache für GitHub Code Security AI-Features ist Englisch.

## 2. Schlüsselbegriffe

Die folgende Liste enthält ein Glossar mit wichtigen Begriffen im Zusammenhang mit GitHub Code Security AI-Features:

* **KI-Erkennung für geheime Scans**: KI-gestützte Funktionen, die geheime Scans erweitern, einschließlich generischer geheimer Erkennung. Erfordert kein GitHub Copilot-Abonnement.
* **Generische geheime Erkennung**: KI-Identifizierung unstrukturierter Geheimschlüssel (z. B. Kennwörter), die nicht von Partner- oder benutzerdefinierten Mustern abgedeckt werden. Generische geheime Erkennung verwendet Modelle, um nach kennwortähnlichen Zeichenfolgen im Quellcode zu suchen.

## 3. Zentrale Merkmale oder Funktionen

Die hier beschriebenen wichtigsten Merkmale und Funktionen erläutern, wofür die KI-Funktionen von GitHub Code Security ausgelegt sind und wie sie bei den unterstützten Aufgaben abschneiden.

* **KI-gestützte Passworterkennung**: Die generische Erkennung von Geheimnissen beim Secret Scanning durchsucht Repository-Inhalte mithilfe von KI, um unstrukturierte Geheimnisse (wie Passwörter) zu identifizieren, die durch deterministischen Musterabgleich nicht gefunden werden können. Erkannte Secrets werden als Warnungen in der Warnungsliste für die Secretüberprüfung auf der Registerkarte **<svg version="1.1" width="16" height="16" viewBox="0 0 16 16" class="octicon octicon-shield" aria-label="shield" role="img"><path d="M7.467.133a1.748 1.748 0 0 1 1.066 0l5.25 1.68A1.75 1.75 0 0 1 15 3.48V7c0 1.566-.32 3.182-1.303 4.682-.983 1.498-2.585 2.813-5.032 3.855a1.697 1.697 0 0 1-1.33 0c-2.447-1.042-4.049-2.357-5.032-3.855C1.32 10.182 1 8.566 1 7V3.48a1.75 1.75 0 0 1 1.217-1.667Zm.61 1.429a.25.25 0 0 0-.153 0l-5.25 1.68a.25.25 0 0 0-.174.238V7c0 1.358.275 2.666 1.057 3.86.784 1.194 2.121 2.34 4.366 3.297a.196.196 0 0 0 .154 0c2.245-.956 3.582-2.104 4.366-3.298C13.225 9.666 13.5 8.36 13.5 7V3.48a.251.251 0 0 0-.174-.237l-5.25-1.68ZM8.75 4.75v3a.75.75 0 0 1-1.5 0v-3a.75.75 0 0 1 1.5 0ZM9 10.5a1 1 0 1 1-2 0 1 1 0 0 1 2 0Z"></path></svg>Sicherheit** angezeigt.

## 4. Beabsichtigte Verwendung

GitHub KI-Features für die Codesicherheit können in einer Vielzahl von Branchen in mehreren Szenarien eingesetzt werden. Beispiele für Anwendungsfälle sind:

* **Erkennen von durchleckten Kennwörtern im Quellcode**: Verwenden Sie die generische geheime Erkennung, um unstrukturierte Geheimschlüssel in Repositorys zu finden, die außerhalb der Abdeckung von Partner- und benutzerdefinierten geheimen Scanmustern liegen.
* **Triagieren von Anmeldeinformationen mit kontextbezogenen Warnungen**: Wenn ein Kennwort erkannt wird, wird eine Warnung mit KI-Erkennungskontext in der Warnungsliste angezeigt, sodass Betreuer und Sicherheitsmanager die Suche überprüfen und Maßnahmen ergreifen können.

## 5. Modelle und Trainingsdaten

Die allgemeine Geheimniserkennung verwendet Modelle, um nach unstrukturierten Geheimnissen zu durchsuchen.

## 6. Leistung

**KI-Geheimniserkennung** verarbeitet Eingaben und erzeugt Ausgaben wie folgt:

1. **Eingabeverarbeitung**: Die Eingabe ist auf Text (in der Regel Code) beschränkt, den ein Benutzer in ein Repository eingecheckt hat. Das System stellt diesen Text dem Modell zusammen mit einer Metaaufforderung bereit, die das Modell auffordert, unstrukturierte Geheimnisse im Rahmen der Eingabe zu finden. Der Benutzer interagiert nicht direkt mit dem Modell. Mehrere Modelle können zur Validierung eines einzelnen Ergebnisses verwendet werden.
2. **Modellanalyse**: Das Modell sucht nach Zeichenfolgen, die unstrukturierten geheimen Schlüsseln wie Kennwörtern ähneln.
3. **Antwortgenerierung**: Das Modell überprüft, ob die identifizierten Zeichenfolgen, die in der Antwort enthalten sind, tatsächlich in der Eingabe vorhanden sind.
4. **Ausgabeformatierung**: Erkannte Zeichenfolgen werden als Warnungen auf der Seite mit geheimen Überprüfungswarnungen in einer separaten Liste von regulären Geheimüberprüfungswarnungen angezeigt. Jede Warnung stellt fest, dass sie von KI erkannt wurde. Informationen zum Anzeigen von Warnmeldungen für allgemeine Geheimnisse finden Sie unter [Anzeigen und Filtern von Warnungen aus der Secrets-Überprüfung](/de/enterprise-server@3.23/code-security/how-tos/manage-security-alerts/manage-secret-scanning-alerts/viewing-alerts).

## 7. Einschränkungen

Das Verständnis der Einschränkungen der GitHub-KI-Features für die Codesicherheit ist entscheidend, um festzustellen, ob sie innerhalb sicherer und wirksamer Grenzen verwendet werden. Während wir Kunden ermutigen, GitHub Code Security AI-Features in ihren innovativen Lösungen oder Anwendungen zu nutzen, ist es wichtig zu beachten, dass GitHub Code Security AI-Features nicht für jedes mögliche Szenario entwickelt wurden. Wir empfehlen Benutzern, auf [GitHub-Bedingungen](/de/site-policy/github-terms) sowie die folgenden Überlegungen bei der Auswahl eines Anwendungsfalls zu verweisen:

### Einschränkungen speziell für die KI-Geheimniserkennung

* **Unvollständige Berichterstattung**: Die KI-gestützte Erkennung von Geheimnissen kann Vorkommen von Anmeldeinformationen übersehen, die in ein Repository eingecheckt wurden. Die KI-Erkennung für Geheimnisse wird sich im Laufe der Zeit verbessern. Sie sind für Sicherheit Ihres Codes verantwortlich.
* **Testcode**: Die KI-gestützte Geheimniserkennung erkennt möglicherweise keine Geheimnisse im Testcode. Geheime Überprüfung überspringt Erkennungen, wenn bestimmte Bedingungen erfüllt sind, z. B.:
  * Der Dateipfad enthält "test", "mock" oder "spec"
  * Die Dateierweiterung lautet `.cs`, `.go`, `.java`, `.js`, `.kt`, `.php`, `.py`, `.rb`, `.scala`, `.swift` oder `.ts`.

## 8. Bewertungen

<!-- Do not modify this text.-->

Leistungs- und Sicherheitsbewertungen bewerten, ob KI-Anwendungen zuverlässig und sicher funktionieren, indem Faktoren wie Grundhaftigkeit, Relevanz und Kohärenz untersucht und gleichzeitig die Risiken der Generierung schädlicher Inhalte identifiziert werden. Die folgenden Bewertungen wurden durchgeführt, wobei Sicherheitskomponenten bereits vorhanden waren, die auch in [9. Sicherheitskomponenten und Minderungsmaßnahmen](#9-safety-components-and-mitigations) beschrieben werden.

### Risiko- und Sicherheitsbewertungen

<!-- Do not modify this text.-->

Die Bewertung potenzieller Risiken im Zusammenhang mit KI-generierten Inhalten ist für den Schutz vor Inhaltsrisiken mit unterschiedlichem Schweregrad unerlässlich. Dies umfasst die Bewertung der Veranlagung einer KI-Anwendung, schädliche Inhalte zu generieren oder Sicherheitsrisiken für Jailbreak-Angriffe zu testen. Für GitHub führen wir Leistungsbewertungen durch, einschließlich derjenigen, die für Codierungszwecke von [Microsoft Foundry](https://learn.microsoft.com/en-us/azure/ai-foundry/concepts/evaluation-evaluators/risk-safety-evaluators) angepasst sind:

* Hass und Unfairness
* Sexuelle
* Gewalt
* Selbstverletzung
* Geschütztes Material
* Jailbreak (Entsperrung von Geräten)
* Sicherheitsanfälligkeit in Code

### Auswertungsdaten für Qualität und Sicherheit

<!-- Do not modify this text.-->

Unsere Auswertungsdaten wurden speziell entwickelt, um die Leistung von KI-Anwendungen in wichtigen Bereichen der **Sicherheit** und **Qualität** zu bewerten und reale Szenarien und Risiken zu simulieren. Zunächst identifizieren wir relevante Bewertungsaspekte von Beunruhigungen basierend auf multidisziplinären Forschungs- und Experteneingaben. Diese Bedenken werden in gezielte Bewertungsziele übersetzt und leiten die Formulierung von Bewertungsmetriken. Für **Sicherheit** erstellen wir adversariale Prompts, um unerwünschte oder Grenzfallantworten hervorzurufen, die anschließend von KI-gestützten Annotatoren bewertet werden, die darauf trainiert sind, die Übereinstimmung mit GitHubs Standards zu beurteilen. Aus **Qualitätsgründen** erstellen wir rubrikenbasierte Aufforderungen, die für Szenarien relevant sind, einschließlich der Auswertung von Rag-Anwendungen (Retrieval-Augmented Generation) und Agents. Datasets werden aus verschiedenen Quellen zusammengestellt, einschließlich synthetischer und öffentlicher Datasets, um reale Benutzerszenarien zu simulieren. Mit den kuratierten Datasets durchlaufen beide Auswertungen iterative Verfeinerung und menschliche Ausrichtung zur Verbesserung der metrischen Wirksamkeit und Zuverlässigkeit. Diese Methodik bildet die Grundlage für wiederholbare, strenge Bewertungen, die widerspiegeln, wie Kunden Auswertungen verwenden, um eine bessere KI zu schaffen.

### Benutzerdefinierte Auswertungen

Die KI-gestützte Geheimniserkennung wurde einem Responsible AI Red Teaming unterzogen, und GitHub überwacht weiterhin fortlaufend die Wirksamkeit und Sicherheit der Funktion.

## 9. Sicherheitskomponenten und Entschärfungen

* **False positive Feedbackschleife**: Wenn Benutzer eine generische geheime Erkennungswarnung schließen und den Grund als "Falsch positiv" kennzeichnen, verwendet GitHub das falsch positive Volumen, um das Modell zu verbessern. GitHub haben keinen Zugriff auf die geheimen Literale selbst.

## 10. Bewährte Methoden für die Bereitstellung und Einführung der GitHub-KI-Features für die Codesicherheit

Verantwortungsvolle KI ist ein gemeinsames Engagement zwischen GitHub und seinen Kunden. Während GitHub KI-Anwendungen mit Sicherheit, Fairness und Transparenz im Kern erstellt, spielen Kunden eine wichtige Rolle bei der Bereitstellung und Verwendung dieser Technologien in ihren eigenen Kontexten. Um diese Partnerschaft zu unterstützen, bieten wir die folgenden bewährten Methoden für Bereitstellungen und Endbenutzer an, um Kunden bei der effektiven Implementierung verantwortungsvoller KI zu unterstützen.

* **Seien Sie vorsichtig und bewerten Sie die Ergebnisse, wenn Sie GitHub Security KI-Funktionen für folgenschwere Entscheidungen oder in sensiblen Bereichen verwenden**: <!-- Do not modify this text.-->
  Folgeentscheidungen sind solche, die einen rechtlichen oder erheblichen Einfluss auf den Zugang einer Person auf Bildung, Beschäftigung, Finanzplattformen, staatliche Leistungen, Gesundheitsversorgung, Wohnung, Versicherung, Rechtliche Plattformen haben oder die zu physischem, psychologischem oder finanziellem Schaden führen könnten. Sensible Domänen wie Finanzplattformen, Gesundheitswesen und Wohnungen erfordern besondere Sorgfalt aufgrund des Potenziellen für unverhältnismäßige Auswirkungen auf verschiedene Personengruppen. Wenn Sie KI für Entscheidungen in diesen Bereichen verwenden, stellen Sie sicher, dass betroffene Beteiligte verstehen, wie Entscheidungen getroffen werden, Beschwerdeentscheidungen treffen und alle relevanten Eingabedaten aktualisieren können.

* **Bewertung rechtlicher und behördlicher Überlegungen**: <!-- Do not modify this text.-->
  Kunden müssen potenzielle rechtliche und behördliche Verpflichtungen bewerten, wenn Sie KI-Plattformen und -Lösungen verwenden, die möglicherweise nicht für die Verwendung in jeder Branche oder in jedem Szenario geeignet sind. Darüber hinaus sind KI-Plattformen oder -Lösungen nicht für sie ausgelegt und dürfen nicht auf eine Weise verwendet werden, die in anwendbaren Nutzungsbedingungen und relevanten Verhaltensregeln verboten ist.

* **Schließen Sie Fehlalarme angemessen**: Da die KI-Geheimniserkennung möglicherweise mehr Fehlalarme als die Partnermustererkennung erzeugt, überprüfen Sie jeden Alarm auf seine Genauigkeit. Wenn Sie überprüfen, ob eine Benachrichtigung falsch positiv ist, schließen Sie die Warnung, und markieren Sie den Grund in der GitHub UI als "Falsch positiv". Dieses Feedback hilft dabei, das Modell zu verbessern.

* **Üben Sie bei Bedarf eine menschliche Aufsicht** aus: Die menschliche Aufsicht ist ein wichtiger Schutz bei der Interaktion mit KI-Anwendungen. Während wir unsere KI-Anwendungen kontinuierlich verbessern, kann KI immer noch Fehler machen. Die generierten Ausgaben können ungenau, unvollständig, voreingenommen, falsch ausgerichtet oder irrelevant für Ihre beabsichtigten Ziele sein. Dies kann verschiedene Gründe haben, z. B. Mehrdeutigkeit in den Eingaben oder Einschränkungen der zugrunde liegenden Modelle. Daher sollten Benutzer die von den KI-Funktionen von GitHub Code Security generierten Antworten überprüfen und verifizieren, dass sie ihren Erwartungen und Anforderungen entsprechen.

* **Achten Sie auf das Risiko einer Überlastung**: <!-- Do not modify this text.-->
  Überlastung bei KI geschieht, wenn Benutzer falsche oder unvollständige KI-Ausgaben akzeptieren, hauptsächlich weil Fehler in KI-Ausgaben möglicherweise schwer zu erkennen sind. Für den Endbenutzer kann eine Überzuverlässigkeit unter anderem zu verminderter Produktivität, Vertrauensverlust, Anwendungsabbruch, finanziellem Verlust, psychischen Schäden, körperlichen Schäden führen. (z. B. ein Arzt akzeptiert eine falsche KI-Ausgabe).

* **Seien Sie vorsichtig beim Entwerfen agentischer KI in sensiblen Domänen**: <!-- Do not modify this text.-->
  Benutzer sollten beim Entwerfen und/oder Bereitstellen agentischer KI-Anwendungen in sensiblen Domänen Vorsicht walten lassen, bei denen Agentaktionen unumkehrbar oder stark folgefähig sind. Zusätzliche Vorsichtsmaßnahmen sollten auch bei der Erstellung autonomer agentischer KI getroffen werden, wie weiter im [GitHub-Bedingungen](/de/site-policy/github-terms) beschrieben.

* **Falsch positives Volumen für die geheime Erkennung auswerten**: Bewerten Sie das falsch positive Volumen, und richten Sie Triageprozesse für die Warnungsliste ein.

## 11. Erfahren Sie mehr über GitHub Sicherheits-KI-Features

Für weitere Hinweise zur verantwortungsvollen Nutzung der GitHub-Sicherheits-KI-Funktionen empfehlen wir Ihnen, die folgende Dokumentation zu lesen:

* [GitHub-Nutzungsbedingungen für zusätzliche Produkte und Funktionen](/de/site-policy/github-terms/github-terms-for-additional-products-and-features#advanced-security)
* [Geheimnisüberprüfung](/de/enterprise-server@3.23/code-security/concepts/secret-security/secret-scanning)
* [Aktivieren des Scannens nach von KI erkannten Secrets](/de/enterprise-server@3.23/code-security/how-tos/secure-your-secrets/detect-secret-leaks/enabling-secret-scanning-for-ai-detected-secrets)
* [Verwalten von Warnungen zur Geheimnisüberprüfung](/de/enterprise-server@3.23/code-security/how-tos/manage-security-alerts/manage-secret-scanning-alerts)
* [Implementierung von Richtlinien zur Codesicherheit und -analyse für Ihr Unternehmen](/de/enterprise-server@3.23/admin/enforcing-policies/enforcing-policies-for-your-enterprise/enforcing-policies-for-code-security-and-analysis-for-your-enterprise#enforcing-a-policy-to-manage-the-use-of-ai-detection-for-secret-scanning-in-your-enterprises-repositories)

### Erfahren Sie mehr über verantwortungsvolle KI

* [Microsoft KI-Prinzipien](https://www.microsoft.com/en-us/ai/responsible-ai)
* [Microsoft verantwortungsvolle KI-Ressourcen](https://www.microsoft.com/en-us/ai/responsible-ai-resources)
* [Microsoft Azure Lernkurse zu verantwortungsvoller KI](https://docs.microsoft.com/en-us/learn/paths/responsible-ai-business-principles/)