Si desea desarrollar una aplicación de IA generativa, puede utilizar GitHub Models para buscar y experimentar gratis con modelos de inteligencia artificial. Una vez que desee llevar la aplicación a producción, puede cambiar a un token de una cuenta de Azure de pago. Consulte la documentación de Azure AI.
Consulte también "Utilización responsable de los modelos de GitHub".
Búsqueda de modelos de IA
Para buscar modelos de IA, vaya a GitHub Marketplacey, a continuación, haga clic en Modelos en la barra lateral.
Para ver detalles sobre un modelo específico, haga clic en el nombre.
Note
El acceso a los modelos de o1 de OpenAI está actualmente en versión preliminar pública y está sujetos a cambios. Para solicitar acceso, únase a la lista de espera.
Experimentos con modelos de IA en el área de juegos
Note
El área de juegos está en versión preliminar pública y está sujeto a cambios. Para solicitar acceso, únase a la lista de espera.
GitHub Marketplace proporciona un área de juegos gratis donde puede ajustar los parámetros del modelo y enviar avisos para ver cómo responde.
Para abrir el área de juegos, vaya a GitHub Marketplacey, a continuación, haga clic en Modelos en la barra lateral. Haga clic en el nombre de un modelo y, a continuación, seleccione Área de juegos.
Para ajustar los parámetros del modelo, seleccione la pestaña Parámetros de la barra lateral. Para ver el código que corresponde a los parámetros que haya seleccionado, cambie de la pestaña Chat a la pestaña Código.
El volumen del área de juegos es limitado. Consulte la limitación de volumen a continuación.
Experimentos con modelos de IA mediante la API
Note
El uso de API gratuito está en versión preliminar pública y está sujeto a cambios. Para solicitar acceso, únase a la lista de espera.
GitHub proporciona una utilización gratis de la API para que pueda experimentar con modelos de IA en su propia aplicación.
Para aprender a utilizar un modelo en su aplicación, vaya a GitHub Marketplacey, a continuación, haga clic en Modelos en la barra lateral. Haga clic en el nombre de un modelo y, a continuación, seleccione Código.
Los pasos para utilizar cada modelo son similares. En general, son los siguientes:
-
De manera opcional, puede utilizar una lista desplegable para seleccionar el lenguaje de programación.
-
De forma igualmente opcional, utilice la lista desplegable SDK para seleccionar qué SDK se va a usar.
Todos los modelos se pueden usar con el SDK de inferencia de Azure AI y algunos modelos admiten SDK adicionales. Si desea cambiar fácilmente entre modelos, debe seleccionar "SDK de inferencia de Azure AI". Si seleccionó "REST" como lenguaje, no utilizará un SDK. En su lugar, usará el punto de conexión de API directamente.
-
Abra un codespace o configure el entorno local:
- Para ejecutarse en un codespace, haga clic en Ejecutar codespace y, a continuación, haga clic en Crear nuevo codespace.
- Ejecución en modo local:
- Cree un GitHub personal access token. El token no debe tener ningún ámbito ni permiso. Consulte "Administración de tokens de acceso personal".
- Guarde el token como una variable de entorno.
- Instale las dependencias del SDK, si es necesario.
-
Utilice el código de ejemplo para realizar una solicitud al modelo.
La utilización gratis de la API tiene limitación de volumen. Consulte la limitación de volumen a continuación.
Experimentación con modelos de IA mediante GitHub CLI
Note
La extensión de la CLI de GitHub Models se encuentra en versión preliminar pública y está sujeta a cambios.
Puede usar GitHub Models con la GitHub CLI para experimentar con modelos de IA desde la línea de comandos.
Requisitos previos
Para usar la extensión de la CLI de GitHub Models, debe tener instalada la GitHub CLI. A fin de obtener instrucciones de instalación para GitHub CLI, vea el repositorio de GitHub CLI.
Instalar la extensión
-
Si todavía no se ha autenticado en la GitHub CLI, ejecute el siguiente comando en su terminal.
Shell gh auth login
gh auth login -
Para instalar la extensión GitHub Models, ejecute el siguiente comando.
Shell gh extension install https://github.com/github/gh-models
gh extension install https://github.com/github/gh-models
Uso de la extensión
Para ver una lista de todos los comandos disponibles, ejecute gh models help. Para ejecutar la extensión en modo interactivo, ejecute gh models run. Esto le pedirá que seleccione un modelo y, a continuación, escriba una consulta. A continuación, la extensión devolverá una respuesta del modelo.
Para obtener más información acerca de lo que puede hacer con la GitHub CLI, vea el GitHub CLI manual.
Ir a la producción
Los límites de volumen para el área de juegos y la utilización gratis de la API están diseñados para ayudarle a experimentar con modelos y desarrollar la aplicación de IA. Una vez que desee llevar la aplicación a producción, puede utilizar un token de una cuenta de Azure de pago en lugar de GitHub personal access token. No es necesario cambiar nada en el código. Para obtener más información, consulte la documentación de Azure AI.
Límites de frecuencia
La utilización del área de juegos y el uso gratis de la API llevan una limitación de volumen que se aplica por solicitudes y minuto, solicitudes y día, tokens por solicitud y solicitudes simultáneas. Si obtiene una limitación de volumen, tendrá que esperar a alcanzar dicha limitación de volumen para restablecer el área de juegos o la API antes de poder realizar más solicitudes.
Los modelos de inserción, y los modelos altos o bajos tienen diferentes límites de volumen. Para averiguar qué tipo de modelo está utilizando, consulte la información del modelo en GitHub Marketplace.
| Niveles de la limitación de volumen | Límites de frecuencia | Gratis y Copilot Individual | Copilot Business | Copilot Enterprise |
|---|---|---|---|---|
| Baja | Solicitudes por minuto | 15 | 15 | 20 |
| Solicitudes por día | 150 | 300 | 450 | |
| Tokens por solicitud | 8000 entrada, 4000 salida | 8000 entrada, 4000 salida | 8000 entrada, 8000 salida | |
| Solicitudes simultáneas | 5 | 5 | 8 | |
| Alta | Solicitudes por minuto | 10 | 10 | 15 |
| Solicitudes por día | 50 | 100 | 150 | |
| Tokens por solicitud | 8000 entrada, 4000 salida | 8000 entrada, 4000 salida | 16 000 entrada, 8000 salida | |
| Solicitudes simultáneas | 2 | 2 | 4 | |
| Embedding | Solicitudes por minuto | 15 | 15 | 20 |
| Solicitudes por día | 150 | 300 | 450 | |
| Tokens por solicitud | 64000 | 64000 | 64000 | |
| Solicitudes simultáneas | 5 | 5 | 8 | |
| Versión preliminar o1 de Azure OpenAI | Solicitudes por minuto | 1 | 2 | 2 |
| Solicitudes por día | 8 | 10 | 12 | |
| Tokens por solicitud | 4000 entrada, 4000 salida | 4000 entrada, 4000 salida | 4000 entrada, 8000 salida | |
| Solicitudes simultáneas | 1 | 1 | 1 | |
| Mini o1 de Azure OpenAI | Solicitudes por minuto | 2 | 3 | 3 |
| Solicitudes por día | 12 | 15 | 20 | |
| Tokens por solicitud | 4000 entrada, 4000 salida | 4000 entrada, 4000 salida | 4000 entrada, 4000 salida | |
| Solicitudes simultáneas | 1 | 1 | 1 |
Estos límites están sujetos a cambios sin previo aviso.
Escribir comentarios
Para escribir comentarios sobre GitHub Models, inicie una nueva discusión o comentario sobre una discusión existente en la comunidad de GitHub.