Примечание.
GitHub Models for organizations and repositories is in public preview and subject to change.
Обзор
GitHub Models — это рабочая область, снижающая барьер для внедрения ИИ корпоративного уровня. Это помогает перейти за рамки изолированного эксперимента путем внедрения разработки ИИ непосредственно в знакомые рабочие процессы GitHub. GitHub Models предоставляет средства для тестирования больших языковых моделей (LLM), уточнения запросов, оценки выходных данных и принятия обоснованных решений на основе структурированных метрик. Сведения о начале работы см. в разделе Optimizing your AI-powered app with Models.
Возможности
GitHub Models предлагает набор функций для поддержки итерации, оценки и интеграции для разработки ИИ.
- **** Разработка запросов. Запуск разработки ИИ непосредственно в структурированном редакторе, который поддерживает системные инструкции, тестовые входные данные и конфигурацию переменных.
- Сравнение моделей. Тестирование нескольких моделей параллельно с одинаковыми запросами и входными данными для экспериментов с различными выходными данными.
- Вычислители: используйте метрики оценки, такие как сходство, релевантность и основания для анализа выходных данных и отслеживания производительности.
- Конфигурации запроса: сохранение параметров запроса, модели и параметров в качестве
.prompt.ymlфайлов в репозитории. Это обеспечивает проверку, совместную работу и воспроизводимость. - Рабочая интеграция: используйте сохраненную конфигурацию для создания функций ИИ или подключения с помощью пакетов SDK и GitHub Models REST API.
Включение моделей GitHub
Существует несколько способов начать использовать GitHub Models, в зависимости от вашей роли и потребностей.
Сведения об использовании API GitHub Models см. в статье "Экспериментирование с моделями ИИ с помощью API".
Для индивидуальных пользователей
Чтобы использовать GitHub Models, создайте новый репозиторий GitHub или откройте существующий. В параметрах репозитория щелкните "Модели" на боковой панели и включите эту функцию.
Для организаций и предприятий
Чтобы использовать GitHub Models в организации, владелец предприятия должен сначала включить эту функцию. Затем владельцы организации могут настроить, какие модели разрешены.
Запросы
Управление конфигурациями запроса, хранящимися в репозитории. Каждый запрос сохраняется в виде .prompt.yml файла, который определяет модель, параметры и тестовые входные данные. Здесь можно создавать, изменять и упорядочивать запросы на поддержку экспериментирования или использования в рабочей среде.
Сравнения
Используйте представление "Сравнения", чтобы оценить выходные данные нескольких конфигураций запросов в согласованном тестовом рабочем процессе. Выполняйте тесты по строкам входных данных и оценки оценщика для каждой конфигурации, например сходство, релевантность и заземленность. Это представление идеально подходит для уточнения запросов, проверки изменений и предотвращения регрессии.
Тестовая площадка
Используйте детскую площадку для быстрого изучения моделей и тестирования идей запроса в режиме реального времени. Детская площадка идеально подходит для ранних экспериментов, помогая понять поведение модели, возможности и стиль ответа. Вы можете интерактивно выбирать модели, настраивать параметры и сравнивать ответы параллельно.
Выставление счетов
Дополнительные сведения о выставлении счетов для GitHub Modelsсм. в разделе Сведения о выставлении счетов для моделей GitHub.
Присоединиться к сообществу
Чтобы задать вопросы и поделиться отзывами, ознакомьтесь с этой записью обсуждения моделей GitHub.
Чтобы узнать, как другие используют GitHub Models, посетите обсуждения сообщества GitHub для моделей.