GitHub Copilot представил обновлённую модель для встроенных подсказок, которая объединяет три ранее отдельные функции: автодополнение в стиле "ghost text", предложения следующих правок рядом с курсором и правки в более удалённых частях кода. Теперь одна унифицированная модель отвечает за все эти типы предложений, что значительно упрощает архитектуру и повышает эффективность. Это изменение доступно для платных пользователей GitHub Copilot в VS Code.
Что изменилось
Ранее GitHub Copilot использовал отдельные модели для различных типов встроенных подсказок. Новая "3-в-1" модель была разработана для консолидации этих функций. Цель состояла в том, чтобы одна модель могла оценивать полный спектр поведения при редактировании кода и выбирать наилучший ответ в любой момент, или даже объединять несколько действий в одном ответе.
Тестирование новой модели по сравнению с предыдущей "2-в-1" моделью и отдельной моделью автодополнения не выявило статистически значимых изменений в показателях принятия, отклонения или вовлечённости пользователей. Однако было отмечено незначительное снижение количества сохранённых символов, которые не были отменены пользователем после принятия предложения. Тем не менее, унифицированная модель показала снижение количества отклонений на 10,1% при онлайн-экспериментах.
Почему это важно
Это значительный шаг в развитии инструментов для вайб-кодинга и ИИ-помощников. Объединение функциональности в одну модель не только снижает сложность вызовов и обслуживания, но и позволяет ИИ принимать более целостные и контекстно-зависимые решения о том, какая правка будет наиболее полезной в данный момент. Это уходит от "искусственных границ", налагаемых архитектурой с несколькими моделями, и позволяет ИИ оптимизировать общий опыт редактирования. Снижение количества отклонений указывает на то, что унифицированный подход может создавать более релевантные и менее навязчивые предложения, улучшая взаимодействие разработчика с инструментом.
Что это значит на практике
- Более умные подсказки: Разработчики могут ожидать более согласованных и контекстно-зависимых предложений от Copilot, поскольку модель теперь видит полную картину возможных правок.
- Улучшенный пользовательский опыт: Снижение количества отклонений означает, что Copilot будет предлагать более релевантный код, что потенциально ускорит процесс кодирования и уменьшит отвлекающие факторы.
- Оптимизация ресурсов: Для разработчиков, создающих свои ИИ-инструменты, это демонстрирует ценность унификации моделей для снижения сложности и повышения эффективности, что может быть применимо к их собственным проектам.
- Фокус на end-to-end опыте: Урок о том, что модель — это лишь часть end-to-end опыта, и изменения в клиентском поведении могут значительно повлиять на метрики, подчёркивает важность комплексного подхода к разработке ИИ-продуктов.