Улучшенное завершение кода с помощью Mellum от JetBrain

Компания JetBrains запустила Mellum, собственную модель большого языка, специально созданную для кодирования. Утверждается, что Mellum доступна только в JetBrains AI Assistant и обеспечивает более быстрое, интеллектуальное и контекстно-зависимое завершение облачного кода.

Объясняя роль Mellum в JetBrain AI Assistance, Владислав Танков, директор по искусственному интеллекту в JetBrains, отмечает:

ИИ-помощник JetBrains тщательно выбирает наиболее оптимальную модель из OpenAI и Google для каждого случая использования. Однако мы понимали, что для достижения действительно мощного завершения кода нам необходимо дополнить Assistant собственной моделью. Поэтому запуск модели Mellum - это огромный шаг вперед для нас.

В то же время истинная сила нашей системы завершения кода заключается в глубокой интеграции модели Mellum с IDE от JetBrains. Синергия между интеграцией на стороне клиента и логикой на стороне сервера имеет решающее значение для предоставления быстрых, точных и контекстно-зависимых предложений, обеспечивая улучшенный опыт кодирования с впечатляющими результатами.

Впервые мы познакомились с ИИ-помощником JetBrain в июле 2023 года, когда он еще был в ограниченном доступе и с ограниченной функциональностью. Это было обновление более раннего инструмента профилирования с дополнительными функциями, включая интегрированный чат с искусственным интеллектом, пояснения к коду, автоматическую генерацию документации, предложение имен и генерацию сообщений о фиксации. Он стал общедоступным в декабре 2023 года, а его функции чата по-прежнему опираются на использование моделей от OpenAI и Google.

Однако в отношении облачного завершения кода компания JetBrains приняла решение полностью переписать его, используя новые собственные LLM JetBrains. Улучшенное завершение кода на основе внутренних моделей больших языков, обученных компанией JetBrains, уже начало внедряться, и, как мы сообщали в августе 2024 года, первыми языками, получившими преимущества, стали Java, Python и Kotlin в обновлении 2024.2 IDEs JetBrains, затем Go в выпуске 22024.1 и PHP, JavaScript/TypeScript, CSS и HTML в выпуске 2024.2.2.

Теперь JetBrains представила подробности о собственной LLM Mellum, модели с 4B параметрами, основанной на архитектуре Llama, LLM, разработанной компанией Meta AI и обладающей исключительной производительностью в генерации и понимании кода. Mellum был обучен с нуля специально для кодирования. Несмотря на гораздо меньший размер по сравнению с GPT 4, Mellum выдает полезные предложения с гораздо меньшей задержкой. В отличие от GPT4, его можно запускать локально.

Как объяснил Кирилл Крылов в своем блоге в начале этого месяца, еще до того, как LLM получил свое название:

Обучив относительно небольшую, узкоспециализированную модель и улучшив механизмы вывода, мы значительно повысили точность и скорость завершения кода».

В последней записи блога, представляющей Mellum, Валери Кузима рассматривает его производительность, сообщая, что это привело к значительному снижению задержек и повышению коэффициента принятия завершений кода, а именно:

• Задержка завершения сократилась до одной трети от прежнего времени, что отражает значительное сокращение времени, затрачиваемого на выполнение задач.
• Коэффициент принятия предложений о завершении, основанных на модели Mellum, составляет около 40 %, что считается хорошим показателем в отрасли.
• По сравнению с предыдущей версией AI Assistant процент отказов снизился в три-четыре раза.
• Общее количество показанных завершений увеличилось более чем в два раза по сравнению с предыдущей версией.

Облачное завершение кода в AI Assistant доступно только при подписке на AI Pro или в пробной версии. Локальное завершение кода входит в комплект поставки и включено по умолчанию во всех платных IDE на базе IntelliJ.