Альтернатива Mirascope-Python для Langchain

Mirascope - это библиотека Python, которая позволяет вам получить доступ к ряду больших языковых моделей, но более простым и питоническим способом.

Если вы привыкли использовать Langchain для вызова различных поставщиков моделей, таких как OpenAI, Anthropic, Mistral и т. д., вы обнаружите, что эта библиотека делает то же самое, но более свободно и с меньшими накладными расходами. Идея заключается в том, что работа с LLM должна быть интуитивно понятной и простой, как и работа с другими проектами на Python.

Mirascope объединяет основные модули доступа к каждому отдельному LLM-провайдеру под общим API, но в то же время предоставляет вам полный доступ к каждой детали, когда вам это необходимо; то есть вы можете использовать API-обертку Mirascope, но в любой момент рабочего процесса вы можете получить доступ к исходным классам провайдера.

Как API, классы Mirascope инкапсулируют все, что может повлиять на результаты использования этого класса, например
шаблон подсказки, температура, модель и другие параметры вызова, поскольку при извлечении структурированной информации схема, которую нужно извлечь, должна быть связана с вызовом для ее извлечения и шаблоном подсказки для этого извлечения.

Рассмотрим пример. Вы можете инициализировать экземпляр OpenAICall и вызвать его метод вызова для генерации ответа OpenAICallResponse:

Вы также можете создавать цепочки вызовов, выполнять повторные попытки, когда LLM-провайдеры не работают по различным причинам, иметь историю чатов с учетом состояния, вызывать функции и т. д.

На данный момент поддерживаются следующие провайдеры:

• OpenAI
• Anthropic
• Mistral
• Cohere
• Groq
• Gemini

Как уже говорилось, унифицированный интерфейс Mirascope позволяет быстро и просто переключаться между различными провайдерами. Вот, например, как легко происходит обмен, сначала с OpenAI:

а затем с Mistral:

Вот и все; доступ к LLM в свободном, менее раздутом и питоническом виде.