LLM周边一览
LangChain
The largest community building the future of LLM apps
LangChain’s flexible abstractions and AI-first toolkit
make it the #1 choice for developers when building with GenAI.
构建LLM应用程序未来的最大型社区
LangChain的灵活抽象和以AI为先的工具箱
使其成为开发者在构建GenAI时的首选
增强LLMs(大型语言模型)的能力,使用你的数据 LangChain帮助将LLMs连接到你公司私有的数据源和API,以创建具有上下文感知和推理能力的应用程序。
一套完整的可互操作和可更换的构建模块 利用我们全面的组件库,这些组件共同构成了复杂的端到端应用程序。想要更换你的模型吗?通过将供应商选择性作为你LLM(大型语言模型)基础设施设计的一部分,确保你的应用程序未来的可持续性。
获得具有持久运行时的可定制性和控制力 LangChain表达式语言(LCEL)允许你以真正可组合的方式构建你的应用程序,允许你根据需要进行定制。该协议支持并行化、回退、批处理、流式处理和异步处理,所有这些都开箱即用,让你可以专注于重要的事情。
LangSmith
LangSmith is a unified DevOps platform for developing, collaborating, testing, deploying, and monitoring LLM applications.
LangSmith 是一个统一的 DevOps 平台,用于开发、协作、测试、部署和监控大型语言模型(LLM)应用程序。
这个平台是您LLM开发生命周期的支撑 LLM应用程序功能强大,但具有特殊的特点。非确定性与不可预测的自然语言输入相结合,使得系统可能出现问题的方式数不胜数。传统的工程最佳实践需要为与LLMs的合作重新构想,LangSmith支持开发生命周期的所有阶段。
以更高的透明度开发 在LLMs中,意外结果时有发生。通过完全透明的整个调用序列,您可以实时以外科手术般的精确度发现错误和性能瓶颈的源头。调试。实验。观察。重复。直到您对结果感到满意。
Ollama
Get up and running with large language models.
ChatOllama
ChatOllama is an open source chatbot based on LLMs.
It supports a wide range of language models.
Dify
Dify is an open-source LLM app development platform.
Orchestrate LLM apps from agents to complex AI workflows,
with an RAG engine.
More production-ready than LangChain.
Unsloth
Easily finetune & train LLMs.
Get faster with unsloth.
GPT4All
A free-to-use, locally running, privacy-aware chatbot.
No GPU or internet required.
LM Studio
Discover, download, and run local LLMs.
Open WebUI
Open WebUI is an extensible, feature-rich, and user-friendly self-hosted WebUI designed to operate entirely offline.
It supports various LLM runners, including Ollama and OpenAI-compatible APIs.
LLaMA-Factory
Easy and Efficient LLM Fine-Tuning.