大模型提供商
选择并配置为你的智能体提供算力的 AI 后端
功能简介
TorlyAI 支持多个大模型(LLM)提供商,因此你可以选择最符合自身需求的 AI 后端。 每个工作区都可以使用不同的提供商,且会话在发送首条消息后会锁定其提供商,以保持一致性。
支持的提供商
Anthropic Claude
推荐TorlyAI 推荐的提供商。Claude 在结构化商业写作、细致入微的分析以及遵循复杂指令方面表现出色。所有 TorlyAI 技能都针对 Claude 进行了优化。
OpenAI
GPT-4 及更新的模型。兼容 TorlyAI 技能,但某些专门化的输出可能与针对 Claude 优化的示例有所差异。
GitHub Copilot
使用你现有的 GitHub Copilot 订阅。适合已经在使用 GitHub Copilot、希望统一计费模式的团队。
OpenRouter
通过单个 API 密钥访问多个模型提供商的网关。支持数十种模型,包括 Claude、GPT-4、Llama 和 Mixtral。
Ollama
本地在你自己的硬件上本地运行模型。完全离线,没有任何数据离开你的设备。性能取决于你的硬件和模型选择。
按工作区选择
每个工作区都可以使用不同的提供商。这在工作区设置中配置,让你可以:
- 为你的主要商业计划书工作区使用 Claude
- 为包含敏感数据的纯本地工作区使用 Ollama
- 在不同的工作区中试验不同的提供商
会话提供商锁定
一旦会话发送首条消息,它就会锁定到当时处于激活状态的提供商。 这确保了整段对话使用同一个模型,避免因在对话中途切换提供商而产生不一致。
更改工作区的提供商只会影响新建的会话。 现有会话会继续使用其已锁定的提供商。
二级 LLM 调用
智能体可以使用 call_llm 工具进行二级 LLM 调用以处理子任务。 这使智能体能够委派较小的任务(如解析文档或生成结构化 JSON),而不会打断主对话流程。
文件附件
为二级调用附加文件,以进行分析或摘要。
结构化输出
请求 JSON 输出,以进行结构化数据提取和解析。