大模型提供商

选择并配置为你的智能体提供算力的 AI 后端

功能简介

TorlyAI 支持多个大模型(LLM)提供商,因此你可以选择最符合自身需求的 AI 后端。 每个工作区都可以使用不同的提供商,且会话在发送首条消息后会锁定其提供商,以保持一致性。

支持的提供商

Anthropic Claude

推荐

TorlyAI 推荐的提供商。Claude 在结构化商业写作、细致入微的分析以及遵循复杂指令方面表现出色。所有 TorlyAI 技能都针对 Claude 进行了优化。

OpenAI

GPT-4 及更新的模型。兼容 TorlyAI 技能,但某些专门化的输出可能与针对 Claude 优化的示例有所差异。

GitHub Copilot

使用你现有的 GitHub Copilot 订阅。适合已经在使用 GitHub Copilot、希望统一计费模式的团队。

OpenRouter

通过单个 API 密钥访问多个模型提供商的网关。支持数十种模型,包括 Claude、GPT-4、Llama 和 Mixtral。

Ollama

本地

在你自己的硬件上本地运行模型。完全离线,没有任何数据离开你的设备。性能取决于你的硬件和模型选择。

按工作区选择

每个工作区都可以使用不同的提供商。这在工作区设置中配置,让你可以:

  • 为你的主要商业计划书工作区使用 Claude
  • 为包含敏感数据的纯本地工作区使用 Ollama
  • 在不同的工作区中试验不同的提供商

会话提供商锁定

一旦会话发送首条消息,它就会锁定到当时处于激活状态的提供商。 这确保了整段对话使用同一个模型,避免因在对话中途切换提供商而产生不一致。

更改工作区的提供商只会影响新建的会话。 现有会话会继续使用其已锁定的提供商。

二级 LLM 调用

智能体可以使用 call_llm 工具进行二级 LLM 调用以处理子任务。 这使智能体能够委派较小的任务(如解析文档或生成结构化 JSON),而不会打断主对话流程。

文件附件

为二级调用附加文件,以进行分析或摘要。

结构化输出

请求 JSON 输出,以进行结构化数据提取和解析。

相关内容