PerplexityComputer将在今年夏天迎来一项重要升级：支持在本地与云端AI模型之间自动分配任务，实现更兼顾隐私保护与计算性能的混合推理能力。
Perplexity表示，PerplexityComputer是公司用于“替用户完成实际工作”的智能体系统，即通过自动化编排不同模型和工具来处理复杂任务。即将上线的新功能，将允许该系统根据任务类型与数据敏感程度，在设备本地运行的紧凑模型和云端更强大的前沿模型之间智能切换。官方介绍称，这样的设计旨在在处理敏感数据时尽量留在本地，同时在需要强算力时又能无缝调用云端模型，从而在安全性与效率之间取得平衡。
据介绍，在新的“混合智能体推理”（hybridagenticinference）模式下，涉及财务记录、健康信息及个人文件等敏感内容的工作，将优先由运行在用户设备上的本地小型模型来判断哪些数据必须严格保留在本地处理。与此同时，那些对隐私要求不高、但需要更强推理和大上下文能力的任务，则会被自动分派给云端的前沿模型执行。Perplexity强调，大多数现实世界任务往往同时包含敏感和非敏感部分，因此系统会自动将任务拆分成若干子任务，并在本地与云端之间进行协同调度，而不是要求用户事先在“本地”或“云端”模式中二选一。
Perplexity在社交平台X上发布的视频中进一步展示了这一混合架构的理念，称PerplexityComputer能在保证隐私数据留在设备上的前提下，最大化利用云端模型的上下文窗口和算力，同时优化token使用效率。官方消息显示，该混合AI编排功能计划于7月正式向PerplexityComputer用户推出。
相关文章
头条焦点
精彩导读
关注我们
【查看完整讨论话题】 | 【用户登录】 | 【用户注册】