The Bitter Lessons
Building Sana AI
2024年4月4日·5分钟阅读- Joel Hellermark·创始人兼首席执行官
In 1970, 大发体育在线首页和机器人先驱汉斯·莫拉维克观察到，对人类来说很难的任务对大发体育在线首页来说很容易, and vice versa.
五十年后，当我们建造Sana AI时，我们重新发现了这个悖论. 我们的目标是创造一个具有无限能力的大发体育在线首页助手，可以处理任何数量的信息, answer any question, assist with all knowledge work, 并最终自主解决你最困难的问题.
一路走来，我们不断回到理查德·萨顿的作品 Bitter Lesson on computation. 我们自己也学到了很多教训——苦乐参半.
Multi-step planning and reasoning are essential
Techniques like chain-of-thought, tree-of-thought, 反射显著提高了查询响应的准确性. If we want the assistant to correct mistakes autonomously, access external tools, and provide end-to-end solutions on our behalf, these techniques have to be built in. 我们已经训练了我们的海关代理解决方案R-4，以制定一个逐步解决查询的计划, execute the plan, and self-reflect on its output.
Meetings are a vital source of truth
很多宝贵的公司知识在会议上得到口头交流. written documentation. It's an untapped source of net new company data. With R-4, Sana AI can transcribe, summarize, index, retrieve, 并像分析任何其他知识资产一样分析会议，这是通过与Google Meets等平台的无缝集成实现的, Teams, and Zoom.
Verified data is critical
Company knowledge goes stale fast. Here, 在传统知识管理系统失败的地方，大发体育在线首页助手具有独特的优势, but only if it knows what knowledge is most up-to-date. 随着不断的内容重新索引和测试，我们还设计了验证、弃用和Q&一个工作流程，以确保助理始终有访问最新和最好的.
Vector search alone is insufficient
我们需要一个丰富的知识图来处理基于多个数据变量的查询. 矢量搜索无法预测地解决像“列出过去12个月我们在欧洲遇到的所有ARR超过500万美元的公司”这样的请求。. 相反，我们首先必须推导出一个知识图谱，然后搜索结构化数据.
Models need a unified interface
大发体育在线首页生态系统的发展速度如此之快，以至于专注于单一的供应商或模型会让人觉得有风险. 同样，维护与提供者无关的系统也给组织增加了巨大的复杂性. 我们已经构建了一个底层架构，使企业客户能够在一系列最先进的模型之间进行选择和切换.
Integrations, permissions, and deployments are a maze
大多数公司的数据和上下文都存在于一系列工具中，而不仅仅是在一个操作套件中. 我们已经做了艰苦的工作，以确保我们可以启用粒度访问控制, integrations, and permissions for 100+ enterprise tools. It's been a massive undertaking. 我们必须构建一个系统，通过反映用户现有访问权限的开箱即用集成来自动处理权限. 该系统支持在私有云中部署，为企业客户提供了灵活性.
Customization is expected but cumbersome
Every team wants its own unique AI assistant. 但是，如果没有内部的大发体育在线首页团队，就很难根据每个团队的需求对模型进行微调. 我们的无代码UI设置允许用户在几分钟内为每个用例构建定制助手.
The long tail is really long
80%的用户查询可以很好地处理，但最后的20%跨越了巨大的边缘情况. 达到人类水平的鲁棒性要求我们使用多模态模型和推理，这可以让助手更好地理解图像, slides, and tables.
Generative interfaces are in their infancy
Chat and autocomplete-style UIs are just the beginning. 发明充分利用法学硕士的新交互范式是一个巨大的设计空间. 我们正在构建助手可以用来动态生成界面的组件，从会议摘要和知识片段到Salesforce和Gmail等应用程序中的操作.
Memory will be non-negotiable
People's comfort and experience with AI vary greatly. 为了更好地服务每个人，我们必须在用户体验上设置一个不合理的高标准. 我们还需要我们的架构来支持这样一个未来:代理将从第一次登录开始就简单地适应您的个人需求，并随着时间的推移更好地理解您.
Assistants should be proactive
在一个大多数人不知道大发体育在线首页助手能做什么的世界里, Sana AI can't just respond to queries. It also needs to anticipate needs across an entire workflow. For sales, 这看起来像是根据公司的销售方法自动做笔记, drafting the customer follow-up email, and updating Salesforce.
Humans are the benchmark
用户希望助手在每一个环节都能做到与人类专家相匹配. 但人类水平的广度、稳健性和适应性仍然难以捉摸. We've found that giving the user a step-by-step view, citing sources, 允许他们纠正助理的错误有助于我们建立信任.
当面对如此规模和复杂性的挑战时，我们很容易寻求聪明的捷径和技巧. But as computer scientist Richard Sutton has argued, 70年大发体育在线首页研究的最大教训是，利用计算以一般方式解决问题最终是最有效的方法. Even if it requires daunting amounts of engineering.
So that is what we are doing. Step by step, 我们正在做艰苦的工程工作，以建立一个无限能力的系统，使人类和大发体育在线首页无缝协作.
It's a long road, with bitter lessons at every turn. 但最终是基于我们的知识、能够改变我们生活和工作方式的最终有用的大发体育在线首页.
Join us on the journey. Try Sana AI for free @ sana.ai