本文由爆米花独角兽独家翻译

AI 基础设施如何推动企业广泛采用 AI？

基于新型架构的小型 AI 模型正在兴起，这类模型不仅更具成本效益，还能提升处理速度和精确性。“虽然大语言模型（LLMs）持续进步，但它们并非唯一的解决方案，”Stein 表示。小型模型以数百万参数而非数十亿参数构建，能够更好地实时完成特定任务。因其低延迟特点，这些模型有望在普通 CPU 上运行，甚至适用于边缘设备或低成本设备，让开发者和用户更平等地使用 AI。此外，小型模型的训练时间和成本大幅降低，特别是在精选数据集上定制时尤其显著。“这一趋势改变了‘越大越好’的传统思维，提供了更快、成本更低且准确性更高的 AI 解决方案。”

在AI 的生产化过程中，企业对安全性、测试性和成本效益提出了更高的标准。“随着市场竞争加剧，新基础设施解决方案有望提升投资回报率，”Stein 表示。“尽管企业在 AI 部署上有诸多担忧，但我对 AI 基础设施的投资机会保持乐观，特别是那些推动 AI 投产的机会。”她指出，研发支出的增加为构建安全可靠的企业级 AI 基础设施创造了良好的发展空间，涵盖以下几个方面：

· AI 特定的安全性

随着AI 智能体在生活和工作中的应用日益增加，确保其安全至关重要。智能体访问敏感数据（如财务记录、医疗信息）的潜在风险要求企业加强数据保护。Stein 认为，智能体权限管理和身份框架的创新机会正在增多，这是建立对 AI 系统信任的关键。

· 测试和评估软件

传统软件测试方法难以处理AI 模型的非确定性特质，而大语言模型尤其如此。企业级 AI 扩展需有力的测试保障以确保其准确性并提供可量化的投资回报率。“当前测试市场分散，企业需求未得到一致满足。优化小型任务语言模型（SLMs）的性能将成为更高效 AI 部署的关键。”

对于创新高效人工智能模型并使数据保护、身份管理和可靠的人工智能应用测试标准化的初创企业来说，存在巨大的机会。——Carli Stein

· 小型 AI 模型

小型模型服务商效仿大型语言模型提供 TaaS（令牌即服务）计费结构，这些公司以较低成本实现模型训练和开发。Stein 以微软的 Phi 3 模型系列和 GPT-4 mini 为例，强调小型模型将推动 AI 普及，使其能在普通硬件设备上运行。“这将为 AI 的大规模应用奠定基础，新兴架构（如符号 AI）甚至可能颠覆现有的 Transformer 模式。

正如我在微软的 Phi 3 模型系列以及现在的 GPT - 4o mini 中看到的，以及 M12 最近对两家处于隐身模式的特定任务语言模型公司的投资，我很高兴探索微小模型如何推动下一波人工智能投入生产。这最终将使人工智能能够为大众所用，因为人工智能可以在普通硬件设备上运行。——Carli Stein

· 智能体到智能体交互和身份管理

随着多智能体系统的兴起，安全性和权限管理的重要性愈发突出。自动化安全工具未来可能替代人工，确保智能体仅访问授权数据。Stein 指出，这一领域仍处于初级阶段，但随着 AI 智能体生态系统的成熟，它将变得至关重要。

· AI 价值链的测试和评估软件

针对 AI 智能体、多模态模型和应用的评估需求不断增长。虽然市场目前较为分散，但企业级 AI 的扩展需要可靠的测试软件，以确保不同 AI 产品在实际生产环境中的价值。

1.企业对大语言模型的依赖

在过去的两年里，我目睹了 AI 技术的代际变革。我的研究重点在于识别最具变革性的 AI 代理类型。我见证了从工作流程代理到新一代 RPA 代理，甚至到代理间交互的广泛应用。我寻找的是那些具备主动而非被动能力，并且能够实现多代理链式操作的代理。

然而，我得出的结论是，AI 代理尚未达到企业或消费者广泛采用的产品市场契合度。

目前 AI 代理尚未广泛普及的原因包括：

1）部署和训练大型语言模型所需的高成本，

2）安全性方面的担忧，

3）缺乏更强大的评估基础设施。

这项研究仍然具有前瞻性，因为 AI 代理正在逐步确立其在 AI 时代中的地位。

不过，我对小模型推动 AI 代理成为生产级技术的前景持乐观态度。要让 AI 代理真正为企业带来投资回报，必须具备成本效益、极低的延迟和高度的准确性。小模型将推动代理更接近其目标，实现无幻觉的结果。虽然企业可以应用保护措施，但在安全性方面，特别是身份管理上，还有开发保护措施的机会。

最后，AI 应用必须具备强大的测试解决方案，以确保其按预期运行。我认为市场尚未找到真正能够解决企业级 AI 产品端到端测试的评估解决方案。

从历史视角来看，第一波 iPhone 和移动应用没有产生持久的影响，后续的应用才产生了更深远的效果。同样地，今天的 AI 代理并不是未来的 AI 代理。我们正接近一场变革，推动企业级 AI 大规模生产部署的实现。

展望未来，AI 行业的重点应回归到基础设施建设，以促进持久的原生 AI 应用。企业在性能提升、成本降低、延迟减小和可靠性提高方面有巨大的发展空间，以推动企业和消费领域的广泛应用。

开源项目是推动 AI 基础设施发展的重要力量。Stein 补充道，微软的 Phi-2 和 Phi-3 模型等开源项目以较低的计算资源展示了与大语言模型相当的能力。“我们的 GitHub 基金会投资于开源项目，支持推动 AI 落地的开发者驱动增长。”她希望看到更多创新初创公司推动 AI 投入生产。