datakfy
本站致力于IT相关技术的分享
  文章分类
DevOps 3 分布式系统 3 后端架构 6 DevSecOps 1 云原生 2 架构设计 2 移动端开发 1 可观测性 4 分布式架构 2 架构与设计 3 数据工程与存储 2 数据工程 1
利用APISIX插件体系为Azure Functions上的LLM服务构建韧性与成本控制层 利用APISIX插件体系为Azure Functions上的LLM服务构建韧性与成本控制层
将大语言模型（LLM）的推理端点部署在Azure Functions这类Serverless平台上，初看起来是一个完美的组合：按需扩展、无服务器运维负担、与云生态系统无缝集成。但在真实的项目中，这种看似简单的架构背后隐藏着巨大的成本和稳定性
2023-11-20 架构设计
APISIX Azure Functions LLM Serverless API网关
基于 Knative 事件驱动架构的异构 SSR 服务数据一致性实现 基于 Knative 事件驱动架构的异构 SSR 服务数据一致性实现
定义复杂技术问题在构建一个要求极致用户体验和高弹性伸缩能力的现代 Web 应用时，我们面临一个典型的架构困境。前端渲染层，为了追求首屏加载速度（TTFB）和 SEO 友好性，服务器端渲染（SSR）几乎是必然选择，而 Node.js 生态在这
2023-10-27 架构设计
Knative TiDB Node.js Java SSR