gettzen
本站致力于IT相关技术的分享
在GKE上为多租户生成式AI服务构建基于JWT和InfluxDB的安全遥测管道 在GKE上为多租户生成式AI服务构建基于JWT和InfluxDB的安全遥测管道
我们面临的挑战是为部署在GKE上的一个多租户生成式AI推理服务设计并实现一套遥测系统。该系统不仅要能处理由模型推理产生的高基数（high-cardinality）时序数据，还必须保证严格的租户隔离和安全性。具体来说，每个API请求都携带了租
2023-10-27 云原生
GCP GKE 生成式AI InfluxDB JWT
利用强化学习与事件驱动架构为 Crossplane 基础设施构建自主 FinOps 控制平面 利用强化学习与事件驱动架构为 Crossplane 基础设施构建自主 FinOps 控制平面
在生产环境中，单纯依赖 Kubernetes HPA (Horizontal Pod Autoscaler) 这类基于阈值的反应式自动伸缩是远远不够的。它无法在成本、性能和稳定性之间做出智能权衡，尤其是在面对波动的云资源价格（如 Spot
2023-10-27 云原生
强化学习 事件驱动架构 Crossplane Pulumi FinOps
使用 Lua 和 OpenResty 构建一个可由前端实时管理的动态 Web 防火墙 使用 Lua 和 OpenResty 构建一个可由前端实时管理的动态 Web 防火墙
静态的防火墙规则集正在成为我们运维流程中的一个瓶颈。每次更新IP黑名单、调整某个API的速率限制，或是紧急封堵一个新发现的扫描特征，都意味着修改配置文件、推送到配置中心、然后逐台服务器执行nginx -s reload。这个过程不仅繁琐，更
2023-10-27 后端架构
前端 Lua 防火墙 OpenResty Redis
基于 Buildah 实现 PyTorch 数据处理管道的容器化与供应链安全加固 基于 Buildah 实现 PyTorch 数据处理管道的容器化与供应链安全加固
一个.pth模型文件在生产环境中就像一个黑盒。我们知道它的输入和输出，但它的训练过程、依赖环境、甚至是训练数据的确切版本，往往随着时间的推移而变得模糊不清。当需要审计或复现一个模型的行为时，这种信息的缺失是致命的。在真实项目中，我们曾面临一
2023-10-27 DevOps
CI/CD Python Buildah PyTorch 数据处理 DevSecOps Gatsby
构建跨语言 AI 推理总线：集成 ActiveMQ STOMP、Python 数据处理与 Phoenix Channels 构建跨语言 AI 推理总线：集成 ActiveMQ STOMP、Python 数据处理与 Phoenix Channels
项目初期，我们面临一个典型的异构系统集成难题。核心业务由一套稳定的 Java 系统承载，多年来一直通过 ActiveMQ 进行系统间的事件通知。现在，数据科学团队需要消费这些事件，用他们最新的 Python 模型进行实时推理。同时，运营团队
2023-10-27 分布式架构
Python ActiveMQ Phoenix AI 数据科学与大数据 Elixir
基于Go与DSL为Tyk网关实现动态访问策略引擎并集成Svelte管理前端 基于Go与DSL为Tyk网关实现动态访问策略引擎并集成Svelte管理前端
微服务架构下，硬编码在各个服务内部的访问控制逻辑是一场维护噩梦。每次权限模型的微调都可能触发多个服务的重新部署。将授权逻辑上移至API网关是标准解法，但Tyk自带的JWT声明校验、Scope控制等机制，在面对复杂多变的业务规则时，往往显得力
2023-10-27 API网关
Go Tyk Pinia Svelte 编程语言 DSL
3 / 5