Agent 工程运维:从本地运行到线上服务
最近做 Agent,越来越需要理解基础设施。服务连不上数据库、容器启动后找不到文件,或者页面刷新后进度消失时,应该从哪一层查起?沿着这些问题继续梳理,就会遇到 VPC、网段、镜像、队列、K8s、Serverless 这些概念。 ...
最近做 Agent,越来越需要理解基础设施。服务连不上数据库、容器启动后找不到文件,或者页面刷新后进度消失时,应该从哪一层查起?沿着这些问题继续梳理,就会遇到 VPC、网段、镜像、队列、K8s、Serverless 这些概念。 ...
系列导读:Agent 工程需要哪些运维知识 网络打通之后,下一个问题是:Agent 到底在哪里运行? 写代码时,一个函数调用可以完成很多事情。部署以后,这些事情可能属于不同进程:API 接收请求,Worker 调用模型,沙箱运行生成的分析代码。每个进程都有自己的资源、文件和退出时机,任务也会受到这些边界影响。 ...
上一篇把程序拆成进程、镜像、容器和文件。镜像已经能够运行以后,接下来要考虑:启动多少个实例?流量怎样进来?进程失败后谁来重启?发布时,旧实例正在执行的任务怎么办? K8s 和 Serverless 都会参与这些问题,但接管的职责和暴露的配置不同。理解平台时,我更关心两件事:它怎样管理运行资源,以及应用需要怎样配合它的生命周期。 本文继续使用“上传 Excel,调用模型,在沙箱中分析并生成报告”的例子,分别看 API、Worker 和沙箱应该怎样运行。 ...
用户上传一份 Excel,Agent 调用模型制定分析步骤,再让沙箱运行代码,把报告保存到 OSS。执行到一半,用户刷新了页面。后台任务应该继续吗?如果这时 Worker 也重启了,又该从哪里接着做? ...
前面几篇把网络、运行环境和任务恢复串了起来。这一篇继续看系统上线之后:用户说“分析一直没有完成”,应该从哪里查?任务越来越多,增加 Worker 就够了吗?发布一个新版本,会不会让昨天等待人工确认的任务无法继续? ...