某次诊断网络问题的过程及思考
今天花了三个多小时去诊断一个线上的问题, 最终的解决方法只需要1分钟. 回头整理一下整个过程, 发现其中还是有很多机会.
其实这个问题昨天就被观察到了, 当时发现有些服务自动熔断了(Service client auto markdown), 一路追查到底, 发现最下层一个访问 Couchbase 的应用在访问 Couchbase 的时候 timeout 了. 大概几百次访问里, 会有那么1, 2次可能会 timeout. 那么这样问题已经确诊到最下层应用到 Couchbase 这些组件了.
从最下层应用到 Couchbase, 只涉及三段: 1) 最下层应用本身; 2) 网络; 3) Couchbase. 首先, 这个最下层应用本身除了 error 增加之外, 并没有发现可疑的地方, 但是也不能完全排除; 其次, 应用和 Couchbase 之间大概有8跳 (hop), 网络 team 查看他们的监控数据, 中间这些网络设备并无异常. 最后, DBA 从 Couchbase 的监控指标数据去看, 也没有发现异常. 尽管除了应用的 error 数量有异常, 查看了其它所有指标, 都看上去还是很平静.
进一步分析这个错误的数据, 可能会指明一些方向. 首先, 这个应用在三个数据中心分别有30多台机器, 只有一个数据中心的这个 timeout error 非常多, 其它数据中心也有, 但是相比之下, 几乎可以忽略. 那么可以断定, 这个问题只是局限于这个数据中心. 这个数据中心的应用代码和其它数据中心的是一样的, 所以不大可能是代码的问题. 这个数据中心的机器最近也没做过什么改动, 那么不大可能是这些应用有问题. 退一步讲, 如果这些机器有问题, 那么很有可能这个数据中心的其它应用机器也应该有问题, 或者说这个应用访问其它外部服务, 也很有可能有 timeout 的问题, 可是这个情况不存在. 对于网络问题, 可以做同样的假设, 如果是网络问题, 这个网络上走的其它服务, 也一样会遇到网络问题暴露出来, 可是并没有发生一样的网络问题. 那么排除下来, 最有可能的是 Couchbase 数据库那边有问题, 可是 Couchbase 的监控数据却显示, Couchbase 操作的延时( latency) 并没有任何波动.
既然是 timeout 问题, 就可以用 tcpdump 去确认到底是不是网络问题. 网络抓包最完全的是关键的每跳都抓, 今天在有限的权限的情况下, 只能在应用这边抓一下. 从应用这边看, 它连着同数据中心的 Couchbase 集群里的8台机器, 端口都是11211, 于是对涉及这端口的都抓一下. 从抓取的 tcp 包来看, 发现有些 tcp 包有乱序现象, 尽管这些乱序的 tcp 包在非常短的时间内都收到了, 可是 Couchbase 客户端却没有对这些乱序的包进行正确的组装, 生成 response 数据, 所以尽管 tcp 包都收到了, 因为没组装成功, 并返回给调用者, 导致调用者认为最终没有收到 response, 而 timeout. 进一步查看这种乱序的 tcp 包, 发现只局限于 Couchbase 那边的一台机器. 于是用 mtr -s 1040
使用 mtr 又继续验证了到其它 Couchbase 数据库的路径, 没有发现有这么长的延时问题. 所以最终怀疑是这个数据库所在机器的操作系统层面出了问题, 又或者因为这个机器是虚拟机, 这个虚拟机所在的宿主机出了问题. DBA 先把这台数据库移除集群, 然后 reboot 这个机器, 起来之后从新加入集群, 问题消失了. 尽管没有深入挖掘出为什么这个机器除了问题, 也因为它已经被重启, 没有了犯罪现场, 很难查清. 只能期望如果下次还有类似问题, 可以先保留现场, 查清一直在修复.
问题虽然通过重启解决, 仔细思考一下整个流程, 还是有些可以改进的地方:
- 从最上层应用一路追查到最底层的应用, 花了一些时间, 现阶段没有全量的 tracing 数据. 如果有全量 tracing 数据, 只需要找出一个最上层的 transaction, 那么就直接追查到导致延迟问题的最下层应用. 当然如果能追查到数据库层就更好了.
- 最下层的应用使用 RxJava, 里面的观察者等待1秒钟, 然后 timeout. 当 timeout 的时候, 它 new 了一个 TimeoutException(), 参数没有传入任何有意义的字符. 导致在 log 里面看到的是一个 RxJava 的出错栈, 最后给的 error message 是一个 null, 尽管能看到是 TimeoutException, 可是没有任何有意义的提示消息. 一个有意义的消息至少告诉别人是连接哪个 ip, 连接哪个端口, 花了多久 timeout 的.
- 如果有批量自动化的工具去做大量机器的 mtr 命令, 并合并在一起分析, 将加速诊断的过程;
- 仔细对问题进行分类, 对细节进行逻辑推理, 合理的猜测加论证, 能加速诊断的过程.
- 需要更完备的监控. 对于 service client, DB client, NoSQL client 都要搜集 metric 进行监控.