Archive: 2021

2021
Technical Notes

本地模型实战

直接在本地运行大语言模型，包括 Embedding 模型，而且选择中文支持度好的为了支持 Function Calling ，选择 ChatGLM3-6B

Technical Notes

NAT-Tracing-part2(Translation)

介绍通过 iptables 或 nftables 配置的 NAT 构建在 netfilters 连接跟踪工具之上。 conntrack 命令用于检查和更改状态表。 它是“conntrack-tools”包的一部分。跟踪状态表连接跟踪子系统跟踪它所看到的所有数据包流。运行 “sudo conntrack-l” 查看其内容:123tcp 6 43184 ESTABLISHED src=192.168.

Technical Notes

NAT-Tracing-part1(Translation)

介绍NAT是可以将Container和VM的内部地址暴露在公网中。传入的连接请求的目的地址被重写成另一个地址。然后，Packet经路由送到container和VM中。这也被用在LB的技术中。NAT失效即意味请求失败。同样的情况也发生在：暴露了错误的服务，container中断连接、连接超时等。定位这类问题的方法：判断请求和预期得到的地址是否一致。连接跟踪(Connection tracking）N

Network Performance Tuning

数据如何从网卡到应用123456789NIC Kernel Protocols To App+---+----------+ +---------+ +-----------+ +--------+| P | ( ) | ----> | SoftIRQ | ----&

Technical Notes

分析Metaspace不停增长的原因

现象：从监控软件上查看jvm堆区使用非堆区，metaspace空间持续上升后，metaspace+edenspace > 7G, 超过了 pod request limit，发生oom，容器被os killpod重新拉起一个新的容器概念：Metaspace 直接在OS上分配的内存。Metaspace 存放的是加载的class加载class的过程是由class loader完成。classlo