L
现场换 SFP 是很日常的操作,但在嵌入式 Linux 上我们反复遇到一种“看起来已经好了”的状态:ip link 显示 UP、指示灯也亮,ping 或业务进程却不通;再 ifdown/ifup 一次又好了。这类问题不太像光功率或模块坏了,更像内核里的 netdev 状态机和 phylink/carrier 没有走完同一条路径。
典型触发是:模块拔出时,驱动收到 MOD_ABS 或 phylink 的 link-down,却因为还有待发送的 skb,没有立刻把 carrier 打掉;或者 carrier 打掉了,用户态的 systemd-networkd、dhcpcd、自研网管还认为地址和路由仍有效。模块再插入时,MAC 已经重新协商,netdev 标志位是 UP,但 IPv4 地址还在旧的 tentative 状态,或者邻居表里留着旧的 MAC。用户只看 link up,就会误判成“模块不通”。
排查时我按三层对表。内核:看 ip link 的 UP/LOWER_UP、carrier、dormant,以及 dmesg 里 phylink、sfp 和 mac 的状态变化时间戳,确认插入后是否先有 link down 再有 link up。用户态:看 networkd 或 udev 规则有没有在模块插入时重配地址,systemd 单元是否依赖了 network-online 但实际只等了 netdev 注册。应用:看套接字是不是在 down 期间收到了错误却没有重连,还是绑定在了已经消失的源地址上。
驱动里还有两个细节值得核对。一是有的 SFP 驱动在模块插入后先创建 netdev、后读速率和 FEC,用户态如果抢在前面把接口拉起,会按默认 1G/关 FEC 去配,后面再改速率时不会自动刷新路由和 offload 特性。二是热插拔过程中若 I2C 管理通道暂时无响应,不要把光通道已经建立误当成管理通道也就绪,业务配置可能还停在旧速率上。我们后来在驱动里保证 carrier 变化和 netif_carrier_on/off 成对出现,并在 udev 里对光口插入事件做一次明确的网络栈重配,才把“灯亮不通、重启才好”压下去。
建议现场先不要反复插拔模块,先把 LOWER_UP、地址、邻居表和业务进程的监听地址打一份快照。能用软件复现的,就不要先判模块质量问题。
典型触发是:模块拔出时,驱动收到 MOD_ABS 或 phylink 的 link-down,却因为还有待发送的 skb,没有立刻把 carrier 打掉;或者 carrier 打掉了,用户态的 systemd-networkd、dhcpcd、自研网管还认为地址和路由仍有效。模块再插入时,MAC 已经重新协商,netdev 标志位是 UP,但 IPv4 地址还在旧的 tentative 状态,或者邻居表里留着旧的 MAC。用户只看 link up,就会误判成“模块不通”。
排查时我按三层对表。内核:看 ip link 的 UP/LOWER_UP、carrier、dormant,以及 dmesg 里 phylink、sfp 和 mac 的状态变化时间戳,确认插入后是否先有 link down 再有 link up。用户态:看 networkd 或 udev 规则有没有在模块插入时重配地址,systemd 单元是否依赖了 network-online 但实际只等了 netdev 注册。应用:看套接字是不是在 down 期间收到了错误却没有重连,还是绑定在了已经消失的源地址上。
驱动里还有两个细节值得核对。一是有的 SFP 驱动在模块插入后先创建 netdev、后读速率和 FEC,用户态如果抢在前面把接口拉起,会按默认 1G/关 FEC 去配,后面再改速率时不会自动刷新路由和 offload 特性。二是热插拔过程中若 I2C 管理通道暂时无响应,不要把光通道已经建立误当成管理通道也就绪,业务配置可能还停在旧速率上。我们后来在驱动里保证 carrier 变化和 netif_carrier_on/off 成对出现,并在 udev 里对光口插入事件做一次明确的网络栈重配,才把“灯亮不通、重启才好”压下去。
建议现场先不要反复插拔模块,先把 LOWER_UP、地址、邻居表和业务进程的监听地址打一份快照。能用软件复现的,就不要先判模块质量问题。

