概述
用 jq 把 CSV 转为 JSON:通过 awk 与 jq 流式处理带表头的 CSV,将其转换为换行分隔的 JSON,并将表头保留为字段名。
解决什么问题
本示例演示如何用 Bash 实现「用 jq 把 CSV 转为 JSON」。它聚焦一个具体且可复用的技术要点,把完整实现与必要说明放在一起,读者可以直接复制使用,也可以据此理解背后的设计思路与取舍。示例刻意保持职责单一,避免把多个无关功能揉进同一段代码,从而降低理解与复用成本。
核心思路
代码在进入核心逻辑前先做输入与边界检查,对非法参数提前返回或抛出明确错误,避免错误状态在下游扩散。核心处理部分尽量保持清晰、可预测,把校验、计算与状态变更分离,使逻辑更易于测试和推演。对于可能失败或耗时的操作,示例显式处理失败路径并给出清晰的错误信息,而不是让异常静默吞没,从而缩短排查时间。
适用场景
本示例适用于以下场景:数据一致性与转换。在实际项目中,应根据真实负载与输入规模调整参数与容量,关注边界条件与并发情形下的行为,并用单元测试或集成测试锁定预期结果,防止后续修改悄然改变行为。
注意事项
把示例用于生产环境时,应结合团队的编码规范、错误处理约定与可观测性要求加以调整。例如补充结构化日志以便追踪,明确超时与重试策略以提升健壮性,并对用户输入做必要校验以满足安全边界要求。理解示例背后的原理,往往比直接复制代码更重要,因为需求变化时通常需要对参数与结构做出调整。
代码示例
#!/usr/bin/env bash
set -euo pipefail
readonly INPUT="${1:?csv file required}"
awk -F',' '
NR == 1 {
for (i = 1; i <= NF; i++) header[i] = $i
next
}
{
for (i = 1; i <= NF; i++) {
value = $i
gsub(/"/, "\\\"", value)
printf "%s\"%s\":\"%s\"", (i > 1 ? "," : ""), header[i], value
}
printf "\n"
}
' "${INPUT}" \
| while IFS= read -r line; do
printf '{%s}\n' "${line}" | jq -c '.'
done