所有分类
  • 所有分类
  • 攻略

IP代理软件日志脱敏:敏感Header与Cookie过滤规则

ip代理软件日志脱敏:敏感Header与Cookie过滤规则,一文看懂代理ip日志安全
——写给天天抓包、又怕泄露的爬虫工程师

小标题:为什么日志里必须“打码”
代理IP用得爽,可一旦把带Cookie的完整请求写进日志,就等于把账号密码贴在公屏。甲方爸爸、合规部门、甚至隔壁黑客,都能顺着日志把你薅秃。脱敏不是“多此一举”,而是省钱保命:一次泄露,罚款+删库+道歉信,够买几年高质量代理IP池。

小标题:敏感Header黑名单——30秒就能抄作业
把下面字段直接写进配置文件,匹配就替换成*,别手软:
Authorization、Proxy-Authorization、Cookie、Set-Cookie、X-Auth-Token、X-CSRF-Token、X-API-Key、X-Forwarded-For、X-Real-IP、Referer(带token参数)。
正则示例(Nginx/OpenResty):
~*^(authorization|proxy-authorization|cookie|set-cookie|x-auth-token|x-csrf-token|x-api-key)$
匹配到就map $sent_http_name $mask { default $sent_http_name; ~*^(authorization|cookie)$ "***"; },日志里再也看不到原文。

小标题:Cookie过滤三步走——只留关键业务字段
① 拆分:按;切分每一段;② 白名单:只保留sessioniduidtoken等业务必须字段,其余一律丢弃;③ 掩码:对白名单值保留前4后4,中间用**填充,如sessionid=abcd****wxyz
Python一行流示范:
cookie = "; ".join([f"{k}={v[:4]+'****'+v[-4:]}" if k in white_list else f"{k}=****" for k,v in parse_qs(cookie_str).items()])
既方便排障,又不怕泄露。

小标题:日志格式模板——直接复制就能上线
Nginx:
log_format safe '$remote_addr - $remote_user [$time_local] "$request" $status $body_bytes_sent "$masked_referer" "$masked_cookie" "$http_user_agent"';
其中$masked_referer$masked_cookie用map变量提前脱敏。
Java/logback:
<pattern>%d{HH:mm:ss} [%thread] %maskAuth(%msg)%n</pattern>
自定义CompositeConverter,把Authorization、Cookie正则替换掉。
保存完nginx -s reload,日志立刻“干净”。

小标题:代理IP厂商日志也别放过
很多兄弟只脱自己服务器,却忘了代理IP回源日志。优质代理IP服务商(比如我们)默认关闭原始日志,只保留状态码、耗时、流量区间。如果你买的是“裸量”代理,记得在控制台一键开启“敏感字段过滤”,或者让客服把回源日志采样率调到0%,省得夜里睡不着。

小标题:脱敏后的日志还能排障吗?
能。把返回体里的request_id或自定义trace_id写进日志,出问题直接拿ID去链路系统搜,比翻Cookie快十倍。再配一个gzip=9压缩,体积减少80%,ELK账单直接腰斩。

小标题:常见翻车现场

  1. 只脱敏小写,大小写混写就漏网——正则记得加(?i)忽略大小写;
  2. 图省事整行replace,把{"cookie":"***"}里的JSON也打码,导致下游解析报错——用结构化日志,字段级替换;
  3. 忘记脱敏Set-Cookie响应头,反向泄露新鲜Cookie——请求+响应都要黑名单。

小标题:一键自检脚本
grep -Ei 'authorization|cookie|token' /var/log/nginx/access.log | wc -l
结果大于0,说明还有漏网之鱼,回去改配置。
再用awk -F'"' '{print $6}'把Referer字段抓出来,看有没有带?token=,有就继续加规则。五分钟搞定,比写检讨书快。

采购代理IP请添加微信客户经理:x31471626

阅读全文
原文链接:https://sk5ip.com.cn/hangyezixun/ipdailiruanjianrizhituominming/,转载请注明出处~~~
0
分享海报

评论0

请先
显示验证码

社交账号快速登录

微信扫一扫关注
如已关注,请回复“登录”二字获取验证码