Skip to content

修复 VulnGym 数据中的代码片段定位偏差 - #72

Open
ccsosd wants to merge 1 commit into
Tencent:mainfrom
ccsosd:fix/vulngym-location-offset
Open

修复 VulnGym 数据中的代码片段定位偏差#72
ccsosd wants to merge 1 commit into
Tencent:mainfrom
ccsosd:fix/vulngym-location-offset

Conversation

@ccsosd

@ccsosd ccsosd commented Jul 26, 2026

Copy link
Copy Markdown

变更说明

本 PR 针对 issue #4,新增入口位置自动修复脚本及对应交付物。

主要内容包括:

  • 新增 tools/fix_entry_locations.py,用于检查并修复 data/entries.jsonlentry_pointcritical_operationtrace[*] 节点的 file/line/code/desc 定位信息。
  • 新增 tools/README_fix_entry_loc.md,说明脚本运行方式、依赖、修复策略、日志输出和限制。
  • 新增 outputs/location_fix/entries.fixed.jsonl,保存修复后的数据文件。
  • 新增 outputs/location_fix/fix_diff.csv,记录自动修复前后的 file、line、desc 及修复策略。
  • 新增 outputs/location_fix/needs_human.csv,记录无法自动确定、需要人工复核的节点及原因。

修复策略

脚本会基于每条 entry 自身的 repo_urlcommit,在对应本地仓库快照中校验节点位置。若原始位置无法匹配,则按以下顺序尝试修复:

  1. 在原始行号上下 5 行范围内搜索 code,唯一命中则修正 line
  2. 在原始文件全文搜索 code,唯一命中则修正 line
  3. 在整个仓库对应 commit 快照中搜索 code,唯一命中则同时修正 fileline

匹配时会忽略前后空白、tab/空格差异和连续空白差异,并支持连续多行代码片段。

脚本整体策略偏保守:多处命中、完全找不到、低信息锚点或无法判断的节点不会自动修改,而是写入 needs_human.csv

验证

已在当前数据集上运行脚本并生成交付物:

  • entries.fixed.jsonl
  • fix_diff.csv
  • needs_human.csv

同时对生成的 entries.fixed.jsonl 执行了基础 schema 校验。

修复结果

本次脚本已在完整数据集上运行,处理结果如下:

  • 读取 entry 总数:408
  • 实际处理 entry 数:408
  • 检查节点总数:2889
  • 自动修复节点数:12
  • fix_diff.csv 记录数:12
  • needs_human.csv 记录数:75
  • 详细检查日志记录数:3087

生成的主要结果文件包括:

  • outputs/location_fix/entries.fixed.jsonl:修复后的完整 JSONL 数据文件,保留 408 条 entry。
  • outputs/location_fix/fix_diff.csv:记录 12 处自动修复的节点,包含修复前后的 file/line/desc 和修复策略。
  • outputs/location_fix/needs_human.csv:记录 75 处无法安全自动判断的节点,用于后续人工复核。

整体结果符合保守修复策略:脚本只对唯一命中且信息量足够的节点进行自动修复;多处命中、完全找不到、低信息锚点或 desc 可能需要语义确认的节点均进入人工复核清单。

Related to #4

@ccsosd
ccsosd marked this pull request as ready for review July 26, 2026 04:41
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Labels

None yet

Projects

None yet

Development

Successfully merging this pull request may close these issues.

1 participant