From 8fa903abf222f93e4911f7ddb0a349e58bd1e2af Mon Sep 17 00:00:00 2001 From: nianliunian <1048316300@qq.com> Date: Tue, 12 May 2026 15:11:02 +0800 Subject: [PATCH 1/3] [WeeklyReport] ERNIEPartner_24_nianliunian 2026.04.29~2026.05.10 --- .../[WeeklyReport]2026.04.29~2026.05.10.md | 41 +++++++++++++++++++ 1 file changed, 41 insertions(+) create mode 100644 WeeklyReports/Hackathon_10th/ERNIEPartner/ERNIEPartner_24_nianliunian/[WeeklyReport]2026.04.29~2026.05.10.md diff --git a/WeeklyReports/Hackathon_10th/ERNIEPartner/ERNIEPartner_24_nianliunian/[WeeklyReport]2026.04.29~2026.05.10.md b/WeeklyReports/Hackathon_10th/ERNIEPartner/ERNIEPartner_24_nianliunian/[WeeklyReport]2026.04.29~2026.05.10.md new file mode 100644 index 00000000..d404320b --- /dev/null +++ b/WeeklyReports/Hackathon_10th/ERNIEPartner/ERNIEPartner_24_nianliunian/[WeeklyReport]2026.04.29~2026.05.10.md @@ -0,0 +1,41 @@ +### 认领者 GitHub ID +nianliunian + +### 赛题信息 +- **进阶任务序号**：#24 +- **赛题名称**：PaddleOCR-VL-1.5 在此芯 P1 芯片上的端侧部署与优化 +- **关联厂商**：此芯 & Arm + +### 本周工作 + +1. **环境搭建** + - 在此芯上搭建llama.cpp的编译环境：编译cpu和gpu，对比推理性能 + - 通过性能日志，排查llama推理时的性能瓶颈 + - 在本地搭建模型转换和开发测试环境：将模型从 safetensors 转换为 onnx进行推理 + - 编写推理代码 + +2. **模型调研** + - 下载相关模型：paddleocr-vl-1.5 + +3. **问题与解决** + - 问题：llama运行模型较慢，主要瓶颈在图像embedding时 + - 解决：考虑从原始模型中拆解出vision部分和llm部分，使用onnx边缘部署的优势，分别对visionh部分和llm部分完成推理 + + + +### 下周计划 + +1. 调试、完善推理代码，对给定的图像进行测试验证 + +### 当前阻塞（无则填"无"） + +- 无 + +### 交付物进展 + +| 交付物 | 状态 | 备注 | +|--------|:----:|------| +| RFC 文档 | ✅ 已完成 | - | +| 代码实现 | 🔄进行中| - | +| README | 🔄进行中| - | +| 演示视频/截图 | ⬜未开始 | - | \ No newline at end of file From 49dd42d6fdebfb08bc1337c79df57b6db895d6d4 Mon Sep 17 00:00:00 2001 From: nianliunian <1048316300@qq.com> Date: Thu, 28 May 2026 10:09:05 +0800 Subject: [PATCH 2/3] [WeeklyReport] ERNIEPartner_24_nianliunian 2026.05.14~2026.05.28 --- .../[WeeklyReport]2026.05.14~2026.05.28.md | 43 +++++++++++++++++++ 1 file changed, 43 insertions(+) create mode 100644 WeeklyReports/Hackathon_10th/ERNIEPartner/ERNIEPartner_24_nianliunian/[WeeklyReport]2026.05.14~2026.05.28.md diff --git a/WeeklyReports/Hackathon_10th/ERNIEPartner/ERNIEPartner_24_nianliunian/[WeeklyReport]2026.05.14~2026.05.28.md b/WeeklyReports/Hackathon_10th/ERNIEPartner/ERNIEPartner_24_nianliunian/[WeeklyReport]2026.05.14~2026.05.28.md new file mode 100644 index 00000000..177f33f2 --- /dev/null +++ b/WeeklyReports/Hackathon_10th/ERNIEPartner/ERNIEPartner_24_nianliunian/[WeeklyReport]2026.05.14~2026.05.28.md @@ -0,0 +1,43 @@ +### 认领者 GitHub ID +nianliunian + +### 赛题信息 +- **进阶任务序号**：#24 +- **赛题名称**：PaddleOCR-VL-1.5 在此芯 P1 芯片上的端侧部署与优化 +- **关联厂商**：此芯 & Arm + +### 本周工作 + +1. **环境搭建** + - 编写推理代码 + - 优化对比vision部分推理耗时 + - 优化对比llm部分推理耗时 + - 增加kv window，减少内存拷贝 + +2. **模型调研** + - 无 + +3. **问题与解决** + - 问题：无法支持tensor(int4) + - 解决：使用int8推理 + - 问题：llm输出内容重复 + - 解决：调整惩罚参数、增加硬性检测方法 + + + +### 下周计划 + +1. 提交完成的PR到百度的aistudio + +### 当前阻塞（无则填"无"） + +- 无 + +### 交付物进展 + +| 交付物 | 状态 | 备注 | +|--------|:----:|------| +| RFC 文档 | ✅ 已完成 | - | +| 代码实现 | ✅ 已完成| - | +| README | ✅ 已完成| - | +| 演示视频/截图 | ⬜未开始 | - | \ No newline at end of file From 1699ed00f16f7194614ae1dcaba90a5d13e99f0e Mon Sep 17 00:00:00 2001 From: nianliunian <1048316300@qq.com> Date: Thu, 28 May 2026 12:46:42 +0800 Subject: [PATCH 3/3] update task 24 --- .../[WeeklyReport]2026.05.14~2026.05.28.md | 4 ++-- 1 file changed, 2 insertions(+), 2 deletions(-) diff --git a/WeeklyReports/Hackathon_10th/ERNIEPartner/ERNIEPartner_24_nianliunian/[WeeklyReport]2026.05.14~2026.05.28.md b/WeeklyReports/Hackathon_10th/ERNIEPartner/ERNIEPartner_24_nianliunian/[WeeklyReport]2026.05.14~2026.05.28.md index 177f33f2..89752bcb 100644 --- a/WeeklyReports/Hackathon_10th/ERNIEPartner/ERNIEPartner_24_nianliunian/[WeeklyReport]2026.05.14~2026.05.28.md +++ b/WeeklyReports/Hackathon_10th/ERNIEPartner/ERNIEPartner_24_nianliunian/[WeeklyReport]2026.05.14~2026.05.28.md @@ -38,6 +38,6 @@ nianliunian | 交付物 | 状态 | 备注 | |--------|:----:|------| | RFC 文档 | ✅ 已完成 | - | -| 代码实现 | ✅ 已完成| - | -| README | ✅ 已完成| - | +| 代码实现 | ✅ 已完成| https://aistudio.baidu.com/project/edit/10356349 | +| README | ✅ 已完成| https://aistudio.baidu.com/project/edit/10356349 | | 演示视频/截图 | ⬜未开始 | - | \ No newline at end of file