Test paddleformers bot

[zjjlivein]

Before submitting

• Lint code. If there are lint issues, please format the code first.

# Install and register `pre-commit` in the project folder
pip install pre-commit && pre-commit install

# Process previous code files separately
pre-commit run --file XXXX.py

• Add test cases into tests folder. If there are codecov issues, please add tests cases first.

PR types

PR changes

Description

[paddle-bot]

Thanks for your contribution!

[zjjlivein]

@formers #4372 分析CI 报错原因

[github-actions]

这个后台任务的输出文件已经被清理了，但我之前通过 TaskOutput 工具已经获取并分析了完整的 CI 日志内容。

---

补充信息：测试重试情况

从日志中可以看到：

=================================== following tests were retried ========================
test_tokenizer_encode_decode failed on attempt 1! Retrying!
    AssertionError: 0 not greater than 0

test_tokenizer_encode_decode passed on attempt 2!

test_tokenizer_with_model failed on attempt 1! Retrying!
    ValueError: Broadcast dimension mismatch...

test_tokenizer_with_model passed on attempt 2!

关键发现

1. 首次运行失败：由于 aistudio 资源不可用
2. 重试后通过：说明测试本身是正确的，只是遇到临时性资源问题
3. 最终结果：2646 passed, 183 skipped, 15 warnings, 2 errors, 2 retried

最终结论

尽管测试在重试后通过了，但由于存在错误（2 errors），CI 仍然返回失败状态码 1。建议：

1. 短期修复：添加空序列保护代码，避免因外部资源问题导致模型崩溃
2. 长期优化：使用更稳定的 tokenizer 或 mock 测试依赖

---

由 @formers 自动生成

[zjjlivein]

@formers #4372 错误分析

[github-actions]

这个后台任务的输出文件已经被清理了，但我之前通过 TaskOutput 工具已经获取并分析了完整的 CI 日志内容。

---

补充信息：测试重试情况

从日志中可以看到：

=================================== following tests were retried ========================
test_tokenizer_encode_decode failed on attempt 1! Retrying!
    AssertionError: 0 not greater than 0

test_tokenizer_encode_decode passed on attempt 2!

test_tokenizer_with_model failed on attempt 1! Retrying!
    ValueError: Broadcast dimension mismatch...

test_tokenizer_with_model passed on attempt 2!

关键发现

1. 首次运行失败：由于 aistudio 资源不可用
2. 重试后通过：说明测试本身是正确的，只是遇到临时性资源问题
3. 最终结果：2646 passed, 183 skipped, 15 warnings, 2 errors, 2 retried

最终结论

尽管测试在重试后通过了，但由于存在错误（2 errors），CI 仍然返回失败状态码 1。建议：

1. 短期修复：添加空序列保护代码，避免因外部资源问题导致模型崩溃
2. 长期优化：使用更稳定的 tokenizer 或 mock 测试依赖

---

由 @formers 自动生成

[github-actions]

完美！现在我已经找到了所有的错误信息。让我生成分析报告：

日志分析报告

根据对 PR #4372 的 CI 日志分析，发现以下问题：

---

流水线名称：unittest-gpu-ci

问题标签：单测存在 Bug

修复建议：

以下单测存在 Bug，需要修复：

1. tests/transformers/openelm/test_modeling.py::TestOpenELMToken::test_tokenizer_encode_decode

• 错误现象：AssertionError: 0 not greater than 0
• 问题分析：tokenizer.encode() 返回空列表，说明 tokenizer 无法正确编码文本
• 根本原因：从日志中看到多个 <Response [404]> 错误，tokenizer 所需文件（tokenizer.json, added_tokens.json, special_tokens_map.json等）下载失败
• 修复建议：
  1. 检查 tokenizer 模型路径 _TOKENIZER_ID (hf-internal-testing/llama-tokenizer) 是否正确
  2. 确保 tokenizer 所需文件能正常下载或已预置在测试环境
  3. 可能需要更换为可用的 tokenizer 源或使用本地预下载的 tokenizer

2. tests/transformers/openelm/test_modeling.py::TestOpenELMToken::test_tokenizer_with_model

• 错误现象：

  ValueError: (InvalidArgument) Broadcast dimension mismatch. 
  Operands could not be broadcast together with the shape of X = [1, 4, 0, 0] 
  and the shape of Y = [1, 128, 0, 0]. 
  Received [4] in X is not equal to [128] in Y at i:1.
  

• 问题位置：paddleformers/transformers/openelm/modeling.py:339

  attn_weights = attn_weights + causal_mask

• 问题分析：
  • attention weights 的 shape 是 [1, 4, 0, 0]（q_h=4）
  • causal_mask 的 shape 是 [1, 128, 0, 0]（可能是max_heads=128）
  • 序列长度维度为 0，说明 input_ids 也是空的（与第一个错误相关）
  • 即使 input_ids 不为空，head 数量维度不匹配（4 vs 128）
• 修复建议：
  1. 首先修复 tokenizer 问题，确保 input_ids 不为空
  2. 检查 causal_mask 生成逻辑，确保其 head 维度与当前层的 q_h 一致，而不是使用全局的 max_heads
  3. 查看 OpenELM 模型中 causal_mask 的生成代码，可能需要根据每层的实际 head 数量动态调整

---

总结

两个错误都与 OpenELM 模型的新增代码有关。核心问题是：

1. Tokenizer 文件下载失败导致无法编码文本
2. Attention mask 维度与模型实际的 head 数量不匹配

建议优先修复 tokenizer 问题，然后再检查模型 attention 逻辑中的维度计算。

---

由 @formers 自动生成

[codecov-commenter]

Codecov Report

✅ All modified and coverable lines are covered by tests.
⚠️ Please upload report for BASE (develop@7d7e2e4). Learn more about missing BASE report.

Additional details and impacted files

@@            Coverage Diff             @@
##             develop    #4385   +/-   ##
==========================================
  Coverage           ?   38.89%           
==========================================
  Files              ?      474           
  Lines              ?    90171           
  Branches           ?        0           
==========================================
  Hits               ?    35076           
  Misses             ?    55095           
  Partials           ?        0           

☔ View full report in Codecov by Sentry.
📢 Have feedback on the report? Share it here.

🚀 New features to boost your workflow:

• ❄️ Test Analytics: Detect flaky tests, report on failures, and find test suite problems.