GPUCodeForces/FAQ.md

2.7 KiB
Raw Blame History

S1 GPUCodeForces FAQ

2025/8/26

Q1数据集主题是否太过宽泛是否需要增加特定限制条件来帮助参赛者聚焦某一领域下研究

A1不做限制看重性能。

经典计算密集型任务 矩阵乘法GEMM

卷积Convolution

快速傅里叶变换FFT

排序Sorting

规约Reduction

扫描Scan

图像/视觉处理任务 图像滤波(高斯模糊、边缘检测)

图像变形Warping

光流计算

新兴或特定领域任务 MoEMixture of Experts中的专家路由

稀疏矩阵运算

图神经网络中的聚合操作

深度学习常见算子 LayerNorm / BatchNorm

Softmax / LogSoftmax

Attention 机制Self-Attention, Cross-Attention

激活函数如 Swish, GELU

损失函数如 CrossEntropy

Q2JSON文件的格式似乎没有明确规定如下能有一个直观的输出例子会更好

A2提交可运行目录即可无需特定格式json。

{
  "task_name": "matrix_multiplication",
  "description": "...",
  "input_generator": "code snippet or function name",
  "gt_generator": "code snippet or function name",
  "metrics": ["time", "throughput", "bandwidth"],
  "prompt": "Optional prompt for LLM"
}

Q3建议补充错误处理和边界情况说明比如输入为非方阵、极端大小等情况

A3若前项评分相同看加分项的评分。评测反馈交互在PR当选手提交PR相同的时候作为额外加分项时裁判会根据这些细节进行打分也会对比赛最后结果有一定的影响。

Q4评分规则这里明确了评估方面但没有给出具体数值范围添加一个范围会不会更好各方面评估是否增加分段会更好执行时间评估-->0.1s +1分0.01s+2分...-->最高+5分

A4核数量排名优先同级再看评分。

Q5提供prompt让LLM生成代码如何确保【同样prompt每次都生成不同的代码】的不确定性带来的代码质量不稳定从而引发的评分不稳定问题

A5一般不会出现这种问题评测相对稳定。

Q6参赛者除了提交后能知道评分后还能有其他方法能够更快地知道评分吗本地评测模型、评分手册对照

A6评测本身速度就足够快不用担心这个问题。

image.png

改进的地方:

  1. 核数量排名脚本

  2. 再出一版参赛说明,详情解释文档内各文件的作用