Blogs

与以往的基准测试主要关注模型是否能记住信息或遵循既定步骤不同，GeneBench-Pro 旨在模拟真实的科研场景。它要求模型在面对不确定、不完整甚至包含干扰因素的数据时，进行判断和分析以得出结论，从而评估其在实际科研环境中的应用价值。

GeneBench-Pro 涵盖了基因组学、定量生物学和转化医学等多个领域，共设计了 129 道题目。这些题目分布在 10 个主要领域和 21 个子领域之下，包括统计遗传学、群体遗传学、功能基因组学和蛋白质组学等。每道题目都为模型提供了一个接近真实科研环境的数据集，并附带简要的实验背景介绍和一个与后续决策相关的目标问题。模型需要独立完成数据探索、分析方法选择，并在过程中不断调整策略，最终给出答案。

为了解决传统长流程基准测试中常见的评分偏差问题，OpenAI 在开发 GeneBench-Pro 时采用了合成数据作为核心。这是因为使用真实的历史数据出题时，可能存在多条有效的分析路径，导致模型即使采用错误的方法也可能偶然获得正确答案。

通过使用合成数据，OpenAI 可以完全控制底层因果关系和数据生成过程，从而更精确地评估模型是否真正理解了问题，而非仅仅走了“捷径”。

目前，OpenAI 已在 Hugging Face 上公开了 10 道 GeneBench-Pro 的示例题目，并提供了一个可交互的界面供外部研究人员进行体验。未来，将有 50 道题目开放给 Artificial Analysis 进行第三方独立评估，以检验不同模型在这一基准测试上的实际表现。