新智元报道 编辑：乔杨【新智元导读】DeepMind最近被ICML 2024接收的一篇论文，完完全全暴露了他们背靠谷歌的「豪横」。一篇文章预估了这项研究所需的算力和成本，大概是Llama 3预训练的15%，耗费资金可达12.9M美元。 发一篇顶会论文，需要多少实验预算？ 最近，DeepMind发表了一项研究，对LLM扩大规模时各种算法和架构细节，比如参数和优化器的选择，进行了广泛的实证调查。 这篇论文已被ICML 2024接收。论文地址：https://arxiv.org/abs/2407.0...