BigCode 发布 StarCoder2 模型及 The Stack v2 数据集

BigCode 发布 StarCoder2 系列开源代码大模型，包含 3B、7B 和 15B 三种参数规模。旗舰版 StarCoder2-15B 基于 4 万亿 tokens 的 The Stack v2 数据集训练，在多项评测中表现匹敌 33B 级别模型。同时开源了 The Stack v2 数据集及全部训练代码。