DiScoFormer：一个同时估计密度和分数的 Transformer 模型

DiScoFormer 是一个基于 Transformer 架构的模型，能在单次前向传播中同时估计数据分布的密度和分数，无需针对新分布重新训练。在 100 维数据测试中，其分数误差比最佳手动调优的核密度估计（KDE）降低约 6.5 倍，密度误差降低超过 37 倍。该模型通过共享骨干网络和一致性损失实现自适应，适用于生成建模、贝叶斯推断等需要高精度分数估计的场景。