#AI

噪声对比估计(Noise Contrastive Estimation, NCE)的核心思想是,将概率估计问题转化为二元分类问题。它最大化的不是模型对数据本身的直接似然,而是关于数据来源的二元分类问题的似然,目标是使模型能更好地区分真实数据和噪声数据。

NCE 能够有效地训练那些归一化常数难以计算的模型。