Reparameterization

Definition / 释义

reparameterization（重新参数化）：在数学、统计或机器学习中，把同一个模型/分布用另一组参数来表示的做法，以便让推导更简单、计算更稳定，或让优化（训练）更容易。常见于回归模型、概率分布、神经网络与贝叶斯推断中。（在不同领域也可泛指“用新的参数方式改写同一件事”。）

Pronunciation / 发音

/ˌriːˌpærəmɪtəraɪˈzeɪʃən/

Examples / 例句

We used reparameterization to make the model easier to train.
我们用重新参数化让模型更容易训练。

By reparameterization, the constrained parameters can be expressed with unconstrained variables, which improves numerical stability during optimization.
通过重新参数化，可以用无约束变量表示有约束的参数，从而在优化过程中提高数值稳定性。

Etymology / 词源

由 **re-**（“再、重新”）+ parameter（“参数”，源自希腊语 *para-*“旁、附加”与 metron“度量”）+ -ization（“……化、使成为”）构成，字面意思就是“把参数重新化/重新设置”。

Related Words / 相关词

• Parameterization
• Transformation
• Substitution
• Change Of Variables
• Optimization
• Constraint
• Identifiability
• Latent Variable

Literary Works / 文学作品

• **Kingma, D. P., & Welling, M. (2014). Auto-Encoding Variational Bayes.**（提出并推广“reparameterization trick/重新参数化技巧”的经典论文）
• **Bishop, C. M. (2006). Pattern Recognition and Machine Learning.**（在概率模型与推断章节中讨论参数化/重参数化的思想）
• **Gelman et al. (2013). Bayesian Data Analysis.**（贝叶斯建模中常提到通过重参数化改进采样与推断效率）
• **Goodfellow, Bengio, & Courville (2016). Deep Learning.**（在深度学习优化与概率模型相关内容中涉及重参数化的用途）