这是几位机器学习权威专家汇总的725个机器学习术语表，非常全面了，值得收藏！
英文术语中文翻译
0-1 Loss Function0-1损失函数
Accept-Reject Sampling Method接受-拒绝抽样法/接受-拒绝采样法
Accumulated Error Backpropagation累积误差反向传播
Accuracy精度
Acquisition Function采集函数
Action动作
Activation Function激活函数
Active Learning主动学习
Adaptive Bitrate Algorithm自适应比特率算法
Adaptive BoostingAdaBoost
Adaptive Gradient AlgorithmAdaGrad
Adaptive Moment Estimation AlgorithmAdam算法
Adaptive Resonance Theory自适应谐振理论
Additive Model加性模型
Affinity Matrix亲和矩阵
Agent智能体
Algorithm算法
Alpha-Beta Pruningα-β修剪法
Anomaly Detection异常检测
Approximate Inference近似推断
Area Under ROC CurveAUC
Artificial Intelligence人工智能
Artificial Neural Network人工神经网络
Artificial Neuron人工神经元
Attention注意力
Attention Mechanism注意力机制
Attribute属性
Attribute Space属性空间
Autoencoder自编码器
Automatic Differentiation自动微分
Autoregressive Model自回归模型
Back Propagation反向传播
Back Propagation Algorithm反向传播算法
Back Propagation Through Time随时间反向传播
Backward Induction反向归纳
Backward Search反向搜索
Bag of Words词袋
Bandit赌博机/老虎机
Base Learner基学习器
Base Learning Algorithm基学习算法
Baseline基准
Batch批量
Batch Normalization批量规范化
Bayes Decision Rule贝叶斯决策准则
Bayes Model Averaging贝叶斯模型平均
Bayes Optimal Classifier贝叶斯最优分类器
Bayes' Theorem贝叶斯定理
Bayesian Decision Theory贝叶斯决策理论
Bayesian Inference贝叶斯推断
Bayesian Learning贝叶斯学习
Bayesian Network贝叶斯网/贝叶斯网络
Bayesian Optimization贝叶斯优化
Beam Search束搜索
Benchmark基准
Belief Network信念网/信念网络
Belief Propagation信念传播
Bellman Equation贝尔曼方程
Bernoulli Distribution伯努利分布
Beta Distribution贝塔分布
Between-Class Scatter Matrix类间散度矩阵
BFGSBFGS
Bias偏差/偏置
Bias In Affine Function偏置
Bias In Statistics偏差
Bias Shift偏置偏移
Bias-Variance Decomposition偏差 - 方差分解
Bias-Variance Dilemma偏差 - 方差困境
Bidirectional Recurrent Neural Network双向循环神经网络
Bigram二元语法
Bilingual Evaluation UnderstudyBLEU
Binary Classification二分类
Binomial Distribution二项分布
Binomial Test二项检验
Boltzmann Distribution玻尔兹曼分布
Boltzmann Machine玻尔兹曼机
BoostingBoosting
Bootstrap AggregatingBagging
Bootstrap Sampling自助采样法
Bootstrapping自助法/自举法
Break-Event Point平衡点
Bucketing分桶
Calculus of Variations变分法
Cascade-Correlation级联相关
Catastrophic Forgetting灾难性遗忘
Categorical Distribution类别分布
Cell单元
Chain Rule链式法则
Chebyshev Distance切比雪夫距离
Class类别
Class-Imbalance类别不平衡
Classification分类
Classification And Regression Tree分类与回归树
Classifier分类器
Clique团
Cluster簇
Cluster Assumption聚类假设
Clustering聚类
Clustering Ensemble聚类集成
Co-Training协同训练
Coding Matrix编码矩阵
Collaborative Filtering协同过滤
Competitive Learning竞争型学习
Comprehensibility可解释性
Computation Graph计算图
Computational Learning Theory计算学习理论
Conditional Entropy条件熵
Conditional Probability条件概率
Conditional Probability Distribution条件概率分布
Conditional Random Field条件随机场
Conditional Risk条件风险
Confidence置信度
Confusion Matrix混淆矩阵
Conjugate Distribution共轭分布
Connection Weight连接权
Connectionism连接主义
Consistency一致性
Constrained Optimization约束优化
Context Variable上下文变量
Context Vector上下文向量
Context Window上下文窗口
Context Word上下文词
Contextual Bandit上下文赌博机/上下文老虎机
Contingency Table列联表
Continuous Attribute连续属性
Contrastive Divergence对比散度
Convergence收敛
Convex Optimization凸优化
Convex Quadratic Programming凸二次规划
Convolution卷积
Convolutional Kernel卷积核
Convolutional Neural Network卷积神经网络
Coordinate Descent坐标下降
Corpus语料库
Correlation Coefficient相关系数
Cosine Similarity余弦相似度
Cost代价
Cost Curve代价曲线
Cost Function代价函数
Cost Matrix代价矩阵
Cost-Sensitive代价敏感
Covariance协方差
Covariance Matrix协方差矩阵
Critical Point临界点
Cross Entropy交叉熵
Cross Validation交叉验证
Curse of Dimensionality维数灾难
Cutting Plane Algorithm割平面法
Data Mining数据挖掘
Data Set数据集
Davidon-Fletcher-PowellDFP
Decision Boundary决策边界
Decision Function决策函数
Decision Stump决策树桩
Decision Tree决策树
Decoder解码器
Decoding解码
Deconvolution反卷积
Deconvolutional Network反卷积网络
Deduction演绎
Deep Belief Network深度信念网络
Deep Boltzmann Machine深度玻尔兹曼机
Deep Convolutional Generative Adversarial Network深度卷积生成对抗网络
Deep Learning深度学习
Deep Neural Network深度神经网络
Deep Q-Network深度Q网络
Delta-Bar-DeltaDelta-Bar-Delta
Denoising去噪
Denoising Autoencoder去噪自编码器
Denoising Score Matching去躁分数匹配
Density Estimation密度估计
Density-Based Clustering密度聚类
Derivative导数
Determinant行列式
Diagonal Matrix对角矩阵
Dictionary Learning字典学习
Dimension Reduction降维
Directed Edge有向边
Directed Graphical Model有向图模型
Directed Separation有向分离
Dirichlet Distribution狄利克雷分布
Discriminative Model判别式模型
Discriminator判别器
Discriminator Network判别网络
Distance Measure距离度量
Distance Metric Learning距离度量学习
Distributed Representation分布式表示
Diverge发散
Divergence散度
Diversity多样性
Diversity Measure多样性度量/差异性度量
Domain Adaptation领域自适应
Dominant Strategy主特征值
Dominant Strategy占优策略
Down Sampling下采样
Dropout暂退法
Dropout Boosting暂退Boosting
Dropout Method暂退法
Dual Problem对偶问题
Dummy Node哑结点
Dynamic Bayesian Network动态贝叶斯网络
Dynamic Programming动态规划
Early Stopping早停
Eigendecomposition特征分解
Eigenvalue特征值
Element-Wise Product逐元素积
Embedding嵌入
Empirical Conditional Entropy经验条件熵
Empirical Distribution经验分布
Empirical Entropy经验熵
Empirical Error经验误差
Empirical Risk经验风险
Empirical Risk Minimization经验风险最小化
Encoder编码器
Encoding编码
End-To-End端到端
Energy Function能量函数
Energy-Based Model基于能量的模型
Ensemble Learning集成学习
Ensemble Pruning集成修剪
Entropy熵
Episode回合
Epoch轮
Error误差
Error Backpropagation Algorithm误差反向传播算法
Error Backpropagation误差反向传播
Error Correcting Output Codes纠错输出编码
Error Rate错误率
Error-Ambiguity Decomposition误差－分歧分解
Estimator估计/估计量
Euclidean Distance欧氏距离
Evidence证据
Evidence Lower Bound证据下界
Exact Inference精确推断
Example样例
Expectation期望
Expectation Maximization期望最大化
Expected Loss期望损失
Expert System专家系统
Exploding Gradient梯度爆炸
Exponential Loss Function指数损失函数
Factor因子
Factorization因子分解
Feature特征
Feature Engineering特征工程
Feature Map特征图
Feature Selection特征选择
Feature Vector特征向量
Featured Learning特征学习
Feedforward前馈
Feedforward Neural Network前馈神经网络
Few-Shot Learning少试学习
Filter滤波器
Fine-Tuning微调
Fluctuation振荡
Forget Gate遗忘门
Forward Propagation前向传播/正向传播
Forward Stagewise Algorithm前向分步算法
Fractionally Strided Convolution微步卷积
Frobenius NormFrobenius 范数
Full Padding全填充
Functional泛函
Functional Neuron功能神经元
Gated Recurrent Unit门控循环单元
Gated RNN门控RNN
Gaussian Distribution高斯分布
Gaussian Kernel高斯核
Gaussian Kernel Function高斯核函数
Gaussian Mixture Model高斯混合模型
Gaussian Process高斯过程
Generalization Ability泛化能力
Generalization Error泛化误差
Generalization Error Bound泛化误差上界
Generalize泛化
Generalized Lagrange Function广义拉格朗日函数
Generalized Linear Model广义线性模型
Generalized Rayleigh Quotient广义瑞利商
Generative Adversarial Network生成对抗网络
Generative Model生成式模型
Generator生成器
Generator Network生成器网络
Genetic Algorithm遗传算法
Gibbs Distribution吉布斯分布
Gibbs Sampling吉布斯采样/吉布斯抽样
Gini Index基尼指数
Global Markov Property全局马尔可夫性
Global Minimum全局最小
Gradient梯度
Gradient Clipping梯度截断
Gradient Descent梯度下降
Gradient Descent Method梯度下降法
Gradient Exploding Problem梯度爆炸问题
Gram MatrixGram 矩阵
Graph Convolutional Network图卷积神经网络/图卷积网络
Graph Neural Network图神经网络
Graphical Model图模型
Grid Search网格搜索
Ground Truth真实值
Hadamard ProductHadamard积
Hamming Distance汉明距离
Hard Margin硬间隔
Hebbian Rule赫布法则
Hidden Layer隐藏层
Hidden Markov Model隐马尔可夫模型
Hidden Variable隐变量
Hierarchical Clustering层次聚类
Hilbert Space希尔伯特空间
Hinge Loss Function合页损失函数/Hinge损失函数
Hold-Out留出法
Hyperparameter超参数
Hyperparameter Optimization超参数优化
Hypothesis假设
Hypothesis Space假设空间
Hypothesis Test假设检验
Identity Matrix单位矩阵
Imitation Learning模仿学习
Importance Sampling重要性采样
Improved Iterative Scaling改进的迭代尺度法
Incremental Learning增量学习
Independent and Identically Distributed独立同分布
Indicator Function指示函数
Individual Learner个体学习器
Induction归纳
Inductive Bias归纳偏好
Inductive Learning归纳学习
Inductive Logic Programming归纳逻辑程序设计
Inference推断
Information Entropy信息熵
Information Gain信息增益
Inner Product内积
Instance示例
Internal Covariate Shift内部协变量偏移
Inverse Matrix逆矩阵
Inverse Resolution逆归结
Isometric Mapping等度量映射
Jacobian Matrix雅可比矩阵
Jensen InequalityJensen不等式
Joint Probability Distribution联合概率分布
K-Armed Bandit Problemk-摇臂老虎机
K-Fold Cross Validationk 折交叉验证
Karush-Kuhn-Tucker ConditionKKT条件
Karush–Kuhn–TuckerKarush–Kuhn–Tucker
Kernel Function核函数
Kernel Method核方法
Kernel Trick核技巧
Kernelized Linear Discriminant Analysis核线性判别分析
KL DivergenceKL散度
L-BFGSL-BFGS
Label标签
Label Space标记空间
Lagrange Duality拉格朗日对偶性
Lagrange Multiplier拉格朗日乘子
Language Model语言模型
Laplace Smoothing拉普拉斯平滑
Laplacian Correction拉普拉斯修正
Latent Dirichlet Allocation潜在狄利克雷分配
Latent Semantic Analysis潜在语义分析
Latent Variable潜变量/隐变量
Law of Large Numbers大数定律
Layer Normalization层规范化
Lazy Learning懒惰学习
Leaky Relu泄漏修正线性单元/泄漏整流线性单元
Learner学习器
Learning学习
Learning By Analogy类比学习
Learning Rate学习率
Learning Vector Quantization学习向量量化
Least Square Method最小二乘法
Least Squares Regression Tree最小二乘回归树
Left Singular Vector左奇异向量
Likelihood似然
Linear Chain Conditional Random Field线性链条件随机场
Linear Classification Model线性分类模型
Linear Classifier线性分类器
Linear Dependence线性相关
Linear Discriminant Analysis线性判别分析
Linear Model线性模型
Linear Regression线性回归
Link Function联系函数
Local Markov Property局部马尔可夫性
Local Minima局部极小
Local Minimum局部极小
Local Representation局部式表示/局部式表征
Log Likelihood对数似然函数
Log Linear Model对数线性模型
Log-Likelihood对数似然
Log-Linear Regression对数线性回归
Logistic Function对数几率函数
Logistic Regression对数几率回归
Logit对数几率
Long Short Term Memory长短期记忆
Long Short-Term Memory Network长短期记忆网络
Loopy Belief Propagation环状信念传播
Loss Function损失函数
Low Rank Matrix Approximation低秩矩阵近似
Machine Learning机器学习
Macron-R宏查全率
Manhattan Distance曼哈顿距离
Manifold流形
Manifold Assumption流形假设
Manifold Learning流形学习
Margin间隔
Marginal Distribution边缘分布
Marginal Independence边缘独立性
Marginalization边缘化
Markov Chain马尔可夫链
Markov Chain Monte Carlo马尔可夫链蒙特卡罗
Markov Decision Process马尔可夫决策过程
Markov Network马尔可夫网络
Markov Process马尔可夫过程
Markov Random Field马尔可夫随机场
Mask掩码
Matrix矩阵
Matrix Inversion逆矩阵
Max Pooling最大汇聚
Maximal Clique最大团
Maximum Entropy Model最大熵模型
Maximum Likelihood Estimation极大似然估计
Maximum Margin最大间隔
Mean Filed平均场
Mean Pooling平均汇聚
Mean Squared Error均方误差
Mean-Field平均场
Memory Network记忆网络
Message Passing消息传递
Metric Learning度量学习
Micro-R微查全率
Minibatch小批量
Minimal Description Length最小描述长度
Minimax Game极小极大博弈
Minkowski Distance闵可夫斯基距离
Mixture of Experts混合专家模型
Mixture-of-Gaussian高斯混合
Model模型
Model Selection模型选择
Momentum Method动量法
Monte Carlo Method蒙特卡罗方法
Moral Graph端正图/道德图
Moralization道德化
Multi-Class Classification多分类
Multi-Head Attention多头注意力
Multi-Head Self-Attention多头自注意力
Multi-Kernel Learning多核学习
Multi-Label Learning多标记学习
Multi-Layer Feedforward Neural Networks多层前馈神经网络
Multi-Layer Perceptron多层感知机
Multinomial Distribution多项分布
Multiple Dimensional Scaling多维缩放
Multiple Linear Regression多元线性回归
Multitask Learning多任务学习
Multivariate Normal Distribution多元正态分布
Mutual Information互信息
N-Gram ModelN元模型
Naive Bayes Classifier朴素贝叶斯分类器
Naive Bayes朴素贝叶斯
Nearest Neighbor Classifier最近邻分类器
Negative Log Likelihood负对数似然函数
Neighbourhood Component Analysis近邻成分分析
Net Input净输入
Neural Network神经网络
Neural Turing Machine神经图灵机
Neuron神经元
Newton Method牛顿法
No Free Lunch Theorem没有免费午餐定理
Noise-Contrastive Estimation噪声对比估计
Nominal Attribute列名属性
Non-Convex Optimization非凸优化
Non-Metric Distance非度量距离
Non-Negative Matrix Factorization非负矩阵分解
Non-Ordinal Attribute无序属性
Norm范数
Normal Distribution正态分布
Normalization规范化
Nuclear Norm核范数
Number of Epochs轮数
Numerical Attribute数值属性
Object Detection目标检测
Oblique Decision Tree斜决策树
Occam's Razor奥卡姆剃刀
Odds几率
Off-Policy异策略
On-Policy同策略
One-Dependent Estimator独依赖估计
One-Hot独热
Online Learning在线学习
Optimizer优化器
Ordinal Attribute有序属性
Orthogonal正交
Orthogonal Matrix正交矩阵
Out-Of-Bag Estimate包外估计
Outlier异常点
Over-Parameterized过度参数化
Overfitting过拟合
Oversampling过采样
Pac-LearnablePAC可学习
Padding填充
Pairwise Markov Property成对马尔可夫性
Parallel Distributed Processing分布式并行处理
Parameter参数
Parameter Estimation参数估计
Parameter Space参数空间
Parameter Tuning调参
Parametric ReLU参数化修正线性单元/参数化整流线性单元
Part-Of-Speech Tagging词性标注
Partial Derivative偏导数
Partially Observable Markov Decision Processes部分可观测马尔可夫决策过程
Partition Function配分函数
Perceptron感知机
Performance Measure性能度量
Perplexity困惑度
Pointer Network指针网络
Policy策略
Policy Gradient策略梯度
Policy Iteration策略迭代
Polynomial Kernel Function多项式核函数
Pooling汇聚
Pooling Layer汇聚层
Positive Definite Matrix正定矩阵
Post-Pruning后剪枝
Potential Function势函数
Power Method幂法
Pre-Training预训练
Precision查准率/准确率
Prepruning预剪枝
Primal Problem主问题
Primary Visual Cortex初级视觉皮层
Principal Component Analysis主成分分析
Prior先验
Probabilistic Context-Free Grammar概率上下文无关文法
Probabilistic Graphical Model概率图模型
Probabilistic Model概率模型
Probability Density Function概率密度函数
Probability Distribution概率分布
Probably Approximately Correct概率近似正确
Proposal Distribution提议分布
Prototype-Based Clustering原型聚类
Proximal Gradient Descent近端梯度下降
Pruning剪枝
Quadratic Loss Function平方损失函数
Quadratic Programming二次规划
Quasi Newton Method拟牛顿法
Radial Basis Function径向基函数
Random Forest随机森林
Random Sampling随机采样
Random Search随机搜索
Random Variable随机变量
Random Walk随机游走
Recall查全率/召回率
Receptive Field感受野
Reconstruction Error重构误差
Rectified Linear Unit修正线性单元/整流线性单元
Recurrent Neural Network循环神经网络
Recursive Neural Network递归神经网络
Regression回归
Regularization正则化
Regularizer正则化项
Reinforcement Learning强化学习
Relative Entropy相对熵
Reparameterization再参数化/重参数化
Representation表示
Representation Learning表示学习
Representer Theorem表示定理
Reproducing Kernel Hilbert Space再生核希尔伯特空间
Rescaling再缩放
Reset Gate重置门
Residual Connection残差连接
Residual Network残差网络
Restricted Boltzmann Machine受限玻尔兹曼机
Reward奖励
Ridge Regression岭回归
Right Singular Vector右奇异向量
Risk风险
Robustness稳健性
Root Node根结点
Rule Learning规则学习
Saddle Point鞍点
Sample样本
Sample Complexity样本复杂度
Sample Space样本空间
Scalar标量
Selective Ensemble选择性集成
Self Information自信息
Self-Attention自注意力
Self-Organizing Map自组织映射网
Self-Training自训练
Semi-Definite Programming半正定规划
Semi-Naive Bayes Classifiers半朴素贝叶斯分类器
Semi-Restricted Boltzmann Machine半受限玻尔兹曼机
Semi-Supervised Clustering半监督聚类
Semi-Supervised Learning半监督学习
Semi-Supervised Support Vector Machine半监督支持向量机
Sentiment Analysis情感分析
Separating Hyperplane分离超平面
Sequential Covering序贯覆盖
Sigmoid Belief NetworkSigmoid信念网络
Sigmoid FunctionSigmoid函数
Signed Distance带符号距离
Similarity Measure相似度度量
Simulated Annealing模拟退火
Simultaneous Localization And Mapping即时定位与地图构建
Singular Value奇异值
Singular Value Decomposition奇异值分解
Skip-Gram Model跳元模型
Smoothing平滑
Soft Margin软间隔
Soft Margin Maximization软间隔最大化
SoftmaxSoftmax/软最大化
Softmax FunctionSoftmax函数/软最大化函数
Softmax RegressionSoftmax回归/软最大化回归
Softplus FunctionSoftplus函数
Span张成子空间
Sparse Coding稀疏编码
Sparse Representation稀疏表示
Sparsity稀疏性
Specialization特化
Splitting Variable切分变量
Squashing Function挤压函数
Standard Normal Distribution标准正态分布
State状态
State Value Function状态值函数
State-Action Value Function状态-动作值函数
Stationary Distribution平稳分布
Stationary Point驻点
Statistical Learning统计学习
Steepest Descent最速下降法
Stochastic Gradient Descent随机梯度下降
Stochastic Matrix随机矩阵
Stochastic Process随机过程
Stratified Sampling分层采样
Stride步幅
Structural Risk结构风险
Structural Risk Minimization结构风险最小化
Subsample子采样
Subsampling下采样
Subset Search子集搜索
Subspace子空间
Supervised Learning监督学习
Support Vector支持向量
Support Vector Expansion支持向量展式
Support Vector Machine支持向量机
Surrogat Loss替代损失
Surrogate Function替代函数
Surrogate Loss Function代理损失函数
Symbolism符号主义
Tangent Propagation正切传播
Teacher Forcing强制教学
Temporal-Difference Learning时序差分学习
Tensor张量
Test Error测试误差
Test Sample测试样本
Test Set测试集
Threshold阈值
Threshold Logic Unit阈值逻辑单元
Threshold-Moving阈值移动
Tied Weight捆绑权重
Tikhonov RegularizationTikhonov正则化
Time Delay Neural Network时延神经网络
Time Homogenous Markov Chain时间齐次马尔可夫链
Time Step时间步
Token词元
Token词元
Tokenization词元化
Tokenizer词元分析器
Topic Model话题模型
Topic Modeling话题分析
Trace迹
Training训练
Training Error训练误差
Training Sample训练样本
Training Set训练集
Transductive Learning直推学习
Transductive Transfer Learning直推迁移学习
Transfer Learning迁移学习
TransformerTransformer
Transformer ModelTransformer模型
Transpose转置
Transposed Convolution转置卷积
Trial And Error试错
Trigram三元语法
Turing Machine图灵机
Underfitting欠拟合
Undersampling欠采样
Undirected Graphical Model无向图模型
Uniform Distribution均匀分布
Unigram一元语法
Unit单元
Universal Approximation Theorem通用近似定理
Universal Approximator通用近似器
Universal Function Approximator通用函数近似器
Unknown Token未知词元
Unsupervised Layer-Wise Training无监督逐层训练
Unsupervised Learning无监督学习
Update Gate更新门
Upsampling上采样
V-StructureV型结构
Validation Set验证集
Validity Index有效性指标
Value Function Approximation值函数近似
Value Iteration值迭代
Vanishing Gradient Problem梯度消失问题
Vapnik-Chervonenkis DimensionVC维
Variable Elimination变量消去
Variance方差
Variational Autoencoder变分自编码器
Variational Inference变分推断
Vector向量
Vector Space Model向量空间模型
Version Space版本空间
Viterbi Algorithm维特比算法
Vocabulary词表
Warp线程束
Weak Learner弱学习器
Weakly Supervised Learning弱监督学习
Weight权重
Weight Decay权重衰减
Weight Sharing权共享
Weighted Voting加权投票
Whitening白化
Winner-Take-All胜者通吃
Within-Class Scatter Matrix类内散度矩阵
Word Embedding词嵌入
Word Sense Disambiguation词义消歧
Word Vector词向量
Zero Padding零填充
Zero-Shot Learning零试学习
Zipf's Law齐普夫定律
来源：人工智能AI技术