统计机器学习（二）-- 概率（3、4、5、6）

作者: 雪茸川 | 来源:发表于2019-02-07 17:03 被阅读0次

统计机器学习（二）-- 概率（3、4、5、6）
NLP的应用
2018-11-06
机器学习之旅二：概率论
2019-11-28
机器学习之数学知识
数据分析学习Day1---商务与统计（第三章贝叶斯定理）
机器学习的“惯性思维”
年底基础计划
基本数学知识

概率

1.1 概率空间和事件
样本空间 $\Omega$ 是实验所有可能结果的空间， $\omega\in\Omega$ , 是一个元素或者实现
事件是样本空间的子集

测度论相关巴拉巴拉

$P(A\cup B)=P(A)+P(B)+P(A\cap B)$

随机变量

$\Omega \rightarrow \Re$

离散随机变量

$P \{ X=x_k \} = p_k, k=1,2,···$
$f_x(x) = P(X=x)$

(0-1)分布
$P\{X=k\} = p^k(1-p)^{1-k}, k=0,1$
数学期望 $E(X) = p$
二项分布
$p\{X=k\} = C^k_np^k(1-p)^{n-k}$
数学期望 $E(X) = np$
- 性质
  $X_1 \sim Binomial(n_1, p) \\ X_2 \sim B(n_2, p) \\ X_1+X_2 \sim B(n_1+n_2, p)$
- $\Gamma$ 函数
  $\Gamma(n) = (n-1)! \quad$ n:整数
  $\Gamma(z) = \int_0^{\infty}\frac{t^{z-1}}{e^t}dt$
$\binom{n}{k} = \frac{n!}{k!(n-k)!}= \frac{\Gamma(n+1)}{\Gamma(k+1)\Gamma(n-k+1)}$
$r:real number\\k:integer\\\binom{r}{k}= \frac{\Gamma(r+1)}{\Gamma(k+1)\Gamma(r-k+1)}\\ \binom{r}{0} =0\quad\binom{r}{1}=r$
- 推广
  - Negative Binomial Distribution
几何分布
$P\{X=k\}=(1-p)^{k-1}p$
数学期望 $E(X) = \frac{1}{p}$
比如丢硬币得到一次正面所需要的次数
泊松分布
$P\{x=k\}= \frac{\lambda^ke^{-k}}{k!}$
- 泊松定理
  $\lim_{n\to\infty }C_n^kp_n^k(1-p_n)^{n-k}=\frac{\lambda^ke^{-\lambda}}{k!}$
  注意 $np_n=\lambda$ ：意味着当n很大的时候 $p_n$ 必定很小
  可能场景：一本书中一页的印刷错误，一天内病人的人数
几何分布和泊松分布的关系

CDF : 分布函数 $\Re\rightarrow[0,1]$

$F_X(x)=P(X<x)$

inverse CDF

$F^{-1}(q)= inf\{x:F(x) >q\}$
指使 $F(x)>q$ 的最小的x值，也叫做的分位数函数

Mode 众数

概率最大的数, PDF极值

连续分布

公式

$For \quad a>0, p>0 \\ \int_0^\infty x^{p-1}e^{-\alpha x}dx=\alpha^{-p}\Gamma(p)$

广义逆高斯分布（GIG）

$f(x)=\frac{(a/b)^p/2}{aK_p(\sqrt{ab})} x^{p-1}e^{-(ax+bx^{-1}) / 2}$

Kr(·) 修正的贝塞尔函数
$K_r(\mu)=K_{-r}(\mu)\\K_{r+1}(\mu) = 2r/\mu K_r(\mu) + K_{r-1}(\mu)\\ K_{1/2}(\mu) = K_{-1/2}(\mu)=\sqrt{\pi/2\mu} e^{-\mu}$

Gamma 分布

https://blog.csdn.net/weixin_41875052/article/details/79843374

$\chi^2$ 分布

Beta 分布

https://blog.csdn.net/bitcarmanlee/article/details/82156281

t分布

统计机器学习（二）-- 概率（3、4、5、6）
概率 1.1 概率空间和事件样本空间是实验所有可能结果的空间， , 是一个元素或者实现事件是样本空间的子集测度论...
NLP的应用
1 信息摘要 2 机器翻译 3 统计型机器翻译 4 信息检索布尔检索向量空间模型概率模型 5 语音识别 6 文本...
2018-11-06
机器学习： 1、kmeans 2、meanshift 3、最小二乘法 4、逻辑回归、线性回归 5、混合高斯模型 6...
机器学习之旅二：概率论
以下文章作为个人学习的知识总结机器学习也叫做统计学习，因为大部分机器学习算法建立在概率统计理论基础之上，掌握概率...
2019-11-28
softmax运算_360搜索机器学习——softmax计算 - 简书概率与统计——条件概率、全概率、贝叶斯、...
机器学习之数学知识
1、向量 2、矩阵 3、导数 4、数值计算 5、概率分布 6、参数估计 7、回归分析线性回归:是统计学中对若干样...
数据分析学习Day1---商务与统计（第三章贝叶斯定理）
1.概率论与统计为反向关系 2. 3.事件并的概率计算：加法法则 4.条件概率公式： 5.
机器学习的“惯性思维”
机器学习是什么也被称为统计学习理论简单来说，就是使用统计学统计出需要的数据，然后取大概率事件为结论机器学习的...
年底基础计划
5电路分析 6模拟电子技术 7数字电子技术 4微机原理 1线性代数 2概率论与数理统计 3理论力学
基本数学知识
1：最大似然估计2：。。。 3：梯度下降 4：泰勒级数 5：高斯分布 6：一元概率密度二元概率密度多元概率密度中...

统计机器学习（二）-- 概率（3、4、5、6）

概率

随机变量

离散随机变量

CDF : 分布函数 $\Re\rightarrow[0,1]$

inverse CDF

Mode 众数

连续分布

公式

广义逆高斯分布（GIG）

Gamma 分布

$\chi^2$ 分布

Beta 分布

t分布

相关文章

统计机器学习（二）-- 概率（3、4、5、6）

NLP的应用

2018-11-06

机器学习之旅二：概率论

2019-11-28

机器学习之数学知识

数据分析学习Day1---商务与统计（第三章贝叶斯定理）

机器学习的“惯性思维”

年底基础计划

基本数学知识

网友评论

延伸阅读

深度阅读

栏目导航

热点阅读