深度学习中常见分布-正态分布和伽玛分布

el/2024/7/17 21:10:36

正态分布Normal distribution)又名高斯分布Gaussian distribution),是一个在数学、物理及工程等领域都非常重要的概率分布,在统计学的许多方面有着重大的影响力。

若随机变量X服从一个数学期望为μ、标准方差为σ2的高斯分布,记为:

XN(μ,σ2),

则其概率密度函数为

 

正态分布的期望值μ决定了其位置,其标准差σ决定了分布的幅度。因其曲线呈钟形,因此人们又经常称之为钟形曲线。我们通常所说的标准正态分布是μ = 0,σ = 1的正态分布(见右图中绿色曲线)。

 

 

概率密度函数

正态分布的概率密度函数均值为μ 方差为σ2 (或标准差σ)是高斯函数的一个实例:

 

(请看指数函数以及π.)

如果一个随机变量X服从这个分布,我们写作 X ~ N(μ,σ2). 如果μ = 0并且σ = 1,这个分布被称为标准正态分布,这个分布能够简化为

 

右边是给出了不同参数的正态分布的函数图。

正态分布中一些值得注意的量:

  • 密度函数关于平均值对称
  • 平均值是它的众数(statistical mode)以及中位数(median)
  • 函数曲线下68.268949%的面积在平均值左右的一个标准差范围内
  • 95.449974%的面积在平均值左右两个标准差2σ的范围内
  • 99.730020%的面积在平均值左右三个标准差3σ的范围内
  • 99.993666%的面积在平均值左右四个标准差4σ的范围内
  • 反曲点(inflection point)在离平均值的距离为标准差之处

 

 

伽玛分布

 

 

伽玛分布(Gamma Distribution)是统计学的一种连续概率函数。Gamma分布中的参数α称为形状参数(shape parameter)β称为尺度参数(scale parameter)

 

Gamma的可加性

 

两个独立随机变量X和Y,且X~Ga(a,γ),Y~Ga(b,γ),则Z = X+Y ~ Ga(a+b,γ)。注意X和Y的尺度参数必须一样。
数学表达式
若随机变量X具有概率密度
其中α>0,β>0,则称随机变量X服从参数α,β的伽马分布,记作G(α,β).
Gamma分布的特殊形式
当形状参数α=1时,伽马分布就是参数为γ的指数分布,X~Exp(γ)
当α=n/2,β=1/2时,伽马分布就是自由度为n的卡方分布,X^2(n)

 

“无意中发现了一个巨牛的人工智能教程,忍不住分享一下给大家。教程不仅是零基础,通俗易懂,而且非常风趣幽默,像看小说一样!觉得太牛了,所以分享给大家。点这里可以跳转到教程。”

 

 

 


http://www.ngui.cc/el/5557036.html

相关文章

tensorflow:批标准化(Bacth Normalization,BN)

批标准化(Bactch Normalization,BN)是为了克服神经网络加深导致难以训练而诞生的,随着神经网络深度加深,训练起来就会越来越困难,收敛速度回很慢,常常会导致梯度弥散问题(Vanishing Gradient Pr…

池化函数(Pooling Function)

1. 池化(Pooling)概念 在神经网络中,池化函数(Pooling Function)一般在卷积函数的下一层。在经过卷积层提取特征之后,得到的特征图代表了 比 像素 更高级的特征,已经可以交给 分类器 进行训练分类了。但是我们 每一组卷积核 都生成 一副…

深度学习(图像处理): A neural algorithm of artistic style算法详解

Gatys, Leon A., Alexander S. Ecker, and Matthias Bethge. “A neural algorithm of artistic style.” arXiv preprint arXiv:1508.06576 (2015). 下面这篇发表于CVPR16,内容类似,排版更便于阅读。 Gatys, Leon A., Alexander S. Ecker, and Matthias…

深度学习(图像处理)A Neural Algorithm of Artistic Style 图像风格转换 - keras简化版实现

前言 深度学习是最近比较热的词语。说到深度学习的应用,第一个想到的就是Prisma App的图像风格转换。既然感兴趣就直接开始干,读了论文,一知半解;看了别人的源码,才算大概了解的具体的实现,也惊叹别人的奇思…

统计学习:正则化与交叉验证

1. 正则化 模型选择的经典方法是正则化(regularization)。正规化是结构风险最小化策略的实现,是在经验风险上加一个正则化项(regularizer)或罚项(penalty term)。正则化一般是模型复杂度的单调递…

Neo4j数据库基础

1、Neo4j简介 可能很多同学之前没有接触过图数据库,Neo4j就是一个图数据库,首先对Neo4j做一个初步的介绍: Neo4j是一个——面向网络的数据库——基于磁盘的、具备完全的事务特性的Java持久化引擎,但是它将结构化数据存储在网络上…

ipython开发工具Jupyter Notebook安装

第一步:安装ipython,安装完成后输入ipython,如下图,输入exit可退出 pip install ipython 第二步:安装jupyter pip install jupyter 第三步:配置环境,通过远程方式访问jupyter notebook jupyter not…

ubuntu下neo4j的安装

环境: ubuntu14.04 neo4j-enterprise-1.9.4-unix.tar.gz neo4j-enterprise-2.3.0-M02同样可行 单机: 1、下载neo4j并解压 地址:http://neo4j.com/download/other-releases/ wget -O - https://debian.neo4j.org/neotechnology.gpg.ke…

Neo4j启动失败/usr/share/neo4j/bin/neo4j: line 411: /var/run/neo4j/neo4j.pid: No such file or directory

启动Neo4j报错如下: rootyumh: neo4j restart Neo4j not running Starting Neo4j. WARNING: Max 1024 open files allowed, minimum of 40000 recommended. See the Neo4j manual./usr/share/neo4j/bin/neo4j: 行 411: /var/run/neo4j/neo4j.pid: 没有那个文件或…

neo4j图数据库--Cypher入门

1、Cypher 查询语言简单使用 1.1.基本语法 Node语法: Cypher使用一对圆括号来表示一个节点:提供了多种格式如下:( ) 匿名节点(matrix) 为节点添加一个ID (:Movie) Movie label标签,声明的是节点类型。noe4j的索引使用label&…