《贝叶斯统计(双语)》教学大纲课程编号:120872B课程类型:□通识教育必修课□通识教育选修课□专业必修课□√专业选修课□学科基础课总学时:32 讲课学时:32实验(上机)学时:0学分:2适用对象:经济统计学先修课程:微积分、概率论与数理统计学毕业要求:1.应用专业知识,解决数据分析问题2.可以建立统计模型,获得有效结论3.掌握统计软件及常用数据库工具的使用4.关注国际统计应用的新进展5.基于数据结论,提出决策咨询建议6.具有不断学习的意识一、课程的教学目标贝叶斯统计是上世纪50年代后,才迅速发展起来的一门统计理论。
目前,在欧美等西方国家,贝叶斯统计已经成为了与经典统计学派并驾齐驱的当今两大统计学派之一;随着贝叶斯理论和方法的不断发展和完善,以及相应的计算软件的研制,贝叶斯方法在实践中获得了日趋广泛的应用;特别是,贝叶斯决策问题在统计应用中占有越来越重要的地位。
在商业经济预测、政府宏观经济管理、国防工业中对武器装备系统可靠性评估、生物医学研究;知识发现和数据挖掘技术等都获得了广泛应用。
本课程通过贝叶斯统计的教学使学习过传统的数理统计课程的学生了解贝叶斯统计的基本思想和基本观点,了解贝叶斯统计与传统的数理统计在理论和处理方法上的区别,了解贝叶斯统计的最新进展,能够系统的掌握贝叶斯统计的基本理论、基本方法,特别是贝叶斯统计极具特色的一些处理方法,引进一个效用函数(utility function)并选择使期望效用最大的最优决策,这样就把贝叶斯的统计思想扩展到在不确定时的决策问题。
很好的将统计学与最优化的思想方法和技术很好的进行了结合。
贝叶斯统计理论和方法技术的学习,不仅能够提高学生分析和解决实际问题的能力,还能够更进一步提高对经典数理统计的深入理解。
二、教学基本要求根据贝叶斯统计课程的教学内容,本课程将重点介绍贝叶斯统计推断理论,贝叶斯决策理论。
并且注重贝叶斯统计处理方法和基本观点与传统数理统计相应内容对比的讲授方式。
注重案例教学,安排学生课后查阅文献资料,以及课堂研讨等方式,了解贝叶斯统计理论和应用最新成果及前沿研究进展。
对最新贝叶斯网络和贝叶斯统计的方法除了传统讲授方式外,适当的安排上机实验,了解贝叶斯统计相关软件的使用方法。
课程的考核方式:期末开卷+ 论文方式,卷面60%,平时和论文40%。
三、各教学环节学时分配以表格方式表现各章节的学时分配,表格如下:教学课时分配四、教学内容第一章绪论第一节贝叶斯理论发展历史简介简单的介绍贝叶斯理论发展历史,在贝叶斯理论发展过程中一些统计学家的重要工作。
第二节贝叶斯方法的特点1.贝叶斯统计理论的基本观点2.贝叶斯统计与传统数理统计的区别第三节现代贝叶斯统计理论的研究现状1.先验分布理论的研究2.后验分布的统计推断3.贝叶斯网络技术的发展第四节贝叶斯方法的应用1.在经济分析中的应用2.在保险精算中的应用3.在可靠性技术研究中的应用4.在数据挖掘中的应用教学重点、难点:重点掌握贝叶斯统计的基本思想,本章难点是贝叶斯统计的基本思想以及贝叶斯统计学派与传统的频率学派的分歧。
课程的考核要求:通过本章的学习,要求学生了解贝叶斯统计思想的历史背景、掌握基本观点及其基本学术思想的内涵、了解贝叶斯统计与传统数理统计的区别,了解贝叶斯统计理论的研究现状及贝叶斯方法的应用。
复习思考题:1.贝叶斯统计理论的基本观点是什么?2.贝叶斯学派与频率学派之间存在的重大分歧是什么?3.请课后查阅贝叶斯理论相关应用文献资料,然后回答贝叶斯理论有哪些应用?第二章先验分布与后验分布第一节三种信息1.总体信息2.样本信息3.先验信息第二节贝叶斯公式1.贝叶斯公式的密度函数形式2.后验分布是三种信息的综合第三节共轭先验分布1.共轭先验分布2.后验分布的计算3.共轭先验分布的优缺点第四节超参数的确定1.利用先验矩2.利用先验分位数3.利用先验矩和先验分位数4.其他方法第五节多参数模型1.指数分布族的相关理论2.多参数模型介绍第六节充分统计量1.经典统计中充分统计量的基本概念和因子分解定理2.贝叶斯统计中充分统计量的基本概念和因子分解定理教学重点、难点:重点讲解贝叶斯公式的密度函数形式,特别是连续随机变量形式。
共轭先验分布的计算及其优缺点、课程的考核要求:通过本章的学习,要求学生掌握先验分布与后验分布的概念。
理解贝叶斯统计中的三种信息;掌握贝叶斯公式的密度函数形式、共轭先验分布的计算及其优缺点、超参数的确定方法;了解多参数模型和充分统计量。
复习思考题:1. 什么是贝叶斯公式?写出贝叶斯公式的三种形式。
2. 设θ是一批产品的不合格率,已知它不是0.1就是0.2,其先验分布为:(0.1)0.7,(0.2)0.3ππ==假如从这批产品中随机取出8个进行检查,发现有2个不合格品,求θ的后验分布。
3. 共轭先验分布的优缺点是什么?4. 验证:泊松分布的均值λ的共轭先验分布是伽玛分布。
5. 设12,,,n x x x 是来自泊松分布()p λ的一个样本,用贝叶斯公式证明:1ni i x =∑是λ的充分统计量。
第三章 贝叶斯推断第一节 条件方法 第二节 点估计 1. 贝叶斯估计 2. 贝叶斯估计的误差 第三节 区间估计 1. 可信区间2. 最大后验密度(HPD )可信区间 第四节 假设检验 1. 假设检验 2. 贝叶斯因子3. 简单假设对简单假设4. 复杂假设对复杂假设5. 简单原假设对复杂备择假设 第五节 预测1. 预测的基本概念和基本问题2. 预测的贝叶斯方法 第六节 似然原理 1. 对似然函数的理解 2. 似然原理3. 两个学派对似然原理的不同理解而产生的影响教学重点、难点:重点讲解贝叶斯估计和贝叶斯假设检验的思想方法。
难点二次损失函数下参数估计的贝叶斯方法。
课程的考核要求:通过本章的学习,要求学生掌握二次损失函数下参数估计的贝叶斯方法、估计量的误差分析、最大后验密度的可信区间;掌握贝叶斯基本假设的涵义、检验方法的一般步骤,了解贝叶斯预测和似然原理。
能用这些方法解决一些简单的实际问题。
复习思考题:1. 简述条件方法的基本思想。
2. 请叙述贝叶斯参数估计基本思想,并写出贝叶斯估计的具体步骤。
3. 怎样评价贝叶斯估计的优劣?4. 简述贝叶斯假设检验的基本思想,它与经典假设检验的根本区别是什么?5. 已知随机样本210,,~(,)n X X N θσ⋅⋅⋅,其中20σ已知。
设θ的先验分布为双指数分布,即/()/(2)ch ec θθ-=,其中c 已知。
(1)试求θ的后验分布;(2)试求θ的后验分布的数学期望。
6.已知随机变量21~(,)X N θσ,随机变量22~(,)Y N θσ,其中两个正态总体含有相同的未知θ,且2212,σσ已知。
设θ的先验分布2~(,)N θμτ,其中2,μτ已知。
(1)如果没有来自总体21(,)N θσ的1,,n X X ⋅⋅⋅样本数据,试求随机变量Y 的贝叶斯预测值及预测区间。
(2)如果给出了来自总体21(,)N θσ的1,,n X X ⋅⋅⋅样本数据,试求随机变量Y 的贝叶斯预测值及预测区间。
第四章 先验分布的确定第一节 主观概率 1. 主观概率2. 确定主观概率的方法 第二节 利用先验信息确定先验分布 1. 直方图法2. 选定先验密度函数形式再估计其超参数3. 定分度法与变分度法第三节 利用边缘分布m(x)确定先验密度 1. 边缘分布m (x ) 2. 混合分布3. 先验选择的ML —Ⅱ方法4. 先验选择的矩方法 第四节 无信息先验分布 1. 贝叶斯假设2. 位置-尺度参数的无信息先验分布3. 尺度参数的无信息先验分布4. 用Fisher 信息阵确定无信息先验分布 第五节 多层先验*1. 多层先验基本概念和原理2. 多层模型教学重点、难点: 重点介绍无信息先验分布。
特别是位置参数和尺度参数的无信息先验分布,和Fisher 信息阵确定无信息先验分布。
课程的考核要求:先验分布的确定是贝叶斯学派研究的重点问题,更是研究的难点,也是经典学派批评的热点。
要求学生掌握确定先验分布的几个典型方法,掌握贝叶斯假设的概念,掌握位置参数和尺度参数的无信息先验分布,会用Fisher信息阵确定无信息先验分布等,并运用这些方法解决一些实际问题。
复习思考题:1. 如何理解主观概率?2.什么是贝叶斯假设?3. 混合分布的含义是什么?4. 简述Fisher信息阵确定无信息先验分布的基本步骤。
第五章决策中的收益、损失与效用第一节决策问题的三要素1.决策问题2.决策问题的三要素第二节决策准则1.行动的容许性2.决策准则第三节先验期望准则1.先验期望准则的基本原理和应用2.先验期望准则的两个重要性质第四节损失函数1.从收益到损失2.损失函数3.损失函数下的悲观准则第五节常用的损失函数*1.常用损失函数2.常用损失函数的应用第六节效用函数*1.效用和效用函数2.效用的测定3.效用尺度4.常见的效用曲线5.用效用函数作决策的例子6.从效用到损失教学重点、难点:重点介绍决策问题的三要素、决策准则、先验期望准则及性质,常用的损失函数、损失函数下的悲观准则和先验期望准则。
课程的考核要求:掌握决策问题的三要素、决策准则、先验期望准则及其性质,了解常用的损失函数、损失函数下的悲观准则和先验期望准则;理解效应和效应函数、常用的效应曲线和效应的测定方法,以及效应曲线在决策中的应用。
复习思考题:1. 如何理解悲观准则、乐观准则、折中准则和先验期望准则之间的联系?2.某企业准备经营一种新产品,可采取得行动有:大批量、中批量和小批量生产。
市场可能出现的状况有:畅销、一般和滞销。
如大批量生产,在畅销时可获利100万元,一般时可获利30万元,滞销时亏损60万元;如中批量生产,在三种市场情况下可获利50万元、40万元和亏损20万元;如小批量生产,在三种市场情况下可获利10万元、9万元和6万元。
(1)写出收益矩阵(2)在悲观准则下,该企业的最优行动是什么?(3)在乐观准则下,该企业的最优行动是什么?α=,该企业的最优行动是什么?(4)若乐观系数0.8第六章贝叶斯决策第一节贝叶斯决策问题1.无数据的决策问题2.统计决策问题3.贝叶斯决策问题第二节后验风险准则1.后验风险2.决策函数3.后验风险准则第三节常用损失函数下的贝叶斯估计1. 平方损失下的贝叶斯估计2. 线性损失下的贝叶斯估计3. 有限个行动问题的假设检验 第四节 抽样信息期望值 1. 完全信息期望值 2. 抽样信息期望值 第五节 最佳样本量的确定 1. 抽样净益2. 最佳样本量及其上界3. 最佳样本量的求法第六节 二行动线性决策问题的EVPI1.正态分布下二行动线性决策问题的EVPI2. 贝塔分布下二行动线性决策问题的EVPI *3. 伽玛分布下二行动线性决策问题的EVPI *教学重点、难点:贝叶斯决策的基本概念、后验风险、决策函数和后验风险准则;平方损失函数和线性损失函数下参数的贝叶斯估计方法、有限个行动问题的贝叶斯假设检验;课程的考核要求:本章系统介绍贝叶斯决策的基本理论和方法,通过本章的学习,要求学生掌握贝叶斯决策的基本概念、后验风险、决策函数和后验风险准则;熟练掌握平方损失函数和线性损失函数下参数的贝叶斯估计、有限个行动问题的贝叶斯hl 检验;了解完全信息期望值、抽样信息期望值、最佳样本容量的确定和正态分布下二行动线性决策问题的先验EVPI 。