课程大纲

课程大纲

随机建模

课程编码:180087120100P1001Z 英文名称:Stochastic Modeling 课时:60 学分:3.00 课程属性:学科核心课 主讲教师:李海东

教学目的要求
This course primarily introduces commonly used stochastic process models and their principles in the context of dynamic decision systems modeling. Additionally, it covers some advanced dynamic optimization techniques based on stochastic processes. Through this course, students are expected to master the core concepts and principles of stochastic process modeling, develop the basic skills required for modeling, analyzing, and optimizing dynamic systems, and be able to apply these models and tools to solve practical problems.
本课程主要介绍动态决策系统建模时常用的随机过程模型及其原理,同时介绍基于随机的一些前沿动态优化技术。希望通过本课程的训练,学生可以掌握随机过程建模的核心思想和原理,具备动态系统建模、分析及优化的基本能力,并能运用这些模型工具解决一些实际问题。

预修课程
Advanced Mathematics, Fundamentals of Probability Theory
高等数学,概率论基础

大纲内容
第一章 Course Introduction and Foundation of Probability课程介绍和概率基础 6.0学时 李海东
第1节  Course Introduction(课程介绍)
第2节 Probability and Random Variable(概率与随机变量)
第3节  Conditional Probability & Conditional Expectation(条件概率与条件期望)
第4节 Limit Theorems and Probability Inequalities(极限定理与概率不等式)
第5节 Stochastic Processes(随机过程)
第二章 Exponential Distribution and Poisson Process指数分布与泊松过程 6.0学时 李海东
第1节 The Exponential Distribution(指数分布)
第2节 The Poisson Process(泊松过程)
第3节 Interarrival and Waiting Time Distributions(到达间隔时间和等待时间分布)
第4节  Conditional Distribution of the Arrival Times(到达时间的条件分布)
第5节  Generalizations of the Poison Process(泊松过程的推广)
第三章 Discrete-Time Markov Chains离散时间马尔可夫链 6.0学时 李海东
第1节  Chapman-Kolmogorov Equations(Chapman-Kolmogorov方程)
第2节  Classification of States(状态分类)
第3节  Limit Theorems(极限定理)
第4节  Transitions among Classes(类之间的转移)
第5节  Applications of Markov Chains(马尔可夫链的应用)
第四章 Continuous-Time Markov Chains连续时间马尔可夫链 6.0学时 李海东
第1节 Continuous-Time Markov Chains(连续时间马尔可夫链)
第2节  Birth and Death Processes(生灭过程)
第3节  Transition Probability Function(转移概率方程)
第4节  Limiting Probabilities(极限概率)
第5节  Time Reversibility(时间可逆性)
第五章 Renewal Theory and Its Applications更新理论及其应用 6.0学时 李海东
第1节  Distribution of N(t)(N(t)的分布)
第2节 Limit Theorems and Applications(极限定理及其应用)
第3节  Key Renewal Theorem and Applications(关键更新定理及其应用)
第4节 Renewal Reward Processes(更新报酬过程)
第5节 Regenerative Processes(再生过程)
第六章 Brownian Motion and Stationary Process布朗运动与平稳过程 6.0学时 李海东
第1节 Brownian Motion(布朗运动)
第2节 Hitting Times, Maximum Variable, and the Gambler’s Ruin Problem(撞击时间、最大变量与赌徒破产问题)
第3节 Variations on Brownian Motion(布朗运动的变体)
第4节 Pricing Stock Options(股票期权定价)
第5节  Gaussian Processes(高斯过程)
第七章 Discrete Time Dynamic Programming离散时间动态规划 6.0学时 李海东
第1节 Discrete Time Dynamic Programming(离散时间动态规划)
第2节 Principle of Optimality(最优化原理)
第3节  Bellman Equation(贝尔曼方程)
第4节 Applications(应用案例)
第八章 Problems with Perfect State Information: Structured Optimal Control Policies具有完美状态信息的问题:结构化最优控制策略 6.0学时 李海东
第1节  Inventory Control(库存控制)
第2节 Monotone Policies(单调策略)
第3节  Optimal Stopping Problem(最优停时问题)
第4节 Dynamic Programming with Quadratic Rewards(带有二次奖励的动态规划)
第九章 Infinite Horizon Dynamic Programming无限时间动态规划 6.0学时 李海东
第1节 Discounted Infinite Horizon Problems(折扣无限时间问题)
第2节 Optimality Conditions(最优条件)
第3节 Value Iteration(价值迭代)
第4节 Policy Iteration(策略迭代)
第5节  Linear Programming(线性规划)
第十章 Paper Reading文献阅读 4.0学时 李海东
第1节 Paper Reading文献阅读
第十一章 Final exam期末考试 2.0学时 李海东
第1节 Final exam期末考试

教材信息
1、 Introduction to Probability Models Ross 2014年01月 Academic Press

参考书
1、 Dynamic Programming and Optimal Control@马尔可夫决策过程理论与应用@Markov Decision Processes: Discrete Stochastic Dynamic Programming@Reinforcement Learning and Stochastic Optimization: A Unified Framework for Sequential Decisions W.B. 2017年02月@2015年02月@2005年02月@2022年03月 Athena Scientific@科学出版社@John Wiley & Sons@John Wiley and Sons Ltd

课程教师信息
研究领域
供应链管理,机制设计