数学建模之动态规划.docx

第四章动态规划 !1! §1引言 1.1动态规划的发展及研究内容 动态规划（dynamic progiaiiunuig）是运筹学的一个分支，是求解决策过程＜decision process）最优化的数学方法。20世纪50年代初R. E. Bellman等人在研咒多阶段决策过 程（multistep decision process）的优化问题时，提出了著名的最优性原理（pnnciple of optimality）,把多阶段过程转化为一系列单阶段问题，逐个求解，创立了解决这类过程 血化问题的新方法一动态规划O 1957年出版了他的名著《Dynamic Programming》，这 是该领域的第一本著作。 动态规划问世以来，在经济管理、生产调度、工程技术和最优控制等方面得到了广 泛的应用。例如最短路线、库存管理、资源分配、设备更新、排序、装载等问题，用动 态规划方法比用其它方法求解更为方便。 虽然动态规划主要用于求解以时间划分阶段的动态过程的优化问题,但是一些与时 间无关的静态规划（如线性规划、非线性规划），只要人为地引进时间因素，把它视为 多阶段决策过程，也可以用动态规划方法方便地求解。 应指出，动态规划是求解某类问题的一种方法，是考察问题的一种途径，而不是 一种特殊算法（如线性规划是一种算法）。因而，它不象线性规划那样有一个标准的数 学表达式和明确定义的一组规则，而必须对具体问题进行具体分析处理。因此，在学习 时，除了要对基本概念和方法正确理解外，应以丰富的想象力去建立模型，用创造性的 技巧去求解。 例1最短路线问题 下面是一个线路网，连线上的数字表示两点之间的距离（或费用）。试寻求一条由A 到G距离最短（或费用最省）的路线。 例2生产计划问题 工厂生产某种产品，每单位（千件）的成本为1 （千元），每次开工的固定成本为3 （千元），工厂每季度的最大生产能力为6 （千件）。经调査，市场对该产品的需求量第 一、二、三、四季度分别为2, 3, 2, 4 （千件）。如果工厂在第一、二季度将全年的需 求都生产出来，自然可以降低成本（少付固定成本费），但是对于第三、四季度才能上 市的产品需付存储费，每季每干件的存储费为0.5 （千元）。还规定年初和年末这种产品 均无库存。试制定一个生产计划，即安排每个季度的产量，使一年的总费用（生产成本 和存储费）最少。 1.2决策过程的分类 根据过程的时间变量是离哗的还是连续的，分为离散时间决策过程（discie?thne decision piocess）和连续时间决策过程（continuous-time decision process）:根据过程的 演变是福定的还是随机的，分为确定性决策过程（deterministic decision piocess）和随 -40- 机性决策过程（stochastic decision process）,其中应用最广的是确定性多阶段决策过程。 §2基本概念、基本方程和计算方法 2.1动态规划的基本概念和基本方程 一个多阶段决策过程最优化问题的动态规划模型通常包含以下要素。 2.1.1阶段 阶段（step）是对整个过程的自然划分。通常根据时间顺序或空间顺序特征来划分阶 段，以便按阶段的次序解优化问题。阶段变量一般用A = 表示。在例1中由A 出发为k = \,由软=1,2）出发为k = 2,依此下去从F, 0 = 1,2）出发为k = 6,共 〃 =6个阶段。在例2中按照第一、二、三、四季度分为k = 1,2,3,4,共四个阶段。 2.1.2状态 状态（state）表示每个阶段开始时过程所处的自然状况。它应能描述过程的特征并 且无后效性，即当某阶段的状态变量给定时，这个阶段以后过程的演变与该阶段以前各 阶段的状态无关。通常还要求状态是直接或间接可以观测的。 描述状态的变量称状态变量（state vaiiable）o变量允许取值的范围称允许状态集合 （set of admissible states）。用表示第k阶段的状态变量，它可以是一个数或一个向量。 用X表示第阶段的允许状态集合。在例1中与可取用或将R定义为 心= 1,2），则 x2 = l 或 2,而 X2 = ｛1,2｝ o 〃个阶段的决策过程有〃+ 1个状态变量，表示x“演变的结果。在例1中心取 G,或定义为1,即当 =1。 根据过程演变的具体情况，状态变量可以是离散的或连续的。为了计算的方便有时 将连续变最离散化；为了分析的方便有时乂将离散变員视为连续的。 状态变量简称为状态。 2.1.3决策 当一个阶段的状态确定后，可以作出各种选择从而演变到下一阶段的某个状态，这 种选择手段称为决策（decision）,在最优控制问题中也称为控制（control）□ 描述决策的变量称决策变量（decision v