数学建模之动态规划.pdf

第四章动态规划

§1引言

1.1动态规划的发展及研究内容

动态规划（dynamicprogramming）是运筹学的一个分支，是求解决策过程（decision

process）最优化的数学方法。20世纪50年代初R.E.Bellman等人在研究多阶段决策过

程(multistepdecisionprocess)的优化问题时，提出了著名的最优性原理（principleof

optimality），把多阶段过程转化为一系列单阶段问题，逐个求解，创立了解决这类过程

优化问题的新方法—动态规划。1957年出版了他的名著《DynamicProgramming》，这

是该领域的第一本著作。

动态规划问世以来，在经济管理、生产调度、工程技术和最优控制等方面得到了广

泛的应用。例如最短路线、库存管理、资源分配、设备更新、排序、装载等问题，用动

态规划方法比用其它方法求解更为方便。

虽然动态规划主要用于求解以时间划分阶段的动态过程的优化问题，但是一些与时

间无关的静态规划（如线性规划、非线性规划），只要人为地引进时间因素，把它视为

多阶段决策过程，也可以用动态规划方法方便地求解。

应指出，动态规划是求解某类问题的一种方法，是考察问题的一种途径，而不是

一种特殊算法（如线性规划是一种算法）。因而，它不象线性规划那样有一个标准的数

学表达式和明确定义的一组规则，而必须对具体问题进行具体分析处理。因此，在学习

时，除了要对基本概念和方法正确理解外，应以丰富的想象力去建立模型，用创造性的

技巧去求解。

例1最短路线问题

下面是一个线路网，连线上的数字表示两点之间的距离（或费用）。试寻求一条由A

G

到距离最短（或费用最省）的路线。

例2生产计划问题

工厂生产某种产品，每单位（千件）的成本为1（千元），每次开工的固定成本为3

（千元），工厂每季度的最大生产能力为6（千件）。经调查，市场对该产品的需求量第

一、二、三、四季度分别为2，3，2，4（千件）。如果工厂在第一、二季度将全年的需

求都生产出来，自然可以降低成本（少付固定成本费），但是对于第三、四季度才能上

市的产品需付存储费，每季每千件的存储费为0.5（千元）。还规定年初和年末这种产品

均无库存。试制定一个生产计划，即安排每个季度的产量，使一年的总费用（生产成本

和存储费）最少。

1.2决策过程的分类

根据过程的时间变量是离散的还是连续的，分为离散时间决策过程（discrete-time

decisionprocess）和连续时间决策过程（continuous-timedecisionprocess）；根据过程的

演变是确定的还是随机的，分为确定性决策过程（deterministicdecisionprocess）和随

-40-

机性决策过程（stochasticdecisionprocess），其中应用最广的是确定性多阶段决策过程。

§2基本概念、基本方程和计算方法

2.1动态规划的基本概念和基本方程

一个多阶段决策过程最优化问题的动态规划模型通常包含以下要素。

2.1.1阶段

阶段(step)是对整个过程的自然划分。通常根据时间顺序或空间顺序特征来划分阶

段，以便按阶段的次序解优化问题。阶段变量一般用k1,2,,n表示。在例1中由A

出发为k1，由B(i1,2)出发为k2，依此下去从F(i1,2)出发为k6，共

ii

n6个阶段。在例2中按照第一、二、三、四季度分为k1,2,3,4，共四个阶段。

2.1.2状态

状态（state）表示每个阶段开始时过程所处的自然状况。它应能描述过程的特征并

且无后效性，即当某阶段的状态变量给定时，这个阶段以后过程的演变与该阶段以前各

阶段的状态无关。通常还要求状态是直接或间接可以观测的。

描述状态的变量称状态变量（statevariable）。变量允许取值的范围称允许状态集合

xk

(setofadmissiblestates)。用表示第阶段的状态变量，