运筹学单纯形法(单纯形法各个步骤详解)
运筹学单纯形法(单纯形法各个步骤详解)
R帷幄』原创
作者:臧永森
作者:臧永森,清华大学工业工程系在读博士,研究方向:运筹优化算法的设计与应用、数据统计分析、大数据技术与应用,戚铭尧老师团队
编者按
此文属于电子书线性规划专题第三章单纯形法的内容。在前面的文章中,我们为引入单纯形法介绍了可行域、最优解、可行解、基解、基可行解等基础概念,也阐述了它们之间的关系(具体可见文章《在单纯形法之前》)。在明确了这些基本概念之后,这一节我们来探讨单纯形法的思想逻辑和求解步骤。
我们已经知道,优化问题的最优解一定是基可行解,那么如何找到最优的基可行解就是最优化问题的求解思路。因此,单纯形法在求解过程,就是不断地寻求变量出入基的循环迭代过程,每次迭代都达到降低目标函数值(或增大目标函数值)的目的,最终得到最优解。那么在迭代过程中,如何使解在改善过程中向着最优解的方向尽快地收敛呢?我们下面用比较直观的方式来解析这个过程。
单纯形法的基本思想与逻辑
本文采用的思路参考Dimitris Bertsimas和 John N. Tsitsiklis在 Introduction to Linear Optimization一书中提出的方法[1]。考虑如下标准线性规划问题:
我们将矩阵A拆分为n个列元素:A1, A2, A3,, An,那么我们可以将问题看成是满足非负约束(4)、凸约束(3)以及约束(5)的最小化问题。
结合式(3)和(5)我们可以看出,原优化问题转化为求解能够构造出(b, z)的使得z值最小的关于(Ai, ci)的凸组合。为了更好地理解它们之间的几何关系,我们将一个平面视作包含A的一个m维空间,将与ci相关的成本项看作是一维垂直数轴,这时每一个点(Ai, ci)都可以唯一在该三维坐标系中表示出来,如图1所示:
图1 线性规划问题1—4的"列几何"图示
我们将(b, z)同样视为一条垂直线表示在图1中,这条垂直线叫做需求线,其与平面的交点是(b, 0)点。需求线与(Ai, ci)的凸组合在几何上有一定的关系,它们或相交或相离,这取决于我们对(Ai, ci)凸组合的选取,选取的凸组合不一样,几何关系就不同。很容易能理解,如果需求线和凸组合相交,说明(b, z)可以用相应的凸组合表示出来,也就表明这个凸组合就是原问题的一个可行解;而如果相离,则说明这个凸组合不满足能够表达(b, z)的条件,也就不是原问题的可行解。所有的凸组合构成了一个凸包,如果需求线能够与凸包相交,那么原问题就存在可行解,如果需求线不能与凸包相交,说明原问题无解。进一步将图1抽象,得到图2,从图中我们可以看出,点I、H、G就是三个不同的凸组合与需求线的交点,也就是原问题的三个可行解。
图2 可行解的"列几何"图示
经过上面的分析我们得知,要找到最优解,就是找到与需求线相交的使得z值最小的凸组合。那么如何找这样的凸组合呢?首先引入两个定义:
如果向量
是线性独立的,那么向量
被称为Rn空间中的仿射独立或者仿射无关,其中k<=n。
在Rn空间中由k+1个仿射无关向量组成的凸包被称为k维单纯形。
对模型(1—4)来说,总共有m+1个等式约束,假定约束系数矩阵是满秩的,那么一个基可行解将对应m+1个线性独立的列向量,也就意味着有m+1个基点,根据上述定义,由基点之间的差向量线性独立可以得到其仿射独立,由此可以知道它们组成的凸包是m维单纯形。
假设m维单纯形与需求线相交于点(b, z),由(5)知用来表示(b, z)的线性组合的权重向量是xi ,该向量就是一个基可行解,也就对应我们上节所分析的基变量的内容,当然z就是相应的目标函数值。我们用图2做一个解释,阴影区域的三角形CDF,就是一个2维单纯形,其与需求线的交点H点就是基可行解,点C、D、F是基点。
我们对二维单纯形CDF做一些改变,会发现相应的z值(与需求线的交点)也会变化,比如我们令基点B取代基点F,单纯形变为BCD,这时可行解变为I点,相应的z值较之前有所增长。类似地,若点E取代点C成为基点,单纯形由CDF变为EDF,可行解就出现在G点,此时z值有所减小。从这些变化中我们找出这样一个规律,当且仅当新加入基的点在当前单纯形平面上方(下方)时,所得的交点(即可行解)对应的z值会增大(减小)。
如果我们更加形象地描述这个基点变化的过程,就如同用手抓住单纯形CDF的基点C,保持D点和F点固定不变,用力向上拉(向下拉),将C点拉到B点(E点),也就产生了新的单纯形BCD(EDF)。单纯形法的旋转迭代过程,就是不断找到基点向上拉(向下拉)到新基点形成新单纯形的过程。
单纯形法的求解过程
简单总结一下单纯形法的求解原理。先找到一个基可行解,然后从非基解中找一个比较有前途的点入基,替换掉基可行解中有待改善的基点,从而达到改善目标函数的目的,如此重复迭代,直至无法找到可以入基的点。
下面我们用一个例题来演示单纯形法的求解过程。用单纯形法求解如下LP问题:
第一步:将上述LP转化为标准形式,目的是能够在初始单纯形表中很容易地获得初始基可行解。
第二步,将标准LP列入第0个单纯形表,如表1:
表1 单纯形表0
上述单纯形表中可以看出初始基变量是(s1,s2,s3),从表中找一个能够入基的变量,要求该变量入基后能够使得目标函数值增大量最大。决策变量在第0行的系数看成是这个变量的缩减成本,就是当这个变量增加1时,目标函数z的值将减少的量。比如x1的系数是-2,就说明当x1每增加1,z值将减少-2,也就是增加2。因此如果我们要选择能够使目标函数增加量最大的量入基,应该选择第0行中系数最小的负值(读者可以考虑下为什么必须是负值)。因此这里选择x2入基。
那如何选择出基变量呢?这里我们采用比值法,用右端项的值(即rhs列)除以出基变量对应的列系数(红色线框标注),从中选择最小的比值对应的基变量出基。如果不选择最小比值对应的基变量出基,将会导致后面的迭代过程出现负的右端项,相应行的基变量将为负值,这与LP标准型的变量非负约束相违背,因此这种操作是不被允许的。所以,表1中的比值优胜者是3,因此s3出基(蓝色线框标注)。
第三步:通常我们会在x2所在列与s3所在行交汇点圈一个圈,也就是元素4。这表示这一点是我们的转轴点,通过初等变化,将该元素所在的行与列的其他元素变为0,该元素本身变为1,得到下一个单纯形表,如表2所示:
表2 单纯形表1
第四步:继续在第0行找负系数对应的入基变量,发现x1对应的系数是-2,可以入基。同时比值运算发现s1对应的变量需要出基,因此第一行、x1列对应的元素1是转轴点,圈一个圈,并进行列运算,得表3:
表3 单纯形表2
第五步:继续上述计算,注意这里因为入基变量s3对应的列有负值,在比值运算时直接赋值为空,因为比值只看正值,如果将负值也考虑进来取最小比值,同样将导致负的右端项。通过入基变量选取和比值测试,对元素2圈圈,做行列变换,得表4:
表4 单纯形表3
第六步:最新表中发现第0行的所有元素均为正值,此时选取任何变量入基,都会使得z值因为正的缩减成本而降低,很显然这对于最大化问题来说是不利的。因此,上表已经达到最优状态,单纯形法迭代结束。
综上,原问题最优解就是
本文主要介绍了单纯形法的基本逻辑思路,以及具体的求解过程,接下来我们将继续带领大家探索单纯形法求解过程中可能出现的几种解,以及单纯形法的变形求解方法。,希望大家继续关注【优化】板块,电子书线性规划专题的科普文。参考文献:
[1] Dimitris Bertsimas, John N. Tsitsiklis, Introduction to Linear Optimization. Athena Scientific, Belmont, Massachusetts. P
竞走冠军(王丽萍竞走夺冠事件)竞走冠军(王丽萍竞走夺冠事件)尼奥运会尽管已经过去了21年,可现在回想起来竟恍如昨日。那时候没有家用电脑,也没有智能机,看奥运会成为了暑期最重大的娱乐活动。现在问你,2000年你看
镇江旅游景点(镇江的景点有哪些)镇江旅游景点(镇江的景点有哪些)江苏自古就是一片繁华之地。天生的好山好水,让江苏这里享尽鱼米之乡的丰腴。现如今,江苏也成为了长江中下游旅游业的一个重点地区,在江苏有数不尽的文物古迹
格子衫怎么搭配(格子针织衫怎么搭配)格子衫怎么搭配(格子针织衫怎么搭配)印象中格子衬衫一直是程序员的标配,经典不变的风格似乎从未改变。许多女生都觉得格子衬衫很老土,穿上身给人感觉很呆板无趣,那是因为没有调对款式跟穿法
羽绒棉是什么(棉羊绒是什么面料)羽绒棉是什么(棉羊绒是什么面料)近一直有朋友私信我,问关于羽绒与羽绒棉的区别,也有很多人因为商家的误导从而误会了羽绒棉,在这里我就和大家简单的说一下吧!1材质羽绒都知道是水禽身上的
韩国面料(韩国棉是什么面料图片)韩国面料(韩国棉是什么面料图片)韩国绒顾名思义就是从韩国进口的绒布面料,现在国内生产的韩国绒从绒感,手感,弹性等都能和进口的韩国绒相媲美。韩国绒手感细腻,柔软,表面的短毛不起球,不
针织棉面料(棉纺是什么面料优缺点)针织棉面料(棉纺是什么面料优缺点)棉是一种面料,而针织棉只能说是用针织机织出来的一种特殊棉面料。我们知道,面料按照织法来分的话主要可以分为针织和梭织两种。而针织棉就是采用圆机织造出
中国结都有哪些(中国结如何编织)中国结都有哪些(中国结如何编织)中国结是一种装饰手工艺品也是一种中国民间传统艺术形式不同样式的中国结都有其特有的寓意如意结万事称心,吉祥如意团锦结花团锦簇,前程似锦桂花结高贵清雅,
化纤面料有哪些(常见的化纤面料有哪些)化纤面料有哪些(常见的化纤面料有哪些)为什么在冬天当我脱掉衣服时,我会噼里啪啦除了天气干燥静电的产生与衣服的成分没关系你知道吗哪些面料容易起球和静电?为什么棉质衣服穿起来舒服?为什
低敏奶粉(低蛋白奶粉有哪些品牌)低敏奶粉(低蛋白奶粉有哪些品牌)02107101043母婴行业观察原标题官宣!天猫国际正式推出世界防敏宝喂计划,助力过敏宝宝健康成长导读近年来过敏人群低龄化和受过敏影响普遍化趋势明
婷美怎么样(婷美护肤品是几线品牌)婷美小屋,作为国内首屈一指的化妆品品牌,将带来全新财富模式与全脸肌肤检测技术,全方位展现其雄厚的实力以及走在行业前端帷幄未来的战略眼光。婷美小屋化妆品连锁,由蔡丙国先生在成功打造军
美体内衣(真美内衣多少钱一套)美体内衣(真美内衣多少钱一套)026潍坊网警江苏扬州一女子称自己花了近3万元从养生馆买来一件塑身内衣商家承诺可塑造出S型曲线身材最终体重不但没下降还引发了皮肤瘙痒市民投诉3万元塑身
科普下化学变化中什么改变什么不变及一定不挛是什么关于到现在化学变化中什么改变什么不变及一定不挛是什么这个话题,相信很多小伙伴都是非常有兴趣了解的吧,因为这个话题也是近期非常火热的,那么既然现在大家都想要知道化学变化中什么改变什么
科普下催化剂为什么能改变反应速率关于到现在催化剂为什么能改变反应速率这个话题,相信很多小伙伴都是非常有兴趣了解的吧,因为这个话题也是近期非常火热的,那么既然现在大家都想要知道催化剂为什么能改变反应速率,小编也是到
科普下聚丙烯可以发生加成反应吗及什么是加成反应关于到现在聚丙烯可以发生加成反应吗及什么是加成反应这个话题,相信很多小伙伴都是非常有兴趣了解的吧,因为这个话题也是近期非常火热的,那么既然现在大家都想要知道聚丙烯可以发生加成反应吗
科普下聚丙烯是什么材料及聚丙烯可以发生加成反应吗关于到现在聚丙烯是什么材料及聚丙烯可以发生加成反应吗这个话题,相信很多小伙伴都是非常有兴趣了解的吧,因为这个话题也是近期非常火热的,那么既然现在大家都想要知道聚丙烯是什么材料及聚丙
科普下硝化反应是什么及硝化反应是取代反应吗关于到现在硝化反应是什么及硝化反应是取代反应吗这个话题,相信很多小伙伴都是非常有兴趣了解的吧,因为这个话题也是近期非常火热的,那么既然现在大家都想要知道硝化反应是什么及硝化反应是取
科普下氧化镁的用途有哪些氧化镁有什么用关于到现在科普下氧化镁的用途有哪些氧化镁有什么用这个话题,相信很多小伙伴都是非常有兴趣了解的吧,因为这个话题也是近期非常火热的,那么既然现在大家都想要知道科普下氧化镁的用途有哪些氧
科普下氧化镁的用途有哪些氧化镁有什么用关于到现在氧化镁的用途有哪些氧化镁有什么用这个话题,相信很多小伙伴都是非常有兴趣了解的吧,因为这个话题也是近期非常火热的,那么既然现在大家都想要知道氧化镁的用途有哪些氧化镁有什么用
科普下二氧化氯用途是什么关于到现在二氧化氯用途是什么这个话题,相信很多小伙伴都是非常有兴趣了解的吧,因为这个话题也是近期非常火热的,那么既然现在大家都想要知道二氧化氯用途是什么,小编也是到网上收集了一些与
科普下二氧化硅的用途有哪些关于到现在二氧化硅的用途有哪些这个话题,相信很多小伙伴都是非常有兴趣了解的吧,因为这个话题也是近期非常火热的,那么既然现在大家都想要知道二氧化硅的用途有哪些,小编也是到网上收集了一
科普下氧化反应的定义是什么及有哪些氧化反应的例子关于到现在氧化反应的定义是什么及有哪些氧化反应的例子这个话题,相信很多小伙伴都是非常有兴趣了解的吧,因为这个话题也是近期非常火热的,那么既然现在大家都想要知道氧化反应的定义是什么及
科普下金属氧化物是什么金属氧化物与非金属氧化物的区别关于到现在科普下金属氧化物是什么金属氧化物与非金属氧化物的区别这个话题,相信很多小伙伴都是非常有兴趣了解的吧,因为这个话题也是近期非常火热的,那么既然现在大家都想要知道科普下金属氧