ICode9

精准搜索请尝试: 精确搜索
首页 > 其他分享> 文章详细

凸优化4:Operations that preserve convexity

2022-01-21 21:01:35  阅读:223  来源: 互联网

标签:Operations preserve frac space 凸集 mid theta Rn convexity


1、交集 Intersection

若 S 1 , S 2 S_1,S_2 S1​,S2​为凸,则 S 1 ∩ S 2 S_1 \cap S_2 S1​∩S2​为凸

扩展:若 S α S_{\alpha} Sα​为凸集,则 ∀   a ∈ A , ∩ ⁡ α ∈ A S α \forall \space a \in A, {\underset {\alpha \in A}{\operatorname {\cap} }} S_{\alpha} ∀ a∈A,α∈A∩​Sα​为凸集

2、仿射函数 Affine function

定义: a   f u n c t i o n   f : R n → R m   i s   a f f i n e   i f   i t   i s   a   s u m   o f   a   l i n e a r   f u n c t i o n   a n d   a   c o n s t r a n t a \space function \space f:R^n \rightarrow R^m \space is \space affine \space if \space it \space is \space a \space sum \space of \space a \space linear \space function \space and \space a \space constrant a function f:Rn→Rm is affine if it is a sum of a linear function and a constrant

数学描述为:
f : R n → R m 是 仿 射 函 数 , 当 f ( x ) = A x + b , A ∈ R m × n , b ∈ R m f:R^n \rightarrow R^m是仿射函数,当f(x)=Ax+b,A \in R^{m \times n},b \in R^m f:Rn→Rm是仿射函数,当f(x)=Ax+b,A∈Rm×n,b∈Rm
定理:若 S ∈ R n S \in R^n S∈Rn为凸集, f : R n → R m f:R^n \rightarrow R^m f:Rn→Rm为仿射函数,则: f ( S ) = { f ( x ) ∣ x ∈ S } f(S)=\{f(x) \mid x \in S\} f(S)={f(x)∣x∈S}为凸

逆仿射(inverse affine): g : R n → R m g:R^n \rightarrow R^m g:Rn→Rm是仿射函数,则 g − 1 ( S ) = { x ∣ g ( x ) ∈ S } g^{-1}(S)=\{x \mid g(x) \in S\} g−1(S)={x∣g(x)∈S}

定理:缩放与移位是保持凸性的
S 为 凸 集 , α S = { α x ∣ x ∈ S } , S + a = { x + a ∣ x ∈ S } 都 为 凸 S 1 , S 2 为 凸 集 , S 1 + S 2 = { x + y ∣ x ∈ S 1 , y ∈ S 2 } , S 1 × S 2 = { ( x , y ) ∣ x ∈ S 1 , y ∈ S 2 } 都 为 凸 S为凸集,\alpha S=\{\alpha x \mid x \in S\},S+a=\{x+a \mid x \in S\}都为凸 \\ S_1,S_2为凸集,S_1+S_2=\{x+y\mid x \in S_1,y \in S_2\},\\ S_1 \times S_2=\{(x,y)\mid x\in S_1,y\in S_2\} 都为凸 S为凸集,αS={αx∣x∈S},S+a={x+a∣x∈S}都为凸S1​,S2​为凸集,S1​+S2​={x+y∣x∈S1​,y∈S2​},S1​×S2​={(x,y)∣x∈S1​,y∈S2​}都为凸
Ex1:线性矩阵的不变形 LMI( linear matrix inequality)
A ( X ) = x 1 A 1 + ⋯ + x n A n ⪯ B ⇔ A ( X ) − B ⪯ 0    半 负 定 B , A i , x i ∈ S m ( 对 称 矩 阵 ) A(X)=x_1A_1+\cdots +x_nA_n \preceq B \\ \Leftrightarrow A(X)-B \preceq 0\space\space 半负定\\ B,A_i,x_i \in S^m(对称矩阵) A(X)=x1​A1​+⋯+xn​An​⪯B⇔A(X)−B⪯0  半负定B,Ai​,xi​∈Sm(对称矩阵)
定义仿射变换 f ( x ) = B − A ( x ) f(x)=B-A(x) f(x)=B−A(x), S + n S^n_+ S+n​为凸集, f − 1 ( S + n ) = { x ∣ B − A ( x ) ⪰ 0 } f^{-1}(S^n_+)=\{x \mid B-A(x) \succeq 0\} f−1(S+n​)={x∣B−A(x)⪰0}为凸

结论:故 A ( X ) − B ⪯ 0 A(X)-B \preceq 0 A(X)−B⪯0为凸集

Ex2:椭球是球的仿射映射
ε = { x ∣ ( x − x c ) T p − 1 ( x − x c ) ≤ 1 } , P ∈ S + + n 单 位 球    { u ∣ ∣ ∣ u ∣ ∣ 2 ≤ 1 } 令 f ( u ) = p 1 2 u + x c , 其 中 p 1 2 p 1 2 = p \varepsilon = \{x \mid (x-x_c)^Tp^{-1}(x-x_c) \leq 1\},P \in S^n_{++}\\ 单位球 \space\space \{u \mid ||u||_2 \leq 1\}\\ 令f(u)=p^{\frac{1}{2}}u+x_c,其中p^{\frac{1}{2}}p^{\frac{1}{2}}=p\\ ε={x∣(x−xc​)Tp−1(x−xc​)≤1},P∈S++n​单位球  {u∣∣∣u∣∣2​≤1}令f(u)=p21​u+xc​,其中p21​p21​=p
构造新集合
{ f ( u ) ∣ ∣ ∣ u ∣ ∣ 2 ≤ 1 } = { p 1 2 u + x c ∣ ∣ ∣ u ∣ ∣ 2 ≤ 1 } \{f(u)\mid ||u||_2 \leq 1\}\\ =\{p^{\frac{1}{2}}u+x_c \mid ||u||_2 \leq 1\}\\ {f(u)∣∣∣u∣∣2​≤1}={p21​u+xc​∣∣∣u∣∣2​≤1}
令 x = p 1 2 u + x c x=p^{\frac{1}{2}}u+x_c x=p21​u+xc​,即 u = p − 1 2 ( x − x c ) , P ∈ S + + n u=p^{-\frac{1}{2}}(x-x_c),P\in S^n_{++} u=p−21​(x−xc​),P∈S++n​,则上式:
= { x ∣ ∣ ∣ p − 1 2 ( x − x c ) ∣ ∣ 2 ≤ 1 } = { x ∣ ( x − x c ) T P − 1 ( x − x c ) ≤ 1 } =\{x\mid ||p^{-\frac{1}{2}}(x-x_c)||_2 \leq 1\} \\ =\{x\mid (x-x_c)^TP^{-1}(x-x_c) \leq 1\} ={x∣∣∣p−21​(x−xc​)∣∣2​≤1}={x∣(x−xc​)TP−1(x−xc​)≤1}

这里无法证明下式:
∣ ∣ p − 1 2 ( x − x c ) ∣ ∣ 2 ≤ 1 ( x − x c ) T ( p − 1 2 ) T ( p − 1 2 ) ( x − x c ) ≤ 1 无 法 证 明 ( p − 1 2 ) T ( p − 1 2 ) = P − 1 ||p^{-\frac{1}{2}}(x-x_c)||_2 \leq 1 \\ (x-x_c)^T(p^{-\frac{1}{2}})^T(p^{-\frac{1}{2}})(x-x_c) \leq 1\\ 无法证明(p^{-\frac{1}{2}})^T(p^{-\frac{1}{2}})=P^{-1} ∣∣p−21​(x−xc​)∣∣2​≤1(x−xc​)T(p−21​)T(p−21​)(x−xc​)≤1无法证明(p−21​)T(p−21​)=P−1

3、透视函数 Perspection function

透视函数 P : R n + 1 → R n P:R^{n+1} \rightarrow R^n P:Rn+1→Rn, d o m P = R n × R + + dom P=R^n \times R_{++} domP=Rn×R++​, R + + 为 整 数 , d o m 为 d o m a i n , 定 义 域 R_{++}为整数,dom为domain,定义域 R++​为整数,dom为domain,定义域

数学描述为:
P ( z , t ) = z t , z ∈ R n , t ∈ R + + P(z,t)=\frac{z}{t},z\in R^n,t\in R_{++} \\ P(z,t)=tz​,z∈Rn,t∈R++​
[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-ajCTxAnz-1642769131575)(D:\StudyFiles\ConvexOptimization\note\4.保持凸性的操作\4-1.png)]

定理:任意一个凸集经过透视函数之后仍为凸集

Ex1: R n + 1 R^{n+1} Rn+1内的线段
X = { x ~ , x n + 1 } ∈ { R n , R + + } , Y = { y ~ , y n + 1 } ∈ { R n , R + + } θ ≥ 0 , 线 段 可 表 示 为 : θ x + ( 1 − θ ) y 证 明 : R n + 1 线 段 ⟶ P R n 线 段 x ⟶ P P ( x ) , y ⟶ P P ( y ) θ x + ( 1 − θ ) y ⟶ P P ( θ x + ( 1 − θ ) y ) P ( θ x + ( 1 − θ ) y ) = θ x ~ + ( 1 − θ ) y ~ θ x n + 1 + ( 1 − θ ) y n + 1 = θ x n + 1 θ x n + 1 + ( 1 − θ ) y n + 1 x ~ x n + 1 + ( 1 − θ ) y n + 1 θ x n + 1 + ( 1 − θ ) y n + 1 y ~ y n + 1 ⟶ P μ P ( x ) + ( 1 − μ ) P ( y ) , 0 ≤ μ ≤ 1 上 式 属 于 n 维 空 间 中 的 线 段 , 线 段 是 凸 集 X=\{\widetilde{x},x_{n+1}\} \in \{R^n,R_{++}\},Y=\{\widetilde{y},y_{n+1}\}\in \{R^n,R_{++}\}\\ \theta \geq 0,线段可表示为:\theta x+(1-\theta)y\\ 证明:R^{n+1}线段 \stackrel{P}{\longrightarrow} R^n线段\\ x \stackrel{P}{\longrightarrow} P(x),y \stackrel{P}{\longrightarrow} P(y)\\ \theta x+(1-\theta)y \stackrel{P}{\longrightarrow} P(\theta x+(1-\theta)y)\\ P(\theta x+(1-\theta)y)=\frac{\theta \widetilde{x}+(1-\theta)\widetilde{y}}{\theta x_{n+1}+(1-\theta)y_{n+1}}\\ =\frac{\theta x_{n+1}}{\theta x_{n+1}+(1-\theta)y_{n+1}} \frac{\widetilde{x}}{x_{n+1}}+\frac{(1-\theta) y_{n+1}}{\theta x_{n+1}+(1-\theta)y_{n+1}} \frac{\widetilde{y}}{y_{n+1}}\\ \stackrel{P}{\longrightarrow} \mu P(x)+(1-\mu)P(y),0 \leq \mu \leq 1 \\ 上式属于n维空间中的线段,线段是凸集 X={x ,xn+1​}∈{Rn,R++​},Y={y ​,yn+1​}∈{Rn,R++​}θ≥0,线段可表示为:θx+(1−θ)y证明:Rn+1线段⟶P​Rn线段x⟶P​P(x),y⟶P​P(y)θx+(1−θ)y⟶P​P(θx+(1−θ)y)P(θx+(1−θ)y)=θxn+1​+(1−θ)yn+1​θx +(1−θ)y ​​=θxn+1​+(1−θ)yn+1​θxn+1​​xn+1​x ​+θxn+1​+(1−θ)yn+1​(1−θ)yn+1​​yn+1​y ​​⟶P​μP(x)+(1−μ)P(y),0≤μ≤1上式属于n维空间中的线段,线段是凸集
Ex2:任意凸集的反透视映射仍是凸集
P − 1 ( C ) = { ( x , t ) ∈ R n + 1 ∣ x t ∈ C , t > 0 } ( x , t ) ∈ P − 1 ( C ) , ( y , s ) ∈ P − 1 ( C ) , 0 ≤ θ ≤ 1 P − 1 ( ( x , t ) , ( y , s ) ) = θ x + ( 1 − θ ) y θ t + ( 1 − θ ) s = ( θ t θ t + ( 1 − θ ) s ) x t + ( 1 − θ t θ t + ( 1 − θ ) s ) y s ⟶ P − 1 μ P ( x , t ) + ( 1 − μ ) P ( y , s ) ∈ C P^{-1}(C)=\{(x,t) \in R^{n+1} \mid \frac{x}{t} \in C,t>0\} \\ (x,t) \in P^{-1}(C), (y,s) \in P^{-1}(C), 0 \leq \theta \leq 1 \\ P^{-1}((x,t),(y,s))=\frac{\theta x+(1-\theta)y}{\theta t+(1-\theta)s}\\ =(\frac{\theta t}{\theta t+(1-\theta)s})\frac{x}{t}+(1-\frac{\theta t}{\theta t+(1-\theta)s})\frac{y}{s}\\ \stackrel{P^{-1}}{\longrightarrow} \mu P(x,t)+(1-\mu)P(y,s) \in C P−1(C)={(x,t)∈Rn+1∣tx​∈C,t>0}(x,t)∈P−1(C),(y,s)∈P−1(C),0≤θ≤1P−1((x,t),(y,s))=θt+(1−θ)sθx+(1−θ)y​=(θt+(1−θ)sθt​)tx​+(1−θt+(1−θ)sθt​)sy​⟶P−1​μP(x,t)+(1−μ)P(y,s)∈C

Ex3:将仿射函数与透视函数结合 ⟶ \longrightarrow ⟶线性分段函数
g : R n ⟶ R m + 1 为 仿 射 映 射 g ( x ) = [ A C T ] x + [ b d ] , A ∈ R m × n , b ∈ R m , C ∈ R n , d ∈ R P : R m + 1 ⟶ R m 线 性 分 段 函 数 : P : R n ⟶ R m = P ∙ g f ( x ) = A x + b C T x + d , d o m   f = { x ∣ C T x + d > 0 } 两 个 线 性 变 换 的 除 法 也 可 以 保 持 凸 性 g:R^n \longrightarrow R^{m+1} 为仿射映射\\ g(x)=\left[ \begin{matrix} A \\ C^T \end{matrix} \right]x+\left[ \begin{matrix} b \\ d \end{matrix} \right],A\in R^{m \times n},b\in R^m,C\in R^n,d\in R \\ P:R^{m+1} \longrightarrow R^m\\ 线性分段函数:P:R^n \longrightarrow R^m=P \bullet g\\ f(x)=\frac{Ax+b}{C^Tx+d},dom \space f=\{x \mid C^Tx+d > 0\}\\ 两个线性变换的除法也可以保持凸性 g:Rn⟶Rm+1为仿射映射g(x)=[ACT​]x+[bd​],A∈Rm×n,b∈Rm,C∈Rn,d∈RP:Rm+1⟶Rm线性分段函数:P:Rn⟶Rm=P∙gf(x)=CTx+dAx+b​,dom f={x∣CTx+d>0}两个线性变换的除法也可以保持凸性

标签:Operations,preserve,frac,space,凸集,mid,theta,Rn,convexity
来源: https://blog.csdn.net/ahzahz/article/details/122629111

本站声明: 1. iCode9 技术分享网(下文简称本站)提供的所有内容,仅供技术学习、探讨和分享;
2. 关于本站的所有留言、评论、转载及引用,纯属内容发起人的个人观点,与本站观点和立场无关;
3. 关于本站的所有言论和文字,纯属内容发起人的个人观点,与本站观点和立场无关;
4. 本站文章均是网友提供,不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属;如您发现该文章侵犯了您的权益,可联系我们第一时间进行删除;
5. 本站为非盈利性的个人网站,所有内容不会用来进行牟利,也不会利用任何形式的广告来间接获益,纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。

专注分享技术,共同学习,共同进步。侵权联系[81616952@qq.com]

Copyright (C)ICode9.com, All Rights Reserved.

ICode9版权所有