Teorema de proyección de Hilbert: Desbloqueo de dimensiones en visión por computadora

Por Fouad Sabry

¿Qué es el teorema de proyección de Hilbert?

En matemáticas, el teorema de proyección de Hilbert es un famoso resultado del análisis convexo que dice que para cada vector en un espacio de Hilbert y cada convexo cerrado no vacío existe un vector único para el cual se minimiza sobre los vectores; es decir, tal que por cada

¿Cómo te beneficiarás?

(I) Insights y validaciones sobre los siguientes temas:

Capítulo 1: Teorema de proyección de Hilbert

Capítulo 2: Espacio Banach

Capítulo 3: Espacio interior del producto

Capítulo 4: Teorema de representación de Riesz

Capítulo 5: Operador autoadjunto

Capítulo 6: Clase de seguimiento

Capítulo 7: Operador (física)

Capítulo 8: Espacio de Hilbert

Capítulo 9: Norma (matemáticas)

Capítulo 10: Análisis convexo

(II) Responder a las principales preguntas del público sobre el teorema de proyección de Hilbert.

(III) Ejemplos del mundo real para el uso del teorema de proyección de Hilbert en muchos campos.

para quien es este libro

Profesionales, estudiantes de pregrado y posgrado, entusiastas, aficionados y aquellos que quieran ir más allá del conocimiento o la información básica para cualquier tipo de Teorema de Proyección de Hilbert.

• Idioma: Español
• Editorial: Mil Millones De Conocimientos [Spanish]
• Fecha de lanzamiento: 5 may 2024

Vista previa del libro

Capítulo 1: Teorema de proyección de Hilbert

En matemáticas, el teorema de la proyección de Hilbert es un famoso resultado del análisis convexo que dice que para cada vector x en un espacio de Hilbert H y cada convexo cerrado no vacío {\displaystyle C\subseteq H,} existe un vector único {\displaystyle m\in C} para {\displaystyle \|c-x\|} el cual se minimiza sobre los vectores c\in C ; es decir, tal que {\displaystyle \|m-x\|\leq \|c-x\|} para cada {\displaystyle c\in C.}

Al considerar la condición de primer orden del problema de optimización, se puede obtener una idea del teorema.

Consideremos un espacio de Hilbert real de dimensión finita H con un subespacio C y un punto x. Si {\displaystyle m\in C} es un minimizador o punto mínimo de la función {\displaystyle N:C\to \mathbb {R} } definida por {\displaystyle N(c):=\|c-x\|} (que es lo mismo que el punto mínimo de {\displaystyle c\mapsto \|c-x\|^{2}} ), entonces la derivada debe ser cero en m.

Notación para derivadas matriciales

{\displaystyle {\begin{aligned}\partial \lVert x-c\rVert ^{2}&=\partial \langle c-x,c-x\rangle \\&=2\langle c-x,\partial c\rangle \end{aligned}}}

Dado  que {\displaystyle \partial c} es un vector en C el que representa una dirección tangente arbitraria, se deduce que {\displaystyle m-x} debe ser ortogonal a cada vector en {\displaystyle C.}

Teorema de proyección de Hilbert — Para cada vector x en un espacio de Hilbert H y cada convexo cerrado no vacío {\displaystyle C\subseteq H,} existe un vector único {\displaystyle m\in C} para el cual {\displaystyle \lVert x-m\rVert } es igual a {\displaystyle \delta :=\inf _{c\in C}\|x-c\|.}

Si el subconjunto cerrado C es también un subespacio vectorial de H , entonces este minimizador m es el único elemento en C tal que {\displaystyle m-x} es ortogonal a {\displaystyle C.}

Prueba de que existe un punto mínimo y

Sea {\displaystyle \delta :=\inf _{c\in C}\|x-c\|} la distancia entre x y {\displaystyle C,} {\displaystyle \left(c_{n}\right)_{n=1}^{\infty }} una sucesión tal C que la distancia al cuadrado entre x y c_{n} es menor o igual que {\displaystyle \delta ^{2}+1/n.} Sea n y m sean dos números enteros, entonces la igualdad subsiguiente se cumple:

{\displaystyle \left\|c_{n}-c_{m}\right\|^{2}=\left\|c_{n}-x\right\|^{2}+\left\|c_{m}-x\right\|^{2}-2\left\langle c_{n}-x\,,\,c_{m}-x\right\rangle }

y

{\displaystyle 4\left\|{\frac {c_{n}+c_{m}}{2}}-x\right\|^{2}=\left\|c_{n}-x\right\|^{2}+\left\|c_{m}-x\right\|^{2}+2\left\langle c_{n}-x\,,\,c_{m}-x\right\rangle }

Por lo tanto

{\displaystyle \left\|c_{n}-c_{m}\right\|^{2}=2\left\|c_{n}-x\right\|^{2}+2\left\|c_{m}-x\right\|^{2}-4\left\|{\frac {c_{n}+c_{m}}{2}}-x\right\|^{2}}

(Esta ecuación es la misma que la fórmula {\displaystyle a^{2}=2b^{2}+2c^{2}-4M_{a}^{2}} para la longitud M_a de una mediana en un triángulo con lados de longitud a, b, y c, donde, específicamente, los vértices del triángulo son {\displaystyle x,c_{m},c_{n}} ).

Al dar un límite superior a los dos primeros términos de la igualdad y al notar que el centro de c_{n} y c_{m} pertenece a C y tiene, por lo tanto, una distancia mayor o igual que de \delta x, él, se deduce que:

{\displaystyle \|c_{n}-c_{m}\|^{2}\;\leq \;2\left(\delta ^{2}+{\frac {1}{n}}\right)+2\left(\delta ^{2}+{\frac {1}{m}}\right)-4\delta ^{2}=2\left({\frac {1}{n}}+{\frac {1}{m}}\right)}

La última desigualdad demuestra que {\displaystyle \left(c_{n}\right)_{n=1}^{\infty }} se trata de una secuencia de Cauchy.

Dado que C está completa, la secuencia es, por lo tanto, convergente a un punto {\displaystyle m\in C,} cuya distancia desde x es mínima.

\blacksquare

Prueba de que m es único

Sean m_{1} y m_{2} sean dos puntos mínimos.

Entonces:

{\displaystyle \|m_{2}-m_{1}\|^{2}=2\|m_{1}-x\|^{2}+2\|m_{2}-x\|^{2}-4\left\|{\frac {m_{1}+m_{2}}{2}}-x\right\|^{2}}

Dado que {\displaystyle {\frac {m_{1}+m_{2}}{2}}} pertenece a {\displaystyle C,} tenemos {\displaystyle \left\|{\frac {m_{1}+m_{2}}{2}}-x\right\|^{2}\geq \delta ^{2}} y, por lo tanto,

{\displaystyle \|m_{2}-m_{1}\|^{2}\leq 2\delta ^{2}+2\delta ^{2}-4\delta ^{2}=0.}

De ahí {\displaystyle m_{1}=m_{2},} lo que demuestra la singularidad.

\blacksquare

Prueba de caracterización del punto mínimo cuando C es un subespacio vectorial cerrado

Supongamos que C es un subespacio vectorial cerrado de H. Se debe mostrar que el minimizador m es el elemento único en C tal que {\displaystyle \langle m-x,c\rangle =0} para cada {\displaystyle c\in C.}

Prueba de que la condición es suficiente: Sea {\displaystyle z\in C} tal que {\displaystyle \langle z-x,c\rangle =0} para todos Si {\displaystyle c\in C.} c\in C entonces {\displaystyle c-z\in C} y así

{\displaystyle \|c-x\|^{2}=\|(z-x)+(c-z)\|^{2}=\|z-x\|^{2}+\|c-z\|^{2}+2\langle z-x,c-z\rangle =\|z-x\|^{2}+\|c-z\|^{2}}

lo que implica que {\displaystyle \|z-x\|^{2}\leq \|c-x\|^{2}.} Debido a c\in C que fue arbitrario, esto prueba que {\displaystyle \|z-x\|=\inf _{c\in C}\|c-x\|} y por lo tanto z es un punto mínimo.

Prueba de que la condición es necesaria: Sea {\displaystyle m\in C} el punto mínimo.

Que c\in C y {\displaystyle t\in \mathbb {R} .} Porque {\displaystyle m+tc\in C,} la minimalidad de m garantiza que

{\displaystyle \|m-x\|\leq \|(m+tc)-x\|.}

Así

{\displaystyle \|(m+tc)-x\|^{2}-\|m-x\|^{2}=2t\langle m-x,c\rangle +t^{2}\|c\|^{2}}

es siempre no negativo y {\displaystyle \langle m-x,c\rangle } debe ser un número real.

Si {\displaystyle \langle m-x,c\rangle \neq 0} entonces el mapa

{\displaystyle f(t):=2t\langle m-x,c\rangle +t^{2}\|c\|^{2}}

tiene un mínimo en {\displaystyle t_{0}:=-{\frac {\langle m-x,c\rangle }{\|c\|^{2}}}} y además, {\displaystyle f\left(t_{0}\right)<0,} lo cual es una contradicción.

Así {\displaystyle \langle m-x,c\rangle =0.} \blacksquare

Basta con demostrar el teorema en el caso de x=0 porque el caso general se deduce del siguiente enunciado reemplazando C por {\displaystyle C-x.}

Teorema de proyección de Hilbert (caso x=0 ): para cada subconjunto convexo cerrado no vacío {\displaystyle C\subseteq H} de un espacio de Hilbert H, existe un vector único {\displaystyle m\in C} tal que {\displaystyle \inf _{c\in C}\|c\|=\|m\|.}

Además, dejando {\displaystyle d:=\inf _{c\in C}\|c\|,} si {\displaystyle \left(c_{n}\right)_{n=1}^{\infty }} es cualquier secuencia en C tal que {\displaystyle \lim _{n\to \infty }\left\|c_{n}\right\|=d} en \mathbb {R} entonces {\displaystyle \lim _{n\to \infty }c_{n}=m} en H.

Prueba

Sea C como se describe en este teorema y sea

{\displaystyle d:=\inf _{c\in C}\|c\|.}

Este teorema se deriva de los lemas posteriores.

Lema 1 — Si {\displaystyle c_{\bullet }:=\left(c_{n}\right)_{n=1}^{\infty }} hay alguna secuencia en C tal que {\displaystyle \lim _{n\to \infty }\left\|c_{n}\right\|=d} en \mathbb {R} entonces existe alguna c\in C tal que {\displaystyle \lim _{n\to \infty }c_{n}=c} en H. Además, {\displaystyle \|c\|=d.}

Lema 2 — Existe una secuencia {\displaystyle \left(c_{n}\right)_{n=1}^{\infty }} que satisface las hipótesis del lema 1.

El lema 2 y el lema 1 juntos prueban que existe algo tal c\in C que {\displaystyle \|c\|=d.} el lema 1 se puede usar para probar la unicidad de la siguiente manera.

Supongamos {\displaystyle b\in C} que es tal que {\displaystyle \|b\|=d} y denota la secuencia

{\displaystyle b,c,b,c,b,c,\ldots }

de {\displaystyle \left(c_{n}\right)_{n=1}^{\infty }} modo que la subsecuencia {\displaystyle \left(c_{2n}\right)_{n=1}^{\infty }} de los índices pares es la secuencia constante, {\displaystyle c,c,c,\ldots } mientras que la subsecuencia {\displaystyle \left(c_{2n-1}\right)_{n=1}^{\infty }} de los índices impares es la secuencia constante {\displaystyle b,b,b,\ldots .} Porque {\displaystyle \left\|c_{n}\right\|=d} para cada {\displaystyle n\in \mathbb {N} ,} {\displaystyle \lim _{n\to \infty }\left\|c_{n}\right\|=\lim _{n\to \infty }d=d} en {\displaystyle \mathbb {R} ,} el que muestra que la sucesión {\displaystyle \left(c_{n}\right)_{n=1}^{\infty }} satisface las hipótesis del lema 1.

El lema 1 garantiza la existencia de algunos x \in C tales que {\displaystyle \lim _{n\to \infty }c_{n}=x} en H. Porque {\displaystyle \left(c_{n}\right)_{n=1}^{\infty }} converge para x, que lo hagan todas sus subsecuencias.

En particular, la subsecuencia {\displaystyle c,c,c,\ldots } converge a x, lo que implica que x=c (porque los límites en H son únicos y esta subsecuencia constante también converge a c ).

Del mismo modo, x=b debido a que la subsecuencia {\displaystyle b,b,b,\ldots } converge a ambos x y {\displaystyle b.} Por lo tanto {\displaystyle b=c,} , lo que demuestra el teorema.

\blacksquare

Proposición — Si C es un subespacio vectorial cerrado de un espacio de Hilbert H , entonces

{\displaystyle H=C\oplus C^{\bot }.}

La expresión como un global mínimo

El enunciado y la conclusión del teorema de la proyección de Hilbert se pueden escribir en términos de los mínimos globales de las funciones que se enumeran a continuación. Además, su notación se empleará para simplificar oraciones particulares.

Dado un subconjunto no vacío {\displaystyle C\subseteq H} y algunos {\displaystyle x\in H,} definen una función

{\displaystyle d_{C,x}:C\to [0,\infty )\quad {\text{ by }}c\mapsto \|x-c\|.}

Un punto mínimo global de {\displaystyle d_{C,x},} si existe, es cualquier punto m en {\displaystyle \,\operatorname {domain} d_{C,x}=C\,} tal que

{\displaystyle d_{C,x}(m)\,\leq \,d_{C,x}(c)\quad {\text{ for all }}c\in C,}

en cuyo caso {\displaystyle d_{C,x}(m)=\|m-x\|} es igual al valor mínimo global de la función {\displaystyle d_{C,x},} , que es:

{\displaystyle \inf _{c\in C}d_{C,x}(c)=\inf _{c\in C}\|x-c\|.}

Efectos de traslación y escalado

Cuando este punto mínimo global m existe y es único, denotarlo {\displaystyle \min(C,x);} explícitamente, las propiedades definitorias de {\displaystyle \min(C,x)} (si existe) son:

{\displaystyle \min(C,x)\in C\quad {\text{ and }}\quad \left\|x-\min(C,x)\right\|\leq \|x-c\|\quad {\text{ for all }}c\in C.}

El teorema de la proyección de Hilbert garantiza que este punto mínimo único existe siempre que C sea un subconjunto cerrado y convexo no vacío de un espacio de Hilbert.

Sin embargo, este punto mínimo también puede ocurrir en subconjuntos no convexos o abiertos; por ejemplo, siempre y cuando no esté C vacío, si x \in C entonces {\displaystyle \min(C,x)=x.}

Si {\displaystyle C\subseteq H} es un subconjunto no vacío, s es cualquier escalar y {\displaystyle x,x_{0}\in H} son vectores, entonces

{\displaystyle \,\min \left(sC+x_{0},sx+x_{0}\right)=s\min(C,x)+x_{0}}

lo que implica:

{\displaystyle {\begin{alignedat}{6}\min &(sC,sx)&&=s&&\min(C,x)\\\min &(-C,-x)&&=-&&\min(C,x)\\\end{alignedat}}}{\displaystyle {\begin{alignedat}{6}\min \left(C+x_{0},x+x_{0}\right)&=\min(C,x)+x_{0}\\\min \left(C-x_{0},x-x_{0}\right)&=\min(C,x)-x_{0}\\\end{alignedat}}}{\displaystyle {\begin{alignedat}{6}\min &(C,-x){}&&=\min(C+x,0)-x\\\min &(C,0)\;+\;x\;\;\;\;&&=\min(C+x,x)\\\min &(C-x,0){}&&=\min(C,x)-x\\\end{alignedat}}}

Ejemplos

El siguiente contraejemplo demuestra un isomorfismo lineal continuo {\displaystyle A:H\to H} para el cual

{\displaystyle \,\min(A(C),A(x))\neq A(\min(C,x)).}

Dotar {\displaystyle H:=\mathbb {R} ^{2}} con el producto escalar, sea {\displaystyle x_{0}:=(0,1),} y para cada real {\displaystyle s\in \mathbb {R} ,} sea {\displaystyle L_{s}:=\{(x,sx):x\in \mathbb {R} \}} la línea de pendiente s a través del origen, donde se verifica fácilmente que

{\displaystyle \min \left(L_{s},x_{0}\right)={\frac {s}{1+s^{2}}}(1,s).}

Pick un número real r\neq 0 y define {\displaystyle A:\mathbb {R} ^{2}\to \mathbb {R} ^{2}} por {\displaystyle A(x,y):=(rx,y)} (por lo que este mapa escala la {\displaystyle x-} coordenada por r mientras deja la {\displaystyle y-} coordenada sin cambios).

Entonces {\displaystyle A:\mathbb {R} ^{2}\to \mathbb {R} ^{2}} es un operador lineal continuo invertible que satisface {\displaystyle A\left(L_{s}\right)=L_{s/r}} {\displaystyle A\left(x_{0}\right)=x_{0},} y por lo que

{\displaystyle \,\min \left(A\left(L_{s}\right),A\left(x_{0}\right)\right)={\frac {s}{r^{2}+s^{2}}}(1,s)}

y

{\displaystyle A\left(\min \left(L_{s},x_{0}\right)\right)={\frac {s}{1+s^{2}}}\left(r,s\right).}

En consecuencia, si {\displaystyle C:=L_{s}} con s\neq 0 y si {\displaystyle (r,s)\neq (\pm 1,1)} entonces

{\displaystyle \,\min(A(C),A\left(x_{0}\right))\neq A\left(\min \left(C,x_{0}\right)\right).}

{Fin del capítulo 1}

Capítulo 2: Véase también Convexidad en economía – Tema significativo en economía No convexidad (economía) – Violaciones de los supuestos de convexidad de la economía elemental Lista de temas de convexidad Werner Fenchel – Matemático alemán Notas ^ a b Rockafellar, R. Tyrrell (1997) [1970]. Análisis convexo. Princeton, NJ: Princeton University Press. ISBN 978-0-691-01586-6. ^ a b c Rockafellar & Wets 2009, págs. 1-28. ^ a b Zălinescu 2002, págs. 75-79. ^ Borwein, Jonathan; Lewis, Adrian (2006). Análisis Convexo y Optimización No Lineal: Teoría y Ejemplos (2 ed.). Salmer. págs. 76-77. ISBN 978-0-387-29570-1. ^ a b Boţ, Radu Ioan; Wanka, Gert; Graduado, Sorin-Mihai (2009). Dualidad en la optimización vectorial. Salmer. ISBN 978-3-642-02885-4. ^ Zălinescu 2002 , págs. 106-113. ^ Csetnek, Ernö Robert (2010). Superación del fracaso de las condiciones clásicas de regularidad generalizada de punto interior en la optimización convexa. Aplicaciones de la teoría de la dualidad a ampliaciones de operadores monótonos máximos. Logos Verlag Berlin GmbH. ISBN 978-3-8325-2503-3. ^ Borwein, Jonathan; Lewis, Adrian (2006). Análisis Convexo y Optimización No Lineal: Teoría y Ejemplos (2 ed.). Salmer. ISBN 978-0-387-29570-1. ^ Boyd, Esteban; Vandenberghe, Lieven (2004). Optimización convexa (PDF). Cambridge University Press. ISBN 978-0-521-83378-3. Consultado el 3 de octubre de 2011. ^ La conclusión es inmediata si {\displaystyle X=\{0\}} por lo que se supone lo contrario. Arreglar {\displaystyle x\in X.} Al reemplazar f con la norma, se obtiene {\displaystyle \partial f(x)=\left\{x^{*}\in X^{*}~:~\left\langle x^{*},x\right\rangle -\|x\|\geq \left\langle x^{*},z\right\rangle -\|z\|{ \text{ para todos }}z\in X\right\}.} Si {\displaystyle x^{*}\in \partial f(x)} y r \geq 0 es real, entonces usando {\displaystyle z:=rx} da {\displaystyle \left\langle x^{*},x\right\rangle -\|x\|\geq \left\langle x^{*},rx\right\rangle -\|rx\|=r\left[\left\langle x^{*},x\right\rangle -\|x\|\right],} donde en particular, tomando {\displaystyle r:=2} da {\displaystyle x^{*}(x)\geq \|x\|} mientras se toma {\displaystyle r:={\frac {1}{2}}} da {\displaystyle x^{*}(x)\leq \|x\|} y, por lo tanto, {\displaystyle x^{*}(x)=\|x\|} ; Además, si además x\neq 0 entonces porque {\displaystyle x^{*}\left({\frac {x}{\|x\|}} \right)=1,} De la definición de la norma dual se deduce que {\displaystyle \left\|x^{*}\right\|\geq 1.} Debido a que {\displaystyle \partial f(x)\subseteq \left\{x^{*}\in X^{*}~:~x^{*}(x)=\|x\|\right\},} que es equivalente a {\displaystyle \partial f(x)=\partial f(x)\cap \left\{x^{*}\in X^{*}~:~x^{*}(x)=\|x\|\right\},} se deduce que {\displaystyle \partial f(x)=\left\{x^{*}\in X^{*}~:~x^{*}(x)=\|x\|{ \text{ y }}\|z\|\geq \left\langle x^{*},z\right\rangle {\text{ for all }}z\in X\right\},} que implica {\displaystyle \left\|x^{*}\right\|\leq 1} para todos {\displaystyle x^{*}\in \partial f(x).} A partir de estos hechos, se puede llegar ahora a la conclusión. ∎ Referencias Bauschke, Heinz H.; ↑ Combettes, Patrick L. (28 de febrero de 2017). Análisis Convexo y Teoría de Operadores Monótonos en Espacios de Hilbert. CMS Libros en Matemáticas. Springer Science & Business Media. ISBN 978-3-319-48311-5. OCLC 1037059594. Boyd, Esteban; ↑ Vandenberghe, Lieven (8 de marzo de 2004). Optimización convexa. Serie Cambridge en Matemáticas Estadísticas y Probabilísticas. Cambridge, Reino Unido Nueva York: Cambridge University Press. ISBN 978-0-521-83378-3. OCLC 53331084. Hiriart-Urruty, J.-B.; Lemaréchal, C. (2001). Fundamentos del análisis convexo. Berlín: Springer-Verlag. ISBN 978-3-540-42205-1. Kusraev, A.G.; Kutateladze, Semen Samsonovich (1995). Subdiferenciales: Teoría y Aplicaciones. Dordrecht: Kluwer Academic Publishers. ISBN 978-94-011-0265-0. Rockafellar, R. Tyrrell; Mojados, Roger J.-B. (26 de junio de 2009). Análisis variacional. Grundlehren