Метод регуляризации Тихонова

Метод регуляризации Тихонова — алгоритм, позволяющий находить приближённое решение некорректно поставленных операторных задач вида A x = u {displaystyle Ax=u} . Был разработан А. Н. Тихоновым в 1965 году. Основная идея заключается в нахождении приближённого решения уравнения A x = u {displaystyle Ax=u} в виде x δ = R ( u δ , α ) {displaystyle x_{delta }=R(u_{delta },alpha )} , где R ( u δ , α ) {displaystyle R(u_{delta },alpha )} — регуляризирующий оператор. Он должен гарантировать, что при приближении u δ {displaystyle u_{delta }} к точному значению u T {displaystyle u_{T}} при δ → 0 {displaystyle delta o 0} приближённое решение x δ {displaystyle x_{delta }} стремилось бы к желаемому точному решению x T {displaystyle x_{T}} уравнения A x T = u T {displaystyle Ax_{T}=u_{T}} .

Регуляризирующий оператор

Оператор R ( u , α ) {displaystyle R(u,alpha )} , зависящий от параметра α {displaystyle alpha } , называется регуляризующим для уравнения A x = u {displaystyle Ax=u} , если он обладает свойствами:

  • Определён для всякого α > 0 {displaystyle alpha >0} и любого u ∈ U {displaystyle uin U} .
  • Если выполняется A x T = u T {displaystyle Ax_{T}=u_{T}} , то существует такое α ( δ ) {displaystyle alpha (delta )} , что для любого ε > 0 {displaystyle varepsilon >0} найдётся такое δ ( ε ) {displaystyle delta (varepsilon )} , что если ρ U ( u T , u δ ) ⩽ δ ( ε ) {displaystyle ho _{U}(u_{T},u_{delta })leqslant delta (varepsilon )} , то ρ F ( x T , x α ) ⩽ ε {displaystyle ho _{F}(x_{T},x_{alpha })leqslant varepsilon } , где x α = R ( u δ , α ) {displaystyle x_{alpha }=R(u_{delta },alpha )} , α = α ( δ ) {displaystyle alpha =alpha (delta )} , ρ U {displaystyle ho _{U}} — метрика в пространстве U {displaystyle U} , или же ρ U ( u T , u δ ) {displaystyle ho _{U}(u_{T},u_{delta })} расстояние между векторами u T {displaystyle u_{T}} и u δ {displaystyle u_{delta }} , ρ F {displaystyle ho _{F}} — метрика в пространстве X {displaystyle X} , то есть ρ F ( x T , x α ) {displaystyle ho _{F}(x_{T},x_{alpha })} расстояние между векторами x T {displaystyle x_{T}} и x α {displaystyle x_{alpha }} .

Способ построения регуляризирующих операторов

Для широкого класса уравнений A x = u {displaystyle Ax=u} А. Н. Тихонов показал, что решение задачи x α {displaystyle x_{alpha }} минимизации функционала M α [ u δ , x ] = ρ U 2 ( A x , u δ ) 2 + α Ω [ x ] {displaystyle M^{alpha }left[u_{delta },x ight]= ho _{U}^{2}(Ax,u_{delta })^{2}+alpha Omega left[x ight]} можно рассматривать как результат применения регуляризирующего оператора, зависящего от параметра α {displaystyle alpha } x α = R 1 ( u δ , α ) {displaystyle x_{alpha }=R_{1}(u_{delta },alpha )} . Функционал Ω [ x ] {displaystyle Omega left[x ight]} называется стабилизатором задачи A x = u {displaystyle Ax=u} .

Пример применения

Найдём нормальное (наиболее близкое к началу координат) решение X {displaystyle X} системы линейных уравнений A X = B {displaystyle AX=B} с точностью, соответствующей точности задания элементов матрицы A {displaystyle A} и столбца B {displaystyle B} в случае, когда значения элементов матрицы A {displaystyle A} и столбца свободных членов B {displaystyle B} заданы лишь приближённо.

Постановка задачи

Рассмотрим систему линейных уравнений в матричной форме: A X = B {displaystyle AX=B} . Назовем сферическими нормами величины ‖ B ‖ = ∑ i = 1 m b i 2 , ‖ X ‖ = ∑ j = 1 n x j 2 , ‖ A ‖ = ∑ i = 1 m ∑ j = 1 n a i j 2 {displaystyle |B|={sqrt {sum _{i=1}^{m}b_{i}^{2}}},|X|={sqrt {sum _{j=1}^{n}x_{j}^{2}}},|A|={sqrt {sum _{i=1}^{m}sum _{j=1}^{n}a_{ij}^{2}}}} . Обозначим как A ~ , B ~ {displaystyle { ilde {A}},{ ilde {B}}} известные приближённые значения элементов матрицы A {displaystyle A} и столбца B {displaystyle B} . Матрицу A ~ {displaystyle { ilde {A}}} и столбец B ~ {displaystyle { ilde {B}}} будем называть δ {displaystyle delta } -приближением матрицы A {displaystyle A} и столбца B {displaystyle B} , если выполняются неравенства ‖ A − A ~ ‖ < δ , ‖ B − B ~ ‖ < δ {displaystyle |A-{ ilde {A}}|<delta ,|B-{ ilde {B}}|<delta } . Введём в рассмотрение функционал F ( X , A ~ , B ~ ) = ‖ A ~ X − B ~ ‖ 2 + α ‖ X ‖ 2 {displaystyle F(X,{ ilde {A}},{ ilde {B}})=|{ ilde {A}}X-{ ilde {B}}|^{2}+alpha |X|^{2}} . Теорема Тихонова сводит вопрос о приближённом нахождении нормального решения системы уравнений A X = B {displaystyle AX=B} к отысканию того элемента X α {displaystyle X^{alpha }} , на котором достигает минимальное значение этот функционал.

Теорема Тихонова

Пусть матрица A {displaystyle A} и столбец B {displaystyle B} удовлетворяют условиям, обеспечивающим совместность системы A X = B {displaystyle AX=B} , X 0 {displaystyle X^{0}} — нормальное решение этой системы, A ~ {displaystyle { ilde {A}}} — δ {displaystyle delta } -приближение матрицы A {displaystyle A} , B ~ {displaystyle { ilde {B}}} — δ {displaystyle delta } -приближение столбца B {displaystyle B} , ε ( δ ) {displaystyle varepsilon left(delta ight)} и α ( δ ) {displaystyle alpha left(delta ight)} — какие-либо возрастающие функции δ {displaystyle delta } , стремящиеся к нулю при δ → + 0 {displaystyle delta ightarrow +0} и такие, что δ 2 ⩽ ε ( δ ) α ( δ ) {displaystyle delta ^{2}leqslant varepsilon left(delta ight)alpha left(delta ight)} . Тогда для любого ε > 0 {displaystyle varepsilon >0} найдётся положительное число δ 0 {displaystyle delta _{0}} такое, что при любом δ < δ 0 {displaystyle delta <delta _{0}} и при любом α {displaystyle alpha } , удовлетворяющем условию 1 ε ( δ ) ⩽ α ⩽ α ( δ ) {displaystyle {frac {1}{varepsilon left(delta ight)}}leqslant alpha leqslant alpha left(delta ight)} , элемент X α {displaystyle X^{alpha }} , доставляющий минимум функционалу F ( X , A ~ , B ~ ) = ‖ A ~ X − B ~ ‖ 2 + α ‖ X ‖ 2 {displaystyle Fleft(X,{ ilde {A}},{ ilde {B}} ight)={|{ ilde {A}}X-{ ilde {B}}|}^{2}+alpha {|X|}^{2}} , удовлетворяет неравенству ‖ X α − X 0 ‖ ⩽ ε {displaystyle |X^{alpha }-X^{0}|leqslant varepsilon } .