3.3. Норма вектора и норма матрицы
При изучении итерационных процессов нам понадобятся
понятия норм вектора и матрицы. Введем в п - мерном векторном пространстве Рп
норму вектора.
Нормой вектора 
называется число 
, удовлетворяющее следующим аксиомам нормы:
1) 
2)
3)
Наиболее употребительны в пространстве векторов
следующие нормы:
(3.22)
; (3.23)
. (3.24)
Для всех этих норм выполняются аксиомы нормы. Докажем
это для нормы 
. Выполнение первой аксиомы очевидно. Справедливость
второй аксиомы следует из равенства:
Выполнение третьей аксиомы можно доказать,
воспользовавшись неравенством Коши -
Буняковского [12].
(3.25)
Действительно,
откуда
.
Очевидно, что введенные нормы векторов удовлетворяют
следующим соотношениям:
Введем теперь в пространстве матриц понятие нормы
матрицы, согласованной с данной нормой вектора (подчиненной данной, норме
вектора).
Нормой матрицы А, согласованной с данной нормой
вектора, называется число
. (3.26)
Докажем, что для нормы матрицы 
выполнены все три
аксиомы нормы.
Выполнение первой аксиомы очевидно. Далее имеем
Нормами матриц, согласованными
с нормами векторов (3.22), (3.23) и (3.24), являются соответственно нормы
(3.27)
(3.28)
, (3.29)
где A' - транспонированная матрица А, а 
собственные значения
матрицы А'А,
i = 1,2,…,n.
Приведем вывод этих соотношений для вещественного случая. Согласно
(3.22)
откуда имеем, что для любого вектора 
справедливо
неравенство
. (3.30)
Пусть 
достигается при i
= e.
Рассмотрим
вектор 
, у которого
Очевидно, что 
.
,
откуда
(3.31)
Поскольку для всякого вектора и для , в частности, справедливо противоположное неравенство (3.30), заключаем, что
.
Согласно (3.23)
откуда
заключаем, что для любого вектора справедливо
неравенство
. (3.32)
Пусть 
.
Рассмотрим вектор 
, у которого l - я координата равна 
,
а остальные координаты - нули.
Для этого
вектора 
и
откуда
. (3.33.)
Из (3.32) и (3.33) следует, что
.
Согласно (3.26)
и (3.24)
.
Матрица A' A -симметрическая, поскольку
.
Известно, что для всякой вещественной симметрической
матрицы В существует базис, составленный из ее собственных векторов [8,11].
Пусть 
- ортонормированный базис собственных векторов, а 
– соответствующие собственные
значения. Всякий вектор представим в виде
.
Имеем
,
поэтому
(3.34)
и
(3.35)
В то же время
.
Из
этих соотношений следует, что
. (3.36)
Поскольку
, то все 
. Полагая в (3.36)
В = А'А, получим
,
откуда
следует (3.29).
Отметим важный частный случай. Если А - симметрическая матрица, то
.
Поэтому
для неё
.
Рассмотрим
некоторые свойства нормы матрицы.
I 
. (3.37)
Из определения нормы матрицы следует, что для любого
.
Для
имеем
,
поэтому (3.37) заполняется как строгое равенство.
II. 
. (3.38)
На основании
(3.37)
и, следовательно, имеет место неравенство (3.38).
III. 
(3.39)
где 
-
наибольшее по модулю собственное значение матрицы А.
Пусть 
- собственный вектор матрицы А, соответствующий . Имеем
,
,
откуда следует (3.39).