МИНИСТЕРСТВО ОБРАЗОВАНИЯ И НАУКИУКРАИНЫ

Таврический национальный университетим. В. И.Вернадского

Т.Я. АЗИЗОВ, Н.Д. КОПАЧЕВСКИЙ

ВВЕДЕНИЕ В ТЕОРИЮ ПРОСТРАНСТВПОНТРЯГИНА

Специальный курс лекцийдля студентов-магистрантов специальности ”Математика”

Симферополь, 2008

ББК 22.162А35УДК 517.98

Рекомендовано к печати научно-методической комиссиейфакультета математики и информатики ТНУ

(протокол 2 от 12.11.2008 г.)

Рецензент :Орлов И.В. – д. ф.-м. н., профессор, зав. кафедрой алгебры и функ-ционального анализа Таврического национального университета им. В.И.Вернадского

А35 Азизов Т.Я., Копачевский Н.Д. Введение в теорию про-странств Понтрягина: Специальный курс лекций. – Симферополь:ТНУ, 2008. – 112 с. – На русском языке.

В курсе лекций содержатся основные положения геометрии пространстваПонтрягина и теории операторов, действующих в них, а также рассматриваетсяспектральный подход к исследованию гидродинамического пучка С.Г. Крейна.

Изложение сопровождается примерами и упражнениями, что позволяет реко-мендовать пособие как для аудиторных занятий, так и самостоятельного изуче-ния.

Для студентов-магистрантов, аспирантов и специалистов, специализирую-щихся в области математики.

c© Азизов Т.Я., Копачевский Н.Д., 2008c© ТНУ, 2008

СодержаниеКраткие исторические сведения и цели курса 4

1 Предварительные сведения 5

2 Введение в геометрию пространства Понтрягина Πκ 10

3 Элементы теории операторов в пространстве Понтря-гина Πκ 33

4 Полнота и базисность корневых векторов 96

5 Задача С.Г. Крейна 106

Краткие исторические сведения и целикурсаБесконечномерные пространства с индефинитной метрикой сталисистематически изучаться после знаменитой работы Л.С. Понтря-гина (1944), в которой доказывалось (в современной терминологии)существование κ-мерного неотрицательного инвариантного под-пространства у самосопряженного оператора в пространствеПонтрягина Πκ. Об интересе к такого рода результатам, как пи-шет в своей статье Л.С. Понтрягин, он узнал от С.Л. Соболева,изучавшего в то время проблемы устойчивости в гидродинамикеи получившего аналогичный результат при κ = 1. Оригинальнаяработа С.Л. Соболева увидела свет лишь в 1960 г. После статьиПонтрягина появилась целая серия работ М.Г. Крейна и его учени-ков, в которых изучались как геометрия, так и теория операторовв пространствах с индефинитной метрикой, называемых сейчаспространствами Крейна. Сейчас теория пространств Понтрягина иКрейна является достаточно востребованной в различных прило-жениях, как в сложных теоретических направлениях математики,так и в прикладных, в частности, в механике. Мы не будем оста-навливаться подробно на истории вопроса, а также избежим ссылокв тексте, указав в библиографии литературу, где читатель можетознакомиться, кроме прочего, также с вопросами приоритетов.

Целью данного курса является краткое введение в геометрию итеорию операторов в пространствах Понтрягина. В тексте лекцийизлагаются, как хорошо известные результаты (для наиболее важ-ных, с нашей точки зрения, указывается авторство), так и новые.Найдены и новые методические подходы. В конце курса приводит-ся схема применения одной из спектральных теорем к исследованиюгидродинамического пучка С.Г. Крейна.

4

1 Предварительные сведенияПри изучении данного курса лекций потребуется знание основныхположений теории линейных векторных пространств, теории гиль-бертовых пространств, а также теории линейных нормированныхпространств. Напомним кратко некоторые из них.

Множество E произвольной природы называется комплекснымлинейным пространством (линейной системой, линеалом), если дляэлементов из E определены операции сложения двух элементов иоперация умножения элемента на комплексное число. При этом

αx + βy ∈ E , ∀x, y ∈ E , ∀α, β ∈ C;

здесь через C обозначено множество комплексных чисел. Будем го-ворить, что E — линейное нормированное пространство, если дляэлементов из E определена функция (функционал) ‖ · ‖ : E −→ R,для которой выполнены следующие условия:

1) ‖x‖ > 0, причем ‖x‖ = 0⇐⇒ x = 0;2) ‖λx‖ = |λ| · ‖x‖, ∀x ∈ E , ∀λ ∈ C;3) ‖x + y‖ 6 ‖x‖+ ‖y‖, ∀x, y ∈ E .

Определение 1.1. Последовательность xn ⊂ E называется фун-даментальной, если

‖xn − xm‖ −→ 0 (n, m −→∞).

Определение 1.2. Линейное пространство E с нормой ‖·‖ (краткаязапись E , ‖ · ‖) называется полным (банаховым), если всякаяфундаментальная последовательность xn ⊂ E имеет (и тогдаединственный) предел x0 := lim

n−→∞xn ∈ E . (Иными словами,

‖xn − x0‖ −→ 0 при n −→ ∞, т.е., ∀ε > 0 ∃ N = N(ε) : n > N =⇒‖xn − x0‖ < ε.)

Далее будем считать, что E , ‖ · ‖ — банахово пространство.

Определение 1.3. Функция (полутора-линейная форма) (·, ·) : E →C называется скалярным произведением, если

1) (x, x) > 0, ∀x ∈ H; (x, x) = 0⇐⇒ x = 0;2) (αx + βy, z) = α(x, z) + β(y, z), ∀x, y, z ∈ H, ∀α, β ∈ C;3) (x, y) = (y, x).

5

Определение 1.4. Банахово пространство E называется гильберто-вым (будем обозначать, как правило, H), если его норма порожденаскалярным произведением (·, ·), т.е. ‖x‖ :=

√(x, x).

Для элементов из H справедливо неравенство Коши–Буняковского–Шварца:

|(x, y)|2 6 (x, x)(y, y), ∀x, y ∈ H.

Далее мы в подавляющем большинстве случаев будем иметьдело с гильбертовыми пространствами, оснащенными специальны-ми структурами. Часть упомянутых или доказываемых результатовсправедлива также и в более общем случае банаховых или даже об-щих топологических пространств, но мы будем себя ограничиватьтолько случаем гильбертова пространства.

Замечание 1.1. Как нетрудно проверить, неравенство Коши–Буняковского–Шварца справедливо не только для скалярного про-изведения, но и в случае, когда в первом условии определения 1.3ограничиться только условием (x, x) > 0, опустив требование (x, x) =0⇐⇒ x = 0, либо заменить его на (x, x) 6 0 для любого x.

Всюду ниже термином подпространство пространства H будемназывать замкнутый линеал, т.е. такую линейную систему элементовиз H, которая содержит все свои предельные точки.

Определение 1.5. Пусть L и M — линеалы из H. Тогда суммойлинеалов называется множество

L+M := x + y : x ∈ L, y ∈M.

Пусть L иM — подпространства в H, т.е. L = L,M =M. Будетли сумма этих подпространств подпространством, т.е. всегда ли

L+M = L+M ? (1.1)

Оказывается, не всегда. Однако, если L и M ортогональны: L⊥M,т.е. (x, y) = 0 для ∀x ∈ L, ∀y ∈ M, то (1.1) проверяется непосред-ственно.

Другой пример, когда имеет место (1.1), отображен в следующейлемме.

6

Лемма 1.1. Если L и M — подпространства в H и

min dim L, dim M <∞,

то и их сумма — подпространство.

Приведем пример пары подпространств L и M, когда свойство(1.1) не выполнено.

Пример 1.1. Пусть H = L2(0, 1)× L2(0, 1),

L =(

x(t)tx(t)

), M =

(ty(t)y(t)

), x(t), y(t) ∈ L2(0, 1).

Тогда множество L+M плотно в H, но не совпадает с H.

Предоставляем читателю самостоятельно доказать лемму 1.1 ипроверить справедливость утверждения в примере 1.1.

Напомним определение и свойства линейных операторов, дей-ствующих гильбертовых пространствах.

Определение 1.6. Пусть H — гильбертово пространство. Отобра-жение A с областью определения dom A ⊂ H и областью значенияranA ⊂ H (кратко запишем A : H −→ H ) называется линейнымоператором, если выполнены следующие условия:

(a) dom A — линеал;

(б) A(αx + βy) = αAx + βAy, ∀x, y ∈ H, ∀α, β ∈ C.

Далее, если не оговорено другое, под термином "оператор" будетподразумеваться линейный оператор и, как правило, будем считатьdom A = H, т.е. оператор A будет задан на всем пространстве H.

Определение 1.7. Оператор A : H −→ H называется непрерыв-ным, если из сходимости векторов xn к вектору x0 следует сходи-мость векторов Axn к Ax0, т.е.

‖xn − x0‖ → 0 =⇒ ‖Axn −Ax0‖ → 0 при n→∞.

Определение 1.8. Оператор A : H −→ H называется ограничен-ным, если

supx6=0

‖Ax‖‖x‖

=: ‖A‖ <∞.

7

Как известно из курса функционального анализа, оператор A :H −→ H является непрерывным тогда и только тогда, когда он огра-ничен. Поэтому далее для линейного оператора будут как синонимыиспользоваться оба понятия, ограниченного и непрерывного опера-тора.

Определение 1.9. Оператор A, заданный на линеале dom A ⊂ H,называется замкнутым, если

xn → x0

Axn → y0

=⇒

x0 ∈ dom A

y0 = Ax0

.

Приведем некоторые простые примеры операторов.

Пример 1.2. Пусть H = L2(0, 1) и оператор I : I x = x(тождественный оператор) задан на множестве x(t) абсолютнонепрерывных функций, имеющих представление

x(t) =∫ t

0

g(s)ds, g(s) ∈ L2(0, 1).

Непосредственно проверяется, что так определенный оператор I яв-ляется ограниченным: ‖I‖ = 1, плотно заданным, но не замкнутым.

Пример 1.3. Пусть, как и в примере 1.2, H = L2(0, 1) и A — опера-тор дифференцирования, т.е.

Ax(t) :=dx

dt, (1.2)

причем dom A ⊂ H та же, что и в примере 1.2. Тогда, как известно,оператор (1.2) замкнут, но неограничен в L2(0, 1).

Далее понадобится следующий хорошо известный факт.

Теорема 1.1 (С. Банах). Пусть A — линейный оператор, действу-ющий в H. Тогда:

(1) замкнутый оператор A непрерывен тогда и только тогда, когда

dom A = dom A; (1.3)

8

(2) непрерывный оператор A замкнут тогда и только тогда, когдавыполнено свойство (1.3).

Предоставляем читателю сравнить утверждения теоремы Банахаи свойства операторов из примеров 1.2 и 1.3.

Определение 1.10. Оператор P : H −→ H называется проектором(оператором проектирования), если P 2 = P , т.е. P (Px) = Px, ∀x ∈H.

Если P — проектор, то пространство H разлагается в сумму:H = PH+ (I − P )H. Иными словами, x = Px + (I − P )x, ∀x ∈ H,где Px ∈ PH, а (I−P )x ∈ (I−P )H. Отметим, что (I−P ) — проектородновременно с P .

9

2 Введение в геометрию пространстваПонтрягина Πκ

Пусть E — линейное пространство, не обязательно нормированное.Зададим на E полутора-линейную форму (в вещественном E форманазывается билинейной) [·, ·] : E × E −→ C, для которой выполненыследующие требования:

1) [x, x] ∈ R, ∀x ∈ E ;

2) [αx + βy, z] = α[x, z] + β[y, z], ∀x, y, z ∈ E , ∀α, β ∈ C;

3) [x, y] = [y, x], ∀x, y, z ∈ E .

Полутора-линейную форму [·, ·] называют также индефинитнойметрикой, а пространство E , [·, ·] — пространством с индефинит-ной метрикой.Из первого свойства следует, в частности, что для любого элементаx ∈ E выражение [x, x] может быть положительным, отрицательнымили нулем.

Определение 2.1. Элемент x ∈ E называется:

а) положительным, если [x, x] > 0 (сокращенно x > 0);

б) неотрицательным, если [x, x] > 0 (x > 0);

в) отрицательным, если [x, x] < 0 (x < 0);

г) неположительным, если [x, x] 6 0 (x 6 0);

д) нейтральным, если [x, x] = 0.

Соответствующим образом определяются и линеалы L ⊂ E .

Определение 2.2. Линеал L ⊂ E называется:

а) положительным, если [x, x] > 0, ∀x ∈ L, x 6= 0 (сокращенноL > 0 );

б) неотрицательным, если [x, x] > 0, ∀x ∈ L ( L ≥ 0 );

в) отрицательным, если [x, x] < 0, ∀x ∈ L, x 6= 0 ( L < 0 );

г) неположительным, если [x, x] 6 0, ∀x ∈ L ( L ≤ 0 );

10

д) нейтральным, если [x, x] = 0, ∀x ∈ L.

При этом отрицательные и положительные линеалы называются де-финитными, а неотрицательные и неположительные, в частностинейтральные, — семидефинитными. Линеалы, содержащие как по-ложительные так и отрицательные векторы, называются индефи-нитными.

Целью этого курса является изучение геометрии пространстваПонтрягина и теории операторов в этих пространствах. Простран-ство Понтрягина — специальный случай индефинитного простран-ства и по определению удовлетворяет формулируемым ниже аксио-мам (i)− (iv).

Определение 2.3. Пространство E , [·, ·] называется простран-ством Понтрягина с κ положительными квадратами и обозначаетсяΠκ, если выполнены следующие аксиомы:

(i) в E нет ненулевого вектора, ортогонального всему E , т.е.[x0, x] = 0, ∀x ∈ E , влечет x0 = 0;

(ii) в E существует хотя бы одно κ-мерное, κ ∈ N, положительноеподпространство;

(iii) для любых κ + 1 векторов xjκ+1j=1 квадратичная форма∑κ+1

k,j=1[xj , xk]ξjξk имеет не более κ неотрицательных квадра-тов;

(iv) существует разложение

E =: Πκ = Π+[u]Π−, (2.1)

с Π+ > 0, Π− < 0, [x+, x−] = 0 при всех x± ∈ Π±,

dim Π+ = κ, (2.2)

и пространства Π±,±[x, y] гильбертовы.

Замечание 2.1. На практике используются пространства Понтря-гина Πκ как с κ положительными квадратами, так и с κ отрица-тельными квадратами, которые определяются естественным обра-зом. Оба эти варианта равносильны, и далее для определенности,если не оговорено другое, будет использован первый из них, т.е. слу-чай (2.2).

11

Замечание 2.2. В определении 2.3 пространства Понтрягина Πκ,существование разложения (2.1) со свойством (2.2) есть следствиепредыдущих аксиом (i)–(iii). Поскольку положительные подпро-странства Π±,±[·, ·] являются предгильбертовыми, а конечномер-ное Π+ гильбертово, то аксиома (iv) является по существу предпо-ложением полноты Π−.

Проверим существование разложения (2.1) со свойством (2.2).Из аксиомы (ii) следует существование κ-мерного положительно-

го подпространства, которое обозначим через Π+. Тогда ∀x ∈ E :

x = x+ + x−, x+ ∈ Π+, [x−, y+] = 0, ∀y+ ∈ Π+.

В самом деле, так как κ-мерное положительное подпространствоΠ+, [·, ·] гильбертово, то в нем существует ортонормированный ба-зис e+

j κj=1, т.е. [e+j , e+

k ] = δjk, где δjk — символ Кронекера: δkk = 1,

δkj = 0, k 6= j, k, j = 1, κ. Поэтому любой элемент x+ из Π+ имеетвид

x+ =κ∑

j=1

αje+j , αj = [x+, e+

j ], j = 1, κ,

т.е.

x+ =κ∑

j=1

[x+, e+j ]e+

j .

Рассмотрим произвольный элемент x ∈ E . Положим

x+ :=κ∑

j=1

[x, e+j ]e+

j , x− := x− x+. (2.3)

Обозначим

Π− = x− ∈ E | x− = x−κ∑

j=1

[x, e+j ]e+

j , x ∈ E.

Так определенное множество Π− является линейным и линейная обо-лочка Π+ и Π− совпадает с E .

Докажем, что если x− 6= 0, то

[x−, x−] < 0, [x−, y+] = 0, ∀y+ ∈ Π+. (2.4)

В самом деле, если y+ =∑κ

j=1 βje+j , то

[x−, y+] = [x− x+, y+] =κ∑

j=1

βj [x− x+, e+j ].

12

Однако согласно (2.3) имеем

[x− x+, e+j ] = [x, e+

j ]− [x+, e+j ] = 0,

и потому второе свойство (2.4) выполнено.Докажем теперь первое свойство (2.4). Предположим, что Π− со-

держит неотрицательный вектор e+κ+1. Тогда квадратичная форма

κ+1∑k,j=1

[e+j , e+

k ]ξjξk =κ∑

k=1

|ξk|2 + [e+κ+1, e

+κ+1]|ξκ+1|2

содержит κ + 1 неотрицательных квадратов, что противоречит ак-сиоме (iii).

Рассмотрим следующий типичный пример пространства с инде-финитной метрикой.

Пример 2.1. Пусть E = C2,

x = ξ1; ξ2, y = η1; η2, ξj , ηj ∈ C, j = 1, 2.

Введем на этом множестве обычное скалярное произведение

(x, y) := ξ1η1 + ξ2η2,

а также индефинитное скалярное произведение

[x, y] := ξ1η1 − ξ2η2. (2.5)

Непосредственно проверяется, что [·, ·] — полутора-линейная форма.Ее индефинитность следует из того, например, что x+ = 1; 0 — по-ложительный вектор: [x+, x+] = 1 > 0, x− = 0; 1— отрицательный:[x−, x−] = −1 < 0, а x0 = 1; 1 — нейтральный: [x0, x0] = 0.

Проверим, что для C2, [·, ·] выполнены аксиомы (i)–(iv) из опре-деления 2.3 пространства Понтрягина с κ = 1. Нетрудно видеть,что если [x0, x] = 0, ∀x ∈ C2, то x0 = 0. В самом деле, еслиx0 = ξ1,0; ξ2,0, x = ξ1,0;−ξ2,0, то

[x0, x] = |ξ1,0|2 + |ξ2,0|2 = 0⇐⇒ ξ1,0 = 0, ξ2,0 = 0, т.е. x0 = 0.

Введем линеал

L+ := л.о.1; 0, dim L+ = 1.

13

Непосредственно проверяется, что

C2 = Πκ = л.о.1; 0[u]л.о.0; 1,

причем L+ является одномерным положительным подпростран-ством.

Остальные свойства (i) – (iv) из определения 2.3 для случая Πκ =C2 = Π1 предоставляем проверить читателю.

Рассмотрим подробнее описание подпространств (линеалов) изопределения 2.2 применительно к разбираемому примеру и индефи-нитному скалярному произведению (2.5). Имеем для x = ξ1, ξ2:

[x, x] = |ξ1|2 − |ξ2|2 > 0⇐⇒ |ξ1| > |ξ2|;

[x, x] = |ξ1|2 − |ξ2|2 > 0⇐⇒ |ξ1| > |ξ2|;

[x, x] = |ξ1|2 − |ξ2|2 < 0⇐⇒ |ξ1| < |ξ2|;

[x, x] = |ξ1|2 − |ξ2|2 6 0⇐⇒ |ξ1| 6 |ξ2|.

Если вместо C2 взять вещественное пространство R2, то легко по-строить на плоскости ξ1; ξ2 области, соответствующие выписаннымнеравенствам, а также "крест"(биссектрисы всех четырех квадран-тов), отвечающий нейтральным векторам, расположенным на плос-кости и идущим из начала координат (постройте эту картинку).

Продолжим обсуждение геометрических свойств пространстваΠκ.

Лемма 2.1. Любое неотрицательное подпространство L ⊂ Πκ имеетразмерность, не превышающую κ.

Доказательство. Пусть, напротив, существует неотрицательноеподпространство L ⊂ Πκ с dim L = κ + 1 и пусть fjκ+1

j=1 — ба-зис этого подпространства. Как и выше, через e+

k κk=1 обозначимортонормированный в Π+, [·, ·] базис. Проверим, что в L существу-ет вектор y 6= 0 такой, что [y, e+

k ] = 0, k = 1, κ. Каждый вектор из L

представляется в виде: y =κ+1∑j=1

αjfj . Рассмотрим систему линейных

уравнений:κ+1∑j=1

αj [fj , e+k ] = 0, k = 1, κ.

14

Воспользуемся хорошо известным из линейной алгебры результатом:если в системе линейных однородных уравнений неизвестных боль-ше, чем уравнений, то такая система имеет нетривиальное решение.Следовательно, существует искомый ненулевой вектор y ∈ L. Далее,проводя рассуждения, аналогичные использованным в конце заме-чания 2.2, получим как и там противоречие с аксиомой (iii) опреде-ления 2.3.

Заметим, что до сих пор на линеале E никакой топологии (ска-лярного произведения, нормы) не вводилось. Введем определенияслабой сходимости, слабой фундаментальности последовательностии приведем эквивалентную формулировку аксиомы (iv) определения2.3 пространства Πκ.

Пусть E , [·, ·] — пространство с индефинитной метрикой, длякоторого имеют место аксиомы (i)–(iii) определения 2.3.

Определение 2.4. Будем говорить, что последовательность xn ⊂E слабо сходится в E , [·, ·], если существует элемент x0 ∈ E такой,что

[xn − x0, y] −→ 0, ∀y ∈ E , n −→∞.

Последовательность xn называется слабо фундаментальной вE , [·, ·], если

[xn − xm, y] −→ 0, ∀y ∈ E , n, m −→∞.

Вместо аксиомы (iv) в определении 2.3 пространства Πκ введемследующую аксиому:

(iv′). Каждая слабо фундаментальная последовательностьимеет слабый предел в Πκ.

Напомним еще раз, что линейное пространство E со скалярнымпроизведением (·, ·) называется предгильбертовым. Если E являетсяполным относительно нормы, порожденной скалярным произведе-нием, то E , (·, ·) — гильбертово пространство. Известно, что пред-гильбертово пространство E является гильбертовым, т.е. полным,тогда и только тогда, когда любая слабо фундаментальная после-довательность имеет слабый предел: из условия (xn − xm, y) −→ 0,∀y ∈ E , n, m −→ ∞, следует существование такого вектора x0 ∈ E ,что (x0 − xn, y) −→ 0, ∀y ∈ E , n −→ ∞. Это утверждение являетсяключевым при доказательстве следующей теоремы.

15

Теорема 2.1. При выполнении аксиом (i)− (iii), аксиомы (iv) и (iv′)эквивалентны.

Доказательство. Пусть выполнены аксиомы (i) − (iv). Докажем,что тогда справедливо утверждение аксиомы (iv′). Согласно предпо-ложению, E — пространство Понтрягина Πκ и

Πκ = Π+[u]Π−,

где Π±,± [·, ·] — гильбертовы пространства. Пусть xn = x+n +x−n ,

x±n ∈ Π±, — произвольная слабо фундаментальная последователь-ность в Πκ:

[xn − xm, y] −→ 0, ∀y ∈ Πκ, n, m −→∞. (2.6)

Положим y = y± ∈ Π±. Тогда из (2.6) имеем

[x+n − x+

m, y+] −→ 0, ∀y+ ∈ Π+, n, m −→∞,

−[x−n − x−m, y−] −→ 0, ∀y− ∈ Π−, n, m −→∞,

а потому последовательности x±n являются слабо фундамен-тальными в гильбертовых (согласно аксиоме (iv)) пространствахΠ±,±[·, ·]. Следовательно, как отмечалось в начале доказатель-ства, эти пространства слабо полны, т.е. существуют такие векторыx±0 ∈ Π±, что

[x+n − x+

0 , y+] −→ 0, ∀y+ ∈ Π+, n −→∞,

−[x−n − x−0 , y−] −→ 0, ∀y− ∈ Π−, n −→∞.

Положим x0 = x+0 + x−0 . Тогда

[xn − x0, y] −→ 0, ∀y ∈ Πκ, n −→∞.

Таким образом, x0 — слабый предел xn в Πκ, а потому имеет местоутверждение аксиомы (iv′).

Докажем теперь, что из (i) − −(iii) и (iv′) следует утверждение(iv). Согласно замечанию 2.2 имеет место разложение (2.1) и надолишь доказать, что Π−,−[·, ·] — гильбертово пространство. Таккак Π−,−[·, ·] — предгильбертово, а согласно предположению (iv′)всякая слабо фундаментальная последовательность в Πκ, в частно-сти, в Π−, сходится, то опять-таки согласно рассуждениям из началадоказательства данной теоремы, получаем, что Π− — гильбертовопространство.

16

Следующий шаг в исследовании геометрических свойств про-странства Πκ — это введение оператора канонической симметриии с его помощью упрощение взаимосвязей между геометрическимиобъектами.

Опираясь на тот факт, что Πκ = Π+[+]Π−, а Π±,±[x, y] — гиль-бертовы пространства, введем в Πκ гильбертову структуру, задавскалярное произведение (·, ·) следующим образом:

(x, y) := [x+, y+]− [x−, y−], ∀x = x+ + x−,

∀y = y+ + y−, x±, y± ∈ Π±.(2.7)

Предоставляем читателю проверить, что (·, ·) — скалярное произве-дение, а Πκ, (·, ·) — гильбертово пространство.Скалярное произведение (·, ·) и порожденная им норма ‖x‖ =

√(x, x)

называются каноническими (фундаментальными).Пусть P± — взаимно-дополнительные проекторы на подпростран-

ства Π±, соответственно, и J := P+ − P−. Проекторы P± называютканоническими (фундаментальными), а оператор J — канонической(фундаментальной) симметрией. По определению, для любого эле-мента x = x+ + x− ∈ Πκ имеем:

Jx = x+ − x−. (2.8)

Отсюда следует, что справедливы формулы

(x, y) = [Jx, y], [x, y] = (Jx, y), ∀x, y ∈ Πκ. (2.9)

В самом деле,

[Jx, y] = [x+ − x−, y+ + y−] = [x+, y+]− [x−, y−] = (x, y),

откуда следует первое свойство (2.9). Аналогично проверяется и вто-рое равенство в (2.9).

Из определения (2.8) оператора J следует также, что

J2 = I, (2.10)

где I — единичный оператор, действующий в Πκ.

Упражнение 2.1. Докажите, что имеет место равенство

(Jx, y) = (x, Jy), ∀x, y ∈ Πκ. (2.11)

17

Отсюда следует, что J = J∗, т.е. J является самосопряженнымоператором, действующим в пространстве Πκ, (·, ·). Более того, из(2.10) и (2.11) следует, что

J = J−1 = J∗. (2.12)

Отметим еще, что каноническая норма в Πκ определена теперь фор-мулой: ‖x‖ =

√(x, x) =

√[Jx, x].

Упражнение 2.2. Доказать, что для скалярного произведения(2.7) справедливо следующее неравенство:

|[x, y]|2 6 (x, x)(y, y), ∀x, y ∈ Πκ, (2.13)

и для фиксированных элементов x, y ∈ Πκ имеет аналог место нера-венства Коши–Буняковского–Шварца:

|[x, y]|2 6 [x, x][y, y]

тогда и только тогда, когда линейная оболочка этих элементов —семидефинитное подпространство.

Указание. Воспользоваться второй формулой (2.9) и свойствами(2.10) и (2.11).

В качестве замечания к проведенному ходу рассуждений, связан-ному с введением скалярного произведения (2.7) и оператора кано-нической симметрии J , отметим следующее обстоятельство. Частов прикладных задачах скалярное произведение (x, y) в некоторомгильбертовом пространстве H определяется естественными физиче-скими обстоятельствами, причем возникает также полуторалиней-ная форма, которая иногда имеет вид [x, y] = (Jx, y), где J обладаетсвойствами (2.12), и даже более общий вид:

[x, y] = (Ax, y), (2.14)

где A — ограниченный самосопряженный оператор. При условии,что спектр σ(A) оператора A сосредоточен на положительнойполуоси, за исключением, быть может, конечного числа (с учетомалгебраической кратности) κ ≥ 0 отрицательных собственныхзначений, и λ = 0 — регулярная точка оператора A : λ ∈ ρ(A),полутора-линейная форма (2.14) задает на H индефинитную метри-ку такую, что H, [·, ·] — пространство Понтрягина Πκ. Так будет,например, если A = I + B, где B = B∗ — компактный оператор,

18

0 ∈ ρ(A). При этом κ > 0 тогда и только тогда, когда λmin(B) < −1,где λmin(B) — наименьшее собственное значение оператора B.

Рассмотрим теперь некоторые дополнительные факты из функ-ционального анализа, которые ниже будут использованы при иссле-довании свойств пространства Πκ.

Пусть H, (·, ·) — гильбертово пространство, а L ⊂ H — подпро-странство, т.е. замкнутый линеал в H. Тогда, как известно, имеетместо ортогональное разложение

H = L ⊕ L⊥,

где L⊥ := y ∈ H : (x, y) = 0, ∀x ∈ L— ортогональное дополнениеподпространства L.Коразмерностью подпространства L называется величина

codim L := dim L⊥.

Для этой величины справедливы следующие утверждения:а) если codim L = m <∞ и M∩L = 0, dim M = m, то

H = LuM;

б) если codim L1 = m1 <∞, codim L2 = m2 <∞, то

codim (L1 ∩ L2) 6 m1 + m2. (2.15)

Пусть теперь E — банахово пространство и в нем заданы двенормы: ‖ · ‖1 и ‖ · ‖2. Эти нормы называются эквивалентными, еслисуществуют положительные константы c1 и c2 такие, что

c1‖x‖1 6 ‖x‖2 6 c2‖x‖1, ∀x ∈ E .

Ниже сформулируем и докажем известную теорему 2.3. При этомнам будет нужен следующий результат, который приведем без дока-зательства.

Теорема 2.2 (С. Банаха об эквивалентных нормах). Если E— банахово пространство по одной из норм ‖ · ‖1, ‖ · ‖2 и существуетконстанта c > 0 такая, что

‖x‖1 6 c‖x‖2, ∀x ∈ E ,

то нормы ‖ · ‖1 и ‖ · ‖2 эквивалентны тогда и только тогда, когда Eбанахово по обеим нормам.

19

Теорема 2.3. Пусть банахово пространство E , ‖ · ‖ допускает раз-ложение в прямую сумму:

E = E1 u E2, E1 ∩ E2 = 0,

где Ei — подпространства, i = 1, 2. Рассмотрим в E наряду с нормой‖ · ‖ нормы

‖x‖p := (‖x1‖p + ‖x2‖p)1/p, p ≥ 1, x = x1 + x2, xi ∈ Ei, i = 1, 2.

Тогда ‖ · ‖ и ‖ · ‖p эквивалентны при каждом p ≥ 1.

Доказательство. Прежде всего заметим, что по каждой из норм‖ · ‖p, p ≥ 1, пространство E банахово. В самом деле, пусть xn =xn1 + xn2, xnk ∈ Ek, k = 1, 2∞n=1 — произвольная фундаментальнаяв норме ‖ · ‖p последовательность, т.е.

‖xn − xm‖p = (‖xn1 − xm1‖p + ‖xn2 − xm2‖p)1/p → 0, при n, m→∞.

Отсюда следует, что последовательности xn1∞n=1 и xn2∞n=1 такжефундаментальны в подпространствах E1 и E2, соответственно. Сле-довательно, они сходятся к некоторым векторам x0k ∈ Ek, k = 1, 2,что влечет сходимость исходной последовательности в норме ‖ · ‖p квектору x0 = x01 + x02.

Так как ‖x‖p ≤ ‖x‖1, p ≥ 1, то по теореме 2.2 (Банаха) все этинормы эквивалентны ‖ · ‖1, а потому они эквивалентны и попарно.Для завершения доказательства достаточно отметить, что ‖x‖ ≤‖x‖1 и опять воспользоваться теоремой Банаха.

На основе приведенных выше утверждений установим следую-щий важный топологический факт для пространства Πκ.

Теорема 2.4. Пусть

Πκ = Π+[u]Π−, Πκ = P [u]N (2.16)

— два канонических разложения пространства Πκ,

(x, y) := [Jx, y], (x, y)1 := [J1x, y] (2.17)

— соответствующие им скалярные произведения с каноническимисимметриями J и J1. Тогда нормы

‖x‖ :=√

(x, x) и ‖x‖1 :=√

(x, x)1 (2.18)

эквиваленты.

20

Доказательство. По условиям теоремы пространства

Π±,±[x, y], P, [x, y], N,−[x, y]

— гильбертовы. В силу первого разложения (2.16) имеем codim Π− =dim Π+ = κ < ∞. Аналогично в силу второго разложения (2.16)codim N = dim P = κ < ∞. Отсюда по свойству (2.15) получаем,что

codim (N ∩Π−) 6 2κ <∞.

Поэтому имеет место разложение

Πκ = (N ∩Π−) u L, (2.19)

где L — некоторое подпространство с dim L 6 2κ <∞.Заметим теперь, что на подпространстве N ∩ Π− канонические

нормы ‖ · ‖ и ‖ · ‖1 совпадают, так как здесь совпадают скалярныепроизведения, поскольку

(x, y) = −[x, y], ∀x, y ∈ Π−, (x, y)1 = −[x, y], ∀x, y ∈ N. (2.20)

(В самом деле, (x, y) и (x, y)1 задаются по одному и тому же закону

[x+, y+]− [x−, y−], (2.21)

однако в первом случае x± ∈ Π±, а во втором x+ ∈ P , x− ∈ N . Еслиx, y ∈ Π− или x, y ∈ N , то из (2.21) следуют формулы (2.20).)

Значит,

(x, y) = (x, y)1 = −[x, y], x, y ∈ Π− ∩N, (2.22)

и потому ‖x‖ = ‖x‖1, x ∈ Π− ∩ N . Далее, на подпространстве L из(2.19) все нормы эквивалентны, так как dimL 6 2κ <∞.

Учитывая эти факты, докажем, что нормы ‖·‖ и ‖·‖1 (см. (2.18))эквивалентны.

В самом деле, для любого x ∈ Πκ имеем в силу (2.19)

x = x1 + x2, x1 ∈ N ∩Π−, x2 ∈ L. (2.23)

Если ввести норму‖x‖I := ‖x1‖+ ‖x2‖, (2.24)

то по теореме 2.3 исходная норма ‖x‖, порожденная скалярным про-изведением (x, y) (см. (2.17)), и норма (2.24) будут эквивалентны, т.е.найдутся такие положительные константы c1 и c2, что

c1‖x‖ 6 ‖x1‖+ ‖x2‖ 6 c2‖x‖.

21

Аналогично рассуждая по отношению к норме, порожденной скаляр-ным произведением (x, y)1 (см. (2.17)), будем иметь (2.23) и норму

‖x‖2 := ‖x1‖1 + ‖x2‖1,

причем в силу (2.22), как уже упоминалось выше,

‖x1‖1 = ‖x1‖, x1 ∈ Π− ∩N. (2.25)

Здесь снова в силу теоремы 2.3 имеем

d1‖x‖1 6 ‖x1‖1 + ‖x2‖1 6 d2‖x‖1. (2.26)

Поскольку нормы ‖ · ‖ и ‖ · ‖1 в (конечномерном) подпространстве Lэквивалентны, то также получаем

a1‖x2‖ 6 ‖x2‖1 6 a2‖x2‖, x2 ∈ L. (2.27)

Опираясь на соотношения (2.23)–(2.27), оценим норму ‖x‖1 через‖x‖. Имеем для любого x ∈ Πκ:

d1‖x‖1 6 ‖x1‖1 + ‖x2‖1 6 ‖x1‖+ a2‖x2‖ 6 b1(‖x1‖+ ‖x2‖) 6

6 b1c2‖x‖, b1 := max(1; a2).

Отсюда по теореме Банаха получаем, что нормы ‖ · ‖1 и ‖ · ‖ эквива-лентны.

Доказанная теорема позволяет нам в каждом конкретном случаеиспользовать то каноническое разложение, которое является наибо-лее естественным для исследуемой проблемы.

Переходя к дальнейшему изучению геометрических свойств про-странства Πκ, докажем следующий вспомогательный факт.

Лемма 2.2. Пусть D — плотный линеал в Πκ, т.е. замыкание D влюбой канонической норме совпадает с Πκ. Тогда в D содержитсяхотя бы одно κ-мерное положительное подпространство.

Доказательство. Опишем лишь идею доказательства сформули-рованного утверждения. Выберем в подпространстве Π+, отвечаю-щем каноническому разложению Πκ = Π+[u]Π−, ортонормирован-ный базис e+

j κj=1, т.е. [e+j , e+

k ] = δjk, j, k = 1, κ. Так как D плотнов Πκ, то для любого ε > 0 и элемента e+

j найдется элемент fj ∈ Dтакой, что ‖e+

j − fj‖ < ε, j = 1, κ.

22

Можно установить, что если ε достаточно мало (ε < 1/κ), то всеэлементы fjκj=1, как и элементы e+

j κj=1, линейно независимы, итогда линейная оболочка

л.о.fjκj=1 ⊂ D, dim л.о.fjκj=1 = κ.

Если ε настолько мало, что 1− 2εκ− 2ε2κ2 > 0, то л.о.fjκj=1 явля-ется, как и л.о.e+

j κj=1, положительным подпространством.

Замечание к лемме 2.2. Доказательство свойства линейнойнезависимости элементов fjκj=1 основано на соотношении

κ∑j=1

αjfj =κ∑

j=1

αj(fj − e+j ) +

κ∑j=1

αje+j ,

в котором при любых фиксированных αj первое слагаемое спра-ва достаточно мало по норме, а потому равенство нулю левой ча-сти приводит к тому, что все αj = 0 (j = 1, κ). В самом деле,пусть ε достаточно мало, ‖fj − e+

j ‖ < ε и∑κ

j=1 |αj | 6= 0. Так как

‖∑κ

j=1 αje+j ‖ =

√∑κj=1 |αj |2, то получим противоречие:

0 ≥

√√√√ κ∑j=1

|αj |2 − εκ∑

j=1

|αj | > 0 при ε < inf

√∑κj=1 |αj |2∑κ

j=1 |αj |≤ 1.

Аналогичное рассуждения используются для того, чтобы пока-зать положительность формы [

∑κj=1 αjfj ,

∑κk=1 αkfk], при достаточ-

но малом ε > 0, поскольку κ∑j=1

αje+j ,

κ∑k=1

αke+k

=κ∑

j=1

|αj |2 > 0

с произвольными αj , j = 1, κ, и∑κ

j=1 |αj | 6= 0. Перед доказательством следующего результата напомним неко-

торые факты из геометрии гильбертовых пространств.Пусть H — произвольное гильбертово пространство. Напомним

еще раз (см. доказательство теоремы 2.1), что последовательностьxn элементов из H слабо сходится к элементу x0 ∈ H, если

(xn, y) −→ (x0, y), ∀y ∈ H, n −→∞.

23

Последовательность xn ⊂ H сходится сильно к элементу x0 ∈ H,если ‖xn − x0‖ −→ 0 (n −→ ∞). Как следует из неравенства Коши–Буняковского–Шварца, сильно сходящаяся последовательность яв-ляется и слабо сходящейся. В бесконечномерном пространстве H об-ратное неверно (контрпример — произвольный ортонормированныйбазис, который слабо сходится к нулевому вектору, но сильно не схо-дится).

Известно, что последовательность xn ⊂ H сильно сходится кx0 ∈ H тогда и только тогда, когда xn сходится к x0 слабо и‖xn‖ −→ ‖x0‖ (n −→∞).

Другой критерий имеет следующую формулировку: xn сильносходится к x0 тогда и только тогда, когда выполнены условия

‖xn‖ −→ ‖x0‖, (xn, y) −→ (x0, y), ∀y ∈ Y ⊂ H, (2.28)

где Y — так называемое тотальное множество, т.е. такое, что за-мыкание его линейной оболочки совпадает с H. В качестве Y можновзять, например, базис пространства H.Ниже мы приведем критерий сильной сходимости в Πκ относительнолюбой из эквивалентных канонических норм в терминах индефинит-ной метрики.

Теорема 2.5. Последовательность xn ⊂ Πκ сходится к элементуx0 ∈ Πκ сильно относительно некоторой канонической нормы (а по-тому относительно любой ) тогда и только тогда, когда выполненыусловия

[xn, y] −→ [x0, y], ∀y ∈ Y, [xn, xn] −→ [x0, x0] (n −→∞), (2.29)

где Y — тотальное множество в Πκ.Последовательность xn ⊂ Πκ фундаментальна в Πκ относи-

тельно некоторой канонической нормы (а потому относительно лю-бой ) тогда и только тогда, когда

[xn−xm, y] −→ 0, ∀y ∈ Y, [xn−xm, xn−xm] −→ 0 (n, m −→∞).

Доказательство. Убедимся в справедливости лишь первого утвер-ждения, так как доказательство второго проводится по той же схеме.

Пусть D — линейная оболочка тотального множества Y . ТогдаD = Πκ. Через Π+ обозначим κ-мерное положительное подпростран-ство, расположенное в D: существование такого подпространства га-рантируется леммой 2.2. Тогда Πκ допускает каноническое разложе-ние

Πκ = Π+[u]Π−. (2.30)

24

Поскольку Π+ ⊂ D, то линеал D представим в виде

D = Π+[u](D ∩Π−).

Отметим, что линеал D ∩ Π− плотен в Π− и потому, в частности,является тотальным множеством в Π−. Зафиксируем в Πκ канони-ческую норму, отвечающую разложению (2.30).

Пусть последовательность xn сильно сходится к x0. Докажем,что тогда выполнены условия (2.29). В самом деле, из неравенства,упомянутого в упражнении 2.2:

|[xn − x0, y]|2 6 ‖xn − x0‖2 · ‖y‖2, ∀y ∈ Y,

следует, что выполнено первое свойство (2.29). Докажем теперь вто-рое свойство. Имеем

|[xn, xn]− [x0, x0]| = |[xn − x0, xn] + [x0, xn − x0]|

6 |[xn − x0, xn]|+ |[x0, xn − x0]|

6 ‖xn − x0‖ · ‖xn‖+ ‖xn − x0‖ · ‖x0‖.

(2.31)

Так как ‖xn − x0‖ −→ 0 (n −→ ∞), то ‖xn‖ 6 M для некоторогоM > 0, а потому правая часть (2.31) стремится к нулю при n −→∞.Отсюда следует [xn, xn]→ [x0, x0] при n→∞.

Проверим теперь обратное утверждение: если выполнены усло-вия (2.29), то xn сильно сходится к x0.

Так как первое условие (2.29) выполнено для всех элементов yиз тотального множества Y , то это же условие выполнено для эле-ментов y из линейной оболочки множества Y , т.е. для y из D: прилюбых αj ∈ C

[xn − x0,∑

j

αjyj ] =∑

j

αj [xn − x0, yj ] −→ 0 (n −→∞)

поскольку [xn − x0, yj ] −→ 0 при n −→∞ для каждого j.Пусть

xn = xn,+ + xn,−, x0 = x0,+ + x0,−, xn,±, x0,± ∈ Π±,

— разложение векторов xn, x0 относительно (2.30).

25

Так как Π+ ⊂ D, то, в частности, для элементов y+ ∈ Π+ иy− ∈ D ∩Π− имеем при n→∞:

[xn − x0, y+] = [xn,+ − x0,+, y+] −→ 0, (2.32)

[xn − x0, y−] = [xn,− − x0,−, y−] −→ 0, (2.33)

Из (2.32) следует слабая сходимость в Π+ векторов xn,+ к векторуx0,+. Так как по условию Π+ — конечномерное подпространство, тоxn,+ сходятся к x0,+ сильно. Поэтому в силу (2.28)

[xn,+, xn,+]→ [x0,+, x0,+], n→∞.

Отсюда и из второго условия в (2.29) имеем

[xn,−, xn,−]→ [x0,−, x0,−], n→∞,

что в сочетании с (2.33) приводит к сильной сходимости (см. (2.28))векторов xn,− к x0,− при n→∞.

Следовательно, векторы xn = xn,+ + xn,− сходятся сильно к век-тору x0 = x0,+ + x0,−.

Рассмотрим снова пространство Понтрягина Πκ, [·, ·] с канони-ческой нормой, определенной по скалярному произведению (x, y) =[Jx, y], где J — оператор канонической симметрии. Пусть L — про-извольный линеал из Πκ, а L[⊥] — J-ортогональное дополнение к L,т.е. ортогональное дополнение к L в смысле формы [·, ·]:

L[⊥] := x ∈ Πκ : [x, y] = 0, ∀y ∈ L.

Через L⊥ будем обозначать ортогональное дополнение в смыслегильбертова (в данном случае канонического) скалярного произве-дения:

L⊥ := z ∈ Πκ : (z, y) = 0, ∀y ∈ L.

Наша ближайшая задача — выяснение взаимосвязи между ор-тогональными дополнениями L[⊥] и L⊥, в частности, мы проверимследующие формулы:

L[⊥] = JL⊥, L⊥ = JL[⊥]. (2.34)

Докажем эти соотношения. Пусть x ∈ L[⊥], y ∈ L. Тогда

[x, y] = (Jx, y) = 0.

26

Это означает, что Jx ∈ L⊥, т.е.

JL[⊥] ⊂ L⊥.

Обратно, при y ∈ L, z ∈ L⊥, имеем

[Jz, y] = (z, y) = 0,

т.е. Jz ∈ L[⊥]:JL⊥ ⊂ L[⊥].

Так как J2 = I, то отсюда следует, что

J2L⊥ = L⊥ ⊂ JL[⊥],

и второе соотношение (2.34) установлено. Первая формула (2.34) до-казывается аналогично.

Рассмотрим теперь и другие свойства множеств L и L[⊥].

Лемма 2.3. Для любого линеала L ⊂ Πκ множество L[⊥] замкнуто,т.е. является подпространством.

Доказательство. Пусть xn ∈ L[⊥] и xn −→ x0 ∈ Πκ (n −→ ∞).Тогда из неравенства (2.13) следует, что

[xn − x0, y] −→ 0, ∀y ∈ Πκ, n −→∞.

Если здесь положить y ∈ L, то [xn, y] = 0, и в пределе получаем, что[x0, y] = 0, т.е. x0 ∈ L[⊥].

Лемма 2.4. Имеет место формула

L = (L[⊥])[⊥] =: L[⊥][⊥].

Доказательство. Заметим сначала, что формула

L = (L⊥)⊥

хорошо известна для гильбертова пространства. Отсюда и из (2.34)тогда имеем

L = (L⊥)⊥ = (JL⊥)[⊥] = J(JL[⊥])[⊥] = J2(L[⊥])[⊥] = L[⊥][⊥].

Здесь в предпоследнем переходе использовано соотношение

(JM)[⊥] = JM[⊥], (2.35)

справедливое для произвольного линеалаM⊂ Πκ.

27

Замечание к лемме 2.4. Для доказательства свойства (2.35)допустим, что x ∈ (JM)[⊥]. Тогда для любого y = Jz, z ∈M, имеем

[x, y] = [x, Jz] = (x, z) = 0,

т.е. x ∈M⊥ = JM[⊥]. Обратное рассуждение также очевидно. Опираясь на доказанные факты, приведем упражнения для са-

мостоятельного решения.

Упражнение 2.3. Доказать, что для любого линеала L ∈ Πκ

L[⊥] = L[⊥].

Упражнение 2.4. Доказать соотношение

(L1 + L2)[⊥] = L[⊥]1 ∩ L[⊥]

2 . (2.36)

Упражнение 2.5. Доказать, что

(L1 ∩ L2)[⊥] = L1 + L2.

Если L — произвольный замкнутый линеал в гильбертовом про-странстве H, то, как известно, имеет место ортогональное разложе-ние

H = L ⊕M = L ⊕ L⊥, L ∩ L⊥ = 0.Однако в пространстве Πκ ситуация сложнее, так как может ока-заться, что L ∩ L[⊥] 6= 0.

Введем обозначение

L0 = L ∩ L[⊥] (2.37)

и назовем L0 изотропной частью линеала L, а векторы этого мно-жества — изотропными векторами линеала L. По определению, L0 —линеал, поскольку является пересечением линеалов. Более того, еслиx ∈ L0, то одновременно x ∈ L и x ∈ L[⊥], а потому [x, x] = 0, т.е., L0

— нейтральный линеал. Определение (2.37) может быть переписанов эквивалентном виде:

L0 = x ∈ L : [x, y] = 0, ∀y ∈ L.

Упражнение 2.6. Пусть L — линеал в Πκ, L0 — его изотропнаячасть, а M — совокупность всех нейтральных элементов из L, т.е.

M := x ∈ L : [x, x] = 0.

Доказать, что L0 =M тогда и только тогда, когда L семидефинитно,т.е. либо L > 0, либо L 6 0.

28

Определение 2.5. Если изотропная часть L0 линеала L ⊂ Πκ три-виальна, т.е. L0 = 0, то говорят, что L — невырожденный линеал,в противном случае — вырожденный.

В любом пространстве Понтрягина Πκ с κ > 0 всегда существуютвырожденные линеалы, например, нейтральные линеалы. В качествеподтверждения этого факта рассмотрим следующий простой при-мер. Пусть Πκ = C2, [x, y] := ξ1η1−ξ2η2 для x = (ξ1, ξ2)t, y = (η1, η2)t,L := л.о.(1, 1)t, e := (1, 1)t — нейтральный элемент. Очевидно, чтоe[⊥]L, причем L[⊥] = L. Тогда L0 = L ∩ L[⊥] = L 6= 0.

Теорема 2.6. Если L — подпространство, т.е замкнутый линеал(L = L) и M — его J-ортогональное дополнение (M = L[⊥]), торавенство

Πκ = L[u]M, (2.38)

эквивалентно невырожденности L.

Доказательство. Сперва отметим, что равенство (2.38) влечетневырожденность L. В самом деле, если бы это подпространство бы-ло вырожденным, то так как векторы из L0 ортогональны как L, таки M, а потому — Πκ, то все пространство было бы вырожденным.Последнее противоречит аксиоме (i) определения 2.3 пространстваПонтрягина.

Пусть теперь L невырождено. Тогда

L[u]M = Πκ. (2.39)

В самом деле, согласно (2.34) и (2.36)

(L[u]M)⊥ = J(L[u]M)[⊥] = J(L[⊥] ∩M[⊥]) = J(L[⊥] ∩ L) =

= JL0 = 0 (M = L[⊥] ⇐⇒ L =M[⊥]),

так как L — невырожденный линеал. Отсюда и следует (2.39).Докажем теперь, что

L[u]M = L[u]M.

Пусть L+ ⊂ L — положительное подпространство максимальнойв L размерности, а M+ ⊂ M — положительное подпространствомаксимальной в M размерности. Согласно аксиоме (iii) определе-ния 2.3 пространства Понтрягина Πκ имеем dim L+ =: κ1 6 κ,

29

dim M+ =: κ2 6 κ. Тогда L (как и само Πκ) допускает разложе-ние

L = L+[u]L−, L+ ∩ L− = 0, L+ > 0, L− < 0,

и аналогично

M =M+[u]M−, M+ > 0, M− < 0, M+ ∩M− = 0.

Отсюда имеем

L[u]M = (L+[u]M+)[u](L−[u]M−).

Так как размерность L+[u]M+ может быть не более κ, то L+[u]M+

— конечномерное подпространство и потому

L[u]M = (L+[u]M+)[u](L−[u]M−).

Докажем теперь, что подпространство (L−[u]M−) отрицательно.Предположив противное, допустим, что в нем существует ненуле-вой неотрицательный элемент: x0 6= 0, x0 ∈ L−[u]M−. Так как L−и M− — отрицательные подпространства, то x0 может быть лишьнейтральным. Но тогда x0[⊥](L−[u]M−), как это следует из нера-венства Коши – Буняковского:

|[x0, y]|2 6 [x0, x0][y, y], ∀y ∈ (L−[u]M−).

Итак, x0[⊥]L+[u]M+ и x0[⊥]L−[u]M−, т.е. всему пространству Πκ.Тогда (см. определение 2.3, аксиома (i)) получаем, что x0 = 0, впротиворечие с исходным предположением.

Проведенные рассуждения показывают, что имеет место разло-жение

Πκ = Π+[u]Π−, Π+ := L+[u]M+, Π− := L−[u]M−. (2.40)

Докажем, что в этом разложении

dim Π+ = κ. (2.41)

Предположив противное: dim Π+ < κ. В силу аксиомы (ii) опреде-ления 2.3 найдется положительное подпространство P с dim P = κ.Так как dim Π+ < dimP, то найдется такой ненулевой элементy0 ∈ P, что y0[⊥]Π+ (аналогичное рассуждение уже проводилосьпри доказательстве леммы 2.1). Тогда y0 ∈ Π− и y0 6= 0. Значит,y0 < 0, в противоречии с предположением y0 > 0.

30

Из доказанного факта (см. (2.41)) следует, что разложение (2.40)— каноническое, т.е.

Π− := (L−[u]M−),−[·, ·]

— гильбертово пространство со скалярным произведением

(x, y) = −[x, y], x, y ∈ Π−. (2.42)

Заметим теперь, что линеалы L− иM− замкнуты, т.е. являютсяподпространствами. В самом деле, это следует из того, что пересе-чение замкнутых множеств замкнуто: L− = L ∩ L[⊥]

+ , учитывая, чтоL — подпространство по условию теоремы и L[⊥]

+ замкнуто по лемме2.3. Принимая во внимание, что по Лемме 2.3 линеалM замкнут, изтех же соображений получаем замкнутостьM− =M[⊥]

+ ∩M.Таким образом, L− и M− — подпространства, а тогда

L− ⊕M− = L− ⊕M− = L−[u]M−.

Здесь при замене знака ⊕ на [u] использовано то обстоятельство, чтодля скалярного произведения (2.42) (x, y) = 0 тогда и только тогда,когда [x, y] = 0, x, y ∈ Π−.

Итак, окончательно имеем

Πκ = (L+[u]M+)[u](L−[u]M−) = L[u]M = L[u]L[⊥].

Приведем ряд следствий из этой теоремы.

Следствие 2.1. Любое невырожденное подпространство простран-ства Понтрягина Πκ само является пространством Понтрягина.

Действительно, по ходу доказательства теоремы 2.6 было уста-новлено разложение

L = L+[+]L−,

являющееся каноническим в смысле определения 2.3 пространстваПонтрягина.

Следствие 2.2. Если L иM — невырожденные подпространства иL[⊥]M, то L[+]M — также подпространство и

L[+]M = (L+[+]L−)[+](M+[+]M−) = (L+[+]M+)[+](L−[+]M−).

31

Следствие 2.3. Пусть L — подпространство в Πκ. Тогда его можноразложить в прямую J-ортогональную сумму

L = L0[+]L(1), (2.43)

где L0 := L ∩ L[⊥] — изотропная часть L, а L(1) невырождено.

В самом деле, для этого достаточно положить L(1) := (L0)⊥ ∩ L,где ортогональность подразумевается в смысле каноническогоскалярного произведения (см. (2.7)). Тогда L = L0[⊕]L(1); в этомразложении J-ортогональность следует из того, что L0 — изотроп-ная часть L. Невырожденность L(1) следует из того, что любойвектор x0, изотропный в L(1), будет изотропным и в L, а потомупринадлежал бы L0, будучи одновременно ортогональным этомуподпространству. Следовательно, x0 = 0, т.е. L(1) — невырожденноеподпространство.

В заключение сформулируем некоторые упражнения.

Упражнение 2.7. Доказать, что для любого линеала L его J-ортогональное дополнение L[⊥] замкнуто, т.е. является подпростран-ством. (Для невырожденного L этот факт доказан в теореме 2.6,поскольку все пространство невырождено.)

Упражнение 2.8. Доказать, что для любых подпространств L иM, L[⊥]M, имеет место свойство

L[+]M = L[+]M.

Упражнение 2.9. Доказать, что если L = L иM =M — невырож-денные подпространства, L[⊥]M, то L[+]M также невырождено, т.е.оно является само пространством Понтрягина.

32

3 Элементы теории операторов в про-странстве Понтрягина Πκ

Рассмотрим, опираясь на предыдущие геометрические построения,элементы теории линейных ограниченных операторов, действующихв пространстве Понтрягина Πκ.

Пусть Πκ, [·, ·] — пространство Понтрягина, (·, ·) — его канони-ческое скалярное произведение,

Πκ = Π+[u]Π−, J = P+ − P−,

(x, y) = [Jx, y], [x, y] = (Jx, y).(3.1)

Рассмотрим линейный непрерывный оператор A, действующий в Πκ,A : Πκ −→ Πκ, заданный на всем пространстве, т.е. его областьопределения dom A = Πκ.

Определение 3.1. Оператор Ac называется J-сопряженным к опе-ратору A, если

[Ax, y] = [x,Acy], ∀x, y ∈ Πκ. (3.2)

Зафиксируем какое-либо канонические разложение и связанное сним каноническое скалярное произведение (·, ·). Напомним, что гиль-бертов сопряженный к A оператор A∗ по определению удовлетворяеттождеству

(Ax, y) = (x, A∗y), ∀x, y ∈ Πκ. (3.3)

Упражнение 3.1. Доказать, что Ac — ограниченный линейныйвсюду заданный оператор, т.е. dom Ac = Πκ, если A обладает этимисвойствами.

Указание. Воспользоваться известной теоремой Рисса о пред-ставлении линейного непрерывного функционала в гильбертовомпространстве.

Из формул (3.1)–(3.3) следует, что операторы Ac и A∗ связанысоотношением

Ac = JA∗J, (3.4)

где J — каноническая симметрия. Действительно, для любых x и yиз Πκ имеем

[Ax, y] = (JAx, y) = (x, (JA)∗y) = [x,Acy] = (Jx, Acy) = (x, JAcy),

33

что влечетJAc = (JA)∗.

Последнее эквивалентно формуле (3.4).Формулу (3.4) примем за определение сопряженного оператора

Ac для любого, не обязательно ограниченного, плотно заданного опе-ратора A.

Напомним определение регулярной точки, спектра и классифи-кацию точек спектра для линейного оператора, действующего в про-извольном гильбертовом пространстве H. В нашем случае это будетгильбертово пространство H = Πκ, (·, ·).

Определение 3.2. Точка λ ∈ C называется регулярной точкой опе-ратора A, λ ∈ ρ(A), если ядро оператора A− λI тривиально:

ker(A− λI) := x ∈ Πκ : (A− λI)x = 0 = 0,

и обратный оператор (A − λI)−1 задан на всем пространстве Πκ иограничен.

Функция Rλ(A) := (A − λI)−1 с областью определения ρ(A)называется резольвентой оператора A. Одними из важных свойстврезольвенты Rλ(A) и множества регулярных точек ρ(A) являютсяследующие:

1. Множество ρ(A) открыто.В самом деле, если λ0 ∈ ρ(A), то и все λ из круга

|λ − λ0| < ‖(A − λ0I)−1‖−1 также являются регулярными точ-ками этого оператора (проверить!)

2. Выполнено тождество Гильберта (проверить!):

Rλ(A)−Rµ(A) = (λ− µ)Rλ(A)Rµ(A).

3. При каждом x, y ∈ H функция (Rλ(A)x, y) является аналити-ческой (голоморфной) на ρ(A).

Это вытекает из тождества Гильберта.

4. Резольвента равномерно ограничена каждом замкнутом мно-жестве Λ ⊂ ρ(A):

maxλ∈Λ‖(A− λI)−1‖ <∞. (3.5)

Это следует из голоморфности резольвенты (проверить!)

34

Упражнение 3.2. Доказать: если A — линейный непрерывный опе-ратор, dom A = Πκ, то ρ(A) 6= ∅, более того, все точки плоскости,для которых |λ| > ‖A‖, являются регулярными для оператора A.

Напомним понятие спектра оператора и его классификацию.

Определение 3.3. Спектром σ(A) оператора A называется допол-нение к множеству регулярных точек: σ(A) := C \ ρ(A).

Говорят, что точка λ ∈ σ(A) — собственное значение оператораA, λ ∈ σp(A), если существует такой ненулевой элемент x ∈ Πκ,что Ax = λx. Этот элемент называется собственным элементом(собственным вектором) оператора A, отвечающим собственномузначению λ.

Будем говорить, что точка λ ∈ σ(A) принадлежит непрерывномуспектру оператора A, λ ∈ σc(A), если ker(A−λI) = 0 и область зна-чений ran (A−λI) оператора A−λI плотна в пространстве, но с нимне совпадает: ran (A−λI) 6= ran (A− λI) = Πκ, или, что равносильно,оператор (A− λI)−1 существует, плотно задан и неограничен.

Дополнение в спектре к собственным значениям и непрерывномуспектру называют остаточным спектром, или, что равносильно, λ ∈σ(A) принадлежит остаточному спектру оператора A, λ ∈ σr(A),если ker(A− λI) = 0, но оператор (A− λI)−1 задан на неплотномлинеале.

Из определения спектра и его частей следует, что имеет месторазложение

σ(A) = σp(A) ∪ σc(A) ∪ σr(A),

причем множества справа не пересекаются.Выше мы видели, что множество регулярных точек ограничен-

ного всюду заданного оператора не пусто. Также обстоит дело и соспектром такого оператора. Доказательство этого факта (см. нижетеорему 3.2) в стандартном курсе функционального анализа, какправило, опускается. В доказательстве теоремы о существованииспектра будет использована следующая ниже теорема Лиувилля, хо-рошо известная из курса теории функций комплексного переменно-го.

Теорема 3.1. (Лиувилль). Пусть f(λ) — целая функция (т.е. ана-литическая на всей комплексной плоскости C). Если существует та-кая постоянная c, что функция f ограничена на множестве |λ| > c,то f(λ) ≡ const .

35

Теорема 3.2. Пусть A — линейный непрерывный оператор, задан-ный на всем пространстве. Тогда σ(A) 6= ∅.

Доказательство. Предположим σ(A) = ∅, т.е. ρ(A) = C. Зафик-сируем произвольные элементы x, y ∈ H и введем в рассмотрениефункцию fx,y(λ) = (Rλ(A)x, y). Так как по сделанному предполо-жению ρ(A) = C, то fx,y — целая функция. Покажем, что при|λ| > c := 2‖A‖ эта функция ограничена. В самом деле,

|fx,y(λ)| = |(Rλ(A)x, y)| ≤ ‖Rλ(A)‖ ‖x‖ ‖y‖ ≤ ‖x‖ ‖y‖|λ| − ‖A‖

<‖x‖ ‖y‖‖A‖

.

Следовательно, по теореме 3.1 функция fx,y постоянная. Но посколь-ку

|fx,y(λ)| ≤ ‖x‖ ‖y‖|λ| − ‖A‖

→ 0 при |λ| → ∞,

то fx,y(λ) ≡ 0. Отсюда Rλ(A) ≡ 0, что невозможно. Получили проти-воречие, показывающее, что спектр ограниченного всюду заданногооператора не пуст.

Выше, в упражнении 3.2 и в теореме 3.2, утверждалось, чтоρ(A) 6= ∅ и σ(A) 6= ∅ в предположении, что A — ограниченный(≡ непрерывный) оператор. Рассмотрим примеры, подтверждающиеважность этого ограничения.

Пример 3.1. Рассмотрим гильбертово пространство L2(0, 1) и в немоператор A = d/dt, оператор дифференцирования, определенный налинеале

dom A = f(t) ∈ L2(0, 1) : df/dt ∈ L2(0, 1). (3.6)

Как известно (проверить!), dom A — плотное в L2(0, 1) множе-ство, но не совпадающее с ним. Так заданный оператор A замкнут(см. пример 1.3) и σ(A) = C, более того, каждое λ ∈ C — собствен-ное значение оператора A.

Пример 3.2. Рассмотрим в L2(0, 1) тот же оператор дифференциро-вания, однако заданный на множестве функций, удовлетворяющих,кроме требований (3.6), дополнительному условию f(0) = 0. В этомслучае σ(A) = ∅.

Определение 3.4. Говорят, что точка λ ∈ C является точкой ре-гулярного типа для оператора A, λ ∈ r(A), если ker(A− λI) = 0 исуществует непрерывный оператор (A−λI)−1 (он может быть заданкак на всем пространстве, так и не на всем пространстве Πκ).

36

Таким образом, в множество r(A) точек регулярного типа входятвсе регулярные точки и те точки остаточного спектра, для которых

ran (A− λI) = ran (A− λI) 6= Πκ.

Таким образом,r(A) ⊂ ρ(A) ∪ σr(A).

Другое равносильное определение точки регулярного типа тако-во: найдется такое число k > 0, что

‖(A− λI)x‖ > k‖x‖, ∀x ∈ Πκ. (3.7)

Приведем важный результат о точках регулярного типа и регу-лярных точках оператора A.

Теорема 3.3 (М.А. Красносельский – М.Г. Крейн). Пусть Λ ⊂ C —связное множество, Λ ⊂ r(A). Если Λ ∩ ρ(A) 6= ∅, то Λ ⊂ ρ(A).

Приведем примеры операторов, имеющих точки регулярного ти-па, причем как регулярные, так и принадлежащие остаточному спек-тру.

Пример 3.3. Рассмотрим оператор сдвига V в гильберто-вом пространстве l2, состоящем из элементов x = ξk∞k=1,‖x‖2 :=

∑∞k=1 |ξk|2 <∞, и действие оператора определено по следу-

ющему закону:y = V x := 0, ξ1, ξ2, . . .. (3.8)

Из определения оператора V следует, что он изометрический, т.е. со-храняет норму: ‖V x‖ = ‖x‖. В частности, для него выполнено усло-вие (3.7) с k = 1 и λ = 0, а потому точка λ = 0 является точкойрегулярного типа, т.е. 0 ∈ r(V ). Оператор V , как следует из (3.8),имеет ограниченный обратный оператор, однако этот оператор заданне на всем пространстве l2, а только на тех элементах x = ξk∞k=1

из l2, у которых ξ1 = 0. В частности, первый орт e1 = (1, 0, 0, . . .) невходит в область определения обратного оператора.

Таким образом, точка λ = 0 является точкой регулярного типадля оператора A, но она не является регулярной точкой этого опе-ратора (проверить, что все λ с |λ| < 1 — точки регулярного типаоператора V , но не регулярные, а точки λ с |λ| > 1 — регулярные).

37

Пример 3.4. Рассмотрим в L2(0, 1) оператор дифференцирования(см. пример 3.1), однако заданный на множестве функций, удов-летворяющих, кроме требований (3.6), дополнительному условиюf(0) = f(1) = 0. В этом случае σ(A) = σr(A) = C и более того,все точки являются точками регулярного типа (проверить!).

Напомним понятия корневого линеала Lλ(A) оператора A, отве-чающего собственному значению λ, нормального собственного зна-чения λ ∈ σp(A) и нормальной точки λ ∈ ρ(A).

Пусть λ ∈ σp(A). Тогда

ker(A− λI) ⊂ ker(A− λI)2 ⊂ . . . ⊂ ker(A− λI)n ⊂ . . .

Корневой линеал Lλ(A) определяется соотношением:

Lλ(A) :=∞⋃

n=1

ker(A− λI)n.

Вектор x ∈ Lλ(A) называют корневым вектором оператора A,отвечающим собственному значению λ. По определению ненулевойвектор x ∈ Lλ(A) тогда и только тогда, когда найдется такое p ∈ N,что (A− λI)px = 0. Будем предполагать, что степень p минимальна,т.е. (A− λI)jx 6= 0, j = 1, p− 1.

Введем обозначения

x0 := (A− λI)p−1x, x1 := (A− λI)p−2x, . . . ,

xj := (A− λI)p−1−jx, . . . , xp−1 := x 6= 0.

Последовательность xjp−1j=0 называют жордановой цепочкой, состо-

ящей из собственного элемента x0 и присоединенных к нему элемен-тов x1, x2, . . . , xp−1.

Если последовательность ядер ker(A−λI)n стабилизируется, т.е.найдется такое p ∈ N, что ker(A− λI)n = ker(A− λI)p при n ≥ p, то

Lλ(A) =∞⋃

n=1

ker(A− λI)n = ker(A− λI)p, p ∈ N,

является подпространством (проверить, что только в этом слу-чае Lλ(A) — подпространство). Если при этом ker(A − λI) — ко-нечномерное подпространство, то и корневой линеал является ко-нечномерным (проверить, что только в этом случае Lλ(A) —конечномерное подпространство).

38

Отметим, что, как известно, корневые линеалы Lλ(A) конечно-мерны у любого оператора в конечномерном пространстве, а такжеу любого вполне непрерывного оператора в бесконечномерном про-странстве при λ 6= 0.Для любого оператора его корневые линеалы инвариантны:Ax ∈ Lλ(A) если x ∈ Lλ(A). Если оператор непрерывен, то инва-риантным подпространством для A будет и замыкание его корнево-го линеала. Это же выполняется и для неограниченных операторовпри подходящем определении инвариантности, но сейчас мы на этомостанавливаться не будем.

Определение 3.5. Говорят, что точка λ ∈ C является нормальнымсобственным значением оператора A, λ ∈ σp(A), если выполненыследующие условия: а) λ ∈ σp(A), т.е. λ является собственным зна-чением оператора A; б) это собственное значение является изолиро-ванной точкой спектра оператора A; в) размерность dim Lλ(A) кор-невого линеала оператора A, отвечающего собственному значению λ,конечна; г) все пространство (в данном случае Πκ) разлагается впрямую сумму

Πκ = Lλ(A) uH1, (3.9)

где Lλ(A) (корневой линеал) и H1 — подпространства, инвариант-ные относительно оператора A, т.е.

ALλ(A) ⊂ Lλ(A), AH1 ⊂ H1,

причем λ ∈ ρ(A|H1) : λ — регулярная точка для сужения оператораA на подпространство H1.

Примерами нормальных собственных значений являются соб-ственные значения матриц (операторов в конечномерных про-странствах), а также ненулевые собственные значения компакт-ных (вполне непрерывных) операторов (доказать, используя теоремуГильберта – Шмидта).

Определение 3.6. Говорят, что точка λ ∈ C является нормальнойточкой для оператора A, λ ∈ ρ(A), если она является либо регуляр-ной точкой оператора A либо его нормальным собственным значе-нием, т.е.

ρ(A) = ρ(A) ∪ σp(A).

Обратимся к связи спектра, его частей и множества регулярныхточек оператора и его сопряженного. Известно, что в гильбертовом

39

пространстве существует симметрия этих составляющих. Посколькугильбертов сопряженный и сопряженный в Πκ унитарно подобны, тоэти свойств сохраняются и в этом случае. Пусть Λ — произвольноемножество из C. Введем обозначение

Λ∗ := µ = λ : λ ∈ Λ.

Теорема 3.4. Имеют место соотношения

1 ρ(Ac) = ρ∗(A);2 σ(Ac) = σ∗(A);

3 σc(Ac) = σ∗c (A)4 σ∗p(A) = λ ∈ σp(Ac) : ran (Ac − λI) 6= Πκ ∪ σr(Ac);

5 σr(Ac) = λ ∈ σp(A) : ran (A− λI) = Πκ∗.

Доказательство. Справедливость утверждений немедленно следу-ет из дефинитного аналога и формулы:

Ac − λI = J(A∗ − λI)J.

Рассмотрим простейшие свойства J-сопряженного оператораAc = JA∗J к ограниченному оператору A : Πκ −→ Πκ, действую-щему в Πκ, [·, ·] с фиксированным J := P+ − P−.

1. Непосредственно из определения (3.2) получаем,

(A + B)c = Ac + Bc.

В самом деле, для любых x и y из Πκ имеем

[x, (A + B)cy] = [(A + B)x, y] = [Ax, y] + [Bx, y] == [x, Acy] + [x,Bcy] = [x,Ac + Bcy]

откуда и следует доказываемое равенство.2. Аналогично устанавливаем, что

(AB)c = BcAc.

3. Если 0 ∈ ρ(A), то

(A−1)c = (Ac)−1.

40

Лемма 3.1. Если подпространство L ⊂ Πκ инвариантно относи-тельно оператора A, т.е. AL ⊂ L, то подпространство L[⊥] инвари-антно относительно оператора Ac: AcL[⊥] ⊂ L[⊥].В частности, если L = ranA, то L[⊥] = kerAc.

Доказательство этих утверждении аналогично случаю гильберто-ва пространства и прямо следует из равенства

[Ax, y] = 0 = [x,Acy],

выполненного при всех x ∈ L и y ∈ L[⊥], в первом случае, и для всехx ∈ Πκ, y ∈ ker A — во втором.

Перед доказательством следующей ниже теоремы 3.5 предлага-ется упражнение, альтернативное доказательство которого вытекаетиз названной теоремы и дано ниже как следствие 3.1.

Упражнение 3.3. Пусть λ ∈ σp(A), µ ∈ σp(Ac), λ 6= µ. Тогда

Lλ(A)[⊥]Lµ(Ac), т.е. [x, y] = 0, ∀x ∈ Lλ(A), ∀y ∈ Lµ(Ac).

Указание: доказать это утверждение, используя метод математи-ческой индукции, для любых элементов цепочки, составленной изсобственного и присоединенных к нему векторов.

Теорема 3.5. Пусть L — инвариантное подпространство оператораA: AL ⊂ L, а M — инвариантное подпространство J-сопряженногооператора Ac: AcM ⊂ M. Рассмотрим сужения A1 := A|L и B1 :=Ac|M. Если выполнено условие

σ(A1) ∩ σ∗(B1) = ∅, (3.10)

то L[⊥]M.

Доказательство. Рассмотрим при x ∈ L и y ∈ M и λ ∈ ρ(A1)скалярную функцию

fx,y(λ) := [(A1 − λI)−1x, y],

аналитическую в области ρ(A1), а также функцию

gx,y(λ) := [x, (B1 − λI)−1y], λ ∈ ρ∗(B1),

аналитическую в области ρ∗(B1).

41

Пусть |λ| > 2‖A‖. Тогда |λ| > 2‖A1‖, |λ| > 2‖B1‖ поскольку

‖A‖ = ‖Ac‖, A1 = A|L, B1 = Ac|M.

Для этих значений λ имеем

fx,y(λ) = [(A1 − λI)−1x, y] = [− 1λ

(I − A1

λ

)−1

x, y]

= [− 1λ

∞∑j=0

(A1

λ

)j

x, y] = [− 1λ

∞∑j=0

(A

λ

)j

x, y]

= [x,− 1λ

∞∑j=0

(Ac

λ

)j

y] = [x,− 1λ

∞∑j=0

(B1

λ

)j

y] =

= [x, (B1 − λI)−1y] = gx,y(λ).

Отсюда следует, что аналитические функции fx,y(λ) и gx,y(λ) сов-падают в области |λ| > 2‖A‖, т.е. одна является аналитическим про-должением другой.

Если ввести функцию

hx,y(λ) :=

fx,y(λ), λ ∈ ρ(A1),

gx,y(λ), λ ∈ ρ∗(B1),

то hx,y(λ) будет аналитической в области

ρ(A1) ∪ ρ∗(B1) = C,

поскольку выполнено условие (3.10). Таким образом, функцияhx,y(λ) является целой. Повторяя далее рассуждения, использован-ные при доказательстве теоремы 3.2, из теоремы Лиувилля получа-ем, что hx,y(λ) ≡ 0, в частности, при |λ0| > 2‖A‖ и произвольныхвекторах u ∈ L, v ∈M имеем

[u, v] = h(A−λ0I)u,v(λ0) = 0,

что и требовалось доказать.

42

Следствием доказанной теоремы является результат об ортого-нальности корневых линеалов оператора и его J-сопряженного.

Следствие 3.1. Пусть Λ1 ⊂ σp(A), Λ2 ⊂ σp(Ac),

L := з.л.о.Lλ(A) : λ ∈ Λ1, M := з.л.о.Lµ(Ac) : µ ∈ Λ2.

Если Λ1 ∩ Λ∗2 = ∅, то L[⊥]M.

Доказательство. Сперва докажем J-ортогональность корневыхлинеалов Lλ(A) и Lµ(Ac) при λ ∈ Λ1 и µ ∈ Λ2, т.е. [x, y] = 0 дляпроизвольных 0 6= x ∈ Lλ(A) и 0 6= y ∈ Lµ(Ac) при λ 6= µ (см.упражнение 3.3). Пусть p, q — минимальные натуральные числа та-кие, что (A − λI)px = 0 и (Ac − µI)qy = 0. Введем в рассмотрениежордановы цепочки:

x0 := (A− λI)p−1x, x1 := (A− λI)p−2x, . . . ,

xj := (A− λI)p−1−jx, . . . , xp−1 := x.

y0 := (Ac − µI)q−1y, y1 := (Ac − µI)q−2y, . . . ,

yj := (Ac − µI)q−1−jy, . . . , yp−1 := y.

Обозначим Lx = л.оxjp−1j=0 ,My = л.оyjq−1

j=0. Эти подпространстваконечномерны: dimLx = p, dimMy = q, подпространство Lx инва-риантно относительно A, а подпространство My — относительноAc. При этом σ(A|Lx) = λ, а σ(Ac|My) = µ, λ 6= µ. В силутеоремы 3.5 подпространства Lx и My J-ортогональны, а потому и[x, y] = 0.

Из доказанного немедленно следует J-ортогональность линеалов

L′ = л.о.Lλ(A) | λ ∈ Λ1 и M′ = л.о.Lµ(Ac) | µ ∈ Λ2,

а потому и их замыканий L и M, соответственно: L[⊥]M.

Отметим, что условие λ 6= µ, обеспечивающее J-ортогональность(в Πκ) соответствующих корневых линеалов Lλ(A) и Lµ(Ac), вы-полнено, если, например, λ 6= λ, λ ∈ σp(A)∩σp(Ac); можно выбиратьтакже варианты Im λ 6= 0, µ ∈ R, или λ 6= µ и они оба вещественны.

Целью дальнейших рассмотрений является изучение спектраль-ных свойств J-самосопряженного оператора A = Ac, действующегов Πκ. Пусть

Πκ = Π+[+]Π−, J = P+ − P−. (3.11)

43

Представим операторы A и J в матричном виде, основываясь наразложении (3.11). Тогда любому элементу x = x+ +x− ∈ Πκ можнопоставить в соответствие вектор-столбец

x =(

x+

x−

)∈ Π+[+]Π−,

оператору J — матрицу

J :=(

I 00 −I

),

а произвольному оператору A — матрицу

A =(

A11 A12

A21 A22

)=

(P+A|Π+ P+A|Π−P−A|Π+ P−A|Π−

). (3.12)

Отсюда

A∗ =(

A∗11 A∗

21

A∗12 A∗

22

), Ac = JA∗J =

(A∗

11 −A∗21

−A∗12 A∗

22

). (3.13)

Здесь операторы A11, A12 и A21 — конечномерные непрерывные ипотому они компактны.

Из (3.12), (3.13) получаем, что A = Ac тогда и только тогда, когда

A11 = A∗11, A22 = A∗

22, A21 = −A∗12, A12 = −A∗

21. (3.14)

Напомним, что если A = A∗ — самосопряженный оператор, дей-ствующий в гильбертовом пространстве, то его спектр веществен:σ(A) ⊂ R. Для оператора A = Ac, действующего в Πκ, спектр σ(A)может быть и невещественным, как показывает следующий пример.

Пример 3.5. Пусть Πκ = C2,

J =(

I 00 −I

), A =

(0 1−1 0

). (3.15)

Тогда A = Ac и σ(A) = i;−i.

Заметим, что из теоремы 3.4 следует, что множество регулярныхточек и спектр J-самосопряженного оператора, действующего в Πκ,симметричны относительно вещественной оси:

λ ∈ ρ(A)⇐⇒ λ ∈ ρ(A), λ ∈ σ(A)⇐⇒ λ ∈ σ(A). (3.16)

Далее будет использован следующий полезный при изучениисвойств спектра ограниченных операторов факт.

44

Теорема 3.6. (Гохберг И.Ц.). Пусть A — замкнутый оператор, Ω— связное открытое множество из ρ(A) и пусть B — компактныйоператор: B ∈ S∞.

ТогдаΩ ∩ ρ(A + B) 6= ∅ =⇒ Ω ⊂ ρ(A + B),

т.е. если во множестве Ω есть хотя бы одна регулярная точка опера-тора A + B, то это множество состоит из регулярных точек и нор-мальных собственных значений оператора A + B. Отсюда, в частно-сти следует, что нормальные собственные значения оператора A+B,расположенные в Ω, могут сгущаться только к границе Ω.

Следующая теорема описывает невещественный спектр J-самосопряженного оператора, действующего в Πκ.

Теорема 3.7. . Пусть A : Πκ → Πκ — J-самосопряженный оператор,σnr(A) — его невещественный спектр. Тогда:

(i) L± = л.о.Lλ(A) | λ ∈ C± — нейтральный подпространство,в частности, корневые линеалы Lλ(A), отвечающие λ ∈ σnr(A)нейтральны;

(ii) dimL± ≤ κ;

(iii) σnr(A) состоит из не более чем κ пар λ;λ нормальных соб-ственных значений.

Доказательство. Сперва проверим, что σnr(A) состоит из нор-мальных собственных значений.

Представим оператор A = Ac в виде суммы двух операторовA1 = A∗ и A2 ∈ S∞:

A =(

A11 A12

−A∗12 A22

)=

(A11 00 A22

)+

(0 A12

−A∗12 0

)=: A1 + A2.

Так как здесь A11 = A∗11, A22 = A∗

22, то A1 = A∗1, а так как

A12 ∈ S∞, то A2 ∈ S∞.Обратимся к теореме 3.6. Возьмем в качестве связного множества

Ω открытую верхнюю полуплоскость: Ω = C+. Поскольку операторA1 самосопряжен, то Ω ⊂ ρ(A1). Для оператора A = A1 +A2 найдут-ся точки λ ∈ C+ такие, что λ ∈ ρ(A) (например, точки с |λ| > ‖A‖).Следовательно, по теореме 3.6 получаем, что C+ ⊂ ρ(A), т.е. любая

45

точка из C+ является либо регулярной точкой для A = Ac, либонормальным собственным значением. Аналогичное утверждениесправедливо и для точек из открытой нижней полуплоскости C−.

Теперь покажем справедливость утверждений (i) и (ii).Рассмотрим инвариантное подпространство L+ оператора A,

отвечающее собственным значениям, расположенным в верхнейполуплоскости. Так как A = Ac и AL+ ⊂ L+, то AcL+ ⊂ L+

и σ(A|L+) = σ(Ac|L+). Поэтому σ(A|L+) ∩ σ∗(Ac|L+) = ∅. Потеореме 3.5 имеем L+[⊥]L+. Следовательно, для любого x ∈ L+

будет [x, x] = 0, т.е. L+ — нейтральное и потому неотрицательноеподпространство. Из аксиомы (iii) определения 2.3 пространства Πκполучаем, что dim L+ 6 κ. Аналогично проверяются утверждениядля L−. Таким образом, (i) и (ii) доказано.

Отсюда и из (3.16) получаем, что если λ ∈ σp(A), то такжеλ ∈ σp(A). Так как в C+ может быть не более κ (с учетом кратностей)собственных значений оператора A, то утверждение (iii) справедли-во.

Дальнейшее исследование спектральных свойств операторов при-влекает такие важные понятия, как интеграл Рисса и проекторРисса. Пусть спектр σ(A) оператора A имеет в комплексной плос-кости изолированную часть σ и Γσ — жорданов контур (возможноне одно-связный), выделяющий (окружающий) эту часть. Тогда

σ(A) = σ ∪ (σ(A)\σ),

и оба множества справа замкнуты и не пересекаются. Поэтому кон-тур Γσ можно выбрать так, что Γσ ⊂ ρ(A).

Введем в рассмотрение интеграл (проектор) Рисса

Pσ := − 12πi

∮Γσ

(A− λI)−1dλ (3.17)

где (A − λI)−1 := Rλ(A) — резольвента оператора A, являющаясяаналитической функцией по λ при λ ∈ ρ(A) или, что эквивалентно,скалярная функция (Rλ(A)x, y) аналитична при каждой паре x, y ∈Πκ. Оператор Pσ можно определить и через скалярное произведение:

(Pσx, y) = − 12πi

∮Γσ

((A− λI)−1x, y)dλ

46

Напомним общие свойства оператора Pσ. Поскольку они, как пра-вило, доказываются в стандартных курсах функционального анали-за, мы опускаем доказательство следующей ниже теоремы 3.8.

Теорема 3.8. Имеют место следующие утверждения:

1 P 2σ = Pσ, т.е. Pσ − проектор;

2 I − Pσ = Pσ(A)\σ, в частности, Pσ(A) = I, P∅ = 0.

3 Если σ 6= σ(A), то

Πκ = PσΠκu(I − Pσ)Πκ, APσΠκ ⊂ PσΠκ,

A(I − Pσ)Πκ ⊂ (I − Pσ)Πκ,(3.18)

причем для сужений A|PσΠκ и A|(I − Pσ)Πκ оператора A наPσΠκ и (I − Pσ)Πκ выполнены соотношения

σ(A|PσΠκ) = σ, σ(A|(I − Pσ)Πκ) = σ(A)\σ;

4 Pσ1∪σ2 = Pσ1 + Pσ2 , если σ1 ∩ σ2 = ∅;

5 если λ0 ∈ σp(A), т.е. λ0 является нормальным собственнымзначением оператора A, и σ = λ0, то PσΠκ = Lλ0(A); в этомслучае в (3.9) имеем H1 = (I − Pσ)Πκ;

6 Проектор Pσ не зависит от выбора контура Γσ, выделяющегоσ и расположенного в ρ(A).

Понятие проектора Pσ позволяет построить функциональное ис-числение, т.е. построение функций от оператора A. Для произволь-ной непрерывной функции f(λ) соответствующая функция от опе-ратора A определяется по формуле

f(A) := − 12πi

∮Γσ(A)

f(λ)(A− λI)−1dλ, (3.19)

где Γσ(A) — контур, выделяющий весь спектр оператора A. Изсвойств интеграла Коши непосредственно следует справедливостьэтой формулы для многочленов от оператора A.

Рассмотрим вновь проектор Рисса

Pσ = − 12πi

∮Γσ

(A− λI)−1dλ,

47

где, напомним, σ — изолированная часть спектра оператора A, а Γσ

— охватывающий ее контур, расположенный в ρ(A).Вычислим J-сопряженный к Pσ оператор P c

σ. Из (3.17), исполь-зовав замену µ = λ, получим:

P cσ =

12πi

∮Γ∗σ

(Ac − λI)−1dλ = − 12πi

∮Γ∗σ

(Ac − µI)−1dµ

= − 12πi

∮Γσ∗

(Ac − µI)−1dµ,

где в первом контурном интеграле обход совершается по часовойстрелке, а в остальных — против.

Если Γσ = Γσ∗ — симметричный относительно R контур и A = Ac,то

P cσ = − 1

2πi

∮Γσ

(A− µI)−1dµ = Pσ,

т.е. Pσ — J-самосопряженный проектор. Отсюда

[Pσx, (I − Pσ)y] = [x, Pσ(I − Pσ)y] = 0, ∀x, y ∈ Πκ,

и потому подпространства PσΠκ и (I − Pσ)Πκ являются J-ортогональными:

Πκ = PσΠκ[u](I − Pσ)Πκ. (3.20)

Следствие 3.2. Если A = Ac и Γσ = Γ∗σ, то подпространства PσΠκи (I − Pσ)Πκ невырождены.

В самом деле, если, например, некоторый элемент x0 ∈ PσΠκ иортогонален PσΠκ, то он в силу (3.20) ортогонален и (I − Pσ)Πκ,а потому и всему Πκ. По аксиоме (i) определения 2.3 пространстваПонтрягина x0 = 0.

Следствие 3.3. Если A = Ac, Im λ0 > 0 и λ0 ∈ σp(A), то подпро-странство Lλ0(A) u Lλ0

(A) невырождено и dim Lλ0(A) = dimLλ0(A).

Действительно, в силу теоремы 3.7(iii) точки λ0 и λ0 являютсянормальными собственными значениями, а потому — изолирован-ными точками спектра оператора A. Следовательно, найдется такоеε > 0, что окружность Γλ = λ ∈ C : |λ − λ0| = ε состоит из регу-лярных точек оператора A, расположена в верхней полуплоскости иокружает только одну точку λ0 спектра оператора A. Положим

σ = λ0, λ0, Γσ = Γλ0 ∪ Γ∗λ0.

48

В силу следствия 3.2 подпространство PσΠκ невырождено. Так какпо свойствам интеграла Рисса

Pσ = Pλ0 + Pλ0, PλΠκ = Lλ(A), PλΠκ = Lλ(A),

тоPσΠκ = (Pλ0 + Pλ0

)Πκ = Lλ0(A) u Lλ0(A)

— невырожденное подпространство.

Осталось проверить, что m+ := dim Lλ0(A) = dimLλ0(A) =: m−.

Предположим противное: m+ 6= m−, для определенности m+ < m−.Пусть ekm+

k=1 — базис подпространства Lλ0(A), а fjm−j=1 — базис

подпространства Lλ0(A). Проверим, что в Lλ0

(A) существует векторy 6= 0 такой, что [y, ek] = 0, k = 1,m+. Каждый вектор из Lλ0

(A)

представляется в виде: y =m−∑j=1

αjfj . Рассмотрим систему линейных

уравнений:m−∑j=1

αj [fj , ek] = 0, k = 1,m+.

Как и при доказательстве леммы 2.1, воспользуемся тем, что од-нородная система с количеством неизвестных большим, нежели ко-личество уравнений имеет нетривиальное решение y ∈ Lλ0

(A). Нотогда y J-ортогонален не только Lλ0(A), но и Lλ0

(A), поскольку этоподпространство нейтрально. Следовательно, y J-ортогонален и сум-ме этих подпространств, что противоречит доказанному выше.

Пусть λ1, . . . , λp — все различные собственные значения опера-тора A = Ac, расположенные в C+, т.е. Im λj > 0, j = 1, p. Введеммножества σj := λj , λj и окружающие их контуры Γσj

, а такжеΓσ = Γσ1 ∪ . . . ∪ Γσp

. Через Pσjи Pσ :=

∑pj=1 Pσj

обозначим соот-ветствующие проекторы Рисса. Тогда, как следует из предыдущихпостроений,

PσΠκ = (Lλ1(A) u Lλ1(A))[+](. . .)[+](Lλp

(A) u Lλp(A)),

Πκ = (Lλ1(A) u Lλ1(A))[+](. . .)[+](Lλp

(A) u Lλp(A))[+](I − Pσ)Πκ.

(3.21)Поскольку каждое из подпространств (Lλj

(A)uLλj(A)) является

пространством Понтрягина с κj = dimLλj(A), j = 1, p, положитель-

ными квадратами, то подпространство (I − Pσ)Πκ также является

49

пространством Понтрягина (с κ = κ−∑p

j=1 dimLλj(A) положитель-

ными квадратами). Так как все подпространства в (3.21) инвариант-ны относительно A = Ac по построению (и по свойствам интегралаРисса), то оператор A в матричной форме, отвечающей этому раз-ложению, имеет диагональную структуру:

A =

A1

. . .Ap

0

0 A

,

Aj := A|(Lλj (A) u Lλj(A)), A := A|(I − Pσ)Πκ.

Замечание 3.1. В этом представлении σ(A) ⊂ R, так как все неве-щественные собственные значения λ = λj(A) уже ранее были вы-делены, и им отвечают подпространства Lλj

(A) u Lλj(A), j = 1, p.

Рассмотрим далее структуру инвариантных подпространств, от-вечающих вещественным собственным значениям оператора A = Ac.Пусть λ ∈ σp(A), λ ∈ R. Для обычных самосопряженных операторов,как известно, Lλ(A) = ker(A−λI). Для J-самосопряженных операто-ров вещественным собственным значениям могут отвечать не толькособственные, но и присоединенные элементы. Это показывает следу-ющий пример.

Пример 3.6. Пусть Πκ = C2, J = J−1 = J∗, [x, y] = (Jx, y),

J =(

0 11 0

), A =

(0 10 0

)= Ac, (JA)∗ = JA.

Так как здесь оператор A является жордановой клеткой, отвечаю-щей нулевому собственному значению, то A имеет присоединенныйэлемент.

Упражнение 3.4. Доказать, что у J-самосопряженного оператора,действующего в Πκ, остаточный спектр пуст.

Пусть λ ∈ R — собственное значение оператора A = Ac иx ∈ ker(A − λI). Если найдется элемент y такой, что (A − λI)y = x,то оператор A имеет в точке λ жорданову цепочку x, y из соб-ственного элемента x и присоединенного к нему элемента y. В этомслучае

[x, x] = [(A− λI)y, x] = [y, (A− λI)x] = 0, (3.22)

50

т.е. x ∈ ker(A − λI) — нейтральный элемент. Более того, элемент xявляется изотропным, так как для любого z ∈ ker(A− λI) имеем

[x, z] = [(A− λI)y, z] = [y, (A− λI)z] = 0.

Представим ker(A− λI) ⊂ Lλ(A) в виде (см. следствие 2.3)

ker(A− λI) = L0 + L1,

где L0 — изотропная часть этого ядра, а L1 — невырожденное под-пространство. Заметим, что L1 — инвариантное подпространствооператора A: AL1 ⊂ L1, так как L1 ⊂ ker(A− λI).

В силу невырожденности L1 по теореме 2.6 имеет место разложе-ние

Πκ = L1[+]L[⊥]1 . (3.23)

Здесь L[⊥]1 — также инвариантное подпространство для A, так как

по лемме 3.1 L[⊥]1 — инвариантное подпространство относительно

Ac = A, и тогдаAL[⊥]

1 = AcL[⊥]1 ⊂ L[⊥]

1 . (3.24)

Из установленных свойств следует, что оператор A в разложении(3.23) имеет матричное представление

A =(

λ 00 A1

), (3.25)

где ker(A1 − λI) содержит только нейтральные элементы (в силувыбора L1). Тогда по аксиоме (iii) определения 2.3 имеем свойствоdim ker(A1 − λI) 6 κ.

Рассмотрим произвольную жорданову цепочку x0, . . . , xp−1, от-вечающую собственному значению λ = λ оператора A = Ac: (A −λI)px = 0, (A − λI)p−1x 6= 0, xj = (A − λI)p−1−jx, j = 0, p− 1, ивведем линеал

L := л.о.x0, . . . , x[p/2]−1, (3.26)

где [p/2] — целая часть числа p/2, [p/2] 6 p/2.Докажем, что линеал L является нейтральным. В самом деле,

при j, k ≤ [p/2]− 1 имеют место свойства

[xj , xk] = [(A− λI)p−j−1x,

(A− λI)p−k−1x] = [(A− λI)2p−(j+k)−2x, x] = 0,(3.27)

51

так как при j, k ≤ [p/2] − 1 будет 2p − (j + k) − 2 ≥ 2p − 2 [p/2] > p.Поэтому линеал L, элементы которого суть линейные комбинацииэлементов xk[p/2]−1

k=0 , является нейтральным.

Упражнение 3.5. Доказать, что dim Lλ(A) <∞, если ker(A− λI)состоит из нейтральных элементов.

Рассмотрим случай, когда собственному значению λ = λ опера-тора A = Ac отвечает не одна, а несколько жордановых цепочек.Как мы видели выше, без ограничения общности можно считать,что dim Lλ(A) <∞. Тогда оператор A|Lλ(A) конечномерен, а пото-му ему отвечает (в жордановом представлении) жорданов базис

e10, e11, . . . , e1,p1−1,e20, e21, . . . , e2,p2−1,. . . . . . . . . . . .es0, es1, . . . , es,ps−1.

(3.28)

Возьмем, как и выше, в качестве подпространства L линейнуюоболочку элементов (3.28), причем в первой строке — только первые[p1/2] элементов, во второй — соответственно [p2/2] элементов, и т.д.,а в последней строке — [ps/2] элементов. Тогда рассуждениями, ана-логичными тем, которые были проведены выше для одной цепочки(см. (3.26), (3.27)), устанавливаем, что линеал L является нейтраль-ным и потому dim L 6 κ (см. определение 2.3, аксиома (iii)).

Возьмем теперь все вещественные собственные значения λ = µj ,j = 1, . . . , q, и соответствующие нейтральные подпространства Lj ,построенные по указанному выше принципу, выделив жордановыбазисы (3.28) (с выбором длин цепочек до номера [p/2]). Заметим,что при µj 6= µk будет Lµj (A)[⊥]Lµk

(A), а размерность любогоLj ⊂ Lµj (A) не превышает κ.

Так как все линеалы Lλk(A), Im λk > 0, и Lj , µj ∈ R, являются

нейтральными, то они неотрицательны и потому согласно аксиоме(iii) определения 2.3 пространства Понтрягина справедлива следую-щая оценка:

q∑j=1

dim Lj +p∑

k=1

dim Lλk(A) 6 κ (Im λk > 0).

Рассмотрим теперь весьма важное понятие углового оператора.Такие операторы дают описание неотрицательных и неположитель-ных подпространств в Πκ.

52

Итак, пусть задано Πκ, [·, ·] и его фиксированное разложение

Πκ = Π+[⊕]Π−, J = P+ − P−, (x, y) = [Jx, y], [x, y] = (Jx, y).

Для любого x ∈ Πκ имеем

x = x+ + x− = P+x + P−x, [x, x] = ‖x+‖2 − ‖x−‖2,

так как

[x, x] = [x+ + x−, x+ + x−] = (J(x+ + x−), x+ + x−) =

= (x+ − x−, x+ + x−) = (x+, x+)− (x−, x−),

поскольку (x+, x−) = (x−, x+) = 0.Если элемент x неотрицателен, т.е. [x, x] > 0, то, очевидно,

‖x+‖ > ‖x−‖.Пусть L > 0 — неотрицательный линеал и потому это конечно-

мерное подпространство, x = x+ + x− ∈ L. Введем отображениеK : Π+ ⊃ P+L −→ P−L ⊂ Π− по следующему закону:

Kx+ = x−, x± = P±x, x = x+ + x− ∈ L. (3.29)

Докажем, что это отображение является линейным оператором,действующим из Π+ в Π−. Прежде всего, dom K = P+L ⊂ Π+ ипотому dom K — конечномерный линеал. Далее, для K выполненосвойство линейности:

K(αx+ + βy+) = αKx+ + βKy+, x+ ∈ P+L, y+ ∈ P+L. (3.30)

В самом деле, если x+ ∈ P+L, то существует x ∈ L такой, чтоP+x = x+, аналогично для y+ ∈ P+L существует y ∈ L : P+y = y+.Так как L— подпространство, то z := αx+βy ∈ L и P+z = αx++βy+,P−z = αx− + βy−. По определению (3.29) оператора K тогда имеемK(P+z) = P−z, т.е. свойство (3.30). Осталось лишь проверить, чтоK — линейный оператор, т.е. K(0) = 0.

Пусть x = x+ + x−, x+ = 0, x− 6= 0. Для неотрицательногоподпространства L имеем ‖x+‖ > ‖x−‖ = ‖Kx+‖, откуда следует,что x− = 0, т.е. K(0) = 0. Из этого же неравенства получаем, что‖K‖ 6 1, т.е. оператор K является сжатием.

Назовем для произвольного неотрицательного подпространстваL сжатие K, определенное по правилу (3.29), угловым операторомэтого подпространства. (Термин "угловой оператор"происходит из

53

рассмотрения графика прямой y = kx с угловым коэффициентомk, |k| 6 1. Точки (x; y), расположенные на графике, удовлетворяютусловию |x|2 − |y|2 > 0, т.е. образуют (одномерное) неотрицательноеподпространство во всей совокупности векторов на плоскости Oxy(с началом в нуле и концами в (x; y))).

Для неположительных линеалов и подпространств L введем ана-логично предыдущему оператор Q : P−L −→ P+L по правилу:

Qx− = x+, x = x+ + x− ∈ L, ‖Q‖ 6 1,

и назовем его также угловым оператором для L. Отметим, что, вотличие от неотрицательных, неположительные линеалы и подпро-странства могут быть бесконечномерными. Далее будет полезна сле-дующая достаточно простая теорема.

Теорема 3.9. Пусть L — неположительный (неотрицательный) ли-неал, а L− := P−L (L+ := P+L) — его проекция на Π− (Π+). То-гда:

(i) (непрерывный) оператор P−|L : L → L− (P+|L : L → L+)непрерывно обратим и ‖(P±|L)−1‖ ≤

√2;

(ii) L— подпространство (замкнутый линеал) тогда и только тогда,когда L− (L+) — подпространство.

Доказательство. Рассуждения проведем для случая неположи-тельного подпространства поскольку для неотрицательного оноаналогично и даже проще: в этом случае надо проверить лишьобратимость оператора P+|L.

(i) Пусть L — неположительный линеал. Сперва отметим, чтооператор (P−|L) обратим. В самом деле, если P−x = 0 при некоторомx ∈ L, то x = P+x ∈ Π+ ∩ L, что влечет x = 0.Непрерывность же оператора (P−|L)−1 следует из того, что при x ∈L имеем:

‖(P−|L)−1x−‖ = ‖x‖ = ‖x+ + x−‖ =√‖x+‖2 + ‖x−‖2 ≤

√2‖x−‖.

Следовательно, ‖(P−|L)−1‖ ≤√

2.

(ii) Прямо следует из того, что отображение P−|L : L → L−непрерывно и непрерывно обратимо.

54

Возьмем произвольный линеал L+ ⊂ Π+, произвольное сжатиеK : L+ −→ Π− (‖K‖ 6 1) и образуем линеал

L := x = x+ + Kx+ : x+ ∈ L+. (3.31)

Так как [x, x] = ‖x+‖2 − ‖Kx+‖ > 0, то L — неотрицательныйлинеал. Таким образом:

Соотношение (3.31) устанавливает взаимно однозначное со-ответствие L ←→ K между всеми линеалами L > 0 и всемисжатиями K, ‖K‖ 6 1, определенными на линеалах L+ ⊂ Π+ идействующими в Π−.

Пусть L — неотрицательное подпространство и K — его угловойоператор. Предположим, что L — положительное подпространство,L > 0. Тогда ‖x+‖ > ‖Kx+‖ (x+ 6= 0). Так как оператор K конечно-мерен и непрерывен, то он компактен, K ∈ S∞. Следовательно, най-дется такой ненулевой вектор x0

+ ∈ Π+, ‖x0+‖ = 1, что ‖K‖ = ‖Kx0

+‖,а потому ‖K‖ < 1.Обратно, если ‖K‖ < 1, то при 0 6= x+ ∈ Π+ и x = x+ + Kx+ ∈ Lимеем:

[x, x] = ‖x+‖2 − ‖Kx+‖2 ≥ (1− ‖K‖2)‖x+‖2 > 0.

Таким образом мы доказали следующий результат:

неотрицательное подпространство L с угловым оператором Kположительно тогда и только тогда, когда ‖K‖ < 1.

Следует обратить внимание, что аналогичный факт верен длянеположительных подпространств (из тех же соображений), но недля неположительных линеалов (см. ниже упражнение 3.6).

Определение 3.7. Назовем неотрицательный (положительный,неположительный, отрицательный) линеал L из Πκ максимальным,если не существует такого линеала L того же класса, что L 6= L,L ⊂ L.

Так как каждое из семейств неотрицательных, неположительных,положительных и отрицательных линеалов образует частично упо-рядоченное множество по вложению и в каждом линейно упорядо-ченном подмножестве есть максимальный элемент (объединение всех

55

линеалов, входящих в это линейно упорядоченное подмножество), тов силу известной из курса функционального анализа леммы Цорнав каждом из этих семейств существует максимальный элемент. Этотмаксимальный элемент, вообще говоря, может оказаться не подпро-странством, т.е. незамкнутым линеалом. Конечно, если речь идет онеотрицательных и положительных линеалах, то они конечномерныи потому это подпространства. Поскольку индефинитная метриканепрерывна, то замыкание неположительного линеала — неположи-тельное подпространство. Поэтому и в этом случае максимальныйэлемент — подпространство. Что касается отрицательных линеалов,то предлагается выполнить следующее ниже упражнение 3.6, отве-чающее сразу на 2 вопроса: для отрицательного линеала норма уг-лового оператора не обязательно меньше единицы и максимальныйэлемент может оказаться незамкнутым линеалом.

Упражнение 3.6. Рассмотрим пространство Понтрягина Πκ сκ = 1. Пусть e — произвольный ненулевой нейтральный вектор,L = e[⊥]. Так как e — нейтральный вектор, то он принадлежит сво-ему J-ортогональному дополнению. Пусть f : L → C — разрывныйлинейный функционал, такой что f(e) 6= 0. Обозначим L1 := ker f .Доказать:

(i) Подпространство L является максимальным неположитель-ным.

(ii) Линеал L1 является максимальным отрицательным.

(iii) Норма углового оператора отрицательного линеала L1 равна 1.

Следующая ниже теорема 3.10 дает конструктивный ответ на во-прос о расширении подпространств указанных выше семейств домаксимальных. При этом используются следующие обозначения:M+ (соответственно M−) — множество всех максимальных неотри-цательных (неположительных) подпространств, соответственно.

Теорема 3.10. Всякое неотрицательное (положительное, отрица-тельное, неположительное, ) подпространство L ⊂ Πκ допускаетрасширение до максимального подпространства L того же класса;при этом L ∈ M± тогда и только тогда, когда P±L = Π±, соответ-ственно.

56

В частности, неотрицательные и положительные подпростран-ства L максимальны тогда и только тогда, когда dimL = κ.

Доказательство. Рассуждения проведем для неотрицательногоподпространства, для остальных классов подпространств оно ана-логично.

Пусть L — неотрицательное подпространство, P+L — его про-екция на Π+ и предположим, что P+L 6= Π+. Тогда гильберто-во пространство Π+ допускает разложение в ортогональную сумму:Π+ = P+L ⊕ (P+L)⊥.

Обозначим через K угловой оператор для L, ‖K‖ 6 1, K :P+L −→ Π−. Введем новый оператор K, полагая

K(x+ + y+) := Kx+, ∀x+ ∈ P+L, ∀y+ ∈ (P+L)⊥.

Проверим, что ‖K‖ = ‖K‖. Действительно, ‖K‖ > ‖K‖ посколь-ку dom K ⊂ dom K и K|dom K = K|dom K. С другой стороны,

‖K‖2 = sup‖K(x+ + y+)‖2

‖(x+ + y+)‖2=

= sup‖Kx+‖2

‖x+‖2 + ‖y+‖26 sup

‖Kx+‖2

‖x+‖2= ‖K‖2,

откуда следует, что ‖K‖ 6 ‖K‖.Таким образом, любое L > 0 можно расширить до L > 0,

P+L = Π+. Если исходное L было положительным, L > 0, то L ⊃ L— также положительное подпространство, так как в этом случае‖K‖ = ‖K‖ < 1.

Докажем теперь обратное утверждение. Пусть P+L = Π+, ноL не является максимальным, L 6∈ M+. Тогда существует L1 ⊃ L,L1 6= L, L1 > 0. Возьмем какой-либо элемент x0 ∈ L1\L, x0 6= 0, ирассмотрим P+x0 = x0

+. Так как P+L = Π+, то существует элементx ∈ L такой, что P+x = x0

+. Заметим теперь, что x0 − x 6= 0,так как здесь x ∈ L, x0 ∈ L1\L, x0 6= 0, причем по построениюP+(x0 − x) = x0

+ − x0+ = 0. Последнее противоречит тому, что

оператор P+|L обратим (см. теорему 3.9).

57

Для доказательства последнего утверждения теоремы надо опятьвоспользоваться обратимостью оператора P+|L, тем, что для макси-мального неотрицательного и максимального положительного под-пространств P+L = Π+ и dim Π+ = κ.

Введем в рассмотрение операторный шар радиуса 1:

K+ := K : Π+ −→ Π− : ‖K‖ 6 1.

Как показали предыдущие рассуждения, между множеством M+

всех максимальных неотрицательных подпространств L из Πκ и мно-жеством K+ всех сжатий K : Π+ −→ Π− имеется взаимно одно-значное соответствие: каждому L > 0, L ∈ M+, отвечает угловойоператор K этого подпространства, K ∈ K+, и обратно.

Введем также операторный шар

K− := Q : Π− −→ Π+ : ‖Q‖ 6 1.

Тогда любому неположительному подпространствуM∈M− отвеча-ет угловой оператор Q этого подпространства, Q ∈ K−. Итак, имеем

L ∈M+ ⇐⇒ L = x = x+ + Kx+ | K ∈ K+, ∀x+ ∈ Π+,

M∈M− ⇐⇒M = y = y− + Qy− | Q ∈ K−, ∀y− ∈ Π−.

Теорема 3.11. Пусть подпространство L ∈ M+ имеет угловойоператор K и M∈M− — угловой оператор Q. Тогда L и M J-ортогональны в том и только том случае, когда K = Q∗, или, что тоже, Q = K∗.

Более того, подпространствоM∈M− с угловым оператором K∗

совпадает с L[⊥].

Доказательство. Пусть x = x+ + Kx+ ∈ L, y = Qy− + y− ∈ M и[x, y] = 0:

0 = [x+ + Kx+, Qy− + y−] = (J(x+ + Kx+), Qy− + y−)= (x+ −Kx+, Qy− + y−) = (x+, Qy−)− (Kx+, y−),

т.е.[x, y] = 0 ∀x ∈ L, y ∈M ⇐⇒

(x+, Qy−) = (Kx+, y−), ∀x+ ∈ Π+, ∀y− ∈ Π− .

58

Отсюда следует, что L[⊥]M тогда и только тогда, когда угловыеоператоры K и Q взаимно сопряжены: Q = K∗, K = Q∗.

Так как L — максимальное неотрицательное подпространство, тоL[⊥] — неположительное подпространство, содержащее максималь-ное неположительное подпространствоM с угловым оператором K∗,а потому L[⊥] =M.

Теорема 3.12. Если L+ — неотрицательное, а L− — неположитель-ное подпространство, то L+ ∈M+ и L− ∈M− тогда и только тогда,когда

dim (L+ ∩ L−) = codim (L+ + L−) . (3.32)

В частности, L++L− = Πκ тогда и только тогда, когда L+∩L− = 0и L± ∈M±.

Доказательство. Прежде всего заметим, что поскольку L+ и L−— семидефинитные подпространства, то (нейтральное подпростран-ство)

L+ ∩ L− ⊂ L[⊥]+ ∩ L[⊥]

− = (L+ + L−)[⊥]. (3.33)

Отсюда,dim (L+ ∩ L−) ≤ codim (L+ + L−) . (3.34)

Поскольку при расширении подпространства его коразмерностьуменьшается, то из (3.32), с учетом теоремы 3.10 и неравенства(3.34), следует, что L+ ∈M+ и L− ∈M−.

Обратно, пусть L+ ∈ M+ и L− ∈ M−. Тогда имеем: L[⊥]+ ∈ M−

и L[⊥]− ∈ M+. Следовательно, в (3.33) подпространства L±

и L[⊥]± можно поменять местами, что позволяет заключить:

L+ ∩L− = L[⊥]+ ∩L[⊥]

− = (L+ + L−)[⊥], а потому выполнено условие(3.32).

Последнее утверждение теоремы вытекает из доказанного с уче-том того, что равенство L+ + L− = Πκ равносильно условиюcodim (L+ + L−) = 0.

Пусть теперь подпространство L нейтрально. Тогда, очевидно,‖Kx+‖ = ‖x+‖, т.е. оператор K : Π+ −→ Π+ изометрический:

(Kx+,Ky+) = (x+, y+), ∀x+, y+ ∈ Π+.

59

Упражнение 3.7. Пусть dim Π+ ≤ dim Π−. Доказать, что любоенейтральное подпространство L допускает расширение до макси-мального неотрицательного подпространства L ∈ M+ и такого, чтоL — нейтральное.

Напомним теперь некоторые факты из функционального анали-за, связанные с равномерной, сильной и слабой сходимостью опера-торов, действующих из гильбертова пространства H1 в гильбертовопространство H2.

Говорят, что последовательность операторов An∞n=1

— равномерно сходится к оператору A0, An =⇒ A0, n→∞, если‖An −A0‖ −→ 0 (n −→∞);

— сильно сходится к оператору A0, An −→ A0, n→∞, если‖(An −A0)x‖ −→ 0 (n −→∞, ∀x ∈ H1);

— слабо сходится к A0, An A0, n→∞, если ((An−A0)x, y) −→0 (∀x ∈ H1, ∀y ∈ H2, n −→∞).

Как известно, из равномерной сходимости следует сильная сходи-мость, а из сильной — слабая, причем обратное неверно.

Приведем без доказательства следующий важный результат:

Теорема 3.13 (А.Н. Тихонов). Пусть H1 и H2 — гильбертовыпространства. Тогда операторный шар K = K : H1 → H2 | ‖K‖ ≤ 1слабо компактен, т.е. для любой последовательности операторовAn∞n=1 ⊂ K найдется такая ее подпоследовательность Ank

∞k=1,что Ank

слабо сходится к некоторому оператору A0 ∈ K.

Пусть теперь снова Πκ = Π+[⊕]Π− и T — непрерывный линейныйоператор, действующий в Πκ. Представим T в матричной форме,отвечающей этому ортогональному разложению,

T =[

T11 T12

T21 T22

].

Пусть максимальное неотрицательное подпространство L ∈ M+ сугловым оператором K:

L =(

x+

Kx+

): x+ ∈ Π+

,

60

инвариантно относительно T , т.е.

∀x =(

x+

Kx+

)∈ L =⇒ Tx = y =

(y+

Ky+

)∈ L.

Так как

Tx =[

T11 T12

T21 T22

](x+

Kx+

)=

(T11x+ + T12Kx+

T21x+ + T22Kx+

)=

(y+

Ky+

),

тоK(T11x+ + T12Kx+) = T21x+ + T22Kx+.

В силу произвольности x+ ∈ Π+ заключаем, что подпростран-ство L ∈M+ инвариантно относительно оператора T тогда и толькотогда, когда его угловой оператор K — решение уравнения

KT11 + KT12K − T21 − T22K = 0. (3.35)

Аналогичные соображения показывают, что максимальное неполо-жительное подпространствоM с угловым оператором Q инвариант-но относительно оператора T тогда и только тогда, когда

T11Q + T12 −QT21Q−QT22 = 0. (3.36)

Продолжим рассмотрение вопроса об инвариантных подпро-странствах относительно оператора T , действующего в Πκ.

Теорема 3.14. Пусть последовательность операторов An равно-мерно сходится к оператору A в пространстве Πκ = Π+[⊕]Π−. Есликаждый из операторов An имеет κ-мерное неотрицательное инвари-антное подпространство Ln, то оператор A также имеет κ-мерноенеотрицательное инвариантное подпространство L.

Если при этом существует такое открытое множество Ω ⊂ C, чтоσ(An|Ln) ⊂ Ω, то σ(A|L) ⊂ Ω.

Доказательство. Запишем операторы An и A в матричном виде:

An =

[A

(n)11 A

(n)12

A(n)21 A

(n)22

], A =

[A11 A12

A21 A22

].

Так как An сходится к A равномерно, то и все элементы A(n)jk тоже

равномерно сходятся к Ajk. Действительно, проверим это, например,

61

для матричных элементов P+AnP− = A(n)21 и P+AP− = A21, для

остальных это доказывается аналогично:

‖A(n)21 −A21‖ = ‖P+(An −A)P−‖ 6 ‖An −A‖ −→ 0 (n −→∞).

Пусть Kn — угловой оператор подпространства Ln. Так какKn ⊂ K+ и шар K+ слабо компактен согласно теореме Тихонова(см. теорему 3.13), то найдется подпоследовательность Knm

∞m=1

такая, что Knm слабо сходится к некоторому оператору K ∈ K+,‖K‖ ≤ 1, и этому оператору отвечает неотрицательное подпростран-ство

L := x+ + Kx+ : ∀x+ ∈ Π+.

Без ограничения общности будем считать, что слабо сходится исход-ная последовательность Kn.

Докажем, что L инвариантно относительно предельного опера-тора A, т.е. AL ⊂ L. Или, что эквивалентно оператор K — решениеуравнения

KA11 + KA12K −A21 −A22K = 0. (3.35)

Для каждой пары An и Kn в силу (3.35) имеем:

KnA(n)11 + KnA

(n)12 Kn −A

(n)21 −A

(n)22 Kn = 0.

Справедливость равенства (3.35) будет следовать предельным пе-реходом из этой последовательности уравнений, если будут доказаныследующие утверждения:

1 . KnA(n)11 слабо сходится к KA11;

2 . KnA(n)12 Kn слабо сходится к KA12K;

3 . A(n)21 слабо сходится к A21;

4 . A(n)22 Kn слабо сходится к A22K.

Для доказательства утверждения 1 нужно проверить, что((KnA

(n)11 −KA11)x, y

)−→ 0, ∀x ∈ Π+, ∀y ∈ Π−.

Поскольку ((KnA

(n)11 −KA11)x, y

)=

62

=((Kn(A(n)

11 −A11) + (Kn −K)A11)x, y)

=

= (Kn(A(n)11 −A11)x, y) + ((Kn −K)A11x, y),

то достаточно установить, что:

(Kn(A(n)11 −A11)x, y) −→ 0, ∀x ∈ Π+, ∀y ∈ Π−,

((Kn −K)A11x, y) −→ 0, ∀x ∈ Π+, ∀y ∈ Π−.

Первое их этих соотношений проверяется следующим образом:

|(Kn(A(n)11 −A11)x, y)| 6 ‖Kn‖ · ‖A(n)

11 −A11‖ · ‖x‖ · ‖y‖ 6

6 ‖A(n)11 −A11‖ · ‖x‖ · ‖y‖ −→ 0 (n −→∞),

поскольку ‖Kn‖ 6 1 и ‖A(n)11 −A11‖ −→ 0 (n −→∞).

Далее, остается отметить, что

((Kn −K)A11x, y) −→ 0,

так как Kn слабо сходится к K, и тем самым свойство 1 установлено.

Аналогично доказываются 3 и 4, причем 3 просто очевидно,так как из равномерной сходимости A

(n)21 к A21 следует и сильная, и

слабая сходимость.

Докажем теперь 2. Предварительно напомним, что оператор яв-ляется компактным тогда и только тогда, когда он переводит произ-вольную слабо сходящуюся последовательность векторов (или опе-раторов) в сильно сходящуюся.

Проведем следующие преобразования:

KnA(n)12 Kn −KA12K = Kn(A(n)

12 −A12)Kn + (Kn −K)A12K+

+KA12(Kn −K) + (Kn −K)A12(Kn −K).

Проверим, что каждое из 4-х слагаемых в выражении справа слабостремится к нулю.

Поскольку

‖Kn(A(n)12 −A12)Kn‖ 6 ‖A(n)

12 −A12‖ −→ 0 (n −→∞),

63

то здесь сходимость равномерная, а потому и сильная, и слабая.Далее,

(KA12(Kn −K)x, y) = ((Kn −K)x, A∗12K

∗y) −→ 0

и((Kn −K)A12Kx, y) −→ 0,

так как Kn слабо сходится к K.Осталось доказать, что (Kn − K)A12(Kn − K) слабо сходится к

нулю. Напомним, что A12 — конечномерный непрерывный, а пото-му компактный оператор, и потому имеет место сильная сходимостьA12Kn −→ A12K, n −→∞. Следовательно,

|((Kn−K)(A12Kn−A12K)x, y)| 6 ‖Kn−K‖·‖(A12Kn−A12K)x‖·‖y‖ 6

6 2‖(A12Kn −A12K)x‖ · ‖y‖ −→ 0, n −→∞.

Таким образом, первая часть теоремы доказана.Пусть существует такое открытое множество Ω ⊂ C, что

σ(An|Ln) ⊂ Ω. Проверим, что σ(A|L) ⊂ Ω.Пусть K — угловой оператор подпространства L, т.е. L = x+ +

Kx+ : x+ ∈ Π+. Из инвариантности L относительно оператора Aимеем:

A

(x+

Kx+

)=

[A11x+ + A12Kx+

A21x+ + A22Kx+

]∈ L.

Согласно теореме 3.9 оператор (P+|L) : L → Π+ является непре-рывным и непрерывно обратимым. При этом x = x+ + Kx+ =(P+|L)−1x+. Следовательно,

Ax = (P+|L)−1(Ax)+ = (P+|L)−1(A11 + A12K)(P+|L)x, x ∈ L,

т.е.A|L = (P+|L)−1(A11 + A12K)(P+|L). (3.37)

Таким образом, оператор A|L подобен оператору A11 + A12K, а по-тому их спектры совпадают:

σ(A|L) = σ(A11 + A12K). (3.38)

Соотношения (3.37) и (3.38) выполнены для любого оператора, вчастности, для операторов An и соответствующих угловых опера-торов Kn их инвариантных подпространств Ln:

An|Ln = (P+|Ln)−1(A(n)11 + A

(n)12 Kn)(P+|Ln).

64

σ(An|Ln) = σ(A(n)11 + A

(n)12 K).

Так как последовательности A(n)11 и A

(n)12 равномерно сходятся к A11

и A12, соответственно, и Kn слабо сходится к K, то A(n)11 + A

(n)12 Kn

слабо сходится к A11 + A12K. Отсюда, с учетом того, что операторыA

(n)11 +A

(n)12 Kn и A11 +A12K действуют в конечномерном (κ-мерном)

пространстве Π+, следует и равномерная сходимость последователь-ности A

(n)11 + A

(n)12 Kn к оператору A11 + A12K.

Докажем, что в открытом множестве C \ Ω нет точек спек-тра оператора A|L, или что то же, нет точек спектра оператораB := A11 + A12K. Пусть, напротив, найдется в C \ Ω нормальноесобственное значение µ оператора B (других точек спектра в конеч-номерном пространстве быть не может). Пусть

Γσ := λ | |λ− µ| = r, Γσ ⊂ ρ(B) ∩ (C \ Ω). (3.39)

Так как по условию спектр операторов Bn := A(n)11 + A

(n)12 Kn распо-

ложен в Ω, то Γσ ⊂ ρ(Bn).Введем проекторы Рисса

Pσ,n := − 12πi

∮Γσ

(Bn − λI)−1 dλ, Pσ := − 12πi

∮Γσ

(B − λI)−1 dλ.

Так как Γσ ⊂ ρ(Bn), то из теоремы 3.8, свойство 2, следует, чтоPσ,n = 0 для любого n. Следовательно,

‖Pσ‖ = ‖Pσ,n − Pσ‖ = ‖ − 12πi

∮Γσ

((Bn − λI)−1 − (B − λI)−1

)dλ‖

= ‖ − 12πi

∮Γσ

((Bn − λI)−1(B −Bn)(B − λI)−1

)dλ‖

6 r‖B −Bn‖ · maxλ∈Γσ

‖(Bn − λI)−1‖ · maxλ∈Γσ

‖(B − λI)−1‖

6 r‖B −Bn‖ · supn

maxλ∈Γσ

‖(Bn − λI)−1‖·

· maxλ∈Γσ

‖(B − λI)−1‖ −→ 0 (n −→∞).

(3.40)

65

Здесь мы воспользовались, с одной стороны, оценкой (3.5), при-мененной как к резольвенте оператора B, так и к резольвентамоператоров Bn, а с другой стороны тем, что Bn =⇒ B и потомуsup

n

maxλ∈Γσ ‖(Bn − λI)−1‖

< ∞ (проверить!). Из (3.40) следует

Pσ = 0 — противоречие с тем, что µ ∈ σ(B) (см. теорему 3.8).

Теорема 3.15. Пусть последовательность операторов An равно-мерно сходится к оператору A в пространстве Πκ = Π+[⊕]Π−. Есликаждый из операторов An имеет максимальное неположительное ин-вариантное подпространство Mn, то оператор A также имеет мак-симальное неположительное инвариантное подпространствоM.

Если при этом существует такое открытое множество Ω ⊂ C, чтоσ(An|Mn) ⊂ Ω, то σ(A|M) ⊂ Ω.

Доказательство не отличается от доказательства теоремы 3.14,если в рассуждениях заменить уравнение (3.35) на (3.36).

Теоремы 3.14 и 3.15 будут ключевыми при доказательстве суще-ствования инвариантных κ-мерных неотрицательных и максималь-ных неположительных подпространств у операторов разных клас-сов, действующих в пространстве Понтрягина Πκ.

Теорема 3.16. У любого ограниченного J-самосопряженного в Πκоператора A существует κ-мерное неотрицательное инвариантноеподпространство L и максимальное неположительное инвариантноеподпространство M такие, что

Im σ(A|L) > 0, т.е. σ(A|L) ⊂ C+. (3.41)

Im σ(A|M) 6 0, т.е. σ(A|M) ⊂ C−. (3.42)

Доказательству этой теоремы предпошлем нахождение последо-вательности операторов An со свойствами, упомянутыми в теореме3.14.

Определение 3.8. Оператор A, действующий в Πκ, называетсяJ-диссипативным, если Im[Ax, x] ≥ 0, ∀x ∈ Πκ. и равномерно J-диссипативным, если

Im[Ax, x] > k‖x‖2, k > 0, ∀x ∈ Πκ. (3.43)

Лемма 3.2. Если ограниченный оператор A равномерно J-диссипативен, то R ⊂ ρ(A).

66

Доказательство. Пусть λ ∈ R. Из неравенств (3.43) и (2.13) имеем

k‖x‖2 6 Im[(A− λI)x, x] 6 |[(A− λI)x, x]| 6 ‖(A− λI)x‖ · ‖x‖,

откуда следует, что ‖(A−λI)x‖ > k‖x‖, k > 0. Значит, λ ∈ r(A) и по-тому R ⊂ r(A), т.е. все действительные числа являются точками ре-гулярного типа для оператора A. Поскольку для любого ограничен-ного оператора A все точки λ с |λ| > ‖A‖ принадлежат резольвентно-му множеству, то R∩ρ(A) 6= ∅. Из теоремы Красносельского–Крейна(теорема 3.3) с учетом того, что R связно, получаем: R ⊂ ρ(A).

Теорема 3.17. Пусть σ = σ(A) ∩ C+ — часть спектра ограничен-ного равномерно J-диссипативного оператора A, расположенная вверхней полуплоскости C+. Рассмотрим выделяющий его контурΓσ ⊂ ρ(A), состоящий из полуокружности с центром в нуле, радиусаa > ‖A‖ и расположенной в верхней полуплоскости, а также отрезка[−a, a]:

Γσ = [−a, a] ∪ aeiϕ : 0 6 ϕ 6 π.

Пусть Pσ — отвечающий σ проектор Рисса:

Pσ := − 12πi

∮Γσ

(A− λI)−1dλ.

Тогда:1. Подпространство PσΠκ является κ-мерным положительным

инвариантным подпространством оператора A.2. Подпространство (I −Pσ)Πκ — отрицательное инвариантное

подпространство оператора A.

Доказательство. Тот факт, что PσΠκ и (I − Pσ)Πκ — инвариант-ные подпространства оператора A, уже был отмечен в утверждении3 теоремы 3.8 (см. (3.18)). Остается проверить знаки этих подпро-странств.

Докажем сначала, что

[x, x] = [Pσx, x] > 0, ∀x ∈ PσΠκ.

Введем обозначение Aσ = A|PσΠκ. Из свойств проектора Рисса

67

следует, что σ(Aσ) = σ и при x ∈ PσΠκ

x = Pσx = − 12πi

∮Γσ

(Aσ − λI)−1xdλ

= − 12πi

∫ a

−a

(Aσ − αI)−1xdα +12π

∫ π

0

(I − e−iϕ

aAσ)−1xd ϕ.

(3.44)

Так как

lima→+∞

12π

∫ π

0

(I − e−iϕ

aAσ)−1xd ϕ =

12x,

то из (3.44) следует

lima→+∞

− 12πi

∫ a

−a

(Aσ − αI)−1xdα =i

2π

∫ ∞

−∞(Aσ − αI)−1xdα =

12x.

Отсюда, с учетом (3.44), получаем:

[x, x] = Re[Pσx, x] = 2 Re[

i

2π

∫ ∞

−∞(Aσ − αI)−1dα x, x

]

= − 1π

∫ ∞

−∞Im[(Aσ − αI)−1x, x]dα.

(3.45)

Положим y = (Aσ − αI)−1x. Тогда из (3.43), с учетом равенстваAσy = Ay, следует

Im[(Aσ−αI)−1x, x] = Im[y, (Aσ−αI)y] = Im[y, Aσy] = − Im[Ay, y] 6 0.

Остается воспользоваться (3.45) и тем, что интеграл от неот-рицательной функции неотрицателен, а потому [x, x] = [Pσx, x] =Re[Pσx, x] > 0, т.е. PσΠκ — неотрицательное подпространство.

Докажем теперь, что PσΠκ — положительное подпространство.Предположим противное: оно не является положительным. Тогданайдется ненулевой элемент x0 ∈ PσΠκ такой, что [x0, x0] = 0. Таккак PσΠκ — неотрицательное подпространство, то по неравенствуКоши–Буняковского (2.13), которое в силу определения (2.7) кано-нического скалярного произведения можно записать и в виде

|[x, y]|2 6 [x, x] · [y, y], x, y ∈ PσΠκ,

68

приходим к выводу, что

[x0, x] = 0, ∀x ∈ PσΠκ.

Выберем здесь x = Ax0. (Это можно сделать, так как x0 ∈PσΠκ и это подпространство инвариантно для A). Следовательно,[Ax0, x0] = 0 и потому Im[Ax0, x0] = 0. Так как оператор A равно-мерно диссипативный, то x0 = 0, т.е. пришли к противоречию. Итак,подпространство PσΠκ положительно.

Аналогично доказывается, что (I − Pσ)Πκ — отрицательное ин-вариантное подпространство оператора A. Отсюда следует, что Πκразлагается в прямую сумму положительного PσΠκ и отрицательно-го (I − Pσ)Πκ подпространств (заметим, что это не обязательно ка-ноническое разложение поскольку эти подпространства могут бытьне J-ортогональны):

Πκ = PσΠκ u (I − Pσ)Πκ. (3.46)

Докажем, наконец, что dim PσΠκ = κ. (Метод доказательстваэтого факта уже встречался ранее, см. лемму 2.1.) Так как (по лем-ме 2.1) любое неотрицательное подпространство имеет размерность,не превышающую κ, то, рассуждая от противного, предположим,что dim PσΠκ < κ. Тогда найдется (в силу аксиомы (ii) определения2.3) положительный элемент x0 ∈ Πκ, x0[⊥]PσΠκ, причем в силуположительности x0 имеем x0 /∈ PσΠκ. Тогда л.о.PσΠκ, x0 — по-ложительное подпространство. Пусть x0 = Pσx0 + (I − Pσ)x0 — раз-ложение вектора x0, соответствующее разложению (3.46) всего про-странства, причем здесь x0 и Pσx0 — положительные элементы. Таккак (I−Pσ)x0 = x0−Pσx0 ∈ л.о. x0, PσΠκ, то этот элемент положи-телен и принадлежит отрицательному подпространству (I − Pσ)Πκ— противоречие, показывающее, что предположение dim PσΠκ < κневерно, т.е. dim PσΠκ = κ.

Доказательство теоремы 3.16. Проверим утверждение для слу-чая κ-мерного неотрицательного подпространства, опираясь на тео-рему 3.14. Доказательство существования максимального неположи-тельного инвариантного подпространства с указанным спектраль-ным свойством мы опускаем, поскольку рассуждения отличаютсялишь ссылкой на теорему 3.15 вместо ссылки на теорему 3.14.

Введем последовательность операторов An := A + in−1J . Дляэтих операторов имеем

Im[Anx, x] = Im[(A+in−1J)x, x] = Im[Ax, x]+Im[in−1Jx, x] = n−1(x, x),

69

т.е. они равномерно J-диссипативные (см. (3.43)). Поэтому по тео-реме 3.17 существуют максимальные инвариантные неотрицатель-ные подпространства Ln ∈ M+, AnLn ⊂ Ln, σ(An|Ln) ⊂ C+,n = 1, 2, . . . . Так как последовательность операторов An сходитсяравномерно к оператору A, то по теореме 3.14 существует подпро-странство L ∈ M+, инвариантное относительно A, AL ⊂ L, причемdim L = κ. Если положить в условиях теоремы 3.14 Ω = C+, тополучим (3.41).

Полный аналог теоремы 3.16 справедлив и для J-диссипативныхоператоров с абсолютно идентичным обоснованием (проверить!).

Теорема 3.18. У любого ограниченного J-диссипативного в Πκ опе-ратора A существует κ-мерное неотрицательное инвариантное под-пространство L и максимальное неположительное инвариантное под-пространствоM такие, что

Im σ(A|L) > 0, т.е. σ(A|L) ⊂ C+.

Im σ(A|M) 6 0, т.е. σ(A|M) ⊂ C−.

Доказываемый ниже результат интересен тем, что неотрицатель-ное инвариантное подпространство L можно выбрать, в отличие от(3.41), таким образом, что σ(A|L) может содержать как точки из C+,так и из C−.

Теорема 3.19. Пусть A — J-самосопряженный оператор в Πκ иσнев(A) := λ1, . . . , λp, λ1, . . . , λp — его невещественный спектр,Im λj > 0, λj 6= λk при j 6= k, j, k = 1, p. Пусть точки µ1, . . . , µp ∈σнев(A) выбраны так, что µj 6= µk, j, k = 1, . . . , p. Тогда найдется κ-мерное неотрицательное инвариантное подпространство L оператораA : AL ⊂ L такое, что

σнев(A|L) = µjpj=1.

Доказательство. Напомним (см. стр. 49), что пространство Πκ до-пускает разложение (3.21) в J-ортогональную сумму инвариантныхотносительно A подпространств:

Πκ = (Lλ1(A) u Lλ1(A))[+] . . . [+]

70

[+](Lλp(A) u Lλp

(A))[+](I − Pσ)Πκ,

причем

(Lλj (A) u Lλj(A)) = Πκj , κj = dimLλj (A) = dimLλj

(A), j = 1, p,

(I − Pσ)Πκ = Πκ, κ = κ −p∑

j=1

κj .

По построению σ(A|(I − Pσ)Πκ) ⊂ R. Следовательно, по теореме3.16 у оператора A|(I−Pσ)Πκ, а потому и у оператора A, существуетв (I − Pσ)Πκ максимальное неотрицательное инвариантное подпро-странство L размерности κ и σ(A|L) ⊂ R.

Рассмотрим подпространство

L = Lµ1(A)[+] . . . [+]Lµp(A)[+]L,

являющееся J-ортогональной суммой подпространств, инвариант-ных относительно оператора A. Следовательно, подпространство Lтакже инвариантно относительно этого оператора. Из нейтральностиподпространств Lµj

(A), j = 1, p, и неотрицательности L заключаем,что и подпространство L неотрицательно. Так как

dimL =p∑

j=1

Lµj(A) + dim L = κ,

то L — максимальное неотрицательное инвариантное подпростран-ство оператора A и по построению σнев(A|L) = µjpj=1.

Рассмотрим более сложные вопросы из теории инвариантныхподпространств в пространстве Понтрягина. Сперва введем необхо-димые понятия.

Определение 3.9. Пусть L+ и L− — неотрицательное и неположи-тельное подпространство, соответственно. Если они J-ортогональныдруг другу, то пара L+,L− называется дуальной парой подпро-странств.

Пусть L+ > 0, L− 6 0. Тогда

L+ = x+ + Kx+ : x+ ∈ P+L+, L− = Qx− + x− : x− ∈ P−L−,

71

где K и Q — соответствующие угловые операторы этих подпро-странств. Выясним, при каких условиях подпространства L+ и L−являются J-ортогональными. Имеем

0 = [x+ + Kx+, Qx− + x−] = (x+, Qx−)− (Kx+, x−),

x+ ∈ P+L+, x− ∈ P−L−.

Отсюда следует, что

L+[⊥]L− ⇐⇒ (Kx+, x−) = (x+, Qx−),

∀x+ ∈ P+L+, ∀x− ∈ P−L−. (3.47)

Определение 3.10. Скажем, что дуальная пара L(1)+ ,L(1)

− явля-ется расширением дуальной пары L+,L−, (или вторая являетсясужением первой), если L+ ⊂ L(1)

+ , L− ⊂ L(1)− .

Символически это определение можно переписать так:

L+,L− ⊂ L(1)+ ,L(1)

− ⇐⇒ L+ ⊂ L(1)+ , L− ⊂ L(1)

− . (3.48)

Пусть K, Q — угловые операторы подпространств L+, L−, аK1, Q1 — угловые операторы подпространств L(1)

+ , L(1)− . Тогда со-

отношение (3.48) можно переписать в следующем виде (проверить!):

L+,L− ⊂ L(1)+ ,L(1)

− ⇐⇒ K ⊂ K1, Q ⊂ Q1. (3.49)

Определение 3.11. Дуальная пара L+,L− называется мак-симальной дуальной парой, если не существует дуальной парыL(1)

+ ,L(1)− , являющейся ее расширением и с ней не совпадающей:

L+,L− ⊂ L(1)+ ,L(1)

− =⇒ L+,L− = L(1)+ ,L(1)

− .

Рассуждая аналогично тому, как мы делали на стр. 56 относи-тельно максимальных семидефинитных подпространств, можно по-казать, что каждая дуальная пара допускает расширение до мак-симальной дуальной пары. Наша ближайшая цель — описать мак-симальные дуальные пары. Следующая ниже теорема 3.20, в частиэквивалентности (i) ⇐⇒ (ii) принадлежащая Р.С. Филлипсу, даетполный ответ на вопрос, какие дуальные пары максимальны.

Теорема 3.20. Пусть L+,L− — дуальная пара. Тогда следующиеусловия эквивалентны:

72

(i) L+ ∈ M+, L− ∈ M−, т.е. L+, и L− — максимальное неотри-цательное и максимальное неположительное подпространство,соответственно.

(ii) L+,L− — максимальная дуальная пара.

(iii) L0 := L+ ∩ L− = (L+ + L−)[⊥].

Доказательство. (i) =⇒ (ii) следует из определения максималь-ности дуальной пары (см. (3.48)).

(ii) =⇒ (iii). Поскольку L+ — неотрицательное, а L− — непо-ложительное подпространства, то справедливо включение (3.33). Впредположении (ii) допустим, что L0 6= (L++L−)[⊥]. Тогда найдетсяненулевой вектор x0 ∈ (L+ +L−)[⊥] \L0. Этот вектор не может бытьдефинитным, в противном случае дуальная пара л.о.L+, x0,L−была бы расширением дуальной пары L+,L−, если x0 — поло-жительный вектор, или дуальная пара L+,л.о.L−, x0 была бырасширением дуальной пары L+,L−, если x0 — отрицательныйвектор. Но x0 не может быть и нейтральным, поскольку он по пред-положению не входит хотя бы в одно из подпространств L+ и L−,а потому дуальная пара л.о.L+, x0,л.о.L−, x0 — расширениедуальной пары L+,L− с ней не совпадающее, что противоречитмаксимальности L+,L−.

(iii) =⇒ (i) доказано в более общем случае в теореме 3.12.

Следствие 3.4. Пусть K : dom K ⊂ Π+ → Π− и Q : dom Q ⊂ Π− →Π+ — сжатия, удовлетворяющие условию:

(Kx+, y−) = (x+, Qy−), ∀x ∈ dom K, y ∈ dom Q. (3.50)

Тогда найдется такое расширение K ∈ K+ оператора K, что K∗ —расширение оператора Q.

Доказательство. Рассмотрим неотрицательное L+ и неположи-тельное L− подпространства:

L+ = x = x+ + Kx+ | x+ ∈ dom K,

L− = x = Qx− + x− | x− ∈ dom Q.

Их условия (3.50) следует, что подпространства L± образуют дуаль-ную пару. В силу теоремы 3.20 существует максимальная дуальная

73

пара L+, L−, являющаяся расширением для L+,L−. Пусть K иQ — угловые операторы подпространств L+ и L−, соответственно.Тогда K ⊂ K, Q ⊂ Q и из теоремы 3.11 следует, что Q = K∗.

Ниже будет доказан результат (теорема 3.21), являющийся вчасти инвариантности обобщением теоремы Понтрягина (теорема3.16). Прежде введем некоторые определения. Будем говорить, чтодуальная пара L+,L− инвариантна относительно оператора A, ес-ли AL± ⊂ L±. Говорят, что дуальная пара L+,L− является мак-симальной инвариантной дуальной парой, если она не допускаетнетривиальных расширений как инвариантная дуальная пара. Рас-суждая так же, как относительно существования максимальных се-мидефинитных подпространств (см. стр. 56), для максимальных ду-альных пар можно доказать (проверить!) с помощью леммы Цорнасуществование максимальной инвариантной дуальной пары. Отме-тим, что максимальная инвариантная дуальная пара не обязана бытьмаксимальной дуальной парой, инвариантной относительно операто-ра. Наша цель доказать, что для J-самосопряженного оператора этипонятия совпадают.

Лемма 3.3. Изотропная часть L0 подпространства L, инвариант-ного относительно J-самосопряженного оператора A, инвариантнаотносительно этого оператора: AL0 ⊂ L0.

Доказательство. В самом деле, если x ∈ L0, то из равенств

[Ax, y] = [x, Ay] = 0, ∀x ∈ L0, ∀y ∈ L

следует справедливость утверждения леммы.

Теорема 3.21. . Пусть A = Ac : Πκ → Πκ — J-самосопряженныйоператор, пусть L+,L− — дуальная пара, инвариантная относи-тельно A. Тогда существует максимальная дуальная пара L+, L−инвариантная относительно A и являющаяся расширением для ис-ходной дуальной пары:

L+[⊥]L− L± ∈M±, L± ⊃ L±, AL± ⊂ L±.

Доказательство. Без ограничения общности будем считать, чтоL+,L− — максимальная инвариантная дуальная пара и докажем,что она является инвариантной максимальной дуальной парой, т.е.L± ⊂M±.

74

Сперва проверим, что изотропные части подпространств L+ иL− совпадают. В силу леммы 3.3 изотропные части L+,0 и L−,0

подпространств L+ и L−, соответственно, инвариантны относитель-но оператора A. Следовательно, и их линейная оболочка L0 =л.о.L+,0,L−,0, являющаяся нейтральным подпространством, так-же инвариантна относительно этого оператора. Тогда дуальная параL+ + L0,L− + L0 инвариантна относительно A и является расши-рением для L+,L−. Поскольку L+,L− — максимальная инва-риантная дуальная пара, то L+ = L+ + L0, L− = L− + L0. От-сюда, L0 ⊂ L+ ∩ L−, что возможно только при условии равенстваL+,0 = L−,0 изотропных частей подпространств, входящих в дуаль-ную пару. Таким образом,

L0 = L+,0 = L−,0 = L+ ∩ L−.

Рассмотрим подпространство L := (L+ +L−)[⊥]. Согласно лемме3.1 подпространство L инвариантно относительно оператора A. Всилу леммы 2.4 имеем L+ + L− = (L+ + L−)[⊥][⊥] и потому L0 —изотропная часть как для L+ + L−, так и для L. Воспользуемсяследствием 2.3 и разложим подпространство L в прямую сумму:

L = L0[u]L(1),

где L(1) — невырожденное подпространство, а потому из следствия2.1 — пространство Понтрягина Πκ1 := L(1) с κ1 ≤ κ положительны-ми квадратами. Докажем, что Πκ1 = 0. В самом деле, пусть P —проектор из L на Πκ1 , соответствующий разложению: L = L0[u]Πκ1 ,B := PA|Πκ1 . Поскольку для произвольных векторов x, y ∈ Πκ1 , сучетом изотропности L0, имеет место цепочка равенств:

[Bx, y] = [PAx, y] = [Ax, y] = [x, Ay] = [x, PAy] = [x,By],

то B — самосопряженный оператор в Πκ1 . Сперва предположим, чтоκ1 6= 0. В этом случае из теоремы 3.16 следует, что у оператора Bсуществует κ1-мерное неотрицательное инвариантное подпростран-ство L+,1. Рассмотрим подпространство L+[+]L+,1. По построениюоно неотрицательно и J-ортогонально L−. Более того, оно инвари-антно относительно оператора A. В самом деле, пусть x = x1 + x2 ∈L+[+]L+,1, где x1 ∈ L+, x2 ∈ L+,1. Отсюда, учитывая, что L и L+

инвариантны относительно оператора A, (I − P )L = L0 ⊂ L+ и под-

75

пространство L+,1 инвариантно относительно B, получим:

Ax = Ax1 + Ax2 = Ax1 + (I − P )Ax2 + PAx2 =

= Ax1 + (I − P )Ax2 + Bx2 = y1 + y2 ∈ L+[+]L+,1

поскольку y1 = Ax1 + (I − P )Ax2 ∈ L+, y2 = Bx2 ∈ L+,1.

(3.51)

т.е. подпространство L+[+]L+,1 инвариантно относительно операто-ра A. Но тогда дуальная пара L+[+]L+,1,L− инвариантна отно-сительно A и является нетривиальным расширение дуальной парыL+,L−, являющейся по условию максимальной инвариантной от-носительно A — противоречие, показывающее, что κ1 = 0. Таким об-разом, либо Πκ1 = 0, либо Πκ1 — отрицательное подпространство.Последнее невозможно по аналогичной аргументации как и выше:дуальная пара L+,L−[+]Πκ1 инвариантна относительно A и яв-ляется нетривиальным расширение дуальной пары L+,L−, явля-ющейся по условию максимальной инвариантной относительно A —противоречие. Итак, Πκ1 = 0, или, что эквивалентно,

L0 = (L+[+]L−)[⊥].

Для заключения L± ∈M± остается воспользоваться теоремой 3.12,учитывая, что codim (L+[+]L−) = dim (L+[+]L−)[⊥].

В следующей ниже теореме 3.22 мы остановимся на свой-ствах операторов специального класса, а именно, на свойствах J-неотрицательных операторов.

Определение 3.12. Будем говорить, что оператор A является J-

неотрицательным, и обозначать кратко AJ> 0, если [Ax, x] > 0, ∀x ∈

Πκ. Соответственно назовем A оператором J-положительным, AJ>

0, если [Ax, x] > 0, ∀x 6= 0.

Отметим, что J-неотрицательный оператор является J-самосопряженным и потому по теореме 3.7 его невещественныйспектр состоит из не более, чем κ пар нормальных собствен-ных значений, которым соответствуют нейтральные собственныевекторы. Однако это общее положение можно уточнить дляJ-неотрицательных операторов.

76

Теорема 3.22. Пусть A — J-неотрицательный оператор в Πκ. Тогда:

(i) Собственные векторы x, соответствующие собственным значе-ниям 0 6= λ ∈ σp(A) дефинитны, более того, λ[x, x] > 0.

(ii) σ(A) ⊂ R.

(iii) Если Ax = λx, λ 6= 0, то у собственного вектора x нет присо-единенных векторов.

(iv) Положительный спектр оператора A состоит из не более, чем κ(с учетом кратности) нормальных собственных значений. ЕслиA — J-положительный оператор, то его положительный спектрсостоит ровно (с учетом кратности) из κ нормальных значений.

(v) J-неотрицательный оператор A имеет инвариантную макси-мальную дуальную пару L+,L− и при этом σ(A|L+) ⊂ [0,∞)и σ(A|L−) ⊂ (−∞, 0].

Доказательство. (i). Пусть x0 — собственный вектор операто-ра A, отвечающий собственному значению λ и [x0, x0] = 0. Нашацель доказать, что λ = 0. Предположим противное: λ 6= 0. Тогда

[Ax0, x0] = λ[x0, x0] = 0. Поскольку по условию леммы AJ> 0, т.е.

[Ax, x] > 0, ∀x ∈ Πκ, то к полуторалинейной форме [Ax, y] примени-мо неравенство Коши-Буняковского

|[Ax, y]|2 ≤ [Ax, x][Ay, y].

Так как [Ax0, x0] = 0, то λ[x0, x0] = [Ax0, y] = 0 при всех y ∈ Πκ,т.е., поскольку λ 6= 0, x0 — изотропный вектор в Πκ. Но тогда поаксиоме (i) определения 2.3 пространства Πκ получаем, что x0 = 0— противоречие, показывающее, что λ = 0.

Таким образом, если x — собственный вектор оператора A, соот-ветствующее собственному значению λ 6= 0, то [Ax, x] = λ[x, x] 6= 0.Так как A — J-неотрицательный оператор, то отсюда имеемλ[x, x] > 0.

(ii). Согласно теореме 3.7 невещественный спектр J-самосопряженного оператора может состоять самое большее изконечного числа нормальных собственных значений, которымсоответствуют нейтральные собственные векторы. Поскольку в силу(i) нейтральные собственные векторы отвечают только нулевому

77

собственному значению, то σ(A) ⊂ R.

(iii). Предположим, что собственному значению λ отвечаетнетривиальная жорданова цепочка x0, x1, . . . , xp, p ≥ 1. Тогдасогласно (3.22) вектор x0 нейтрален. В силу (i) имеем λ = 0.

(iv). Представим оператор A в матричной форме относительноканонического разложения Πκ = Π+[+]Π− :

A =(

A11 A12

A21 A22

)=

(0 00 A22

)+

(A11 A12

A21 0

)=: A1 + A2.

По условию AJ> 0. Следовательно, при произвольном x = x+ + x−

имеем:

(A1x, x) = (A22x−, x−) = −(−P−Ax−, x−) = −[Ax−, x−] ≤ 0.

Таким образом, J-неотрицательный оператор A есть возмущениенеположительного оператора конечномерным, а потому компакт-ным, оператором A2. Так как открытое связное множество C \(−∞, 0] ⊂ ρ(A1) и точки λ > ‖A‖ принадлежат резольвентному мно-жеству ρ(A) оператора A, то по теореме И.Ц. Гохберга (теорема 3.6)получаем, что множество C \ (−∞, 0] состоит из нормальных соб-ственных значений и регулярных точек оператора A. Поскольку уоператора A нет невещественных собственных значений, то во мно-жестве C \ (−∞, 0] могут быть только положительные собственныезначения. Таким образом, положительная полуось состоит из регу-лярных точек и нормальных собственных значений оператора A. Всилу (ii) корневые линеалы оператора A, соответствующие положи-тельным собственным значениям λ, совпадают с ядрами ker(A−λI).Так как согласно следствию 3.1 эти ядра попарно ортогональны, асогласно (i) они положительны, то л.о.ker(A − λI) | λ > 0 поло-жительна. Остается воспользоваться аксиомой (iii) определения 2.3пространства Понтрягина и получить, что л.о.ker(A−λI) | λ > 0 ≤κ.

Если же оператор A является J-положительным, то у него нуле-вое ядро и потому κ-мерное неотрицательное инвариантное подпро-странство, существующее у A по теореме Понтрягина (теорема 3.16),состоит из линейной оболочки ядер операторов A − λI при λ > 0.Таким образом, dim л.о.ker(A− λI) | λ > 0 = κ.

78

(v). Пусть L+,L− — инвариантная относительно A макси-мальная дуальная пара. Так как подпространство L+ конечномер-но, то спектр σ(A|L+)состоит из собственных значений. В силу (i)этот спектр не может содержать отрицательные точки и потомуσ(A|L+) ⊂ [0,∞). Рассмотрим σ(A|L−). Это множество не содер-жит положительных собственных значений, иначе было бы противо-речие с (i). Поскольку множество C \ (−∞, 0] состоит из нормаль-ных точек оператора A, то остается один вариант — это множе-ство состоит из точек регулярного типа оператора A|L−. Однаковсе точки λ с |λ| > ‖A‖ — регулярные точки для A|L−. По теоремеКрасносельского-Крейна (теорема 3.3) имеем C \ (−∞, 0] ⊂ ρ(A|L−),а потому σ(A|L−) ⊂ (−∞, 0].

Далее мы будем исследовать вопрос о существовании общего ин-вариантного подпространства или даже инвариантной дуальной па-ры у семейства операторов. Для этого нам понадобится следующееопределение. Здесь и далее символом Ω с индексом и без будем обо-значать топологические множества.

Определение 3.13. Система топологических множеств Ωαα на-зывается центрированной, если любой конечный набор множествΩα1 , Ωα2 , . . ., Ωαn

имеет непустое пересечение:

∩nk=1Ωαk

6= ∅. (3.52)

Отметим следующий общий факт (теорема Тихонова): множе-ство Ω является компактом тогда и только тогда, когда любая егоцентрированная система замкнутых подмножеств имеет непустое пе-ресечение, т.е.

∀ Ωαα : Ωα ⊂ Ω, Ωα = Ωα, ∩nk=1Ωαk

6= ∅ =⇒ ∩αΩα 6= ∅.(3.53)

В качестве такого множества Ω в дальнейших рассуждениях бу-дут фигурировать операторные шары Ω = K± и их замкнутые под-множества.

Лемма 3.4. Множество угловых операторов, соответствующих мак-симальным неотрицательным и максимальным неположительныминвариантным подпространствам оператора A, образуют замкнутыев слабой операторной топологии множества в M+ и M−, соответ-ственно.

79

Доказательство. Проверим справедливость леммы для угловыхоператоров, соответствующих максимальным неотрицательным ин-вариантным подпространствам оператора A. Для угловых операто-ров, соответствующих максимальным неположительным инвариант-ным подпространствам оператора A, доказательство подобно.

Пусть Kn — угловые операторы максимальных неотрицательныхинвариантных подпространств оператора A. Тогда они удовлетво-ряют равенству (3.35):

KnA11 + KnA12Kn −A21 −A22Kn = 0.

Рассуждения, аналогичные проведенным ранее (см. стр. 62) показы-вают, что если Kn слабо сходятся к K0, то K0 — решение уравнения(3.35) и потому является угловым оператором максимального неот-рицательного подпространства инвариантного относительно A.

Основным результатом этого раздела является сформулирован-ная и доказанная ниже теорема Наймарка (теорема 3.23). Преждедокажем несколько вспомогательных предложений, каждое из кото-рых, впрочем, имеет самостоятельный интерес, и напомним некото-рые определения.

Определение 3.14. Говорят, что операторы A и B коммутируют,если они перестановочны: AB = BA.

Лемма 3.5. Пусть E — m-мерное пространство, а Aα — семействокоммутирующих операторов. Тогда существует элемент x0 ∈ E , x0 6=0, являющийся собственным вектором всех операторов семейства:Aαx0 = λαx0, ∀α.

Доказательство. Воспользуемся индукцией по размерности про-странства m. Если dim E = 1, то в качестве x0 6= 0 можно взятьлюбой элемент из E , так как в этом случае каждый из операторов —умножение на константу.

Пусть утверждение леммы доказано для пространства E сdim E < m. Докажем, что оно верно также и для случая dim E = m.Заметим сначала, что если операторы Aα пропорциональны единич-ному, т.е. Aα = λαI, то, как и в случае dim E = 1, в качестве x0 6= 0можно взять любой элемент из E .

Пусть существует оператор Aα0 , который не является операто-ром умножения на константу и пусть λ0 — его собственное значение.

80

Тогда его ядро ker(Aα0 − λ0I) — инвариантное подпространство длявсех операторов семейства:

(Aα0 − λ0I)Aαx = Aα(Aα0 − λ0I)x = 0, ∀x ∈ ker(Aα0 − λ0I),

и dim ker(Aα0 − λ0I) < m.Рассмотрим операторы Aα| ker(Aα0 −λ0I), являющиеся сужения-

ми операторов Aα на ker(Aα0−λ0I). Так как dim ker(Aα0−λ0I) < m,то, по предположению индукции, найдется элемент x0 6= 0, x0 ∈ker(Aα0−λ0I), являющийся общим собственным элементом для всехоператоров Aα| ker(Aα0 − λ0I), а потому и для операторов Aα.

Лемма 3.6. У любого конечного множества Aknk=1 коммутатиру-ющих J-самосопряженных операторов существует общий неотрица-тельный собственный вектор.

Доказательство. Вновь, как и при доказательстве леммы 3.5, ис-пользуем метод математической индукции, но на этот раз по количе-ству операторов. Если n = 1, то по теореме Понтрягина (см. теорему3.16) существует максимальное неотрицательное инвариантное под-пространство L+ ⊂ Πκ. Сужение A1|L+ оператора A1 на это подпро-странство является κ-мерным оператором (ассоциируется с матри-цей размером κ×κ) и потому имеет ровно κ (с учетом кратностей)собственных значений и по крайней мере один собственный векторx0 6= 0, который является неотрицательным: x0 ∈ L+.

Пусть утверждение леммы доказано для n−1 операторов A1, . . .,An−1. Докажем, что оно справедливо и для n операторов. У опера-тора An, как отмечалось выше, есть неотрицательный собственныйвектор x0. Пусть λ0 — соответствующее собственное значение это-го оператора: Anx0 = λ0x0. Ядро оператора An − λ0I инвариантноотносительно операторов Aj , j = 1, n− 1 и содержит хотя бы одиннеотрицательный вектор. Рассмотрим 2 случая:

(a) Ln := ker(An − λ0I) — вырожденное подпространство;(b) Ln — невырожденное подпространство.Если Ln вырождено, то его изотропная часть L0

n = Ln ∩ L[⊥]n

нетривиальна, конечномерна и в силу леммы 3.3 инвариантна отно-сительно всех операторов Aj , j = 1, n− 1. По лемме 3.5 операторыBj := Aj |Ln, j = 1, n, а потому и Aj , j = 1, n, имеют общий соб-ственный вектор, который в данном случае будет нейтральным.

Пусть Ln — невырожденное подпространство. Тогда оно явля-ется пространством Понтрягина с κ1 : 0 < κ1 ≤ κ, положи-тельными квадратами. По предположению индукции, операторы Bj ,

81

j = 1, n− 1, имеют в Ln общий неотрицательный собственный век-тор. Но по построению, этот вектор является собственным и дляBn = λ0I. Следовательно, операторы Bj , j = 1, n, а потому и Aj ,j = 1, n, имеют общий неотрицательный собственный вектор.

Продолжим формулировку и доказательство вспомогательныхутверждений, предшествующих доказательству теоремы Наймарка.

Лемма 3.7. Пусть L+,L− — максимальная инвариантная дуаль-ная пара для каждого оператора семейства Ajnj=1 коммутирующихJ-самосопряженных операторов, действующих в Πκ.

Тогда L+ и L− являются максимальным неотрицательным и мак-симальным неположительным подпространствами, соответственно:L± ∈M±.

Доказательство. В своих рассуждениях мы будем следовать дока-зательству теоремы 3.21, порой повторяя целые куски с чуть изме-ненной аргументацией.

Поскольку L+,L− — максимальная инвариантная дуальная па-ра для каждого оператора семейства, то также как и на стр. 75,имеем:

L0 = L+,0 = L−,0 = L+ ∩ L−,

где L0 = л.о.L+,0,L−,0, а L+,0 и L−,0 — изотропные части подпро-странств L+ и L−, соответственно.

Рассмотрим подпространство L := (L+ +L−)[⊥]. Согласно лемме3.1 подпространство L инвариантно относительно каждого из опера-торов Aj , j = 1, n. В силу леммы 2.4 имеем L++L− = (L++L−)[⊥][⊥]

и потому L0 — изотропная часть как для L+ +L−, так и для L. Вос-пользуемся следствием 2.3 и разложим подпространство L в прямуюсумму:

L = L0[u]L(1),

где L(1) — невырожденное подпространство, а потому из следствия2.1 — пространство Понтрягина Πκ1 := L(1) с κ1 ≤ κ положительны-ми квадратами. Докажем, что Πκ1 = 0. В самом деле, пусть P —проектор из L на Πκ1 , соответствующий разложению: L = L0[u]Πκ1 ,Bj := PAj |Πκ1 . Поскольку для произвольных векторов x, y ∈ Πκ1 , сучетом изотропности L0, имеет место цепочка равенств:

[Bjx, y] = [PAjx, y] = [Ajx, y] = [x,Ajy] = [x, PAjy] = [x,Bjy],

то Bj , j = 1, n, — самосопряженный оператор в Πκ1 . Сперва пред-положим, что κ1 6= 0. В этом случае из леммы 3.6 следует, что у

82

оператора Bj , j = 1, n, существует общий неотрицательный соб-ственный вектор x0 и потому, положив L+,1 := л.о.x0, получим,что L+[+]L+,1 — их общее неотрицательное инвариантное подпро-странство (см. (3.51)). Но тогда дуальная пара L+[+]L+,1,L− ин-вариантна относительно каждого Aj , j = 1, n, и является нетриви-альным расширение дуальной пары L+,L−, являющейся по усло-вию максимальной инвариантной относительно семейства Ajnj=1

— противоречие, показывающее, что κ1 = 0. Таким образом, либоΠκ1 = 0, либо Πκ2 — отрицательное подпространство. Последнееневозможно по аналогичной аргументации как и выше: дуальная па-ра L+,L−[+]Πκ1 инвариантна относительно каждого Aj , j = 1, n,и является нетривиальным расширение дуальной пары L+,L−,являющейся по условию максимальной инвариантной относительновсего семейства — противоречие. Итак, Πκ1 = 0, или, что эквива-лентно,

L0 = (L+[+]L−)[⊥].

Для заключения L± ∈M± остается воспользоваться теоремой 3.12,учитывая, что codim (L+[+]L−) = dim (L+[+]L−)[⊥].

Пусть далее A := A — коммутативное семейство J-самосопряженных операторов: A = Ac, A1A2 = A2A1 для любыхA, A1, A2 ∈ A. Пусть L+,L− — инвариантная дуальная пара длясемейства A: AL± ⊂ L± при любом A ∈ A. Обозначим через K уг-ловой оператор неотрицательного подпространства L+, а через Q —угловой оператор неположительного подпространства L−:

L+ = x+ + Kx+ : x+ ∈ P+L+ L− = Qx− + x− : x− ∈ P−L−.

Пусть L+, L− — максимальная дуальная пара: L± ∈M±, инвари-антная относительно оператора A и являющаяся расширением ис-ходной инвариантной дуальной пары L+,L−. Пусть K и Q — уг-ловые операторы подпространств L+ и L−, соответственно. Тогда(см. следствие 3.4) K ⊂ K, Q ⊂ Q, Q = K∗ и K удовлетворяетуравнению (3.35):

KA11 + KA12K + A∗12 −A22K = 0.

Множество всех таких операторов K обозначим ΩA(K, Q):

ΩA(K, Q) := K ∈ K+ | K ⊂ K,

Q ⊂ K∗, KA11 + KA12K + A∗12 −A22K = 0.

(3.54)

83

Отметим, что в силу теоремы 3.21 множество ΩA(K, Q) 6= ∅. Болеетого, если перефразировать лемму 3.7, то получим:

Лемма 3.7(1). Пусть L+,L− — дуальная пара инвариантная от-носительно конечного семейства Ajnj=1 коммутирующих самосо-пряженных операторов, пусть K и Q — угловые операторы подпро-странств L+ и L−, соответственно.

Тогда пересечение

n⋂j=1

ΩAj (K, Q) 6= ∅. (3.55)

Лемма 3.8. Множество ΩA(K, Q) замкнуто в слабой операторнойтопологии.

Доказательство. Пусть Kn ∈ ΩA(K, Q) и Kn сходится к K0 в сла-бой операторной топологии. Проверим, что K0 ∈ ΩA(K, Q).

Из леммы 3.4 следует, что K0 — угловой оператор максимально-го неотрицательного подпространства, инвариантного относительнооператора A, а потому он удовлетворяет уравнению (3.35). Остаетсяпроверить, что K ⊂ K0 и Q ⊂ K∗

0 . Первое из этих включений выте-кает из того, что при x+ ∈ dom K и произвольном y ∈ Π− имеем

(Kx+, y−) = (Knx+, y−)→ (K0x+, y−) = (Kx+, y−).

Второе включение следует из того, что оно эквивалентно равенству(K0x+, y−) = (x+, Qy−) при всех x+ ∈ Π+ и y− ∈ dom Q, а последнееследует из равенств (Knx+, y−) = (x+, Qy−) при всех x+ ∈ Π+ иy− ∈ dom Q.

Следующий результат показывает, что результат, аналогичныйлемме 3.7, верен для произвольного семейства коммутирующих опе-раторов.

Лемма 3.9. Пусть L+,L− — дуальная пара, инвариантная от-носительно семейства A = A коммутирующих самосопряженныхоператоров, пусть K и Q — угловые операторы подпространств L+

и L−, соответственно.Тогда пересечение ⋂

A∈A

ΩA(K, Q) 6= ∅, (3.56)

84

т.е. найдется оператор K0 : K0 ∈⋂

A∈A ΩA(K, Q) такой, что макси-мальная дуальная пара

L+, L− : L+ = x = x+ + K0x+ | x+ ∈ Π+

L− = x = K∗0x− + x− | x− ∈ Π−,

инвариантна относительно каждого оператора A ∈ A и является рас-ширением L+,L−.

Доказательство. Рассмотрим систему ΩA(K, Q)A∈A множествΩA(K, Q) ⊂ K+. По лемме 3.8 множества ΩA(K, Q) замкнуты вслабой операторной топологии. В силу леммы 3.7(1) множествоΩA(K, Q)A∈A центрировано, т.е. каждый конечный набор подмно-жеств имеет непустое пересечение. Для доказательства леммы оста-ется воспользоваться компактностью K+ и теоремой Тихонова (см.(3.53)).

Определение 3.15. Оператор A называется J-нормальным, еслион коммутирует со своим J-сопряженным, или, что то же:

[Ax, Ay] = [Acx, Acy], ∀x, y ∈ Πκ.

Теорема 3.23 (М.А. Наймарк). Пусть A = A — множество ком-мутирующих J-нормальных операторов, действующих в Πκ, облада-ющее тем свойством, что если A ∈ A, то и Ac ∈ A. Пусть L+,L−— дуальная пара, инвариантная относительно A:

AL± ⊂ L±, что означает AL± ⊂ L±, ∀A ∈ A.

Тогда существует максимальная дуальная пара подпространствL+, L−, инвариантная относительно A и являющаяся расширени-ем исходной дуальной пары:

L± ∈M±, AL± ⊂ L±, L± ⊂ L±.

Доказательство. Введем для J-нормального оператора A множе-ство ΩA(K, Q) согласно определению (3.54). Тогда утверждение тео-ремы Наймарка о существовании максимальной дуальной парыL+, L− для всего множества A J-нормальных операторов равно-сильно тому, что выполнено условие (3.56):⋂

A∈A

ΩA(K, Q) 6= ∅.

85

Докажем это утверждение.Представим любой J-нормальный оператор A ∈ A в виде

A =12(A + Ac) + i

A−Ac

2i= AR + iAI , (3.57)

где AR — вещественная часть A, а AI — соответственно мнимая частьоператора A.

Предоставляем читателю проверить следующие простейшиесвойства операторов AR и AI .

1. Операторы AR и AI J-самосопряженные: AR = AcR, AI = Ac

I .2. Операторы AR и AI коммутируют: ARAI = AIAR.3. Любое подпространство инвариантно относительно A и Ac

одновременно тогда и только тогда, когда оно инвариантно одновре-менно относительно AR и AI .

Последнее свойство позволяет в условиях теоремы множествоJ-нормальных операторов A = A заменить на множество J-самосопряженных операторов:

A = AR | A ∈ A⋃AI | A ∈ A

и для завершения доказательства остается воспользоваться леммой3.9.

Приведем некоторые приложения этой теоремы.

Определение 3.16. Непрерывный линейный оператор U называет-ся J-унитарным, если

[Ux, Uy] = [x, y], ∀x, y ∈ Πκ и UΠκ = Πκ. (3.58)

Упражнение 3.8. Доказать, что выполнение условий (3.58) доста-точно, чтобы оператор U был J-унитарным, т.е. дополнительно ли-нейным и непрерывным оператором.

Из определения J-унитарного оператора U следует, что он обра-тим на всем пространстве и его обратный U−1 — также J-унитарныйоператор. Кроме того, из определения следует, что оператор U J-унитарен тогда и только тогда, когда выполнено условие:

U cU = UU c = I, или, что равносильно, U c = U−1. (3.59)

откуда следует, что J-унитарный оператор является J-нормальным.Поскольку вместе с оператором J-нормальным является и его J-сопряженный, то и обратный оператор U−1 также J-нормальный.

86

Теорема 3.24. . Пусть L+,L− — инвариантная дуальная параJ-унитарного оператора U , действующего в Πκ. Тогда существуетмаксимальная дуальная пара L+, L− также инвариантная относи-тельно U и являющаяся расширением для исходной инвариантнойдуальной пары.

Доказательство. Наша цель — свести доказательство к приме-нению теоремы Наймарка (теорема 3.23). Рассмотрим множествоU = Uk | k = 0,±1,±2 . . .. Множество U состоит из J-унитарных,а потому из J-нормальных операторов и содержит с каждым опера-тором Uk его J-сопряженный оператор U−k. Найдем дуальную паруL+,1,L−,1, являющуюся инвариантной относительно U и расшире-нием для L+,L−.

Поскольку L+ — конечномерное подпространство, то UL+ = L+

, а потому и для всех целых степеней имеем: UkL+ = L+. ПоложимL+,1 = L+.

Так как UL− ⊂ L−, то для натуральных k имеем:

L− ⊂ U−1L− ⊂ U−2L− . . . U−kL− . . . .

Из J-унитарности оператора U−1 следует, что каждое из подпро-странств U−kL− является неположительным, а потому неположи-тельным будет их объединение и его замыкание. Положим L−,1 =⋃

k∈N U−kL−. Поскольку

U⋃k∈N

U−kL− =⋃k∈N

U−k+1L− =⋃k∈N

U−kL−,

то и UL−,1 = L−,1, а потому это верно и для всех целых степенейоператора U , т.е. UL−,1 ⊂ L−,1.

Осталось проверить, что L+,1 J-ортогонально L−,1. Для этогодостаточно проверить, что L+ J-ортогонально

⋃k∈N U−kL− и затем

воспользоваться непрерывностью индефинитной метрики. Пусть x ∈L+, y ∈

⋃k∈N U−kL−, т.е. существует такое k ∈ N ∪ 0, что y =

U−kz, z ∈ L−. Но тогда, с учетом того, что Ukx ∈ L+ и L+,L− —дуальная пара, имеем:

[x, y] = [x, U−kz] = [Ukx, z] = 0.

Теперь к дуальной паре L+,1,L−,1 и коммутативному семействуU применим теорему Наймарка (теорема 3.23) и получим существо-вание искомой максимальной дуальной пары, которая, в частности,будет инвариантной и относительно оператора U .

87

Замечание 3.2. Способом, аналогичным приведенному при доказа-тельстве теоремы 3.24, можно дуальную пару L+,L−, инвариант-ную относительно любого семейства коммутирующих J-унитарныхоператоров, продолжить до максимальной дуальной пары, инвари-антной относительно этого семейства операторов.

Ниже, в теореме 3.27, доказанный выше результат для J-унитарных операторов будет использован для доказательствасуществования специальных κ-мерных неотрицательных инва-риантных подпространств у, вообще говоря, неограниченногоJ-самосопряженного оператора.

Доказанная теорема 3.24 говорит о возможности расширения ин-вариантной относительно J-унитарного оператора U дуальной парыдо максимальной дуальной пары, обладающей тем же свойством.В частности, если принять L± = 0, то эта теорема утверждаетсуществование максимальной дуальной пары, инвариантной от-носительно U . Однако, она ничего не говорит о спектре суженияоператора на эти инвариантные максимальные семидефинитныеподпространства. Ниже, в теореме 3.15, этот пробел будет ликвиди-рован даже в более общем случае J-несжимающих операторов.

Пусть задано каноническое разложение пространства Понтряги-на Πκ и канонические проекторы P±:

Πκ = Π+[⊕]Π−, P±Πκ = Π±.

Определение 3.17. Всюду заданный оператор V называется J-несжимающим, если

[V x, V x] > [x, x], ∀x ∈ Πκ. (3.60)

Пусть

V =

V11 V12

V21 V22

— матричное представление J-несжимающего оператора V . Рассмот-рим оператор:

P− + P+V =

V11 V12

0 I

.

88

Так как при x+ ∈ Π+ справедливы соотношения:

[V x+, V x+] = ‖V11x+‖2 − ‖V21x+‖2 ≥ [x+, x+] = ‖x+‖2,

то‖V11x+‖2 ≥ ‖V21x+‖2 + ‖x+‖2 ≥ ‖x+‖2,

а потому оператор V11 непрерывно обратим и обратный — операторсжатия, т.е. ‖V −1

11 ‖ ≤ 1. Отсюда следует, что оператор P− + P+V —обратим на всем пространстве и

(P− + P+V )−1 =

V −111 −V −1

11 V12

0 I

.

Следовательно, для J-несжимающего оператора V корректно опре-делено на всем пространстве преобразование Потапова–Гинзбурга:

T = (P+ + P−V )(P− + P+V )−1 =

V −111 −V −1

11 V12

V21V−111 V22 − V21V

−111 V12

.

Проверим, что оператор T — сжатие, т.е. (y, y) > (Ty, Ty) при любомy ∈ Πκ. В самом деле, представим y = (P− + P+V )x, а потому Ty =(P+ + P−V )x, и получим:

(y, y)− (Ty, Ty) = ((P− + P+V )x, (P− + P+V )x)−− ((P+ + P−V )x, (P+ + P−V )x)= [V x, V x]− [x, x] ≥ 0.

(3.61)

Из того, что T — сжатие, вытекает, что каждый из операторовV −1

11 V12, V21V−111 и V22 − V21V

−111 V12 — также сжатия. Поэтому V12

и V21 — ограниченные операторы, и

V =[V11 V12

V21 V22

]=

[0 00 V22 − V21V

−111 V12

]+

+[V11 V12

V21 V21V−111 V12

]=: V1 + V2,

(3.62)

где оператор V1 является сжатием, а V2 — компактный оператор, таккак все элементы этой матрицы — ограниченные конечномерные, апотому компактные операторы.

Их (3.62) вытекает, в частности, нижеследующая теоремаБродского-Иохвидова об ограниченности J-несжимающего операто-ра, доказанная ими в гораздо более общем случае.

89

Теорема 3.25 (М.Л. Бродский, И.С. Иохвидов). J-несжимающий оператор, действующий в Πκ, является непрерывнымоператором.

Отметим, что в определении J-унитарного оператора U можнобыло не требовать его непрерывности, она следует, как доказано вы-ше, из условия [Ux, Ux] = [x, x].

Определение 3.18. J-несжимающий оператор V называется рав-номерно J-несжимающим, если существует такое k > 0, что

[V x, V x] > [x, x] + k‖x‖2. (3.63)

Из равенств (3.61) следует, что V — равномерно J-несжимающийоператор тогда и только тогда, когда его преобразование Потапова–Гинзбурга T — равномерное сжатие, т.е. ‖T‖ < 1. Повторяя рассуж-дения, примененные при доказательстве (3.62), получим, что рав-номерно J-несжимающий оператор представим в виде суммы равно-мерного сжатия V1 и компактного оператора V2. Поэтому по теоремеГохберга (см. теорему 3.6) все точки λ с |λ| > 1 являются нормаль-ными точками, λ ∈ ρ(V ), т.е. они либо регулярные (λ ∈ ρ(V )), либоявляются нормальными собственными значениями (λ ∈ σp(V )).

Обозначим через T единичную окружность:

T = λ | |λ| = 1,

и докажем, λ ∈ T не могут быть собственными значениями равно-мерно J-несжимающего оператора V , т.е. T ⊂ ρ(V ). В самом деле,если V x = λx, |λ| = 1, то

[V x, V x] = |λ|2[x, x] = [x, x] > [x, x] + k‖x‖2.

Отсюда следует, что k‖x‖2 6 0, k > 0, и потому x = 0.Таким образом, доказана следующая лемма.

Лемма 3.10. Если V — равномерно J-несжимающий оператор, тоσ(V ) ∩ T = ∅.

Ниже нам понадобится преобразование Кэли–Неймана. Пусть λ 6=λ — регулярная точка оператора A. Тогда оператор V :

V = (A− λI)(A− λI)−1

90

называется преобразованием Кэли–Неймана оператора A. ОператорA:

A = (λV − λI)(V − I)−1

называется обратным преобразованием Кэли–Неймана оператора V .

Лемма 3.11. Пусть V — преобразование Кэли-Неймана оператораA в точке λ с Im λ > 0. Тогда:

(i) Оператор V является J-несжимающим тогда и только тогда,когда A — J-диссипативный оператор.

(ii) Оператор V является равномерно J-несжимающим тогдаи только тогда, когда A — ограниченный равномерно J-диссипативный оператор.

(iii) Оператор V является J-унитарным тогда и только тогда, когдаA — J-самосопряженный оператор.

Доказательство. Докажем (ii), остальные утверждения доказыва-ются по той же схеме.

Так как λ ∈ ρ(A), то произвольный вектор x ∈ Πκ можно пред-ставить в виде: x = (A− λI)y. Тогда V x = (A− λI)y и потому:

[V x, V x]− [x, x] = [(A− λI)y, (A− λI)y]− [(A− λI)y, (A− λI)y]

= 4 Im λ · Im[Ay, y].(3.64)

Предположим, что V — равномерно J-несжимающий оператор:[V x, V x] − [x, x] ≥ k‖x‖2. Тогда по лемме 3.10 имеем 1 ∈ ρ(V ) ипотому A = (λV − λI)(V − I)−1 — ограниченный оператор. Оста-лось показать, что A — равномерно J-диссипативный, т.е. существу-ет a > 0: Im[Ay, y] ≥ a‖y‖2. Из равенства x = (A − λ)y следуетнеравенство: ‖x‖ ≥ ‖y‖

‖(A−λI)−1‖ . Из (3.64) следует, что Im[Ay, y] ≥k

4 Im λ·‖(A−λI)−1‖2 ‖y‖2. Таким образом, A — ограниченный равномер-

но J-диссипативный оператор с a = k4 Im λ·‖(A−λI)−1‖2 .

Обратно, пусть A — ограниченный равномерно J-диссипативныйоператор: Im[Ay, y] ≥ a‖y|2. Тогда из (3.64) следует, что

[V x, V x]− [x, x] ≥ 4a Im λ‖y‖2 ≥ 4a Im λ

(‖A‖+ |λ|)2‖x‖2,

т.е. V — равномерно J-несжимающий оператор.

91

Следствием леммы 3.11 является следующее утверждение:

Лемма 3.12. У равномерно J-несжимающего оператора V суще-ствует κ-мерное положительное инвариантное подпространство L+

и максимальное отрицательное инвариантное подпространство L−.При этом:

λ ∈ σ(V |L+) =⇒ |λ| > 1, (3.65)

λ ∈ σ(V |L−) =⇒ |λ| < 1, (3.66)

Доказательство. Согласно лемме 3.10 точка 1 ∈ ρ(V ). Рассмотримоператор A, являющийся обратным преобразованием Кэли-Нейманадля оператора V :

A = (λV − λI)(V − I)−1.

Из леммы 3.11, (ii), следует, что A — ограниченный равномерноJ-диссипативный оператор. В силу теоремы 3.17 у оператора A су-ществуют κ-мерное положительное инвариантное подпространствоL+ := PσΠκ и максимальное отрицательное инвариантное подпро-странство L− := (I − Pσ)Πκ и при этом (см. (3.46))

Πκ = L+ + L−.

Относительно этого разложения, поскольку AL± ⊂ L±, оператор Aпредставим в виде диагональной матрицы:

A =

A+ 0

0 A−

,

где A± = A|L±. Следовательно, и преобразование Кэли-НейманаV = (A − λI)(A − λI)−1 этого оператора также представимо в видедиагональной матрицы:

V =

(A+ − λI)(A+ − λI)−1 0

0 (A− − λI)(A− − λI)−1 =

=

V+ 0

0 V−

.

Таким образом, L± — инвариантные подпространства оператора V ,а V± = V |L±.

Поскольку Im σ(A+) ≥ 0 и Im σ(A−) ≤ 0 (см. теорему 3.17), тоспектры V± удовлетворяют условиям (3.65) и (3.66).

92

Теорема 3.26. У любого J-несжимающего , в частности, J-унитарного, в Πκ оператора V существует κ-мерное неотрицательноеинвариантное подпространство L+ и максимальное неположитель-ное инвариантное подпространство L− такие, что

λ ∈ σ(V |L+) =⇒ |λ| ≥ 1,

λ ∈ σ(V |L−) =⇒ |λ| ≤ 1,

Доказательство. Пусть Πκ = Π+[⊕]Π− — каноническое разложе-ние пространства Понтрягина. Представим оператор V в матричномвиде относительно этого разложения:

V =

V11 V12

V21 V22

и введем в рассмотрение операторы Vε = V Iε, где Iε — диагональныйоператор: Iε = diag

√1 + ε I;

√1− ε I, 0 < ε < 1. Проверим, что

операторы Vε являются равномерно J-несжимающими:

[Vεx, Vεx]− [x, x] = [V Iε, V Iε]− [x, x] ≥ [Iε, Iε]− [x, x] = ε‖x‖2.

Так как 1−√

1± ε→ 0 при ε→ 0, то ‖Iε − I‖ → 0. Отсюда

‖Vε − V ‖ ≤ ‖V ‖ ‖Iε − I‖ → 0, при ε→ 0.

Следовательно, операторы Vε сходятся к V в равномерной оператор-ной топологии. По лемме 3.12 у каждого из операторов Vε существуетκ-мерное положительное инвариантное подпространство L+,ε и мак-симальное отрицательное инвариантное подпространство L−,ε. Приэтом:

λ ∈ σ(Vε|L+,ε) =⇒ |λ| > 1,

λ ∈ σ(Vε|L−,ε) =⇒ |λ| < 1,

Остается применить теоремы 3.14 и 3.15, положив в первом случаеΩ = C \ D, а во втором — Ω = D, где D = λ | |λ| < 1.

Теперь мы готовы доказать в полном объеме теорему Понтря-гина, положившую начало теории инвариантных подпространств в

93

пространствах с индефинитной метрикой. Предварительно напом-ним, что все невещественные точки являются регулярными для гиль-бертова самосопряженного оператора (не обязательно ограниченно-го) A и для его резольвенты (A− λI)−1 справедлива оценка:

‖(A− λI)−1‖ ≤ 1| Im λ|

. (3.67)

Теорема 3.27 (Л.С. Понтрягин). Пусть A = Ac — вообще го-воря неограниченный оператор, действующий в пространстве Понт-рягина Πκ. Тогда у него существует κ-мерное неотрицательное ин-вариантное подпространство L+ ∈ M+: AL+ ⊂ L+ такое, чтоIm σ(A|L+) ≥ 0.

Доказательство. Прежде установим, что у J-самосопряженногооператора в Πκ есть хотя бы одна регулярная точка в C+. Согласнолемме 2.2 можно без ограничения общности считать, что канониче-ское разложение

Πκ = Π+[⊕]Π−

выбрано так, что Π+ ⊂ dom A. Тогда оператор A можно представитьв виде суммы A = −AJ + 2AP+ самосопряженного оператора A1 :=−AJ и конечномерного непрерывного A2 := 2AP+. Отсюда

A− λI = (A1 − λI) + A2 = (I + A2(A1 − λI)−1)(A1 − λI).

В силу (3.67) получаем, что λ ∈ ρ(A) при | Im λ| > ‖A2‖.Пусть λ ∈ ρ(A), Im λ > 0, и

V = (A− λI)(A− λI)−1 = I + 2i Im λ · (A− λI)−1 (3.68)

— преобразование Кэли–Неймана J-самосопряженного оператора A.Согласно лемме 3.11,(iii), оператор V унитарен. По теореме 3.18 уоператора V существует κ-мерное неотрицательное инвариантноеподпространство L+ такое, что

λ ∈ σ(V |L+) =⇒ |λ| ≥ 1.

Из (3.68) следует, что 1 6∈ σp(V ) и потому

A = (λV − λI)(V − I)−1 = λI + 2i Im λ · (V − I)−1.

Отсюда следует, что κ-мерное неотрицательное подпространство L+

инвариантно относительно A и операторы V+ := V |L+ и A+ := A|L+

связаны преобразованием Кэли–Неймана:

V+ = (A+ − λI)(A+ − λI)−1, A+ = (λV+ − λI)(V+ − I)−1.

94

Отсюда следует, что

λ0 ∈ σ(A+) ⇐⇒ µ0 =λ0 − λ

λ0 − λ∈ σ(V+).

Поскольку по условию σ(V+) ⊂ C \ D, то Im σ(A+) ≥ 0.

Замечание 3.3. Отметим, что исторически первой была доказанатеорема Понтрягина, затем И.С. Иохвидов (1949), применив преоб-разование Кэли–Неймана, доказал, что у J-унитарного операторав Πκ существует κ-мерное неотрицательное инвариантное подпро-странство. Мы же применили другую схему.

95

4 Полнота и базисность корневых векто-ров

В этой части курса будут рассмотрены важные для теории и ее при-ложений вопросы полноты и базисности системы собственных и при-соединенных (корневых) элементов J-самосопряженных операторов,действующих в Πκ.

Предварительно напомним некоторые определения.

Определение 4.1. Система элементов gj называется полной вгильбертовом пространстве H, если замыкание линейной оболочкиэтих элементов совпадает с H, т.е. з.л.о.gj = H. Это равносильнотому, что если для элемента x0 ∈ H выполнено условие (x0, gj) = 0для всех j, то x0 = 0.

Отметим, что для полной системы gj ⊂ H при любом x0 ∈H можно так подобрать линейную комбинацию xn =

∑nj=1 α

(n)j gj с

коэффициентами α(n)j , зависящими от n, что xn −→ x0 при n −→∞.

Определение 4.2. Система элементов ej ⊂ H называется бази-сом в пространстве H, если для любого элемента x0 ∈ H найдетсяединственная последовательность чисел αj такая, что

n∑j=1

αjgj −→ x0 (n −→∞)

⇐⇒ ‖x0 −n∑

j=1

αjgj‖ −→ 0 (n −→∞)

.

Упражнение 4.1. Пусть ej — ортонормированный базис в H.Доказать, что система элементов e1, e1 + e2, e2 + e3, . . . полна в H,но не является базисом. Более того, в этой системе можно выброситьлюбой ее элемент, и свойство полноты сохранится.

Пусть ej — ортонормированный базис в H, а T — непрерывныйи непрерывно обратимый оператор. Образуем систему gj = Tej.Такая система элементов также является базисом в H и называетсябазисом Рисса. Докажем следующую известную лемму, на которуюмы далее будем ссылаться.

96

Лемма 4.1. Система элементов gj ⊂ H является базисом Риссатогда и только тогда, когда в H существует эквивалентное скаляр-ное произведение (т.е. скалярное произведение, порождающее экви-валентную норму) такое, что в этом скалярном произведении gjявляется ортонормированным базисом.

Доказательство. Пусть gj — базис Рисса в H, т.е. gj = Tej ,j = 1, 2, . . ., оператор T ограничен и ограниченно обратим, а ej— ортонормированный базис в H.

Введем в H новое скалярное произведение:

(x, y)1 := (T−1x, T−1y), ∀x, y ∈ H. (4.1)

Тогда(gj , gk)1 = (Tej , T ek)1 = (ej , ek) = δjk, (4.2)

т.е. gj — ортонормированная система (и ортонормированный ба-зис) в новом скалярном произведении.

Поскольку T — непрерывный и непрерывно обратимый оператор,то

1‖T‖‖x‖ ≤ ‖x‖1(= ‖T−1x‖) 6 ‖T−1‖ · ‖x‖,

т.е. нормы ‖ · ‖ и ‖ · ‖1 эквивалентны.Докажем теперь, что если gj — ортонормированный базис в но-

вом скалярном произведении (·, ·)1, эквивалентном исходному (·, ·),то gj является базисом Рисса в H, т.е. существует такая ортонор-мированная система ej и такой непрерывный и непрерывно обра-тимый оператор T , что gj = Tej , j = 1,∞.

Так как скалярные произведения (·, ·) и (·, ·)1 эквивалентны,то, согласно известной из курса функционального анализа теоре-ме Лакса–Мильграма (ее доказательство основано на известной тео-реме Рисса об общем виде линейного функционала в гильбертовомпространстве), существует непрерывный равномерно положительнооператор S такой, что

(x, y)1 = (Sx, y) = (S1/2x, S1/2y). (4.3)

Так как gj — ортонормированный базис в скалярном произведении(4.1), то выполнены свойства (4.2) и из (4.3) имеем

(gj , gk)1 = (S1/2gj , S1/2gk) = δjk. (4.4)

97

Если теперь ввести векторы ej = S1/2gj , j = 1, 2, . . ., то

(ej , ek) = δjk, (4.5)

т.е. ej — ортонормированный базис в исходном скалярном произ-ведении. Положив T = S−1/2, получим

gj = Tej := S−1/2ej , j = 1, 2, . . . , (4.6)

где T — ограниченный и ограниченно обратимый оператор.

Перейдем теперь к рассмотрению вопросов базисности системыэлементов в пространстве Πκ.

Определение 4.3. Система элементов ej ⊂ Πκ называется J-ортонормированной, если

[ej , ek] =

0 если j 6= k;1 если j = k, ej > 0;−1 если j = k, ej < 0.

Докажем следующий аналог свойства ортонормированных си-стем в гильбертовом пространстве.

Лемма 4.2. Полная J-ортонормированная система элементов в Πκявляется базисом Рисса в этом пространстве.

Доказательство. Рассмотрим подпространства

L+ := л.о.ej : ej > 0, L− := з.л.о.ej : ej < 0, (4.7)

и введем линеал L+[+]L−. Так как dim L+ <∞, то

L+[+]L− = L+[+]L−,

т.е. L+[+]L− — подпространство. Поскольку по условию ej — пол-ная система, то линейными комбинациями элементов системы ejможно как угодно точно приблизить любой элемент из Πκ. Значит,

Πκ = L+[+]L−. (4.8)

При этом элементы ej > 0 образуют ортонормированный базис в L+

по отношению к скалярному произведению (·, ·) = [·, ·], а элементыej < 0 — соответственно ортогональный базис в L− по отношению к

98

скалярному произведению (·, ·) = −[·, ·]. Объединение всей совокуп-ности элементов ej образует ортогональный базис в Πκ по отно-шению к каноническому скалярному произведению

(x, y) = [x+, y+]− [x−, y−], x = x+ + x−,

y = y+ + y−, x±, y± ∈ L±,(4.9)

отвечающему разложению (4.8).Если в Πκ было задано другое эквивалентное скалярное произве-

дение, то, согласно лемме 4.1, система элементов ej будет базисомРисса в Πκ с заданным скалярным произведением.

Определение 4.4. Система элементов ej ⊂ Πκ называется почтиJ-ортонормированной, если ее можно представить как объединение

ej = fjmj=1 ∪ gj∞j=1 (4.10)

J-ортонормированной системы gj∞j=1 и системы fjmj=1, m ∈ N,состоящей из конечного набора линейно независимых элементов fj ,j = 1, . . . ,m, причем

[fj , gk] = 0, j = 1, . . . ,m; ∀k ∈ N. (4.11)

Теорема 4.1. Полная почти J-ортонормированная система являет-ся базисом Рисса в Πκ.

Доказательство. Введем подпространства

L: = л.о.fjmj=1, M := з.л.о.ej∞j=1, L[⊥]M. (4.12)

Так как dim L < ∞, то, как и при доказательстве леммы 4.2,имеем

L[+]M = L[+]M = Πκ. (4.13)

Тогда L иM — невырожденные подпространства пространства Πκ,и потому

L = Πκ1 , M = Πκ2 , κ1 + κ2 = κ. (4.14)

ПустьΠκ1 = Π+,1[⊕]Π−,1, Πκ2 = Π+,2[⊕]Π−,2 (4.15)

— соответствующие канонические разложения пространств Πκ1 иΠκ2 . Тогда

Πκ = (Π+,1[⊕]Π+,2)[⊕](Π−,1[⊕]Π−,2) =: Π+[⊕]Π− (4.16)

99

— каноническое разложение пространства Πκ. Ему отвечают проек-торы P+ и P−, оператор канонической симметрии J = P+ − P− иканоническое дефинитное скалярное произведение

(x, y) := [Jx, y]. (4.17)

Итак, имеем

Πκ = Π+[⊕]Π− = L[⊕]M = Πκ1 [⊕]Πκ2 . (4.18)

Так как элементы системы fjmj=1 линейно независимы, то они об-разуют базис в Πκ1 = L, так как L конечномерно: dim L = m. Какизвестно из линейной алгебры, в этом случае любой элемент x из Lможно разложить как по базису fjmj=1, так и по любому ортонор-мированному базису ejmj=1, причем

x =m∑

j=1

αjfj = T1

m∑j=1

αjej , (4.19)

где T1 : L −→ L — ограниченный и ограниченно обратимый опера-тор (матрица), связанный с переходом от ортонормированного бази-са ejmj=1 к базису fjmj=1. Из (4.19) следует, что

fj = T1ej , j = 1, . . . ,m. (4.20)

Далее, по построению система элементов gj∞j=1 является J –ортонормированной и полной в M = Πκ2 , поэтому, согласно тео-реме 4.1, она является базисом Рисса в M. Значит, найдется огра-ниченный и ограниченно обратимый оператор T2 : M −→ M иортонормированный базис ej∞j=m+1 ⊂ M такие, что gj−m = T2ej ,j = m + 1,m + 2, . . ..

По операторам T1 и T2 и ортонормированному разложению (4.18)пространства Πκ введем оператор T : Πκ −→ Πκ, действующий позакону

Tx = T (x1 + x2) = T1x1 + T2x2, x1 ∈ L, x2 ∈M. (4.21)

Тогда

Tej = T1ej = fj , j = 1, . . . ,m;Tej = T2ej = gj−m, j > m.

(4.22)

100

Так как здесь ej∞j=1 — J – ортонормированный базис в Πκ, а опе-ратор T по построению ограничен и ограниченно обратим, то полнаяпочти J – ортонормированная система элементов fjmj=1 ∪ gj∞j=1

является базисом Рисса в Πκ.

Цель дальнейших рассмотрений — исследовать вопрос о полнотеи базисности системы корневых векторов J-самосопряженного ком-пактного оператора, действующего в Πκ. Эта теорема обобщает соот-ветствующее утверждение для самосопряженного оператора в гиль-бертовом пространстве H, т.е. теорему Гильберта–Шмидта, котораягласит:

Теорема 4.2. Каков бы ни был компактный самосопряженный опе-ратор A, действующий в гильбертовом пространстве H, в этом про-странстве существует ортонормированный базис, состоящий из соб-ственных векторов оператора A.

Приведем простейшие примеры использования полных систем и

базисов при решении линейных уравнений в пространстве Πκ, либов обычном гильбертовом пространстве H.

Пусть задан оператор A : Πκ −→ Πκ и система gj∞j=1 егособственных векторов, которая, по условию, полна в Πκ. ПустьAjgj = λjgj , где λj — соответствующие собственные значения опе-ратора A.

Рассмотрим уравнение Ax = y, где y ∈ Πκ — заданный элемент.Если оператор A обратим, то x = A−1y. Как найти приближеннорешение x, используя полную систему собственных элементов опе-ратора A и его собственные значения? Приблизим элемент y после-довательностью элементов yn =

∑nk=1 β

(n)k gk и будем искать прибли-

женное решение x в виде xn =∑n

k=1 α(n)k gk. Тогда

Axn =n∑

k=1

α(n)k Agk =

n∑k=1

α(n)k λkgk = yn =

n∑k=1

β(n)k gk.

Отсюда получаем, что α(n)k = β

(n)k /λk, т.е.

xn =n∑

k=1

β(n)k

λkgk, (4.23)

где β(n)k — коэффициенты разложения элементов yn −→ y (n −→∞).

101

Возникает вопрос о том, когда при n −→∞ приближенное реше-ние сходится к точному. Если 0 ∈ σ(A), то либо λn могут стремитьсяк нулю при n −→∞, либо какие-то собственные значения равны ну-лю, т.е. в случае 0 ∈ σ(A) мы не можем гарантировать сходимостьвекторов xn к решению x.

Если 0 ∈ ρ(A), то |λn| > c > 0, и сходимость xn к решению есть.Если gj∞j=1 — базис, то x =

∑∞k=1 αkgk, y =

∑∞k=1 βkgk, и то-

гда αk = βk/λk, т.е. x =∑∞

k=1

βk

λkgk. Поэтому задача имеет решение

тогда и только тогда, когда формальное решение x принадлежитпространству. При 0 ∈ ρ(A) ряд

∑∞k=1 αkgk сходится, а при 0 ∈ σ(A)

сходимости может не быть. Если, в частности, λj = 0 при некоторомj, то необходимо, чтобы βj = 0. Это — необходимое условие разре-шимости задачи.

Если gj∞j=1 — ортонормированный базис, то формально выпи-санное решение x ∈ H тогда и только тогда, когда

∑∞k=1 |βk/λk|2 <

∞.Аналогичный подход с использованием собственных (корневых)

элементов оператора A, обладающих свойством полноты либо базис-ности, применим и к вопросам разрешимости задачи Коши

du

dt= Au + f(t), u(0) = u0, (4.24)

в гильбертовом либо банаховом пространстве.

Перейдем теперь к формулировке и доказательству центральнойспектральной теоремы данного курса лекций.

Теорема 4.3 (о полноте и базисности). Пусть J-самосопряженный оператор A : Πκ −→ Πκ компактен, и Lλ(A) —его корневые линеалы. Обозначим

E(A) := з.л.о.Lλ(A) | λ ∈ σp(A). (4.25)

Тогда:

1. Система корневых элементов оператора A полна тогда и толькотогда, когда подпространство L0(A) невырождено, т.е.

E(A) = Πκ ⇐⇒ L0(A) ∩ L0(A)[⊥] = 0. (4.26)

102

2. Если E(A) = Πκ, тоΠκ = Π′

κ[+]H, (4.27)

где Π′κ — пространство Понтрягина с тем же κ, dim Π′

κ < ∞,а H;−[·, ·] — гильбертово пространство. При этом Π′

κ и Hинвариантны относительно оператора A:

AΠ′κ ⊂ Π′

κ, AH ⊂ H. (4.28)

3. Если E(A) = Πκ, то в Πκ существует почти J-ортонормированный базис, составленный из жордановых це-почек оператора A.

Доказательство. 1. Сперва докажем, что E(A) — невырожденноеподпространство тогда и только тогда, когда L0(A) невырождено.

В самом деле, пусть L0(A) вырождено и x0 ∈ L0(A)∩L0(A)[⊥]. Всилу следствия 3.1 вектор x0 J-ортогонален всем корневым линеаламоператора A, a потому и E(A), т.е. x0 — изотропный вектор в E(A).

Пусть теперь подпространство E(A) вырождено и E(A)0 — егоизотропная часть. Поскольку dim E(A)0 ≤ κ и инвариантно относи-тельно A, то E(A)0 содержит собственный вектор y0 оператора A,отвечающий собственному значению λ0. Так как x0 — изотропныйвектор в E(A), то он будет изотропным и в Lλ0(A). Остается дока-зать, что λ0 = 0. Последнее следует из следствия 3.2 с учетом того,что все собственные значения компактного оператора, кроме нуля, —нормальные собственные значения и потому соответствующие кор-невые линеалы невырождены.

Для завершения доказательства пункта 1 достаточно показать,что E(A) = Πκ тогда и только тогда, когда E(A) невырождено. Всамом деле, если E(A) вырождено, то равенства быть не может.

Пусть E(A) невырождено. Тогда все пространство можно пред-ставить как J-ортогональную сумму инвариантных относительно Aподпространств E(A) и его J-ортогонального дополнения:

Πκ = E(A)[u]E(A)[⊥].

Поскольку E(A) содержит существующее в силу теоремы 3.16κ-мерное неотрицательное (инвариантное) подпространство и E(A)невырождено, то оно содержит κ-мерное положительное подпро-странство, что влечет отрицательность E(A)[⊥]. Следовательно,E(A)[⊥],−[·, ·] — гильбертово пространство. Из теоремы 4.2Гильберта–Шмидта следует, что самосопряженный компактный

103

оператор A|E(A)[⊥] имеет хотя бы один собственный вектор. Ноэто противоречит тому, что все собственные векторы оператора Aлежат в E(A) и это подпространство невырождено. Таким образом,единственный возможный вариант — E(A)[⊥] = 0, т.е. E(A) = Πκ.

2. Пусть L0 — изотропная часть ядра оператора A: L0 = kerA∩ker A[⊥]. Тогда ker A = L0 ⊕ L1, где L1 — невырожденное подпро-странство (см. следствие 3.2). Рассмотрим разложение

Πκ = L1[u]L[⊥]1 .

Подпространства L1, L[⊥]1 невырождены и потому являются про-

странствами Понтрягина (см. следствие 2.1) с κ0 и κ1 положитель-ными квадратами, соответственно, причем κ0 + κ1 = κ. ОбозначимA1 := A|L[⊥]

1 . По построению все корневые подпространства опера-тора A1 конечномерны и из невырожденности E(A) следует, что онии невырождены. В самом деле, для ненулевых собственных значенийконечномерность вытекает из того, что оператор A1 компактен.Что касается λ = 0, то здесь надо воспользоваться упражнением3.4 с учетом того, что ker A1 = L0 — конечномерное нейтральноеподпространство. В силу следствия 3.1 оператор A1 имеет конечноечисло собственных значений таких, что соответствующие корневыеподпространства содержат хотя бы один неотрицательный вектор.Обозначим через Π′

κ линейную оболочку таких подпространстви любого положительного κ0-мерного подпространства из L1. Попостроению, Π′

κ — конечномерное пространство Понтрягина сκ положительными квадратами, инвариантное относительно A.Следовательно, его J-ортогональное дополнение H — отрицательноеподпространство, также инвариантное относительно A.

3. Утверждение этого пункта прямо следует из (4.27) с учетомтого, что в конечномерном пространстве Π′

κ по любому операторуможно построить базис, состоящий из его жордановых цепочек (ос-новная теорема алгебры), а также надо использовать, что в гиль-бертовом пространствеH есть ортонормированный базис, состоящийиз собственных векторов самосопряженного компактного оператораA|H (теорема 4.2 Гильберта–Шмидта).

Следствием из теоремы 4.3 является следующее утверждение, до-казательство которого предоставляем читателю. Впрочем, оно прямо

104

следует из приведенных выше в доказательстве теоремы 4.3 постро-ений.

Теорема 4.4. Система собственных элементов компактного J-самосопряженного оператора A, действующего в Πκ, образует J-ортонормированный базис в Πκ, тогда и только тогда, когда выпол-нены следующие условия:

1. Невещественный спектр оператора A — пустое множество,

2. Для всех вещественных собственных значений µk 6= 0 выпол-нены свойства Lµk

(A) = ker(A− µkI).

3. Подпространство ker A невырождено.

105

5 Задача С.Г. Крейна

Обратим внимание на то, что индефинитная метрика может порож-дать пространство Понтрягина не только тогда, когда задано кано-ническое разложение. Пусть H — гильбертово пространство, T —самосопряженный ограниченный оператор. Введем в H индефинит-ную метрику [x, y] = (Tx, y). Предлагаем читателю самому доказатьследующее утверждение.

Теорема 5.1. Индефинитное пространство H, [x, y] = (Tx, y)является пространством Понтрягина с κ положительными(отрицательными) квадратами тогда и только тогда, когда вы-полнены следующие условия:

1. λ = 0 — регулярная точка оператора T : 0 ∈ ρ(T );

2. множество σ(T ) ∩ (0,∞) ((−∞, 0),соответственно) состоит изконечного числа κ собственных значений (с учетом кратности).

В частности, обратимые операторы вида T = I + S, где S — ком-пактный оператор: S ∈ S∞, порождают пространство Понтрягина сконечным числом отрицательных квадратов, а обратимые операто-ры вида T = −I + S, где S ∈ S∞, порождают пространство Понтря-гина с конечным числом положительных квадратов.

В качестве иллюстрации того, как могут быть применены теоре-мы 4.3 и 4.4, рассмотрим известную спектральную проблему С.Г.Крейна, связанную с задачей о нормальных колебаниях тяжелойвязкой жидкости в открытом сосуде. Такая задача возникла в1964 г. и породила многочисленные исследования как математиков–теоретиков, так и прикладников.

С использованием методов функционального анализа и уравне-ний в частных производных спектральная составляющая задачи онормальных колебаниях тяжелой вязкой жидкости в открытом со-суде приводится к изучению спектральной задачи

x = λPx + λ−1Qx, λ 6= 0, x ∈ H, (5.1)

в некотором гильбертовом пространстве H. Операторы P и Q в (5.1)обладают свойствами

0 < P = P ∗ ∈ S∞(H), 0 6 Q = Q∗ ∈ S∞(H). (5.2)

106

Введем в рассмотрение функцию по λ:

A(λ) = λP + λ−1Q, λ 6= 0,

принимающую значения во множестве компактных операторов. Бу-дем говорить, что точка λ0 — регулярная точка для A(λ), если1 ∈ ρ(A(λ0)). В противном случае, λ0 — точка спектра функцииA(λ). Число λ0 называется собственным для A(λ), с соответствую-щим собственным вектором x0, если

x0 = A(λ)x0 = λ0Px0 + λ−10 Qx0.

векторы x1, x2, . . . , xm называются присоединенными к собственномувектору x0, если выполнено следующее условие:

A(λ0)xk +11!

∂A(λ0)∂λ

xk−1 + · · ·+ 1k!

∂kA(λ0)∂λk

x0 = xk, k = 1,m.

Упорядоченное множество x0, x1, . . . , xm называется жордановойцепочкой функции A(λ), соответствующей собственному значениюλ0.

Образуем векторы специального типа:

Zk =

xk

k∑j=0

(−1)j

λj+10

xk−j .

(5.3)

Говорят, что система жордановых цепочек функции A(λ) дваждыполна (дважды базисна в H, если множество векторов специальноготипа полно в H×H (базисно в H×H, соответственно).

Таким образом, спектральная задача сводится к решению вопро-сов о полноте и о базисности векторов специального типа. Проблемаполноты была решена сначала С.Г. Крейном (1964), а затем в болееабстрактной форме в соавторстве с Н.К. Аскеровым и Г.И.Лаптевым(1968). Была произведена замена параметра:

µ = λ + λ−1

и в сдвоенном пространстве H×H построен оператор, обладающийполной системой корневых векторов и для которого векторы специ-ального типа образуют жордановы цепочки.

107

Что касается базисности векторов специального типа, то этапроблема была решена, по-видимому, независимо В.Г. Гринли (W.H.Greenlee) (1971) и Е.А. Ларионовым (1972), которые следовали идееАскерова–Крейна–Лаптева, но использовали чуть другую заменупараметра и нашли компактный J-самосопряженный оператор A,действующий в H2 := H × H, для которого векторы специальноготипа образуют жордановы цепочки, а корневой линеал в нулесовпадает с ядром оператора и дефинитен, а потому невырожден.Остается воспользоваться теоремой 4.3.

Более подробно об этом в следующей ниже теореме 5.3. Прежденапомним другую теорему Гохберга о компактных возмущениях.

Теорема 5.2 (И.Ц. Гохберг). Пусть T (λ) — аналитическая функ-ция, заданная на открытом множестве Ω ⊂ C и принимающая зна-чения во множестве компактных операторов. Если существует такоеλ0 ∈ Ω, что 1 ∈ ρ(T (λ0)), то 1 ∈ ρ(T (λ)) для всех λ ∈ Ω, за исклю-чением, быть может, счетного множества, сгущающегося к границемножества Ω.

Теорема 5.3. Если P и Q — самосопряженные компактные опера-торы:

P = P ∗ ∈ S∞(H), Q = Q∗ ∈ S∞(H),

действующие в гильбертовом пространстве H, A(λ) = λP +λ−1Q, тосистема жордановых цепочек функции A(λ) дважды базисна в H,т.е. в H2 существует базис Рисса, составленный из векторов специ-ального типа (5.3).

Доказательство. Для простоты изложения дополнительно пред-положим, что

±1 ∈ ρ(P + Q) (5.4)

Если это было бы не так, то можно было бы произвести заме-ну параметра λ = νa, a > 0, и перейти от операторов P , Q коператорам aP , 1

aQ с новым параметром ν. При этом a нужновыбрать так, чтобы ±1 ∈ ρ(A(a)). Такое положительное a су-ществует в силу теоремы Гохберга 5.2. В самом деле, для этогодостаточно положить T (λ) = A(λ), Ω = C\0 и λ0 = i: ±1 ∈ ρ(A(i)).

108

Перепишем уравнение (5.1) в следующих двух формах:

x = (λ− 1λ

)Px + (P + Q)(1λ

x),

1λ

x = (P + Q)x− (λ− 1λ

)Q(1λ

x).

После заменµ := λ− λ−1, y := λ−1x, (5.5)

приходим к системе уравнений, которая в векторно-матричной фор-ме принимает вид(

I −(P + Q)−(P + Q) I

) (xy

)= µ

(P 00 −Q

) (xy

). (5.6)

Введем в рассмотрение следующие матрицы и векторы в H2:

I :=(

I 00 I

), S := −

(0 P + Q

P + Q 0

),

A :=(

P 00 −Q

), z =

(xy

) (5.7)

и перепишем (5.6) в виде:

(I + S)z = µAz, (5.8)

где S и A — компактные самосопряженные операторы в H2, I —единичный оператор в H2. Из предположения (5.4) следует, что ядрооператора I+S тривиально, а поскольку S — компактный оператор,то I + S непрерывно обратим на всем H2. При этом, оператор

P := (I + S)−1 − I = −S(I + S)−1 ∈ S∞.

После замен

µ = ν−1, z = (I + S)−1v = (I + P)v, A = A(I + P), (5.9)

приходим к спектральной задаче

Av = νv, v ∈ H2, (5.10)

109

с компактным оператором A. Введем в рассмотрение индефинитнуюметрику:

[x, y] = ((I + P)x, y), x, y ∈ H2. (5.11)

Согласно теореме 5.1, пространство H2, [·, ·] — пространство Понт-рягина, а оператор A самосопряжен относительно индефинитнойметрики:

[Ax, y] = ((I + P)A(I + P)x, y) == ((I + P)x,A(I + P)y) = [x,Ay].

(5.12)

Так как A — компактный оператор, то система его корневых эле-ментов, согласно теореме 4.3, полна и базисна, если L0(A) = 0.

Докажем, что выполнено даже более сильное свойство, а именно,что корневой линеал оператора A в нуле совпадает с ядром этогооператора и это ядро положительно:

L0(A) = kerA > 0. (5.13)

Пусть v ∈ ker A, т.е. A(I + P)v = 0, v =∈ H2. Тогда

u := (I + P)v ∈ kerA =(

xy

):

x ∈ ker P,y ∈ ker Q

. (5.14)

Отсюда имеем

v = (I + P)−1u = (I + S)u =(

I −(P + Q)−(P + Q) I

) (xy

)=

=(

x− (P + Q)y−(P + Q)x + y

)=

(x− Py−Qx + y

), x ∈ ker P, y ∈ ker Q.

Убедимся, что элемент v положителен, т.е. [v, v] > 0.Действительно,

[v, v] = ((I + P)v, v)H2 =((I + P)(I + P)−1u, v

)H2 = (u, v)H2

=((

xy

),

(x− Py−Qx + y

))H2

= (x, x)− (x, Py) + (y,−Qx) + (y, y)

= (x, x) + (y, y) > 0,

так как P = P ∗, Q = Q∗ и x ∈ ker P , y ∈ ker Q.

110

Таким образом, свойство полноты и базисности системы корне-вых элементов задачи (5.10) доказано.

В связи с большой трудоемкостью мы опускаем доказательствотого, что в каждом корневом линеале Lν(A) существует базис, со-ставленный из жордановых цепочек векторов специального типа(5.3).

Если же функция A(λ) не имеет невещественных собственныхзначений, а вещественным собственным значениям отвечают лишьсобственные элементы (а присоединенные отсутствуют), то системасобственных элементов задачи (5.10), отвечающая всем веществен-ным собственным значениям, включая точку нуль, образует базис,ортонормированный относительно индефинитной метрики (5.11).

Отметим в заключение, что последняя ситуация реализуется вгидродинамической задаче (5.1) в случае, когда вязкость жидкостидостаточно велика или, что равносильно, операторы P и Q доста-точно малы по норме, например, если

4‖A‖ · ‖B‖ < 1. (5.15)

111

Список литературы[1] Азизов Т.Я., Иохвидов И.С. Основы теории линейных опера-

торов в пространствах с индефинитной метрикой. — М.: Нау-ка, 1986.

[2] Азизов Т.Я., Иохвидов И.С. Линейные операторы в простран-стве с индефинитной метрикой. Математический нализ // Ито-ги науки и техники, ВИНИТИ. Математический анализ, т. 17, —М.: Наука, 1979.

[3] Гинзбург, Иохвидов И.С. Исследования по геометрии бесконеч-номерных пространств. // УМН, т. 17, 4, 1962.

[4] Азизов Т.Я., Иохвидов И.С. Линейные операторы в гильберто-вом пространстве с G – метрикой. // УМН, т. 26, 4, 1971.

[5] Крейн М.Г. Введение в геометрию индефинитных J–пространств и теорию операторов в этих пространствах. IIлетняя математическая школа, т.1, Киев, 1965.

[6] Иохвидов И.С., Крейн М.Г. Спектральная теория операторов впространствах с индефинитной метрикой. Труды ММО, I, 1956,т.5; II, 1959, т.8.

[7] Iohvidov I.S., Krein M.G., Langer H. Introduction to the SpectralTheory of Operators in Spaces with an Indefinite Metric. Akademie-Verlag, Berlin, 1982.

112

Введение в теорию пространств Понтрягина

Специальный курс лекцийдля студентов-магистрантов специальности ”Математика”

Авторы:Азизов Томас Яковлевич,

Копачевский Николай Дмитриевич

Редактор:

Корректура и верстка: Газиев Э.Л.

———————————————————————————————-Подписано к печати 10.12.2008г. Формат 60х84/16.Бумага тип. ОП. Объем п.л. Тираж 100. Заказ –

———————————————————————————————-95007, г. Симферополь, пр. Академика Вернадского 4.Таврический национальный университет им. В.И. Вернадского

113