libcat.bas-net.bylibcat.bas-net.by/xfile/v_fizm/2014/1/k1nou2.pdf · 1. СЕРЫЯ...

1

СЕРЫЯ ФІЗІКА-МАТЭМАТЫЧНЫХ НАВУК 2014 № 1

СЕРИЯ ФИЗИКО-МАТЕМАТИЧЕСКИХ НАУК 2014 № 1

ЗАСНАВАЛЬНIК – НАЦЫЯНАЛЬНАЯ АКАДЭМIЯ НАВУК БЕЛАРУСI

Часопіс выдаецца са студзеня 1956 г.

Выходзіць чатыры разы ў год

ЗМЕСТ

МАТЭМАТЫКА

Янович Л. А., Гуло И. Н. О приближенном вычислении функций от процесса броуновского движения ... 5Чернов С. Ю., Харин А. Ю. О влиянии искажений в L1- и C-метриках на вероятности ошибок для после

довательного критерия отношения вероятностей ......................................................................................................... 11Айрян Э. А., Малютин В. Б. Вычисление матричнозначных функциональных интегралов с помощью

функциональных многочленов ......................................................................................................................................... 18Расолько Г. А. Приближенное решение интегрального уравнения первого рода с мультипликативным

ядром Коши методом ортогональных многочленов ...................................................................................................... 26Хартовский В. Е., Урбан О. И. Управление линейными автономными алгебро-дифференциальными си с-

те мами посредством динамических регуляторов .......................................................................................................... 36Маковецкая О. А. Алгоритмы построения решений периодической краевой задачи для матричного урав

нения Ляпунова – Риккати ................................................................................................................................................ 43Прокопчук А. В., Янчевский В. И. О нециклических унитарных инволюциях гензелевых дискретно-нор

мированных алгебр с делением ........................................................................................................................................ 51Дугинов О. И. Покрытие расщепляемого графа наименьшим числом полных двудольных подграфов ....... 54Пунинский Г. Е. Пример кольца эндоморфизмов полуцепного модуля ............................................................ 61Швед О. Л. Модель нелинейно упругопластического материала ....................................................................... 63

Национальная

академия наук

Беларуси

Чичурин А. В., Швычкина Е. Н. О построении решений с заданными предельными свойствами у систем, описывающих модели хемостата ..................................................................................................................................... 69

Жестков С. В. О солитонных решениях обобщенного нелинейного уравнения Шредингера ....................... 77

ФІЗІКА

Плавский В. Ю., Мостовникова Г. Р., Барулин Н. В., Плавская Л. Г., Третьякова А. И., Микулич А. В., Леусенко И. А., Мостовников А. В. Биологическое и терапевтическое действие оптического излучения низ-кой интенсивности ............................................................................................................................................................. 82

Иванов А. П. Лазерное зондирование атмосферы в Беларуси: исторический очерк ....................................... 98Манько А. Ю., Сацункевич И. С., Шуляковский Р. Г. Монте-Карло генератор HEPComp для двухфотон-

ного рождения лептонных пар в адронных столкновениях ......................................................................................... 108

ІНФАРМАТЫКА

Найденко В. Г. ОС-выпуклая аппроксимация частично выпуклых оболочек .................................................. 113Бенедиктович В. И. О совместимости триангуляций и геометрических графов ............................................ 118

ВУЧОНЫЯ БЕЛАРУСІ

Леонид Александрович Янович. (К 80-летию со дня рождения) ...................................................................... 124

ИЗВЕСТИЯ НАЦИОНАЛЬНОЙ АКАДЕМИИ НАУК БЕЛАРУСИ 2014 № 1Серия физико-математических наук

На русском и белорусском языкахЖурнал зарегистрирован в Министерстве информации Республики Беларусь,

свидетельство о регистрации № 392 от 18.05.2009

Камп’ютарная вёрстка В. Л. С м о л ь с к а й

Здадзена ў набор 26.02.2014. Падпісана да друку 24.03.2014. Выхад у свет 31.03.2014. Фармат 60 × 841/8. Папера афсетная. Друк лічбавы. Ум. друк. арк. 14,88. Ул.-выд. арк. 16,4. Тыраж 68 экз. Заказ 45.

Кошт нумару: індывідуальная падпіска – 48 650 руб.; ведамасная падпіска – 117 945 руб.

Выдавец і паліграфічнае выкананне:Рэспубліканскае ўнітарнае прадпрыемства «Выдавецкі дом «Беларуская навука». Пасведчанне аб дзяржаўнай

рэгістрацыі выдаўца, вытворцы, распаўсюджвальніка друкаваных выданняў № 1/18 ад 02.08.2013. ЛП 02330/455 ад 30.12.2013. Вул. Ф. Скарыны, 40, 220141, г. Мінск.

© Выдавецкі дом «Беларуская навука». Весці НАН Беларусі. Серыя фізіка-матэматычных навук, 2014



Беларуси

3

PROCEEDINGSOF THE NATIONAL ACADEMY

OF SCIENCES OF BELARUSPHYSICS AND MATHEMATICS SERIES 2014 N 1

FOUNDER IS THE NATIONAL ACADEMY OF SCIENCES OF BELARUS

The Journal has been published since January 1956Issued four times a year

CONTENTS

MATHEMATICS

Yanovich L. A., Gulo I. N. Approximate calculation of the functions of the Brownian motion process ................. 5Charnou S. Yu., Kharin A. Yu. Influence of distortions in the L1- and C-metrics on the error probabilities

for the sequential probability ratio test ................................................................................................................................ 11Ayryan E. A., Malyutin V. B. Evaluation of matrix-valued functional integrals using functional polynomials ..... 18Rasolko G. А. Approximate solution of the first-kind integral equation with the multiplicative Cauchy kernel

by the method of orthogonal polynomials ........................................................................................................................... 26Khartovskii V. E., Urban O. I. Control of linear autonomous algebraic-differential systems by means of dynamic

regulators .............................................................................................................................................................................. 36Макovetskaya О. А. Algorithms for constructing the solutions of the periodic boundary value problem for the mat rix

Lyapunov – Riccati equation ................................................................................................................................................ 43Prokopchuk A. V., Yanchevskii V. I. Non-cyclic unitary involutions of Henselian discretely valued division

algebras ................................................................................................................................................................................. 51Duginov O. I. Covering a split graph with the minimum number of complete bipartite subgraphs ......................... 54Puninski G. E. One example of the endomorphism ring of a serial module ............................................................. 61Shved O. L. Model of nonlinear elastic-plastic material ............................................................................................ 63Chichurin A. V., Shvychkina A. N. Construction of solutions with the given limit properties for the systems

describing the chemostat models ......................................................................................................................................... 69Zhestkov S. V. Soliton solutions of the generalized nonlinear Schrödinger equation ............................................... 77

PHYSICS

Plavskii V. Yu., Mostovnikova G. P., Barulin N. V., Plavskaya L. G., Tret`yakova A. I., Mikulich A. V., Leu-senko I. A., Mostovnikov A. V. Biological and therapeutic actions of optical low-intensity radiation .......................... 82

Ivanov А. P. Laser sensing of the atmosphere of Belarus: historical sketch ............................................................. 98Manko A. U., Satsunkevich I. S., Shulyakovsky R. G. HEPComp Monte Carlo generator for two-photon pro-

duction of lepton pairs at hadron collisions ......................................................................................................................... 108



Беларуси

INFORMATICS

Naidenko V. G. OC-convex approximation of partially convex hulls ........................................................................ 113Benediktovich V. I. On the compatibility of triangulations and geometric graphs ................................................... 118

SCIENTISTS OF BELARUS

Leonid Aleksandrovich Yanovich. (To the 80th Anniversary) ................................................................................. 124



Беларуси

5

ВЕСЦІ НАЦЫЯНАЛЬНАЙ АКАДЭМІІ НАВУК БЕЛАРУСІ № 1 2014СЕРЫЯ ФІЗІКА-МАТЭМАТЫЧНЫХ НАВУК

МАТЭМАТЫКА

УДК 519.216+517.518.8

Л. А. ЯНОВИЧ1, И. Н. ГУЛО2

О ПРИБЛИЖЕННОМ ВЫЧИСЛЕНИИ ФУНКЦИЙ ОТ ПРОЦЕССА БРОУНОВСКОГО ДВИЖЕНИЯ

1Институт математики НАН Беларуси2Белорусский государственный педагогический университет имени Максима Танка

(Поступила в редакцию 29.11.2013)

Введение. Пусть ( ) ( ),t t T Rx w ∈ ⊂ – случайный процесс, определенный на вероятностном пространстве ( ,W F, )P , и nL – последовательность операторов, заданных на этом же вероятност-ном просранстве, которые ставят в соответствие случайному процессу ( ),tx w процессы

( ) ( )( ) ( ), , 0,1,2,...n nt L t nx w = x w = . В задаче аппроксимации случайных процессов основным требованием, предъявляемым к операторам nL , является условие сходимости в том или ином смысле последовательности ( ){ } 0n n

t ∞

=x к процессу ( ),tx w .

На множестве случайных процессов ( ),tx w введем норму ( ) ( ), sup ,t T

t E t∈

x w = x w , предполагая

при этом, что среднее значение ( ),E tx w – непрерывная на T ⊂ R функция, где T – ограниченный замкнутый отрезок действительной оси R. На практике обычно используется сходимость в этой норме при n → ∞ математических ожиданий ( ){ },nE tx w к математическому ожиданию ( ){ },E tx w исходного процесса ( ),tx w или сходимость моментов высших порядков процессов ( ),n tx w к со-от ветствующим моментам процесса ( ),tx w .

В данной статье для такого вида сходимости и случайных процессов, задаваемых как функ-ция от процесса броуновского движения, рассматриваются некоторые способы приближения и иллюстрируется их применение на конкретных примерах.

Приближения, основанные на квадратурных формулах гауссова типа. Рассмотрим класс случайных процессов вида

( ) ( )( )t F W tx = , (1)

где ( )W t – стандартный винеровский процесс, т. е. гауссовский случайный процесс с нулевым

средним значением и корреляционной функцией ( ) ( ), min ,B t s t s= [ ]( ), 0,1t s ∈ , а ( )F x – некоторая заданная непрерывная на R функция. Через ( ) ( )1,2,...km t k = обозначим k -й центральный момент ( ) ( ){ }k

km t E t= x процесса ( )tx . Для моментов ( )km t случайного процесса (1) справедли-справедливо (см., напр., [1]) равенство

( ) ( )( ){ } ( )21 2k x k

km t E F W t e F t x dx∞

−

−∞= =

π∫ . (2)

От функции ( )F x требуется, чтобы интеграл (2) был сходящимся.



Беларуси

6

Далее будем использовать квадратурную формулу наивысшей алгебраической степени точности [2]

( ) ( ) ( )2

1

1 12 2nx k k k

ne F t x dx A F t x r F∞

−n n

n=−∞= +

π π∑∫ , (3)

где xn – корни многочлена Эрмита ( ) ( )2 2

1n

n x xn n

dH x e edx

−= − , ( )

1

22 !n

n

nAH x

+

nn

π=

′ , а остаток ( )k

nr F

для гладких функций ( )F x задается равенством ( ) ( ) ( )2

2! 2 ,

2 2 !

nk k

n n nn dr F F t

n d= h h

h – некото

рая точка из R. Квадратурную сумму в формуле (3) обозначим

( ) ( )

1

1 2n k

nkS t A F t xn nn=

=π

∑ . (4)

Коэффициенты An могут быть записаны также в виде

( )

2xnA e l x dx

∞−

n n−∞

= ∫ ,

где ( ) ( ) ( )( ) ( )( ) ( )( ) ( )

1 1 1

1 1 1

... ...... ...

nn

n

x x x x x x x xl x

x x x x x x x xn− n+

nn n n− n n+ n

− − − −=

− − − −.

Рассмотрим далее последовательность случайных процессов

( ) ( ) ( )

12

2

n knk n

W tt l F t x

tn n

n=

x =

∑ ( ), 1,2,...n k = . (5)

Для центральных моментов ( ) ( ){ }nk nkm t E t= x процесса (5), используя формулу (2), получим, что ( ) ( )nk nkm t S t= .

При исследовании свойств случайных процессов вида (1), в том числе и в задаче аппроксимации такого класса процессов, широко используются ортогональные на промежутке ( ),−∞ ∞ с ве

сом ( )2xp x e−= многочлены Эрмита, достаточно полная теория которых изложена, например, в ра-

боте [3]. Заметим, что фундаментальные интерполяционные многочлены ( )nkl x могут быть

записаны в виде ( ) ( )( ) ( )

( )( ) ( )1

12

n nnk

k n k k n k

H x H xl x

x x H x n x x H x−= =

′− −. Многочлены Эрмита ( )nH x за-

да ются также формулой ( ) ( )( ) ( )

[ ]/22

0

1 !2

! 2 !

knn k

nk

nH x x

k n k−

=

−=

−∑ , где [ ]n – целая часть числа n.

Если функция ( )2 2kF t x кусочно-гладкая на любом конечном интервале ( ),l l− и интеграл

( )2 2 2x kx e F t x dx∞

−

−∞∫ имеет конечное значение, тогда функция ( )2kF t x разложима на ( ),−∞ ∞

в ряд Фурье по многочленам Эрмита ( ) ( )0,1,...nH x n = , который сходится к ( )2kF t x в точках 2t x, являющихся точками непрерывности этой функции (см. [3, с. 91]).

Таким образом, в силу точности квадратурной формулы (3) для алгебраических многочленов степени 2 1n − остаточный член ( )k

nr F формулы (3) для широкого класса функций ( )kF x буд ет стремиться к нулю при n → ∞ и, соответственно, в качестве приближения случайного процесса (1) может быть использована последовательность случайных процессов (5).

Рассмотрим примеры случайных процессов вида (1) и приведем результаты вычислительного эксперимента для моментов первых и вторых порядков.

П р и м е р 1. Случайный процесс ( ) ( )( )sint W tx = a , где a – числовой параметр, является решением стохастического дифференциального уравнения



Беларуси

7

( ) ( ) ( ) ( )2 211

2d t t dW t t dtx = a − x − a x (6)

при начальном условии ( )0 0x = . Момент второго порядка ( )2m t этого процесса может быть вычислен по формуле (2):

( ) ( ) ( )2 22 2

21 1sin 2 1

2x tm t e t x dx e

∞− − a

−∞= a = −

π∫ .

И, соответственно, ( )2n tx для процесса ( ) ( )( )sint W tx = a примет вид ( ) ( ) ( )22

1sin 2

2

nn n

W tt l t x

tn n

n=

x = a

∑ ,

а ( )2nS t будет задаваться формулой ( ) ( )22

1

1 sin 2n

nS t A t xn nn=

= aπ

∑ . Значение погрешности

( ) ( ) ( )2 2 2n nr t m t S t= − вычисления ( )2m t в точках ( )0,1,...,55iit i= = для 1a = и 10n = приведено

в табл. 1. Таблица 1

ti 0 0,2 0,4 0,6 0,8 1

m2(ti) 0,000000 0,164840 0,275336 0,349403 0,399052 0,432332Sn2(ti) 0,000000 0,164785 0,275243 0,349285 0,398917 0,432184rn2(ti) 0,000000 0,000055 0,000093 0,000117 0,000135 0,000148

П р и м е р 2. Проведены аналогичные вычисления для процесса ( ) ( )( )cost W tx = a , который является решением стохастического дифференциального уравнения (6) с начальным условием

( )0 1x = и коэффициентом –α. Для данного процесса математическое ожидание ( )1m t и второй

центральный момент ( )2m t имеют, соответственно, вид ( )21

21t

m t e− a

= и ( ) ( )222

1 12

tm t e− a= + , а

( ) ( ) ( )22

1cos 2

2

nn n

W tt l t x

tn n

n=

x = a

∑ и ( ) ( )2

21

1 cos 2n

nS t A t xn nn=

= aπ

∑ . Численные значения

( ) ( ) ( )2 2 2n nr t m t S t= − в тех же точках, что и в примере 1 при 1a = и 10n = , приведены в табл. 2.

Таблица 2

ti 0 0,2 0,4 0,6 0,8 1

m2(ti) 1,00000 0,83516 0,72466 0,65060 0,60095 0,56767Sn2(ti) 0,99966 0,83488 0,72442 0,65038 0,60075 0,56748rn2(ti) 0,00034 0,00028 0,00024 0,00022 0,00020 0,00019

П р и м е р 3. Случайный процесс

( )( ) 21

2W t r t

t e s + − s x = (7)

является решением линейного стохастического уравнения

( ) ( ) ( ) ( )d t r t dt t dW tx = x + sx (8)

при начальном условии ( )0 1x = , где r и s – некоторые числа. Здесь математическое ожидание k -момента решения ( )tx задается формулой

( ) ( ){ } ( ) 21 12 .

k r k tk

km t E t e + − s = x =



Беларуси

8

Приближенное значение ( )nkS t k-го момента процесса (7) примет вид

( )

2122

1

1 .k r t n k t x

nkS t e A e n

− s s n

n==

π∑

Из проведенных вычислений следует, что для этого примера погрешности ( ) ( ) ( )nk k nkr t m t S t= −

при 19, 10, 1,2

n n r= = = s = и 1,2k = в точках ( )0,1,...,55iit i= = значительно меньшие, чем

в предыдущих примерах. В этих точках ( ) 710nk ir t −≤ для 1,2k = . Многочлены Бернштейна и Бернштейна – Канторовича в задаче аппроксимации слу-

чай ных процессов. Приближение (4) процесса вида (1) получено на основе интерполяционной квадратурной формулы Гаусса – Эрмита (3). Аппроксимации иной структуры для этого класса процессов могут быть построены c использованием и других известных методов приближения непрерывных функций.

Рассмотрим случайные операторы, которые являются некоторым аналогом детерми ниро-ванных линейных положительных операторов. Пусть на множестве случайных процессов ( )tx задана последовательность линейных операторов ( ){ } 0

;n nL t ∞

=x , принимающих соответственно

значения ( )n tx , где ( )n tx – случайные процессы, определенные на том же вероятностном

пространстве, что и ( )tx . Положим ( ){ } ( ){ } ( );n n nE L t E t f tx = x = , и пусть функции ( )nf t при-

надлежат пространству ( )C T , а последовательность ( ){ } 0n nf t ∞

= сходится равномерно на T к непре-

рывной функции ( ) ( ){ }f t E t= x . Если ( ) ( );n nf t L f t= , где nL – линейный положительный на

( )C T оператор, порожденный исходным оператором ( )1 ;L tx , то случайный оператор ( );nL tx

будем называть линейным положительным оператором на множестве процессов ( )tx . Приведем некоторые сведения, относящиеся к задаче аппроксимации линейными положительными операторами.

В теории приближения функций получила широкую известность теорема П. П. Коровкина о сходимости в пространстве непрерывных функций линейных положительных операторов [4], суть которой состоит в том, что из равномерной сходимости на отрезке [ ],a b последовательность линейных положительных операторов ( ) ( ); 0,1,2,...nL f x n = для трех функций ( ) ( )0,1,2if x x i= = , следует их сходимость на этом множестве к любой непрерывной функции ( )f x .

Имеется и тригонометрический аналог данной теоремы. Эти результаты получили дальнейшее широкое развитие. Они перенесены на операторы, определенные на банаховых простран-банаховых простран-анаховых пространствах, на алгебры, топологические группы и на множество случайных функций и процессов [5–8]. Проиллюстрируем применение случайных линейных положительных операторов, порождаемых многочленами Бернштейна и Бернштейна – Канторовича.

Рассмотрим последовательность случайных процессов ( ) ( )1,2,...n t nx = вида

( ) ( )2 2

0 0

n n k kn k

k

kt c W t fn

−+ n

n= n=

x =

∑ ∑ , (9)

где ( ) ( ) ( )!1

! ! ! 2 2 1 !!knc

k n k kn

n = −n − − n + n −

, ( )f t – непрерывная на [ ]0,1 функция. Нетрудно убедить

ся, что ( ){ }nE tx совпадает с многочленом Бернштейна n-й степени ( ) ( )

0; 1

n n kk kn n

k

kB f t C t t fn

−

=

= −

∑ ,

( )!

! !kn

nCk n k

=−

для функции ( )f t , [ ]0,1t ∈ .



Беларуси

9

Аналогичное соотношение ( ){ }nE tx = ( );nB f t имеет место и для процесса

( ) ( )

( ) ( )2

0

12 1 !!

n kn k kn n

k

t kt C W t fk n

−

=

− x = − ∑ . (10)

Для случайного процесса вида

( ) ( ) ( )( ) ( ) ( )

11

2

01

11

2 1 !!

kn k nn k k

n nk k

n

tt n C W t f s ds

k

+− +

=+

−x = +

−∑ ∫ (11)

справедливо соотношение ( ){ } ( );n nE t K f tx = , где ( ) ( ) ( ) ( )11

01

; 1 1

knn n kk k

n nk k

n

K f t n C t t f s ds

++−

=+

= + −∑ ∫

есть многочлен Бернштейна – Канторовича n-й степени для функции ( )f t . Многочлены ( );nB f t и ( );nK f t являются линейными положительными операторами на пространстве [ ]0,1C .

Так как последовательности многочленов Бернштейна ( );nB f t и Бернштейна – Канторовича ( );nK f t сходятся равномерно на отрезке [ ]0,1 для любой непрерывной на этом отрезке функции

( )f t , то математические ожидания процессов (9)–(11) будут аппроксимировать математическое ожидание исходного процесса ( )tx с математическим ожиданием ( )f t с любой степенью точности.

П р и м е р 4. Пусть ( ) ( )W tt ex = . Тогда ( ) { }( ) 21

tW tm t E e e= = , и на основании формул (9)–(11)

получим следующие приближения:

( ) ( )2 22

0 0

kn n kW t knkk

e c e W t−

+ nn

= n=≈ ∑ ∑ , ( ) ( )

( ) ( )22

0

12 1 !!

n k knW t k knnk

te C e W t

k

−

=

−≈

−∑ ,

( ) ( ) ( ) ( )( )

( ) ( )1

2 1 2 1 2

0

12 1 1

2 1 !!

kn knW t n nk kn

k

te n e C e W t

k

−+ +

=

− ≈ + − −

∑ ( )0,1,2,...n = . (12)

Численные значения погрешности ( ) ( ) ( )1 1;n nr t m t B m t= − и ( ) ( ) ( )1 1;n nr t m t K m t= − прибли

жения математического ожидания ( ) 21

t

m t e= процесса ( ) ( )W tt ex = , математическими ожиданиями приближенных процессов (12) в равноотстоящих точках ( )0,1,...,5

5iit i= = отрезка [ ]0,1 при

10n = приведены в табл. 3.

Таблица 3

ti 0 0,2 0,4 0,6 0,8 1

( )n ir t 0,00000 – 0,00223 – 0,00368 – 0,00404 – 0,00296 0,0000

( )n ir t – 0,02308 – 0,01714 – 0,00873 – 0,00268 0,01767 0,03691

Из вышеизложенного следует, что для случайных процессов

( ) ( )2 2

0 0

n n k kknm k mk

k

tt c W t Sn

−+ n

n= n=

x =

∑ ∑ , ( ) ( )0

n knm nk mk

k

tt t Sn=

x = h

∑ ,

( ) ( ) ( ) ( )11

01

1

knn

nm nk mkk k

n

t n t S s ds

++

=+

x = + h∑ ∫ , (13)



Беларуси

где ( ) ( )( ) ( )212 1 !!

n kk k

nk nt

t C W tk

−−η =

−, ( ) ( )

1

1 2m k

mk i ii

S s A F sx=

=π∑ , ix – как и раньше, корни многочле-

на Эрмита степени m, справедливо соотношение

( ){ } ( ){ } ( ){ }

,,lim lim k

nm nmn mn m

E t E t E t→∞→∞

ξ = ξ = ξ ( )1,2,...k = .

П р и м е р 5. Моменты второго порядка m2(t) случайных процессов, рассмотренных в при-мерах 1 и 2, могут быть вычислены приближенно с помощью многочленов Бернштейна Bn( f;t), в которых f(t) заменена на функции 2 ( )nS t , соответствующие этим процессам.

Численные значения погрешности 2 62( ) ( ) ( , )n nr t m t B S t= − , где ( )62 620

( , ) 1n n kk k

n nk

kВ S t С t t Sn

−

=

= −

∑ ,

в точках ( )0,2,4,...,1010iit i= = для α = 1 и п = 10 и cлучайного процесса ( ) ( )( )sint W tξ = α приве�приве-

дены в табл. 4, а для cлучайного процесса ( ) ( )( )cost W tξ = α – в табл. 5.

Таблица 4

it 0 0,2 0,4 0,6 0,8 1

( )n ir t 0,00000 0,01046 0,01085 0,00735 0,00294 – 0,00012

Таблица 5

it 0 0,2 0,4 0,6 0,8 1

( )n ir t 0,000000 0,0000002 0,000009 0,000082 0,000380 0,001200

Приближенные формулы для процесса вида (1) могут быть построены и на основе других ли�нейных положительных операторов, определенных на пространстве ( )C T .

Работа выполнена в рамках проекта Белорусского республиканского фонда фундаменталь-ных исследований (Ф12–016).

Литература

1. Янович Л. А. Приближенное вычисление континуальных интегралов по гауссовым мерам. Минск, 1976. 2. Крылов В. И. Приближенное вычисление интегралов. М., 1967.3. Лебедев Н. Н. Специальные функции и их приложения. М.; Л., 1963. 4. Коровкин П. П. Линейные операторы и теория приближений. М., 1959. (�� . �. �� ., 1959. (�� . �. �� -

��x�m�� h��y. D�lh�: H��u�� ubl. C��., 1960.) 5. Nakonechnyi A. G. // M��h. S��. �� b�b�l��y. 1985. V�l. 16. �. 23–26. 6. Weba М. // M��h�m��ch� Z��ch��f�. 1976. V�l. 192. �. 73–80. 7. Altomare F., Campiti M. ��y�� A��x�m�� Th��y �� A��l�c��. B��l��; N�w Y��, 1994. 8. Зарицкая З. В. // Доповіді АН УРСР. Сер. А. 1967. № 1. С. 14–17.

L. A. YANOVICH, I. N. GULO

APPROXIMATE CALCULATION OF THE FUNCTIONS OF THE BROWNIAN MOTION PROCESS

Summary

I� �h� ��cl�, �h� ��qu��c� �f ��c�� c��uc�� f�� h� ��m ��c��, wh�ch �� fi�� fu�c�� f �h� B��w �� m�� c��, �� c��. Th� c��l m�m�� f �h� ��qu��c�� c��g� �� h� c��g m�m�� f �h� ��l ��c��. Th� �ccu��cy �f ��x�m�� llu�� by �x�m�l��.



Беларуси

11


УДК 519.2

С. Ю. ЧЕРНОВ, А. Ю. ХАРИН

О ВЛИЯНИИ ИСКАЖЕНИЙ В L1- И C-МЕТРИКАХ НА ВЕРОЯТНОСТИ ОШИБОК ДЛЯ ПОСЛЕДОВАТЕЛЬНОГО КРИТЕРИЯ ОТНОШЕНИЯ ВЕРОЯТНОСТЕЙ

Белорусский государственный университет


Введение. Последовательный подход проверки гипотез [1] используется для решения многих практических задач статистического анализа данных [2] в экономике, медицине и других областях. При выполнении гипотетических предположений последовательные критерии позволяют затратить в среднем меньшее число наблюдений по сравнению с их классическими аналогами, основанных на фиксированном числе наблюдений. Однако на практике в данных могут присутствовать искажения, т. е. наблюдения, не удовлетворяющие предположениям, используемым при построении математической модели. Поэтому возникает вопрос о влиянии описанных искажений на вероятностные характеристики последовательных критериев. Данная задача не является абсолютно новой. Например, в работах [5, 6] исследована устойчивость вероятностей ошибочных решений и средней длительности последовательного критерия отношения вероятностей (ПКОВ) к искажениям типа Тьюки – Хьюбера для дискретного распределения вероятностей наблюдений.

В данной работе рассмотрено влияние искажений, заданных в L1- и C-метриках, на вероятности ошибок первого и второго рода ПКОВ, если наблюдения имеют непрерывное распределение. А именно, для заданной заранее величины меры различия (т. е. расстояния в соответству-ющей метрике) между фактическим и гипотетическим распределениями вероятностей наблюдений построены так называемые наименее привлекательные распределения, которые максимизируют вероятность ошибки первого рода ПКОВ.

1. Математическая модель. Рассмотрим математическую модель, сформулированную в работе [7]. Пусть на измеримом пространстве (W, F) наблюдается последовательность независимых одинаково распределенных случайных величин 1 2, ,... Rx x ∈ . Пусть эти случайные величины имеют плотность распределения вероятностей f(x,q) с параметром 0 1= { , }q∈Θ q q , истинное значение которого неизвестно. Плотности распределения вероятностей f(x,q) соответствует функ ция распределения F(x,q). Пусть D = { R : ( , ) = 0}x f x /∈ q .

Относительно параметра q имеются две простые гипотезы

0 0 1 1: = , : = .H Hq q q q (1)

Обозначим статистику логарифмического отношения правдоподобия:

1

=0= ( ,..., ) = ,

nn n n k

kx xL L l∑

где

1

0

( , )= ( ) = ln( , )

kk k

k

f xxf x

ql l

q (2)

– логарифм статистики отношения правдоподобия, вычисленной по наблюдению xk, Nk ∈ . По-ложим по определению l0 = 0.



Беларуси

12

Для проверки гипотез (1) по наблюдениям x1, x2, ... выносится решение, основанное на последовательном критерии отношения вероятностей [1]:

= min{ N : ( , )},nN n C C− +∈ L ∈/ (3) [= 1 ( ),, ) NCd

+L+∞ (4)

где N – момент остановки, после которого принимается решение d в соответствии с (4). В (3) C– и C+ – пороги критерия, определенные в соответствии с [1]:

0 0

0 0

1= ln , = ln ,1

C C− +b − b− a a

(5)

где 0 0, (0;0,5)a b ∈ – заданные значения вероятностей ошибок первого и второго рода.Пусть a( f ), b( f ) – вероятности ошибок первого и второго рода критерия (3), (4), если наблю

дения xn имеют плотность распределения f(x,q).Известно (см., напр., [1, 4]), что a0 и b0 лишь приближенно равняются результирующим веро

ятностям ошибок первого a( f ) и второго b( f ) рода, фактически имеющим место при задании порогов по формулам (5).

Дополнительно сделаем следующие предположения:П1 – функция l(x), определенная (2), измерима относительно борелевской s-алгебры B(R);

множество D (R)B∈ ;П2 – область значений функции l(x) принадлежит отрезку [–(C+ – C–), C+ – C–), т. е.

( ) [ , ]x C C C C+ − + −l ∈ − + − для любого Dx∈ .Предположение П2 означает, что с точки зрения значений величины a( f ) не важно, насколь

ко значение ln больше (или меньше) величины C+ – C– (или –(C+ – C–)), так как если ln > C+ – C–(или ln < –(C+ – C–)), то статистика критерия Ln = Ln–1 + ln гарантированно выходит за верхний C+ (или нижний C–) порог. Обозначим 1( ) = { D : ( ) }A x x A−l ∈ l ∈ – прообраз множества (R)A B∈ . Для краткости, пусть 1 1( , ) = (( , ))a b a b− −l l и 1 1( ) = ({ })a a− −l l , , Ra b∈ , a<b; 1= ( , )kh kh h kh−l − ,

= 1,k m m− + .Без ограничения общности будем считать, что истинной гипотезой является H0 (случай H1

рассматривается аналогично), поэтому в дальнейшем рассматривается вероятность ошибки первого рода a. Обозначим

0 0 1( ) = ( , ), ( ) = ( , ), ( ) = { }.F x F x f x f x F x P xlq q l ≤

С целью уменьшения влияния искажений в наблюдениях на значение вероятности ошибки первого рода последовательного критерия (3), (4), для произвольной плотности s(x) построим так называемую усеченную плотность распределения вероятностей одного наблюдения xk (когда xk принимает конечное множество значений аналогичная конструкция представлена, напр., в [7]):

1( ) = 1 ( ) ( ) ( ),( , )gs x s x u x u xg g− − − + +l − +

+ e + e (6)где

1) g– и g+ (g– < g+) – заданные параметры усечения статистик ln;2) u–(x) и u+(x) – некоторые плотности распределения вероятностей, носители [3] которых

удовлетворяют включениям 1supp ( )u g−− −⊆ l и 1supp ( )u g−

+ +⊆ l ;

3) 1= ( ) = ( ) = ( )( , )s S g s y dyg−− − l − l −e e −∞∫ , 1= ( ) = 1 ( ) = ( )( , )s S g s y dyg−+ + l + l +

e e − +∞∫ ;4) функции u–(x) и u+(x) не зависят от плотности распределения вероятностей s(x).З а м е ч а н и е 1. Построенная функция sg(x) действительно является плотностью распреде

ления вероятностей:

1R R R R

1 1 1

1

1 1 1 1

( ) = 1 ( ) ( ) ( ) =( , )= ( ) ( ) ( ) =( , ) ( ) ( )

= ( ) 1 1 =( , )= ( ) ( ) ( ) =( , ) ( , ) ( , ) ( ,

gs y dy s y dy u y dy u y dyg gs y dy u y dy u y dyg g g g

s y dyg gs y dy s y dy s y dyg g g g

− − − + +l − +

− − −− − + +l l l− + − +

− − +l − +

− − − −l l l l− + − +

+ e + e

+ e + e

+ e ⋅ + e ⋅

+ +−∞ +∞ −∞

∫ ∫ ∫ ∫

∫ ∫ ∫

∫

∫ ∫ ∫ ( ) = 1.)s y dy+∞∫



Беларуси

13

1R R R R

1 1 1

1

1 1 1 1

( ) = 1 ( ) ( ) ( ) =( , )= ( ) ( ) ( ) =( , ) ( ) ( )

= ( ) 1 1 =( , )= ( ) ( ) ( ) =( , ) ( , ) ( , ) ( ,

gs y dy s y dy u y dy u y dyg gs y dy u y dy u y dyg g g g

s y dyg gs y dy s y dy s y dyg g g g

− − − + +l − +

− − −− − + +l l l− + − +

− − +l − +

− − − −l l l l− + − +

+ e + e

+ e + e

+ e ⋅ + e ⋅

+ +−∞ +∞ −∞

∫ ∫ ∫ ∫

∫ ∫ ∫

∫

∫ ∫ ∫ ( ) = 1.)s y dy+∞∫

З а м е ч а н и е 2. Построение функции sg(x) возможно для произвольной неотрицательной суммируемой на R функции s(x).

З а м е ч а н и е 3. При g– = –∞ и g+ = +∞ усеченная плотность sg(x) совпадает с плотностью s(x), поэтому введенная операция не сужает класс рассматриваемых плотностей наблюдений xn.

З а м е ч а н и е 4. Если исходная плотность f(x) не удовлетворяет П2, то рассмотрим плотность f g(x) при g– = –(C+ – C–), g+ = C+ – C–, для которой, легко видеть, П2 уже выполняется, причем a( f g) = a( f ).

2. Зависимость величины α(⋅) от вероятностного распределения наблюдений. Предпо ло-жим, что нам известна зависимость между случайными наблюдениями xn = x(w) и yn = y(w), за-дан ными плотностями распределения вероятностей a(x) и b(x) соответственно. Выясним, как свя заны между собой значения вероятностей ошибок a(a) и a(b) последовательного критерия (3), (4).

Л е м м а 1. Пусть x(w) и y(w) – случайные величины, заданные на (W, F), с плотностями рас-пределения вероятностей a(x) и b(x) соответственно. Если для любого w∈W верно l(x(w)) ≤ l(y(w)), то выполняется неравенство a(a) ≤ a(b).

Д о к а з а т е л ь с т в о. Из условия леммы следует соотношение

=0 =0( ) = ( ) ( ) = ( ),

n nn k k n

k ka x y bL l ≤ l L∑ ∑

поэтому a(a) ≤ a(b). Лемма доказана.Л е м м а 2. Пусть a(x) и b(x) – плотности распределения вероятностей. Если для любых x и y,

для которых { : ( ) > ( )}x z a z b z∈ , { : ( ) < ( )}y z a z b z∈ , верно ( ) ( )x yl ≤ l , то выполняется неравен-ство a(a) ≤ a(b).

Д о к а з а т е л ь с т в о. Обозначим

= { : ( ) > ( )}, = { : ( ) < ( )};M x a x b x M x a x b x+ − = ( ( ) ( )) = ( ( ) ( )) .M Mp a x b x dx b x a x dx+ −− −∫ ∫

На (W, F) рассмотрим случайные величины xa(w) и xb(w), такие что

( ) = (1 ( )) ( ) ( ) ( ), ( ) = (1 ( )) ( ) ( ) ( ),a b+ −x w − h w x w + h w x w x w − h w x w + h w x w

где x(w), x+(w) и x–(w) – случайные величины с плотностями распределения вероятностей min{ ( ), ( )} / (1 )a x b x p− , 1 ( )( ( ) ( )) /

Mx a x b x p+ − и 1 ( )( ( ) ( )) /

Mx b x a x p− − соответственно; h(w) – слу

чайная величина Бернулли с параметром p, т. e. P{h = 1}= p, P{h = 0} = 1 – p.Тогда плотности распределения вероятностей xa(w) и xb(w) равны

1 ( )min{ ( ), ( )}( ) = (1 ) ( ( ) ( )),1

1 ( )min{ ( ), ( )}( ) = (1 ) ( ( ) ( ))1

Ma

Mb

xa x b xf x p p a x b xp p

xa x b xf x p p b x a xp p

+

−

− ⋅ + ⋅ −−

− ⋅ + ⋅ −−

или

( ) = min{ ( ), ( )} 1 ( )( ( ) ( )) = ( ),

( ) = min{ ( ), ( )} 1 ( )( ( ) ( )) = ( ),a M

b M

f x a x b x x a x b x a x

f x a x b x x b x a x b x+

−

+ −

+ −

следовательно, a(a) = a( fa) и a(b) = a( fb).Случайные величины x–(w) и x+(w) отличны от нуля на множествах M– и M+ соответственно,

поэтому из условия леммы следует, что ( ( )) ( ( ))+ −l x w ≤ l x w и ( ( )) ( ( ))a bl x w ≤ l x w для любого w∈W. Тогда по лемме 1 a( fa) ≤ a( fb) и a(a) ≤ a(b). Лемма доказана.



Беларуси

14

3. Случай искажений в L1-метрике. Пусть в нарушение гипотетической модели, представленной в п. 1, независимые одинаково распределенные наблюдения xn, Nn∈ , подвержены искажениям, т. е. имеют плотность распределения вероятностей s(x), которая может отличаться от гипотетической плотности распределения вероятностей f(x), однако расстояние в L1-метрике между функциями s(x) и f(x) не превышает e:

D | ( ) ( ) | ,s x f x dx− ≤ e∫ (7)

где 0 ≤ e ≤ e0, причем величина e0 задается заранее.Семейство плотностей распределения вероятностей s(x), удовлетворяющих (7) при фиксиро

ванном e, обозначим 1( , )L f e . Пусть плотности s(x) соответствует функция распределения вероятностей S(x). Для произвольной 1( ) ( , )s L f⋅ ∈ e вероятность ошибки первого рода последовательного критерия (3), (4) обозначим a(s,e).

Найдем наихудшее распределение вероятностей наблюдений xn, т. е. такое, которое максимизирует величину a(⋅,e) на множестве 1( , )L f e .

Рассмотрим случайную величину nx , построенную по наблюдению xn:

1

1

( ), ( ) ( , ),( ) =

( ), ( ) ( , ),n n

nn n

x x gx

u x g

−−

−−

w w ∈l +∞w w w ∈l −∞

(8)

где

1) 1/ 2 = ( ) = ( )( , )F g f y dyg−l − l −e −∞∫ ;

2) un(x) – случайная величина с плотностью распределения вероятностей u+(x), параметр g+, от которого зависит функция u+(x), удовлетворяет условию g+ ≥ C+ – C–.

Пусть nx имеет плотность распределения вероятностей ( )f x , тогда

1( ) = 1 ( ) ( ) ( ).( , ) 2f x x f x u xg− +l −

e++∞ (9)

З а м е ч а н и е 5. Ограничения на параметры g– и g+ в (8) означают, что с вероятностью e/2 = Fl(g–) случайная величина nx примет значение на множестве 1( )g−

+l (на котором отлична от нуля u+(x)), т. е. ( ) =nx g +l и статистика 1= ( )n n nx−L L + l на n-м шаге выйдет за верхний порог C+.

З а м е ч а н и е 6. Общий принцип построения плотности ( )f x по плотности f(x), выраженный (9), состоит в следующем. Вначале выбирается подмножество 1( , )g−

−l −∞ из D, на котором функция l(⋅) принимает малые (в данном случае не превосходящие g–) значения. Затем вероятностная масса, равная 1 ( ) / 2( , ) f x dxg−l −

= e−∞∫ , «переносится» на подмножество 1( )g−+l , на ко

тором функция l(⋅) принимает бóльшие (равные g+) значения.З а м е ч а н и е 7. Функция ( )f x принадлежит 1( , )L f e . Действительно,

1 1D

1

| ( ) ( ) | = ( ) | ( ) ( ) |( , ) ( , )

= ( ) = .( , )2 2

f x f x dx f x dx f x f x dxg g

u x dxg

− −l l− −

− +l −

− + − =−∞ +∞e e

+ ⋅ e+∞

∫ ∫ ∫

∫

Покажем, что если наблюдения xn имеют плотность ( )f x , то вероятность ошибки ( )fa действительно является наибольшей среди функций из 1( , )L f e .

Т е о р е м а 1. Если плотность распределения вероятностей s(x) принадлежит 1( , )L f e , то выполняется соотношение ( , ) ( , ).s fa e ≤ a e

Д о к а з а т е л ь с т в о. Пусть 1( ) ( , )s L f⋅ ∈ e . Обозначим

( > ) ( < )= ( ) ( ) = ( ) ( ) .s f s fp s x f x dx f x s x dx− −∫ ∫



Беларуси

15

Ясно, что p ≤ e/2. Последовательно построим плотности распределения вероятностей s1(x) и s2(x), такие что

1 1

1 ( ) ( > ) ( < ) ( )

2 1( , ) ( < ) ( , ) ( )

( ) = 1 ( ) ( ) 1 ( ) ( ) ( ) = 1 ( ) ( ) 1 ( ) ( ) ( ),( ) = 1 ( ) ( ) 1 ( ) ( ) ( ) ( ) ( ).

s f s f s f s f

g s f g s f

s x x s x x f x p u x x s x x f x p u xs x x s x x f x s u x p u x− −

− −

≤ + ≥ +

− − +l +∞ ∩ l +∞ ∩ ≥

+ + ⋅ + + ⋅

+ +e + ⋅

Сравним величины a(s), a(s1), a(s2) и ( )fa между собой. Рассмотрим множества, на которых указанные плотности отличны друг от друга:

1 11 1

1 11 2 1 2

{ : ( ) < ( )} ( ), { : ( ) > ( )} ( > ) \ ( ),

{ : ( ) < ( )} ( ), { : ( ) > ( )} ( , ),

x s x s x g x s x s x s f g

x s x s x g x s x s x g

− −+ +

− −− −

⊆ l ⊆ l

⊆ l ⊆ l +∞

1 1

21

2

{ : ( ) < ( )} ( ( , ) ( < )) ( ),

{ : ( ) > ( )} ( ).

x s x f x g s f g

x s x f x g

− −− +

−−

⊆ l +∞ ∩ ∪ l

⊆ l

В силу леммы 2

1 2( , ) ( , ) ( , ) ( , ),s s s fa e ≤ a e ≤ a e ≤ a e

откуда следует утверждение теоремы.С л е д с т в и е 1. Вероятность ошибки первого рода ( , )fa e монотонно возрастает по пере-

менной e, в частности, для любого e, 0 ≤ e ≤ e0, выполняется неравенство

0( , ) ( , ).f fa e ≤ a e

Покажем, что если плотность s(x) принадлежит e-окрестности функции f(x) в L1-метрике, то усеченная плотность sg(x) принадлежит e-окрестности функции fg(x), а именно, справедлива следующая лемма.

Л е м м а 3. Если 1( ) ( , )s x L f∈ e , то 1( ) ( , )g gs x L f∈ e .Д о к а з а т е л ь с т в о.

1D

1 1

1

1 1

| ( ) ( ) | = | ( ) ( ) |( , )( )| ( ) ( ) | ( )| ( ) ( ) | =( ) ( )

= | ( ) ( ) | | ( ) ( ) | | ( ) ( ) |=( , )

= | ( ) ( ) | ( ) (( , ) ( , )

g gs x f x dx s x f x dxg gu x s f dx u x s f dxg g

s x f x dx s f s fg g

s x f x dx s x fg g g

−l − +

− −− − − + + +l l− +

− − − + +l − +

− −l l− + −

− − +

+ e − e + e − e

− + e − e + e − e

− + −−∞

∫ ∫

∫ ∫

∫

∫ ∫

1 D

)

( ) ( ) | ( ) ( ) | .( , )

x dx

s x f x dx s x f x dxg−l +

+

+ − ≤ − ≤ e+∞∫ ∫ Лемма доказана.

Далее, при заданных порогах усечения g– и g+ найдем наихудшее распределение вероятностей, т. е. такое, которое максимизирует величину a(⋅,e) на множестве 1( , )gL f e . Покажем, что если ( )f x – наихудшее распределение в 1( , )L f e , то ( )gf x – наихудшее распределение в 1( , )gL f e .

Если ( )f x удовлетворяет (9), то ( )gf x , построенная в соответствии с (6), имеет вид

1( ) = 1 ( ) ( ) ( ) ( ).( , ) 2 2

gf x x f x u x u xg g− − − + +l − +

e e + e − + e +

Т е о р е м а 2. Если плотность распределения вероятностей s(x) принадлежит 1( , )L f e , то выполняется соотношение

( , ) ( , ).g gs fa e ≤ a e

Д о к а з а т е л ь с т в о. Утверждение теоремы следует из леммы 3 и теоремы 1.



Беларуси

16

С л е д с т в и е 2. Вероятность ошибки первого рода ( , )gfa e монотонно возрастает по пе-ременной e, для любого e, 0 ≤ e ≤ e0, выполняется неравенство

0( , ) ( , ).g gf fa e ≤ a e

4. Случай искажений в C-метрике с весом. Пусть независимые одинаково распределенные наблюдения xn, Nn∈ , имеют плотность распределения вероятностей s(x), которая может отли-чаться от теоретической плотности распределения вероятностей f(x). Однако расстояние в C-ме-трике с весом 1/w(x) между функциями s(x) и f(x) не превышает e (пусть w(x) – неотрицательная и непрерывная функция):

D

1 | ( ) ( ) | ,sup( )x

s x f xw x∈

− ≤ e

(10)

где 0 ≤ e ≤ e0, причем величина e0 задается заранее.Множество плотностей распределения вероятностей s(x), удовлетворяющих (10) при фикси-

рованных e и весовой функции w(x), обозначим ( , )wC f e . Плотности s(x) соответствует функция распределения вероятностей S(x).

Заметим, что (10) означает, что для произвольного Dx∈ выполняется неравенство

( ) ( ) ( ) ( ) ( ),f x w x s x f x w x− e ⋅ ≤ ≤ + e ⋅

поэтому, в силу неотрицательности s(x), предположим, что

0 ( ) ( ),f x w x≤ − e ⋅ (11)

(если же это не так, то переопределим функцию w(x) соответствующим образом).Покажем, что если плотность s(x) принадлежит e-окрестности (10) функции f(x) с весом

1/w(x), то усеченная плотность sg(x) принадлежит e-окрестности функции f g(x) в C-метрике с ве-сом 1/w g(x).

Л е м м а 4. Если ( , )ws C f∈ e , то ( , )g ggw

s C f∈ e .Д о к а з а т е л ь с т в о. Необходимо доказать неравенство (при w g(x) ≠ 0)

D

1 | ( ) ( ) |sup( )

g gg

xs x f x

w x∈

− ≤ e

(12)

или неравенство | ( ) ( ) | ( )g g gs x f x w x− ≤ e , для произвольного Dx∈ .Если 1( , )x g g−

− +∈λ , то неравенство (12) верно, так как совпадает с (10) и ( , )ws C f∈ e .Если 1( , )x g−

−∈λ −∞ , то

1

1 1

| ( ) ( ) |= ( ) | ( ) ( ) |= ( ) ( ( ) ( ))( , )

( ) | ( ) ( ) | ( ) ( ) = ( ) ( ) = ( ).( , ) ( , )

g g

g

s x f x u x s f u x s y f y dyg

u x s y f y dy u x w y dy w u x w xg g

−− − − − λ −

− −− − − −λ λ− −

− ⋅ e − e ⋅ − ≤−∞

≤ ⋅ − ≤ ⋅ e e ⋅ e e−∞ −∞

∫

∫ ∫

Аналогично рассматривается случай, когда 1( , )x g−+∈λ +∞ . Лемма доказана.

Как и в случае с L1-метрикой, найдем наихудшее распределение вероятностей ( )gCf x , которое

удовлетворяет (10) и максимизирует величину a(⋅,e).Пусть действительное число t (g– < t < g+) удовлетворяет соотношению (такое число существует

в силу непрерывности и неотрицательности функции w(x))

1 1( ) = ( ) .( , ) ( , )w y dy w y dyg t t g− −λ λ− +∫ ∫ (13)

Обозначим

1 1( ) = 1 ( ) ( ( ) ( )) 1 ( ) ( ( ) ( )).( , ) ( , )g

Cf x x f x w x x f x w xg t t g− −λ λ− +⋅ − e ⋅ + ⋅ + e ⋅



Беларуси

З а м е ч а н и е 8. Функция ( )gCf x является плотностью распределения вероятностей в си-

лу (11) (условие неотрицательности) и (13) (условие нормировки). Функция ( )gCf x принадлежит

( , )ggw

C f e в силу леммы 4.Т е о р е м а 3. Если плотность распределения вероятностей s(x) удовлетворяет (10), то вы-

полняется соотношение

( , ) ( , ).ggCs fa e ≤ a e

Д о к а з а т е л ь с т в о. Утверждение теоремы следует из леммы 2, так как функция l(x) на мно

жестве g 1{ :s ( ) ( )} ( , )gCx x f x t g−

l +≤ = принимает бóльшие значения, чем на g 1{ :s ( ) ( )} ( , )gCx x f x g t−

l −≥ = .

С л е д с т в и е 3. Вероятность ошибки первого рода ( , )gCfa e монотонно возрастает по пе-

ременной e, в частности, для любого e, 0 ≤ e ≤ e0, выполняется неравенство

0( , ) ( , ).g gC Cf fa e ≤ a e

Заключение. В работе построены распределения вероятностей наблюдений, которые максимизируют вероятности ошибок первого рода последовательного критерия отношения вероятностей и лежат в e-окрестности теоретической плотности распределения вероятностей в L1- и C-ме-триках. Полученные результаты позволяют оценить, насколько сильно вероятности ошибочных решений последовательных критериев зависят от искажений в наблюдениях, заданных в указанных метриках.

Исследования частично поддержаны Международным научно-исследовательским центром (проект B-1910).


1. Вальд А. Последовательный анализ. М., 1960.2. Mukhopadhyay N., Datta S. Applied Sequential Methodologies. New York, 2004.3. Зорич В. А. Математический анализ. М., 2012. Ч. 2.4. Харин А. Ю. // Вестн. БГУ. Сер. 1, Физика. Математика. Информатика. 2002. № 1. C. 92–96.5. Kharin A., Kishylau D. // Austrial J. of Statistics. 2005. Vol. 34, N 2. P. 153–162.6. Kharin A. // Austrial J. of Statistics. 2002. Vol. 31, N 4. P. 267–277.7. Харин А. Ю., Чернов С. Ю. // Вестн. БГУ. Сер. 1, Физика. Математика. Информатика. 2011. № 1. С. 96–100.

S. Yu. CHARNOU, A. Yu. KHARIN

INFLUENCE OF DISTORTIONS IN THE L1- AND C-METRICS ON THE ERROR PROBABILITIES FOR THE SEQUENTIAL PROBABILITY RATIO TEST

Summary

The sequential probability ratio test (SPRT) is considered, when the actual probability distribution of observations is un-known and differs from the theoretical one, but belongs to its e-neighborhood in the L1- or C-metric. The least favorable distri-bution (that maximizes the type I error probability of the SPRT) of observations is constructed for each metric and each e fixed in advance.



Беларуси

18


УДК 517.987.4+519.6

Э. А. АЙРЯН1, В. Б. МАЛЮТИН2

ВЫЧИСЛЕНИЕ МАТРИЧНОЗНАЧНЫХ ФУНКЦИОНАЛЬНЫХ ИНТЕГРАЛОВ С ПОМОЩЬЮ ФУНКЦИОНАЛЬНЫХ МНОГОЧЛЕНОВ 1 Объединенный институт ядерных исследований (Дубна, Россия)

2 Институт математики НАН Беларуси


Введение. Один из классов функционалов, важных в функциональном интегрировании, это функциональные многочлены произвольной заданной степени. Одним из подходов к приближенному вычислению функциональных интегралов служит использование приближенных формул, являющихся точными на классе функциональных многочленов заданной степени [1–3]. Если значения интеграла от функциональных многочленов известны, то для приближенного вычисления интеграла можно использовать аппроксимацию исходного подинтегрального функционала функциональными многочленами. Подход с использованием функциональных многочленов применяется для разнообразных типов функциональных интегралов, обусловленных разнообразием пространств, мер и способом их задания. В данной статье рассматривается применение функциональных многочленов к приближенному вычислению матричнозначных функциональных интегралов, порожденных решениями уравнения Дирака. Такие функциональные интегралы широко используются в релятивистской теории, описывающей движение частицы в электромагнитном поле [4, 5].

В работе рассматривается вычисление матричнозначного функционального интеграла с помощью разложения функционала в ряд, члены которого имеют вид произведения линейных функционалов с возрастающей суммарной степенью. Исследуется сходимость этого ряда для некоторых функционалов.

Для некоторых типов функциональных интегралов, в частности для интегралов по гауссовым мерам, ряд из интегралов от произведения линейных функционалов с возрастающей суммарной степенью сходится для очень узкого класса функционалов. Для рассматриваемых матричнозначных интегралов в силу присущих им специфических свойств ряд из интегралов от произведения линейных функционалов сходится для широкого класса функционалов. Поэтому метод вычисления интегралов, основанный на разложении функционала в ряд, является эффективным в случае матричнозначных функциональных интегралов, порожденных решениями уравнения Дирака.

Рассматривается разложение при малых и больших значениях параметров, которые входят в интегрируемый функционал и переходную функцию, определяющую функциональный интеграл.

1. Аппроксимация интеграла и исследование сходимости. Следуя работам [4, 5], матрично-знач ный функциональный интеграл будем рассматривать на пространстве функций ( ), ,x s tt ≤ t ≤ удовлетворяющих условию ( ) 0x s = и условию Липшица с порядком, равным единице, т. е. для любых , | ( ) ( ) | | |s a b t x b x a M b a≤ < ≤ − ≤ − . Интеграл определяется равенством

( ) ( )1

1] , ] 1 1 1

max 0 ... 1( ) ( ) ( ) ( ) , ... ,lim j j

jj

nj t t j j j j n

t j j nR RF x d x n F x S t t x x dx dx− − −

D → = =

⋅ m = χ ⋅ − −

∑ ∏∫ ∫ ∫ (1)

если этот предел существует для любого разбиения отрезка [s, t] точками s = t0 < t1 <... < tn = t.



Беларуси

19

Здесь xj = x(tj); 1,j j jt t t −D = − 1] , ] ( )j jt t−χ t – характеристическая функция интервала ]tj-1, tj]; 1 1( , )j j j jS t t x x− −− − – переходная функция, являющаяся фундаментальным решением уравнения

( , ) ( , ) ( , ),S t x S t xa b S t xt x

∂ ∂= a + b

∂ ∂ (2)

где a, b – вещественные параметры, a, b – антикоммутирующие величины (операторы или матрицы), т. е. 0.ab + ba = Мы также предполагаем, что 2 2 ,Ea = b = E – единичная матрица или оператор.

В данной работе рассматривается метод приближенного вычисления указанных интегралов от цилиндрических функционалов с помощью разложения интегрируемого функционала в ряд. Разложение имеет вид

( ) 1

11 ,...,

0 0 1( ) ( ) ( ),..., ( ) ( ) ( ) ( ) ,

k

dd

nt t tdd n n k

n n ks s sF x F f dx f dx F f dx

∞ ∞

= = =

⋅ = t t t t = ⋅ ⋅ ⋅ t t

∑ ∑ ∏∫ ∫ ∫ (3)

где 1,..., dn nF – коэффициенты разложения, принимающие вещественные значения. Т е о р е м а. Пусть функции ( ), 1kf k dt ≤ ≤ интегрируемы по Риману на отрезке [ , ]s t .

Пусть функция 1( ,..., )dF u u допускает разложение в ряд 11

1,..., 1

,..., 0,d

dd

n nn n d

n nF u u

∞

=⋅ ⋅ ⋅∑ ряд

11

1,..., 1

,..., 0| || | d

dd

N n nn n d

n nF a c c

∞

=⋅ ⋅ ⋅∑ сходится для некоторых | ( ) | , 1

tk k

sc f d k d> t t ≤ ≤∫ и его сумма

равна S. Тогда

1( ) ( ),..., ( ) ( ) ( )

t td

s sF f dx f dx d x

t t t t m =

∫ ∫ ∫

11

,...,...0 0 1 1 1 1

( ) ( ) ( ) ( )k k

dd

t t n nd dn n k kj kj

n n k j k js sF N f dx d x

∞ ∞

= = = = = == ⋅ ⋅ ⋅ t t m =∑ ∑ ∏ ∏ ∏ ∏∫ ∫ ∫ (4)

{ }1 11

,..., 1,..., 0 1 0

( ) ( ) ( ) exp ( )( 1) ...d k kd

t t N NN k N

n n k k m m Nn n k ks s

F a N g b d d+

∞

= = == − t t − t − b t t a∑ ∏ ∏∫ ∫

и ряд в равенстве (4) сходится. Здесь 1 ... dN n n= + + ,

10

0 0( ) ( ), , 1 , 1,

k ki k m m

m mg f n i n k d n

−

= =t = t ≤ < ≤ ≤ =∑ ∑ 1( ,..., )Nm m – перестановка

чисел (1,..., )N такая, что 1 2 ... Nm m mt ≥ t ≥ ≥ t , 0 1, .Nm mt s+t = t =

Д о к а з а т е л ь с т в о. Из определения матричнозначного интеграла следует, что

1( ) ( ),..., ( ) ( ) ( )

t td

s sI F f dx f dx d x

= t t t t m =

∫ ∫ ∫

=1

1 1 1 1 1 1 1 1max 0 ... 1 1

( ) ( )( ),..., ( )( ) ( , ) ... .limj

j

n nj j j d j j j j j j j n

t j j j nR Rn F f t x x f t x x S t t x x dx dx− − − − − −

D → = = =

− − − −

∑ ∑ ∏∫ ∫

Используя замену переменных 1 , 1 ,j j jx x y j n−− = ≤ ≤ и то, что преобразование Фурье функции 1( , )j j jS t t y−− равно 1exp{( )( )}j j jt t ia z b−− − a + b , получим

{ }

11 1 1 1 1

max 0 ... 1 1( ) ( ) ,..., ( ) exp ( )( ) ... ,lim

jj

n nj j d j j j j j n

t j j j nR RI n F f t z f t z t t ia z b dz dz

∨

− − −D → = = =

= − − a + b

∑ ∑ ∏∫ ∫ (5)

где обозначаетF∨

обратное преобразование Фурье функции F.



Беларуси

20

Используя равенство

{ } { } { }( )

121 1 1

1

1exp ( ) exp ( ) exp ( ) ,2

j

jj j j j j j j j j jt t ia z t t iaz t t iaz

−x

− − −x =±

− − a = − − + x − a∑

верное в случае 2 Ea = , получаем

{ } { }

11 1exp ( ) exp ( )j j j j j

j nt t ia z t t b− −

= − − a − b = ∏

{ } { }( ) { }1

1121 1 1

1 1

1 exp ( ) exp ( ) exp ( ) .2

j

nj j j j j j j j j

j nt t iaz t t iaz t t b

−x

− − −x =± x =± =

= ⋅ ⋅ ⋅ − − + x − a − b

∑ ∑ ∏

В данном произведении множители, содержащие a, чередуются с множителями, содержащими b. Учитывая правило антикоммутации a и b, расположим каждый множитель, содержащий b, слева от всех множителей, содержащих a. Получим:

{ } { }

11 1exp ( ) exp ( )j j j j j


= − − a − b = ∏

{ } { }( )1

11 1

1 1

1 exp ( ) exp ( )2n

j j j j j j jj n

t t iaz t t iaz− −x =± x =± =

= ⋅ ⋅ ⋅ − − + x − ×∑ ∑ ∏

11 1

21exp ( ) .jj

j j lj n l n j n

t t b−x

−= = =

× − x b a

∏ ∏ ∏

Сделаем замену переменных

1 1 2 2 2 3, ,..., .n nx = h h x = h h x = h

Обратная замена переменных имеет вид

1 1 1 1, ,..., .n n n n n n− −h = x h = x x h = x ⋅ ⋅ ⋅ x

Получим следующее равенство:

{ } { }

11 1exp ( ) exp ( )j j j j j


= − − a − b = ∏

{ } { }( )1

11 1 1

1 1

1 exp ( ) exp ( )2n

j j j j j j j jj n

t t iaz t t iaz− + −h =± h =± =

= ⋅ ⋅ ⋅ − − + h h − ×∑ ∑ ∏

{ }111 1

21exp ( ) ,j j

j j jj n j n

t t b+−h h

−= =

× − h b a∏ ∏

где 1 1n+h = . Подставим полученное выражение в (5) и воспользуемся равенством

1 1 1 11 1 112 2 2 .j j n

j n

+ +−h h −h h −h

=a = a = a∏

Получаем

1 1 1

max 0 ... 1 1( ) ( ) ,..., ( )lim

jj

n nj j d j j

t j jR RI n F f t z f t z

∨

− −D → = =

= ×

∑ ∑∫ ∫

{ } { }( )1

11 1 1

1 1

1 exp ( ) exp ( )2n

j j j j j j j jj n

t t iaz t t iaz− + −h =± h =± =

× ⋅ ⋅ ⋅ − − + h h − ×∑ ∑ ∏ (6)

{ }111

21 1exp ( ) ... .j j j nj n

t t b dz dz−h

−=

× − h b a∏



Беларуси

21

Подставляя правую часть равенства

121 1 1 1 1

1exp{ ( ) } exp{( ) } exp{ ( ) }( )

j

j

v

j j j j j j j j j j j j j jv

t t iaz t t iaz t t iaz v−

− + − − +=±

− − + h h − = − − h h∑

в (6) и вычисляя интегралы по переменным 1,..., nz z , получим

1 1

1121

max 0 1 1 1 1

1 ( )lim 2

j

j n nj

v

j jt v v j n

I−

+D → h =± h =± =± =± =

= ⋅ ⋅ ⋅ ⋅ ⋅ ⋅ h h ×∑ ∑ ∑ ∑ ∏

111

21 1 1 1 1 11 1

( )( ) ,..., ( )( ) exp{( ) } .n n

j j j j d j j j j j j jj j j n

F f t t t av f t t t av t t b−h

− − − − −= = =

× − − − − − h b a

∑ ∑ ∏ (7)

Используем разложение 11

11 ,..., 1

,..., 0( ,..., ) d

dd

n nd n n d

n nF u u F u u

∞

== ⋅ ⋅ ⋅∑ , которое по условию теоремы

сходится при | | , 1 .k ku a c k d= ≤ ≤ Так как | ( ) | , 1 ,t

k ks

c f d k d> t t ≤ ≤∫ то это разложение сходится

и при | | | ( ) | , 1 ,t

k ks

u a f d k d= t t ≤ ≤∫ и при 1 11

| | | ( ) || |, 1 .n

k k j j jj

u a f t t t k d− −=

= − ≤ ≤∑ Поменяем места

ми знак 1,..., 0dn n

∞

=∑ и знак

1.

jv =±∑ Тогда формула (7) запишется в виде

1

1 1 1

112,..., 1

max 0 1 1 ,..., 0 1 1

1 ( ) ( )lim 2

j

dj n d n

j

vN

n n j jt n n v v j n

I F a−∞

+D → h =± h =± = =± =± =

= ⋅ ⋅ ⋅ ⋅ ⋅ ⋅ h h − ×∑ ∑ ∑ ∑ ∑ ∏

{ }111

21 1 111

( )( ) exp ( ) .knd n

k j j j j j j jjk j n

f t t t v t t b−h

− − −== =

× − − h b a

∑∏ ∏ (8)

С учетом обозначения 1

00 0

( ) ( ), , 1 , 1k k

i k m mm m

g f n i n k d n−

= =t = t ≤ < ≤ ≤ =∑ ∑ равенство (8) имеет вид

1

1 1 1

112,..., 1

max 0 1 1 ,..., 0 1 1

1 ( ) ( )lim 2

j

dj n d n

j

vN

n n j jt n n v v j n

I F a−∞

+D → h =± h =± = =± =± =

= ⋅ ⋅ ⋅ ⋅ ⋅ ⋅ h h − ×∑ ∑ ∑ ∑ ∑ ∏

1

1

1121 1 1

1 1 1( )( ) exp{( ) } .k k k k

N

Nn nk j j j j j j j

j j k j ng t t t v t t b

−h

− − −= = = =

× ⋅ ⋅ ⋅ − − h b a∑ ∑ ∏ ∏

Представим множество { , 1 }kj k N≤ ≤ в виде объединения множеств , 1lJ l L≤ ≤ , где множество lJ состоит из чисел ,kj которые равны между собой и равны .li Все , 1 ,li l L≤ ≤ имеют разные значения и 1 2 ... .Li i i< < < Число элементов в множестве lJ равно .lp Тогда, выполняя суммирование по v1,..., vn, получаем равенство

1

1 1,...,

max 0 1 1 ,..., 0( )lim d

j n dj

Nn n

t n nI F a

∞

D → h =± h =± == ⋅ ⋅ ⋅ − ×∑ ∑ ∑

1

11 1

1 1 , 1

1 1(1 ) (1 ( 1) )2 2

ll l

N k

Ln n pj j i i

j j j n j j l+ +

= = = ≠ =× ⋅ ⋅ ⋅ + h h + − h h ×∑ ∑ ∏ ∏

111

21 1 11

( )( ) exp{( ) } .k k k

Nk j j j j j j

k j ng t t t t t b

−h

− − −= =

× − − h b a∏ ∏

В данной формуле функциональный интеграл представляется в виде суммы по конфигурациям, задаваемым всевозможными наборами чисел 1( ,..., ), 1, 1 .n j j nh h h = ± ≤ ≤ При этом пред



Беларуси

22

ставлении ненулевой вклад в значение интеграла дает только одна конфигурация 1, ,j j kj j+η = η ≠

1( 1) , , 1 .lpj j lj i l L+η = − η = ≤ ≤ То есть 1 1... 1,Ln n i− +η = η = = η = 11 1... ( 1) ,L

L L Lp

i i i −− +η = η = = η = − ..., 1

1 1 1 1... ( 1) ( 1) .Lp pi i −η = η = = η = − ⋅⋅ ⋅ − Таким образом, значение интеграла равно значению суммы

на этой единственной конфигурации. Следовательно, после суммирования по η1,..., ηn получаем равенство

1

1 1,...,

max 0 ,..., 0 1 1( )lim d

j d Nj

n nNn n

t n n j jI F a

∞

∆ → = = == − ⋅ ⋅ ⋅ ×∑ ∑ ∑ (9)

11 11 0

( )( ) exp{( )( 1) } ,k k k m mk k

N Nk N

k j j j j jk k

g t t t t t b+− −= =

× − − − β α∏ ∏

где 1( ,..., )Nm m – перестановка чисел (1,..., )N такая, что 1 2 ... Nm m mj j j≥ ≥ ≥ , 0 1, .m mNj jt t t s+= =

Из условия существования интегралов ( ) , 1 ,t

ks

f d k dτ τ ≤ ≤∫ следует, что существует

1

11 1

max 0 1 1 1 0( )( ) exp{( )( 1) }lim k k k m mk k

j Nj

N Nn n kk j j j j j

t j j k kg t t t t t b+− −

∆ → = = = =⋅ ⋅ ⋅ − − − β∑ ∑ ∏ ∏ (10)

и равен

1 1

1 0( ) ( ) exp{( )( 1) } ... k k

t t N Nk

k k m m Nk ks s

N g b d d+= =

τ τ − τ − β τ τ∏ ∏∫ ∫ ,

где 1 2 ... Nm m mτ ≥ τ ≥ ≥ τ , 0 1, .Nm mt s+τ = τ =

Из условия существования интегралов ( ) , 1 ,t

ks

f d k dτ τ ≤ ≤∫ и неравенств | ( ) | , 1 ,t

k ks

c f d k d> τ τ ≤ ≤∫

следует, что существует такое 1,n что для всех 1n n≥

1

11 1

1 1 1 0 1( )( ) exp{( )( 1) } exp{ | | } .k

k k k m mk kN

N N dn n k nk j j j j j k

j j k k kg t t t t t b t b c+− −

= = = = =⋅ ⋅ ⋅ − − − β ≤ β∑ ∑ ∏ ∏ ∏ (11)

Из неравенств | ( ) | , 1 ,t

k ks

c f d k d> τ τ ≤ ≤∫ и сходимости ряда 11

1,..., 1

,..., 0| || | d

dd

N n nn n d

n nF a c c

∞

=⋅ ⋅ ⋅∑

следует, что для любого малого 0ε > существует такое ,n что для всех , 1 ,jn n j d≥ ≤ ≤

1 1

1,..., 1

1 0,...,( ) ( ) ( ) exp{( )( 1) } ... d k k

d

t t N NN k N

n n k k m m Nk kn n n s s

F a N g b d d+

∞

= ==− τ τ − τ − β τ τ α ≤∑ ∏ ∏∫ ∫

11

1,..., 1

,...,| || | exp{ | | } exp{ | | } ,d

dd

N n nn n d

n n nF a t b c c t b

∞

=≤ β ⋅ ⋅ ⋅ α < ε β α∑ (12)

где { }max , .Eα = α

Из неравенства (11) и сходимости ряда 11

1,..., 1

,..., 0| || | d

dd

N n nn n d

n nF a c c

∞

=⋅ ⋅ ⋅∑ следует, что для любо-

го малого 0ε > существует такое ,n что для всех , 1 ,jn n j d≥ ≤ ≤ и 1n n≥

1 1

11,..., 1 1

1 1 1 0,...,( ) ( )( ) exp{( )( 1) }d k k k m mk k

Nd

N Nn nN k Nn n k j j j j j

j j k kn n nF a g t t t t t b+

∞− −

= = = ==− ⋅ ⋅ ⋅ − − − β α ≤∑ ∑ ∑ ∏ ∏

11

1,..., 1

,...,| || | exp{ | | } exp{ | | } .d

dd

N n nn n d

n n nF a t b c c t b

∞

=≤ β ⋅ ⋅ ⋅ α < ε β α∑ (13)



Беларуси

23

Из существования предела (10) следует, что для n существует такое 2 ,n что для всех 2n n≥

1 1

1,..., 1

,..., 0 1 0( ) ( ) ( ) exp{( )( 1) } ...d k k

d

t t N Nn N kn n k k m m N

n n k ks sF a N g b d d+

= = =

− τ τ − τ − β τ τ −

∑ ∏ ∏∫ ∫

11

1 11 1 1 0

( )( ) exp{( )( 1) }k k k m mk kN

N Nn n k Nk j j j j j

j j k kg t t t t t b+− −

= = = =

− ⋅ ⋅ ⋅ − − − β α ≤

∑ ∑ ∏ ∏

11

1,..., 1

,..., 0| || | .d

dd

n N n nn n d

n nF a c c S

=≤ ε ⋅ ⋅ ⋅ α ≤ ε α∑ (14)

Из неравенств (12)–(14) следует, что для 1 2max{ , }n n n≥

1 1

1,..., 1

,..., 0 1 0( ) ( ) ( ) exp{( )( 1) } ... d k k

d

t t N NN k N


F a N g b d d+

∞

= = =− τ τ − τ − β τ τ α −∑ ∏ ∏∫ ∫

1 11 1

,..., 1 1,..., 0 1 1 1 0

( ) ( )( ) exp{( )( 1) }d k k k m mk kd N

N Nn nN k Nn n k j j j j j

n n j j k kF a g t t t t t b+

∞− −

= = = = =− − ⋅ ⋅ ⋅ − − − β α ≤∑ ∑ ∑ ∏ ∏

exp{ | | } exp{ | | } (2exp{ | | } ) .t b S t b t b S≤ ε β α + ε α + ε β α = ε β + α

Следовательно, существует предел в формуле (9) и его значение равно

1 1

1,..., 1

,..., 0 1 0( ) ( ) ( ) exp{( )( 1) } ... .d k k

d

t t N NN k N


F a N g b d d+

∞

= = =− τ τ − τ − β τ τ α∑ ∏ ∏∫ ∫ (15)

Из приведенного доказательства следует, что значение

11

,...,...0 0 1 1 1 1

( ) ( ) ( ) ( )k k

dd

t t n nd dn n k kj kj

n n k j k js sF N f dx d x

∞ ∞

= = = = = =⋅ ⋅ ⋅ τ τ µ∑ ∑ ∏∏ ∏∏∫ ∫ ∫

также равно (15). То есть теорема доказана.2. Интегралы, содержащие малый и большой параметры. Из вида разложения (4) следует,

что удобно использовать разложение (4) для приближенного вычисления матричнозначных функциональных интегралов при малых значениях параметра a. В качестве примера рассмо-трим вычисление матричнозначного функционального интеграла

exp ( ) ( ) ( ).

t

sdx d x

λ τ τ µ

∫ ∫

Используя разложение (4), получаем:

exp ( ) ( ) ( )

t

sdx d x

λ τ τ µ =

∫ ∫

1 1

1 11 1

11 1

10 1 0

1 ( ) ( ) ( ) exp{( )( 1) } ... ! k k

t t n nn k n

k m m nn k ks s

a n b d dn +

∞

= = == − λ τ τ − τ − β τ τ α =∑ ∏ ∏∫ ∫ (16)

1

1 1 1 11 1

1 3 21 1 2 1

0 1( ) ( ) ( )exp{( 2 2 ... ( 1) 2 ( 1) ) } ... .

t t t nn n n n

k n nn ks

a n t s b d d∞

= =τ τ= − λ τ − τ + τ − + − τ − − β τ τ α∑ ∏∫ ∫ ∫

Если в разложении использовать многочлены нулевой и первой степени, т. е. взять в правой части равенства (16) первые два слагаемых ( 1 0,1a = ), получим

exp ( ) ( ) ( ) exp{( ) } ( )exp{( 2 ) } .

t t

s sdx d x t s b a t s b d

λ τ τ µ ≈ − β − λ τ − τ + β τα

∫ ∫ ∫ (17)



Беларуси

24

Точное значение при 0,1; 1; 2; 1; 1;a b t s= = = = λ ≡ 1 0 0 1

; 0 1 1 0

α = β = − равно

1,431 1,177.

1,177 1,667

Если в разложении учитывать многочлены только нулевой степени, то получим приближен-

ное значение 1,543 1,175

ch( ( )) sh( ( )) .1,175 1,543

b t s E b t s − + − β =

Если в разложении учитывать многочлены нулевой и первой степени, то получим прибли-женное значение

1,426 1,175ch( ( )) sh( ( )) sh( ( )) .

1,175 1,661ab t s E b t s b t sb

λ− + − β − − α =

Разложение (4) также удобно использовать для приближенного вычисления матричнознач-ных функциональных интегралов при больших значениях параметра b. Пусть ( ) , 1 .kf C k dτ ≤ ≤ ≤ Тогда кратные интегралы в формуле (4) можно оценить величиной

1 1

0( ) exp{( )( 1) } ... k k

t t NN k

m m Nks s

C N b d d+=

τ − τ − β τ τ ≤∏∫ ∫

3 2

1 2 1! exp{ } ( ) exp{(2 2 2 ... 2( 1) ( 1) ) } ... .t t t

N N NN N

sC N b t N t s b d d

τ τ≤ − β − τ + τ − + − τ − − β τ τ∫ ∫ ∫

После вычисления интегралов по 1 2d dτ τ получим оценку

5 43 3! ( 2) exp{(2 2 2 ... 2( 1) ( 1) ) } ... .

2

t t tN b t N N

N N Ns

tC N e N t s b d db

− β

τ τ− − τ + τ − + − τ − − β τ τ

β ∫ ∫ ∫

Далее, вычисляя интегралы по 3... Nd dτ τ , придем к оценке

! exp{(2 ) } ,

2N b t tC N e t s b H

b− β − β

β

где 2 ,2

NtHb

= β если N четно,

121 ,

2 2

NtH

b b

− = β β

если N нечетно.

Из вида константы H следует, что разложение (4) удобно использовать для приближенного вычисления матричнозначных функциональных интегралов при больших значениях параметра b.

В качестве примера рассмотрим вычисление матричнозначного функционального интеграла

exp ( ) ( ) ( ).

t

sdx d x

λ τ τ µ

∫ ∫

Если в разложении использовать многочлены нулевой и первой степени, то этот интеграл можно вычислить по приближенной формуле (17).

Точное значение при 1; 10; 2; 1; 1;a b t s= = = = λ ≡ 1 0 0 1

; 0 1 1 0

α = β = − равно

10414,2 11507,3.

11507,3 12715,6

Если в разложении учитывать многочлены только нулевой степени, то получим приближен-

ное значение 11014,2 11014,1

ch( ( )) sh( ( )) .11014,1 11014,2

b t s E b t s − + − β =

Если в разложении учитывать многочлены нулевой и первой степени, то получим прибли-женное значение

9912,8 11014,1ch( ( )) sh( ( )) sh( ( )) .

11014,1 12115,6ab t s E b t s b t sb

λ− + − β − − α =



Беларуси

Работа выполнена при поддержке Белорусского республиканского фонда фундаментальных исследований (проект Ф12Д-001).


1. Eгоров A. Д., Соболевский П. И., Янович Л. A. Приближенные методы вычисления континуальных интегралов. Минск, 1985.

2. Egorov A. D., Sobolevsky P. I., Yanovich L. A. Functional integrals: Approximate evaluation and Applications. Dord-recht, 1993.

3. Егоров А. Д., Жидков Е. П., Лобанов Ю. Ю. Введение в теорию и приложения функционального интегрирования. М., 2006.

4. Ichinose T., Tamura H. // J. Math. Phys. 1984. Vol 25, N. 6. P. 1810–1819.5. Ichinose T., Tamura H. // J. Math. Phys. 1988. Vol. 29, N. 1. P. 103–109.

E. A. AYRYAN, V. B. MALYUTIN

EVALUATION OF MATRIX-VALUED FUNCTIONAL INTEGRALS USING FUNCTIONAL POLYNOMIALS

Summary

The method of approximate evaluation of matrix-valued functional integrals, generated by the solution of the Dirac equation is proposed. The method is based on the expansion of the functional in a series. The terms of the series have the form of a product of linear functionals with an increasing total power. The convergence of this series for a wide class of functionals is proved.



Беларуси

26


УДК 517.968

Г. А. РАСОЛЬКО

ПРИБЛИЖЕННОЕ РЕШЕНИЕ ИНТЕГРАЛЬНОГО УРАВНЕНИЯ ПЕРВОГО РОДА С МУЛЬТИПЛИКАТИВНЫМ ЯДРОМ КОШИ

МЕТОДОМ ОРТОГОНАЛЬНЫХ МНОГОЧЛЕНОВ



Рассмотрим сингулярное интегральное уравнение вида

1 2 31 2 3 1 2 3 1 2 3 1 2 3 1 2 33 3

1 1 2 2 3 3

1 2 3 1 2 3

1 ( , , ) 1 ( , , , , , ) ( , , )( )( )( )

( , , ), ( , , ) = [ 1,1] [ 1,1] [ 1,1],D D

t t t dt dt dt k x x x t t t t t t dt dt dtt x t x t x

f x x x x x x D

j+ j =

− − −π π= ∈ − × − × −

∫∫∫ ∫∫∫ (1)

где ,f k − заданные функции cвоих аргументов, непрерывные по Гельдеру, j –искомая функция, непрерывная по Гельдеру.

Как и в одномерном случае [1], решение уравнения (1) зависит от класса функций, в котором оно разыскивается. Вопросы обратимости простейших так называемых характеристических операторов с мультипликативным ядром Коши изучались в работах [2–6].

Для построения вычислительной схемы численного решения уравнения (1), основанной на раз ложении сингулярного и регулярного интегралов по многочленам Чебышева, применим известные «спектральные соотношения» для сингулярных интегралов [7]:

1 1 21 11 12

1 ( ) 1= ( ), 1 ( ) = ( ), | |< 1, = 0,1,2, ,1

nn n n

T t dt dtU x t U t T x x nt x t xt

− −− − − −π − π −−

∫ ∫ (2)

где 1( ), ( )n nT x U x− – многочлены Чебышева первого и второго рода, и приведем необходимые сведения из теории уравнения (1).

I. Рассмотрим вначале построение вычислительной схемы численного решения уравнения (1) в классе функций, ограниченных на всем замкнутом кубе D. Уравнение (1) эквивалентно (в смыс ле

разрешимости) относительно функции 2 2 21 2 3 1 2 3 1 2 3( , , ) = ( , , ) (1 )(1 )(1 )u x x x x x x x x xj − − − интег

ральному уравнению Фредгольма вида

1 2 3 1 2 3 1 2 3 1 2 3 1 2 3 1 2 3( , , ) ( , , , , , ) ( , , ) = ( ; , , ),

Du x x x N x x x t t t u t t t dt dt dt R f x x x+ ∫∫∫ (3)

2 2 21 2 3 1 2 3 1 2 3

1 2 3 1 2 3 1 2 36 2 2 2 1 1 2 2 3 31 2 3

( , , , , , ) = (1 )(1 )(1 )1 ( , , , , , ) ,

( )( )( )(1 )(1 )(1 )D

N x x x t t t t t tk t t t d d d

x x x

− − − − ×

x x x x x x×

x − x − x −π − x − x − x∫∫∫

где 1 2 3 1 2 31 2 3 3 2 2 2 1 1 2 2 3 31 2 3

1 ( , , )( ; , , ) = ,( )( )( )(1 )(1 )(1 )D

f t t t dt dt dtR f x x xt x t x t xt t t

−− − −π − − −

∫∫∫

с присоединенными к нему уравнениями



Беларуси

27

1 2 2 21 2 3 1 2 3 1 2 3 1 2 3 1 2 31 3 2

1 1 2 31 2 31 2

1 ( , , , , , ) (1 )(1 )(1 ) ( , , ) =1

( , , ) , = 1, 2, 3, 1 < , , < 1.1

k

D k

kk

dxk x x x t t t t t t u t t t dt dt dtx

f x x x dx k x x xx

−

−

− − −

π −

= −−

∫ ∫∫∫

∫ (4)

Если однородное уравнение (3) неразрешимо, то решение неоднородного уравнения (3) определяется формулой

1 2 3 1 2 3 1 2 3 1 2 3 1 2 3 1 2 3( , , ) ( ; , , ) ( , , , , , ) ( ; , , ) ,

Du x x x R f x x x x x x R f d d d= − Γ x x x x x x x x x∫∫∫ (5)

где 1 2 3 1 2 3( , , , , , )x x xΓ x x x – резольвента ядра 1 2 3 1 2 3( , , , , , )N x x x x x x .Подставляя в (4) вместо 1 2 3( , , )u x x x правую часть , получим условия вида

11 2 3 1 2 3 1 2 31 2

1 ( , , ) ( , , ) = 0, = 1, 2, 3, 1 < , , < 1,1

kk

k

dxx x x f x x x k x x xx

− w −π −

∫ (6)

где kw − определенные функции. Т е о р е м а 1. Пусть функции 1 2 3 1 2 3 1 2 3( , , , , , ), ( , , )k x x x t t t f x x x , входящие в уравнение (1),

принадлежат классу Гельдера (по всем переменным), пусть, далее, однородное уравнение Фредгольма (3) неразрешимо. Тогда при выполнении условий (необходимых и достаточных) (6) решение уравнения (1) относительно функции 2 2 2

1 2 3 1 2 3 1 2 3( , , ) = ( , , ) (1 )(1 )(1 )u x x x x x x x x xj − − − определяется формулой (5).

Построим приближенное решение уравнения (1). С этой целью функции нескольких пере-менных 1 2 3 1 2 3 1 2 3( , , , , , ), ( , , )k x x x t t t f x x x аппроксимируем интерполяционными многочленами, построенными по узлам – нулям многочлена Чебышева первого рода ([8, с. 89]).

Введем обозначения:

1, = 0, 2 1 2 1= = cos , = 1, 1, = cos , = 1, , = 1,2,3.

2, 1, 2 2 2k qj j jj j

p j jj jjj

p k qx k n t q n j

p n n− −

δ π + π ≥ + (7)

В следующих представлениях будем использовать обозначения (7).Приближенное решение 1 1 2 3( , , )nu x x x− найдем как точное решение уравнения

1 2 32 2 21 2 3 1 1 2 33

1 1 2 2 3 3

2 2 2, 1 1 2 3 1 2 3 1 2 3 1 1 2 3 1 2 33

1 2 3 1 2 3 2 1 3 3 1 2 1

1 (1 )(1 )(1 ) ( , , )( )( )( )

1 ( , , , , , ) (1 )(1 )(1 ) ( , , ) =

( , , ) ( , ) ( , ) ( , ), 1 <

nD

n n nD

n

dt dt dtt t t u t t tt x t x t x

k x x x t t t t t t u t t t dt dt dt

f x x x Q x x Q x x Q x x x

−

− −

− − − +− − −π

+ − − −π= + + + −

∫∫∫

∫∫∫

2 3, , < 1,x x

(8)

где

1 1 1

1 2 3 1 2 3 , 1 1 2 3 1 2 3 1 2 3 1 2 30 0 0 0 0 01 2 3 1 2 3

1 2 3 1 2 31 2 3 1 2 3

( , , , , , ) ( , , , , , ) = , , , , ,= = = = = =

( ) ( ) ( ) ( ) ( ) ( ),

n n n n n nn n m m m p p p

m m m p p p

m m m p p p

k x x x t t t k x x x t t t

T x T x T x T t T t T t

− − −−≈ a ×

×

∑ ∑ ∑ ∑ ∑ ∑ (9)

1 1 131 2

1 2 31 2 3 1 2 3 1 1 2 2 3 32 31 1 11 2 3

3 3 31 2 1 2 1 21 2 3 1 2 3 1 2 31 1 2 2 3 3

1 1 11 2 3

1= ( ) ( ) ( ), , , , ,( ) = = =

( ) ( ) ( ) ( , , , , , ),= = =

n n n kk km m m p p p m m m m m m

k k k

n n n q k qq q k k q qp p p p p p

q q q

T x T x T xn n

T t T t T t k x x x t t t

+ + +a δ δ δ ×

+

× δ δ δ

∑ ∑ ∑

∑ ∑ ∑

1 2 3 1 2 3 1 2 31 2 3 1 2 30 0 01 2 3

( , , ) ( , , ) = ( ) ( ) ( ),, ,= = =

n n nn m m m m m m

m m mf x x x f x x x T x T x T x≈ b∑ ∑ ∑ (10)



Беларуси

28

1 1 1

3 31 2 1 21 2 3 1 2 31 2 3 1 1 2 2 3 33

1 1 11 2 3

1= ( ) ( ) ( ) ( , , ),, ,( 1) = = =

n n n k kk k k km m m m m m m m m

k k kT x T x T x f x x x

n

+ + +b δ δ δ

+∑ ∑ ∑

1 1 1

1 1 2 3 1 2 31 2 3 1 2 30 0 01 2 3

( , , ) = ( ) ( ) ( ),, ,= = =

n n nn k k k k k k

k k ku x x x c U x U x U x

− − −− ∑ ∑ ∑

1 2 3 ( = 0,1, , 1, = 1,2,3), ,k k k jc k n j− − коэффициенты, подлежащие нахождению.Bспомогательные многочлены 1 2 3 2 1 3 3 1 2( , ), ( , ), ( , )Q x x Q x x Q x x определим так, чтобы для урав-

нения (8) были выполнены условия разрешимости

11 2 3 1 2 3 2 1 3 3 1 2 1 2 31 2

1 ( ( , , ) ( , ) ( , ) ( , )) = 0, 1 < , , < 1, = 1, 2, 3,1

kn

k

dxG x x x Q x x Q x x Q x x x x x kx

− + + + −π −

∫

2 2 2

1 2 3 1 2 3 , 1 1 2 3 1 2 3 1 2 3 1 1 2 3 1 2 331( , , ) = ( , , ) ( , , , , , ) (1 )(1 )(1 ) ( , , ) .n n n n n

DG x x x f x x x k x x x t t t t t t u t t t dt dt dt− −− − − −

π∫∫∫

Нетрудно получить из предыдущего тождества

31 2 3 2 1 3 3 1 2 1 2 3

2=1

1 1 1 11 2 1 3

1 2 3 1 2 32 22 2 2 21 1 1 11 2 1 3

1 12 3

1 2 32 32 21 1 2 3

1( , ) ( , ) ( , ) = ( , , )1

1 1( , , ) ( , , )(1 )(1 ) (1 )(1 )

1 1( , , )(1 )(1 )

kn

k k

n n

nD

dxQ x x Q x x Q x x G x x xx

dx dx dx dxG x x x G x x xx x x x

dx dxG x x xx x

− − − −

− −

+ + − +π −

+ + +π π− − − −

+ −π π− −

∑

∫ ∫ ∫ ∫

∫ ∫ ∫∫∫ 1 2 31 2 3

2 2 21 2 3

( , , ) .(1 )(1 )(1 )

ndx dx dxG x x x

x x x− − −

В результате будем иметь следующее приближенное уравнение относительно неизвестной функции 1 1 2 3( , , ) :nu x x x−

1 2 32 2 21 2 3 1 1 2 33

1 1 2 2 3 3

* 2 2 2, 1 1 2 3 1 2 3 1 2 3 1 1 2 3 1 2 33

*1 2 3 1 2 3

1 (1 )(1 )(1 ) ( , , )( )( )( )

1 ( , , , , , ) (1 )(1 )(1 ) ( , , ) =

( , , ), 1 < , , < 1,

nD

n n nD

n

dt dt dtt t t u t t tt x t x t x

k x x x t t t t t t u t t t dt dt dt

f x x x x x x

−

− −

− − − +− − −π

+ − − −π

= −

∫∫∫

∫∫∫ (11)

где

*, 1 1 2 3 1 2 3 , 1 1 2 3 1 2 3 1 2 3 1 2 3

131 2 3 1 2 3 , 1 1 2 3 1 2 3

2=1 1

1 1, 1 1 2 3 1 2 3 1 2

2 2 21 1 1 2

( , , , , , ) = ( , , , , , ) ( , , , , , ),

1( , , , , , ) = ( , , , , , )1

( , , , , , )1

(1 )(1 )

n n n n n

kn n n

k k

n n

k x x x t t t k x x x t t t W x x x t t t

dxW x x x t t t k x x x t t tx

k x x x t t t dx dx

x x

− −

−−

−

− −

+

− +π −

+π − −

∑ ∫

∫ ∫1 1

, 1 1 2 3 1 2 3 1 32 2 21 1 1 3

1 1, 1 1 2 3 1 2 3 2 3 , 1 1 2 3 1 2 3 1 2 3

2 32 2 2 2 21 1 2 3 1 2 3

( , , , , , )1

(1 )(1 )

( , , , , , ) ( , , , , , )1 1 ,(1 )(1 ) (1 )(1 )(1 )

n n

n n n n

D

k x x x t t t dx dx

x x

k x x x t t t dx dx k x x x t t t dx dx dx

x x x x x

−

− −

− −

− −

+ +π − −

+ −π π− − − − −

∫ ∫

∫ ∫ ∫∫∫

*1 2 3 1 2 3 1 2 3

1 1 13 1 2 3 1 21 2 3 1 2 3 22 2 2=1 1 1 1 1 2

1 1 1 11 2 3 1 3 1 2 3

2 22 21 1 1 11 3

( , , ) = ( , , ) ( , , ),

1 1 ( , , )( , , ) = ( , , )1 (1 )(1 )

1 ( , , ) 1 ( , , )

(1 )(1 )

n n n

k nn n

k k

n n

f x x x f x x x V x x x

dx f x x x dx dxV x x x f x x xx x x

f x x x dx dx f x x x dx

x x

− − −

− − − −

+

− + +π π− − −

+ +π π− −

∑ ∫ ∫ ∫

∫ ∫ ∫ ∫ 2 3 1 2 3 1 2 332 2 2 2 2

2 3 1 2 3

1 ( , , ) .(1 )(1 ) (1 )(1 )(1 )

n

D

dx f x x x dx dx dx

x x x x x−

π− − − − −∫∫∫



Беларуси

29

Пользуясь формулой

12

1

1/ 2, = 0,1= 1 ( ) = 1/ 2, = 2,

0, 0, 2,k k

kJ t U t dt k

k k−

− − −

π ≠ ≠ −∫ (12)

упростим интегралы, входящие в многочлены 1 2 3 1 2 3( , , ), ( , , ),n nW x x x V x x x и этим получим их представление через многочлены ( ), = 0,1, , .m j jjT x m n Имеем

*, 1 1 2 3 1 2 3

1 1 11 2 3 1 2 31 2 3 1 2 3 1 2 3 1 2 3

0 0 0 0 0 01 2 3 1 2 31 1 1

0, 2 32 3 1 2 33 2 30 0 0 0 02 3 1 2 3

( , , , , , ) =

= ( ) ( ) ( ) ( ) ( ) ( ), , , , ,= = = = = =

( ) ( ), , , ,= = = = =

n nn n n n n n

m m m p p p m m m p p pm m m p p p

n n n n nm m p p p m m

m m p p p

k x x x t t t

T x T x T x T t T t T t

T x T x

−

− − −

− − −

a −

− a

∑ ∑ ∑ ∑ ∑ ∑

∑ ∑ ∑ ∑ ∑ 1 2 31 2 3

1 1 10 1 3 1 2 31 3 1 2 3 1 3 1 2 3

0 0 0 0 01 3 1 2 31 1 1

, 0 1 2 1 2 31 2 1 2 3 1 2 1 2 30 0 0 0 01 2 1 2 3

( ) ( ) ( )

( ) ( ) ( ) ( ) ( ), , , , ,= = = = =

( ) ( ) ( ) ( ) (, , , ,= = = = =

p p p

n n n n nm m p p p m m p p p

m m p p p

n n n n nm m p p p m m p p p

m m p p p

T t T t T t

T x T x T t T t T t

T x T x T t T t T t

− − −

− − −

−

− a −

− a

∑ ∑ ∑ ∑ ∑

∑ ∑ ∑ ∑ ∑

1 1 10 0 1 1 2 31 1 2 3 1 1 2 3

0 0 0 01 1 2 31 1 1

0, 0 2 1 2 32 1 2 3 2 1 2 30 0 0 02 1 2 3

1 1 10,0, 3 1 2

0 0 0 03 1 2 3

)

( ) ( ) ( ) ( ), , , , ,= = = =

( ) ( ) ( ) ( ), , , ,= = = =

, , ,= = = =

n n n nm p p p m p p p

m p p p

n n n nm p p p m p p p

m p p p

n n n nm p p p

m p p p

T x T t T t T t

T x T t T t T t

− − −

− − −

− − −

+

+ a +

+ a +

+ a

∑ ∑ ∑ ∑

∑ ∑ ∑ ∑

∑ ∑ ∑ ∑ 3 1 2 33 3 1 2 3

1 1 10,0,0, 1 2 31 2 3 1 2 3

0 0 01 2 3

( ) ( ) ( ) ( )

( ) ( ) ( ),, ,= = =

m p p p

n n np p p p p p

p p p

T x T t T t T t

T t T t T t− − −

−

− a∑ ∑ ∑

*1 2 3 1 2 31 2 3 1 2 3

0 0 01 2 3

0, 2 3 0 1 32 3 2 3 1 3 1 30 0 0 02 3 1 3

0 1 2 0,0 11 2 1 2 1 10 0 01 2 1

002

( , , ) = ( ) ( ) ( ), ,= = =

( ) ( ) ( ) ( ), , ,= = = =

( ) ( ) ( ), , ,= = =

=

n n nn m m m m m m

m m m

n n n nm m m m m m m m

m m m m

n n nm m m m m m

m m m

n

m

f x x x T x T x T x

T x T x T x T x

T x T x T x

b −

− b − b −

− b + b +

+ b

∑ ∑ ∑

∑ ∑ ∑ ∑

∑ ∑ ∑

∑ , 0 2 0,0, 3 0,0,02 2 3 303

( ) ( ) .,=

nm m m m

mT x T x+ b − b∑

Применяя в (11) свойство линейности интеграла и переходя от кратных интегралов к повторным, учтя аппроксимации (9), (10) и спектральные соотношения (2), из (11) получим:

1 1 11 1 1 2 1 31 2 3 1 2 3

0 0 01 2 31 1 1 1 1 1

1 2 31 2 3 1 2 3 1 2 3 1 2 30 0 0 0 0 0 0 0 01 2 3 1 2 3 1 2 3

( ) ( ) ( ), ,= = =

* ( ) ( ) ( ), , , , , , ,= = = = = = = = =

n n nk k k k k k

k k k

n n n n n n n n nm m m p p p m m m k k k

m m m p p p k k k

c T x T x T x

T x T x T x c

− − −+ + +

− − − − − −

− +

+ a ×

∑ ∑ ∑

∑ ∑ ∑ ∑ ∑ ∑ ∑ ∑ ∑ (13)

13

21 2 31 2 3 1 2 3

0 0 01 1 1 2 3

1 *1 ( ) ( ) ( ) ( ) ( )., ,= = =

n n nj p j k j j m m m m m mj j

m m mjt T t U t dt T x T x T x

= −× − = b

π∑ ∑ ∑∏ ∫



Беларуси

30

Используя формулы 2 ( ) ( ) = ( ) ( )p k p k p kT x U x U x U x− ++ и (12), упростим интегралы, входящие в (13). Приравнивая в (13) коэффициенты при одинаковых многочленах 1 21 2( ), ( ),m mT x T x 33 ( ),mT x

> 0, = 1,2,3,jm j для нахождения 1 2 3

( = 0,1, , 1, = 1,2,3), , jkc k n jk k − получим систему линейных алгебраических уравнений вида

1 1 11 1 11 2 3 1 2 3 1 2 3 1 2 3 1 2 3

0 0 01 2 3= , = 1,2, , , = 1,2,3,, , , , , , , , , , ,

= = =

n n nm m m k k k m m m k k k m m m j

k k kc c m n j

− − −− − −− + m b∑ ∑ ∑ (14)

1 2 3 1 2 3

1 1 1

1 2 3 1 2 3 1 1 1 1 2 2 2 2 3 3 3 30 0 01 2 3

=, , , , ,1 ( )( )( )., , , , ,8 = = =

m m m k k k

n n nm m m p p p p k p k p k p k p k p k

p p pJ J J J J J

− − −

m

= a + + +− + − + − +∑ ∑ ∑

Приведем теорему, устанавливающую разрешимость системы (14).Введем класс функций ( ), 1, 0 < 1.rW H rm ≥ m ≤Мы говорим, что функция 1 2 3( , , ) ( ), 1,rf x x x W H r∈ m ≥ если она по каждой переменной

имеет производные до порядка r ≥ 1 и r-я производная из класса ( ), 0 < 1.H m m ≤Т е о р е м а 2. Пусть выполнены условия теоремы 1. Если ( ),rk W H∈ m ( ),rf W H∈ m 1, 0 < 1,r ≥ m ≤

то при достаточно больших n система (14) разрешима и

6

1 2 3 1 1 2 3 3ln|| ( , , ) ( , , ) || = , 3 > 0.n C r

nu x x x u x x x O rn

+ +m−

− + m −

Д о к а з а т е л ь с т в о проводится по схеме работы [9].II. Далее будем разыскивать решение 1 2 3( , , )x x xj в классе H*. Это означает, что 1 2 3( , , )x x xj

в любой замкнутой области из D, не содержащей граничных точек, принадлежит классу H, а вблизи граничных точек представима в виде

1 1 2 2 3 31 2 3 1 1 2 2 3 3 0 1 2 3( , , ) = ( 1) ( 1) ( 1) ( 1) ( 1) ( 1) ( , , ),x x x x x x x x x x x xa b a b a bj + − + − + − j где 0 1 2 3( , , ) , 1 < , 0, = 1,2,3.j jx x x H jj ∈ − a b ≤

Известно, что решение задачи

1 2 3

1 2 3 1 2 3 1 2 331 1 2 2 3 3

1 ( , , ) = ( , , ), ( , , ) ,( )( )( )D

t t t dt dt dt f x x x x x x Dt x t x t x

j∈

− − −π∫∫∫ (15)

1 11 2 3 1 1 2 3 1 2 3 2 2 1 21 1

11 2 3 3 3 1 2 1 2 31

1 1( , , ) = ( , ), ( , , ) = ( , ),

1 ( , , ) = ( , ), 1 < , , < 1,

t x x dt g x x x t x dt g x x

x x t dt g x x x x x

− −

−

j jπ π

j −π

∫ ∫

∫ (16)

где 1 2 3 2 1 2 3 1 2( , ), ( , ), ( , )g x x g x x g x x – заданные функции класса H*, удовлетворяющие следу ющим условиям согласования:1 1 1 1 1 1

1 2 3 2 2 1 3 1 1 2 3 3 3 1 2 1 2 1 3 3 3 1 2 21 1 1 1 1 1

( , ) = ( , ) , ( , ) = ( , ) , ( , ) = ( , ) ,g t x dt g t x dt g x t dt g t x dt g x t dt g x t dt− − − − − −∫ ∫ ∫ ∫ ∫ ∫

(17)

1 1 1 1 1 1 21 2 3 2 3 2 1 3 1 3 3 1 2 1 21 1 1 1 1 1( , ) = ( , ) = ( , ) = ,g t t dt dt g t t dt dt g t t dt dt A− − − − − − π∫ ∫ ∫ ∫ ∫ ∫

согласно [5], дается формулой

1 2 31 2 3 1 2 3

2 2 21 2 3

( ; , , )( , , ) = ( , , ),(1 )(1 )(1 )

R f x x xx x x G x x xx x x

j +− − −

(18)

где

2 2 21 2 3

1 2 3 1 2 3 1 2 331 1 2 2 3 3

(1 )(1 )(1 )1( ; , , ) = ( , , ) ,( )( )( )D

t t tR f x x x f t t t dt dt dt

t x t x t x− − −

−− − −π

∫∫∫ (19)



Беларуси

31

11 2 3 2 1 3 3 1 21 2 3 1 2 3 212 2 2 2 2

1 2 3 1 2

1 13 1 2 1 2 1 3 31 12 2 2 2 2 2 2

1 3 2 3 1 2 3

( , ) ( , ) ( , ) 1 1( , , ) = ( , )1 1 1 (1 )(1 )

1 1 1 1( , ) ( , ) .(1 )(1 ) (1 )(1 ) (1 )(1 )(1 )

g x x g x x g x xG x x x g t x dtx x x x x

Ag t x dt g x t dtx x x x x x x

−

− −

+ + − −π− − − − −

− − +π π− − − − − − −

∫

∫ ∫

Обратимся теперь к уравнению (1) и присоединим к нему условия (16). Полагая

*

1 2 3 1 2 3 1 2 3( , , ) = ( , , ) ( , , ),x x x x x x x x xj j + ψ от задачи (1), (16), (17) приходим к двум задачам:

*1 2 3

1 2 3 1 2 331 1 2 2 3 3

1 ( , , ) = 0, ( , , ) ,( )( )( )D

t t t dt dt dt x x x Dt x t x t x

j∈

− − −π∫∫∫ (20)

1 1* *1 2 3 1 1 2 3 1 2 3 2 2 1 21 1

1 * *1 2 3 3 3 1 2 1 2 3 3 1 2 31 3

1 1( , , ) = ( , ), ( , , ) = ( , ),

1 1( , , ) = ( , ), ( , , ) = , 1 < , , < 1,D

t x x dt g x x x t x dt g x x

x x t dt g x x t t t dt A x x x

− −

−

j jπ π

j j −π π

∫ ∫

∫ ∫∫∫ (21)

и

1 2 3

1 2 3 1 2 3 1 2 3 1 2 3 1 2 33 31 1 2 2 3 3

*1 2 3 1 2 3

1 ( , , ) 1 ( , , , , , ) ( , , )( )( )( )

= ( , , ), ( , , ) ,D D

t t t dt dt dt k x x x t t t t t t dt dt dtt x t x t x

f x x x x x x D

ψ+ ψ =

− − −π π

∈

∫∫∫ ∫∫∫ (22)

где

* *1 2 3 1 2 3 1 2 3 1 2 3 1 2 3 1 2 33

1( , , ) = ( , , ) ( , , , , , ) ( , , ) .D

f x x x f x x x k x x x t t t t t t dt dt dt− jπ

∫∫∫

1 1 1

1 2 3 1 1 2 3 2 1 2 3 31 1 1

1 2 3

1 1 1( , , ) = 0, ( , , ) = 0, ( , , ) = 0,

1 < , , < 1.

t x x dt x t x dt x x t dt

x x x− − −ψ ψ ψ

π π π−

∫ ∫ ∫ (23)

Согласно (18), (19), решение задачи (20), (21) определяется формулой

*

1 2 3 1 2 3( , , ) = ( , , ),x x x G x x xj

а задача (22), (23) эквивалентна в смысле разрешимости интегральному уравнению Фредгольма

1 2 3 1 2 3 1 2 3 1 2 3 1 2 3 1 2 3( , , ) ( , , , , , ) ( , , ) = ( , , ),

Du x x x N x x x t t t u t t t dt dt dt F x x x+ ∫∫∫ (24)

где

1 2 3 1 2 3

1 2 3 1 2 3 1 2 32 2 21 2 362 2 2 1 1 2 2 3 31 2 3

( , , , , , ) =1 1 ( , , , , , )(1 )(1 )(1 ) ,

( )( )( )(1 )(1 )(1 ) D

N x x x t t tk t t t d d d

x x xt t t

x x x x x x= − − x − x − x

x − x − x −π− − −∫∫∫

*

1 2 3 1 2 32 2 21 2 3 1 2 33

1 1 2 2 3 3

1 ( , , )( , , ) = (1 )(1 )(1 ) ,( )( )( )D

f d d dF x x xx x x

x x x x x x− − x − x − x

x − x − x −π∫∫∫

2 2 21 2 3 1 2 3 1 2 3( , , ) = ( , , ) (1 )(1 )(1 ) .x x x u x x x x x xψ − − −

Пусть однородное уравнение (24) неразрешимо (имеет только нулевое решение). Тогда решение неоднородного уравнения (24) дается формулой

1 2 3 1 2 3 1 2 3 1 2 3 1 2 3 1 2 3( , , ) = ( , , ) ( , , , , , ) ( , , ) ,

Du x x x F x x x x x x F d d d− Γ x x x x x x x x x∫∫∫

где 1 2 3 1 2 3( , , , , , )x x xΓ x x x – резольвента ядра 1 2 3 1 2 3( , , , , , )N x x x t t t .Т е о р е м а 3. Пусть функции 1 2 3 1 2 3 1 2 3( , , , , , ), ( , , )k x x x t t t f x x x , входящие в уравнение (1),

принадлежат классу Гельдера (по всем переменным), функции 1 2 3( , ),g x x 2 1 3 3 1 2( , ), ( , )g x x g x x ,



Беларуси

32

входящие в (21), принадлежат классу H*, пусть, далее, однородное уравнение Фредгольма (24) неразрешимо. Тогда задача (1), (16), (17) имеет единственное решение, представимое в виде

1 2 3 1 2 3 2 1 3 3 1 21 2 3

2 2 2 2 2 21 2 3 1 2 3

( , , ) ( , ) ( , ) ( , )( , , ) =(1 )(1 )(1 ) 1 1 1

u x x x g x x g x x g x xx x xx x x x x x

j + + + −− − − − − −

1 11 2 3 2 3 1 2 11 12 2 2 2

1 2 1 3

12 1 3 312 2 2 2 2

2 3 1 2 3

1 1 1 1( , ) ( , )(1 )(1 ) (1 )(1 )

1 1 ( , ) ,(1 )(1 ) (1 )(1 )(1 )

g t x dt g t x dtx x x x

Ag x t dtx x x x x

− −

−

− − −π π− − − −

− +π− − − − −

∫ ∫

∫

где 1 2 3( , , )u x x x – решение задачи (24).Введем обозначения:

2 2 2 21 2 3 2 3 1 2 3 2 1 3 1 3 2 1 3

2 2 * 2 2 23 1 2 1 2 3 1 2 1 2 3 1 2 3 1 2 3

( , ) = (1 )(1 ) ( , ), ( , ) = (1 )(1 ) ( , ),

( , ) = (1 )(1 ) ( , ), ( , , ) = (1 )(1 )(1 ) ( , , ),

h x x x x g x x h x x x x g x x

h x x x x g x x G x x x x x x G x x x

− − − −

− − − − −

т. е.

1 11 2 3 3 1 2*1 2 3 1 2 3 2 1 3 3 1 2 2 11 12 2

2 1

1 ( , ) 1 ( , )( , , ) = ( , ) ( , ) ( , )(1 ) (1 )

h t x h t xG x x x h x x h x x h x x dt dtt t

− −+ + − − −π π− −

∫ ∫

1 2 1 331 2

3

1 ( , ) .(1 )

h x t dt At

−− +π −

∫

Построим приближенное решение задачи (22), (23). С этой целью функции нескольких пере-мен ных 1 2 3, , , ,k f h h h аппроксимируем интерполяционными многочленами, построенными по узлам – нулям многочлена Чебышева первого рода [8].

Введем обозначения:

21, = 0,1, , 2, 1, = 0,

= = ( , ) ( ) ( ) ( ),0, = 1, , 2, 1,

2 1 2 1= cos , = 1,2, , 1, = cos , = 1,2, , 2, = 1,2,3.

2 2 2 4

j jm p m mj j

j j

k qj jj jj jj j

m n pm x T x m T x

m n n p

k qx k n t q n j

n n

+−

s δ w = − s − ≥ − −

π + π ++ +

(25)

В следующих представлениях будем использовать обозначения (25).

1 1 11 2 3 1 2 3 , 1 1 2 3 1 2 3 1 2 3 1 2 3

0 0 0 0 0 01 2 3 1 2 3

1 2 3 1 2 31 2 3 1 2 3

( , , , , , ) ( , , , , , ) = , , , , ,= = = = = =

( ) ( ) ( ) ( ) ( ) ( ),

n n n n n nn n m m m p p p

m m m p p p

m m m p p p

k x x x t t t k x x x t t t

U x U x U x T t T t T t

+ + ++≈ a ×

×

∑ ∑ ∑ ∑ ∑ ∑ (26)

где

1 1 1

31 21 2 31 2 31 2 3 1 2 3 3 31 1 11 1 1

1= ( , ) ( , ) ( , ), , , , ,( 2) ( 1) = = =

n n n kk km m m p p p

k k km x m x m x

n n

+ + +a w w w ×

+ +∑ ∑ ∑

2 2 2

3 3 31 2 1 2 1 21 2 3 1 2 3 1 2 31 1 2 2 3 3

1 1 11 2 3( ) ( ) ( ) ( , , , , , ),

= = =

n n n q k qq q k k q qp p p p p p

q q qT t T t T t k x x x t t t

+ + +× δ δ δ∑ ∑ ∑

1 2 3 1 2 3 1 2 31 2 3 1 2 30 0 01 2 3

( , , ) ( , , ) = ( ) ( ) ( ),, ,= = =

n n nn m m m m m m

m m mf x x x f x x x U x U x U x≈ b∑ ∑ ∑ (27)

где

1 1 13 31 2 1 21 2 31 2 3 1 2 31 2 3 3

1 1 11 2 3

1= ( , ) ( , ) ( , ) ( , , ),, ,( 1) = = =

n n n k kk k k km m m

k k km x m x m x f x x x

n

+ + +b w w w

+∑ ∑ ∑



Беларуси

33

1 1

11 2 3 1, 1 2 3 2 32 32 30 02 3( , ) ( , ) = ( ) ( ),,= =

n nn p pp p

p ph x x h x x T x T x

+ ++≈ g∑ ∑ (28)

где 2 2

1 3 32 212 3 2 32 2 3 322 3 1 12 3

1= ( ) ( ) ( , ),, ( 2) = =

n n q pq pp p p pp

q qT x T x h x xp n

+ +g δ δ

+∑ ∑

1 1

22 1 3 2, 1 1 3 1 31 31 30 01 3( , ) ( , ) = ( ) ( ),,= =

n nn p pp p


+ ++≈ g∑ ∑ (29)

где 2 2

2 3 31 121 3 1 31 1 3 321 31 3

1= ( ) ( ) ( , ),, ( 2) =1 =1

n n q pq pp p p pp p

q qT x T x h x x

n

+ +g δ δ

+∑ ∑

1 1

33 1 2 3, 1 1 2 1 21 21 20 01 2( , ) ( , ) = ( ) ( ),,= =

n nn p pp p


+ ++≈ g∑ ∑ (30)

где 2 2

3 1 2 1 231 2 1 21 1 2 221 2 1 11 2

1= ( ) ( ) ( , ),, ( 2) = =

n nq q p pp p p pp p

q qT x T x h x x

n

+ +g δ δ

+∑ ∑

* *1 2 3 1 1 2 3 1, 1 2 3 2, 1 1 3 3, 1 1 2

1 1 11, 1 2 3 3, 1 1 2 2, 1 1 32 1 31 1 12 2 2

2 1 3

( , , ) ( , , ) = ( , ) ( , ) ( , )( , ) ( , ) ( , )1 1 1 .

(1 ) (1 ) (1 )

n n n n

n n n

G x x x G x x x h x x h x x h x xh t x h t x h x t

dt dt dt At t t

+ + + +

+ + +− − −

≈ + + −

− − − +π π π− − −

∫ ∫ ∫ (31)

Учитывая, что

1

21

1, = 0,1 ( )= =0, 0,1

kk

kT t dtIkt−

≠π −

∫ (32)

упростим интегралы, входящие в *1 1 2 3( , , )nG x x x+ , и вследствие этого получим представление

этой функции по многочленам Чебышева первого рода:

1 1 1 1* 1 2

1 1 2 3 2 3 1 32 3 1 32 3 1 30 0 0 02 3 1 3( , , ) = ( ) ( ) ( ) ( ), ,= = = =

n n n nn p p p pp p p p

p p p pG x x x T x T x T x T x

+ + + ++ g + g +∑ ∑ ∑ ∑

1 1 1 1 1

3 1 3 21 2 3 2 11 2 3 2 10, 0, 01 2 3 2 10 0 0 0 01 2 3 2 1

( ) ( ) ( ) ( ) ( ) ., ,= = = = =

n n n n np p p p pp p p p p

p p p p pT x T x T x T x T x A

+ + + + ++ g − g − g − g +∑ ∑ ∑ ∑ ∑

Приближенное решение задачи (22), (23) найдем как точное решение задачи

1 1 2 3 1 2 33 2 2 2 1 1 2 2 3 31 2 3

1 ( , , )( )( )( )(1 )(1 )(1 )

n

D

u t t t dt dt dtt x t x t xt t t

+ +− − −π − − −

∫∫∫ (33)

1 1 2 3, 1 1 2 3 1 2 3 1 2 3 1 2 33 2 2 2

1 2 3

1 ( , , )( , , , , , ) = ( , , ),(1 )(1 )(1 )

nn n n

D

u t t tk x x x t t t dt dt dt F x x xt t t

+++

π − − −∫∫∫

1 1 11 1 2 3 1 1 2 3 1 1 2 31 2 3 1 2 31 1 12 2 2

1 2 3

( , , ) ( , , ) ( , , )= 0, = 0, = 0, 1 < , , < 1,1 1 1

n n nu t x x u x t x u x x tdt dt dt x x xt t t

+ + +− − − −

− − −∫ ∫ ∫ (34)

где

1 2 3*1 2 3 1 2 3 , 1 1 2 3 1 2 3 1 1 2 33 2 2 2

1 2 3

1( , , ) = ( , , ) ( , , , , , ) ( , , ) ,(1 )(1 )(1 )

n n n n nD

dt dt dtF x x x f x x x k x x x t t t G t t tt t t

+ +−π − − −

∫∫∫

1 1 1

1 1 2 3 1 2 31 2 3 1 2 30 0 01 2 3

( , ) = ( ) ( ) ( ),, ,= = =

n n nn k k k k k k

k k ku x x x c T x T x T x

+ + ++ ∑ ∑ ∑

1 2 3 ( = 0,1, , 1, = 1,2,3), ,k k k jc k n j+ − коэффициенты, подлежащие нахождению.

Применяя в (33) свойство линейности интеграла и переходя от кратных интегралов к по-вторным, пользуясь спектральными соотношениями (2), формулами (32) и 2 ( ) ( ) =k pT x T x



Беларуси

34

( ) ( )k p k pT x T x− += + , а также аппроксимациями (26)–(31), и вводя обозначения | |( , ) = ,k p k pJ p k I I− ++ от (33) придем к равенствам

1 1 11 1 1 2 1 31 2 3 1 2 3

1 1 11 2 31 1 1

1 2 31 2 3 1 2 3 1 2 30 0 0 0 0 01 2 3 1 2 3

1 1 1 1 11 11 2 3 20 0 01 2 3 1

( ) ( ) ( ), ,= = =

( ) ( ) ( ), , , , ,= = = = = =

( ) ( )1, ,

= = = 1

n n nk k k k k k

k k k

n n n n n nm m m p p p m m m

m m m p p p

n n n p kk k k

k k k

c U x U x U x

U x U x U x

T t T tc d

t

+ + +− − −

+ + +

+ + +

+

+ a ×

×π −

∑ ∑ ∑

∑ ∑ ∑ ∑ ∑ ∑

∑ ∑ ∑1 1 1 3 32 2 3 32 2

1 2 32 21 1 12 3

1 2 31 2 3 1 2 30 0 01 2 3

( ) ( )( ) ( )1 1

1 1

*= ( ) ( ) ( ),, ,= = =

p kp k

n n nm m m m m m

m m m

T t T tT t T tt dt dt

t t

U x U x U x

− − −=

π π− −

b

∫ ∫ ∫

∑ ∑ ∑

(35)

где

1 1 1 10 11 2 3 2 32 2 3 31 2 3 1 2 3 2 30 0 0 02 3 2 3

1 1 1 10 21 2 3 1 31 1 3 31 30 0 0 01 3 1 3

1 11 2 3 1

0 01 2

, , , , ,* = ( , ) ( , ), , , , ,4= = = =, , , , , ( , ) ( , ),4= = = =, , , ,

= =

n n n nm m m p pm m m m m m q

p p q q

n n n nm m m p pq

p p q q

n n m m m p

p p

J p q J p qq

J p q J p qq

+ + + +

+ + + +

+ +

ab b − g −

a− g −

a−

∑ ∑ ∑ ∑

∑ ∑ ∑ ∑

∑ ∑1 10 32

1 1 2 21 20 01 21 1 1 10 0 0 01 31 2 3 3 1 2 3 2

3 3 2 20, 0,3 20 0 0 03 3 2 21 10 0 21 2 3 1

1 1 1 2 3010 01 1

, ( , ) ( , ),4 = =, , , , , , , , , ,( , ) ( , )

2 2= = = =, , , , , ( , ) , ,,2= =

n npq

q q

n n n nm m m p m m m pq q

p q p q

n nm m m pm m mq

p q

J p q J p qq

J p q J p q

J p q

+ +

+ + + +

+ +

g +

a a+ g + g +

a+ g − a

∑ ∑

∑ ∑ ∑ ∑

∑ ∑ 0 0,0 ., , A

Приравнивая в (35) коэффициенты при одинаковых многочленах 1 21 2( ), ( ),m mU x U x 33 ( )mU x , для нахождения 1 2 3 ( = 0,1, , 1, = 1,2,3), ,k k k jc k n j+ получим систему линейных алгебраических уравнений вида

1 1 11 1 11 2 3 1 2 3 1 2 3 1 2 3 1 2 3

0 0 01 2 3

*= , = 0,1, , , 1, 2, 3., , , , , , , , , , ,= = =

n n nm k k k m m m k k k m m m j

k k kc c m n jm m

+ + ++ + + + m b =∑ ∑ ∑ (36)

где

1 1 1

| |1 2 3 1 2 3 1 2 3 1 2 3 1 1 2 21 1 2 20 0 01 2 3

| 3 33 3

1=, , , , , , , , , , | |8 = = =, = 0,1, , , = 0,1, , 1, 1, 2, 3.|

n n nm m m k k k m m m p p p p k p kp k p k

p p p

p k j jp k

I I I I

I I m n k n j

+ + +m a + + × + +− −

× + + = +−

∑ ∑ ∑

Система (36) содержит 3( 2)N + неизвестных и 3( 1)N + уравнений, однако, учитывая в (34) тот факт, что многочлены Чебышева образуют на отрезке [–1, 1] линейно независимую систему, из (34) приходим к выводу, что все коэффициенты 1 2 3, ,k k kc , имеющие хотя бы один нулевой индекс, равны нулю. Исключив соответствующие столбцы из (36), получаем систему линейных алгебраических уравнений с квадратной матрицей:

1 1 11 1, 11 2 3 1 2 3 1 2 3 1 2 3 1 2 3

1 1 11 2 3

*= , = 0,1, , , 1, 2, 3., , , , , , , , , ,= = =

n n nm m m k k k m m m k k k m m m j

k k kc c m n j

+ + ++ + + + m b =∑ ∑ ∑ (37)

Т е о р е м а 4. Пусть выполнены условия теоремы 3. Если ( ), ( ),r rk W H f W H∈ m ∈ m 1 2 3( ), ( ), ( ), 1, 0 < 1,r r rh W H h W H h W H r∈ m ∈ m ∈ m ≥ m ≤ то при достаточно больших n система

(37) разрешима и 6

1 2 3 1 1 2 3 3ln|| ( , , ) ( , , ) || = , 3 > 0.n C r

nu x x x u x x x O rn

+ +m−

− + m −

Д о к а з а т е л ь с т в о проводится по схеме работы [9].



Беларуси


1. Мусхелишвили Н. И. Сингулярные интегральные уравнения. М., 1968.2. Лифанов И. К. // Докл. АН СССР. 1979. Т. 249, № 6. С. 1306–1309.3. Шешко М. А. // Докл АН БССР. 1980. Т. 24, № 10. С. 888–891.4. Расолько Г. А. // Дифференц. уравнения. 1987. 14 с. (Деп. в ВИНИТИ 12.03.87, № 1808–В87).5. Шешко М. А., Расолько Г. А. // Дифференц. уравнения. 1989. Т. 25, № 5. С. 911–915.6. Расолько Г. А., Шешко М. А. // Дифференц. уравнения. 1991. Т. 27, № 6. С. 1092–1097.7. Бейтмен Г., Эрдейи А. Высшие трансцендентные функции. М., 1966. Т. 2.8. Пашковский С. Вычислительные применения многочленов и рядов Чебышева. М., 1983.9. Шешко М. А. Сингулярные интегральные уравнения с ядром Коши и Гильберта и их приближенное решение.

Люблин, 2003.

G. А. RASOLKO

APPROXIMATE SOLUTION OF THE FIRST-KIND INTEGRAL EQUATION WITH THE MULTIPLICATIVE CAUCHY KERNEL BY THE METHOD OF ORTHOGONAL POLYNOMIALS

Summary

The computing scheme of numerical solution of the first-kind integral equation with the triple Cauchy kernel in classes of bounded and unbounded functions by the method of orthogonal polynomials is obtained.



Беларуси

36


УДК 517.977

В. Е. ХАРТОВСКИЙ, О. И. УРБАН

УПРАВЛЕНИЕ ЛИНЕЙНЫМИ АВТОНОМНЫМИ АЛГЕБРО-ДИФФЕРЕНЦИАЛЬНЫМИ СИСТЕМАМИ ПОСРЕДСТВОМ ДИНАМИЧЕСКИХ РЕГУЛЯТОРОВ

Гродненский государственный университет имени Янки Купалы


Введение. Задача конструирования регуляторов, основанных на принципе обратной связи и обеспечивающих системе управления заданные свойства, занимает одно из центральных мест в теории автоматического регулирования. В настоящей работе предлагается новый тип регулятора с обратной связью – линейный динамический дифференциально-разностный регулятор. Эффективность применения такого типа регулятора рассматривается на примере задачи успокоения решения линейной автономной регулярной алгебро-дифференциальной системы с соизмеримыми запаздываниями в управлении (которую для краткости назовем системой Σ)

( )0

0( ) ( ) ( ), 0,

mi

i

d A x t Ax t B u t ih tdt =

= + − ≥∑ (1)

0 0 0 0(0) , ( ) 0, 0,C A x C A q u t t= ≡ < (2)

где nx∈ (Rk – действительное пространство k-векторов-столбцов); ru ∈ – управляющее воздействие (управление); 0 , , , 0,iA A B i m= – постоянные матрицы соответствующих размеров; h – постоянное запаздывание; , 0, 1, ...,iC i = – базовые матрицы [1, с. 26–28]. Предполагается, что пара матриц ( )0 ,A A регулярная, т. е. существует такое число a∈ (C– множество комплексных чисел), для которого 0det( ) 0A A− a ≠ [1, с. 10]. В качестве допустимых управлений будем использовать кусочно-непрерывные функции ( ), 0,u t t ≥ такие, что решение ( ), 0,x t t ≥ непрерывная, а 0 ( ), 0,A x t t ≥ – дифференцируемая функции.

Под задачей успокоения решения системы Σ будем понимать задачу выбора управления ( )u t , 0t ≥ , обеспечивающего

1( ) 0, ,x t t t≡ ≥ (3)

где 1 0t > – некоторый фиксированный момент времени. Цель работы – получить условия суще- некоторый фиксированный момент времени. Цель работы – получить условия суще-некоторый фиксированный момент времени. Цель работы – получить условия существования и указать способ построения линейного дифференциально-разностного регулятора, обеспечивающего решению замкнутой системы Σ равенство (3), каково бы ни было начальное состояние (2).

З а м е ч а н и е 1. В [2] обоснована целесообразность выбора в контексте данной работы на- а м е ч а н и е 1. В [2] обоснована целесообразность выбора в контексте данной работы на-а м е ч а н и е 1. В [2] обоснована целесообразность выбора в контексте данной работы на- м е ч а н и е 1. В [2] обоснована целесообразность выбора в контексте данной работы на-м е ч а н и е 1. В [2] обоснована целесообразность выбора в контексте данной работы на- е ч а н и е 1. В [2] обоснована целесообразность выбора в контексте данной работы на-е ч а н и е 1. В [2] обоснована целесообразность выбора в контексте данной работы на- ч а н и е 1. В [2] обоснована целесообразность выбора в контексте данной работы на-ч а н и е 1. В [2] обоснована целесообразность выбора в контексте данной работы на- а н и е 1. В [2] обоснована целесообразность выбора в контексте данной работы на-а н и е 1. В [2] обоснована целесообразность выбора в контексте данной работы на- н и е 1. В [2] обоснована целесообразность выбора в контексте данной работы на-н и е 1. В [2] обоснована целесообразность выбора в контексте данной работы на- и е 1. В [2] обоснована целесообразность выбора в контексте данной работы на-и е 1. В [2] обоснована целесообразность выбора в контексте данной работы на- е 1. В [2] обоснована целесообразность выбора в контексте данной работы на-е 1. В [2] обоснована целесообразность выбора в контексте данной работы начального состояния в виде (2). При этом существует единственное решение системы Σ [1, с. 45].

З а м е ч а н и е 2. Если для любого начального состояния (2) существуют момент времени 1 0t > и допустимое управление 1( ), [0, ],u t t обеспечивающее (3) при условии 1( ) 0, ,u t t t≡ > то система Σ называется [2, 3] полностью управляемой.

Обозначим ( ) 00

0, .

m C AihA i

iW A A B e B−

=l = l − = ∑ Для обыкновенных систем без запаздывания

( 0 ,n kA E E= – единичная матрица порядка k , 0, 1,iB i m= = ), обладающих свойством полной управляемости, т. е. [3, с. 46]

( ) 0rank ,W B n l = ∀l ∈ , (4)



Беларуси

37

управление вида ( ) ( ) ( )u t K t x t= , обеспечивающее (3), построить несложно. Однако в [3, с. 61; 4] отмечено, что таким управлением редко пользуются на практике, так как ( )K t → ∞ при 1t t→ . Поэтому в [4] для обыкновенных систем без запаздывания предложен линейный автономный регулятор с запаздыванием, обеспечивающий помимо (3) еще и асимптотическую устойчивость замкнутой системы. Основная идея [4] заключается в замыкании исходной системы без запаздывания регулятором с запаздыванием таким образом, чтобы замкнутая система стала точечно вырожденной в направлениях, отвечающих фазовым переменным исходной системы. Указанный регулятор в [4] строится при следующих условиях: а) управление u −скалярная функция; б) выполняется условие (4). Естественно, что перенести эти результаты на случай векторного управления без запаздывания при условии (4) несложно, поскольку можно воспользоваться известной леммой Уонема [5, 6].

По аналогии с [2] можно показать, что критерий полной управляемости системы Σ имеет вид

( )rank , .AW B n l = ∀l ∈ (5)

Однако условия (5) в общем случае системы Σ не достаточно для соответствующего обобщения указанной леммы Уонема даже при 0 nA E= . Регулятор нового типа, предложенный в настоящей работе, обеспечивает (3) даже в случае нарушения условия (5), т. е. в случае системы, не обладающей свойством полной управляемости. Полученный критерий существования такого регулятора налагает более слабые условия на параметры исходной системы, что позволяет существенно расширить спектр его практического применения. В идейном плане представленная работа продолжает исследования алгебро-дифференциальных систем [2, 7] и систем нейтрального типа [8, 9], не обладающих свойством полной управляемости. Однако работы [2, 7–9], в отличие от настоящей, рассматривают вопрос существования только программных управлений, т. е. управлений вида ( )u u t= . Также обратим внимание, что существует большое количество работ, посвященных построению регуляторов по принципу обратной связи в задачах управления спектром системы [10], однако к настоящей работе они имеют лишь косвенное отношение и поэтому их обсуждение не приводится.

1. Вспомогательные результаты. Пусть последовательность векторов , , 1, ...k k m mδ = +

суть решение дискретного уравнения 0

0, , 1, ...,m

i k ii

B k m m−=

δ = = +∑ порождаемого начальным

условием , 0, 1.i i i mδ = δ = − Последовательность , , 1, ...k k m mδ = + существует в том и только в том случае [7, 9], когда , 1, ,m i iT c i m−δ = = где iT – некоторые матрицы размера Tr r× (в работах [7, 9] приведен способ их построения). Найдем произвольную квадратную матрицу ,S удовлетво

ряющую равенствам 0 1 11

0, , 2, .m

i i k ki

B T S B T T S T k m−=

+ = = =∑ Тогда будет выполняться ( )mT T=

00.

m m ii

iB TS −

==∑ (6)

Образуем матрицы 0

, , 0, ,i i k

i i kk

B B B TS i m−

=

= =

∑ размера ( ).Tn r r× + Заметим, что [ ], 0m mB B= .

Системе Σ поставим в соответствие систему :Σ

( )0

0( ) ( ) ( ), 0,

mi

i

d A x t Ax t B w t ih tdt =

= + − ≥∑

(7)с начальным условием 0 0 0 0(0) , ( ) 0, 0.C A x C A q w t t= ≡ < (8)

Пусть 1 2 1 2col , , , .Tr rw w w w w = ∈ ∈ Л е м м а 1. Пусть 1

0 0 0 0 , ( ) ( ) ( ), 0,C A q C A q u t w t T t t= = + ψ ≥ а функция ψ удовлетворяет уравне-нию 2( ) ( ) ( ), 0, ( ) 0, 0.t S t h w t t t tψ = ψ − + ≥ ψ ≡ < Тогда, если решения систем и существуютΣ Σ , то ( ) ( ), 0.x t x t t= ≥



Беларуси

38

Д о к а з а т е л ь с т в о. Покажем, что неоднородные части уравнений (1) и (7) при выполнении условий леммы 1 совпадают. При t mh< это проверяется непосредственно.

Пусть t mh≥ . Из определения функции ψ заключаем, что она удовлетворяет уравнению 1

2

0( ) ( ) ( ),

kk j

jt S t kh S w t jh

−

=ψ = ψ − + −∑ 1,2,...k = , ( 1)t k h≥ − . Используя это соотношение и формулу (6),

имеем следующую цепочку равенств:

( )1

0 0( ) ( ) ( )

m mi i

i iB u t ih B w t ih T t ih

= =− = − + ψ − =∑ ∑ 1

0( )

mi

iB w t ih

=− +∑

1 1

2

0 0( ) ( ( ) )

m m im i ji

i jB T S t mh S w t j i h

− − −−

= =

+ ψ − + − + +

∑ ∑ ( )mB T t mhψ − = 1

0( )

mi

iB w t ih

=− +∑

1 1

2

0 0( ( ) )

m m i ji

i jB T S w t j i h

− − −

= =+ − + =∑ ∑

0( )

mi

iB w t ih

=−∑ , t mh≥ .

Лемма доказана.2. Основной результат. Так как пара матриц ( )0 ,A A регулярная, то найдутся такие не особые

матрицы P и Q, что справедливо каноническое представление матриц 0 ,A A [1, c. 25]: 0 0 ,A PA Q= ,A PAQ= где [ ]20 diag , , ,nA M E S= [ ]1 3diag , , ;n nA E R E= ,M R − нильпотентные матрицы раз

меров 1 1 2 2,n n n n× × соответственно; S – неособая матрица размера 3 3 1 2 3( ).n n n n n n× + + = В общем случае некоторые из соответствующих пар матриц в указанном каноническом представлении могут отсутствовать, однако это не нарушает общности рассуждений. Пусть Mk – индекс нильпотентности матрицы M ( 0MkM = ), 1 2col[ , ]Q Q Q= , 1

1n nQ ×∈ , 2 3( )

2 .n n nQ + ×∈ В силу (2) и [1, с. 26] имеем 2 2(0)Q x Q q= .

Регулятор, обеспечивающий решению системы Σ равенство (3), будем строить в виде

1

2

1

2 0

0

( ) ( ) ( ), 0,

( ) ( ) ( ), 0,

( ) ( ), 0,

( )( )

( ) ( ), 0,

( ) ( )

si

i

si

i

u t w t T t t

t S t h w t t

w t z t ihL t

y t ihw t

z t z t ihd M ty t y t ihdt

=

=

= + ψ ≥

ψ = ψ − + ≥

− = ≥ −

− = ≥ −

∑

∑

где 2 3 ; n nz y+∈ ∈ – решение уравнения (9.г); s – натуральное число; , , 0,i iL M i s= − некоторые постоянные матрицы соответствующих размеров. Пусть ( )kC q , 1,2...k = – класс функций

1 2col[ , ]j = j j ( 2 31 n n+j ∈ , 2j ∈), определенных на отрезке [ ,0]sh− , k–1 раз непрерывно диффе

ренцируемых и удовлетворяющих граничным условиям ( )( )

( )( )

1 11

1 2 20

0

0

j jsij j

i

ihd dMdt dt ih

+

+=

j j −=

j j − ∑ ,

0, 1j k= − , 12(0) Q qj = . В качестве начальных условий для регулятора (9.а)–(9.г) возьмем следу-

ющий набор данных: 1 2( ) 0, ( ) 0,w t w t≡ ≡ ( ) 0, 0t tψ ≡ < , col[ ( ), ( )] ( ),z t y t t= j [ ,0]t sh∈ − , 1( ).MkC q−j∈ Регулятор (9.а)–(9.г) будем называть линейным динамическим дифференциально-разностным ре гулятором.

Обозначим 01

0 0.

m iC Aih i kA k

i kB e B TS

−− −

= == ∑ ∑

Т е о р е м а 1. Для того чтобы для любого начального состояния (2) системы Σ существова�существова-ло управление ( ), 0,u t t ≥ обеспечивающее (3), необходимо и достаточно чтобы

( )rank , ,A AW B B n l = ∀l ∈. (10)

При этом если имеет место (10), то управление ( ), 0,u t t ≥ всегда можно построить в виде регу-лятора (9.а)–(9.г).

(9.а)

(9.б)

(9.в)

(9.г)



Беларуси

39

Д о к а з а т е л ь с т в о. Необходимость условия (10) доказывается так же, как это сделано в [2, 7].Д о с т а т о ч н о с т ь. Рассмотрим систему . Σ Пусть 0 0 0 0C A q C A q= . Воспользуемся описан

ным выше каноническим представлением матриц 0 ,A A. Положим ,Qx Qx= 1 2col ,Q QQx x x =

, 11

Qnx ∈ , 2 32

Qn nx +∈ , 1 col ,i i iP B B B− =

, ( )1i TB n r r− × + – матрица, ( ) ( )2 3i TB n n r r− + × + –

матрица, 21ˆ diag[ , ] ,i n iB E S B−= 1diag , .D R S − = Тогда функции 1

Qx и 2Qx удовлетворяют следую

щим системам:

( )1 1

0( ) ( ) ( ), 0,

mQ Q i

i

d Mx t x t B w t ih tdt =

= + − ≥∑ (11)

2 2

02

ˆ( ) ( ) ( ), 0,

(0) ,

mQ Q i

i

Q Q

x t Dx t B w t ih t

x q=

= + − ≥

=

∑

(12)

вектор 2Qq Q q= , что следует из (8). Решение уравнения (11) определяется [1, c. 27; 2] формулой, не зависящей от начального состояния:

11

0 0( ) ( ) , 0.

M jk mjQ ij

j i

dx t M B w t ih tdt

−

= =

= − − ≥

∑ ∑ (13)

В (13) предполагаем, что функция w ( 1Mk − ) раз непрерывно дифференцируема. Рассмотрим систему (12). Введем функцию ( ), 0z t t ≥ , соотношением

2 ( )

1 0

ˆ( ) ( ) ( ) , 0.ihm D s ih

Q ii

z t x t e B w t s ds t−

== + − ≥∑ ∫ (14)

В силу (12), (8) эта функция ( )z t , 0t ≥ , удовлетворяет системе

0

ˆ( ) ( ) ( ), 0,

(0) .

m Dihi

i

Q

z t Dz t e B w t t

z q

−

=

= + ≥

=

∑

(15)

Из (10) следует, что 2 3 2 30

ˆrank ,m Dih

n n ii

E D e B n n−+

=

l − = + ∀l ∈

∑ , а это равносильно равенству

2 3rank BD n n= + , где матрица 2 3 1

0 0

ˆ ˆ, ..., .m mDih n n Dih

B i ii i

D e B D e B− + − −

= =

=

∑ ∑ Выберем в матрице BD

2 3n n+ линейно независимых столбца. Для определенности будем считать, что это столбцы 1 1 1

1 1ˆ ˆ ˆ ˆ, ..., , ..., , ..., ,kk kb D b b D bu − u − где ˆib i− -й столбец матрицы

0

ˆm Dih

ii

e B−

=∑ , 1 2 3... k n nu + + u = + .

Введем матрицы 1 1 11 1ˆ ˆ ˆ ˆ[ , ..., , ..., , ..., ],k

B k kD b D b b D bu − u −= 2[0, ..., 0, , 0, ..., 0, , 0, ..., 0],kE e e= − − где ie i− -й столбец единичной матрицы ,Tr rE + столбец 2e− расположен на ( 1u )-м месте матрицы

, ..., kE e− – на ( 1 1... k−u + + u )-м месте матрицы . E Положим 1.BK ED −=

Определим функцию ( ), 0,w t t ≥ равенством

1( ) ( ) ( ), 0,w t Kz t e v t t= − + ≥ (16)

где ( ), 0v t t ≥ – некоторая скалярная функция. Подставляя функцию ,w определяемую формулой (16), в систему (15), перепишем (15) в виде

1̂( ) ( ) ( ), 0,(0) ,Q

z t Dz t b v t tz q

= + ≥

=

(17)

где 0

ˆ .m Dih

ii

D D e B K−

=

= −

∑ Заметим, что [6, с. 222]

2 3 1

1 1 2 3ˆ ˆrank [ , ..., ] .n nb D b n n+ − = + (18)



Беларуси

40

Систему (17) замкнем регулятором вида

( )

0

0

( )( ) , 0,

( )

( ), 0,

( )

si

i

si

i

z t ihv t G t

y t ih

z t ihy t C t

y t ih

=

=

− = ≥ −

− = ≥ −

∑

∑

(19)

где , ,i iy G C∈ – постоянные матрицы соответствующих размеров. В результате замыкания системы (17) регулятором (19) получим систему

( )( )0

( ), 0,

( )

si

i

z t ihz td R ty t ihy tdt =

− = ≥ − ∑ (20)

где 1 2

1 11 2

ˆ ˆ,i i i

ii i

D b g b gR

c c

+=

0 , 0, 1, ,jD D D j s= = = 1 2, ,i i iG g g = 1 2, ,i i iC c c = 1 1,i ig c –

( )2 31 n n× + матрицы, 2 2,i ig c .∈ Матрицы ,i iG C в (19) выберем таким образом, чтобы система (20) стала точечно вырожденной [4] в направлениях, отвечающих фазовым переменным исходной системы (17), т. е. компонентам вектора z. Существование матриц ,i iG C следует из условия (18) [4], а процедура их построения описана в [4].

Итак, в силу выбора матриц ,i iG C найдется момент времени 1t такой, что 1( ) 0, ,z t t t≡ ≥ при любом начальном состоянии Qq . Из (17) следует, что ( ) 0,v t ≡ 1,t t≥ поэтому в силу (16), (13), (14) имеем равенство 1( ) 0, .Qx t t t mh≡ ≥ + Таким ообразом, функция w, определяемая (16), (19), обеспечивает решению системы Σ равенство 1 1( ) 0, .x t t t t mh≡ ≥ = +

Положим в (9.в) и (9.г) 1 , 1, ,i iL e G i s= = [ ]0 1 0 , 0 ,L e G K= + − , 0, .i iM R i m= = На основании леммы 1 можно утверждать, что регулятор (9.а)–(9.в) обеспечивает решению системы Σ равенство (3) при 1 1 .t t t mh≥ = + Теорема доказана.

З а м е ч а н и е 3. Из общей теории линейных автономных систем запаздывающего типа [11, с. 200] следует, что их решение с течением времени сглаживается. Соответственно тем же свойством будет обладать решение x системы Σ при любом выборе начального условия ( ), ( )z t y t ,

[ ,0]t sh∈ − , для регулятора (9.а)–(9.г). Выбор функции 1( )MkC q−ϕ∈ обеспечит непрерывность решению x системы Σ и дифференцируемость функции 0 .A x Однако, если взять в качестве начального условия любую функцию ϕ класса ( )k

QC q

( 1Mk k≥ − ), то, как следует из (12), (13) и [11, с. 200], решение системы Σ будет 1Mk k− + раз непрерывно дифференцируемым при 0.t ≥ Иными словами, можно обеспечить решению замкнутой системы Σ любую наперед заданную степень гладкости.

З а м е ч а н и е 4. При выборе матриц , ,i iG C обеспечивающих системе (20) вырожденность ее первых 2 3n n+ компонент, можно [4] попутно обеспечить ее асимптотическую устойчивость. Это в силу (13), (14), (16) и леммы 1 обеспечит асимптотическую устойчивость системы Σ, замкнутой построенным регулятором.

В регуляторе (9.а)–(9.г) управление u формируется посредством алгебраических преобразований (9.а)–(9.в) решения уравнения (9.г). В то же время решение (9.г) связано с решением системы Σ соотношением (14) и леммой 1. Это позволяет преобразовать уравнение (9.г), добавив в него обратную связь в виде неоднородной части. Для этого в формуле (9.г) положим 1 2col[ , ],i i iM M M= где 2 3 2 31 ( ) ( 1) ,n n n n

iM + × + +∈ 2 32 1 ( 1).n niM × + +∈ Введем линейный динамический дифференциально

разностный регулятор с обратной связью формулами (9.а)–(9.в) и следующими соотношениями:

2 21 1

2

0

ˆ ˆ( ) ( ) ( ) ( ) ( ( )) ( ),

( )( ) , 0.

( )

m mDihi i

i i

si

i

d dz t Dz t e B w t B w t ih Q x t DQ x tdt dt

z t ihd y t M ty t ihdt

−

= =

=

= + − − + −

−

= ≥ −

∑ ∑

∑ (21)

Начальные условия для регулятора (9.а)–(9.в), (21) определим так же, как и для регулятора (9.а)–(9.г), а дифференцируемость функции 2 ( )Q x t , 0t ≥ , следует из (12) и леммы 1.



Беларуси

41

Т е о р е м а 2. Если выполняется условие (10), то существует линейный динамический диф-ференциально�разностный регулятор с обратной связью (9.а)–(9.в), (21), обеспечивающий реше-нию замкнутой системы Σ равенство (3).

Д о к а з а т е л ь с т в о. Условие (10) обеспечивает существование регулятора (9.а)–(9.г). При этом решения систем (12) и (15) связаны равенством (13) или, что то же самое,

2 2

1 1

ˆ ˆ( ) ( ) ( ) ( ) ( ) ( ) ( ),m mDih

i i Q Qi i

d dz t Dz t e B w t B w t ih x t Dx tdt dt

−

= == + − − + −∑ ∑ 0,t ≥ 2 (0) (0).Qx z= В этих со-

отношениях выразим решение 2Qx системы (12) через решение x системы . Σ Далее учтем, что

в силу (9.а), (9.б) и леммы 1 выполняется ( ) ( ), 0.x t x t t= ≥ Поэтому решения уравнения (9.г) и системы (21), (9.в) совпадают. Теорема доказана.

З а м е ч а н и е 5. Если решение x системы Σ в каждый момент времени t доступно наблюдению, то, используя начальные условия для регулятора и (9.в), из (21) по шагам определяется z и y, после чего по формулам (9.а) и (9.б) формируется управление.

3. Обсуждение результатов. П р и м е р. Предложен новый тип регулятора, обеспечивающего равенство (3) и асимптотическую устойчивость решению замкнутой системы. Особенностью предложенного регулятора является возможность его реализации в двух формах: в форме (9.а)–(9.г) или в форме (9.а)–(9.в), (21). При этом в обоих случаях система Σ, замкнутая соответствующим регулятором, будет линейной автономной алгебро-дифференциальной системой с соизмеримыми запаздываниями. Возможность применения регулятора такого типа к системам, не обладающим свойством полной управляемости, основана на использовании эффекта последействия в управлении. Заметим, что если в некоторый момент времени *

1t t> «выключить» регулятор, т. е. положить *( ) 0,u t t t≡ > , то в общем случае равенство (3) при *t t> выполняться не будет.

В заключение приведем пример регулятора (9.а)–(9.г) для системы Σ с матрицами

0 0 1

0 1 0 0 1 0 0 0 0 1 0 10 0 0 0 0 1 0 0 0 1 0 0

, , ,0 0 1 0 0 0 1 0 0 0 0 10 0 0 1 0 0 0 0 1 0 1 0

A A B B

= = = = − −

, и ln(2).h = В данном случае

0

0 0 0 00 0 0 00 0 1 00 0 0 1

C

=

, 1

, 1,0

T S = =

условие (5) нарушается (4-е уравнение рассматриваемой систе

мы заведомо не является полностью управляемым), но условие (10) выполнено. Используя доказательство достаточности условия теоремы 1, строим регулятор (9.а)–(9.г). Подробные выкладки построения регулятора не являются принципиально сложными и в силу их громоздкости не приводятся. Окончательный результат имеет вид

( )1 1

( ) ( ), 0,0

u t w t t t = + ψ ≥

1

2

0 0 0 0 0 0( ) ( ) ( ln(2))35 37 149 20332 28

( ) ( ln(2))18 9 144 144( )149 20335 83 566472 729 9

0 0 0101 113 7576 576101 113 14288 288

w t z t z ty t y tw t

− − − = − + + − −− −

+ − − −

0 0 0( 2ln(2)) ( 3ln(2))11 11 1 , 0,( 2ln(2)) ( 3ln(2))1152 1152 2

11 11 1576 576

z t z tt

y t y t

− − − + ≥ − − −



Беларуси

26 92 149 20364 569 9 72 72

( ) ( ) ( ln(2))35 83 149 20364 56( ) ( ) ( ln(2))9 9 72 72

35 35 1 41 5 3432 432 3 2304 256 4

101 113 14288 288101 113288 288

z t z t z tdy t y t y tdt

− − −

− − − = − + + − − − −

−−

−+ − 2

11 11 1576 576

( 2ln(2)) ( 3ln(2))11 1114 1 , 0, , .( 2ln(2)) ( 3ln(2))576 576

11 11 1 0 0 013824 13824 24

z t z tt z y

y t y t

−

− − − + ≥ ∈ ∈ − − −

�

Для проверки правильности вычислений достаточно убедиться, что в системе (9. г) (последняя система в приведенном регуляторе) вырождаются первые две компоненты. Или, подставив полученное управление в исходную систему, проинтегрировать ее по шагам.

Чтобы получить регулятор (9.а)–(9.в), (21) достаточно приведенную систему (9.г) построенного регулятора заменить на

1 0 0 2 0 0 1 0( ) ( ) ( ) ( ln(2))

0 0 1 0 0 1 0 0

0 0 1 0 0 0 1 0( ) ( ), 0,

0 0 0 1 0 0 0 0

( ) ( ln(2))35 35 1 41 5 3( )( ) ( ln(2432 432 3 2304 256 4

d z t z t w t w tdt

d x t x t tdt

z t z td y ty t y tdt

− = + − − + − −

− + − ≥

− − − − = + − ))

( 2ln(2))11 11 1 , 0.( 2ln(2))13824 13824 24

z tt

y t

+

− − + ≥ −

Непосредственной проверкой убеждаемся, что функции z и y, а значит, и решение x исходной системы в случае замыкания ее регуляторами (9.а)–(9.г) и (9.а)–(9.в), (21) совпадают.

Работа выполнена при финансовой поддержке Белорусского республиканского фонда фундаментальных исследований (грант № Ф12МВ-043).

Литература1. Бояринцев Ю. Е. Линейные и нелинейные алгебро-дифференциальные системы. Новосибирск, 2000.2. Хартовский В. Е., Бойко В. К. // Вестн. БГУ. Сер. 1, Физика. Математика. Информатика. 2012. № 1. С. 95–99.3. Калман Р., Фалб П., Арбиб М. Очерки по математической теории систем. М., 2004.4. Метельский А. В., Карпук В. В. // Автоматика и телемеханика. 2009. № 10. С. 22–34.5. Wonham W. M. // IEEE Trans. on Automat. Control. 1967. Vol. AC 12, N 6. P. 660–665.6. Егоров А. И. // Основы теории управления М., 2004.7. Хартовский В. Е. // Докл. НАН Беларуси. 2012. Т. 56, № 6. С. 5–11.8. Хартовский В. Е. // Весці НАН Беларусі. Cер. фіз.-мат. навук. 2010. № 4. С. 68–75.9. Хартовский В. Е. // Изв. РАН. Теория и системы управления. 2012. № 6. С. 15–28.10. Марченко В. М. // Дифференц. уравнения. 2011. Т. 47, № 7. С. 1003–1017.11. Хейл Дж. Теория функционально-дифференциальных уравнений. М., 1984.

V. E. KHARTOVSKII, O. I. URBAN

CONTROL OF LINEAR AUTONOMOUS ALGEBRAIC-DIFFERENTIAL SYSTEMS BY MEANS OF DYNAMIC REGULATORS

SummaryFor linear autonomous algebraic-differential systems a new type of feedback controls is proposed. Their effectiveness is seen

in the example of the problem of calming solutions. The distinctive feature of the proposed types of controls is the possibility of its implementation for the systems that do not possess the property of complete controllability.



Беларуси

43


УДК 517.925

О. А. МАКОВЕЦКАЯ

АЛГОРИТМЫ ПОСТРОЕНИЯ РЕШЕНИЙ ПЕРИОДИЧЕСКОЙ КРАЕВОЙ ЗАДАЧИ ДЛЯ МАТРИЧНОГО УРАВНЕНИЯ ЛЯПУНОВА – РИККАТИ

Институт технологии металлов НАН Беларуси


Рассматривается краевая задача

( ) ( ) ( ) ( ), , ( ) ,n ndX A t X XB t XQ t XX F t X

dtt ×= + + + ∈

(1) ( )0 ( ),X X= w (2)

где ,t I∈ ( ), , , ,n nA B Q I ×∈ ( ), .n nF D ×ρ∈

Предполагается, что матрица-функция ( ),F t X

в области ( ){ }, : , D t � t I �ρ = ∈ < ρ

удовлетворяет относительно Х условию Липшица (локально); ( ),0 0;F t ≡ [ ]0, , 0,I = w w > 0 .< ρ ≤ ∞

При 0Q = двухточечная краевая задача качественными методами исследовалась в работе [1], конструктивными методами [2] – в [3, 4], с периодическими краевыми условиями – в [5–7]. Периодическая краевая задача для уравнения Риккати рассматривалась в [2], двухточечная – в [8]. В данной работе используются конструктивные методы [2]. Полученные результаты представляют собой обобщение и развитие соответствующих результатов, изложенных в [5–7], при этом условия однозначной разрешимости – эффективно проверяемые, алгоритмы построения решения – удобные для применений, а используемый метод [2, гл. 2] – отличный от методов, при- 2] – отличный от методов, при-2] – отличный от методов, примененных в [2–8]. В этих работах использовалась двусторонняя регуляризация [2], связанная с построением решения матричного алгебраического уравнения Ляпунова, т. e. с решением весь-. e. с решением весь- e. с решением весь-e. с решением весь- с решением весьма непростой алгебраической задачи [9–13]. Исследованию структурных свойств матричных дифференциальных уравнений различных типов и их решений посвящены работы [14–16].

Примем следующие обозначения:

{ } { } ( )0

1

( ) ,

( ) max ( ) max ( ) max ( ) max

( , ) : , , ( ) : ,

, , 0), ,( ,,t t t t

B d

B

D t � t I �

A t B t Q t h

D � t � B

F t

ρ

w

−

= ∈ ≤ ρ = ≤ w = t t

g = w a = b δ

ρ

= = =

∫

( ) ( )21 1 11+ 1 ,

2 2 2L L h gδw bw ρ + gw a + + bw a + b + ρ + gw + bw

j ρ

=

( ) ( ) ( ) ( )212 ,

2q L Lgδw bw + ρ + gbw a + b + + gwρ = a +

( )max ,

tX X t=

где 0 ,< ρ < ρ ,t I∈ ( ) 0L L= ρ > – постоянная Липшица для ( ),F t X в области ,Dρ ⋅ – норма матриц (S и T), удовлетворяющая мультипликативному неравенству ,ST S T≤ ⋅ например, любая из норм, приведенных в [17, с. 21].

Т е о р е м а. Пусть выполнены следующие условия:

( )det 0,B w ≠ (3) ( ) ,j ρ ≤ ρ (4) ( ) 1.q ρ < (5)



Беларуси

44

Тогда в области Dρ решение задачи (1), (2) существует и единственно, при этом справедлива оценка ( ).X ≤ j ρ

Д о к а з а т е л ь с т в о. Используя условие (3), сначала выведем матричное интегральное уравнение, эквивалентное задаче (1), (2). Из уравнения (1) на основании условия (2) имеем

( ) ( ) ( ) ( ) ( ) ( ) ( ) ( )( )

0 0, .X B d A X X Q X F X d

w w t t t = − t t + t t t + t t t ∫ ∫ (6)

В (6) воспользуемся тождеством типа [2, с. 47]:

( ) ( ) ( ) ( ) ( )( ) ( ) ( )( ) ( )

0 0 0.

t

tX B d X t B dX B d dX B d

w t w w

t

t t t = w − t s s + t s s

∫ ∫ ∫ ∫ ∫ (7)

На основании (3), (6), (7) и в силу (1) получим матричное интегральное уравнение

( ) ( ) ( ) ( ) ( ) ( ) ( ) ( ) ( )( ) ( )

0 0,

tX t A X X B X Q X F X B d d

t = t t + t t + t t t + t t s s t − ∫ ∫

( ) ( ) ( ) ( ) ( ) ( ) ( ) ( )( ) ( ),

tA X X B X Q X F X B d d

w w

t

− t t + t t + t t t + t t s s t −

∫ ∫

( ) ( ) ( ) ( ) ( ) ( )( ) ( )1

0, .A X X Q X F X d B

w− − t t + t t t + t t t w

∫ (8)

Уравнение (8) можно записать в следующем виде:

( ) ( ) ( ) ( ) ( ) ( ) ( ) ( ) ( )( ) ( )

0, ,X t A X X B X Q X F X K t d

w = t t + t t + t t t + t t t t −∫

( ) ( ) ( ) ( ) ( ) ( )( ) ( )1

0, ,X B X Q X F X d B

w− − t t + t t t + t t t w ∫

где

( )( ) ( )

( ) ( )

1

0

1

, 0 ,,

, 0 .

B d B tK t

B d B t

t

w

t

−

−

s s w ≤ t ≤ ≤ w

t = − s s w ≤ < t ≤ w

∫

∫

Верно и обратное: всякое непрерывное решение матричного интегрального уравнения (8) яв

ляется решением задачи (1), (2). Это можно установить с помощью несложных выкладок. Исследуем разрешимость уравнения (8). Запишем это уравнение в операторной форме:

( ),X X= (9)

где через обозначен соответствующий интегральный оператор в (8). Этот оператор действует на множестве ( , ).n nI ×

Установим, что из условий (4), (5) следует выполнение на множестве D принципа сжимающих отображений [18, с. 605], т. е. в замкнутом шаре .X ≤ ρ

Сначала установим, что ( )� D∈ для произвольной матрицы-функции ( ) .� t D∈ Выполнив оценки по норме в (9), получим последовательно

( ) ( ) ( ) ( ) ( ) ( ) ( ) ( )( ) ( )

0 0+ ) ,(

tA X X B X Q X F X B dX d

t ≤ t t + t t + t t t + t t s s t ∫ ∫

( ) ( ) ( ) ( ) ( ) ( ) ( ) ( )( ) ( ),


w w

t

+ t t + t t + t t t + t t s s t +

∫ ∫



Беларуси

45

( ) ( ) ( ) ( ) ( ) ( )( ) ( ) ( ) ( )1

0 0,

tA X X BQ X F X d X

w− + t t + t t t + t t t w ≤ g b t a + b t +

∫ ∫

( ) ( )( ) ( ) ( ) ( ) ( ) ( )( )2 2, ,

tX F X d X X F X d

w +δ t + t t t + b w − t a + b t + δ t + t t t + ∫

( ) ( ) ( )( )2

0,X X F X d

w + a t +δ t + t t t ≤ ∫

( ) ( ) ( )2 21 + .

2L h L h ≤ gw bw δρ + a + b + ρ + δρ + a + ρ + = j ρ

(10)

Из (10) на основании (4) следует соотношение

.( )X ≤ ρ

(11)

Далее из (9) имеем для произвольных , :� � D∈

( ) ( )( ) ( ) ( ) ( ) ( ) ( ) ( ) ( ) ( )

0( ) ( )

tX A B X XX X XQ X Q X

≤ g t + t t − t + t t t − t t t + − ∫

( )( ) ( )( ) ( ) ( ) ( )( ) ( ) ( )

0, ,

tF X F B d d A B XX X

t w + t t − t t s s t + t + t t − t + ∫ ∫

( ) ( ) ( ) ( ) ( ) ( ) ( )( ) ( )( ) ( ), ,X Q X QX X X d dXF F B

w

t

+ t t t − t t t + t t − t t s s t + ∫

( ) ( ) ( ) ( ) ( ) ( ) ( ) ( ) ( ) ( )( ) ( )( )

0, ,A X X Q XX X Q F XX F dX

w + t t − t + t t t − t t t + t t − t t t ≤ ∫

( )1 2 2 .

2L L X X XqX ≤ gw bw δρ + a + b + + δρ + a + − = −

Отсюда имеем оценку

( ) ( ) .X X Xq X− ≤ −

(12)

Из анализа соотношений (11), (12) видно, что неравенства (4), (5) являются условиями принципа сжимающих отображений применительно к (9). На основании этого заключаем, что в шаре X ≤ ρ

решение уравнения (9) существует и единственно. Таким образом, задача (1), (2) однозначно разрешима в области .Dρ При этом на основании (10) справедлива оценка ( ).X ≤ j ρ

Теорема полностью доказана.

Для построения решения матричного интегрального уравнения (8) рассмотрим в диффе рен-циальной форме алгоритм

( ) ( ) ( ) ( ) ( ) ( ) ( ) ( ) ( )( )1 , ,k k k k k

kdX tA t X t X t B t X t Q t X t F t X t

dt+ = + + + (13)

1 1(0) ( ), 0,1,2,...,k kX X k+ += w = (14)

где в качестве начального приближения 0X принята постоянная матрица, определяемая из условия (14) для приближения 1 :X

( ) ( ) ( ) ( )1

0, .С A С СQ С F С d B

w−= − t + t + t t w ∫ (15)

Для исследования разрешимости в шаре С ≤ ρ уравнения (15) применим принцип сжима-ющих отображений, записав это уравнение в операторной форме

( ).C C= (16)



Беларуси

46

Покажем, что ( )C < ρ для произвольной матрицы .C D∈ Выполнив оценки по норме в (16), получим

( ) ( ) ( ) ( )1

0( ) ,C B A C CQ C F C d

w− ≤ w t + t + t t ≤ ∫

( ) ( )2 2

0, .C C F C d L h l

w ≤ g a + δ + t t ≤ gw δρ + a + ρ + ≡ ∫

Поскольку ( ) ,l < j ρ то на основании (4) имеем

( ) .C < ρ (17)

Таким образом, оператор отображает множество D в себя.Далее изучим вопрос о сжимаемости оператора . Для произвольных , С C D∈ имеем

( ) ( ) ( ) ( ) ( ) ( )1

0C C B A C C C C Q C C L C C d

w− ≤ w t − + + t − + t ≤

− −∫

( )2 ,L C C q C C≤ gw δρ + a + − = −

(18)

где ( )2 .q L= gw δρ + a +

Поскольку ,q q< то 1,q < согласно условию (5).Условия (17), (18) являются условиями принципа сжимающих отображений применительно

к уравнению (16). Следовательно, это уравнение однозначно разрешимо в шаре .C ≤ ρЗ а м е ч а н и е 1. В качестве начального приближения в данном алгоритме вместо постоян- а м е ч а н и е 1. В качестве начального приближения в данном алгоритме вместо постоян-а м е ч а н и е 1. В качестве начального приближения в данном алгоритме вместо постоян- м е ч а н и е 1. В качестве начального приближения в данном алгоритме вместо постоян-м е ч а н и е 1. В качестве начального приближения в данном алгоритме вместо постоян- е ч а н и е 1. В качестве начального приближения в данном алгоритме вместо постоян-е ч а н и е 1. В качестве начального приближения в данном алгоритме вместо постоян- ч а н и е 1. В качестве начального приближения в данном алгоритме вместо постоян-ч а н и е 1. В качестве начального приближения в данном алгоритме вместо постоян- а н и е 1. В качестве начального приближения в данном алгоритме вместо постоян-а н и е 1. В качестве начального приближения в данном алгоритме вместо постоян- н и е 1. В качестве начального приближения в данном алгоритме вместо постоян-н и е 1. В качестве начального приближения в данном алгоритме вместо постоян- и е 1. В качестве начального приближения в данном алгоритме вместо постоян-и е 1. В качестве начального приближения в данном алгоритме вместо постоян- е 1. В качестве начального приближения в данном алгоритме вместо постоян-е 1. В качестве начального приближения в данном алгоритме вместо постоян-В качестве начального приближения в данном алгоритме вместо постоян

ной матрицы С можно принять произвольную матрицу 0 ( ) ,� t D∈ дающую приближенное решение 1( ),X t удовлетворяющее условию (14) (при 0k = ).

Далее, исходя из (13), (14), с помощью (7) получим рекуррентное интегральное соотношение для определения приближенных решений ( ), 1,2,...kX t k = , задачи (1), (2). Из (13) на основании (14) имеем

( ) ( ) ( ) ( ) ( ) ( ) ( ) ( )( )

0 0, .k k k k kX B d A X X Q X F X d

w w t t t = − t t + t t t + t t t ∫ ∫ (19)

Используя тождество (7), получим из (19) на основании условия (3)

( ) ( ) ( ) ( ) ( ) ( ) ( ) ( ) ( )( ) ( )1 1 1 1 1

0 0,

tk k k k k kX t A X X B X Q X F X B d d

t

− − − − − = t t + t t + t t t + t t s s t − ∫ ∫

( ) ( ) ( ) ( ) ( ) ( ) ( ) ( )( ) ( )1 1 1 1 1,k k k k k


w w

− − − − −t

− t t + t t + t t t + t t s s t −

∫ ∫

( ) ( ) ( ) ( ) ( ) ( )( ) 1

0, ( ),k k k kA X X Q X F X d B

w− − t t + t t t + t t t w

∫

1,2,...k = (20)

Как видно из (20), для определения приближенных решений , 1,2,...kX k = , получены матричные интегральные уравнения.

З а м е ч а н и е 2. Соотношение (20) фактически получено с помощью тождества (7) как реше- а м е ч а н и е 2. Соотношение (20) фактически получено с помощью тождества (7) как реше-а м е ч а н и е 2. Соотношение (20) фактически получено с помощью тождества (7) как реше- м е ч а н и е 2. Соотношение (20) фактически получено с помощью тождества (7) как реше-м е ч а н и е 2. Соотношение (20) фактически получено с помощью тождества (7) как реше- е ч а н и е 2. Соотношение (20) фактически получено с помощью тождества (7) как реше-е ч а н и е 2. Соотношение (20) фактически получено с помощью тождества (7) как реше- ч а н и е 2. Соотношение (20) фактически получено с помощью тождества (7) как реше-ч а н и е 2. Соотношение (20) фактически получено с помощью тождества (7) как реше- а н и е 2. Соотношение (20) фактически получено с помощью тождества (7) как реше-а н и е 2. Соотношение (20) фактически получено с помощью тождества (7) как реше- н и е 2. Соотношение (20) фактически получено с помощью тождества (7) как реше-н и е 2. Соотношение (20) фактически получено с помощью тождества (7) как реше- и е 2. Соотношение (20) фактически получено с помощью тождества (7) как реше-и е 2. Соотношение (20) фактически получено с помощью тождества (7) как реше- е 2. Соотношение (20) фактически получено с помощью тождества (7) как реше-е 2. Соотношение (20) фактически получено с помощью тождества (7) как реше- Соотношение (20) фактически получено с помощью тождества (7) как решение следующей задачи:

( ) ( ) ( ) ( ) ( ) ( ) ( ) ( ) ( )( )1 1 1 1 1, , k k k k

kk

dX tA t X t X t B t X t Q t X t F t X t

dt − − − − −= + + +

( ) ( ) ( ) ( ) ( ) ( ) ( ) ( )( )

0, 0, 1,2,...k k k k kA X X B X Q X F X d k

w t t + t t + t t t + t t t = = ∫ (21)



Беларуси

47

Используя условия (4), (5) теоремы, с помощью принципа сжимающих отображений индукцией по k можно доказать, что уравнения (20) однозначно разрешимы на множестве D. В результате получим последовательность ( ){ }0kX t ∞ приближенных решений задачи (1), (2), принадлежащих множеству .D

Теперь изучим вопрос о сходимости полученной последовательности. Следуя известному приему [19, с. 54], этот вопрос заменим эквивалентным вопросом о сходимости ряда

0 1 0 2 1 1( ) ( ( ) ( )) ( ( ) ( )) ... ( ( ) ( )) ...k kX t X t X t X t X t X t X t−+ − + − + + − + (22)

Докажем равномерную по [ ]0,t ∈ w сходимость ряда (22). Для этого построим сходящийся числовой ряд, который мажорирует на [ ]0,w матричный функциональный ряд (22).Выполним оценки 1( ) ( ) ,m mX t X t+ − используя (20):

( ) ( )( ) ( ) ( )1

10

1 ( )( ) ( )t

mm m mB A B X XX t X t −−+

≤ w t + t t − t +−

∫

( ) ( ) ( ) ( ) ( ) ( ) ( )( ) ( )( ) ( )1 1 1

0, ,m m m m m mX Q X X Q X F X F X B d d

t

− − − + t t t − t t t + t t − t t s s t + ∫

( ) ( )( ) ( ) ( ) ( ) ( ) ( ) ( ) ( ) ( )1 1 1m m m m m m

tA B X X X Q X X Q X

w

− − −+ t + t t − t + t t t − t t t +∫

( )( ) ( )( ) ( ) ( ) ( ) ( )1 1

0, ,m m m mF X F X B d d A X X

w w

− +t

+ t t − t t s s t + t t − t + ∫ ∫

( ) ( ) ( ) ( ) ( ) ( ) ( )( ) ( )( )1 1 1, ,m m m m m mX Q X X Q X F X F X d+ + +

+ t t t − t t t + t t − t t t ≤

( ) ( )2

1 11 2 2 .2 m m m mL X X L X X− +≤ gbw δρ + a + b + − + gw δρ + a + −

Отсюда следует оценка

1 11 ( ) , 1,2,...m m mm mm q q X X q X XX X m+ − +≤ − − + =− −

(23)

Поскольку 1,q < то из (23) имеем рекуррентную оценку

1 1 , 1,2,...,m m m mX X q X X m+ −− ≤ − =

(24)

где .1q qq q

q−

= <−

Из (24) имеем явную оценку

1 1 0 , 1,2,...mm mX X q X X m+ − ≤ − =

(25)

Используя (25), можно доказать с помощью известных приемов [18, с. 605; 19, с. 54], что последовательность ( ){ }0kX t ∞

сходится равномерно по t I∈ к решению интегрального уравнения (8), при этом справедлива оценка

1 0 , 1,2,. .

1.

k

kqX X X X

qk =− ≤ −

−

(26)

На основе (26) имеем оценку области локализации решения ( ),X t определяемую согласно алгоритму (20),

1 00 .

1X X

X Xq

−≤ +

−

(27)



Беларуси

48

Оценка (27) будет эффективной, если ее правая часть не превосходит .ρ Из несложного анализа (27) с учетом условия (4) видно, что этот факт имеет место при достаточной малости значений исходных данных. Оценки (26), (27) следует дополнить оценкой для 1 0 .X X−

Из (15), (20) имеем

( )( )

( )( )

22 2 20 0

1 0 .2 1 2 1

� L � h L hX X

q q

gbw δ + a + b + + gbw δρ + a + b + ρ + − ≤ ≤− −

Таким образом, справедливо С л е д с т в и е 1. Решение задачи (1), (2) представимо как предел равномерно сходящейся

последовательности матричных функций, определяемых рекуррентным интегральным соотно�шением (20) (с неявной вычислительной схемой) и удовлетворяющих условию (14).

Алгоритм (20) представляет собой достаточно эффективное средство для построения решения задачи (1), (2). В [2] установлено, что такие алгоритмы могут быть использованы при ре-шении конкретных задач.

Этот алгоритм неудобен тем, что основан на неявной вычислительной схеме: на каждом итерационном шаге для отыскания соответствующего приближенного решения приходится решать матричное интегральное уравнение. Поэтому рассмотрим алгоритм, основанный на явной вычислительной схеме. Такая вычислительная схема применительно к задаче (1), (2) дается соотношениями

( ) ( ) ( ) ( ) ( ) ( ) ( ) ( ) ( )( )2

1 , , k k k k kkdX t

A t X t X t B t X t Q t X t F t X tdt+

+= + + + (28)

2 2(0) ( ), 0,1,2,...,k kX X k+ += w = (29)

где в качестве начального приближения 0X принимается нулевая матрица, приближение 1X ищет ся в виде постоянной матрицы, дающей приближенное решение ( )2 ,X t удовлетворяющее условию (29).

Первое приближение имеет вид

( ) 1

10

,0 ( ).X F d B −w

= − t t w∫

Поскольку ( )1 ,� h≤ gw < j ρ то на основании условия (5) имеем 1X < ρ.Теперь на основе (28), (29) с помощью (7) получим рекуррентное интегральное соотношение

для определения приближенных решений ( ), 2,3,...iX t i = , исследуемой задачи:

( ) ( ) ( ) ( ) ( ) ( ) ( ) ( ) ( )( ) ( )1 1 11 1

0 0,k k k k k

tkX t A X X B X Q X F X B d d

t

− − −+ − = t t + t t + t t t + t t s t −

s∫ ∫

( ) ( ) ( ) ( ) ( ) ( ) ( ) ( )( ) ( )1 1 1 1,k k k k k

tA X X B X Q X F X B d d− − −

w w

−t

− t t + t t + t t t + t t s t −

s∫ ∫

( ) ( ) ( ) ( ) ( ) ( )( ) ( )1

0, , 1,2,...k k k kA X X Q X F X d B k

w− − t t + t t t + t t t = w

∫ (30)

Заметим, что соотношение (30) может быть получено с помощью тождества (7) как решение задачи, аналогичной (21):

( ) ( ) ( ) ( ) ( ) ( ) ( ) ( ) ( )( )1 1 1 1

1 , , kk

k k k kdX t

A t X t X t B t X t Q t X t F t X tdt+

− − − −= + + +

( ) ( ) ( ) ( ) ( ) ( ) ( ) ( )( )1

0 1,2,..., 0, k k k k kA X X B X Q X F d kX

w

+ t t + t t + t t t + t t t = =∫



Беларуси

49

З а м е ч а н и е 3. В качестве приближений 0 1, X X можно принять произвольные матрицы класса ( ), ,n nI ×

принадлежащие множеству D и дающие приближение ( )2 ,X t удовлетворя-ющие условию (29) при 0.k =

Как видим, вычислительная схема алгоритма (30) является явной, при этом для построения приближенных решений по этому алгоритму следует выполнить сравнительно простые вычислительные процедуры. В результате получим последовательность { }0( ) .kX t ∞ Используя условие (4), можно доказать индукцией по ,k что все члены этой последовательности принадлежат множеству .D

Далее докажем равномерную по t I∈ сходимость ряда (22) применительно к алгоритму (30). Для этого построим соответствующий сходящийся числовой ряд, который мажорирует на I ука занный матричный функциональный ряд.

Сначала выполним соответствующие оценки по норме, используя (30). Тогда получим последовательно

( ) ( ) ( ) ( ) ( ) ( )1 1

02

1t

kk k kX t X t B X X B−++ +

− ≤ t − t t + w ∫

( ) ( ) ( )( ) ( ) ( ) ( )1 1k k k kA X X Q X X− − + t + t + t t t − t +

( )( ) ( )( ) ( ) ( ) ( ) ( ) ( )1 1

0, ,

tk k k kF X F X B d d X X B A

t

− +

w + t t − t t s t + t − t t t + s

∫ ∫

( ) ( )( ) ( ) ( ) ( ) ( )( ) ( )( ) ( )1 1 1, ,k k k k k kX X Q X X F X F X B d d− − −

t

w + t s+ t t t − t + t t − t t s t + ∫

( ) ( ) ( )( ) ( )( ) ( ) ( ) ( )( ) ( )( )1 1 1

0, ,k k k k k kA X X Q X X F X F X d

w

+ + + + t + t + t t t − t + t t − t t t ≤

∫

( )2 2

1 11 1 .2 22 2k k k kL X X L X X+ −

≤ gw δρ + b w + a + − + gbw δρ + a + −

Отсюда следует оценка типа [2, с. 164]:

2 1 1 1 2 1 , 1,2,...,k k k k k kX X q X X q X kX+ + + − =− ≤ − + −

(31)

где

( )2 2

1 21 12 , 2 .2 2

q L q L = gw δρ + b w + a + = gbw δρ + a +

Заметим, что 1 2.q q q= +Используя оценку (31), можно доказать, что последовательность ( ){ }0

,kX t ∞ полученная по алгоритму (30), сходится равномерно по t I∈ к решению интегрального уравнения (8). С помощью (31) можно получить также оценку

11

2 1 , 1,2,. .1

.k k k kk

q X X qX X

qX X

k+ −+

− + −=− ≤

−

(32)

Оценку (32) следует дополнить оценками для 1 0 2 1, .X X X X− −

Очевидно, 1 0 .� � h− ≤ gw Далее из (30) при 1k = имеем

( ) ( ) ( ) ( )2 1 1

0,0 ,X t X X B F d K t

w− = t + t t t − ∫

( ) ( ) ( ) ( ) ( ) ( )1 1

1 1 1 10 0

, ,0 .A X X Q X F X d B F d B− −w w

− t + t + t t + t t w w∫ ∫ (33)



Беларуси

Выполнив в (33) соответствующие оценки, получим

( ) ( ) ( ) ( ) ( ) ( ) ( )1

1 1 1 10

2 10

, ,0X t X K t X B F d B A X X Q Xw w

− − ≤ t t + t t + t + tw +∫ ∫

( ) ( ) ( ) ( ) 22

1 1 1 11, ,0 .2

F � F d � h L � � + t − t t ≤ gbw b + + gw a + + δ

Отсюда следует оценка

( ) ( )2 1

2 21 .2

� � h L − ≤ gbw bρ + + gw δρ + a + ρ

Итак, имеет местоС л е д с т в и е 2. Решение задачи (1), (2) представимо как предел равномерно сходящейся

последовательности матричных функций, определяемых алгоритмом (30) (с явной вычисли�тель ной схемой) и удовлетворяющих условию (29).

Заметим, что указанный алгоритм содержит достаточно простые вычислительные процедуры и поэтому удобнее для применения, чем алгоритм (20), а также соответствующие алгоритмы, приведенные в [5–7].

З а м е ч а н и е 4. В отличие от теоремы, следствия 1, 2 доказаны конструктивным способом, поэтому их можно рассматривать как самостоятельные утверждения, дающие конструктивные достаточные условия сходимости функциональных рядов, определяемых соответствующими алгоритмами.


1. Murty K. N., Howell G. W., Sivasundaram S. // J. Mathem. Anal. and Appl. 1992. Vol. 167. P. 505–515.2. Лаптинский В. Н. Конструктивный анализ управляемых колебательных систем. Минск, 1998. 3. Лаптинский В. Н., Маковецкий И. И. // Дифференц. уравнения. 2005. Т. 41, № 7. С. 994–996.4. Лаптинский В. Н., Маковецкий И. И. // Весцi НАН Беларусi. Сер. фiз.-мат. навук. 2006. № 3. С. 218–223. 5. Лаптинский В. Н. Конструктивный анализ периодической краевой задачи для нелинейного матричного диф

ференциального уравнения Ляпунова. Могилев, 2007. (Препринт / ИТМ НАН Беларуси; № 7).6. Лаптинский В. Н. // Весцi AH БССР. Сер. фiз.-мат. навук. 1997. № 4. С. 14–18.7. Подолян С. В. // Весцi AH БССР. Сер. фiз.-мат. навук. 1988. № 6. С. 31–34.8. Laptinsky V. N., Makovetsky I. I. // Central European Science J. 2005. Vol. 3, N 1. P. 143–154.9. Гантмахер Ф. Р. Теория матриц. М., 1967. 10. Беллман Р. Введение в теорию матриц. М., 1969.11. Деменчук А. К. // Докл. НАН Беларуси. 2005. Т. 49, № 1. С. 10–14.12. Деменчук А. К., Макаров Е. К. // Докл. НАН Беларуси. 2008. Т. 52, № 2. С. 510.13. Demenchuk A. K., Makarov E. K. // J. of Math. Phys. 2009. Vol. 50, N 083508. P. 1–13.14. Деревенский В. П. // Дифференц. уравнения. 1995. Т. 31, № 11. С. 1925−1926.15. Деревенский В. П. // Дифференц. уравнения. 1997. Т. 33, № 11. С. 1573.16. Деревенский В. П. // Мат. заметки. 1999. Т. 66, вып. 1. С. 63–75.17. Демидович Б. П. Лекции по математической теории устойчивости. М., 1967.18. Канторович Л. В., Акилов Г. П. Функциональный анализ. М., 1977. 19. Бибиков Ю. Н. Курс обыкновенных дифференциальных уравнений. М., 1991.

O. A. MAKOVETSKAYA

ALGORITHMS FOR CONSTRUCTING THE SOLUTIONS OF THE PERIODIC BOUNDARY VALUE PROBLEM FOR THE MATRIX LYAPUNOV – RICCATI EQUATION

Summary

Constructive conditions of unique solvability and algorithms for constructing the solutions of periodic boundary value problem for the matrix differential equation, which is a generalization of the Lyapunov and Riccati equations are obtained.



Беларуси

51


УДК 514.142

А. В. ПРОКОПЧУК, В. И. ЯНЧЕВСКИЙ

О НЕЦИКЛИЧЕСКИХ УНИТАРНЫХ ИНВОЛЮЦИЯХ ГЕНЗЕЛЕВЫХ ДИСКРЕТНО НОРМИРОВАННЫХ АЛГЕБР С ДЕЛЕНИЕМ

Институт математики НАН Беларуси


В этой статье нас будут интересовать унитарные инволюции конечномерных центральных алгебр с делением. Напомним вначале необходимые определения.

О п р е д е л е н и е 1. Пусть D – конечномерная центральная алгебра с делением над полем K. Для квадратичного сепарабельного расширения полей /K k инволютивный антиавтоморфизм алгебры D называется унитарной /K k-инволюцией, если его ограничение на K – нетривиальный автоморфизм с полем инвариантов k.

Среди унитарных инволюций с точки зрения изучения внешних анизотропных форм алгеб-ра ических групп типа nA (см, напр., [3]) важную роль играют так называемые циклические.

О п р е д е л е н и е 2. /K k-инволюция t алгебры D называется циклической, если существует циклическое расширение / kχ , линейно разделeнное над k с полем K такое, что композит Kχ – максимальное подполе алгебры D.

Описание циклических /K k-инволюций для произвольных полей k является малореальной задачей, поэтому при исследовании проблемы цикличности инволюций обычно ограничиваются рассмотрением важных для приложений специальных классов расширений /K k. Среди перво-начальных результатов о цикличности инволюций, которые получены к настоящему времени, отметим следующие ([1, 2]), связанные с различными условиями на поле k и алгебру D (которая не обязательно алгебра с делением):

(i) k – конечное поле и степень алгебры D нечeтна;(ii) поле k обладает свойством, что всякая квадратичная k -форма от 8 переменных изотропна,

степень алгебры D равна 3 и k содержит примитивный корень степени 3, если char 3k ≠ ;(iii) k – глобальное поле и алгебра D нечeтной степени расщеплена;(iv) k – локальное недиадическое поле и степень алгебры D нечeтна;(v) k – поле алгебраических чисел.До сих пор до конца не рассмотрена ситуация гензелевых полей k , что является предметом

рассмотрения настоящей статьи в случае, когда группа значений нормирования поля k дискретна (т. е. изоморфна Z).

Пусть kv – гензелево дискретное нормирование поля k , а Kv и vD – их однозначные продол-жения соответственно на поле K и алгебру D с группами значений KΓ и ΓD . Пусть VD, M D и /V M= D DD – соответственно кольцо, идеал и алгебра вычетов нормирования VD.

Проблема существования циклических унитарных инволюций в центральных гензелевых алгебрах с делением решается различно в зависимости от того, является ли рассматриваемая алгебра неразветвлeнной или нет. В случае неразветвлeнных алгебр имеется простая редукция этой проблемы к аналогичной задаче, связанной с алгебрами вычетов рассматриваемых алгебр. Напомним определение неразветвлeнных над K алгебр D.



Беларуси

52

О п р е д е л е н и е 3. Алгебра D называется неразветвленной над K, если [ : ] = [ : ]K KD D и ( ) /Z KD – сепарабельное расширение полей (здесь ( )Z D – центр алгебры ) D и разветвленной в противном случае.

В случае неразветвлeнных над K алгебр D имеет место следующая теорема редукции.Т е о р е м а 1. Пусть D – неразветвленная над K алгебра с делением и унитарной

/K k�инволюцией. Тогда D обладает циклической /K k�инволюций тогда и только тогда, когда в существуетD циклическое расширение / k , линейно разделeнное с /K k, и такое, что K − подполе .в D

Для алгебр D с ветвлением над K мы описываем важное необходимое условие для суще ство-вания циклических инволюций в случае слабо разветвленных алгебр D.

О п р е д е л е н и е 4. Алгебра D слабо разветвлена над K, если порядок группы / KΓ ΓD взаимно просто с характеристикой поля .K

Для таких таких алгебр имеет место следующаяТ е о р е м а 2. Пусть k – гензелево поле, / KD – центральная алгебра с делением нечeтного

индекса с /K k�инволюцией, где /K k – неразветвлeнное квадратичное расширение. Если D обладает циклической /K k�инволюцией, то примитивный корень степени p лежит в k для любого простого делителя p индекса D.

З а м е ч а н и е. Заметим, что в случае ветвящихся алгебр нечeтного индекса расширение /K k всегда не разветвлено.

Из последней теоремы немедленно вытекает основное утверждение, описывающее нецикли-ческие /K k-инволюции в слабо разветвлeнных алгебрах нечeтных индексов.

С л е д с т в и е. В обозначениях последней теоремы все /K k-инволюции алгебры D не цик-лические при условии отсутствия примитивного корня из единицы степени p хотя бы для одного простого делителя p индекса D.

Кроме того, при доказательстве теоремы 2 будет использовано следующее свойство центров .DП р е д л о ж е н и е. Пусть / ,kD как и выше, – алгебра нечетного индекса, с /K k�инволюцией

и /K k неразветвлено. Тогда группа Галуа центра надD k является группой диэдра.Д о к а з а т е л ь с т в о. Обозначим через ( )Z D центр .D Тогда для алгебры инерции I алгебры D

ввиду леммы 3.17 [3] существует /K k-инволюция t алгебры D и простой элемент П кольца VD такие, что, II =t , II i =Π и ΠΠt = (здесь Πi – внутренний автоморфизм, индуцируемый эле-ментом П). Из последнего немедленно следует, что ограничения t и iΠt над I являются инволюциями этой алгебры с одинаковым действием на поле K. Тогда их редукции – инволюции

с одинаковымD действием на .K Расширение ( / )Z kD является расширением Галуа с образу-

ющими ( )|ZtD

и ( )|ZiΠtD

(заметим, что их композиция совпадает с редукцией автоморфизма ,iΠ который, в свою очередь, является образующей группы Галуа ( / ),Z KD см. [4]). Откуда уже легко

усмотреть, что группа Галуа ( )Z D над k является группой диэдра.Д о к а з а т е л ь с т в о теоремы 2. Нетрудно видеть, что достаточно доказать теорему

в случае алгебр D примарных индексов. Пусть ind = npD для простого p.t – циклическая /K k-инволюция такая, что / kχ – t-инвариантное циклическое расширение

со свойством: /K Kχ – максимальное подполе в D.Рассмотрим два случая:(i) / kχ – расширение с ветвлением;(ii) χ – неразветвлeнное расширение k.В случае (i) / kχ разлагается в башню nk ⊆ χ ⊆ χ, где nχ – максимальное неразветвлeнное

подрасширение k в χ. Ввиду наших преположений об индексе алгебры D и характеристики k , расширение / nχ χ – слабо вполне разветвлено степени, скажем, , > 0sp s , и, следовательно, куммерово (т. е. = ( )

spnχ χ π , где π – простой элемент кольца целых поля nχ ). Поскольку / nχ χ

циклично, примитивный корень степени sp из единицы обязан принадлежать полю nχ . Тогда



Беларуси

полю nχ должен принадлежать корень pe p-й степени из единицы. Заметим, что это так в том и только в том случае, когда p ke ∈ . Действительно, ( )p nk k⊆ e ⊆ χ , и так как степень [ ( ) : ]pk ke делит 1p − и одновременно делит sp , то ( ) =pk ke . Ввиду нашего предположения о взаимной простоте p и характеристики поля вычетов k поля k , p ke ∈ тогда и только тогда, когда его вычет принадлежит полю k . Таким образом, отсутствие примитивного корня p-й степени в k противо-речит цикличности t.

В случае (ii) в алгебре D имеется подалгебра инерции I такая, что .I k⊇ ⊇ χ ⊇D Так как Gal( ( ) / )Z kD – группа диэдра, ввиду Gal( ( ) / )I Z I k=D – группа диэдра. Значит, Gal( ( ) / ) Gal( ( ) / ),Z I k Z k≅ D здесь ( )Z D , ( )Z I – центр D и I соответственно.

С другой стороны, ( )Z I K⊆ χ , так как любой элемент из χ или K перестановочен с элементами ( )Z I . Следовательно, ( )k Z I K⊆ ⊆ χ . Группа Gal( / )K kχ абелева, поскольку расширения / kχ

и /K k линейно разделены и цикличны. Следовательно, Gal( ( ) / ) Gal( / ) / Gal( / ( ))Z I k K k K Z I≅ χ χ , и потому Gal( ( ) / )Z I k – абелева, что противоречит тому, что Gal( ( ) / )Z I k – группа диэдра (кото-рая некоммутативна).


1. Прокопчук А. В., Тихонов С. В., Янчевский В. И. // Весцi НАН Беларусi. Сер. фiз.-мат. навук. 2013. № 1. С. 36–40.2. Янчевский В. И. // Докл. НАН Беларуси. 2013. Т. 57, № 2. С. 32–37.3. Платонов В. П., Рапинчук А. С. Алгебраические группы и теория чисел. М., 1991. 4. Jacob B., Wadsworth A. // J. Algebra. 1990. Vol. 128. P. 126–179.

A. V. PROKOPCHUK, V. I. YANCHEVSKII

NON-CYCLIC UNITARY INVOLUTIONS OF HENSELIAN DISCRETELY VALUED DIVISION ALGEBRAS

Summary

Let / KD be a Henselian discrete valued tamely ramified central division K-algebra of odd degree. The following necessary condition for existence of the cyclic unitary K/k-involution of D (K/k is a separable extension of degree 2) is proved: the primitive root of unity of pth degree for any prime divisor of index D lies in the residue field k of k. The description of the wide class of non-cyclic involutions of above algebras follows immidiately from the above condition.



Беларуси

54


УДК 519.1

О. И. ДУГИНОВ

ПОКРЫТИЕ РАСЩЕПЛЯЕМОГО ГРАФА НАИМЕНЬШИМ ЧИСЛОМ ПОЛНЫХ ДВУДОЛЬНЫХ ПОДГРАФОВ

Институт математики НАН Беларуси(Поступила в редакцию 06.12.2013)

Введение. В данной работе исследуется вычислительная сложность задач покрытия графа наименьшим числом биклик (полных двудольных подграфов) в классе расщепляемых графов.

Рассматриваются только конечные неориентированные графы G = (V, E) без кратных ребер и петель с множеством вершин V = V(G) и множеством ребер E = E(G). Используется стандартная теоретико-графовая терминология [1, 2]. Пусть S V⊆ – подмножество вершин графа G. Под-граф графа G, порожденный множеством S, обозначается как G[S] и G – S = G[V \ S]. Граф G = (V, E) называется двудольным, если существует разбиение его множества вершин 1 2V U U= ∪ такое, что U1, U2 – независимые множества в G, и обозначается как G = ((U1, U2), E). Здесь одно из множеств U1, U2 может быть пустым. Если при этом { }1 2 1 1 2 2: , ,E u u u U u U= ∈ ∈ то G называется пол-ным двудольным. Полный двудольный граф G = ((U1, U2), E) является связным, если выполняется одно из условий: 1 2| | | | 1U U+ = или .E ≠ ∅

Бикликой графа G называется связный полный двудольный (не обязательно вершинно-порожденный) подграф 1 2(( , ), )B U U= Σ графа G. При этом биклика B называется звездой с центром в вершине v, если U1 = {v} или U2 = {v}. Биклика, которая содержит только одну вершину, называется тривиальной. Стоит отметить важное обстоятельство. Если граф G содержит изолированную вершину v, то существует ровно одна биклика графа G, которая включает вершину v – тривиальная биклика, состоящая из вершины v. Будем говорить, что биклика B графа G покрывает ребро ( ),e E G∈ если e содержится в B, т. е. .e∈Σ Пусть S – некоторое множество (не обязательно всех) биклик графа G. В случае, когда хотя бы одна биклика из S покрывает ( ),e E G∈ будем говорить, что S покрывает e. Биклики графа имеют широкое практическое применение. Они используются для моделирования прикладных задач, которые возникают в области биоинформатики, анализа данных, искусственного интеллекта и др. [3, 4].

Множество S биклик графа G называется бикликовым покрытием мощности |S| графа G, если каждое ребро G содержится хотя бы в одной биклике из S. Другими словами, бикликовое покрытие графа G – множество биклик G, которое покрывает каждое ребро G. Наименьшее число биклик в бикликовом покрытии графа G обозначается как bc(G).

Множество S биклик графа G называется бикликовым покрытием вершин мощности |S| графа G, если каждая вершина графа G содержится хотя бы в одной биклике из S. Обозначим через b(G) наименьшее число биклик в бикликовом покрытии вершин G.

В данной работе рассматриваются следующие две задачи распознавания, которые связаны с параметрами bc(G) и b(G) графа G.

Бикликовое покрытиеУсловие: задан граф G и натуральное число k.Вопрос: существует ли бикликовое покрытие графа G мощности не более k? Отметим, что этот вопрос эквивалентен следующему вопросу: верно ли, что bc(G) ≤ k? В оп

тимизационной версии задачи Бикликовое покрытие требуется найти наименьшее (по мощности) бикликовое покрытие заданного графа.



Беларуси

55

Бикликовое покрытие вершинУсловие: задан граф G и натуральное число k.Вопрос: существует ли бикликовое покрытие вершин графа G мощности не более k?Вопрос, сформулированный выше, эквивалентен следующему: верно ли, что b(G) ≤ k? В оп

тимизационной версии задачи Бикликовое покрытие вершин требуется найти наименьшее (по мощ-ности) бикликовое покрытие вершин заданного графа.

Задача Бикликовое покрытие имеет широкое применение в области искусственного интеллекта, биологии и теории потоков [4, 5]. Задача Бикликовое покрытие вершин применяется в области анализа данных и безопасности сетей, в сфере электронной торговли и поиска информации [3, 6, 7].

Обе рассматриваемые задачи являются NP-полными и остаются NP-полными в классе двудольных графов [3]. Цель данной работы состоит в том, чтобы установить вычислительную сложность этих задач в классе расщепляемых графов. Мы покажем, что в этом классе графов обе задачи остаются NP-полными.

Впервые понятие расщепляемого графа было введено С. Фолдесом и П. Хаммером в [8] и независимо Р. И. Тышкевич и А. А. Черняк в [9]. Расщепляемым графом называется граф, который допускает разбиение его множества вершин на клику и независимое множество. Класс расщеп-ляемых графов содержится в хорошо известном классе хордальных графов. Более того, граф G расщепляемый тогда и только тогда, когда оба графа G и G являются хордальными [8]. В терминах запрещенных порожденных подграфов, расщепляемый граф характеризуется как граф, который не содержит графы C4, 4 ,С С5 в качестве порожденных подграфов [8]. Многие, в общем случае NP-трудные задачи становятся полиномиально разрешимыми в классе расщепляемых графов.

Вычислительная сложность задачи Бикликовое покрытие для расщепляемых графов устанавливается в п. 1, задачи Бикликовое покрытие вершин – в п. 2.

1. Бикликовое покрытие расщепляемого графа. Известно, что задача Бикликовое покры-тие является NP-полной в следующих классах графов: двудольные графы [10], хордальные двудольные графы [11]. В то же время эта задача становится полиномиально разрешимой в таких классах графов, как домино-свободные двудольные графы [4], С4-свободные двудольные графы [11], выпуклые двудольные графы [12], интервальные двудольные графы [13], последовательно-параллельные графы [14], графы с ограниченной путевой шириной [15].

Т е о р е м а 1. Задача Бикликовое покрытие является NP�полной в классе расщепляемых графов.Для того чтобы доказать эту теорему, нам потребуется два утверждения. Следующая очевид

ная лемма дает структурное свойство биклик графа.Л е м м а 1. Пусть G – граф и 1 2(( , ), )B U U= Σ – любая его биклика, � – собственное подмно�� – собственное подмно� – собственное подмно-

жество множества 1 2.U U∪ При удалении из B множества вершин X образуется биклика или пустой граф (т. е. граф, не содержащий ребер).

Л е м м а 2. Пусть G1 = (V, E) – граф, � V⊆ – любое независимое множество G1. Для дву-дольного графа G2 = ((X, V \ X), E′ ), где { : , \ }E uv E u � v V �′ = ∈ ∈ ∈ верно bc(G2) ≤ bc(G1).

Д о к а з а т е л ь с т в о. Пусть G1 = (V, E) – граф и X – произвольное независимое множество в G1. Если X = ∅ , то bc(G2) = 0 и неравенство bc(G2) ≤ bc(G1) очевидно выполняется. Пусть .X ≠ ∅ Обозначим \ .� V �= Рассмотрим двудольный граф 2 (( , ), ),G X X E′= где { : , }.E uv E u X v X′ = ∈ ∈ ∈ Граф G2 является подграфом G1 и получается из G1 путем удаления всех ребер G1, оба конца которых принадлежат X . Требуется доказать, что bc(G2) ≤ bc(G1).

Пусть S – наименьшее бикликовое покрытие графа G1, которое состоит из биклик (( , ), ),i i iA B Σ

1{1,2, , ( )}.i bc G∈ Построим бикликовое покрытие S ′ графа G2 такое, что | | | |S S′ ≤ . Для этого разобьем множество S на три непересекающихся подмножества 1 2 3S S S S= ∪ ∪ , где

1

2

3

: {(( , ), ) : },: {(( , ), ) : , \ },: {(( , ), ) : }.

i i i i

i i i i i

i i i i

S A B S ES A B S E ES A B S E

′= Σ ∈ Σ ⊆′ ′= Σ ∈ Σ ∩ ≠ ∅ Σ ≠ ∅′= Σ ∈ Σ ∩ = ∅



Беларуси

56

Заметим, что каждое ребро графа G1, принадлежащее ,E′ покрывается множеством биклик

1 2 ,S S∪ и каждая биклика из S1 является бикликой графа G2. Каждую биклику (( , ), )i i iA B Σ из S2 преобразуем в биклику графа G2, которую обозначим как * * *(( , ), )i i iA B Σ таким образом, что все ребра из ,E′ покрытые бикликой (( , ), ),i i iA B Σ будут покрыты и * * *(( , ), ).i i iA B Σ

Рассмотрим произвольную биклику (( , ), )i i iA B Σ из S2. Так как i E′Σ ∩ ≠ ∅ и \ ,i E′Σ ≠ ∅ то имеет место хотя бы одно из следующих двух условий: ,iA X∩ ≠ ∅ iA X∩ ≠ ∅ или ,iB X∩ ≠ ∅

.iB X∩ ≠ ∅ Без потери общности предположим, что имеет место первое условие. Докажем, что в этом случае .iB X⊆ Доказательство проведем от противного. Допустим, что ,iB X∩ ≠ ∅ и рассмотрим вершину .ib B X∈ ∩ Зафиксируем некоторую вершину .ix A X∈ ∩ Так как в графе G1 каждая вершина из Ai смежна с каждой вершиной из Bi, то вершины b и х смежны. Последнее невозможно, так как X – независимое множество G1. Поэтому iB X∩ = ∅ и .iB X⊆

Таким образом, выполняется ,iA X∩ ≠ ∅ ,iA X∩ ≠ ∅ .iB X⊆ Положим * : ,i iA A X= ∩ * :i iB B= и * : .i i E′Σ = Σ ∩ Легко видеть, что * * *(( , ), )i i iA B Σ – биклика графа G2. Обозначим

* * *

2 2: {(( , ), ) : (( , ), ) }.i i i i i iS A B A B S′ = Σ Σ ∈

Покажем, что множество 1 2:S S S′ ′= ∪ биклик графа G2 является бикликовым покрытием графа G2. Известно, что множество биклик 1 2S S∪ графа G1 покрывает каждое ребро .e E′∈ Если ребро e покрыто бикликой из S1, то оно, очевидно, покрывается и множеством биклик .S ′ Если же e покрыто бикликой (( , ), )i i iA B Σ из S2, то ребро e покрыто бикликой * * *(( , ), )i i iA B Σ из 2S ′ . Следовательно, и в этом случае S ′ покрывает e. Поэтому S ′ – бикликовое покрытие двудольного графа G2, количество биклик в котором не более чем 1 2 1 2 1| | | | | | | | | | ( ).S S S S S bc G′+ ≤ + ≤ = Таким образом, bc(G2) ≤ bc(G1). Лемма 2 доказана.

Д о к а з а т е л ь с т в о теоремы 1. Задача Бикликовое покрытие принадлежит классу NP [10]. Мы построим полиномиальное сведение задачи Бикликовое покрытие в классе двудольных графов (которая является NP-полной) к задаче Бикликовое покрытие в классе расщепляемых графов. Пусть G = ((X, Y), E) – двудольный граф без изолированных вершин, где X = {x1, x2, ... , xp}, Y = {y1, y2, ... , yq}.

Преобразуем двудольный граф G в расщепляемый граф ( , )V E′ ′Γ = следующим образом (в ка честве примера см. рис. 1).

1. Изначально положим : ,V � Y′ = ∪ : .E E′ =2. В графе Г каждые две различные вершины из Y соединим ребром.3. Добавим к графу Г множество новых вершин 1 2: { , , , }.qY y y y′ ′ ′ ′=

4. Каждые две различные вершины из Y ′ соединим ребром.

5. Соединим ребром каждую вершину iy′ из Y ′ с каждой вершиной yj из Y.

Построенный таким образом граф ( , )V E′ ′Γ = имеет множество вершин V � Y Y ′= ∪ ∪ и мно-жество ребер { :1 } { :1 } { :1 , }.i j i j i jE E y y i j q y y i j q y y i j q′ ′ ′ ′= ∪ ≤ < ≤ ∪ ≤ < ≤ ∪ ≤ ≤ Граф Г является

Рис. 1. Пример преобразования двудольного графа G в расщепляемый граф Г



Беларуси

57

расщепляемым, в котором X – независимое множество, а Y Y ′∪ – клика. Очевидно, что такое пре-образование двудольного графа в расщепляемый можно осуществить за полиномиальное вре мя. Утверждается, что 2( ) ( ) log .bc bc G qΓ = + Это равенство вытекает из следующих двух лемм.

Л е м м а 3. 2( ) ( ) log .bc bc G qΓ ≤ + Д о к а з а т е л ь с т в о. Рассмотрим наименьшее бикликовое покрытие S графа G, которое

состоит из биклик (( , ), )i i iA B Σ и ,iA X⊆ ,iB Y⊆ 1,2,..., ( ).i bc G= Построим бикликовое покрытие S ′ графа Г такое, что 2| | | | log .S S q′ = + Так как G является подграфом Г, то каждая биклика из S является бикликой Г. Заметим, что каждое ребро e графа Г, принадлежащее E, покрывается множеством биклик S. Преобразуем каждую биклику (( , ), )i i iA B Σ из S в биклику * * *(( , ), )i i iA B Σ графа Г,

где * : ,i iA A Y ′= ∪ * :i iB B= и * : { : , }.i i r s r s iy y y Y y B′ ′ ′Σ = Σ ∪ ∈ ∈ Обозначим * * *1 : {(( , ), ) :1 ( )}.i i iS A B i bc G= Σ ≤ ≤

Так как S покрывает все ребра Г, принадлежащие E, то множество биклик S1 также покрывает все ребра Г, которые принадлежат множеству E. Это следует из построения биклик S1. Покажем, что S1 покрывает каждое ребро Г, принадлежащее множеству { :1 , }.r sy y r s q′ ≤ ≤

Рассмотрим произвольное ребро Г вида ,r sy y′ где ry Y′ ′∈ и ,sy Y∈ 1 ≤ r, s ≤ q. Так как исходный граф G без изолированных вершин, то в G существует ребро e, инцидентное вершине ys. Пусть (( , ), )i i iA B Σ – биклика из S, которая покрывает e. Так как ,iA X⊆ ,iB Y⊆ то .s iy B∈ Тогда соответствующая биклика * * *(( , ), )i i iA B Σ из S1 покрывает ребро ,r sy y′ поскольку *.r s iy y′ ∈Σ Таким образом, каждое ребро Г, принадлежащее множеству { :1 , },r sE y y r s q′∪ ≤ ≤ покрыто некоторой бикликой из S1.

Теперь построим множество S2 биклик графа Г, которое покрывает все ребра Г, непокрытые бикликами из S1. Точнее, цель состоит в том, чтобы построить множество S2 биклик Г, которое покрывает каждое ребро Г, принадлежащее множеству { :1 } { :1 }.i j i jy y i j q y y i j q′ ′≤ < ≤ ∪ ≤ < ≤ Заметим, что множество ребер { :1 }i jy y i j q≤ < ≤ совпадает с множеством ребер порожденного подграфа Г[Y] графа Г, а множество ребер порожденного подграфа [ ]Y ′Γ графа Г совпадает с { :1 }.i jy y i j q′ ′ ≤ < ≤ Пусть (( , ), )A B Σ – некоторая биклика графа Г[Y]. Близнецом биклики (( , ), )A B Σ называется биклика (( , ), )A B′ ′ ′Σ графа [ ],Y ′Γ где { : },i iA y y A′ ′= ∈ { : }i iB y y B′ ′= ∈ и { : }.i j i jy y y y′ ′ ′Σ = ∈Σ Слиянием биклики (( , ), )A B Σ и ее близнеца называется операция, в ре-зультате которой получается биклика графа Г вида (( , ), ),A A B B′ ′ ′ ′′∪ ∪ Σ ∪ Σ ∪ Σ где

{ : , } { : , }.i j i j i j i jy y y B y A y y y A y B′′ ′ ′ ′ ′ ′ ′Σ = ∈ ∈ ∪ ∈ ∈ Заметим, что биклика, которая получается в результате слияния биклики (( , ), )A B Σ и ее близнеца, покрывает все ребра Г, покрываемые бикликой (( , ), )A B Σ и ее близнецом.

П р и м е р. Рассмотрим граф Г, изображенный на рис. 1. На рис. 2, а выделены биклика (( , ), )A B Σ графа Г[Y], где 2{ },A y= 1 3{ , },B y y= 2 1 2 3{ , }y y y yΣ = и ее близнец (( , ), ),A B′ ′ ′Σ где

2{ }A y′ ′= , 1 3{ , }B y y′ ′ ′= , 2 1 2 3{ , }y y y y′ ′ ′ ′ ′Σ = . В результате слияния биклики (( , ), )A B Σ и ее близне ца по-лучается биклика (( , ), ),A B′′ ′′ ′′Σ представленная на рис. 2, б, в которой 2 2{ , },A y y′′ ′= 1 3 1 3{ , , , }B y y y y′′ ′ ′= и 2 1 2 3 2 1 2 3 2 1 2 3 2 1 2 3{ , , , , , , , }.y y y y y y y y y y y y y y y y′′ ′ ′ ′ ′ ′ ′ ′ ′Σ =

а бРис. 2. В графе Г выделены жирным биклика и ее близнец (a); биклика, которая получается в результате их слияния (б)



Беларуси

58

Известно [16], что 2( ) log ,nbc K n= где Kn – полный граф на n вершинах. Каждый из графов Г[Y] и [ ]Y ′Γ является полным графом на q вершинах. Тогда существует бикликовое покрытие P гра-фа Г[Y], которое состоит из 2log q биклик. Теперь для каждой биклики (( , ), )A B Σ из P рассмот-рим ее близнеца (( , ), ).A B′ ′ ′Σ Заметим, что множество биклик : {(( , ), ) : (( , ), ) }P A B A B P′ ′ ′ ′= Σ Σ ∈ покрывает каждое ребро графа [ ]Y ′Γ и состоит также из 2log q биклик. Для каждой биклики (( , ), )A B Σ из P выполним слияние с ее близнецом (( , ), )A B′ ′ ′Σ из .P′ Получившееся в результате множество биклик обозначим как S2. Легко видеть, что S2 покрывает каждое ребро графов Г[Y],

[ ]Y ′Γ и содержит 2log q биклик.Множество биклик S1 покрывает каждое ребро графа Г, принадлежащее множеству { :1 , },r sE y y r s q′∪ ≤ ≤ а множество биклик S2 покрывает каждое ребро Г, принадлежащее мно-

жеству { :1 } { :1 }.i j i jy y i j q y y i j q′ ′≤ < ≤ ∪ ≤ < ≤ Поэтому 1 2:S S S′ = ∪ является бикликовым по-

кры тием графа Г, которое состоит ровно из 1 2 2 2| | | | | | log ( ) logS S S q bc G q+ = + = + биклик. Следовательно, выполняется неравенство 2( ) ( ) log .bc bc G qΓ ≤ + Лемма 3 доказана.

Л е м м а 4. 2( ) ( ) log .bc G bc q≤ Γ − Д о к а з а т е л ь с т в о. Рассмотрим наименьшее бикликовое покрытие S графа Г. Построим

бикликовое покрытие графа G мощности не более чем 2| | log .S q− Нетрудно видеть, что два ребра любого графа содержатся в некоторой одной биклике этого

графа тогда и только тогда, когда выполняется хотя бы одно из следующих двух условий: они или смежны (т. е. имеют одну общую концевую вершину), или содержатся в некотором цикле длины четыре. Заметим, что для любых двух ребер графа Г, одно из которых принадлежит множеству E, а другое является ребром графа [ ],Y ′Γ оба условия не выполняются. Поэтому любая биклика графа Г не может одновременно содержать ребро из E и ребро графа [ ].Y ′Γ Разобьем множество S на два непересекающихся подмножества 1 2: .S S S= ∪ К S1 отнесем все биклики из S, которые содержат хотя бы одно ребро графа [ ].Y ′Γ Все остальные биклики отнесем к S2.

Легко видеть, что S2 покрывает все ребра Г, принадлежащие множеству E. Так как граф [ ]Y ′Γ – полный граф на q вершинах, то 1 2| | log .S q≥ Действительно, в противном случае, удалив из каждой биклики множества S1 все вершины из \V Y′ ′, получили бы множество, скажем 1,S ′ подграфов графа [ ],Y ′Γ которое, согласно лемме 1, состоит из биклик и пустых графов. Удалив из 1S ′ пустые графы, очевидно, получили бы бикликовое покрытие полного графа [ ]Y ′Γ на q верши

нах, состоящее из менее чем 2log q биклик, что невозможно. Поэтому 1 2| | logS q≥ и

2 1 2| | | | | | ( ) log .S S S bc q= − ≤ Γ − (1)

Образуем граф H из графа Г путем удаления из Г всех вершин множества Y ′ и всех ребер, которые не содержатся ни в одной биклике из S2. Так как S2 покрывает все ребра из E, то двудольный граф G является подграфом графа H.

Теперь из каждой биклики множества S2 удалим вершины, принадлежащие .Y ′ В результате получим множество подграфов графа H, которое обозначим как 2.S ′ Согласно лемме 1, каждый элемент 2S ′ является или бикликой графа H, или пустым графом. Удалим из 2S ′ все пустые графы.

Очевидно, что 2S ′ является бикликовым покрытием графа H. Поэтому 2( ) | | .bc H S ′≤ Учитывая (1) и тот факт, что 2 2| | | |,S S′ ≤ получаем следующую оценку сверху:

2 2 2( ) | | | | ( ) log .bc H S S bc q′≤ ≤ ≤ Γ − (2)

В графе H множество X является независимым, а двудольный граф G = ((X, Y), E) получается из H путем удаления всех ребер, оба конца которых принадлежат ( ).Y V H⊆ Из леммы 2 следует, что bc(G) ≤ bc(H). Учитывая (2), получаем 2( ) ( ) log .bc G bc q≤ Γ − Лемма 4 доказана.



Беларуси

59

Из равенства 2( ) ( ) logbc bc G qΓ = + следует, что для двудольного графа G существует бикликовое покрытие, состоящее из не более чем k биклик тогда и только тогда, когда для расщеп-ляемого графа Г существует бикликовое покрытие, мощность которого не более чем 2log .k q+ Требуемое полиномиальное сведение построено. Теорема 1 доказана.

2. Бикликовое покрытие вершин расщепляемого графа. Пусть G = ((X, Y), E) – двудольный граф и .Y Y′ ⊆ Будем говорить, что Y ′ доминирует все вершины из X, если каждая вершина из X смежна хотя бы с одной вершиной из .Y ′ В этом разделе мы докажем, что задача Бикликовое покрытие вершин остается NP-полной в классе расщепляемых графов. Для этого построим полиномиальное сведение от следующей известной NP-полной задачи [17]:

Доминирующее множество в двудольном графеУсловие: задан двудольный граф G = ((X, Y), E) и натуральное число k.Вопрос: существует ли подмножество вершин ,Y Y′ ⊆ доминирующее все вершины из X та

кое, что | |Y k′ ≤ ?Т е о р е м а 2. Задача Бикликовое покрытие вершин является NP�полной в классе расщепля�

емых графов.Д о к а з а т е л ь с т в о. Пусть G = ((X, Y), E) – двудольный граф без изолированных вершин.

Преобразуем его в расщепляемый граф H = (V, E′ ), соединив ребром каждую пару вершин из Y. Таким образом, граф H представляет собой расщепляемый граф с множеством вершин V � Y= ∪ и множеством ребер { : , },E E uv u v Y′ = ∪ ∈ в котором X – независимое множество, а Y – клика.

Мы покажем, что в графе G существует множество вершин ,Y Y′ ⊆ доминирующее все вершины из X такое, что | |Y k′ ≤ тогда и только тогда, когда в H существует бикликовое покрытие вершин мощности не более k.

Пусть Y Y′ ⊆ доминирует все вершины из X и | | .Y k′ ≤ Тогда множество максимальных по включению звезд графа H с центрами в каждой вершине из Y ′ является бикликовым покрытием вершин H мощности не более k.

Пусть S – бикликовое покрытие вершин графа H мощности не более k, которое состоит из биклик (( , ), ),i i iA B Σ i = 1, 2, ... , k. Предполагаем, что S не содержит тривиальных биклик (в противном случае мы всегда можем «расширить» тривиальную биклику до звезды, которая содержит по крайней мере две вершины). Не теряя общности, пусть iB Y⊆ для каждого i = 1, 2, ... , k. Из каждого множества Bi (i = 1, 2, ... , k) выберем любую одну вершину. Множество выбранных вершин обозначим как .Y ′ Несложно видеть, что в графе G множество Y ′ доминирует все вершины из X и | | | | .Y S k′ ≤ = Теорема 2 доказана.

Стоит отметить, что задача Бикликовое покрытие вершин тривиально решается за полиномиальное время в классе пороговых графов, который, как известно, является подклассом расщепляемых графов. Напомним, что класс пороговых графов – рекурсивно-порождаемый и может быть определен следующим образом [1, с. 226]. Одновершинный граф является пороговым графом. Если G – пороговый граф, то

– граф, полученный из G путем добавления к нему новой изолированной вершины, является пороговым;

– граф, полученный из G путем добавления к нему новой вершины, смежной с каждой вершиной G, является пороговым.

Очевидно, что каждая связная компонента любого порогового графа содержит доминирующую вершину (т. е. вершину, которая смежна со всеми другими вершинами связной компоненты). Максимальная по включению звезда с центром в доминирующей вершине связной компоненты содержит все вершины этой компоненты, поэтому бикликовое покрытие вершин любого порогового графа G, состоящее из максимальных по включению звезд с центрами в доминирующих вершинах связных компонент G, является наименьшим.

Заключение. В работе доказано, что в классе расщепляемых графов задачи Бикликовое по-крытие и Бикликовое покрытие вершин являются NP-полными. Также установлено, что вторая задача решается за полиномиальное время для пороговых графов. Открытым вопросом остается сложностной статус первой задачи в классе пороговых графов.



Беларуси

Отметим, что существует близкая к рассмотренным здесь задача Бикликовое разбиение (см., напр., [3, 4, 18]), которая в оптимизационном варианте формулируется следующим образом: требуется найти наименьшее бикликовое покрытие заданного графа, состоящее из попарно реберно-непересекающихся биклик. Полиномиальный алгоритм, решающий эту задачу для расщепляемых графов, предложенный автором данной работы в [19], – ошибочен. Сложностной статус задачи Бикликовое разбиение в классе расщепляемых графов является открытым вопросом.

Работа выполнена при финансовой поддержке Белорусского республиканского фонда фундаментальных исследований (проект Ф12РА-006).


1. Емеличев В. А., Мельников О. И., Сарванов В. И., Тышкевич Р. А. Лекции по теории графов. М., 2011.2. Brandstädt A., Le V. B., Spinrad J. Graph classes: a survey. SIAM Monographs on Discrete Math. and Applications,

1999. P. 306.3. Fleischner H., Mujuni E., Paulusma D., Szeider S. // Theoretical Computer Science. 2009. Vol. 410. P. 2045–2053.4. Amiliastre J., Vilarem M., Janssen P. // Discrete Applied Mathematics. 1998. Vol. 86. P. 125–144.5. Cornaz D., Fonplut J. // Discrete Mathematics. 2006. Vol. 306. P. 495–507.6. Chakrabarti D., Papadimitriou S., Modha D. S., Faloutsos C. // Proceedings of the 10th ACM SIG�DD international

conference on �nowledge discovery and data mining (�DD’04). [S. l.], 2004. P. 79–88.7. Heydari M. H., Morales L., Shields C. O., Sudborough I. H. // Proceedings of the 40th Annual Hawaii International

Conference on System Sciences (HICSS’07). [S. l.], 2007. P. 270b.8. Fоldes S., Hammer P. // Congressus Numerantium. 1977. Vol. 19. P. 311–315.9. Тышкевич Р. И., Черняк А. А. // Изв. АН БССР. Сер. физ.-мат. наук. 1979. Т. 5. С. 14–26.10. Orlin, J. // Indagationes Mathematicae. 1977. Vol. 80. P. 406–424.11. Müller H. // Discrete Mathematics. 1996. Vol. 149. P. 159–187.12. Lubiw A. // SIAM J. on Discrete Mathematics. 1990. Vol. 3. P. 98–115.13. Soto J., Telha C. // Proceedings of the 15th International Conference on Integer programming and combinatoral opti

mization.). [S. l.], 2011. P. 389–403.14. Лепин В. В. // Тр. Ин-та математики. 2010. Т. 18. С. 60–78.15. Лепин В. В., Дугинов О. И. // Тр. Ин-та математики. Т. 19. С. 69–81.16. Fishburn P. C., Hammer P. L. // Discrete Mathematics. 1996. Vol. 160. P. 127–148.17. Weihe K. // Proceedings of the 1st Conference on Algorithms and Experiments (ALEX-1998). [S. l.], 1998. P. 1–8.18. Kratzke T., Reznick B., West D. // Transactions of the American mathematical society. 1988. Vol. 308. P. 637–653.19. Дугинов О. И., Лепин В. В. // Веб-программирование и Интернет-технологии WebConf2012: материалы 2-й

Междунар. науч.-практ. конф., БГУ. Минск, 2012.

O. I. DUGINOV

COVERING A SPLIT GRAPH WITH THE MINIMUM NUMBER OF COMPLETE BIPARTITE SUBGRAPHS

Summary

In this article we consider the computational complexity of two problems related to bicliques (complete bipartite sub-graphs) of a graph in the class of split graphs. Given a graph and an integer k, the biclique cover problem asks whether the edge set of the graph can be covered with at most k bicliques; the biclique vertex�cover problem asks whether the vertex set of the graph can be covered with at most k bicliques. These problems are known to be NP-complete even in the class of bipartite graphs. In this article, we show that the both problems remain NP-complete in the class of split graphs.



Беларуси

61


УДК 512.553.1+512.553.5

Г. Е. ПУНИНСКИЙ

ПРИМЕР КОЛЬЦА ЭНДОМОРФИЗМОВ ПОЛУЦЕПНОГО МОДУЛЯ



В настоящей заметке изучаются кольца эндоморфизмов полуцепных модулей. Основные понятия и проблематика этого направления доступно изложена в монографии [1].

Пусть M – правый модуль над кольцом R. Мы скажем, что M – цепной, если его решетка подмодулей является цепью. Эквивалентно, для любых m, n ∈ M существуют r, s ∈ R такие, что или mr = n, либо m = ns. Прямая сумма (произвольного числа) цепных модулей называется полуцепным модулем.

Напомним, что кольцо R называется регулярным (по Нейману), если любой его правый (левый) главный идеал порожден идемпотентом. Через Jac(R) будем обозначать радикал Джекоб-сона кольца R. Если M – инъективный модуль и S = End(M) – кольцо эндоморфизмов M, то (см. [3, теорема 19.27]) S/Jac(S) – самоинъективное справа регулярное кольцо.

Факкини [1, с. 267, проблема 6] поставил вопрос о том, верно ли это утверждение для (кольца эндоморфизмов) произвольного полуцепного модуля. Цель настоящей заметки – дать отрицательный ответ на этот вопрос: а именно, имеет место следующая

Т е о р е м а. Существует полуцепной модуль, чье кольцо эндоморфизмов по модулю радикала Джекобсона не самоинъективно ни справа, ни слева, и не регулярно по Нейману.

Пусть Zp обозначает локализацию кольца Z целых чисел по простому идеалу pZ. Это кольцо, рассматриваемое как модуль над собой, цепное, поэтому модуль M = ( )

pZ w (прямая сумма счетного числа экземпляров кольца) – полуцепной. Каждый элемент M может быть записан как строка длины w с конечным числом ненулевых элементов из Zp. Пусть S – кольцо эндоморфизмов модуля M, действующее на нем правым умножением на w×w матрицы над Zp, каждая строка которых содержит только конечное число ненулевых элементов. Например, диагональная матрица diag(p, p2, p3,…) определяет эндоморфизм M, заданный умножением на pi на i-й координате.

В следующей лемме мы опишем радикал Джекобсона кольца S.Л е м м а 1. Jac(S) состоит из матриц из S, чьи элементы лежат в pZp, и с конечным числом не

нулевых столбцов.Д о к а з а т е л ь с т в о. Заметим, что M – свободный Zp-модуль. Пусть A – матрица из S

и пусть Ai обозначает идеал кольца Zp, порожденный элементами i-го столбца A. Из [2, теорема 2] вытекает, что А ∈ Jac(S) если и только если 1) aij ∈ pZp для любых i, j и 2) последовательность Ai, i ∈ w – исчезающее множество идеалов. Последнее означает, что для любой последовательности a1, a2,…, где

iia Al∈ для различных il ∈w , выполняется 1· · 0na a… = для некоторого n. Поскольку pZ – область, то последнее условие равносильно тому, что A имеет только конечное число ненулевых столбцов.

Итак, элементы Jac(S) – это w×w матрицы A над pZp с конечным числом ненулевых столбцов и такие, что каждая строка A содержит только конечное число ненулевых элементов. Например, матрица diag(p, p, …)∈S не лежит в Jac(S).

Из следующей леммы вытекает, что кольцо S = S/Jac(S) не регулярно по Нейману.



Беларуси

Л е м м а 2. Пусть A = diag(p, p, …)∈S и A обозначает образ A в кольце S . Тогда правый идеал ·A S не порождается идемпотентом.

Д о к а з а т е л ь с т в о. В противном случае, как нетрудно видеть, · ·A A B A= для некоторой матрицы B S∈ (в этом случае ·E A B= – идемпотент, порождающий правый идеал ·A S ). Итак,

A – ABA = J ∈ Jac(S). Сравнивая элементы на месте n×n, получаем 2nn nnbp p j− = , поэтому

0nnj ≠ . Но тогда J∉Jac(S) по лемме 1 – противоречие.Чтобы завершить доказательство теоремы, осталось проверить, что кольцо S не самоинъек

тивно (ни с одной стороны). На самом деле, мы докажем несколько больше.Напомним, что правый модуль M над кольцом R называется p-инъективным (т. e. инъектив-. e. инъектив- e. инъектив-e. инъектив- инъектив

ным относительно главных правых идеалов), если любой морфизм rR → M, r R∈ продолжается до морфизма (правых R-модулей) RR → M. Ясно, что это условие эквивалентно следующему. Если m M∈ такой, что имеет место включение правых аннуляторов ann(r)(R) ⊆ ann(m)(M), то nr = m для некоторого n∈M.

Определение p-инъективность для левых R-модулей дается аналогично. Кольцо R называется p-инъективным справа (слева), если R – p-инъективный правый (левый) модуль над собой.

Л е м м а 3. Кольцо S не p�инъективно ни справа ни слева.Д о к а з а т е л ь с т в о. Пусть r = diag(p, p2, p3,…), m = diag(p, p,…) и пусть r , m обозначают

образы этих элементов в S . Заметим, что правый и левый аннуляторы элементов r и m в S состоят из образов (в S ) всех матриц из S с конечным числом ненулевых столбцов. Действительно,

для r это немедленно следует из равенств ( ) iij ijA pr a= и ( ) j

ij ijr pA a= для A S∈ . Например, образ (в S ) матрицы, чей первый столбец состоит из единиц, а остальные столбцы – нулевые, принадлежит rann( r )( S ), в частности этот аннулятор ненулевой.

Покажем, что кольцо S не p-инъективно справа. В противном случае, по определению p-инъективного модуля, существует n S∈ такой, что nr m= . Следовательно, найдется матрица N над S такая, что N⋅diag(p, p2, p3,…) – diag(p, p,…) = J ∈ Jac(S). Из этого вытекает, что

0kkk kkp p jn − = ≠ для каждого 2k ≥ , что противоречит условию J ∈ Jac(S) (см. лемму 1).

Доказательство того, что кольцо S не p-инъективно слева, проводится аналогично.


1. Facchini A. Module Theory: Endomorphism Rings and Direct Sum Decompositions in Some Classes of Modules, Progress in Mathematics, Birkhauser, 1998. Vol. 167.

2. Ware R., Zelmanowitz J. // Proc. Amer. Math. Soc. 1970. Vol. 26. P. 15–20.3. Фейс К. Алгебра: кольца, модули и категории. М., 1979. T. 2.

G. E. PUNINSKI

ONE EXAMPLE OF THE ENDOMORPHISM RING OF A SERIAL MODULE

Summary

We construct an example of a serial module, whose endomorphism ring modulo by its Jacobson radical is neither von Neu mann regular nor one-sided self-injective. This solves a problem posed by Alberto Facchini.



Беларуси

63


УДК 539.3

О. Л. ШВЕД

МОДЕЛЬ НЕЛИНЕЙНО УПРУГОПЛАСТИЧЕСКОГО МАТЕРИАЛА

Объединенный институт проблем информатики НАН Беларуси


Введение. В области обработки металлов давлением существует ряд явлений, процессов, не описываемых существующими моделями материалов. К ним можно отнести явление «запирания» области высокого давления [1], опыты Треска по экструзии свинца [2, 3], процессы осадки и осадки в подкладных кольцах с определенными размерами заготовок.

Возможный подход к созданию модели, описывающей указанные проблемные течения, состоит в обобщении модели нелинейной упругости при сохранении потенциальной природы упругой деформации (существовании потенциалов напряжений и скоростей напряжений). Также используется концепция поверхности текучести; активный упругопластический процесс представляется попеременным чередованием пластического и упругого состояний; в пластическом состоянии (при течении) материал предполагается несжимаемым. В примерах ограничимся рассмотрением ортотропного материала.

1. Определяющие соотношения в конечном виде. Пусть 1 2 3, ,c c c – неподвижный ортонормированный триэдр. Введем удельную потенциальную энергию упругой деформации (потенциал напряжений) в форме Мурнагана [4, 5] 0 2 3э э э э ,= + + где 2

2 1 1 1э ( ) ...= δ ⋅ ⋅ +c C c , 3

3 22 1 1э ( ) ...= δ ⋅ ⋅ +c C c – анизотропные структуры второй и третьей степени по компонентам тензора упругой деформации Коши – Грина. Начальные значения 77 параметров анизотропии 0,jδ = и тогда э совпадает с изотропным потенциалом э0. Переходя к мере 2= +G C E, для которой соотношения получаются менее громоздкими, получаем

1 1 3

0 1 1 1 1 1 22 1 1э э 4 ( ( 2) ...) 8 ( (( 1) 1) ...) ,c− −= + δ ⋅ ⋅ ⋅ ⋅ − + + δ ⋅ ⋅ − + + +c G c c G c c G c (1)

где c – минимальная постоянная, такая, что э 0.≥ Соотношение (1) полностью приведено в [6]. Л е м м а 1. Для ортотропного материала с главными осями анизотропии 1 2 3, , c c c нену�

левыми в (1) могут быть только параметры jδ , где { }1 3,7 11,15,22 34,41,51 53,57 59j ∈ − − − − − , и потенциал напряжений имеет вид

( ) ( )

1 2 2 27 1 2 11 1 3 15 2 3

, ; 1,2,3,8,9,10

1 221 31

, ; 1,2,...,9

21 3 31

э 4 (( 1)( 1) 1) ( ) ( ) ( )

8 ( 1) ( 1) 1 ( 1) 1

( ) (

j k k l lк l j

j m m n n i im n j i

i i ii

−

=

−+

=

+

= δ ⋅ ⋅ − ⋅ ⋅ − − + δ ⋅ ⋅ + δ ⋅ ⋅ + δ ⋅ ⋅ +

+ δ ⋅ ⋅ − ⋅ ⋅ − + + δ ⋅ ⋅ − + +

+ ⋅ ⋅ δ ⋅ ⋅ −

∑

∑ ∏

∑

c G c c G c c G c c G c c G c

c G c c G c c G c

c G c c G c ( )

)41 1 2 1 3 2 3

2 21 2 50 2 3 56 0

1) ( 1)( 1)( 1) 1

( ) ( 1) ( ) ( 1)i i i i i ii i

э c+ +

+ δ ⋅ ⋅ − ⋅ ⋅ − ⋅ ⋅ − + +

+ ⋅ ⋅ δ ⋅ ⋅ − + ⋅ ⋅ δ ⋅ ⋅ − + +∑ ∑

c G c c G c c G c

c G c c G c c G c c G c

(2)

( 1,2,3,1,2,3; 1,2,3,2,3,1; 1,2,3,1,1,2,2,3,3; 1,2,3,2,3,1,3,1,2; 1,2,3k l m n i= = = = = ).Д о к а з а т е л ь с т в о леммы 1 проводится средствами символьных вычислений, исходя

из определения ортотропного материала [4].



Беларуси

64

Л е м м а 2. Для трансверсально изотропного материала с осью 2c ненулевыми в (2) могут быть только параметры анизотропии jδ , где { }1 3,7 11,15,22 34j ∈ − − − и выполняются равен-ства 11 1 102 ,δ = δ − δ 7 15,δ = δ 1 3 9 8, ,δ = δ δ = δ 22 24 26 29 ,δ = δ = δ = δ 27 28,δ = δ 25 30 31,δ = δ = δ

32 34 222 ,δ = δ = δ 33 25.δ = δ Если осью является 1c или 3c , то первое и второе равенства запишут-ся как 15 2 92δ = δ − δ и 7 11,δ = δ или 7 3 82δ = δ − δ и 11 15δ = δ .

Из (1) находим соотношение для тензора напряжений Коши

1

3 0э2 ,e e j j

jL− ∂

= ⋅ ⋅ = + δ∂

∑TT F F T TG

(3)

где eF – неособенный тензор, заменяющий в упругопластичности деформационный градиент ( e = ⋅ TF V O согласно полярному разложению), e e= ⋅TG F F , 3L – третий главный инвариант V, T0 – квадратичный трехчлен относительно меры e e= ⋅ TF F F с коэффициентами, зависящими от ее главных инвариантов и постоянных Ляме 1 2 3, , , ,l m n n n , Tj – несложно вычисляемые тензоры

с учетом формулы 12 ( )i ji j j i

−∂ ⋅ ⋅= +

∂c G c

c c c cG

[4]. Уравнения (1), (3) справедливы для упругого

и пластического состояний материала.2. Девиаторное сечение поверхности текучести. При построении девиаторного сечения удоб-

но применить векторное представление девиаторов симметричных тензоров второго ранга в пятимерном векторном пространстве. Для этого задается ортонормированный тензорный базис пространства девиаторов 1

1 3 3( 6) ( 3 ),−= −W E c c 12 2 2 1 1( 2) ( ),−= −W c c c c 1

3 1 2 2 1( 2) ( ),−= +W c c c c 1

4 1 3 3 1( 2) ( ),−= +W c c c c 15 2 3 3 2( 2) ( ).−= +W c c c c Скалярное произведение таких векторов здесь

понимается как двойное скалярное произведение тензоров. Два любых таких девиатора N и M представляются в векторном виде i i

iw= ∑N W , .i i

iv= ∑M W

Обозначим: (= − ⋅ + ⋅ = ⋅TT T T T O OW

W W W – тензор упругого спина [7], точка над символом означает материальную производную) – О-производная тензора T, D – тензор скорости деформаций, ∇ Tv – градиент скорости. Введем девиатор-оператор ( )=Q Q D как О-производную девиатора devT, вычисленную при условии несжимаемости 0∇ ⋅ =v по соотношению .e e

⋅= ∇ ⋅TF v F По-

следнее уравнение задает тензор eF в упругом состоянии.Л е м м а 3. Девиатор Q линеен по компонентам D и имеет потенциал. Первое утверждение очевидно, а второе установлено в [7].Заменив формально в представлении Q величины ,Q D на ,M N, получаем ( ).=M M NЛ е м м а 4. Для того чтобы девиатор ( ) ⋅ ⋅Q D NN имел потенциал, необходимо и достаточно,

чтобы N являлся собственным вектором оператора M и выполнялось ⋅ ⋅ = ⋅ ⋅Q N M D. Д о к а з а т е л ь с т в о леммы 4 с использованием леммы 3 приведено в [8], и там получено

представление M при удалении с диагонали матрицы скаляра 11a 21 1 2 12 1 2( , )a p p a p p= + = − :

1 1 2 2 3 6 8 1

2 22 1 2 4 7 9

3 33 4 5 12 13

4 46 7 12 10 14

5 58 9 13 14 11

2 3

3 2.

v p p p p p p wv wp p p p p pv wp p p p pv wp p p p pv wp p p p p

+

− + =

(4)

Скорость напряжений определим через О-производную, как не зависимую от D часть проекции оператора Q на девиаторное сечение поверхности текучести, определяемую искомым вектором внешней нормали N( 1⋅ ⋅ =N N ).

Т е о р е м а 1. Вектор нормали к девиаторному сечению поверхности текучести является одним из собственных векторов оператора (4) и наоборот, один из собственных векторов опе� векторов опе�векторов опе-ратора (4) является вектором нормали.



Беларуси

65

Д о к а з а т е л ь с т в о. По модельному предположению существует потенциал скоростей напряжений. Согласно лемме 4 и способу задания скорости напряжений, девиатор ( ) ⋅ ⋅Q D NN имеет потенциал. Справедливость теоремы 1 теперь следует из леммы 4.

О п р е д е л е н и е 1. Девиаторное сечение поверхности текучести, содержащее точку про-, содержащее точку про- содержащее точку процесса в пространстве напряжений, назовем текущим.

Т е о р е м а 2. Для изотропного материала вектор нормали выбирается из двух взаимно ор-тогональных собственных векторов оператора (4). Соответствующие им собственные значе-ния iw являются различными и положительными.

Д о к а з а т е л ь с т в о. В [9] показано, что для изотропного материала Синьорини существуют только два взаимно ортогональных вектора, полученные в явном виде, из которых выбирается вектор нормали. Для материала Мурнагана это также выполняется, как показывают аналогичные выкладки. Следовательно, собственные значения различные. Имеют место приближенные оценки, которые подтверждают справедливость теоремы 2:

1 1 111 3 1 21 1 12 3 23 4(3 2 ) , 3 , 3 2( ) ,a f a f a f− − −= m + m + n = − m = − m + n

2 211 21 12 12 12 21 21 0i a a a a a a aw = + − ± − + > , 2 2

1 2 12 12 21 212 0a a a aw − w = − + >

( devi i if = ⋅ ⋅c F c – малые величины, 30, 0)m > n < .С л е д с т в и е. Утверждения теоремы 2 остаются справедливыми при малой анизотропии

материала в силу непрерывности изменения собственных значений оператора. З а м е ч а н и е. При развитой анизотропии считаем этот факт модельным предположением,

что подтверждается всеми вычислительными экспериментами. Таким образом, только два собственных вектора имеют физический смысл. Существуют два

семейства регулярных вогнутых поверхностей, и искомая поверхность образуется соединением в сингулярных точках частей двух представителей этих семейств. Если точка процесса находится на гладком участке, то для построения текущего сечения достаточно двух точек на этих поверхностях: ее самой и противоположной точки, определяемой по величине эффекта Баушингера. В противном случае достаточно одной точки процесса. Поверхность текучести в пространстве напряжений образуется замкнутыми поверхностями ее девиаторных сечений.

3. Критерии текучести и разрушения. Введем критерий текучести. Будем обозначать величины, которые относятся к образующим девиаторное сечение двум поверхностям, отвечающим, условно говоря, за растяжение и сжатие с индексами 1 и 2 соответственно. При течении возможны три различных случая: точка процесса находится в регулярной точке текущего девиаторного сечения, удельная мощность деформации положительная ( 0⋅ ⋅ >T D ) либо нет, и точка процесса находится в сингулярной точке, где удельная мощность деформации всегда положительна. Пусть N – нормированный девиатор внешней нормали и i=N N , { }1,2i ∈ . В первых двух случаях критерий текучести будет 0⋅ ⋅ >Q N , в третьем случае должно выполняться одновременно 1 0⋅ ⋅ >Q N ,

2 0⋅ ⋅ >Q N , и если нарушается одно из неравенств, то имеет место либо первый, либо второй случай.Л е м м а 5. В формулировке критерия текучести девиатор Q можно заменить на девиатор D.Д о к а з а т е л ь с т в о. Выполняются следующие соотношения: ⋅ ⋅ = ⋅ ⋅ =Q N M D w ⋅⋅N D .

Собственное значение 0w > , откуда следует равносильность неравенств 0⋅ ⋅ >Q N и 0⋅ ⋅ >N D , а так-же равенств 0⋅ ⋅ =Q N и 0⋅ ⋅ =N D .

О п р е д е л е н и е 2. Точку на текущем девиаторном сечении назовем критической, если собственное значение оператора (4) в первых двух случаях или один из векторов 1 2,N N в третьем случае, по которому должен определяться собственный вектор, являющийся вектором нормали в данной точке поверхности, становится кратным.

На регулярном участке поверхности девиаторного сечения у близких точек должны быть близки векторы нормалей в этих точках. По этому принципу обходом по поверхности из начальной точки происходит ее построение. Когда на поверхности текущего сечения появляется критическая точка, то однозначный выбор вектора нормали из несчетного числа собственных векторов становится невозможным. Тогда, если начальная точка совпадает с критической, близкую точку найти нельзя. А главное, в критической точке теряет смысл критерий текучести, поскольку



Беларуси

66

девиатор N становится неопределенным. Таким образом, критерий разрушения заключается в появлении критической точки.

Для ортотропного материала проверка критерия разрушения упрощается. Матрица опера-тора (4), которая вычисляется в точках расположенной в плоскости 1 2{ , }W W кривой пластичности, имеет только два недиагональных элемента отличных от нуля ( 2 0p ≠ ). Главные оси ани-зотропии определяют векторы 1 2 3, ,c c c . Поэтому наличие подлежащих контролю кратных собственных значений оператора означает существование нулей знакопеременной функции

2 2 2 2 2 12 1 2 1 2

5,10,11( ) ( 4 )( 3 ) .k k

kf p p p p p p p −

=j = + − − +∏ Угол j (0 2≤ j ≤ π) отвечает положению точки

на кривой пластичности с учетом ее замкнутости, обход проводим из точки процесса по часовой стрелке. Если найденное собственное значение соответствует собственному вектору оператора, по которому должен определяться вектор нормали к девиаторному сечению поверхности текучести, то данная точка является критической. Соответствие устанавливается сравнением функций на регулярных участках кривых для изотропного материала (где разрушения не происходит) и анизотропного материала. Оно имеет место при перемещении нуля функции на соседний участок.

4. Определяющие соотношения при течении в дифференциальном виде. Постулируем определяющие уравнения для напряжений, потенциала напряжений и параметров анизотропии:

Ω

K=T S, 13(L − э) ,p⋅ = ⋅ ⋅T D

1( )j j j j jk −δ = b ⋅ ⋅ ⋅ ⋅N T T T ( 1, 0, 0),j jk = ± ≠ b ≥T (5)

где i ii

= − ⋅⋅∑S Q Q N N и в первых двух случаях 1i = либо 2i = , а в третьем 1,2i = . В первом случае имеем в (5) положительный, не зависящий от D, скаляр iK K= , (1 )ip = − a , ia – относительная часть величины рассеиваемой работы деформации на малом временном шаге. Во втором случае выполняется 0iK K K= + , 1p = . Зависящий от D скаляр 0K определяется так. Надо положить в (5)

0K K= , 1p = , 0b = и затем из системы уравнений (1), (3), (5) для неизвестных ΩV , 0K найти 0K .

В данном случае материал становится недиссипативным и теряется свойство потенциальности в скоростях напряжений. В третьем случае полагаем i=N N (здесь выбирается 1=N N , если

1 2⋅ ⋅ ≥ ⋅ ⋅Q N Q N и 2=N N , если 1 2⋅ ⋅ < ⋅ ⋅Q N Q N ), 1 2K K K= , (1 )ip = − a . Коэффициенты jk в (5) выбираются следующим способом. Скаляр b характеризует скорость роста упругой анизотропии по (5). В первом и втором случаях по всем наборам jk из системы уравнений (1), (3), (5) находим набор, обеспечивающий минимальное значение величине b. В третьем случае выполняется минимизация b, при условии удовлетворения эффекту Баушингера. Согласно лемме 5, имеет место непрерывность при смене определяющих уравнений. Непрерывность теряется только в третьем случае при условии 1 2⋅ ⋅ = ⋅ ⋅Q N Q N . Если выполняется 0j =T , то надо привлекать дополнительные соотношения для параметров анизотропии.

Для ортотропного материала параметры jδ , где { }1 3,8 10,22 31j ∈ − − − , определяются по соотношению (5). При одноосных нагружениях по осям 1,2,3 неопределяемые параметры 7 11δ = δ ,

7 15δ = δ , 11 15δ = δ полагаем равными 15gδ , 11gδ , 7gδ соответственно. Постоянные коэффициентыig = g находим, используя данные о моменте разрушения при растяжении и сжатии. Введем до

полнительные дифференциальные определяющие уравнения:

17 3 3 3 8 2 2 1 10 1 1 2 9

111 2 2 1 10 1 1 2 9 3 3 3 8

115 1 1 2 9 3 3 3 8 2

( ) ( (2 ) ( (2 ) (2 ))),

( ) ( (2 ) ( (2 ) (2 ))),

( ) ( (2 ) ( (2 )

−

−

−

δ = ⋅ ⋅ ⋅ ⋅ δ − δ + g ⋅ ⋅ δ − δ + ⋅ ⋅ δ − δ

δ = ⋅ ⋅ ⋅ ⋅ δ − δ + g ⋅ ⋅ δ − δ + ⋅ ⋅ δ − δ

δ = ⋅ ⋅ ⋅ ⋅ δ − δ + g ⋅ ⋅ δ − δ +

T T c c T c c T c c T

T T c c T c c T c c T

T T c c T c c T c c

2 1 10(2 ))).⋅ ⋅ δ − δT

(6)

В случае одноосных нагружений из (6) по лемме 2 следуют отмеченные выше соотношения. Параметры 7 11 15, ,δ δ δ заданы, а остальные, не определяемые по (5), полагаем равными нулю. Согласно (5), (6) и лемме 1 все jδ определены.



Беларуси

67

5. Примеры численного моделирования. В качестве материала для упрощения использовался малопластичный вольфрам, который предполагался идеально пластическим. Напряжение текучести при растяжении и сжатии выбрано 450s = МПа. Данные о постоянных Ляме взяты из [4]: 1,63;l = 1,37;m = 1 4,29;n = − 2 2,58;n = − 3 3,67n = − (105 МПа). При численном моделировании использовался вариационный принцип [10]. На рис. 1–3 представлены результаты расчетов. Изображены начальные и конечные кривые пластичности; кривые для изотропного материала ближе к границе правильного шестиугольника, выражающей условие пластичности А. Ю. Иш-лин ского. Стрелками обозначены проекции базисных диад i ic c (проекция 2 2c c направлена вверх, а 1 1c c – вниз). Отрезками указаны положения точки процесса. Приведены графики функций ( )f j для этих кривых. На оси абсцисс малые и большие вертикальные штрихи соответствуют приращениям угла / 6π и сингулярным точкам кривых.

Выполнено моделирование одноосных растяжения и сжатия по второй оси, проведенных до момента разрушения, определены величины частей рассеиваемой работы деформации 1 0,999987a = ,

2 0,99999595a = (т. е. практически всей работы). Наблюдается симметрия в силу условия трансверсальной изотропии. Величина эффекта Баушингера взята равной единице. В двухосных растяжении и сжатии ортогонально второй и третьей оси были приложены плоские гладкие штампы

Рис. 1. Одноосные растяжение и сжатие

Рис. 2. Двухосные растяжение и сжатие

Рис. 3. Чистый сдвиг и растяжение, сжатие



Беларуси

соответственно подвижные и неподвижные. Ортогональная первой оси граничная поверхность была свободной от нагрузок, тем не менее на ней возникали малые расчетные напряжения. Среднее напряжение составляло 224,8 и –226,8 МПа. Определены величины частей проекции оператора 1 0,00001K = , 2 0,00003K = . В конце сжатия наблюдается близость момента разрушения.

Моделирование чистого сдвига до момента разрушения осуществлялось растяжением и сжатием по второй и третьей осям, среднее напряжение было равно нулю. Показано проявление эффекта Баушингера, поскольку согласно опытным данным в сингулярной точке оно максимальное. Рассчитывалось также нагружение типа растяжение и сжатие по трем осям, когда удельная мощность деформации становится неположительной. На начальной кривой пластичности, соответствующей одноосному растяжению, выбрана точка, в которой находится точка процесса. В эксперименте это соответствует растяжению по первой, второй оси и сжатию по третьей оси с искажениями 1,0001; 1,00136 и 0,99913. При течении происходило перемещение точки процесса по кривой пластичности влево в точку, соответствующую положению в одноосном растяжении, при малом приросте анизотропии, поэтому практически совпадают кривые пластичности и графики функций. Имеет место 00 ( ) 1K≤ <D , когда направление «вектора» D меняется от переходного 0⋅ ⋅ =T D 0( 0)K = до разгрузочного 0⋅ ⋅ =N D . На рис. 3 выбрано среднее направление.

Заключение. Предлагаемая модель материала по результатам расчетов представляется допустимой. Рассмотрены в рамках ортотропного материала все возможные случаи. Описываются важные экспериментальные факты увеличения и уменьшения напряжений текучести при повторном растяжении и сжатии в направлении, ортогональном первоначальному (см. рис. 1). Для пластичных материалов (медь, алюминий) эти величины будут бóльшими. Соответственно относительные искривления линий девиаторного сечения увеличиваются. Точность расчетов существенно зависит от достоверности данных по материалам из-за чувствительности модели, связанной с конкретной зависимостью (1). В силу кусочно вогнутости поверхности девиаторного сечения и увеличения подвижности материала за счет чередования в активном процессе пластического и упругого состояний должны описываться указанные проблемные течения [11, 12].


1. Левитас В. И. Большие упругопластические деформации материалов при высоком давлении. Киев, 1987.2. Белл Дж. Ф. Экспериментальные основы механики деформируемых твердых тел. M., 1984. Ч. 2: Конечные де-M., 1984. Ч. 2: Конечные де-., 1984. Ч. 2: Конечные де

формации.3. Жилин П. А. Основные уравнения неупругих сред // Актуальные проблемы механики: тр. XXVIII летней шко-XXVIII летней шко- летней шко

лы. СПб., 2001. С. 14–58.4. Лурье А. И. Нелинейная теория упругости. М., 1980.5. Murnaghan F. D. Finite deformation of an elastic solid. New York, 1951.6. Швед О. Л. // Информатика. 2011. № 3 (31). С. 57–67.7. Швед О. Л. // Весцi АН Беларусi. Сер. фiз.-мат. навук. 2009. № 1. С. 52–58.8. Швед О. Л. // Весцi НАН Беларусi. Сер. фiз.-мат. навук. 2007. № 1. С. 83–87.9. Швед О. Л. // Весцi НАН Беларусi. Сер. фiз.-тэхн. навук. 2001. № 1. С. 120–125.10. Швед О. Л. // Весцi НАН Беларусi. Сер. фiз.-мат. навук. 2008. № 2. С. 66–72.11. Швед О. Л., Абрамов А. А. // Информатика. 2007. № 4 (16). С. 133–136.12. Швед О. Л., Абрамов А. А. // Информатика. 2009. № 1 (21). С. 17–24.

O. L. SHVED

MODEL OF NONLINEAR ELASTIC-PLASTIC MATERIAL

Summary

Within the concept of yield surfaces based on the principle of preserving the potential nature of elastic deformation the mo del of material is proposed. The active elastoplasticity process is presented by the alternation of plastic and elastic states. Deviatory cross sections of the yield surface are defined. Defining relationships are formulated. The model examples for orthotropic materialare considered.



Беларуси

69


УДК 519.688

А. В. ЧИЧУРИН, Е. Н. ШВЫЧКИНА

О ПОСТРОЕНИИ РЕШЕНИЙ С ЗАДАННЫМИ ПРЕДЕЛЬНЫМИ СВОЙСТВАМИ У СИСТЕМ, ОПИСЫВАЮЩИХ МОДЕЛИ ХЕМОСТАТА

Брестский государственный университет им. А. С. Пушкина


Введение. Широкий круг задач, возникающих в экологии, биологии, медицине, промышленной микробиологии и т. д., решается с помощью математического моделирования динамики популяций. Все более важную роль играют методы активного искусственного воздействия на окружающую среду, позволяющие эффективным образом влиять на условия развития отдельных видов (популяций) различных биологических сообществ. В связи с этим большое значение при обретает разработка методов управления численностями популяций.

Под хемостатом будем понимать математическую модель, описывающую биологический процесс для непрерывного культивирования бактерий, который обеспечивает оптимальные температурные условия и постоянное поступление свежей питательной среды при одновременном удалении части бактериальной культуры [1]. Хемостатное культивирование позволяет изучать действие на микроорганизмы отдельно взятого фактора внешней среды при оптимальности всех остальных условий.

Наиболее известная модель взаимодействия двух популяций – это модель «хищник–жертва», для которой реализованы долговременные отношения между видами хищника и жертвы. Математически эта модель в наиболее простой форме описывается следующей системой дифференциальных уравнений:

1 1

2 2

,dx a x b xydt

dy a y b xydt

= − = − +

( 1a , 2a , 1b , 2b – постоянные) и называется моделью Лотка – Вольтерра. Однако построенная модель имеет существенный недостаток: она включает параметры моделирования конкурентного влияния одной популяции на другую, которые можно оценить лишь путем совместного выращивания ор ганизмов. Это свойство сильно ограничивает прогностическую ценность модели. С помощью хемостатного культивирования соответствующие параметры выращиваемых микро ор-га низмов могут быть измерены по отдельности, для каждой «партии» культуры, и прогнозы об итогах конкуренции могут быть сделаны без требования проведения предварительного эксперимента [1].

1. Постановка задачи. Рассмотрим модель хемостата, содержащую две конкурирующие популяции, которые для своего роста нуждаются в питательном растворе – субстрате, концентрация которого обозначается буквой S. При непрерывном перемешивании можно считать весь объем культиватора, в котором происходит процесс взаимодействия микроорганизмов, однородно заполненным, т. е. концентрации субстрата и клеток микроорганизмов в каждой точке культиватора одинаковы. Тогда изменение этих концентраций во времени можно описать с помощью системы обыкновенных дифференциальных уравнений.



Беларуси

70

Рассмотрим систему трех дифференциальных уравнений, описывающую динамическую модель так называемого хемостата Михаэлиса – Ментена [1–3]:

1 1 2 2

1 2

11 1

1

22 2

2

( ) ( ) ( ) ( )( ) 1 ( ) ,( ) ( )

( )( ) 1 ( ), ( )

( )( ) 1 ( ).( )

m x t S t m x t S tS t S ta S t a S t

m S tx t x ta S t

m S tx t x ta S t

= − − −

+ + = − + = − +

(1)

Здесь искомая функция )(tS обозначает плотность питательного вещества, функции 1 2( ), ( )x t x t – плотности микроорганизмов в момент времени t, параметры )2,1(0 =≥ imi [моль/л/с] определяют максимальную скорость роста i-й популяции, а числа )2,1(0 =≥ iai [моль/л] – константы Михаэлиса – Ментена обозначают плотность субстрата, при которой удельная скорость роста –

SaSm

i

i

+ для i-й популяции равна половине максимального значения im (т. е. показатель того, на

сколько организм процветает при низкой концентрации). В работе ищутся решения системы (1), удовлетворяющие начальным условиям

0)0(,0)0(,0)0( 022

0110 ≥=≥=≥= xxxxSS (2)

для достаточно больших промежутков времени (в том числе возможен бесконечно большой временной интервал). Начальные концентрации искомых функций, определяемые из условий (2), неотрицательны в силу биологического характера задачи. Поэтому решения задачи Коши (1), (2) должны являться неотрицательными функциями времени, т. е. ,0)(,0)(,0)( 21 ≥≥≥ txtxtS

),0[ ∞+∈t .Основные математические результаты для хемостата Михаэлиса – Ментена приведем в виде

сформулированной ниже теоремы, доказательство которой приводится, например, в монографии [1]. Предварительно определим соотношения

( 1,2),

1i

ii

a im

l = =−

называемыми безубыточными концентрациями.T е о р е м a 1. Пусть в системе (1) выполняются соотношения

1im > (i = 1,2), 1 20 1.< l < l <

Тогда всякое решение системы (1) с начальными концентрациями 0)0(,0)0( 21 >> xx удовле�творяет предельным соотношениям

1lim ( ) ,t

S t→∞

= l 1 1lim ( ) 1 ,t

x t→∞

= − l 2lim ( ) 0.t

x t→∞

=

Таким образом, в процессе хемостата с течением времени либо обе популяции вымирают, либо выживает только одна из них, имеющая наименьшее значение параметра ( 1, 2).i il = При выполнении равенства 1 2l = l теоретически возможно сосуществование обеих популяций, однако этот случай c биологической точки зрения считается нереализуемым [2] и обычно не рассматривается.

Теорема 1 является примером принципа конкурентного исключения, когда только один конкурент может выжить на одном ресурсе.

В настоящей работе для моделирования непрерывного хемостатного культивирования двух микроорганизмов мы применяем аналитический метод исследования дифференциальных сис-тем третьего порядка с заданными предельными свойствами, который приведен в работах [4, 5].



Беларуси

71

2. Применение метода к системе Михаэлиса – Ментена. Сформулированная задача Коши (1)–(2) решается с помощью аналитического метода, основанного на редукции исходной системы к системе Брио и Буке второго порядка [4, 5], и программных модулях, позволяющих автоматизировать процесс проведения преобразований, решения возникающих систем уравнений и визуализацию решений [6].

Для решения сформулированной задачи (1)–(2) будем искать такие функции 1 2( ), ( ), ( ),S t x t x t которые либо являются точными аналитическими решениями системы дифференциальных уравнений (1), либо удовлетворяют системе (1) в предельном отношении при t→t0 (т. е. при под-. е. при под- е. при под-. при под- при подстановке этих функций в уравнения системы (1) получаем соотношения, обращающиеся в нуль при нахождении пределов, когда t→t0). В обоих случаях для таких решений задачи удается проследить направленность развития процесса хемостатного культивирования.

В системе (1) сделаем замену вида

1 2 32 3

1 21 , , ,V VS x x

u u um m m= = = (3)

где 1 2 3, ,m m m – целые числа, которые находятся из условий, описанных в работах [4, 5]. Для системы (1) с помощью модуля, приведенного в работе [5], находим вектор параметров, соответствующий замене (3) 1 2 31, 1, 1.m = − m = m = (4)

После замены (3), (4), система (1) примет вид

1 2

2 1 1 2 2 3 1

( )( ) ,( )(( 1)( ) ) ( )

dt a u a udu a u u a u m V m V a u

+ += −

+ − + + + + (5)

2 2 1 12

2 1 1 2 2 3 1

( )(( 1) )1 ,( )(( 1)( ) ) ( )

dV u a u m u au Vdu a u u a u m V m V a u

+ − −= − + − + + + +

(6)

3 1 2 23

2 1 1 2 2 3 1

( )(( 1) )1 .( )(( 1)( ) ) ( )

dV u a u m u au Vdu a u u a u m V m V a u

+ − −= − + − + + + +

Уравнение (5) определяет переменную t как функцию u. Правые части уравнений (5) и (6) представляют собой голоморфные функции переменных , , ( 2, 3)jt u V j = в окрестности точки

0 , 0, j jt t u V= = = b ( 2, 3),j = где 0t – конечное неотрицательное число. Значения 2 2 3 3, V V= b = b определяются как два решения следующей системы уравнений:

2 1 2 2 1 2 1 2 3

3 1 2 2 1 2 1 2 3

( ) 0,( ) 0,

V a a a m V a m VV a a a m V a m V

− + + = − + + =

(7)и имеют вид

1 1 2 3

21 2 1

a a mm a m

bb = − или 2 30, 0.b = b =

Далее будем рассматривать только второе решение системы (7) 2 30, 0,b = b = поскольку если 1 1 2 3

21 2 1

,a a mm a m

bb = − то знаменатели правых частей системы (6) обращаются в нуль, и эта система

становится неопределенной. Разложим правые части уравнений (6) в ряды Тейлора по степеням 2 3, ,u V V

в окрестности

точки (0,0,0). В результате получим систему Брио и Буке вида

2 2 2 2 2 2 22 2 2 3 2 2 3 1 2 2 3 1 2 2 3 1 2 2

2 2 22 22 12 1 2 1 2

2 2 2 2 2 2 21 2 2 2 3 2 2 3 1 2 2 3 2 2 3 2 2 3 1 2 2 3 1 2 2 3

2 3 2 2 21 2 1 22 2 2 1 2 1 2

2 3( ) (

2 2 3 2

dV m V V m V V m m V V m m V V m Vu V u V u Vdu a aa a a a a

m V m V V m V V m m V V m V V m V V m m V V m m V Va a a aa a a a a a a

= − + + + + + + − +

+ + − + + − + + +



Беларуси

72

( )

2 2 2 2 2 2 2 2 2 2 2 21 2 2 3 1 2 2 3 1 2 2 3 1 2 1 2 1 2 2 3 1 2 2 3

2 2 2 3 2 21 2 1 2 1 2 1 1 1 2 1 2

2 2 2 2 2 2 2 2 21 2 2 3 1 2 2 3 1 2

2 2 32 2 2 21 2 1 2 1

2 6 2 2 6 3

12 3 ) , , ,

m m V V m m V V m m V V m V m V m m V V m m V Va a a a a a a a a a a a

m m V V m m V V m V u V Va a a a a

+ − + + − + + −

− + + + ψ (8) 2 2 2 2 2 2 2

3 1 2 3 1 3 2 1 2 2 3 1 2 2 3 2 3 23 3 32 2

1 21 1 2 1 22 2 2 2 2 2 2

2 3 1 2 3 1 2 3 1 2 2 3 1 3 2 1 3 2 1 2 3 2 1 2 3 22 3 2 2 2

2 1 1 21 1 1 1 2 1 2

2 3( ) (

2 2 3 2

dV m V V m V V m m V V m m V V m Vu V u V u Vdu a aa a a a a

m V m V V m V V m m V V m V V m V V m m V V m m V Va a a aa a a a a a a

= − + + + + + + − +

+ + − + + − + + +

( )

2 2 2 2 2 2 2 2 2 2 2 21 2 2 3 1 2 2 3 1 2 2 3 2 3 2 3 1 2 2 3 1 2 2 3

2 2 2 3 2 21 2 1 2 1 2 2 2 1 2 1 2

2 2 2 2 2 2 2 2 21 2 2 3 1 2 2 3 2 3

3 2 32 2 2 21 2 1 2 2

2 6 2 2 6 3

12 3 ) , , .

m m V V m m V V m m V V m V m V m m V V m m V Va a a a a a a a a a a a

m m V V m m V V m V u V Va a a a a

+ − + + − + + −

− + + + ψ

В системе (8) выражения ( )2 2 3, , ,u V Vψ ( )3 2 3, ,u V Vψ представляют собой голоморфные функции переменных 2 3, ,u V V в окрестности точки 2 3 0,u V V= = = которые содержат нелинейность относительно каждой из переменных 2 3, ,u V V не ниже третьего порядка.

Найдем характеристические корни линейной части системы (8): 2 3 1.r r= =Используем результаты работы [7] о существовании и представлении решений 2 3( ( ), ( ))V u V u

системы Брио и Буке в виде сходящихся рядов, обладающих свойством ( ) 0 ( 2,3)jV u j→ = при 0.u → Составим формальное решение для системы (8) в виде

( )

1( (2,3)),j k

j kk

V C u j∞

== =∑ (9)

где ( )jkC – вообще говоря, комплексные числа, подлежащие определению. Подставим теперь раз

ложение (9) в систему (8), и предположив, что имеют место соотношения

( ) ( )2 2 3 3 2 3, , , , 0,u V V u V Vψ = ψ =

составим систему уравнений, для определения неизвестных коэффициентов (2) (3), .k kC C При значении характеристических корней 2 3 1,r r= = согласно результатам работы [7], выполняется следующее коэффициентное условие: полиномы от коэффициентов (2) (3), ,k kC C находящихся при

членах разложения 2ru и 3 ,ru тождественно обращаются в нуль. Из этих коэффициентных условий находим голоморфное решение (9) системы (8), зависящее от двух произвольных постоянных (2) (3)

2 31 1,C C= a = a :

( )2 2

1 2 2 32 2 2

1 2

1 ( 1)2 2 ,2

u m u mV u u ua a

a − a= a − − − + χ

(10)

( )2 2

1 2 2 33 3 3

1 2

1 ( 1)2 2 ,2

u m u mV u u ua a

a a −= a − − − + χ

сходящееся в области 0 , 0.u< < ρ ρ > Здесь ( )2 ,uχ ( )3 uχ означают суммы членов ряда (9), со

держащие степени переменной u выше третьего порядка.Таким образом, доказана следующаяТ е о р е м а 2. Система Брио и Буке (8) имеет решения вида (10). Используем теорему 2 для нахождения решений системы (1). Для этого подставим найденное

решение (10) в уравнение (5) и разложим правую часть полученного уравнения в ряд Тейлора по степеням u

в окрестности точки 0.u = Ограничимся линейной частью разложения в ряд, т. е.

выражением вида



Беларуси

73

1 2 2 1 2 1 2 3

1 2

( )1 ;dt u a a a m a mdu a a

+ a + a= +

проинтегрировав последнее равенство

0

1 2 2 1 2 1 2 3

1 20

( )1 ,t u

t

u a a a m a mdt dua a

+ a + a = +

∫ ∫ (11)

найдем функцию ( ).u t Среди найденных решений (11) выберем то, которое удовлетворяет условию

( ) 0u t → при 0.t t→ (12)

Явный вид функции ( )u t найдем, обращая соотношение (11), для которого выполняется условие (12)

2 21 2 2 1 2 1 2 3 1 2 1 2 1 2

2 1 2 1 2 3 1 2

8 ( ) 4 2( ) ,

2( )a a a m a m a a a a a a

ua m a m a a

t a + a + + −t =

a + a + (13)

где 0.t tt = − Используя замену, обратную замене (3), и положив ( )2 uχ = ( )3 0,uχ = находим вид функций,

входящих в систему (1): ( ) ( ),S ut = t

2 2

1 2 2 31 2

1 2

1 ( ) ( 1) ( )( ) 2 2 ( ) ,2

u m u mx ua a

t a − t at = a − t − −

(14)

2 21 2 2 3

2 31 2

1 ( ) ( ) ( 1)( ) 2 2 ( ) ,2

u m u mx ua a

t a t a −t = a − t − −

где 0.t tt = −

Исследуем поведение полученного решения (14) для системы (1) с конкретными коэффици-ентами.

П р и м е р. Пусть коэффициенты системы (1) имеют вид

1 1 2 28; 0,3; 4,5; 0,4.m a m a= = = = (15)

Тогда безубыточные концентрации будут равны 1 0,04286;l = 2 0,11429.l = Функции (14) для коэффициентов (15) примут вид

2 3

2 3

0,5 (3,072 1,296 0,1152) 0,0576 0,12( ) ,

3,2 1,35 0,12S

t a + a + + −t =

a + a +

( )2 2

1 2 2 322 3

3 3 2 3

( ) (10,24 (1 ) (8,64 (1 ) 9,856 0,768)3,2 1,35 0,12

(1,8225 (1 ) 4,158 0,324) 1,66 (3,072 1,296 0,1152) 0,05760,384 0,4128),

x at = a − t + a a − t + t + +

a + a +

+ a a − t + t + − t a + a + + +

+ t +

(16)

( )2 2

1 2 2 322 3

3 3 2 3

( ) (10,24 (1 ) (8,64 (1 ) 3,936 0,768)3,2 1,35 0,12

(1,8225 (1 ) 1,6605 0,324) 0,735 (3,072 1,296 0,1152) 0,05760,162 0,1908).

x at = a − t + a a − t + t + +

a + a +

+ a a − t + t + − t a + a + + +

+ t +

Покажем, что найденные функции (16) удовлетворяют системе (1), (15). Подставим функ-ции (16) в уравнения системы (1), (15). Для получившихся выражений найдем пределы при

00 ( ).t tt → → Легко проверить, что эти пределы обращаются в нуль. Что и требовалось.



Беларуси

74

Используя найденный вид функций (16), смоделируем, например, поведение второго микроорганизма (функция 2 ( )x t ) в зависимости от значений параметров 2a и 3.a

Изменяя значения параметров можно получить решение, обеспечивающее выживание, например, второго микроорганизма, как это показано на рис. 1 при 2 30,0001, 0,9a = a = ; или вымирание

через конечный промежуток времени при 2 30,0001, 1,1.a = a = Также, изменяя параметры 2a и 3,a удается выделить множество значений 0 0

1 2, ,x x для которых можно смоделировать выживание или вымирание одного или двух микроорганизмов. На рис. 2 показаны изменения концентраций (функции 1 2( ), ( )x t x t ) для промежутка [0, 50),t ∈ что визуали-зирует принцип конкурентного исключения.

При начальных условиях (2), где 01 0,2,x = а 0

2 0,69,x = первый микроорганизм 1( )x t со временем увеличивает свою численность, а второй 2 ( )x t – через конечный промежуток времени вымирает.

Изменяя параметры 2a и 3a

подобным образом, можно выделить области начальных значений, при которых оба микроорганизма вымирают. Например, подобная ситуация возникает при начальных значениях 0

1 0,8;x = 02 0,62.x =

а б

Рис. 1. При параметрах 2 30,0001, 0,9a = a =

второй микроорганизм выживает (а), а при параметрах 2 30,0001, 1,1a = a =

второй микроорганизм вымирает (б)

а бРис. 2. При параметрах 2 30,2, 0,6a = a =

первый микроорганизм (функция 1( )x t ) выживает (а), а второй микроорганизм (функция 2( )x t ) вымирает (б)



Беларуси

75

З а м е ч а н и е 1. Решения, построенные при заданных безубыточных концентрациях 1 20,04286; 0,11429,l = l = т. е. когда 1 20 1,< l < l < демонстрируют принцип конкурентного ис

ключения – выживает только один микроорганизм, имеющий наименьшее значение параметра 1l . При этом нет таких значений 2a и 3,a при которых происходит обратная ситуация,

а именно, выживает первый микроорганизм и погибает второй. Таким образом, при различных значениях параметров 2a и 3a возможны следующие состояния взаимодействия популяций двух микроорганизмов, потребляющих одно питательное вещество:

1) краткое сосуществование;2) выживает только один микроорганизм, имеющий наименьшее значение параметра ( 1,2);i il =3) через небольшой интервал времени погибают оба микроорганизма.Приведем визуализацию фазовых траекторий на плоскости x1Ox2, построенных для реше

ний, которые найдены с помощью численных методов (рис. 3) и рассмотренного метода для другого набора параметров 1 1 2 24, 0,3, 5, 0,4.m a m a= = = =

З а м е ч а н и е 2. При равных безубыточных концентрациях 1 2 0,1l = l = продемонстрировано кратковременное сосуществование обоих микроорганизмов.

Заключение. Для простой пищевой цепочки, описываемой динамической моделью хемостата Михаэлиса – Ментена, построено двухпараметрическое аналитическое решение. Используя найденное аналитическое решение и возможности СКА Mathematica, удается построить решение системы (1) в явном виде при различных значениях параметров 1 1 2 2, , , .m a m a Изменяя начальные условия (2) с помощью встроенной функции Manipulate [8], удается выделить значения начальных условий 0 0

1 2, ,x x для которых можно моделировать выживание или вымирание одного или обоих микроорганизмов. Визуализация и анимация найденных решений системы (1) аналитическим и численным методами осуществляется с помощью той же системы компьютерной математики [6].


1. Smith H. L., Waltman P. The theory of chemostat: dynamics of microbial competition. Cambridge University Press, 1995.2. Hsu S. B., Hubbell S., Waltman P. // SIAM J. Appl. Math. 1977. Vol. 32. P. 366–383.3. Заславский Б. Г., Полуэктов Р. А. Управление экологическими системами. М., 1988.4. Shvychkina A. N. Building the third order differential system with Mathematica // Computer Algebra Systems

in Teaching and Research. Differential Equations, Dynamical Systems and Celestial Mechanics. Siedlce: Wydawnictwo Col-legium Mazovia, 2011. P. 136–140.

5. Chichurin, A., Shvychkina A. Finding the solutions with the infinite limit properties for the third order normal system of differential equations using the Mathematica system // 7th International Symposium on Classical and Celestial Mechanics

а бРис. 3. Фазовая траектория на первом графике (а) получена из решения 1 2( ), ( )x t x t системы (1) с помощью численных

методов; на втором графике (б) – из решения 1 2( ), ( )x t x t системы (1) с помощью аналитического метода



Беларуси

(CCMECH’2011) (Siedlece, 24–28 Oct. 2011): Book of the Abstracts. Wydawnictwo Collegium Mazovia, Siedlce, 2011. P. 23–24.

6. Wolfram Web Resources [Electronic resource]. Champaign, 2012. Mode of access: www.wolfram.com. Date of access: 01.11.2012.

7. Horn J. // J. fur M.1896. Vol. 116. P. 265–306; 1897. Vol. 117. P. 104–128.8. Wolfram Web Resources [Electronic resource]. Champaign, 2012. Mode of access: http://reference.wolfram.com/

mathematica/ref/Manipulate. html. Date of access: 01.11.2012.

A. V. CHICHURIN, A. N. SHVYCHKINA

CONSTRUCTION OF SOLUTIONS WITH THE GIVEN LIMIT PROPERTIES FOR THE SYSTEMS DESCRIBING THE CHEMOSTAT MODELS

Summary

A system of three differential equations describing the process of continuous bacteria cultivation in a chemostat is con-sidered. For a simple food chain described by the dynamic Michaelis–Menten chemostat model a two-parameter analytical solution is obtained. An algorithm and software allowing one to find an explicit form of solutions with the given limit pro-perties have been constructed with the usage of the CAS Mathematica capabilities. Examples, in which it is possible to model the survival or extinction of one or two microorganisms and to find initial concentration ranges, provide “competitive exclusion” or coexistence of the both organisms, are given.



Беларуси

77


УДК 517+530.1

С. В. ЖЕСТКОВ

О СОЛИТОННЫХ РЕШЕНИЯХ ОБОБЩЕННОГО НЕЛИНЕЙНОГО УРАВНЕНИЯ ШРЕДИНГЕРА

Могилевский государственный университет имени А. А. Кулешова


Известно [1; 2], что принадлежность солитона к тому или иному классу определяется его поведением на бесконечности. В частности, если выполняется равенство

lim ( ) lim ( ),v v

x→−∞ x→+∞x = x

где x – фазовая переменная, то решение ( )v x называется уединенной волной (solitary wave solu-solitary wave solu- wave solu-wave solu- solu-solution) или нетопологическим солитоном. Известно [2], что с нетопологическим солитоном уравне-) или нетопологическим солитоном. Известно [2], что с нетопологическим солитоном уравне-, что с нетопологическим солитоном уравне-нетопологическим солитоном уравнения Захарова – Кузнецова связывается анзац вида

( ) ch ( ),pv A −x = x 0,p > (1)

где A > 0 представляет собой амплитуду солитона. Очевидно, что тогда

( ) ( ) 0.v v−∞ = +∞ =

Для нелинейного уравнения Шредингера функция ( )v x является огибающей солитона, поэтому естественно назвать такой солитон нетопологическим солитоном уравнения Шредингера.

Цель работы – обобщение результатов [3–5], где построены стационарные солитоны, на случай нестационарных нетопологических солитонов для семейства уравнений Шредингера с дисперсионными и нелинейными членами высших порядков и обоснование выбора анзаца (1) для этого семейства.

I. Рассмотрим нелинейное уравнение Шредингера со степенным законом нелинейности

2

1 2 3 4 5( ) 0,mt x xxx xx xxxxi u a u a u a u a u a u u+ + + + + = 0,m > (2)

и произвольными действительными коэффициентами 1 5, .a a . В отличие от уравнений из работы [3], в (2) содержится член 2 ,xxxia u который обеспечивает существование нестационарных солитонов. Солитонные решения уравнения (2) будем строить в виде

( , ) ( )exp{ },u t x v i= x h ,t xx = a + b + j ,t xh = g + e + ψ (3)

где ( )v x – неизвестная функция, , , , , ,a b j g e ψ – произвольные действительные числа. Подставляя (3) в (2), найдем

3 2 2 31 2

2 2 4 3 2 2 3 4 2 13 4 5

[( ' ) ( ' ) ( ''' 3 '' 3 ' )]

[ '' 2 ' ] [ '''' 4 ''' 6 '' 4 ' ] 0.m

i v i v a v i v a v i v v i v

a v i v v a v i v v i v v a v +

a + g + b + e + b + eb − e b − e +

+ b + eb − e + b + eb − e b − e b + e + = (4)

Приравнивая нулю мнимую и действительную части уравнения (4), получим

3 3 2 3

2 4 1 2 3 4( 4 ) ''' ( 3 2 4 ) ' 0,a a v a a a a vb + eb + a + b − e b + eb − e b = (5)

4 2 2 2 2

4 3 2 43 2 4 2 1

1 2 3 4 5

'''' ( 3 6 ) ''

( ) 0.m

a v a a a v

a a a a v a v +

b + b − eb − e b −

− g + e − e + e − e + = (6)



Беларуси

78

Предположим, что 2 44 0.a a+ ε = (7)Тогда с учетом (7) уравнение (5) примет вид

2

1 2 3( 2 2 ) ' 0.a a a vα + β − ε β + εβ = (8)

Рассмотрим случай, когда ( ) 0.v′ ξ ≡ Тогда ( ) const .v dξ = = Уравнение (8) превратится в тожде-ство. Из уравнения (6) найдем

2 3 2 4

5 1 2 3 4ma d a a a a h= γ + ε − ε + ε − ε ≡

или

2

5.m hd

a=

Если

50,h

a> (9)

то

12

5.

mhda =

(10)

Таким образом, справедливаТ е о р е м а 1. Пусть выполнены условия (7), (9). Тогда уравнение (2) имеет решение вида

*( , ) exp{ },u t x d i= η

где d* – корень уравнения (10). Это решение является периодическим по , .t xРассмотрим случай, когда

2

1 2 32 2 0.a a aα + β − ε β + εβ = (11)

Тогда уравнение (8) превратится в тождество для любой гладкой функции ( )v ξ , которая опреде-ляется из уравнения (6). Перепишем уравнение (6) в виде

2 1''''( ) ''( ) ( ) ( ),mv av bv cv +ξ + ξ = ξ + ξ (12)

где

2 2 2 2

3 2 444

1 ( 3 6 ),a a a aa

= β − εβ − ε ββ

44

1 ,b ha

=β

54

4.ac

a= −

β

Следуя работе �5�, можно рассматриват� уравнение (12) как линейную комбинацию второй и чет��5�, можно рассматриват� уравнение (12) как линейную комбинацию второй и чет-вертой производных, которая должна быт� полиномом по v степени не выше (2 1).m + Это усло-вие выполняется, если взят� вторую производную в виде

1

1 2''( ) ( ) ( ),mv A v A v +ξ = ξ − ξ (13)

где 1 2,A A – произвол�ные действител�ные числа. Интегрируя уравнение (13) с учетом краевых условий ( ) '( ) 0,v v±∞ = ±∞ = получим

1 221

1 02

( 2) 1( ) ch ( ) ,2 2

mm Av m AA

−+ ξ = ξ − ξ (14)

если 1 2 00, 0; A A> > ξ – произвол�ная постоянная. Решение (14) совпадает с формой (1), испол�-зуемой для описания нетопологических солитонов. Чтобы получит� законы распространения нетопологических солитонов вида (14) и выразит� 1 2,A A через a, b, c, подставим в уравнение (12) следующий анзац:

{ }2

0( ) ch ( ) ,mv−

ξ = Γ χ ξ − ξ (14а)



Беларуси

79

где 0Γ > – амплитуда солитона; χ – произвольный параметр. В результате получим следующее соотношение:

4 2 2 4 2

1 2 3ch ( ) ch ( )sh ( ) sh ( ) ,mcχ q + χ q q + χ q = Γ (15)где

0( ),q = χ x − x 4 21 2 ,a bχ = l χ − mχ − 2 4

2 1( 1) ,aχ = m m + χ − l χ 43 ,χ = lχ

( 1)( 2)( 3),l = m m + m + m + 1 ( 1)(6 8),l = m m + m + 22 3 2 ,l = m + m 2 .

mm =

Из (15) найдем

1 3,χ = χ 2 32 ,χ = − χ 23 .mcχ = Γ (16)

Следовательно, справедливаТ е о р е м а 2. Для того чтобы уравнение (12) имело решение вида (14а), необходимо и до-

статочно, чтобы выполнялись соотношения (16).На основании теоремы 2 устанавливаем следующий результат.Т е р е м а 3. Пусть выполнены условия (7), (11), (16). Тогда уравнение (2) имеет нетопологи-

ческий солитон вида

2

( , ) ch ( )exp{ }.mu t x i−

= Γ q h Законы (16) можно переписать в виде

4 2 4

2 ,a bl χ − mχ − = lχ 2 21( 1) 2 ,am m + − l χ = − lχ 4 2 .mclχ = Γ (17)

Они связывают коэффициенты a, b, c уравнения (12) с параметрами ,χ Γ солитона. Если 0, 0,c a> > то из (17) следует, что

2

21

( 1) ,2 2( 2 2)

a am m +χ = = −

l − l m + m + 2 2 ,m

cl

Γ = χ

2 22( ) .mcb a= l − l Γ − mχ

l (18)

Соотношения (7), (11), (18) играют ключевую роль для существования нетопологических солитонов уравнения (2).

Выразим неизвестные коэффициенты 1 2,A A уравнения (13) через a, b, c. Из определения ,χ Γ и формулы (14) найдем

1

1 ,2

m Aχ = 1

2

( 2) .2

m m AA

+Γ = (19)

Подставляя (19) в равенство 23 ,mcχ = Γ получим

2 2

2( 2) .m cAm

+=

l

Найдем коэффициент 1.A Из соотношения

2

22( 2 2)a

χ = −m + m +

имеем

1 2 2

2 0.( 2 2)

aAm

= − >m + m +

II. Рассмотрим нелинейное уравнение Шредингера с законом нелинейности удвоенной степени

2 4

1 2 3 4 5 6( ) 0,m mi x xxx xx xxxxi u a u a u a u a u a u u a u u+ + + + + + = 0,m > (20)

и произвольными действительными коэффициентами 1 6, .a a Солитонное решение уравнения (20) строится в виде (3). Подставляя (3) в (20), найдем



Беларуси

80

3 2 2 31 2

2 2 4 3 2 2 3 43 4

2 1 4 15 6

( ' ) ( ' ) ( ''' 3 '' 3 ' )

[ '' 2 ' ] [ '''' 4 ''' 6 '' 4 ' ]

0.m m

i v i v a v i v a v i v v i v

a v i v v a v i v v i v v

a v a v+ +

α + γ + β + ε + β + εβ − ε β − ε +

+ β + εβ − ε + β + εβ − ε β − ε β + ε +

+ + =

(21)

Из (21) получим

3 3 2 3

2 4 1 2 3 4( 4 ) ''' ( 3 2 4 ) ' 0,a a v a a a a vβ + εβ + α + β − ε β + εβ − ε β = (22)

4 2 2 2 2 3 2 4

4 3 2 4 1 2 3 42 1 4 1

5 6

'''' ( 3 6 ) '' ( )

.m m

a v a a a v a a a a v

a v a v+ +

β + β − εβ − ε β = γ + ε − ε + ε − ε −

− − (23)

Пусть выполнено условие (7). Тогда уравнение (22) запишется в виде (8).Рассмотрим случай, когда '( ) 0.v ξ ≡ Тогда ( ) const .v dξ = = Из уравнения (23) найдем

2 45 6 .m ma d a d h+ = (24)

Это квадратное уравнение относительно величины 2 .md Таким образом, справедливаТ е о р е м а 4. Пусть выполнено условие (7) и d* – корень уравнения (24). Тогда уравнение (20)

имеет периодическое решение вида

*( , ) exp{ }.u t x d i= η

Рассмотрим случай, когда выполнено условие (11). Тогда уравнение (22) превратится в тожде-ство для любой гладкой функции ( )v ξ , которая определяется из уравнения (23). Перепишем его в виде

2 1 4 1''''( ) ''( ) ( ) ( ) ( ),m mv av bv cv dv+ +ξ + ξ = ξ − ξ − ξ (25)

где

2 2 2 23 2 4

44

3 6 ,a a aaa

β − εβ − ε β=

β

3 2 41 2 3 4

44

,a a a aba

γ + ε − ε + ε − ε=

β 5

44

,aca

=β

64

4.ad

a=

β

Из (25) следует, что линейная комбинация второй и четвертой производных должна быть полино-мом по v степени не выше 4 1.m + Это условие выполняется, если взять вторую производную в виде

2 1

1 2''( ) ( ) ( ),mv A v A v +ξ = ξ − ξ (26)

где 1 2,A A – произвольные действительные числа. Интегрируя уравнение (26) с учетом краевых условий ( ) ( ) 0,v v′±∞ = ±∞ = получим

{ }

1 121

1 02

( 1)( ) ch ( ) ,m mA mv A m

A−+ ξ = ξ − ξ

1 0,A > 2 0,A > (27)

где 0ξ – произвольная постоянная. Решение (27) совпадает с формой (1) нетопологического соли-тона. Чтобы получить законы распространения солитонов вида (27) и выразить 1 2,A A через a, b, c, d, подставим в уравнение (25) следующий анзац:

1

0( ) { ( )},mv ch−

ξ = Γ χ ξ − ξ (28)

где 0Γ > – амплитуда солитона; χ – произвольный параметр. В результате получим следующее соотношение:

4 2 2 4 2 2 4

1 2 3ch ( ) ch ( )sh ( ) sh ( ) ch ( ) 0,m mc dχ θ + χ θ θ + χ θ + Γ θ + Γ = (29)где 0( ),θ = χ ξ − ξ 4 2

1 2 ,a bχ = λ χ − µχ − 2 42 1( 1) ,aχ = µ µ + χ − λ χ 3

4 ,χ = λχ

( 1)( 2)( 3),λ = µ µ + µ + µ + 1 ( 1)(6 8),λ = µ µ + µ + 22 3 2 ,λ = µ + µ 1 .

mµ =



Беларуси

Из (29) найдем

1 2 3 0,χ + χ + χ = 21 3 0,mcχ − χ + Γ = 4

1 2 33 3 8 0.mdχ − χ + χ + Γ = (30)

Следовательно, справедливаТ е о р е м а 5. Для того чтобы уравнение (25) имело решение вида (28), необходимо и доста-

точно, чтобы выполнялись соотношения (30).Соотношения (30) являются законами распространения нетопологических солитонов уравне

ния (20). Их можно переписать в виде системы уравнений:

2 2

2 21

2 22

1 ,2

( 1) 2 ,1 ,2

x cy dy

a x x dy

x a x b cy dy

l = −

m m + − l =l − m − = − −

(31)

где 2 2, .mx y= χ = Γ Анализ системы (31) не вызывает принципиальных затруднений, так как при любых положи

тельных значениях * 0,x x= > * 0y y= > система (31) становится линейной алгебраической системой относительно величин a, b, c, d. Отметим, что неизвестные коэффициенты 1 2,A A выражаются через x, y следующим образом:

1 2 ,xA

m= 2 2

( 1) .x mAm y

+=

Таким образом, в работе построены нетопологические солитоны семейства уравнений Шредингера с дисперсионными и нелинейными членами высших порядков.


1. Wei �u, Jianwei Shen // Chaos, Solution and Fractals. 2008. Vol. 37. P. 912–917.2. Biswas A. // Int. J. Theor. Phys. 2009. Vol. 48. P. 2698–2703.3. Palacios S. L. // Chaos, Solitons and Fractals. 2004. Vol. 19. P. 203–207.4. Жестков С. В. // Весці НАН Беларусі. Сер. фіз.-мат. навук. 2005. № 3. С. 96–99.5. Жестков С. В. // Весці НАН Беларусі. Сер. фіз.-мат. навук. 2006. № 3. С. 84–87.

S. V. ZHESTKOV

SOLITON SOLUTIONS OF THE GENERALIZED NONLINEAR SCHRÖDINGER EQUATION

Summary

Non-topological solitons of high dispersive nonlinear Schrödinger equations are obtained.



Беларуси

82


ФІЗІКА

УДК 639.303.45:535.21:577.3

В. Ю. ПЛАВСКИЙ1, Г. Р. МОСТОВНИКОВА1, Н. В. БАРУЛИН2, Л. Г. ПЛАВСКАЯ1, А. И. ТРЕТЬЯКОВА1, А. В. МИКУЛИЧ1, И. А. ЛЕУСЕНКО1, А. В. МОСТОВНИКОВ1

БИОЛОГИЧЕСКОЕ И ТЕРАПЕВТИЧЕСКОЕ ДЕЙСТВИЕ ОПТИЧЕСКОГО ИЗЛУЧЕНИЯ НИЗКОЙ ИНТЕНСИВНОСТИ

1Институт физики имени Б. И. Степанова НАН Беларуси 2Белорусская государственная сельскохозяйственная академия


Лазерный эффект зависит не только от общего количества падающей световой энергии и длины волны радиации, но и от длительности импульса, степени монохроматичности, от поляризации света и его когерентности. Все эти зависимости пока еще плохо изучены. Не изучен также и механизм воздействия лазерного излучения на живую клетку...

Б. И. Степанов [1]

Введение. Первые сведения о биологическом и терапевтическом действии низкоинтенсивного лазерного излучения (НИЛИ) появились в мировой литературе уже через 5–6 лет (1966–1967 гг.) после создания гелий-неонового лазера (длина волны l = 632,8 нм). Поскольку фотобиологическая наука к этому времени не располагала общепризнанными данными о влиянии некогерентного света видимой области спектра на функциональные характеристики соматических клеток человека и животных, то представлялось естественным обосновать биологическую активность лазерного излучения такими его специфическими характеристиками, как когерентность и поляризация. Однако механизмы фотофизических процессов, предполагающих возможную роль когерентности и поляризации в реализации биологического действия излучения низкой интенсивности, не были очевидны. Не предлагались даже какие-либо гипотезы, способные объяснить такую взаимосвязь. По этой причине было распространено мнение, что биологическое действие НИЛИ, вероятнее всего, отсутствует, а положительные результаты использования указанного фактора в медицине можно объяснить самовнушением (эффект плацебо). Следовательно, на первом этапе были необходимы объективные данные о наличии биологического действия лазерного излучения и зависимости эффекта от параметров воздействующего фактора, а также достоверные результаты об эффективности лазерной терапии заболеваний различного генеза. С этой целью в Институте физики в 1975 г. по инициативе и под руководством В. А. Мостовникова была сформирована научная группа (позднее – лаборатория), включавшая физиков и биологов и тесно сотрудничавшая с ведущими медицинскими учреждениями республики. Работы в указанном направлении были активно поддержаны Б. И. Степановым, проявившим неподдельный интерес к результатам исследований. Уже в 1977 г. были получены данные, с высокой степенью достоверности свидетельствовавшие о влиянии лазерного излучения на функциональную активность клеток человека в культуре и о радиозащитном эффекте указанного физического фактора в отношении клеток, предварительно облученных потоком нейтронов. По предложению Б. И. Сте-панова результаты были опубликованы в Докладах АН СССР [2] и имели высокий индекс цитирования. По сути, работой [2], благодаря активной поддержке Б. И. Степановым инициатив В. А. Мостовникова, в республике было положено начало новому направлению: изучению фотофизических механизмов, определяющих биологическую активность НИЛИ, разработке аппаратуры, ее серийному выпуску и использованию для лечения широкого круга заболеваний [3–15]. В настоящее время работы по данной тематике продолжаются нами в лаборатории гетерогенных органических сред Института физики имени Б. И. Степанова НАН Беларуси.



Беларуси

83

Ниже сделана попытка дать ответы на вопросы, поставленные Б. И. Степановым в 1977 г. в работе [1], и кратко проанализированы результаты, полученные в последние годы.

Объекты и методы исследований. В качестве объектов для исследования регуляторного действия лазерного излучения использовались биологические системы различного уровня организации: клетки почки обезьяны МА в культуре, эмбрионы и сперма рыб, зоопланктон. Выбор гидробионтов для исследования механизмов биологической активности оптического излучения обусловлен следующими обстоятельствами.

Общепринято исследования закономерностей биологического действия физических факторов на организменном уровне проводить на экспериментальных животных (крысы, кролики), сравнивая действие физических полей при 3–4 его параметрах, важных, на взгляд экспериментатора, для обоснованного заключения. Однако вследствие сложности проведения множественных экспериментов на лабораторных животных, исследователю при выполнении сравнительных экспериментов приходится ограничиваться каким-либо одним фиксированным значением дозовой нагрузки, вызывающей изменение контролируемого биологического показателя. Это не позволяет выявить общие закономерности в действии того или иного физического фактора, и даже может привести к ложным заключениям. Кроме того, по причине неоднородности особей, полученных от различных производителей, достоверность результатов зачастую недостаточна для обоснованного заключения. Поэтому, учитывая сложность проведения экспериментов на животных (требующих к тому же 3–5 повторностей на каждую экспериментальную точку), количественные исследования на организменном уровне при варьировании в широком диапазоне параметров воздействующих факторов в литературе практически отсутствуют. Неслучайно основные выводы о механизме биологического действия лазерного излучения сделаны в опытах с культивируемыми клетками или с клетками крови.

В этой связи нами было предложено использовать в качестве модели для исследования механизмов и закономерностей действия физических полей на организменном уровне эмбрионы (оплодотворенную икру) рыб [10, 13, 14]. На наш взгляд, привлекательность использования эмбрионов обусловлена, с одной стороны, возможностью выбора большого количества однотипных особей (полученных от одних производителей), а с другой – хорошей чувствительностью эмбрионов к действию физических полей, воспроизводимостью результатов, их высокой достоверностью, а также соответствием данным, получаемым при воздействии излучения на экспериментальных животных. Перспективным также представляется использование в качестве объектов исследования спермы рыб и зоопланктона [15, 16].

О наличии фотобиологического эффекта судили по изменению митотического индекса и плотности монослоя клеток [4, 5]; размерно-весовых показателей и устойчивости молоди осетровых рыб, полученной из эмбрионов, которые подвергались влиянию лазерного излучения, к действию экстремальных температур, дефициту кислорода, повышенному содержанию токсикантов в среде обитания [10, 13, 14]; по активности сперматозоидов – времени поступательного движения облученных клеток спермы рыб после их активации водой [15]; по проценту выклева науплий жаброногого рачка Artemia salina L при облучении его цист [16]. Указанные параметры биологических объектов нормировались на соответствующие характеристики для необлученных (интактных) групп; результаты подвергались статистической обработке.

Результаты исследований. Полученные результаты свидетельствуют о выраженном биологическом действии низкоинтенсивного лазерного излучения синей, красной и ближней инфракрасной областей спектра, заключающемся в способности света при определенной интенсивности и дозовой нагрузке влиять на такие биологически важные параметры, как а) скорость клеточной пролиферации в культуре; б) постэмбриональное развитие рыб при кратковременном однократном воздействии на эмбрионы на стадии органогенеза; в) активность сперматозоидов рыб; г) физиологические процессы, контролирующие выклев науплий зоопланктона.

Зависимость биологического действия (η) излучения от энергетической дозы. Отли чи-тельная особенность регуляторного действия НИЛИ состоит в том, что его стимулирующее влияние наблюдается в достаточно узком интервале дозовых нагрузок и интенсивностей. Как правило, зависимость биологического эффекта от времени облучения (t) при постоянной интенсивности света (или от плотности мощности при постоянной экспозиции) характеризуется наличием ярко



Беларуси

84

выраженного экстремума, соответствующего максимальному стимулирующему или ингибиру-ющему действию (в зависимости от длины волны излучения). Причем величина фотобиологического эффекта зависит не только от дозы воздействующего излучения, но и от значений плотности мощности и экспозиции, при которой данная доза набиралась. Вышесказанное подтверждается данными рис. 1, кривая 1 и табл. 1, из которых следует, что максимальное стимулирующее действие на клетки в культуре наблюдается при Р = 3 мВт/см2, t = 300 с (E = 0,9 Дж/см2). Дальнейшее увеличение дозы приводит к снижению эффекта, а при Р ≥ 6 мВт/см2 – к эффекту угнетения пролиферативной активности клеток. Похожие законо мерности наблюдаются и при действии НИЛИ красного и ближнего ИК-диапазонов на эмбрионы и сперму рыб, а также на зоопланктон.

Таблица 1. Зависимость величины стимулирующего эффекта лазерного излучения λ = 632,8 нм на митотическую активность клеток в культуре от его плотности мощности

при постоянной дозе воздействия (E = 0,9 Дж/см2)

Плотность мощности воздействующего излучения, мВт/см2

Время облучения, t, c

Величина фотобиологического эффекта, h, %

Достоверность отличий от контроля

6,00 150 108 ± 3 P < 0,053,00 300 126 ± 4 P < 0,051,50 600 119 ± 4 P < 0,050,75 1200 106 ± 3 –

Для сравнения отметим, что дозовая зависимость при деструктивном действии ультрафиолетового излучения или при фотодинамических процессах, сенсибилизированных красителями, как правило, описывается экспоненциальной (полиэкспоненциальной) функцией с взаимозаменяемостью в широком диапазоне значений времени и плотности мощности, при которых набирается необходимая доза.

Обратимость функциональных изменений в клетках, индуцированных НИЛИ. Для понимания механизма стимулирующего действия НИЛИ и с практической точки зрения (для определения оптимального временного интервала между процедурами лазерной терапии) важно знать, как долго сохраняется эффект стимуляции после прекращения облучения [4]. Результаты, отражающие зависимость митотической активности клеток (в процентах к контролю) от длительности временного интервала между облучением и их фиксацией, представлены на рис. 2. Как видим, в первое время (через 0,5 и 1 ч) после прекращения облучения митотическая активность клеток незначительно превышает данный параметр для контрольной группы. С увеличением времени инкубации эффект стимуляции нарастает, достигая максимума h = 180 ± 5 % через 7,5 ч. Дальнейшее увеличение времени инкубации приводит к снижению стимулирующего действия. Через 24 ч после прекращения облучения пролиферативная активность облученных и контрольных монослоев клеток практически не отличается.

На основании полученных данных можно сделать три вывода: 1) изменение темпа клеточной пролиферации, вызванное воздействием НИЛИ, носит обратимый характер; 2) необходимо определенное время, чтобы изменения, индуцированные лазерным излучением в момент воздействия, нашли отражение в скорости клеточной пролиферации; 3) при проведении процедур лазерной терапии желательно, чтобы время между сеансами не превышало 24 ч.

Рис. 1. Зависимость митотической активности клеток (в процентах к контролю) от плотности мощности линейно поляризованного излучения (l = 632,8 нм, t = 300 c) в отсутствие внешнего магнитного поля (1) и при одновременном действии лазерного излучения и постоянного магнитного поля

B = 50 мТл (2)



Беларуси

85

Представленные данные свидетельствуют об обратимости эффекта стимуляции клеточной пролиферации, что подтверждает «мягкий» регуляторный характер изменений, индуцируемых лазерным воздействием. Общепризнано, что факторы, вызывающие обратимые изменения, можно охарактеризовать как физиологические, а факторы, индуцирующие необратимые сдвиги, – как патологические, усугубляющие течение заболеваний.

Зависимость биологического действия лазерного излучения от частоты его модуляции. Исследования, выполненные на эмбрионах и сперме рыб в условиях одинаковой средней плотности мощности воздействующего лазерного излучения, показали, что частота модуляции – важный параметр, определяющий его биологическую активность. В качестве примера на рис. 3 показано влияние времени облучения (l = 808 нм, P = 2,9 ± 0,2 мВт/см2) оплодотворенной икры на массу 50-дневной молоди осетровых рыб (в процентах к контролю) в зависимости от режимов воздействия лазерным излучением и частоты его модуляции. Видно, что для каждой дозовой кривой наблюдается оптимум (соответствующий максимальному увеличению массы по сравнению с контролем) в зависимости gm = f(t). Для непрерывного излучения и излучения, модулированного с частотой F = 50 Гц, максимальное стимулирующее действие наблюдается для t = 60 c (энергетическая доза E = 174 мДж/см2). Как увеличение, так и уменьшение энергетической нагрузки приводит к снижению стимулирующего действия. Обращает на себя внимание то, что время, соответствующее максимуму стимуляции для различных режимов облучения, зависит от частоты модуляции. Так, при F = 1 Гц (кривая 2), оптимальное время облучения составляет t = 180 c (Emax = 522 мДж/см2), а при F = 2 (кривая 3), 5 (кривая 4) и 10 Гц (кривая 5) – t = 300 c (Emax = = 870 мДж/см2). При этом величина максимального эффекта индивидуальна для каждой дозовой

Рис. 2. Зависимость митотической активности клеток (в процентах к контролю) от времени после прекращения воздействия излучения гелий-неонового лазера (Р = 3 мВт/см2,

t = 300 c)

Рис. 3. Влияние времени облучения (длина волны l = 808 нм, плотность мощности P = 2,9 мВт/см2) оплодотворенной икры на массу 50-дневной мо--дневной мо-дневной молоди осетровых рыб (в процентах к контролю) в зависимости от режимов воздействия лазерным излучением и частоты его модуляции: 1 – непрерывный режим; 2–6 – излучение модулировано

с частотой F = 1, 2, 5, 10, 50 Гц соответственно



Беларуси

86

кривой. Оптимальным по критерию увеличения размерно-весовых показателей молоди является использование модулированного с F = 50 Гц излучения: при t = 60 c показатели массы особей, полученных из облученной икры, увеличиваются в 2 раза по сравнению с молодью контрольной группы. Напротив, при воздействии излучения с F = 1 Гц стимулирующее действие наименее выражено: в оптимуме (t = 180 c) величина эффекта не превышает gm = 110,7 %, а при t = 30, 60 и 300 с фотобиологическое действие практически отсутствует. Для сравнения отметим, что при оптимальном (P = 2,9 мВт/см2, t = 60 c) воздействии на икру непрерывного излучения gm = 155,6 ± 2,4 %. Таким образом, использование модулированного воздействия с частотой модуляции F = 50 Гц позволяет значительно повысить биологическую активность лазерного излучения.

По нашему мнению, критическим параметром, определяющим зависимость фотобиологического эффекта от частоты модуляции, является длительность темнового периода (паузы) между импульсами. При низкой частоте следования импульсов (F = 1–2 Гц), когда длительность паузы (tп) между ними составляет значительный временной интервал (tп = 250–500 мс), структурные перестройки, индуцируемые в клетках эмбриона предшествующим импульсом, к моменту воздействия следующего импульса релаксируют в состояние, близкое к исходному. В этом случае величина фотобиологического эффекта незначительна и практически не зависит от длительности паузы (см. рис. 3). По мере сокращения временного интервала между импульсами структурные перестройки, индуцируемые предшествующим импульсом, не успевая релаксировать в исходное состояние, усиливаются воздействием следующего светового импульса, что находит свое выражение в более высоком фотобиологическом эффекте при tп = 50 мс, F = 10 Гц (см. рис. 3). При дальнейшем увеличении частоты (F = 50 Гц, tп = 10 мс) следования импульсов (т. е. сокращении длительности паузы между ними) величина фотобиологического эффекта превышает таковой для непрерывного воздействия. Среди возможных причин повышенной биологической активности лазерного излучения, модулированного с частотой F = 50 Гц, – неспособность живых систем адаптироваться к быстро меняющемуся внешнему физическому фактору, что приводит к более высокому фотобиологическому действию по сравнению с непрерывным режимом.

Зависимость фотобиологического эффекта от частоты модуляции регистрируется также и при исследовании времени подвижности сперматозоидов рыб. Установлено, что облучение спермы (l = 670 нм, P = 3 мВт/см2, t = 30–60 c) приводит к увеличению (в 1,5–2,0 раза по сравнению с кон-c) приводит к увеличению (в 1,5–2,0 раза по сравнению с кон-) приводит к увеличению (в 1,5–2,0 раза по сравнению с контролем) времени подвижности сперматозоидов, что в свою очередь сопровождается достоверным увеличением процента оплодотворения икры осетровых рыб при использовании облученной спермы. Стимулирующий эффект наиболее выражен при частоте модуляции F = 50 Гц: доля оплодотворенной икры достигает gопл = 82,1 ± 1,8 %, тогда как в случае использования интактной спермы (контрольный вариант) gопл = 72,2 ± 2,5 %, а при оплодотворении икры спермой, предварительно подвергнутой воздействию непрерывного излучения, gопл = 76,4 ± 2,1 %.

Примечательно, что наши результаты находятся в хорошем соответствии с некоторыми данными других авторов по влиянию лазерного излучения на активность ферментов в тканях животных (l = 632,8 нм, E = 67,5 Дж/см2), метаболизм суспензии клеток селезенки (l = 632,8 нм, E = 500 мДж/см2), рост бактерий в условиях in vitro (l = 810 нм, E = 1,0 Дж/см2) и молодых клеток (остеобластов) костной ткани (l = 830 нм, E = 3,84 Дж/см2) (подробнее об этом см. [13]).

Близость указанных результатов (несмотря на различие спектральных диапазонов воздействующего излучения, дозовые нагрузки, отличающиеся более чем на два порядка, а также различные объекты исследования) свидетельствует, с одной стороны, об общебиологическом характере указанной закономерности, а с другой – открывает возможность усиления терапевтического действия НИЛИ за счет реализации в аппаратуре (фототерапевтические аппараты «Айболит», «Снаг», «Сенс» нашего производства) опции, предусматривающей такую возможность [7].

При этом следует отметить, что полученные результаты влияния модуляции оптического излучения на его биологическую активность не распространяются на зависимость биологического и терапевтического эффекта от частоты следования импульсов наносекундного диапазона. Для лазерных терапевтических аппаратов импульсного режима генерации (длительность импульса t = 100 ± 50 нс) увеличение частоты следования импульсов сопровождается соответствующим ростом средней плотности мощности воздействующего излучения, что и является определя-ющей причиной изменения биологического и терапевтического эффектов.



Беларуси

87

Зависимость биологического действия лазерного излучения от его длины волны. Иссле-дования, выполненные в последние годы на различных биологических системах, а также результаты клинических наблюдений свидетельствуют [7], что при правильном выборе параметров (плотность мощности, экспозиция, режим облучения) биологический и терапевтический эффекты отмечаются при использовании излучения любой из длин волн, расположенной в диапазоне от длинноволновой ультрафиолетовой до ближней инфракрасной областей спектра. При этом интерес к исследованию зависимости биологического действия от длины волны обусловлен не только поиском оптимального источника для фототерапевтического аппарата, но и выявлением молекул-акцепторов, ответственных за реализацию исследуемого феномена.

В качестве критерия для изучения зависимости биологического действия от длины волны были выбраны следующие показатели: выживаемость предличинок осетровых рыб на стадии выклева; количество нарушений в развитии обонятельных органов предличинок; средняя масса 50-дневной молоди рыб; процент выклева науплий жаброногого рачка Artemia salina L при облучении его цист. Для воздействия на эмбрионы использовались светодиодные (синяя область спектра, l = 450 нм, полуширина спектра Dl= 30 нм; красная область спектра l = 630 нм, Dl = 20 нм) и лазерные (ИК-область спектра, l = 808 нм) источники излучения. Воздействие на науплии осуществляли излучением с длиной волны 632,8 нм (гелий-неоновый лазер); 808 нм; 976 нм (полупроводниковые лазеры); 1064 нм; 1342 нм (лазеры на кристаллах Nd: YVO4 с диодной накачкой); 1176 нм (лазер с диодной накачкой и с последующим ВКР-преобразованием излучения 1064 нм) при плотности мощности Р = 3 мВт/см2 [16].

Результаты исследований влияния поляризованного излучения светодиодных источников синей (l = 450 нм) и красной (l = 630 нм) областей спектра, а также поляризованного лазерного излучения инфракрасного диапазона (l = 808 нм) на развитие эмбрионов и рыб при облучении на эмбриональной стадии представлены на рис. 4. Из него следует, что фотобиологический эффект достаточно сильно зависит от спектрального диапазона излучения. Максимальное стимулирующее действие оказывает излучение ближней инфракрасной области спектра l = 808 нм,

а

б

в

Рис. 4. Влияние непрерывного оптического излучения (P = 3 мВт/см2, t = 60 c) различного спектрального диапазона на выживаемость предличинок на стадии выклева (а); на нарушения в развитии их обонятельных органов (б) и на накопление массы 50-суточной молоди осетровых рыб (в) в зависимости от длины волны воздействующего излучения: 1 – контрольная группа; 2–4 – группы, на эмбрионы которых воздействовали поляризованным оптическим излучением с l = 450 (2), l = 630 (3), l = 808 нм (4)



Беларуси

88

P = 2,9 ± 0,2 мВт/см2, t = 60 c. Так, если в контрольной группе выживаемость предличинок на стадии выклева составляла gв = 70 ± 3,5 %, то при воздействии излучения l = 450 нм – gв = 78 ± 2,2 %; l = 630 нм – gв = 80 ± 1,5 %; l = 808 нм – gв = 94 ± 2,3 %. Аналогичная закономерность прослеживается и при контроле количества нарушений в развитии обонятельных органов предличинок и при измерении массы 50-дневной молоди. Например, если в контрольной группе аномалии в развитии наблюдались в gn = 22 ± 2,4 % от ее численности, то для личинок, полученных из облученных эмбрионов, данные показатели составляют: для l = 450 нм – gn = 16 ± 1,3 %; для l = 630 нм – gn = 13 ± 0,8 %; для l = 808 нм – gn = 8 ± 0,7 %. Средняя масса 50-дневной молоди, полученной из эмбрионов, облученных синим светом, составляла gw = 122 ± 2,5 % по отношению к контролю; облученных красным светом – gw = 125 ± 5,5 %; инфракрасным – gw = 185 ± 5,5 %. Следовательно, развитие осетровых рыб на эмбриональном и постэмбриональном уровне существенно зависит от длины волны излучения, воздействовавшего на эмбрионы.

Важная роль длины волны прослеживается также в экспериментах с изучением влияния лазерного излучения на выклев зоопланктона (науплий жаброногого рачка Artemia salina L) при облучении его цист (рис. 5). Исследования показали [16], что если воздействие на цисты излучением с длиной волны 808, 1176 и 1342 нм сопровождается стимуляцией выклева науплий, то облучение цист светом с l = 632,8, 976 и 1064 нм приводит к ингибированию процесса выклева науплий. Эффект сильно зависит от дозы при ее изменении в диапазоне 0,15–1,8 Дж/см2.

Представленные данные свидетельствуют о том, что эмбрионы рыб, а также зоопланктон являются удобной моделью для исследования закономерностей биологического действия лазерного излучения, включая зависимость эффекта от длины волны. Однако для ответа на вопрос о возможных акцепторах оптического излучения, ответственных за реализацию биологического дей

1 2

3 4

Рис. 5. Влияние лазерного излучения (P = 3,0 мВт/см2) с длиной волны 632,8 (1), 1176 (2), 976 (3) и 1342 нм (4) на выклев науплий при облучении их цист в зависимости от экспозиции



Беларуси

89

ствия, предстоит провести исследования с плавной (шаг 5–10 нм) перестройкой длины волны. В видимой области для этих целей наиболее подходят лазеры на красителях с распределенной обратной связью (РОС-лазеры).

Методы комбинированного (последовательного) воздействия излучением различных длин волн с целью усиления фотобиологического эффекта. Актуальность изучения комбинированного воздействия излучением различных длин волн обусловлена литературными данными о возможности значительного усиления биологического действия света за счет последовательного облучения. Пионерскими работами в данном направлении были исследования [2, 3], в которых показано, что наиболее выраженное влияние на функциональную активность клеток человека в культуре, а также на эффективность заживления трофических язв и ран, сращивание костей после переломов оказывает последовательное действие излучения синей (l = 441,6 нм) и красной (l = 632,8 нм) областей спектра. Указанные результаты легли в основу метода комбинированной лазерной терапии [3] и в последующие годы реализованы в серийно выпускаемых лазерных терапевтических аппаратах [7, 9]. Независимый экономический расчет, проведенный исследователями Белорусского государственного экономического университета на основании двухлетней выборки больничных листов травматологических отделений одной из городских клинических больниц г. Минска, показал [7], что если при оперативном лечении больных с закрытыми переломами костей голени сроки временной нетрудоспособности в контрольной группе (где лазерное излучение не использовалось) составляли 173 ± 5 дней, а в группе, где в комплексное лечение включалось воздействие только гелий-неоновым лазером красной области спектра – 156 ± 3 дней, то при комбинированном (последовательном) воздействии лазерным излучением синей и красной областей спектра, осуществляемом с использованием разработанной нами аппаратуры, сроки временной нетрудоспособности не превышали 141 ± 4 дней.

В наших исследованиях с использованием эмбрионов рыб проанализированы следующие варианты последовательностей воздействия поляризованным излучением различных областей спектра: синий и красный; красный и синий; синий и ИК; ИК и синий. Источниками излучения служили светодиоды (l = 450 и l = 630 нм), а также полупроводниковый лазер (l = 808 нм). Полученные результаты представлены в табл. 2.

Таблица 2. Влияние последовательного (комбинированного) воздействия на эмбрионы осетровых рыб оптическим излучением различного спектрального диапазона (P = 3 мВт/см2, t = 60 c) на показатели,

характеризующие развитие осетровых рыб на эмбриональной и постэмбриональной стадиях

Контролируемый параметр

Показатели (% к контролю) при последовательном воздействии на эмбрионы излучением нижеследующих

спектральных диапазоновПоказатели

для контрольной группы, %синий и красный красный и синий синий и ИК ИК и синий

Выживаемость предличинок на стадии выклева 86 ± 2,3 82 ± 1,9 87 ± 2,1 89 ± 1,9 70 ± 3,5

Нарушения в развитии обонятельных органов 13 ± 1,3 12 ± 1,0 11 ± 0,9 10 ± 0,8 22 ± 2,4

Накопление массы 50-суточной молоди осетровых рыб 140 ± 3,5 128 ± 6,5 155 ± 4,2 149 ± 4,7 100 ± 1,7

Из приведенных данных следует, что максимальные отличия от контрольных групп наблюдаются при последовательном воздействии на эмбрионы излучением синей и инфракрасной, а также инфракрасной и синей областей спектра. Однако обращает на себя внимание отсутствие в этом случае синергизма в действии указанных физических факторов: при облучении эмбрионов светом только с l = 808 нм (см. рис. 3) фотобиологический эффект оказывается выше по всем исследованным показателям. Четко выраженный синергизм отмечается при последовательном действии излучения синей и красной областей спектра. Так, если при воздействии на эмбрионы излучением синей области спектра средняя масса 50-дневной молоди составляла gw = 122 ± 2,5 % по отношению к контролю, при воздействии красным светом – gw = 125 ± 5,5 %, то при последовательном воздействии (синим и красным) – gw = 140 ± 3,5 %. Обратная последовательность (воздействие красным и синим излучением) практически не приводит к эффекту синергизма: gw = 128 ± 6,5 %. Отметим, что приведенные данные о синергизме действия излучения синей и красной областей спектра, полученные на эмбрионах рыб, находятся в хорошем соответствии



Беларуси

90

с результатами исследования влияния комбинированного лазерного воздействия на митотическую активность клеток в культуре [2], синтез в них ДНК и РНК, а также на заживление трофических язв и ран после оперативных вмешательств [3].

Методы сочетанного (одновременного) действия лазерного излучения и постоянного маг-нитного поля для усиления биологической активности указанных физических факторов. Синергетический эффект при сочетанном (одновременном) действии лазерного излучения и постоянного магнитного поля был установлен экспериментально-клиническими исследованиями [17]. Однако молекулярно-физические механизмы указанного феномена долгое время оставались невыясненными. Полученные нами данные [5] по сочетанному действию лазерного излучения и постоянного магнитного поля на скорость клеточной пролиферации в культуре явились первым экспериментальным подтверждением в условиях in vitro возможности усиления регуляторного влияния указанных физических факторов за счет эффекта синергизма. С этой целью поставлена серия экспериментов, в которых монослои клеток почки обезьяны подвергались действию: а) излучения гелий-неонового лазера; б) постоянного магнитного поля; в) лазерного излучения и постоянного магнитного поля одновременно. Естественно, что все указанные эксперименты проводились на фоне магнитного поля Земли (B = 0,05 мТл). Многократно повторенные эксперименты по воздействию поля кольцевого магнита на монослой клеток показали, что магнитное поле с ин-дукцией B = 50 мТл (экспозиция t = 300 с) вызывает достоверную стимуляцию (p < 0,01) митотической активности клеток (h = (112 ± 5) %). В отсутствие внешнего магнитного поля зависимость митотической активности клеток (в процентах к контролю) от плотности мощности линейно поляризованного излучения представляет собой колоколообразную кривую (см. рис. 1, кривая 1) с максимальным эффектом h = (126 ± 4) %, регистрируемым при Р = 3,0 мВт/см2. При одновременном действии на монослои клеток низкоинтенсивного лазерного излучения и магнитного поля (см. рис. 1, кривая 2, t = 300 c) колоколообразная форма кривой, характерная для зависимости h = f(Р) в отсутствие магнитного поля сохраняется. Однако наложение магнитного поля приводит к существенному повышению чувствительности клеток к действию лазерного излучения. Прежде всего, достигается более высокая стимуляция митотической активности (h = (140 ± 4) %) при более низкой плотности мощности Р = 2,3 мВт/см2. Контур зависимости h = f(Р) существенно уже, при более низких плотностях мощности действующего излучения достигается угнетение митотической активности клеток. Примечательно также, что при сочетанном действии постоянного магнитного поля и лазерного излучения при интенсивности последнего Р = 3,0 мВт/см2 (т. е. в условиях максимального фотобиологического эффекта h = (126 ± 4)% от гелий-неонового лазера в отсутствие магнитного поля) наблюдается практически полное отсутствие биологического эффекта. Этот факт может служить доказательством неаддитивности в действии низкоинтенсивного лазерного излучения и постоянного магнитного поля. Важно подчеркнуть, что вышеуказанная закономерность отмечается лишь при одновременном применении указанных физических факторов. Последовательное воздействие на культуру клеток лазерным излучением, а затем магнитным полем, или в обратной последовательности не приводят к деформации зависимости h = f(Р), как это наблюдается в случае их сочетанного применения.

Таким образом, проведенные исследования показывают, что постоянное магнитное поле, как и низкоинтенсивное лазерное излучение, являются эффективными биостимуляторами. При этом наблюдается повышение чувствительности клеток к действию лазерного излучения в присутствии постоянного магнитного поля, что может свидетельствовать об эквивалентности в биологическом действии указанных физических факторов.

Следует отметить, что полученные данные о синергетическом эффекте при одновременном воздействии оптического излучения и магнитного поля нашли применение в наших разработках терапевтической аппаратуры на основе лазерных и светодиодных источников (аппараты «Родник-1», «Люзар-МП», «Снаг», «Сенс», «Айболит»), которыми широко оснащены клинические учреждения республики [7]. Исследования в данном направлении были нацелены на создание аппарата, в котором область приложения магнитного поля соответствовала зоне действия лазерного излучения на патологический очаг. Обычно в аппаратах для магнитолазерной терапии лазерный луч 1 (рис. 6) проходит через полость в кольцевом магните 2, плоскость которого перпендикулярна направлению распространения излучения [7, 8]. Однако при таком конструктив



Беларуси

91

ном решении магнитная индукция на уровне поверхности кольцевого магнита в зоне действия оптического излучения минимальна |B| = 20 мТл, а ее максимальное значение (|B| = 74–78 мТл) регистрируется на поверхности тела магнита (см. рис. 6, кривая I). Для коррекции напряженности магнитного поля нами предложено использовать полые сердечники из магнитомягких материалов, один из которых представляет собой пластину 4 с отверстием, расположенную на поверхности магнита со стороны, обращенной к источнику излучения, а другой – трубку 4, расположенную вдоль оси магнита. Как следует из рис. 6 (кривые II и III), использование каждого сердечника приводит к повышению напряженности магнитного поля в зоне действия оптического излучения. Однако наиболее выраженное повышение (в ≈3,5 раза по сравнению с аналогами без сердечников) напряженности отмечается при одновременном использовании сердечников 3 и 4 (кривая IV): в этом случае магнитная индукция в зоне действия оптического излучения составляет |B| = 73 мТл.

Таким образом, предложенные нами конструктивные решения магнитных насадок с комбинированными сердечниками из магнитомягких материалов обеспечивают создание в зоне действия лазерного излучения аппаратов для магнитолазерной терапии магнитного поля с индукцией, практически не отличающейся от ее значения над проекцией тела магнита. Указанные магнитные насадки могут использоваться также в аппаратах для магнитосветотерапии на основе светодиодных источников.

Зависимость биологического действия оптического излучения от его поляризации. Как уже отмечалось, для понимания механизма биологической активности лазерного излучения принципиальным является выяснение взаимосвязи между его биологическим действием и поляризацией. Данные, полученные нами с использованием различных биологических систем (клетки в культуре, эмбрионы и сперма рыб), свидетельствуют о зависимости биологического эффекта от поляризации излучения [4, 5, 10, 14, 15]. Одним из оснований для такого вывода послужили сравнительные исследования по влиянию на скорость клеточной пролиферации монослойной культуры многомодового излучения гелий-неоновых лазеров (l = 632,8 нм), один из которых генерировал линейно поляризованное излучение, а другой – неполяризованное [4, 5]. Результаты исследований представлены на рис. 7, из которого следует, что если воздействие линейно поляризованного излучения (P = 3 мВт/см2) вызывает в диапазоне экспозиций t = 1–7 мин выраженные изменения темпа клеточной пролиферации, то при облучении клеток неполяризованным излучением в том же энергетическом диапазоне фотобиологический эффект практически отсутствует.

Учитывая принципиальный характер данного заключения для устранения возможных артефактов, которые обусловлены неодинаковым распределением интенсивности света по сечению луча для лазеров, генерирующих в многомодовом режиме поляризованное и неполяризованное излучение, были поставлены дополнительные эксперименты. С этой целью луч лазера, генерирующего неполяризованное излучение, пропускался в одном случае через поляроид (на выходе которого получали линейно поляризованное излучение), а в другом – через нейтральный светофильтр с пропусканием t = 40 % (на выходе которого получали неполяризованное излучение

Рис. 6. Распределение (в зоне действия лазерного излучения 1) магнитной индукции на поверхности магнитной насадки по отношению к проекциям тела магнита 2 и сердечников 3 и 4 для различных вариантов конструктивных решений насадки: I – без сердечника; II – с сердечником 3 в виде пластины с отверстием, расположенной на поверхности магнита со стороны, обращенной к лазерному диоду; III – с сердечником 4 в виде трубки, расположенной вдоль оси магнита; IV – c сердеч-c сердеч- сердечником в виде пластины 3 с отверстием, расположенной на поверхности магнита со стороны, обращенной к лазерному диоду, и трубки 4, располо

женной вдоль оси магнита



Беларуси

92

с той же мощностью светового потока). Исследования показали наличие фотобиологического эффекта в исследованном энергетическом диапазоне лишь при воздействии линейно поляризованного излучения. К такому же выводу привели результаты исследований, основанные на использовании поляризованного и реполяризованного излучения. В данном варианте эксперимента деполяризация излучения лазера вызывалась его пропусканием через длинный (l ~ 20 м) моноволоконный световод типа кварц-полимер диаметром светопроводящего сердечника d = 0,4 мм. Установлено, что при воздействии на клетки деполяризованного излучения фотобиологический эффект практически отсутствует в диапазоне интенсивностей Р = 1–7 мВт/см2 (t = 300 c). Для по-c). Для по-). Для появления фотобиологического действия необходимо деполяризованное излучение, прошедшее световод, реполяризовать путем пропускания через поляроид.

Следует сказать, что выраженная зависимость действия лазерного излучения от его поляризации отмечается и другими авторами [18, 19], которые фиксируют наличие достоверного эффекта на клетки крови лишь при воздействии поляризованного излучения. Вместе с тем имеются работы, авторы которых не обнаруживают зависимости биологической активности излучения на клеточном уровне от поляризации [20]. Все это свидетельствует о необходимости дальнейшего изучения роли указанного параметра оптического излучения в реализации его биологического и терапевтического действия для различных длин волн и интенсивностей. В этой связи изучение роли поляризации во взаимодействии излучения с эмбрионами рыб, обеспечивающими высокий уровень достоверности данных, представляет безусловный интерес. Дозовые кривые, отражающие влияние облучения эмбрионов линейно-поляризованным (1) и неполяризованным (2) светом квазимонохроматического красного светодиода (l = 631 нм, Dl = 15 нм, P = 2,9 мВт/см2) на массу и длину 50-дневной молоди осетровых рыб (в процентах к контролю), представлены на рис. 8, а, б. Из графиков следует, что величина фотобиологического эффекта, индуцируемого поляризованным излучением, значительно выше, чем при воздействии неполяризованным излучением. Вместе с тем при оптимальных условиях облучения (t = 60 с, E = 0,17 Дж/см2) достоверное отличие от контроля (p < 0,05) наблюдается и при воздействии неполяризованного света.

Наши исследования [15] по влиянию оптического излучения на сперму рыб показали, что изменение активности сперматозоидов вызывает как поляризованное, так и неполяризованное излучение светодиодного источника. Различие в их действии уменьшается по мере увеличения толщины слоя облучаемой спермы. По всей видимости, это обусловлено сильной деполяризацией излучения по мере его прохождения в глубь ткани и снижением доли клеток, подвергнутой облучению поляризованным светом. Отметим также, что согласно нашим данным [16], выполненным при действии на цисты зоопланктона Artemia salina L излучения ближней инфракрасной области спектра (805 ... 1340 нм), выраженное влияние на выклев науплий оказывает неполяризованное лазерное излучение.

Таким образом, совокупность представленных данных свидетельствует о том, что в зависимости от условий облучения и параметров воздействующих факторов (длина волны, интенсивность) могут наблюдаться существенные различия в биологической активности линейно-поляризованного и неполяризованного света в отношении клеток в культуре, эмбрионов и спермы осетровых рыб. Вместе с тем и неполяризованное излучение способно оказывать выраженное действие на клеточном и организменном уровнях.

Рис. 7. Зависимость митотической активности клеток от времени воздействия излучения l = 632,8 нм, P = 3,0 мВт/см2 с линейной (1)

и естественной (2) поляризациями



Беларуси

93

Роль временной когерентности в реализации биологического действия лазерного излу-чения. Влияние степени когерентности поляризованного оптического излучения на его биоло-гическую активность иллюстрируют данные, представленные на рис. 9. На диаграмме приведе-ны результаты сравнительных экспериментов (основанных на контроле массы 50-дневной моло-ди рыб) при воздействии на эмбрионы монохроматического лазерного излучения (l = 632,8 нм, Dl = 0,02 нм, длина когерентности Lког ~ 2000 мкм), квазимонохроматического излучения красного светодиода (l = 631 нм, Dl = 15 нм, Lког ~ 26 мкм) и полихроматического излучения белого свето-диода (l = 420–800 нм, с максимумами при l = 453 и 567 нм, Dl = 130 нм, Lког < 2,5 мкм). Для всех вариантов облучения P = 2,9 мВт/см2, t = 60 с. Из представленных данных видно, что биологи-ческие эффекты, индуцированные излучением монохроматического лазерного (gm = 120,4 ± 2,9 %, p < 0,001) и квазимонохроматического светодиодного (gm = 118,6 ± 3,7 %, p < 0,001) источников, практически не отличаются. Однако переход к широкополосному излучению (белый светодиод) сопровождается заметным снижением биологического действия: gm = 111,1 ± 1,8 %, p < 0,001. При этом следует отметить, что максимум спектра испускания белого светодиода (l = 567 нм) сдви-нут в коротковолновую область по сравнению с красным светодиодом (l = 631 нм), что может

а б

Рис. 8. Влияние времени облучения оплодотворенной икры на массу (а) и длину (б) 50-дневной молоди осетровых рыб (в процентах к контролю) для линейно-поляризованного (1) и неполяризованного (2) излучения квазимонохро-

матического красного светодиода (l = 631 нм, Dl = 15 нм, P = 2,9 мВт/см2)

Рис. 9. Влияние степени когерентности поляризован-ного оптического излучения (P = 2,9 мВт/см2, t = 60 c), воздействующего на оплодотворенную икру, на массу 50-днев ной молоди осетровых рыб: 1 – контроль; 2 – лазерное излучение (l = 632,8 нм, Dl = 0,02 нм, Lког ~ 2000 мкм); 3 – квазимонохроматическое излу-чение красного светодиода (l = 631 нм, Dl = 15 нм, Lког ~ 26 мкм); 4 – полихроматическое излучение белого светодиода (l = 420–800 нм, Dl = 130 нм, Lког < 2,5 мкм)



Беларуси

94

быть одной из причин наблюдаемых различий в действии излучения полихроматического и квазимонохроматического источников. Нам не удалось также выявить различий в действии на эмбрионы рыб излучения гелий-неонового лазера (l = 632,8 нм, Dl = 0,02 нм, длина когерентности Lког ~ 2000 мкм) и излучения полупроводникового лазера с близкой диной волны (l = 635 нм), но значительно меньшим показателем когерентности (Dl = 2,0 нм, Lког ~ 200 мкм).

Таким образом, биологической активностью обладает не только монохроматическое лазерное, но и квази- и полихроматическое излучение светодиодных источников. По нашим данным [10, 14, 15], имеется лишь несколько работ, в которых отмечается специфика действия когерентного излучения по сравнению с некогерентным [21–25]. В частности, в работе [21] обнаружено влияние лазерного излучения с периодической модуляцией интенсивности (вследствие интерференции двух световых пучков) на ансамбль (столбик) эритроцитов. Показана возможность перемещения и/или разрушения такого агрегационного образования за счет действия градиентных сил. Указанное явление может иметь место лишь при освещении объектов когерентным светом, когда на поверхности и в глубине объекта образуются спекл-структуры с выраженным градиентом интенсивности.

В работе [22] обнаружено существенное различие в действии на бактерии лазерного излучения, однородно распределенного по облучаемой поверхности, и лазерного излучения, пространственно модулированного по интенсивности, при их одинаковой средней плотности мощности. Причем эффект наиболее выражен, когда период чередования светлых и темных участков соизмерим с размером клеток или их органелл. Отмечается, что при воздействии когерентного лазерного излучения световой градиент на несколько порядков выше, чем при применении света той же мощности и длины волны, но с низкой когерентностью [22].

Согласно [25], при лечении периодонтита эффект более выражен при использовании гелий-неонового лазера (l = 632,8 нм), характеризующегося высокой монохроматичностью Dl = 0,02 нм (и связанному с ней параметру – временной когерентностью), чем при воздействии на патологический очаг излучением полупроводникового лазера с l = 650 нм, Dl = 2 нм.

Вместе с тем в литературе превалирует точка зрения, что не существует никаких биофизических предпосылок, теоретических и экспериментальных исследований для утверждения, что когерентность света могла бы оказывать влияние на живые системы различного уровня, а действие лазерного излучения могло бы являться специфическим [26–28].

Механизмы фотофизических процессов, определяющих биологическое действие оптиче-ского излучения низкой интенсивности. Совокупность имеющихся гипотез о механизме биологической активности НИЛИ можно подразделить на две группы: фотохимическую и нефото-химическую (нерезонансную). Сторонники первой из них полагают, что влияние лазерного излучения на метаболические процессы в организме обусловлено за счет фотохимических реакций, протекающих при поглощении света эндогенными фотоакцепторами: а) белковыми макромолекулами, содержащими простетические группы (гемоглобин, цитохром-с-оксидаза, супероксиддисмутаза, каталаза и др.); б) эндогенными фотосенсибилизаторами (прежде всего порфириновой природы). Считается, что воздействие излучения приводит к изменению кислородтранспортной функции гемоглобина и повышению локальной концентрации кислорода за счет его фотодиссоциации от оксигемоглобина, а также к изменению активности ферментных систем (цитохром-с-оксидазы, супероксиддисмутазы, каталазы). В случае определяющей роли сенсибилизированных реакций в механизме биологической активности лазерного излучения приоритетное значение отводят процессам изменения проницаемости клеточных мембран за счет реакций перекисного окисления липидов.

Результаты, полученные нами при исследовании действия оптического излучения на клетки в культуре, эмбрионы и сперму рыб, а также зоопланктон, в совокупности с литературными данными позволяют заключить, что в зависимости от спектрального диапазона и мощности излучения, его поляризации и когерентности биологическое действие может реализовываться по разным фотофизическим механизмам. Так, согласно нашим данным [16], акцепторами лазерного излучения в ближней инфракрасной области спектра (800–1350 нм), ответственными за реализацию биологического (и как следствие – терапевтического) действия, являются молекулярный кислород и вода, имеющие выраженные полосы поглощения в данном спектральном диапазоне. Регуляторное биологическое действие излучения в этом случае объясняется прямым возбужде



Беларуси

95

нием синглетного кислорода (и его последующим влиянием, как сигнальной (триггерной) молекулы, на протекание физиологических процессов в живом организме), а также структурной альтерацией воды, играющей важную роль в поддержании и регуляции гомеостаза [16]. Отметим, что возможная роль прямого возбуждения растворенного кислорода в реализации биологиче-ского действия света обосновывалась в работе [29]. В основе высокой чувствительности воды к внешним воздействиям лежит кластерный характер ее строения, заключающийся в кооперативном образовании короткоживущих ассоциатов за счет формирования сетки водородных связей между молекулами («мерцающие кластеры»). Имеются также данные, свидетельствующие о способности молекул воды к формированию параметрических модульных структур типа спиралей, фракталов, кольцевых и иных образований, комплементарных к биологическим структурам. По этой причине воду рассматривают как коллективную неравновесную динамическую систему, способную к самоорганизации и чувствительную к внешним воздействиям, включая лазерное излучение.

По нашему мнению, фотобиологические эффекты, влияющие на скорость клеточной пролиферации в культуре, постэмбриональное развитие осетровых рыб, а также на активность сперматозоидов, индуцированные воздействием оптического излучения видимого диапазона спектра, могут быть интерпретированы с позиций нерезонансного нефотохимического механизма действия излучения. В пользу данной концепции свидетельствует: а) зависимость эффекта от поляризации излучения [4, 5, 10, 14, 15]; б) обратимость функциональных изменений в клетках, индуцированных НИЛИ [4]; в) влияние постоянного магнитного поля на эффекты, вызываемые линейно-поляризованным светом [5]; г) зависимость эффекта от амплитудного значения интенсивности излучения (при воздействии на эмбрионы импульсного излучения наносекундной длительности средняя эффективная плотность мощности P = 0,06–0,24 мВт/см2 ниже, по крайней мере, на порядок соответствующего значения для непрерывного излучения) [10, 14]; д) нарушение правила о взаимозаменяемости времени и плотности мощности [4, 5, 10, 14]; е) влияние частоты модуляции на регистрируемый фотобиологический эффект [10, 14].

Отмеченные закономерности свидетельствуют о «мягком», регуляторном характере изменений, индуцируемых в биологических системах воздействием оптического излучения низкой интенсивности. При этом в литературе рассмотрены следующие механизмы нефотохимческой природы, объясняющие действие оптического излучения на биологические системы: а) ориен-тационное действие излучения на биологические структуры с жидкокристаллическим характером упорядочения [4, 5, 10, 14]; б) градиентные дипольные взаимодействия, возникающие при воздействии на объект излучения с пространственной модуляцией интенсивности [21, 23, 24]; в) диполь-дипольные взаимодействия, индуцированные световой волной в близко расположенных структурах [21, 23, 24].

Впервые гипотеза об ориентационном действии излучения в отсутствие резонансного поглощения была выдвинута ранее В. А. Мостовниковым и соавторами [4, 5] для интерпретации данных, полученных при действии излучения на культивируемые клетки. Указанный механизм представляет собой оптический эффект Керра и должен наблюдаться для молекул, характеризующихся анизотропией поляризуемости. Фотофизический механизм этих изменений заключается в переориентации отдельных высокоупорядоченных анизотропных участков (доменов) указанных компонентов в результате взаимодействия электрического поля световой волны с индуцированным (этой волной) интегральным электрическим диполем домена. Один из принципиальных моментов, важных для объяснения ориентационного нерезонансного механизма действия излучения (как и диполь-дипольных взаимодействий, а также градиентных сил) состоит в выяснении вопроса: откуда берется энергия на переориентацию жидких кристаллов (ЖК) в отсутствие поглощения. Согласно оценкам, указанная работа осуществляется за счет изменения частоты (Dn) света («покраснения квантов»), характеризующегося ничтожно малой величиной (Dn/n ~ 10–15). В последние годы получены данные, свидетельствующие о том, что ориентационное действие света на ЖК (зависимое от типа поляризации излучения) проявляется и в случае наличия у них слабого примесного или собственного поглощения. Физические процессы, ответственные за переориентацию поглощающих ЖК, в полной мере не выяснены и являются предметом многочисленных исследований и дискуссий. Поскольку ориентационная нелинейность для поглощающих ЖК



Беларуси

96

увеличивается на 2 порядка по сравнению с прозрачными и средняя мощность излучения, необходимая для эффективной переориентации, не превышает 1 мВт, то это делает наиболее вероятным проявление указанного механизма в реализации изучаемого биологического действия оптического излучения.

Впервые возможная роль когерентности в реализации нерезонансного биологического действия лазерного излучения была теоретически рассмотрена в работах А. Н. Рубинова и А. А. Афа-насьева [23, 24]. Согласно их гипотезе, биологическое действие излучения обусловлено: а) градиентными эффектами при взаимодействии биологических структур с пространственно неоднородным излучением; б) диполь-дипольным взаимодействием биологических частиц, наведенным световой волной. Влияние градиентных сил на биологические органеллы, клетки и другие образования микронных размеров связано с формированием лазерным излучением спекл-структуры за счет интерференции падающего луча с отраженными и рассеянными (на неоднородностях ткани) лучами. В результате нерезонансного дипольного взаимодействия электрической компоненты света со светоиндуцированным дипольным моментом биологических микрочастиц возникают градиентные силы, способные оказывать биологическое действие, в том числе и за счет избирательного повышения кинетической энергии микрочастиц [23, 24]. В случае доминиру-ющего значения градиентных сил должны наблюдаться существенные различия в действии поляризованного излучения монохроматического лазерного и квазимонохроматического светодиодного источников, поскольку в последнем случае спекл-структуры практически не образуются. В отличие от градиентных сил, взаимодействие светоиндуцированных осциллирующих дипольных моментов соседних частиц друг с другом (диполь-дипольное взаимодействие) нерезонансного характера (в отсутствие поглощения) может реализоваться при воздействии на биологические объекты как когерентного, так и некогерентного излучения [23, 24].

Выраженная зависимость биологического действия оптического излучения видимой области спектра на клетки в культуре, эмбрионы и сперму рыб от его поляризации; равнозначность эффектов при воздействии на указанные системы когерентного излучения гелий-неонового лазера и некогерентного излучения светодиодного источника близкой длины волны; наличие точек экстремумов в спектре биологического действия позволяют сделать вывод о том, что первичные фотофизические механизмы, обеспечивающие влияние излучения на метаболические процессы в организме, обусловлены кооперативными структурными переходами в мембранах и мультиферментных комплексах с жидкокристаллическим характером упорядочения за счет ориентационного действия поляризованного излучения в присутствии слабо поглощающих эндогенных хромофоров. Наличие слабого поглощения значительно усиливает чувствительность указанных систем к структурным переходам, индуцированным ориентационным действием поляризованного излучения. Полученные результаты не исключают также возможный вклад диполь-дипольных взаимодействий в реализацию биологического действия оптического излучения.

Заключение. Результаты, полученные в настоящей работе при использовании в качестве объектов исследования клеток животных в культуре, эмбрионов и спермы рыб, зоопланктона, свидетельствуют о достоверном биологическом действии оптического излучения низкой интенсивности. Стимулирующее действие излучения отмечается в узком диапазоне дозовых нагрузок, причем результат зависит не только от дозы воздействующего излучения, но и от конкретных значений плотности мощности и времени, при которых данная доза набирается.

Разработаны методы усиления биологической активности оптического излучения за счет его модуляции; совместного действия с постоянным магнитным полем; комбинированного последовательного воздействия излучением различного спектрального диапазона.

Показано, что максимальное стимулирующее действие на скорость клеточной пролиферации, размерно-весовые показатели молоди осетровых рыб, активность сперматозоидов вызывает облучение линейно-поляризованным светом.

Кроме поляризованного монохроматического излучения лазерных источников выраженным биологическим действием обладает также и поляризованное квазимонохроматическое и поли-хроматическое (широкополосное) излучение светодиодных источников. Эффективность действия поляризованного монохроматического и квазимонохроматического излучения практически не отличается.



Беларуси

Предполагается, что первичные фотофизические механизмы, обеспечивающие влияние излучения видимой области спектра на метаболические процессы в организме, обусловлены ко-оперативными структурными переходами в мембранах и мультиферментных комплексах за счет ориентационного действия поляризованного излучения, а также диполь-дипольных нерезонансных взаимодействий.

Акцепторами лазерного излучения в ближней инфракрасной области спектра (800–1350 нм), ответственными за реализацию биологического (и как следствие – терапевтического) действия, являются молекулярный кислород и вода, имеющие выраженные полосы поглощения в данном спектральном диапазоне. Регуляторное биологическое действие излучения в этом случае объясняется прямым возбуждением синглетного кислорода (и его последующим влиянием как сигнальной (триггерной) молекулы на протекание физиологических процессов в живом организме), а также структурной альтерацией воды, играющей важную роль в поддержании и регуляции гомеостаза.

Литература1. Степанов Б. И. Лазеры сегодня. Минск, 1977. С. 67.2. Степанов Б. И., Мостовников В. А., Рубинов А. Н., Хохлов И. В. // Докл. АН СССР. 1977. Т. 236, № 4. С. 1007–1010.3. Крюк А. С., Мостовников В. А., Хохлов И. В., Сердюченко Н. С. Терапевтическая эффективность низкоинтен

сивного лазерного излучения. Минск, 1986. 4. Мостовников В. А., Мостовникова Г. Р., Плавский В. Ю. и др.// Новое в лазерной медицине и хирургии: матери

алы междунар. конф. М., 1991. Ч. 2. С. 192–194.5. Mostovnikov V. A., Mostovnikova G. R., Plavski V. Y. et al. // Proc. SPIE. 1994. Vol. 2370. P. 541–548.6. Mostovnikova G. R., Mostovnikov V. A., Plavskii V. Yu. et al. // J. Opt. Technol. 2000. Vol. 67, N. 11. P. 981–983.7. Plavskii V. Yu., Mostovnikov V. A., Ryabtsev A. B. et al. // J. Opt. Technol. 2007. Vol. 74, N 4. P. 246–257.8. Plavskii V. Yu. // Biomedical Engineering. 2011. Vol. 45, N 1. P. 9–11.9. Plavskii V. Yu., Ryabtsev A. B., Leusenko I. A. et al. // Biomedical Engineering. 2011. Vol. 45, N 2. P. 54–58.10. Plavskii V. Yu., Barulin N. V. // Advances in Laser and Optics Research. New York, 2010. Vol. 4. P. 1–48.11. Plavskii V. Yu. // Bilirubin: Chemistry, Regulation and Disorder. New York, 2012. P. 1–65.12. Plavskii V. Yu. // Research Advances in Magnetic Materials. New York, 2013. P. 1–35.13. Plavskii V. Yu., Barulin N. V. // J. Opt. Technol. 2008. Vol. 75, N 9. P. 546–55214. Плавский В. Ю., Барулин Н. В. // Журн. прикл. спектроскопии. 2008. Т. 75, № 6. С. 843–858.15. Barulin N. V. Plavskii V. Yu. // World Acad. Sci. Engineer. Technol. 2012. Vol. 67. P. 946–951.16. Плавский В. Ю., Барулин Н. В., Грабчиков А. С. и др. // Лазерная физика и оптические технологии: материалы

IX Междунар. науч. конф. Гродно, 2012. Ч. 1. C. 140–145.17. Полонский А. К., Черкасов А. В. // Вопр. курортологии. 1984. № 4. С. 66–67.18. Kubasova T., Horvath M., Kocsis K., Fenyö M. // Immunol. Cell Biol. 1995. Vol. 73, N 3. P. 239–244.19. Fenyö M., Mandl J., Falus A. // Cell Biol. Intern. 2002. Vol. 26, N 3. P. 265–269.20. Karu T. I., Pyatibrat L. V., Moskvin S. V. et al. // Photomed. Laser Surg. 2008. Vol. 26, N 2. P. 77–82.21. Bushuk S. B., Kruchenok J. V., Kurilo G. I. et al. // J. Opt. A: Pure Appl. Opt. 2005. Vol. 7. P. 382–385.22. Попов А. Ю., Попова Н. А., Тюрин А. В. // Оптика и спектроскопия. 2007. Т. 103, № 3. С. 502–508.23. Rubinov A. N. // J. Phys. D: Appl. Phys. 2003. Vol. 36, N 19. P. 2317–2330.24. Рубинов А. Н., Афанасьев А. А. // Оптика и спектроскопия. 2005. Т. 98, № 6. С. 1027–1032.25. Qadri T., Bohdanecka P., Tunér J., Miranda L., Altamash M., Gustafsson A. // Lasers Surg. Med. 2007. Vol. 22. Р. 245–251.26. Ульянов С. С., Ульянова О. В. // Оптика и спектроскопия. 2010. Т. 109, № 2. С. 284–289.27. Klebanov G. I., Shuraeva N. Yu., Klimov Yu. V., Sidorina N. G. // Laser Physics. 2004. Vol. 14, N 8. Р. 1122–1131.28.Karu T. I. http://www.photobiology.info/Coherence.html.29. Захаров С. Д., Иванов А. В. // Квантовая электроника. 1999. Т. 29, № 3. С. 192–214.

V. Yu. PLAVSKII, G. R. MOSTOVNIKOVA, N. V. BARULIN, L. G. PLAVSKAYA, A. I. TRET’YAKOVA, A. V. MIKULICH, I. A. LEUSENKO, A. V. MOSTOVNIKOV

BIOLOGICAL AND THERAPEUTIC ACTIONS OF OPTICAL LOW-INTENSITY RADIATION

SummaryIn this work, we investigated the influence of laser radiation and radiation of light-emitting diode sources (LEDs) on the

proliferative activity of animal cells in culture, the postembryonic development of sturgeon fishes upon short single irradiation of fertilized caviar, the activity of fish sperm, the zooplankton hatching upon irradiation of cysts depending on the parameters of the acting factor (power density, wavelength, polarization, degree of coherence). The methods of enhancement of the biological activity and the therapeutic action of optical radiation due to its modulation, the mutual action with a constant magnetic field, the combined consecutive radiation action in different spectral regions were developed. The mechanisms of photochemical and non-photochemical (non-resonant) processes lying in the basis of the observed light-induced effects were examined.



Беларуси

98


УДК 551.501.7

А. П. ИВАНОВ

ЛАЗЕРНОЕ ЗОНДИРОВАНИЕ АТМОСФЕРЫ В БЕЛАРУСИ: ИСТОРИЧЕСКИЙ ОЧЕРК

Институт физики имени Б. И. Степанова НАН Беларуси


Введение. Идея использовать световой луч для зондирования атмосферы относится к началу XX в., когда В. В. Кузнецовым [1] была опубликована работа по определению высоты облаков ночью с помощью прожектора. В 1930–1950-х гг. в СССР и за рубежом проводились немногочисленные исследования стратифицированной атмосферы с помощью стационарных и импульсных источников в поляризованном и естественном свете. Однако несовершенства оптических источников излучения и приемников затрудняли широкую реализацию указанной идеи. Появление лазеров дало толчок к свершению подлинной технической революции в проблеме светового зондирования атмосферы и переориентировало нас на использование такого источника излучения.

Идея и преимущества лазерного зондирования рассеивающей среды. Сущность лазерного зондирования достаточно проста. С лазерной станции в атмосферу посылается короткий световой импульс. В разные моменты времени он засвечивает разные участки пространства порядка 3–10 м. Чем больше время, тем удаленнее засвечиваемый участок. Рассеянное назад к лазеру засвеченным участком излучение несет информацию об этом участке пространства. Временная развертка регистрируемого приемником сигнала несет информацию по всей трассе. Если просканировать лучом по разным углам, то сведения об атмосфере будут получены по большому пространству, которое будет увеличиваться, если лазерный прибор – лидар – находится на перемещающемся носителе (автомобиле, корабле, самолете, космическом аппарате).

Лазерное зондирование обладает большим количеством достоинств. К ним можно отнести:1) измерение оптических характеристик атмосферы, определяющих радиационный режим,

климат Земли и лежащего в основе оценки подавляющего количества компонент среды;2) измерение концентрации разных газов естественного и антропогенного происхождения

на уровне предельно допустимых концентраций (ПДК) и даже ниже;3) измерение концентрации, среднего размера, формы, степени полидисперсности частиц

аэрозоля, показателя преломления (а в ряде случаев – и химического состава);4) измерение направления и величины скорости ветра, плотности воздуха, давления, профиля

температуры, влажности в разных участках пространства;5) высокое пространственное (до нескольких метров) разрешение измеряемой компоненты;6) дальность действия порядка метеорологической дальности видимости (до 2–30 км) по все

му обозреваемому объему пространства;7) возможность непрерывного контроля;8) экспрессность;9) неконтактность (сведения о свойствах объема воздуха получаются на большом расстоянии

от него).Первые работы по нестационарному рассеянию света. В 1960-е гг. в Ин сти ту те физики

АН Беларуси нами задача ставилась шире: использовать короткий световой импульс не только для зондирования атмосферы, но и для решения других практических проблем. Это можно было сделать, зная закономерности распространения таких вспышек в рассеивающей среде, которые



Беларуси

99

в то время были практически неизвестны, поэтому начались теоретические и экспериментальные исследования в этом направлении.

Первые теоретические работы по нестационарному рассеянию света выполнены нами совместно с И. Л. Кацевым в 1966 г. [2–4]. Впоследствии теоретической группой под руководством Э. П. Зеге в течение нескольких десятилетий была создана прикладная теория переноса излучения [5, 6].

Указанная теория явилась основой решения важных научно-прикладных проблем, обеспечивая их компьютерное моделирование в квазиреальном времени (с выигрышем в расчетном времени в тысячи раз по сравнению с известными методами). Как самостоятельная тема изучено нестационарное поле излучения от пространственно ограниченных источников в рассеивающей среде и получены (в качестве примеров) следующие результаты для световых локаторов – лидаров.

1. Выяснены условия реализации однократного и многократного рассеяния в атмосфере при локации, позволяющие найти соответственно показатели ослабления и поглощения однородной среды.

2. Поскольку облака и водные среды сильно рассеивают свет в направлении «вперед», сформулировано (в отличие от общепринятого) малоугловое локационное уравнение сигнала обратного рассеяния, учитывающее многократное рассеяние вперед и однократное назад [7, 8].

3. Разработан метод определения среднего размера частиц аэрозоля путем использования разных апертур приемного устройства лидара.

4. Разработан метод определения доли несферических частиц аэрозоля путем использования поляризованного света.

5. В системах видения для улучшения качества предложена двойная «отсечка» зондирующего импульса

По многим техническим причинам экспериментальные исследования закономерностей нестационарного рассеяния предполагалось начинать не в атмосфере, а в водной среде. Кроме того, последняя более однородная и можно заранее измерить ее оптические параметры, определя-ющие рассеяние. Ими могут быть: показатель ослабления света e, равный сумме показателей рассеяния s и поглощения k; вероятность выживания фотона L = s/(s + k); индикатриса рассеяния элементарного объема среды x(g), где g – угол рассеяния. Можно выбрать и другие комбинации параметров, но их всегда будет только три. С этой точки зрения неважно, какие компоненты содержатся в любой среде, каковы природа и физические процессы, определяющие то или иное соотношение между рассеянием и поглощением. Если два совершенно разных по своему строению объекта обладают одинаковыми вышеуказанными параметрами, то у них и структура светового поля будет одинаковой. Более того, в теории переноса размеры среды и положение точки наблюдения определяются не размерными, а безразмерными характеристиками. Например, интенсивность света в точке, положение которой в пространстве определяется вектором r, зависит не от этого вектора, а безразмерного вектора er. При нестационарном рассеянии света процесс зависит также не от размерного времени t, а безразмерного t = eut, где u – скорость света в среде. Поэтому предполагалось, что в дальнейшем полученные результаты можно будет использовать применительно к атмосфере. Сотрудники нашего коллектива И. Д. Шербаф, А. Л. Скрелин, В. Д. Козлов, К. Г. Предко приступили к разработке техники для измерения первичных гидро-оптических характеристик и структуры светового поля, создаваемого лазерным импульсом в воде. Детальные эксперименты были проведены в 1966 г. [9] на озере Нарочь в Беларуси.

Первые работы по лазерному зондированию атмосферы. В 1968 г. на Звенигородской станции Института физики атмосферы АН СССР нами было проведено лазерное зондирование зарождающегося тумана и изучена его трансформация во времени [10]. Это первое лазерное зондирование атмосферы в СССР. (За рубежом оно осуществлено на рубиновом лазере в 1963 г. [11].) Экспериментальные исследования структуры океана и локации объектов в нем выполнялись в дальнейшем в ходе многих экспедиций, однако основные работы сосредоточились на исследовании атмосферы.

Чтобы изучать свойства атмосферы, нужно сформулировать уравнение, которое бы связало интенсивность принимаемого излучения с оптическими параметрами среды. Системы лазерного



Беларуси

100

зондирования могут быть совмещенными и несовмещенными. Для таких систем в самом общем случае было записано уравнение, которое содержит не только феноменологические оптические параметры среды (показатели ослабления и рассеяния назад), но и геометрический фактор, зависящий от оптико-геометрических характеристик лидара. На основе решения уравнения предложены и реализованы на практике [12] методы определения показателей: ослабления при совмещенной и несовмещенной схемах прибора в ближней зоне пространства; ослабления в дальней зоне пространства; ослабления методом «двух атмосфер»; ослабления в плоскопараллельной атмо-сфере; ослабления в любой атмосфере; обратного рассеяния в чистой и замутненной атмосфере.

Впервые методом многоволнового поляризационного лазерного зондирования был проведен длительный цикл исследований спектров оптических характеристик и микроструктуры аэрозоля (распределения частиц по размерам) в нижней атмосфере во многих географических регионах бывшего СССР (полярные и континентальные районы, районы пустынь, Камчатка и Ку риль-ские острова) и районах Мирового океана. Измерения осуществлялись с наземных лидарных станций, самолетов и кораблей. Исследована динамика вертикальных профилей параметров атмосферного аэрозоля. Построены региональные статистические модели оптических парамет-ров тропосферного аэрозоля. По сигналам обратного рассеяния сделаны оценки отношения сигнал/шум при решении локационных задач.

Дальнейшее развитие работ по лазерному зондированию. Со временем менялся научный состав лаборатории Института, совершенствовалась и появлялась новая техника, разрабатывались новые методики. В 1974 г. группу лазерного зондирования возглавил А. П. Чайковский. Широкий круг научных теоретических и экспериментальных задач рассматривал В. Н. Щерба-ков. Вопросами общей компоновки, сборки, юстировки лидарной техники, а также измерениями с ее использованием занимались И. С. Хутко, Ф. П. Осипенко, М. М. Король, Н. П. Воробей. Радиоэлектронную аппаратуру разрабатывал А. С. Слесарь, а программное обеспечение – С. В. Денисов. Конструкторская документация создавалась в разное время К. Н. Дятловым, Л. В. Николаевым, Е. В. Рыбальченко, Л. А. Бондарчиком. Большую помощь в создании лидаров оказало Центральное конструкторское бюро (ЦКБ) АН БССР. За все годы работы создано 22 лидара различного назначения для работы в лабораторных условиях и открытом воздухе, с автомобиля, борта корабля и самолета. С крыши Института физики осуществляется зондирование загрязнения г. Минска, из помещения – профиля концентрации аэрозоля и озона до высоты 40 км.

В основном лидары измеряют концентрацию аэрозоля, хотя некоторые из них – и газовых компонент. Особо отметим следующие.

«Глория – М» [13]. Это лидар на растворах красителей сложных молекул, созданный в начале 1980-х гг. «Накачкой» в нем являляется одновременное облучение рубиновым лазером шести разных растворов, в которых возникает генерация на шести частотах. Кроме того, в атмосферу запускается излучение на длине волны 532 нм (удвоенная частота Nd: YAG лазера). Таким обра-Nd: YAG лазера). Таким обра-: YAG лазера). Таким обра-YAG лазера). Таким обра- лазера). Таким образом, осуществляется одновременное освещение неустойчивой во времени среды излучением видимого диапазона на семи длинах волн, что позволяет с большой точностью восстанавливать распределение частиц аэрозоля по размерам. Такого многочастотного лидара пока нигде не создано.

Озоно�аэрозольный лидар [14]. Три излучателя лидарного комплекса формируют зондиру-ющее лазерное излучение на пяти длинах волн: 281,7; 308; 355; 532 и 1064 нм. Лидарные сигналы на длинах волн 281,7 и 308 нм используются для расчета профиля концентрации озона в нижнем слое тропосферы начиная с 0,1 км, а сигналы на длинах волн 308 и 355 нм – в стратосфере. Характеристики аэрозоля измеряются с использованием излучения с длинами волн 355, 532 и 1064 нм. Интервал высот 0,1–40 км.

Многоволновая лидарная система с рамановскими каналами [14]. Кардинальными задачами при ее создании были разработка многоволнового излучателя, многоканальной оптической приемной системы и фотоприемных модулей. Многоволновый излучатель посылает в атмосферу одно-временно три световых импульса по одной трассе зондирования на длинах волн 355, 532, 1064 нм. Многоканальная оптическая приемная система представляет собой семиканальный оптический анализатор, предназначенный для регистрации излучения на длинах волн 1064, 607, 532 (всего и деполяризованного сигнала), 407, 387, 355 нм. Фотоприемные модули включают фотоприемный



Беларуси

101

датчик (фотоумножитель или лавинный фотодиод), усилитель, аналого-цифровой преобразователь (для регистрации в аналоговом режиме) или дискриминатор/счетчик импульсов (для регистрации в режиме счета фотонов). По результатам экспериментов восстанавливаются профили показателя обратного рассеяния, показателя ослабления, степени деполяризации рассеянного аэрозолем света. По измерению комбинационного (рамановского) рассеяния на азоте на длине волны 387 или 607 нм и паров воды на длине волны 407 нм определяются профили концентрации азота и влажности.

Разработано много новых методов обработки лидарных сигналов. Остановимся только на одном из них. Это метод совместной обработки данных лидара и CIMEL [15]. В существующей мировой радиометрической сети AERONET [16] с помощью радиометра CIMEL по ослаблению солнечной радиации определяется спектральная аэрозольная оптическая толщина всей атмосферы. С помощью многоспектрального лидара определяется концентрация аэрозоля на всех высотах, что позволяет также рассчитать оптическую плотность. Нами предложен алгоритм совместной обработки данных. Он дает возможность найти при выбранной аэрозольной модели атмо-сферы и функции правдоподобия не только профиль общей концентрации, но и концентраций мелкой и крупной фракций.

Дистанционная идентификация типа аэрозоля позволяет проследить процесс распространения взвешенных частиц и определить источники выбросов. Как показали результаты натурных измерений, в большинстве случаев в атмосфере образуется неоднородное по высоте распределение аэрозолей различных типов: дымов, пыли, индустриального аэрозоля, капельных и кристаллических частиц в облачных образованиях. Признаки, по которым производится идентификация частиц аэрозоля, представлены в таблице. Как видим, только дым и индустриальный аэрозоль нельзя различить по рассеянному свету, поэтому необходимо привлекать дополнительную информацию.

Таблица. Признаки идентификации частиц аэрозоля

Тип аэрозоля Размер, мкм Форма Спектр обратного рассеяния пропорционален l–А

Деполяризация, %

Дым и индустриальный аэрозоль Меньше 1 Разная А ~ 1 1–5Пылевые частицы 1–20 Несферические А ~ – 0,4–0 8–20Частицы капельных облаков Много больше 1 Сферические А ~ 0 0Кристаллические облачные частицы Много больше 1 Разные типы кристаллов А ~ 0 20–40

Перейдем к рассмотрению некоторых примеров зондирования атмосферы.Контроль загрязнения промышленного и достаточно чистого регионов в Беларуси. По-

сред ством лидарной технологии были проведены исследования загрязнения пограничного слоя атмосферы в фоновых (относительно чистых) и промышленных регионах Беларуси. В качестве фонового региона был избран Березинский биосферный заповедник, в качестве промышленного – Солигорский комбинат калийных удобрений. В рамках комплексного экологического обследования Солигорского региона лидарным методом проведено исследование пылевого загрязнения воздуха в городе. Возможности измерения концентрация выбросов из производственных труб были реализованы с помощью следующей схемы. При наличии ветра распространение дымового шлейфа из трубы совпадало с направлением распространения ветра. Лидар, установленный на определенном расстоянии от трубы, осуществлял зондирование воздуха в вертикальной плоскости, которая располагалась перпендикулярно направлению ветра и была, относительно него, перед трубой и за ней. Разность количества рассчитанной по определенной методике взвеси в этих двух плоскостях соответствовала выбросу трубы в единицу времени.

Аэрозольное загрязнение г. Минска. Планом мероприятий Министерства природных ресурсов и охраны окружающей среды Республики Беларусь по организации наблюдений за содержанием взвешенных в воздухе частиц предусматривалось размещение в г. Минске локальных датчиков для измерения концентрации аэрозоля. С этой целью в течение нескольких лет нами с помощью панорамного лидара изучался характер распределения аэрозоля на территории города. Из анализа профилей концентрации аэрозольных частиц в тропосфере следует, что основная масса аэрозоля над городом сосредоточена в пограничном слое атмосферы с верхней границей



Беларуси

102

на уровне 3–4 км. Высота слоя имеет суточный и сезонный ход. Наблюдается повышение кон- 3–4 км. Высота слоя имеет суточный и сезонный ход. Наблюдается повышение кон- км. Высота слоя имеет суточный и сезонный ход. Наблюдается повышение концентрации аэрозоля в нижней атмосфере в дневное время и расширение слоя загрязнения в послеполуденный период. Эти особенности обусловлены усилением турбулентного перемешивания днем при нагреве подстилающей поверхности. Выяснено, что среднее по выборке измерений распределение объемов частиц имеет двухмодовую структуру с граничным диаметром между модами 1 мкм. Общее содержание малых (меньше 1 мкм) и крупных (больше 1 мкм) частиц, а также их концентрации в нижнем слое атмосферы являются слабо коррелированными. Средние по городу концентрации малых и больших частиц в приземном слое составили 20 и 22 мкг/м3 соответственно. Санитарные нормы устанавливают среднесуточную ПДК равную 150 мкг/м3. На основании построенных карт выяснены районы повышенной и пониженной загрязненности. Конкретные зоны превышения (понижения) концентраций больших и малых частиц не совпадают. Большей неоднородностью отличаются пространственные распределения крупных частиц.

Аэрозольное загрязнение стратосферы вулканом Пинатубо. Примером серьезных изменений в состоянии стратосферы вследствие природных катастроф являются крупные извержения вулканов. Так, в июне 1991 г. на Филиппинах произошло мощное извержение вулкана Пинатубо. Динамика высотного распределения параметра R(h), характеризующего концентрацию страто-сферного аэрозоля в течение нескольких лет, приведена на рис. 1. Через месяц после извержения над Минском были зафиксированы первые признаки замутнения стратосферы, которое стало быстро нарастать. В начальный период аэрозольный слой формировался на высоте порядка 15 км. Затем он распространился до высот 25–27 км. В конце 1991 г. и на протяжении всего 1992 г. его основная масса была сосредоточена в интервале высот 16–21 км. В это время количество аэро- 16–21 км. В это время количество аэро- км. В это время количество аэрозоля в стратосфере над территорией Беларуси было в 50–100 раз больше, чем в период спокойно- 50–100 раз больше, чем в период спокойно- раз больше, чем в период спокойного состояния. С февраля 1992 г. наблюдалось уменьшение величины и снижение положения мак- 1992 г. наблюдалось уменьшение величины и снижение положения мак- г. наблюдалось уменьшение величины и снижение положения максимума R(h). К 1995 г. содержание аэрозоля пришло к фоновому значению. Подобные карты рас- 1995 г. содержание аэрозоля пришло к фоновому значению. Подобные карты рас- г. содержание аэрозоля пришло к фоновому значению. Подобные карты распределения были получены не только для концентрации, но и для размеров и форм частиц. О размерах можно было судить по отношению показателей обратного рассеяния на длинах волн 1,06 и 0,53 мкм; о форме – по величине степени деполяризации отраженного слоем света (рост деполяризации указывает на то, что частицы перестают быть жидкокапельными, т. е. сферическими). В конце 1991 г. крупные частицы наблюдались на высотах более 20 км. Одновременно здесь же регистрировались несферические частицы. Совокупность данных факторов может объ-. Совокупность данных факторов может объ- Совокупность данных факторов может объясняться присутствием вулканического пепла в стратосфере. Однако уже через несколько месяцев несферические частицы исчезли, что связано с процессом седиментации крупных несфе-рических частиц. В дальнейшем происходила перестройка распределений частиц по размерам. Крупнодисперсная фракция сосредоточивалась в нижнем слое, и наблюдался процесс очищения стратосферы.

Рис. 1. Трансформация высотного распределения содержания аэрозоля (в условных единицах) в регионе Беларуси

после извержения вулкана Пинатубо



Беларуси

103

Контроль высотного распределения озона в атмосфере. Наряду с аэрозолем ученых при-влекает и исследование содержания озона в атмосфере. Это объясняется тем, что, с одной стороны, стратосферный озоновый слой является щитом, который оберегает все живое на Земле от губи-тельного коротковолнового излучения из космоса. С другой стороны, озон – это яд, по своим характеристикам сопоставимый с ядами группы цианидов. С этой точки зрения он классифици-руется как загрязняющее вещество, и повышение его концентрации в промышленной или жилой зонах опасны для человека в силу перечисленных аспектов, поэтому существует необходимость проведения всестороннего и детального мониторинга атмосферного озона. Лидарные станции занимают в системе такого мониторинга одну из ключевых позиций, что обусловлено их способ-ностью получать с высоким разрешением информацию о профилях высотного распределения озона и, следовательно, давать возможность выделять в изменениях общего содержания озона вклад стратосферного слоя, где определяющую роль играют факторы глобального масштаба. В настоя-щее время в разных точках земного шара работает много озоновых станций, оборудованных ли-дарными системами. В Беларуси в Институте физики озоновый лидар введен в действие в 1998 г. В настоящее время используется усовершенствованный озоно-аэрозольный лидар, описанный выше. Методика, алгоритм и программное обеспечение для расчета профилей концентрации озона основаны на измерении отношения вертикальных профилей обратного рассеяния в обла-сти поглощения озона и вне ее. Результаты исследования динамики профилей концентрации озо-на в виде пространственно-временной карты представлены на рис. 2. Характерным является формирование повышенных значений максимумов концентрации в весенний период и их умень-шение во втором полугодии. Такая сезонная трансформация озонового слоя обусловлена в пер-вую очередь процессами переноса озона из тропической зоны в средние широты. Интеграл кон-центрации О3 по высоте дает величину общего содержания озона в единицах Добсона. Эти зна-чения согласуются с данными, полученными в Национальном научно-исследовательском центре мониторинга озона в г. Минске и космическими измерениями с помощью датчика TOMS.

Мировые лидарные сети. Лидарная техника, которая эксплуатируется в разных точках зем-ного шара, будет использоваться более эффективно, если на основе измерений создать единый банк данных загрязнения атмосферы огромных территорий. Это возможно только тогда, когда разные лидарные станции объединены в единую сеть, где осуществлена интеркалибровка при-боров и методик и проводится мониторинг состояния атмосферы по общим для всех правилам. Первая попытка создания такой сети была предпринята еще в середине 1980-х гг. для осуществле-ния мониторинга по заданию Госкомгидромета СССР. В Институте физики и ЦКБ АН Беларуси была создана сеть стратосферных лидаров (контролирующих антропогенные и вулканические

Рис. 2. Временная трансформация высотных профилей концентрации озона за период 1999–2005 гг. (в ед.: 1012[cм–3])



Беларуси

104

загрязнения атмосферы, а также озоновые дыры), которые и теперь работают в разных странах СНГ, а также на Кубе и в Польше. Однако в более масштабных размерах в 2000 г. была образована Европейская лидарная сеть EARLINET [17], объединяющая в настоящее время 24 ведущих центра из 13 европейских стран. Одним из организаторов сети выступал Институт физики НАН Беларуси. Получив определенный организационный опыт, он проявил инициативу по со-зданию на территории бывшего СССР также (уже новой) лидарной сети CIS-LiNet [18], которая стала функционировать с 2006 г. в тесной связи с лидарными сетями Европы и Юго-Восточной Азии. Сеть включает 7 лидарных станций на пространстве от Минска до Владивостока. В ней унифицированы лидарное оборудование и программные пакеты для обработки данных. В процессе мониторинга исследуются пространственно-временные тренды и циклические изменения параметров тропосферного и стратосферного аэрозоля, а также стратосферного озона в различных геофизических регионах СНГ. Описанные выше Многоволновая лидарная система с рамановскими каналами и метод совместной обработки данных лидара и CIMEL являются рекомендуемыми в сетях EARLINET и CIS-LiNet. В настоящее время организована Мировая лидарная сеть GALION.

Наличие лидарных сетей принципиально расширяет круг решаемых проблем, связанных с ис-следованиями крупномасштабной изменчивости атмосферных компонентов и их переноса по земному шару. Это статистические методы анализа данных наблюдений совместно с результатами моделирования переноса воздушных масс, которые позволяют строить карты пространственного распределения источников выбросов, оценивать аномальные загрязнения атмосферы и их причины. Приведем несколько примеров.

Контроль пылевых бурь из Африки. В большинстве случаев возмущения параметров аэрозоля в средней и верхней тропосфере вызваны выносами пыли из пустыни Сахара. Это явление носит повторяющийся характер, и его последствия обнаруживаются во всем Европейском регионе. Из рассмотрения данных лидарной сети EARLINET следует, что обогащенные пылью в се-EARLINET следует, что обогащенные пылью в се- следует, что обогащенные пылью в северных районах Африки воздушные массы обычно проникают на территорию Беларуси через Средиземноморье, Южную, Западную и далее – Восточную Европу. Реализуется также перенос пыли через районы Ближнего Востока и Украину. В Средиземноморском регионе пыль концентрируется на высотах порядка 1–3 км. В процессе распространения на Восточно евро пейский ре- порядка 1–3 км. В процессе распространения на Восточно евро пейский ре- км. В процессе распространения на Восточно евро пейский регион пылевой слой поднимается до уровня тропопаузы и сосредоточивается на высотах 6–10 км. Оптическая толщинаа пылевого слоя составляет 0,2–0,5, в отдельных случаях наблюдаются оп- 0,2–0,5, в отдельных случаях наблюдаются оп- в отдельных случаях наблюдаются оптически толстые слои до 1,0. Отличительным признаком существования пылевого слоя является деполяризация лидарного сигнала в диапазоне 0,08–0,15, возникающая вследствие неоднород- 0,08–0,15, возникающая вследствие неоднород- возникающая вследствие неоднородности частиц такого аэрозоля.

Рис. 3. Трансформация высотного профиля концентрации пыли (до 14 км) в условных единицах в результате инжекции сахарской пыли (30.08.2001 г. с 20.00 до 22.00)



Беларуси

105

Наблюдаемые явления иллюстрирует рис. 3. Согласно данным Германской службы погоды, 3 августа 2001 г. на высоте 5–10 км над г. Минском проходили воздушные потоки, зародившиеся 3 дня тому назад над пустыней Сахара и поднявшие там пыль. Лидарное зондирование показало, что на этих высотах действительно наблюдаются пылевые облака. Это подтверждают и поляризационные исследования: степень деполяризации света, отраженного с указанных высот, резко возрастает вследствие того, что частицы имеют сложную структуру.

Контроль за распространением дымов пожаров. В летний сезон в регионе Беларуси одним из основных источников загрязнения атмосферы являются лесные и торфяные пожары как в самой республике, так и в западных районах России и в Украине. Наиболее сильное дымовое загрязнение в г. Минске наблюдалось в сентябре 2002 г. (рис. 4). Как видим, в начале месяца мутность воздуха нарастала, достигла максимума 10 сентября, а в последующие два дня воздух стал очень чистым. Лидарные измерения показали, что смог поднимался до высоты 1–1,5 км. В эти дни данные радиометра CIMEL свидетельствовали о наличии большого количества мелкодис-персной непоглощающей аэрозольной фракции. Это говорило о том, что основным источником загрязнения были пожары в стадии тления. Рассчитанные траектории переноса воздушных масс показывали, что основные источники загрязнения для Минска находились на территории рес-пуб лики. 11 сентября потоки воздуха из Арктики достигли Беларуси, опустились с больших высот в приземные слои и вытеснили смог.

В 2006–2007 гг. при участии научных групп из Польши, Франции, Норвегии, России и других стран нами были изучены не только распространения дымов пожаров на большие расстояния, но и трансформации взвешенных частиц при их переносе с использованием космических, лидарных, радиометрических и модельных методов. При распространении дымов из зоны Укра-и ны к Шпицбергену наблюдалась следующая картина. Функция распределения частиц по размерам имела 3-модальный вид. Средний радиус частиц мелкодисперсной фракции (мода 1) слабо уменьшался в процессе распространения от Минска в полярную зону Шпицбергена. Самая крупная мода там отсутствовала. Крупнодисперсная фракция формировалась в нижнем слое атмосферы. Изменения мелкодисперсной и крупнодисперсных мод не коррелировали. Увели-чился параметр, характеризующий поглощательную способность аэрозоля, что связано с уменьшением содержания сажи в частицах. Представленные данные могут быть объяснены процессом седиментации крупнодисперсной фракции, содержащей сажу, в процессе распространения взвешенных частиц.

Загрязнения, обусловленные антропогенной деятельностью. Остановимся на влиянии производственной деятельности человека в окружающих нас регионах на примере переноса на территорию Беларуси. Исследование воздействия крупномасштабного переноса на характеристики аэрозоля в Европейском регионе было проведено на основе результатов измерений в Европейской лидарной сети EARLINET. Для изучения высотной трансформации параметров аэрозоля были отобраны данные лидарных наблюдений в сети EARLINET на следующих станциях.

Aberystwys (52N, 4W) – крайняя северо-западная станция сети EARLINET на побережье Англии. При западном переносе для нее характерна минимальная степень наличия техногенных

Рис. 4. Аэрозольная оптическая толщина атмосферы в первой половине сентября 2002 г. на длине волны 440 нм



Беларуси

106

воздействий. Результаты измерений станции рассматриваются как фоновые – реперные для сравнения с данными измерений в других регионах.

Palaiseau (49N, 2E) – станция, которая находится в юго-западном направлении от Парижа. При западном переносе она предшествует первому индустриальному Парижскому региону.

Belsk (51N, 20E) – станция, расположенная южнее Варшавы в лесной зоне, без источников индустриальных выбросов в окрестной зоне.

Minsk (53N, 27E) – станция Института физики имени Б. И. Степанова НАН Беларуси. На рис. 5 приведены результаты обработки наблюдений в летний период при выраженном за

падном переносе, охватывающем Европейский регион [19]. Наблюдается рост параметров мутности атмосферы при переходе от западных регионов к восточным, лишь в Беларуси замутненность несколько уменьшается. Минимальная аэрозольная нагрузка на всех высотах реализуется в районе реперной станции Aberystwys. В районе станции Palaiseau в слое до 2 км содержание аэрозоля несколько возрастает. Аэрозольная нагрузка и оптическая аэрозольная толщина атмо-сферных масс после пересечения пространства Европы в Бельске и Минске существенно увеличивается (до пяти раз).

Особенностью изучения аэрозольного загрязнения атмосферы в последнее десятилетие является комплексность используемых средств и методики комплексной обработки данных дистанционных и локальных измерений. Дистанционные измерения включают в себя не только лазерное зондирование, но и радиометрическое и аэрокосмическое. Идея радиометрического зондирования основана на спектральном измерении прямого и рассеянного под разными углами солнечного излучения, позволяющем определять прозрачность атмосферы и среднее по ее толще содержание компонент среды. Идея аэрокосмического зондирования базируется на измерении теплового излучения атмосферы, подстилающей поверхности или рассеянного ими солнечного света с борта самолета или спутника. Локальные измерения содержатся в сети EMEP, Березинском биосферном заповеднике, для регионов Польши доступны в сети Интернет в оперативном режиме. Процедура наблюдений предусматривает также систематический анализ прогностических моделей переноса частиц NAAPS, DREAM, UOA с целью оценки вероятности возникновения эпизода выноса аэрозольного загрязнения в регион Беларуси. Такой подход обеспечивает систематический многолетний мониторинг загрязнения атмосферы, позволяет определять состав аэрозольных компонент, их пространственно-временную изменчивость, находить источники выбросов.

Информация о пространственных распределениях параметров атмосферных компонентов составляет основную ценность результатов космических измерений. Космические лидары в силу очевидных технических ограничений не могут достигнуть такого качества данных, которая доступна на стационарных лидарных станциях. Поэтому наземные лидарные станции призваны обеспечить валидацию результатов космических лидаров. Начиная с 2006 г., когда был запущен спутник CALIPSO, осуществляется международный эксперимент по валидации данных спутни

Рис. 5. Средние вертикальные профили показателя обратного рассеяния летом при западном переносе через пространство Европы на станциях: Aberystwys, Palaiseau, Belsk, Minsk (вверху указаны оптическая аэрозольная толщина (OD) и число измерительных дней)



Беларуси

ковых измерений и сопоставления их с результатами наземного зондирования на станциях лидарной сети EARLINET (в том числе и в Институте физики). На основании статистического анализа результатов совместных наземных и космических лидарных измерений были сделаны оценки разностей сигналов обратного рассеяния. Результирующее распределение относительных разностей (CALIPSO-EARLINET)/EARLINET (%) характеризуется следующими параметрами: среднее отклонение (относительное) составляет 4,6 %, относительное стандартное отклонение – 50 %, медиана – 0,6 % (http://wwwcalipso.larc.nasa.gov/products/).

Следует отметить, что помимо работ, выполненных указанным ранее коллективом, научная группа Института физики в составе В. В. Чуракова, В. О. Петухова, В. А. Горобца занималась исследованием возможности использования ИК-лазеров для зондирования газового состава атмосферы. С этой целью был разработан и создан комплекс аппаратуры на основе мощного ТЕА СО2-лазера с широкой перестройкой по спектру (9,0–11,4 и 4,5–5,7 мкм) и СО2(СО)-лазеров низкого давления с продольным разрядом (в том числе и многоволновых), которые использовались в составе лидаров в Томске и Минске. Предложены методики измерения концентрации двуокиси серы, закиси азота, окиси углерода, паров воды и т. д., а также обнаружения мест утечек природного газа из трубопроводов путем контроля содержания этана в атмосфере. По ряду организационных причин эти наработки не получили дальнейшего практического развития.

Независимо от Института физики имени Б. И. Степанова НАН Беларуси лазерное зондирова-имени Б. И. Степанова НАН Беларуси лазерное зондирова-НАН Беларуси лазерное зондирование атмосферы осуществлялось в Институте прикладных физических проблем имени А. Н. Сев-ченко в 1970–1980-х гг., где были проведены эпизодические измерения загрязнения Минска, Москвы, Ленинграда. В дальнейшем экспериментальные исследования там прекратились.

Литература1. Кузнецов В. В. / Изв. РАН. Сер. 5. 1905. Т. 28, № 4/5. С. 289–298.2. Кацев И. Л., Иванов А. П. // ЖПС. 1967. Т. 7, вып. 5. С. 714–721. 3. Кацев И. Л., Иванов А. П. // Оптика и спектроскопия. 1968. Т. 24, вып. 6. С. 983–988.4. Иванов А. П., Кацев И. Л. // Изв. АН СССР. Сер. физика атмосферы и океана. 1967. Т. 3, № 7. С. 714–723.5. Зеге Э. П., Иванов А. П., Кацев И. Л. Перенос изображения в рассеивающей среде. Минск, 1985. 6. Zege E. P., Ivanov A. P., Katsev I. L. Image Transfer Through a Scattering Medium. Springer-Verlag, 1991. P. 349.7. Zege E. P., Katsev I. L., Polonsky I. N. // Appl. Phys. B. 1995. Vol. 60. P. 345–353.8. Зеге Э. П., Кацев И. Л., Полонский И. Н. // Изв. АН СССР. Сер. физика атмосферы и океана. 1998. Т. 34, № 1. С. 45–50.9. Иванов А. П., Калинин И. И., Козлов В. Д. и др. // Изв. АН СССР. Сер. физика атмосферы и океана. 1969. Т. 5, № 2.

С. 212–215.10. Скрелин А. Л., Иванов А. П., Калинин И. И. // Изв. АН СССР. Сер. физика атмосферы и океана. 1969. Т. 6, №. 9.

С. 989–899.11. Fiocco L., Smullin Z. D. // Nature. 1963. Vol. 199, N. 4900. P. 1275–1276.12. Иванов А. П. Методы лазерного зондирования атмосферы // Квантовая электроника и лазерная спектроско

пия. М., 1974. С. 381–407.13. Ганнушкина Л. Д., Гитлин Е. М., Иванов А. П. и др. // ЖПС. 1984. Т. 40, вып. 4. С. 690–695.14. Иванов А. П., Чайковский А. П., Орлович В. А. и др. // Тр. III Всеукр. съезда экологов с междунар. участием.

Украина, Винница, 21–24 сент. 2011. Винница, 2011. Т. 2. С. 365–368.15. Chaikovsky A.,. Dubovik O., Holben B. N. et al. // Optica Pura y Aplicada. 2004. Vol. 37, N 3. P. 3241–3246.16. Holben B. N., Eck T. I., Slutsker I. et al. // Remote Sens. Environ. 1998. Vol. 66. P. 1–16.17. Bosenberg J., Ansmann., Baldasano J. et al. // Advances in Laser Remote sensing: Selected papers 20-th International

Laser Radar Conference (ILRC). Vichi. France, 10–14 Jule 2000. [S. l.], 2000. P. 155–158.18. Чайковский А. П., Иванов А. П., Балин Ю. С. и др. // Оптика атмосферы и океана. 2005. Т. 18, № 12. C. 1066–1072.19. EARLINET: A European Aerosol Research Lidar Network to Establish an Aerosol Climatology. Report No. 348 /

Bösenberg J., Matthias V. Hamburg: Max-Planck-Institut für Meteorologie, 2003.

А. P. IVANOV

LASER SENSING OF THE ATMOSPHERE OF BELARUS: HISTORICAL SKETCH

Summary

The history of laser sensing in Belarus is given. Examples of lidar developments of various designations and their ap-plications are considered. The role of the Institute of Physics, National Academy of Sciences of Belarus in the creation of the European and former Soviet-Union lidar networks is emphasized.



Беларуси

108


УДК 539.12

А. Ю. МАНЬКО, И. С. САЦУНКЕВИЧ, Р. Г. ШУЛЯКОВСКИЙ

МОНТЕ-КАРЛО ГЕНЕРАТОР HEPComp ДЛЯ ДВУХФОТОННОГО РОЖДЕНИЯ ЛЕПТОННЫХ ПАР В АДРОННЫХ СТОЛКНОВЕНИЯХ

Институт физики имени Б. И. Степанова НАН Беларуси


Введение. В работе использован созданный на языке C++ Монте-Карло генератор HEPComp для рассмотрения процесса двухфотонного рождения лептонных пар в адронных столкновени-ях [1–6]. Его можно также использовать для описания процесса рождения суперсимметричных скалярных лептонных (слептонных) пар. Необходимость создания таких генераторов событий объясняется тем, что двухфотонный механизм рождения лептонов можно использовать для альтернативной калибровки светимости коллайдера, поиска эффектов «новой физики» и для изучения лептонов. Такой механизм рождения можно исследовать на ускорителях с высокой точностью из-за малости фоновых процессов [7–9]. Процессы с двухфотонным механизмом рождения пары имеют полное сечение порядка 4a ( 1 /137a ≈ – постоянная тонкой структуры), тогда как «однофотонный механизм» (процесс Дрелла – Яна) приводит к 2s a . Однако при высоких энергиях ( 1s ГэВ) соответствующее сечение процесса Дрелла – Яна уменьшается как 1/ s, в то время как двухфотонный механизм приводит к большому логарифмическому росту. Таким образом, двухфотонный механизм может считаться основным каналом рождения лептонных пар при энергиях БАК в определенных кинематических областях.

Кинематика процесса. Процесс рождения лептонных пар в адронных столкновениях с помощью двухфотонного механизма (рис. 1) изучается в данной работе в упругом канале в приближении Вайцзеккера – Вильямса [10–12]. В этом случае начальные адроны не разрушаются. Исследуются случаи протон-протонных и протон-антипротонных столкновений с рождением электрон-позитронных и мюон-антимюонных пар.

В данной работе используется следующая параметризация для 4-импульсов виртуальных фотонов и лептонов конечного состояния [13–14]:

1 1 1, 0, 0,

2 2S Sp x x

=

; (1)

Рис. 1. Диаграммы исследуемых процессов: P1, P2 (P′1, P′2) – 4-импульсы начальных (конечных) адронов; p1 и p2 – 4-импульсы виртуальных фотонов; k1 и k2 – 4-импульсы лептонной пары



Беларуси

109

2 2 2, 0, 0,2 2S Sp x x

= −

; (2)

( )2 21 1 11 1 1 1 1 1 1, sin cos , sin sin , cosk k m k k k= + q j q j q

; (3)

( )2 22 2 22 2 2 2 2 2 2, sin cos , sin sin , cosk k m k k k= + q j q j q

. (4)

Здесь 21 2( )S P P= + ; 1x и 2x – доли импульсов начальных адронов, уносимые виртуальными фо

тонами; 1q , 2q ( 1j , 2j ) – полярные (азимутальные) углы векторов трехмерных импульсов конечных лептонов. В вычислениях мы полагаем, что направления векторов виртуальных фотонов и соответствующих начальных адронов совпадают. Это оправдано для больших энергий и лобовых столкновений адронов, что практически выполняется для экспериментов на ускорителях LHC и Тэватрон. Для моделирования полных и дифференциальных сечений используются следу- и Тэватрон. Для моделирования полных и дифференциальных сечений используются следующие инварианты: 2 2

1 2 0p p= = , 2 2 21 2k k m= = , 2

1 2 1 2p p k k m⋅ = ⋅ + , 1 2 2 1p k p k⋅ = ⋅ , 2 2 1 1p k p k⋅ = ⋅ , 2

1 2 2 1 1 1k k p k m p k⋅ = ⋅ − + ⋅ , где m – масса лептона (электрона или мюона). Фотон-лептонный подпроцесс. Полные сечения подпроцессов e e+ −gg → и + −gg → m m имеют

вид 2( ) /ll s I Fs = , где ( ,0,0)F s= l определяет поток начальных частиц, 22 1

1( )2

I s d k Ms

= W∫

,

1 2 211 2 2 ( , , )k k k s s m m−= = = l

, l – кинематическая функция, 1 1 1cosd d dW = q j , 2 21 2 1 2 1 2( ) ( )s k k p p x x S= + = + =

2 21 2 1 2 1 2( ) ( )s k k p p x x S= + = + = – квадрат инвариантной массы лептон-антилептонной пары, M – матрич

ный элемент подпроцесса. Квадрат модуля матричного элемента был получен стандартным способом с помощью пакетов FeynCalc8.0.3 и FeynArts3.4 для программы Mathematica:

4 4 2 4 2 4 2 22 1 1 1 2 1 1 1 2 1 1 1 2

2 21 1 1 2 1 1 1 21 1 1 2

2 ( ) 2 ( ) 2 (( ) ( ) )( )( ) ( )( )( ) ( )

e m k p k p e m k p k p e k p k pMk p k p k p k pk p k p

⋅ + ⋅ ⋅ + ⋅ ⋅ + ⋅= − + +

⋅ ⋅ ⋅ ⋅⋅ ⋅. (5)

Полные и дифференциальные сечения лептонных пар в адронных столкновениях. Распре-деление плотности фотонов в приближении Вайцзеккера – Вильямса задается выражением [12]

2 2max min

2 20 0

1( ) 1a q qxx x q q

g = − j − j π , (6)

функция j имеет вид:

( )

3 31

31 1

1 (1 ) 1( ) 1 ln(1 ) 1 ln4 1(1 ) 4 (1 ) (1 )

k

k kk k

b y y b bay ck x k

−

= =

− + x − j x = + − + x − + + + + x+ x + x + x ∑ ∑ , (7)

где 7,16a = , 3,96b = − , 0,028c = , 20 0,71q = ГэВ2, 2

maxq s= , 2 2

2min 1

pm xq

x=

−,

2

1xy

x=

−, mp – масса адрона.

Полное сечение процесса (см. рис. 1) дается формулой:

1max 2max2min1min

1

2 1 2 1 2( ) ( ) ( ) ( )x xllxx

x

S dx dx x x ss = g g s∫ ∫ , (8)

где 1max 2 max 1x x= = , 21min 2 min 4 /px x m S= = .

Ограничения. В работе для построения полных и дифференциальных сечений рассматриваемых процессов для Тэватрона и БАК на минимальные значения поперечной энергии minTE и импульса minTk , максимальное значение модуля псевдобыстроты maxh конечных лептонов, а также на минимальное значение инвариантной массы лептон-антилептонной пары llm ( 2

llm = s2) накладываются ограничения. Их численные значения приведены в табл. 1.



Беларуси

110

Таблица 1. Ограничения для ускорителей Тэватрон и БАК

Ускоритель ETmin, ГэВ |ηmax| mll, ГэВ kTmin, ГэВ

Тэватрон (pp ppe e+ −→ ) 5,0 2,0 – –

БАК (pp ppe e+ −→ ) 5,0 2,5 11,5 –

БАК (pp pp + −→ m m ) – 2,5 11,5 4,0

Результаты вычисления сечений методом Монте-Карло. Полные сечения для укорительных комплексов Тэватрон и БАК моделировались методом Монте-Карло [15–16] на генераторе HEPComp, написанном на языке программирования C++. Результаты моделирования полного сечения с учетом ограничений для данных ускорительных комплексов представлены в табл. 2. Из нее следует, что созданный Монте-Карло генератор HEPComp для полного сечения рождения лептонной пары хорошо работает для описания процессов в pp-процессе на Тэватроне и позволяет считать, что полные сечения pp-процесса на БАК оценены также достоверно. Они примерно в 3 раза превышают сечение, полученное для Тэватрона.

Таблица 2. Полные сечения для ускорителей Тэватрон и БАК

Ускоритель GeVs , ГэВ s(pp → ppe+e–), pb s(pp → ppm+m–), pb sexp(pp → ppe+e–), pb

Тэватрон 1,96 1,614 ± 0,008 – 0,50,31,6 0,3+

− ±БАК 7,0 4,643 ± 0,065 5,56 ± 0,07 –БАК 8,0 5,05 ± 0,08 5,9 ± 0,1 –БАК 14,0 6,33 ± 0,17 6,97 ± 0,21 –

Дифференциальные сечения процессов (см. рис. 1) в зависимости от инвариантной массы пары лептонов, поперечного импульса лептона и псевдобыстроты лептона для соответствующих энергий были рассчитаны численно и представлены на графиках (рис. 2–8). Все дифференциальные сечения правильно выявляют ожидаемое поведение для двухфотонного механизма, обнаруженное в предыдущих работах (напр., [7–9]).

а бРис. 2. Дифференциальное сечение в зависимости от инвариантной массы

электрон-позитронной пары (а) и поперечного импульса электрона (б) для Тэватрона

Рис. 3. Дифференциальное сечение в зависимости от псевдобыстроты электрона для Тэватрона



Беларуси

111

а бРис. 4. Дифференциальное сечение в зависимости от инвариантной массы электрон-позитронной пары (а) и поперечного импульса электрона (б) для БАК (здесь и далее: верхняя линия – при 14 ТэВ, средняя – при 8 ТэВ, нижняя – при 7 ТэВ)

а бРис. 5. Дифференциальное сечение в зависимости от инвариантной массы мюон-антимюонной пары (а) и поперечного импульса мюона (б) для БАК

а бРис. 6. Дифференциальное сечение в зависимости от псевдобыстроты

электрона (а) и мюона (б) для БАК при энергии сталкивающихся протонов 7 ТэВ

а бРис. 7. Дифференциальное сечение в зависимости от псевдобыстроты электрона (а) и мюона (б) для БАК при энер

гии сталкивающихся протонов 8 ТэВ



Беларуси

Заключение. В работе использован созданный на языке C++ Монте-Карло генератор HEPComp для рассмотрения процесса двухфотонного рождения лептонных пар в адронных столкновениях. Получены полные и дифференциальные сечения для двухфотонного рождения лептонных пар для энергий Теватрона; результаты хорошо согласуются с экспериментальными данными. Предсказаны полные и дифференциальные сечения для соответствующих процессов на БАК; экспериментальные данные в настоящее время отсутствуют.

Генератор HEPComp можно использовать для оценки рождения новых лептонов самого раз-HEPComp можно использовать для оценки рождения новых лептонов самого раз- можно использовать для оценки рождения новых лептонов самого разного происхождения. С небольшими модификациями его также можно применить для изучения рождения лептонных пар через двухфотонный механизм на будущем лептонном ускорителе ILC, а также можно использовать для создания Монте-Карло генератора для двухфотонного рождения суперсимметричных слептонных пар.


1. Буднев В. М. // Письма в ЖЭТФ. 1970. Т. 12. С. 249–351.2. Буднев В. М. и др. // ЭЧАЯ. 1973. Т. 4, № 1. С. 239–283.3. Балакин В. Е., Буднев В. М., Гинзбург И. Ф. // Письма в ЖЭТФ. 1970. Т. 11. С. 559–562.4. Pisano C. // Hepph:0512306.5. Биленький С. М. // Введение в диаграммы Фейнмана и физику электрослабого взаимодействия. М., 1990. C. 327.6. Сацункевич И. С., Хилькевич А. Я., Шелковый Д. В. // Весцi НАН Беларусi. Сер. фiз.-мат. навук. 2012. № 2. С. 61–66.7. Aaltonen T. // Hep-ex:0902.1271v1.8. Abulencia A. // Hep-ex:0611040v2.9. Chatrchyan S. // Hep-ex:1111.5536v1.10. Weizsäcker C. F. // Z. Phys. 1934. Vol.88. P. 612–625.11. Williams E. J. // Phys. Rev. 1934. Vol.45. P. 729–730.12. Budnev V. M., Ginsburg I. F., Meledin G. V., Serbo V. G. // Phys. Rep. 1975. N 15. P. 181–282.13. Хелзен Ф., Мартин А. // Кварки и лептоны. Введение в физику частиц. М., 1987. С. 456.14. Боголюбов Н. Н., Ширков Д. В. // Введение в теорию квантованных полей. М., 1973.15. Буклинг К., Каянти К. // Кинематика элементарных частиц. М., 1975. С. 343.16. Weinzierl S. // Hepph:0006229v1.

A. U. MANKO, I. S. SATSUNKEVICH, R. G. SHULYAKOVSKY

HEPComp MONTE CARLO GENERATOR FOR TWO-PHOTON PRODUCTION OF LEPTON PAIRS AT HADRON COLLISIONS

Summary

The processes of lepton pair production by means of the two-photon mechanism in hadron collisions at LHC and Tevatron energies are considered. These processes could be used for luminosity calibration of LHC and for a «new physics» search at the collider, in particular, heavy leptons. Constructing the needed Monte Carlo generator we have obtained total and dif-ferential cross sections of the above mentioned processes for elastic hadron scattering in natural approximation.

а б

Рис. 8. Дифференциальное сечение в зависимости от псевдобыстроты электрона (а) и мюона (б) для БАК при энергии сталкивающихся протонов 14 ТэВ



Беларуси

113


ІНФАРМАТЫКА

УДК 513+681.3

В. Г. НАЙДЕНКО

OC-ВЫПУКЛАЯ АППРОКСИМАЦИЯ ЧАСТИЧНО ВЫПУКЛЫХ ОБОЛОЧЕК

Институт математики НАН Беларуси


Теория частичной выпуклости – сравнительно новое и перспективное направление в гео-метрии, которое находит все большее применение в решении различных прикладных проблем, таких как задачи синтеза сверхбольших интегральных схем (СБИС), обработки изображений, проектирования баз данных и др. [1]. Настоящая статья посвящена проблеме нахождения частично выпуклых оболочек объединений многогранников.

Дадим необходимые определения. Пусть в n-мерном линейном пространстве Rn задано множество единичных векторов 1nO S −⊆ (направлений), где 1nS − – единичная сфера. Мы предпо-лагаем симметричность множества O, или = ,O O− что не является ограничением в контексте частичной выпуклости. Напомним, что множество nX R⊆ называется частично выпуклым (O-вы пуклым), если пересечение X с произвольной прямой с направляющим вектором из O связно или пусто. Такие прямые назовем O-прямыми. Примеры частично выпуклых множеств на плоскости можно проиллюстрировать рис. 1.

Несвязное множество (см. рис. 1, г) показывает, насколько существенно могут отличаться частично выпуклые множества от выпуклых множеств, которые, как известно, всегда связны.

По аналогии с обычной выпуклостью [2], флаговым полупространством (или семипространством) O

xS частичной выпуклости в точке nx R∈ называется максимальное по включению частично выпуклое множество, не содержащее .x Флаговые полупространства частичной выпуклости вида = \ ( )O n

xS R x C+ называются флаговыми C-полупространствами, где C – острый выпук-лый конус. В работе [3] был выделен один специальный класс семипространств частичной выпуклости, так называемые C-семипространства. В [4] была введена обобщенная выпуклость, называемая OC-выпуклостью, где OC-выпуклые множества представляют собой пересечения C-семипространств. OC-выпуклость является специальным случаем частичной выпуклости.

Напомним определение OC-выпуклости. Семейство подмножеств OC из Rn образует OC-вы-пуклость, если OC содержит только следующие множества: 1) Rn; 2) все C-семипространства O-выпуклости; 3) всевозможные пересечения между собой C-семипространств O-выпуклости.

а б в г дРис. 1. Примеры частично выпуклых и невыпуклых множеств в R2: a – множество направлений частичной выпуклости, в данном случае оно представляет собой множество ортов, такая частичная выпуклость называется орто-выпуклостью; б – выпуклое множество, которое одновременно является частично выпуклым множеством; в – связное частично выпуклое множество; г – несвязное частично выпуклое множество; д – множество, не являющееся частично

выпуклым (пересечение с вертикальной прямой несвязно)



Беларуси

114

Пара ( , )nR OC с точки зрения аксиоматической теории выпуклости [5] называется пространством OC-выпуклости, а элементы семейства OC – OC-выпуклыми множествами. OC-выпук-лость можно считать частным случаем O-выпуклости, так как все OC-выпуклые множества являются O-выпуклыми. Очевидно, что обратное не верно. Однако OC-выпуклость позволяет эффективно строить аппроксимации частично выпуклых оболочек. Семипространство OC-вы-пук ло сти в произвольной точке nx R∈ будем для краткости называть OC-семипространством .oc

xSМножество M O⊂ назовем половинным для O, если =M M O∪ − и = .M M∩ − ∅ Половинные

множества позволяют охарактеризовать OC-семипространства следующим образом.1. Пусть M O⊂ – половинное множество. Если [ ]CH M – острый конус, то \ ( [ ] )nR CH M x+ –

OC-семипространство в произвольной точке ..nx R∈2. Для любого OC-семипространства = \ ( )oc n

xS R C x+ существует половинное для O множество M C⊆ такое, что \ ( [ ] ) = .n oc

xR CH M x S+Для иллюстрации приведем в пространстве R2 пример OC-семипространства (показанное

штриховкой на рис. 2) в начале координат 0 для случая орто-выпуклости.Легко видеть, что для приведенного на рис. 2 OC-семи-

пространства 2 \R C максимальный острый выпуклый конус C представляет собой верхний правый квадрант. Аналогично в начале координат 0 можно построить другие три OC-семи-пространства типа 2 \ ,R C где C может быть правым нижним, левым нижним или левым верхним квадрантом. OC-се-ми пространство 2 \ ( )R C x+ в любой другой точке 2 ,x R∈ от личной от начала координат 0, может быть получено параллельным переносом OC-семипространства 2 \R C из начала координат 0 в точку .x Все построенные таким образом OC-семипространства и их всевозможные пересечения друг с другом образуют семейство множеств OC. В этом случае множество 2X R⊆ называется OC-выпуклым тогда и только тогда, когда X OC∈ или Х = R2.

Перейдем теперь к проблеме нахождения частично-выпуклых оболочек.Определение частично-выпуклой оболочки аналогично ее классическому варианту. Для про

извольного nX R⊆ частично-выпуклая оболочка (O-оболочка) conv [ ]o X есть пересечение всех частично-выпуклых множеств, содержащих Х. Возникает следующая проблема: как для произвольно заданной точки na R∈ определить, принадлежит ли она conv [ ].o X Отметим, что в отличие от подобной проблемы нахождения выпуклой оболочки данная задача представляется весьма сложной. До настоящего времени известны только алгоритмы построения частично-выпук-лых оболочек для полигонов (т. е. объединений двумерных многогранников) на плоскости [1]. Даже для трехмерного пространства пока не найдено никакого алгоритма решения указанной

проблемы. Однако, используя описанный выше класс OC-выпук-лых множеств, мы приближенно решаем этот вопрос.

Аналогично частично-выпуклой оболочке conv [ ]o X мы можем определить OC-выпуклую оболочку conv [ ]oc X как пересечение всех OC-выпуклых множеств, содержащих множество Х. Так как любое OC-выпуклое множество по определению является частично выпуклым, то conv [ ]oc X представляет собой внешнюю аппроксимацию conv [ ],o X т. е. conv [ ] conv [ ].o ocX X⊆ Имея в своем распоряжении алгоритм построения OC-выпуклой оболочки conv [ ],oc X мы можем приближенно определить частично выпук-лую оболочку conv [ ].o X Легко показать, что OC-выпуклая оболочка conv [ ]oc X может не совпадать с частично выпуклой оболочкой conv [ ]o X уже для множества X, содержащего всего четыре

Рис. 2. Пример OC-семипространства в R2

Рис. 3. Орто-выпуклое множество = { , , , }� A B C D в R2



Беларуси

115

точки. На рис. 3 показано орто-выпуклое множество Х, состоящее из четырех точек , , , .A B C D Поскольку Х орто-выпукло, то его частично выпуклая оболочка conv [ ]o X совпадает с Х.

Представленная на рис. 4 OC-выпуклая оболочка conv [ ]oc X множества = { , , , }� A B C D содержит не только исходные точки

, , , ,A B C D но и отрезки , , ,AE BF CG DH вместе с заштрихованным квадратом .EFGH Следовательно, в этом примере OC-выпуклая оболочка conv [ ]oc X не совпадает с частично вы пук лой оболочкой conv [ ].o X

Перейдем теперь к алгоритму построения OC-выпуклой оболочки conv [ ],oc A где множество 1= kA P P∪ ∪ представляет собой объединение многогранников 1, , .kP P Мы предполагаем, что эти многогранники заданы в виде пересечений полупространств (H-представления). Любой многогранник jP , входящий в А, можно записать в виде системы линейных уравнений

( ){ | },n jjx R P x p∈ ≥ где p( j) и jp – матрица и вектор-столбец, соответствующие .jP

Пусть 0 1= { , , }lM e e – некоторое произвольное фиксированное половинное множество векторов из O. Тогда все половинные множества векторов из O можно представить в виде кортежей из l элементов вида 1< , , >,ls s где { , }i i is e e∈ − для любого 1, .i l∈ На множестве O зададим частичное упорядочение векторов: 1, ,i l∀ ∈ > .i ie e− На множестве всех половинных множеств векторов из O введем лексикографический порядок. Пусть заданы два произвольных половинных множества 1=< , , >lM s s′ ′ ′

и 1=< , , > .lM s s′′ ′′ ′′ Будем считать, что M′ > M″ тогда

и только тогда, когда существует i такое, что > ,i is s′ ′′ и если > 1,i то = j js s′ ′′ для любого , < ,j j i причем , 1, .i j l∈

Из работы [6] используем итерационный алгоритм ENUMCONE перечисления всех половинных множеств, порождающих острые конусы. Переменные алгоритма 1, , ls s определены на множестве векторов 1 1{ , , , , } = .l le e e e O− − Переменная i обозначает номер итерации.

Алгоритм ENUMCONE

Шаг 1. := 1; := 1.i rШаг 2. Если 1 1[< , , , >]r rCH s s e− – острый конус, то := ,r rs e иначе := .r rs e−Шаг 3. := 1.r r +Шаг 4. Если ,r l≤ то переход к шагу 2.Шаг 5. Выдать половинное множество векторов 1=< , , > .i lM s s

Шаг 6. := 1.i i +Шаг 7. Найти наибольшее , 1, ,j j l∈ при котором =j js e и 1 1[< , , , >]j jCH s s s− − – острый конус.

В противном случае остановить ENUMCONE (все требуемые половинные множества най дены).Шаг 8. := .j js e−Шаг 9. := 1.r j +Шаг 10. Переход к шагу 2.

З а м е ч а н и е. Для r = 1 и = 1j конусы 1 1[< , , , >]r rCH s s e− и 1 1[< , , , >]j jCH s s s− − обозначают соответственно 1[< >]CH e и 1[< >].CH s−

Алгоритм ENUMCONE в лексикографическом порядке, начиная с самого большего, пере чис-ляет все половинные множества 1, , ,mM M порождающие острые конусы.

Пусть a – произвольная точка в Rn. Для любого = 1,i m многогранное множество [ ]iCH M a+ можно выразить через iM следующим образом: 1=1{ | = , 0, , 0},ln

j i lj jx R x a e∈ − a a ≥ a ≥∑ где

1{ , , } = .i i ile e M Отметим, что =| | /2l O – постоянная величина для всех .iM

Рис. 4. ОС-выпуклая оболочка conv [ ]oc X множества

= { , , , }� A B C D в R2



Беларуси

116

Теперь можем представить алгоритм FindConv для нахождения OC-выпуклой оболочки (или, другими словами, OC-выпуклой аппроксимации O-выпуклой оболочки) объединения конечного числа многогранников.

Алгоритм FindConv вычисления OC-выпуклой оболочки

Вход алгоритма: множество 1= kA P P∪ ∪ и произвольно выбранная точка .na R∈Шаг 1. Найти с помощью алгоритма ENUMCONE все половинные множества 1, , ,mM M по-

рождающие острые конусы. Для каждого 1,i m= построить систему линейных уравнений 1=1{ | = , 0, , 0},ln

j i lj jx R x a e∈ − a a ≥ a ≥∑ где 1{ , , } = .i i ile e M

Шаг 2. := 1.iШаг 3. Для всех = 1,j k проверить относительно переменных nx R∈ и lR∈α каждую систему

линейных уравнений ( )1=1{ , | = , 0, , 0, },ln l j

j i l jj jx R R x a e P x p∈ ∈ − a a ≥ a ≥ ≥∑α где 1= ( , , ),ka aα на наличие решений. Если ни одна из этих систем не имеет решения, то вы

дать ответ, что conv [ ].oca A∈/ Иначе перейти к шагу 4.

Шаг 4. := 1.i i + Если > ,i m то выдать ответ, что conv [ ].oca A∈ Иначе перейти к шагу 3.

Корректность алгоритма FindConv вытекает из следующих утверждений. Если для некоторого i

ни одна из систем линейных уравнений ( )1=1{ , | = , 0, , 0, },ln l j

j i l jj jx R R x a e P x p∈ ∈ − a a ≥ a ≥ ≥∑α где = 1, ,j k не имеет решения, то это означает, что [ ]iCH M a+ не пересекает ни один из многогранников 1, , .kP P Но тогда OC-семипространство \ ( [ ] )n

iR CH M a+ целиком содержит все эти многогранные множества 1, , .kP P В этом случае conv [ ],oca A∈/ так как из утверждения

\ ( [ ] )niA R CH M a⊆ + вытекает conv [ ] \ ( [ ] ),oc n

iA R CH M a⊆ + но \ ( [ ] ).nia R CH M a∉ + Если же

для любого i какая-то из систем ( )1=1{ , | = , 0, , 0, },ln l j

j i l jj jx R R x a e P x p∈ ∈ − a a ≥ a ≥ ≥∑α где = 1, ,j k имеет решение, то это означает, что для любого OC-семипространства \ ( [ ] )n

iR CH M a+ существует такая точка ,x A∈ что \ ( [ ] ).n

ix R CH M a∉ + Тогда в силу следствия из теоремы 3 из статьи [4] точка a принадлежит conv [ ].oc A

Следующая теорема показывает вычислительную сложность алгоритма FindConv.Т е о р е м а 1. Если размерность n линейного пространства Rn фиксирована, то время рабо-

ты алгоритма FindConv полиномиально по размеру его входа.Д о к а з а т е л ь с т в о. Известно [6], что алгоритм ENUMCONE работает с полиномиальной

скоростью. При фиксированной размерности n линейного пространства Rn общее количество OC-семипространств в точке a полиномиально зависит от мощности множества направлений O частичной выпуклости [6]. Следовательно, общее время работы алгоритма ENUMCONE полиномиально. Заметим, что алгоритм FindConv решает не более чем k m⋅ систем линейных уравнений вида 1=1{ | = , 0, , 0}.ln

j i lj jx R x a e∈ − a a ≥ a ≥∑ Тогда общее время работы алгоритма FindConv полиномиально. Теорема доказана.

Отметим, что если размерность n линейного пространства Rn не фиксирована, то время работы алгоритма FindConv экспоненциально зависит от n. Это следует из того факта [6], что общее количество OC-семипространств экспоненциально растет по отношению к размерности n. Воз-никает вопрос, можем ли мы найти полиномиальный алгоритм построения OC-выпуклой оболочки объединения многогранников, если размерность n не фиксирована? Если NP ≠ P, то на этот вопрос следует ответить отрицательно, что показывает теорема 2.

Т е о р е м а 2. Задача построения OCвыпуклой оболочки объединения многогранников в про-странстве Rn является NP-трудной, если n не фиксировано.

Д о к а з а т е л ь с т в о. Воспользуемся тем фактом [6], что задача построения OC-выпуклой оболочки конечного множества точек NP-трудна. Так как точка представляет собой частный слу-чай многогранника, то задача построения OC-выпуклой оболочки конечного множества точек



Беларуси

сводится к задаче построения OC-выпуклой оболочки объединения многогранников. Сле до ва-тельно, задача построения OC-выпуклой оболочки объединения многогранников также NP-труд-на. Теорема доказана.

Работа профинансирована Институтом математики НАН Беларуси в рамках Государственной программы фундаментальных исследований «Конвергенция».


1. Rawlins G., Wood D. // Computational Morphology / ed. G. T. Toussaint. Amsterdam, 1988. P. 137–152.2. Лейхтвейс К. Выпуклые множества. М., 1985.3. Метельский Н. Н., Мартынчик В. Н. // Мат. заметки. 1996. Т. 60, вып. 3. C. 406–413.4. Метельский Н. Н., Найденко В. Г. // Весцi НАН Беларусi. Сер. фiз.-мат. навук. 1999. № 4. C. 47–52.5. Солтан В. П. Введение в аксиоматическую теорию выпуклости. Кишинев, 1984.6. Метельский Н. Н., Найденко В. Г. // Мат. заметки. 2000. Т. 68, вып. 3. C. 399–410.

V. G. NAIDENKO

OC-CONVEX APPROXIMATION OF PARTIALLY CONVEX HULLS

Summary

We investigate the OC-convexity defined by the intersections of conic semispaces of partial convexity. A polynomial time algorithm is developed to determine the OC-convex approximation of directional convex hull of a finite set of polytopes in case of the direction set being finite.



Беларуси

118


УДК 519.173

В. И. БЕНЕДИКТОВИЧ

О СОВМЕСТИМОСТИ ТРИАНГУЛЯЦИЙ И ГЕОМЕТРИЧЕСКИХ ГРАФОВИнститут математики НАН Беларуси


Пусть множество точек S находится в общем положении на евклидовой плоскости, т. е. никакие три его точки не лежат на одной прямой. Геометрическим графом на множестве точек S называется граф, вершинами которого являются все точки множества S, а ребрами – прямолинейные отрезки, соединяющие некоторые пары этих точек. Два ребра геометрического графа пе�ресекаются, если они имеют общую внутреннюю (для обоих) точку пересечения. Триангуляцией T(S) множества точек S называется максимальный (по числу ребер) геометрический граф на множестве S без пересечений. Нетрудно видеть, что все ее внутренние грани являются треугольниками. Кроме того, хорошо известно, что число треугольников в любой триангуляции T(S) множества точек S равно f = 2(|S|−1)−h, а число ребер равно e = 3(|S| − 1) − h, где h − число экстре-мальных точек множества S, т. е. точек множества S, лежащих на границе Ch(S) ее выпуклой оболочки conv(S).

Пусть S1 и S2 − два конечных множества точек в общем положении на евклидовой плоскости. Две триангуляции T1 множества S1 и T2 множества S2 называются совместимыми, если существует такой графовый изоморфизм между ними j: T1 → T2,

что треугольник ijk триангуляции T1 не содержит точек множества S1 тогда и только тогда, когда треугольник j(i)j( j)j(k) триангуляции T2 не содержит точек множества S2. Несложно показать [1], что существуют графовые изоморфизмы триангуляций T1 и T2, не являющиеся совместимыми (см., напр., рис. 1).

Проблема существования совместимых триангуляций двух заданных множеств точек на плоскости была поставлена в 1987 г. [2] в связи с тем, что она имеет важные приложения как в компьютерной анимации, так и в автоматизированной картографии. Данная проблема может быть рассмотрена в двух вариациях: 1) когда фиксирована биекция между множествами точек S1 и S2; 2) когда эта биекция не является фиксированной. В первом случае проблема была рассмотрена в работе [2], где было показано, что совместимые триангуляции не всегда существуют, и предложено несколько эвристических методов их построения. Во втором случае вопрос остается открытым, причем даже неизвестен сложностной статус связанной с ним проблемы распознавания.

Здесь рассматривается проблема нахождения совместимых триангуляций без фиксирован-ного соответствия между множествами точек S1 и S2. Другими словами, вопрос состоит в определении: существует ли биекция между множествами точек S1 и S2, которая допускает совмес-тимые триангуляции этих множеств. В настоящий момент данная проблема еще довольно мало изучена.

Рис. 1



Беларуси

119

Основной вопрос заключается в следующем: при каких условиях существуют совместимые триангуляции. Во-первых, очевидно, что |S1| = |S2|. Во-вторых, из вышеуказанной формулы для числа ребер произвольной триангуляции следует, что граница Ch(S1) выпуклой оболочки conv(S1) должна биективно отображаться на границу Ch(S2) выпуклой оболочки conv(S2), причем их циклический порядок должен сохраняться. Последнее следует из третьего известного утверждения [2], что если две триангуляции совместимы, то любые два соответствующих треугольника Dijk и Dj(i)j( j)j(k) должны иметь одну и ту же ориентацию (по часовой или против часовой стрелки). Следует отметить, что второе и третье условия не всегда выполняются, если имеется только графовый изоморфизм между триангуляциями T1 и T2 (см. рис. 1).

Множество точек U называется слабо универсальным, если для каждого множества S с условиями |S| = |U| и |Ch(S)| = |Ch(U)| существует триангуляция T(S) множества S, совместимая с триангуляцией T(U) множества U. Множество U называется универсальным, если дополнительно установлена биекция между границами Ch(S) и Ch(U) выпуклых оболочек, сохраняющая их циклический порядок.

Для произвольного множества точек S можно последовательно определить его слои. Первым слоем множества S называется граница Ch(S) его выпуклой оболочки conv(S); iм слоем множества точек S называется множество точек границы выпуклой оболочки оставшихся элементов множества S после удаления всех элементов предыдущих (i−1) слоев. Говорят, что множество точек S имеет k слоев, если этот процесс обрывается на k-м шаге.

Напомним также, что две вершины u и v произвольного геометрического графа G называются взаимно видимыми, если соединяющий их отрезок не пересекает никакое ребро графа G.

Пусть первый слой L1 двуслойного множества точек S содержит вершины v1, v2, ..., vn, а второй слой L2 – вершины w1, w2, ..., wn (в циклическом порядке обхода каждого слоя по часовой стрелке). Тогда назовем эти слои согласованными, если каждая точка wi второго слоя L2 содержится в пересечении треугольников Dvivi+1vi+2∩Dvi−1vivi+1, 1, ,i n= (здесь арифметические операции над индексами рассматриваются по модулю n), причем в 2n-угольнике M = v1w1v2w2v3...vn−1wn−1vnwn его выпуклые вершины (v1, v2, ..., vn) и рефлексивные вершины (w1, w2, ..., wn) являются взаимно види мыми. Нетрудно показать, например, индукцией по n, что такие согласованные слои всегда существуют.

Далее укажем некоторые универсальные множества точек на плоскости.Т е о р е м а 1. Пусть U – множество 2n точек в общем положении на евклидовой плоскости,

состоящее из двух согласованных слоев мощности n каждое. Тогда множество U является уни�n каждое. Тогда множество U является уни� каждое. Тогда множество U является уни�U является уни� является уни-версальным множеством.

Для д о к а з а т е л ь с т в а теоремы воспользуемся следующим известным утверждением из работы [3]:

Л е м м а 1 (о р а з б и е н и и). Пусть S – множество точек в общем положении на евклидовой плоскости, v1, v2, ..., vn – вершины границы выпуклой оболочки Ch(S) и m точек множества S лежат внутри выпуклой оболочки conv(S). Пусть задано некоторое разбиение числа m = m1 + m2 + ... + mn, где все mi – неотрицательные целые числа. Тогда выпуклая оболочка conv(S) может быть разбита на n выпуклых многоугольников P1, P2, ..., Pn, таких, что каждый многоугольник Pi, 1, ,i n= содер-жит сторону vivi+1 в качестве своего ребра и ровно mi внутренних точек множества S. (Неко�торые внутренние точки могут лежать на границах многоугольников P1, P2, ..., Pn, и для этих точек мы сами устанавливаем их принадлежность к соответствующему многоугольнику.)

Пусть S – произвольное множество точек в общем положении на плоскости мощности 2n с экстремальными точками v1, v2, ..., vn (в циклическом порядке их обхода по часовой стрелке) и n внутренними точками. Для разбиения числа n = 1 + 1 + ... + 1 по предыдущей лемме существуют n выпуклых многоугольников P1, P2, ..., Pn, таких, что каждый многоугольник Pi, 1, ,i n= содержит сторону vivi+ 1 в качестве своего ребра и ровно одну внутреннюю точку множества S, которую обозначим через ui. Поставим в соответствие каждой внутренней точке ui множества S точку wi второго слоя L2 множества U. В силу выпуклости многоугольников Pi, 1, ,i n= можно построить непересекающийся 2n-угольник K = v1u1v2u2v3...vn−1un−1vnun, лежащий внутри conv(S), которому соответствует 2n-угольник M = v1w1v2w2v3...vn−1wn−1vnwn.

Рассмотрим каждый треугольник Duivi+1ui+1, 1, .i n= Если ни один из них не содержит ни одной внутренней точки множества S, то строим ребра uiui+ 1, в результате чего получаем непересека-



Беларуси

120

ющийся n-угольник N = u1u2...un−1un, соответствующий выпуклому n-угольнику N′ внутри выпуклой оболочки conv(U) с вершинами из второго слоя L2. Причем область между n-угольником N и conv(U) уже триангулирована и совместима с триангуляцией области между слоями L1 и L2 выпуклой оболочки conv(U). Триангулируя теперь произвольным образом n-угольник N, в силу выпуклости n-угольника N′ можно воспроизвести эту триангуляцию на последнем, которые будут тоже совместимыми. Таким образом, получим совместимые глобальные триангуляции множеств точек S и U.

Если некоторый треугольник Duivi+1ui+1 содержит точки множества S, то соединим их отрезками с точкой vi+1 и последовательно отрезками каждую из них в порядке обхода против часовой стрелки вокруг вершины vi+1. Например, на рис. 2, a, где пунктирными линиями указаны вы-пуклые многоугольники, на которые разбивается conv(S), и каждый из которых содержит в точности одну внутреннюю точку множества S, мы соединяем последовательно отрезками вершины u4, u1, u9 и u5, а вершины u1 и u9, лежащие внутри треугольника Du4v5u5, соединяем с вер-шиной v5. Также соединяем последовательно отрезками вершины u8, u7 и u9, а вершину u7, лежащую внутри треугольника Du8v9u9, соединяем с вершиной v9. Аналогичную совместимую триангуляцию можно воспроизвести на множестве вершин U в силу взаимной видимости вы-пуклых и рефлексивных вершин многоугольника M.

В результате останется конечное число нетриангулированных многоугольников Pj внутри conv(S), которым соответствуют выпуклые многоугольники Qj внутри conv(U). Например, на рис. 2, a у нас остались нетриангулированными два выделенных жирными линиями много-угольника P1 = u1u2u3u4 и P2 = u5u6u7u9, которым соответствуют выпуклые многоугольники Q1 = u1u2u3u4 и Q2 = u5u6u7u9 на рис. 2, б. Триангулируя теперь произвольным образом каждый из этих многоугольников Pj, в силу выпуклости многоугольников Qj можно воспроизвести совместимые триангуляции на последних многоугольниках. Тем самым получим совместимые глобальные триангуляции множеств точек S и U. Теорема 1 доказана.

Пусть теперь множество точек U в общем положении на плоскости удовлетворяет следу-ющим условиям:

1) число его внутренних точек четно: int(U) = 2n;2) если множество его экстремальных точек четно: Ch(U) = {v1, v2, ..., v2m} (нумерация задана

в порядке обхода Ch(U) по часовой стрелке), то два подмножества точек U, лежащих как левее, так и правее обеих прямых v1vm+1 и v2mvm, имеют мощность m + n и находятся в выпуклом по-ложении;

2′) если множество его экстремальных точек нечетно: Ch(U) = {v1, v2, ..., v2m+1} (нумерация задана в порядке обхода Ch(U) по часовой стрелке), то подмножество точек U, лежащих левее обеих прямых v1vm+1 и v2m+1vm, имеет мощность m + n и находится в выпуклом положении, а подмножество точек U, лежащих правее обеих прямых v1vm+2 и v2m+1vm+1, тоже имеет мощность m + n и находится в выпуклом положении.

Обозначим в обоих случаях подмножество int(U), лежащее левее обеих соответствующих каждому случаю прямых, через {w1, w2, ..., wn} (в порядке их обхода против часовой стрелки),

а б

Рис. 2



Беларуси

121

а подмножество int(U), лежащее правее обеих соответствующих прямых, − через {wn+1, wn+2, ..., w2n} (в порядке их обхода по часовой стрелке).

Т е о р е м а 2. Пусть множество точек U удовлетворяет вышеуказанным условиям. Тогда U является слабо универсальным множеством.

Мы докажем теорему 2 для случая 2), т. е. когда Ch(U) = {v1, v2, ..., v2m}, так как для случая 2′) доказательство аналогично.

Для д о к а з а т е л ь с т в а теоремы 2 воспользуемся следующим известным утверждением из [4]:Т е о р е м а (о с э н д в и ч е). Для заданных множеств R и B, объединение которых находится

в общем положении на евклидовой плоскости, существует такая прямая l, что |left(l)∩R| = = |right(l)∩R|, |l∩R| ≤ 1, |left(l)∩B| = |right(l)∩B|, |l∩B| ≤ 1, где left(l) и right(l) обозначают откры-тые полуплоскости, определяемые прямой l, которые лежат слева и справа от прямой l соот�l, которые лежат слева и справа от прямой l соот�, которые лежат слева и справа от прямой l соот�l соот� соот-ветственно. Кроме того, если обе мощности |R| и |B| четны, то прямая l не проходит ни через какую точку из их объединения.

Пусть S − произвольное множество точек в общем положении на плоскости с условиями Ch(S) = 2m и int(S) = 2n. В силу теоремы о сэндвиче существует прямая l, которая не проходит ни через одну точку из множества U и разделяет пополам оба множества R = Ch(S) и B = int(S). Тогда пронумеруем точки множества R = Ch(S), которые лежат левее прямой l, через {u1, u2, ..., um}, а точки Ch(S), которые лежат правее прямой l, − через {um+ 1, um+ 2, ..., u2m} (в порядке их обхода по часовой стрелке). Поставим им в соответствие точки vi границы Ch(U): j(ui) = vi, 1,2 .i m=

Нам понадобится следующее утверждение.Л е м м а 2. Пусть даны две точки a, b ∈ left(l) и две точки с, d ∈ right(l). Тогда для произволь-

ных конечных множеств точек B− ⊂ left(l) и B+ ⊂ right(l), лежащих между прямыми ac и bd, су�ac и bd, су� и bd, су�bd, су�, су-ществуют две такие простые непересекающиеся цепи L1 и L2, что

1) L1 соединяет точки a, B−, b и проходит только через эти точки;2) L2 соединяет точки c, B+, d и проходит только через эти точки;3) простой многоугольник M, ограниченный цепями L1, L2 и отрезками ac и bd, можно три�

ангулировать без использования хорд (ребер, соединяющих две несмежные вершины) цепи L1 и цепи L2.

Д о к а з а т е л ь с т в о леммы проведем индукцией по числу n = |B−| + |B+|. При n = 0 утверждение леммы очевидно (рис. 3, a). Пусть утверждение верно для n < k. Докажем, что оно верно для n = k.

Без ограничения общности можно считать, что множество B+ непусто. Будем вращать прямую ac против часовой стрелки вокруг точки a, пока она не пройдет через первую встретив-шуюся точку e множества B+.

Если right(ae)∩B− = ∅, то для множеств B− и B+\{e} применимо индукционное предположение, согласно которому существует требуемая триангуляция для многоугольника M′, ограниченного цепью L1, цепью 2 ,L

⋅ соединяющей точки B+, d, и отрезками ae и bd. Добавляя к данной

триангуляции треугольник Dace, получим триангуляцию T(M) для искомого многоугольника M без хорд цепи L1 и цепи L2.

Если right(ae)∩B− ≠ ∅, то будем вращать прямую ac по часовой стрелке вокруг точки c, пока она не пройдет через первую встретившуюся точку f множества B− (рис. 3, б). Тогда для множеств B−\{ f} и B+ применимо индукционное предположение, согласно которому существует требуемая триангуляция для многоугольника M′, ограниченного цепью L2, цепью 1,L

⋅ соединяющей

точки B−, b, и отрезками cf и bd. Добавляя к данной триангуляции треугольник Dacf, получим требуемую триангуляцию T(M) для искомого многоугольника M (на рис. 3, б цепи L1 и L2 выделены жирными линиями). Лемма доказана.

Теперь нетрудно завершить д о к а з а т е л ь с т в о теоремы 2. Построим для B− = left(l)∩B и B+ = right(l)∩B простые цепи L1 и L2, соединяющие точки a, b и точки c, d соответственно, а также триангуляцию T(M) многоугольника M, ограниченного цепями L1, L2, и отрезками ac и bd, которая существует по лемме 2. Поставим в биективное соответствие внутренним вершинам цепей L1, L2, последовательно вершины w1, w2, ..., wn и w2n, w2n−1, ..., wn+ 1 соответственно. Поскольку триангуляция T(M) обладает указанным в 3) свойством, она может быть воспроизведена на многоугольнике M′ = w1w2...wnwn+ 1wn+ 2...w2n. Осталось заметить, что произвольные триангуляции двух многоугольников: P1, ограниченного цепью v1v2...vm и цепью L1, и P2, ограничен



Беларуси

122

ного цепью vm+1vm+2...v2m и цепью L2, могут быть также воспроизведены на двух выпуклых многоугольниках P1 = v1v2...vmwnwn−1w2w1 и P2 = vm+1vm+2...v2mw2nw2n−1wn+2wn+1. В результате получим совместимые глобальные триангуляции множеств точек S и U. Теорема 2 доказана.

Напомним, что два непересекающихся геометрических графа G1 и G2 на одном и том же множестве вершин V называются совместимыми, если их объединение G = (V, E(G1)∪E(G2)) является тоже непересекающимся геометрическим графом. Если дополнительно выполняется условие: E(G1)∩E(G2) = ∅, то графы G1 и G2 называются дизъюнктно совместимыми.

Совсем недавно в [5] была подтверждена гипотеза авторов работы [6] о том, что для каждого четного (имеющего четное число ребер) совершенного паросочетания M существует дизъюнктно совместимое совершенное паросочетание. Причем первоначально эта гипотеза была подтверждена в [6] для двух частных случаев: совершенное паросочетание M состоит из вертикальных и горизонтальных отрезков и в случае, когда отрезки совершенного паросочетания M находятся в вы-пукло независимом положении, т. е. по крайней мере один конец каждого отрезка лежит на выпуклой оболочке всех вершин совершенного паросочетания M.

Можно определить граф G(M) совместимых совершенных паросочетаний (или граф ( )dG M дизъюнктно совместимых совершенных паросочетаний), вершинами которого являются все непересекающиеся совершенные геометрические паросочетания Mi на фиксированном множестве из n = 2m точек, лежащих в общем положении на евклидовой плоскости, при этом две вершины графа G(M) (или графа ( )dG M ) являются смежными тогда и только тогда, когда соответствующие совершенные паросочетания являются совместимыми (дизъюнктно совместимыми). Ранее было показано, что граф G(M) совместимых совершенных паросочетаний является связным [7]. Кроме того, в работе [6] показано, что диаметр такого графа равен O(log n).

С другой стороны, установление справедливости гипотезы [6] показывает, что граф ( )dG M дизъюнктно совместимых совершенных паросочетаний не имеет изолированных вершин. Одна-ко оставалась открытой проблема, является ли этот граф связным.

Мы приводим пример, показывающий, что это не так: граф ( )dG M дизъюнктно совместимых совершенных паросочетаний не является, вообще говоря, связным. На рис. 4, a показаны два дизъюнктно совместимых паросочетания M1 и M2 (отрезки из жирных и пунктирных линий соответственно) на множестве из восьми точек, лежащих в выпуклом положении, каждое из которых не является дизъюнктно совместимым ни с каким другим совершенным паросочетанием на заданном множестве точек. Более того, нетрудно проверить, что сам граф ( )dG M дизъюнктно совместимых совершенных паросочетаний состоит из пяти компонент связности и представлен на рис. 4, б.

Хорошо известно [8], что дополнение произвольного непересекающегося совершенного паросочетания M содержит непересекающуюся гамильтонову цепь H. Однако эти геометрические графы – паросочетание M и цепь H, вообще говоря, не являются совместимыми. Например, нетрудно видеть, что совершенное паросочетание M, представленное на рис. 4, в на множестве из 12 точек, лежащих в выпуклом положении на плоскости, не имеет никакой совместимой гамиль

а бРис. 3



Беларуси

тоновой цепи, поскольку два конца этой цепи должны совпадать с тремя вершинами – 1 или 2, 3 или 4, 5 или 6, что невозможно.

Однако справедливо следующее утверждение:Т е о р е м а 3. Любое непересекающееся совершенное паросочетание имеет дизъюнктно со-

вместимое остовное дерево, которое может быть построено за время O(nlog n). Д о к а з а т е л ь с т в о. Пусть M – произвольное непересекающееся совершенное паросоче-

тание на 2n вершинах. С помощью обобщенной триангуляции Делоне [9] за время O(nlog n) можно построить триангуляцию T(M) множества точек – вершин ребер, входящих в совершенное паросочетание M, причем все ребра M являются ребрами триангуляции T(M). Каждая внутренняя грань триангуляции T(M) является треугольником Di, содержащим не более одного ребра из совершенного паросочетания M, удалив которое получим связный граф .iD Нетрудно видеть, что связным будет остовный граф

( ) ( ) .i

iG T M E M= − = D

Выбросив, если необходимо, лишние ребра из графа G, получим остовное дерево ,G кото-рое является непересекающимся, как подграф триангуляции T(M), и дизъюнктно совместимым с совершенным паросочетание M по своему построению. Отметим, что выбрасывание лишних ребер можно выполнить за время O(2n + e) = O(n) поиском в глубину или ширину, поскольку e = 3(2n − 1) − h, где h − число экстремальных точек множества из 2n точек на плоскости, поэтому общее время построения остовного дерева ,G совместимого с совершенным паросочетанием M, равно O(nlog n). Теорема 3 доказана.

Работа профинансирована Институтом математики НАН Беларуси в рамках Государственной программы научных исследований «Конвергенция» и Белорусского республиканского фонда фундаментальных исследований № Ф12РА–006.

Литература1. Krasser H. // Master Thesis, Institute for Theoretical Computer Science, Graz University of Technology. Graz, Austria, 1999.2. Saarfeld A. // Proc. 3-rd Ann. ACM Sympos. Comput. Geometry. 1987. P. 195–204.3. García A., Tejel J. // Actas VI Encuentros de Geometría Computacional. Barcelona, 1995. P. 169–174.4. Handbook of Discrete and Computational Geometry/ ed. by J. Goodman and O’Rourke. CRC Press, 1997. Vol. 211.5. Ishaque M., Souvaine D. L., Toth C. D. // Proc. 27th Annual Symp. On Comput. Geometry. Paris, 2011.6. Aichholzer O., Bereg S., Dumitrescu A. et al. // Comp. Geometry. 2009. N 42. P. 161–167.7. Houle M. E., Hurtado F., Noy M., Rivera�Campo E. // Graphs Combin. 2005. Vol. 21, N 3. P. 325–331.8. Černý J., Dvořák Z., Jelínek V., Kára J. // Discrete Applied Mathematics. 2007. Vol. 115, N 9. P. 1096–1105.9. Lee D. T., Lin A. K. // Discrete Comput. Geom. 1986. Vol. 1. P. 201–217.

V. I. BENEDIKTOVICH

ON THE COMPATIBILITY OF TRIANGULATIONS AND GEOMETRIC GRAPHS

SummaryIn this article universal sets of points in the plane for compatible triangulations have been found; it is shown that the dis-

joint compatible matching graph, in general, is not connected; it has been proved that an arbitrary perfect matching has a disjoint compatible spanning tree.

а б вРис. 4



Беларуси

124


ВУЧОНЫЯ БЕЛАРУСІ

ЛЕОНИД АЛЕКСАНДРОВИЧ ЯНОВИЧ

(К 80-летию со дня рождения)

4 марта 2014 г. исполнилось 80 лет со дня рождения известного белорусского математика члена-корреспондента НАН Беларуси, главного научного сотрудника Института математики НАН Беларуси, доктора физико-математических наук, профессора Леонида Александровича Яновича.

Л. А. Янович родился в деревне Кожушки Слуц кого района Минской области. Научную дея-тельность начал в Институте физики и математики НАН Беларуси после окончания в 1957 г. физико-математического факультета Белорусского государственного университета. С июня 1957 по июль 1961 г. – младший научный сотрудник, с 1961 по 1967 г. – инженер, с 1967 по 1987 г. – заведу-ющий лабораторией подготовки задач и программирования, с 1988 по 1994 г. – заведующий лабораторией вычислительной математики (отделом численных методов анализа). С 1995 г. и по настоящее время Леонид Александрович работает главным научным сотрудником Института математики НАН Беларуси. В 1967 г. ему присуждена ученая степень кандидата физико-математических наук, в 1987 г. – доктора физико-математических наук, в 1992 г. присвоено звание профессора. В 1989 г. он избран членом-корреспондентом НАН Беларуси.

Основные научные работы Л. А. Яновича посвящены приближенным методам анализа и вычислительной математике. В первые годы работы в Институте математики Леонид Алек сан-дрович под руководством академика В. И. Крылова занимался построением и исследованием методов вычисления интегралов и теорией аппроксимаций функций. Им получены критерии сходимости и оценки погрешностей интерполяционных, квадратурных и кубатурных процессов и других методов приближения в разных классах функций, в том числе и в классе периодических аналитических функций. В соавторстве с В. И. Крыловым и В. В. Лугиным Л. А. Янович опубликовал книгу «Таблицы для численного интегрирования функций со степенными особенностями» (Минск, 1963).

Л. А. Яновичем получен и исследован ряд численных методов решения систем интегральных и интегро-дифференциальных уравнений Вольтерра и интегро-дифференциальных уравнений аэроупругости.

Л. А. Янович внес большой вклад в разработку приближенных методов анализа в бесконечномерных пространствах, в частности в теорию интерполирования и приближенного континуального интегрирования. Для приближенного вычисления интегралов по гауссовым мерам им построены формулы заданной алгебраической степени точности; формулы, основанные на интерполировании функционалов; квадратурные формулы для интегралов от специальных функцио налов; приближенные формулы для интегралов в пространстве функций многих переменных и др. Ряд



Беларуси

работ Леонида Александровича посвящен исследованию асимптотики континуальных интегралов от функционалов, которые содержат большой параметр. Его книга «Приближенное вычисление интегралов по гауссовой мере» (Минск, 1976) стала первой монографией в этой области математики, посвященной приближенным методам континуального интегрирования. По данной проблеме опубликованы еще три монографии, которые, в отличие от названной выше, включают методы приближенного вычисления континуальных интегралов и их исследование по другим, не гауссовым, мерам, а также теорию приближения винеровских интегралов на множествах функций многих переменных: А. Д. Егоров, П. И. Соболевский, Л. А. Янович «Приближенные методы вычисления континуальных интегралов» (Минск, 1985); И. М. Ковальчик, Л. А. Янович «Обобщенный винеровский интеграл и некоторые его приложения» (Минск, 1989); A. D. Egorov, P. I. Sobolevsky, L. A. Yanovich «Functional Integrals: Approximate Evaluation and Applications» (Dordrecht; Boston; London, 1993).

Международное признание получил вклад Л. А. Яновича в разработку основ теории интерполирования операторов в общих линейных и функциональных пространствах. Им построены разные типы интерполяционных формул для широких классов операторов и функционалов. Часть результатов исследований в данной области обобщена в монографиях «Интерполирование операторов» (Киев, 2000) и «Methods of operator interpolation» (в соавторстве с украинскими ма-, 2000) и «Methods of operator interpolation» (в соавторстве с украинскими ма-) и «Methods of operator interpolation» (в соавторстве с украинскими ма- и «Methods of operator interpolation» (в соавторстве с украинскими ма-и «Methods of operator interpolation» (в соавторстве с украинскими ма- «Methods of operator interpolation» (в соавторстве с украинскими ма- (в соавторстве с украинскими математиками В. Л. Макаровым и В. В. Хлобыстовым; Киев, 2010). В составе авторского коллектива, включающего ученых Украины и Германии, за цикл научных работ «Дискретные и функциональные методы теории приближений и их применение» Леонид Александрович Янович удо-стоен Государственной премии Украины в области науки и техники за 2012 г.

Кроме вышеназванных шести монографий, Л. А. Янович является автором более 200 научных работ. Л. А. Янович – лауреат премии Национальной академии наук Беларуси, награжден орденом «Знак Почета» и двумя медалями.

Многие работы Л. А. Яновича посвящены приближенным методам стохастического анализа: нахождению характеристик решений стохастических уравнений, построению квадратурных фор-мул для стохастических интегралов и квадратурных формул с наименьшей величиной остатка в пространстве траекторий случайных процессов и др. В последние годы Леонидом Алексан-дровичем получены новые результаты в теории интегро-дифференциальных уравнений с вариационными производными, решения которых связаны с вероятностными характеристиками соответствующих стохастических уравнений, а также получены новые результаты в теории интерполирования функций матричных переменных.

Значительное место в научной биографии Л. А. Яновича занимают исследования, связанные с решением прикладных научных и инженерно-технических задач: около 20 лет он возглавлял созданную в 1960-х гг. лабораторию подготовки задач и программирования. Под его руководством и при его непосредственном участии был выполнен большой объем исследований по хоздоговорам с предприятиями и учреждениями республики, а также по заданиям республиканских научно-технических программ и директивных органов того времени. В частности, были проведены исследования по расчету узлов и параметров проектируемых и выпускаемых автомобилей большой и сверхбольшой грузоподъемности, исследования в области метрологии, физики плазмы, аэроупругости и др.

Большое внимание уделяет Л. А. Янович педагогической деятельности. Он многие годы преподает на механико-математическом факультете Белорусского государственного университета. Читает ряд спецкурсов по теории и численным методам анализа (методы вычисления континуальных интегралов, аппроксимация функций, операторное интерполирование и др.). Под его руководством защищены две докторские и целый ряд кандидатских диссертаций. Ученики созданной Л. А. Яновичем научной школы успешно работают во многих организациях Республики Беларусь.

Сердечно поздравляем Леонида Александровича со славным юбилеем. Желаем ему творческих сил, здоровья и осуществления новых плодотворных замыслов.

И. В. Гайшун, А. Д. Егоров, П. И. Соболевский



Беларуси

126


РЭФЕРАТЫ

УДК 519.216+517.518.8

Янович Л. А., Гуло И. Н. О приближенном вычислении функций от процесса броуновского движения // Весцi НАН Беларусi. Сер. фiз.-мат. навук. 2014. № 1. С. 5–10.

Для случайного процесса, задаваемого как функция от процесса броуновского движения, построены последовательности процессов, центральные моменты которых сходятся к соответствующим моментам исходного процесса. Точность приближений иллюстрируется на конкретных примерах.

Табл. 5. Библиогр. – 8 назв.

УДК 519.2

Чернов С. Ю., Харин А. Ю. О влиянии искажений в L1- и C-метриках на вероятности ошибок для последова-тельного критерия отношения вероятностей // Весцi НАН Беларусi. Сер. фiз.-мат. навук. 2014. № 1. С. 11–17.

Рассматривается последовательный критерий отношения вероятностей (ПКОВ) проверки двух простых гипотез в случае, когда фактическая плотность распределения вероятностей наблюдений отличается от гипотетической, но принадлежит ее e-окрестности в L1- или C-метрике. Для заданного значения e построены «наименее благоприятные» плотности распределения вероятностей наблюдений, которые максимизируют вероятности ошибочных решений ПКОВ.

Библиогр. – 7 назв.

УДК 517.987.4+519.6

Айрян Э. А., Малютин В. Б. Вычисление матричнозначных функциональных интегралов с помощью функ-циональных многочленов // Весцi НАН Беларусi. Сер. фiз.-мат. навук. 2014. № 1. С. 18–25.

Предложен метод приближенного вычисления матричнозначных функциональных интегралов, порожденных решением уравнения Дирака для заряженной частицы в электромагнитном поле. Метод вычисления матричнозначного функционального интеграла основан на разложении функционала в ряд, члены которого имеют вид произведения линейных функционалов с возрастающей суммарной степенью. Доказана сходимость этого ряда для широкого класса функционалов.


УДК 517.968

Расолько Г. А. Приближенное решение интегрального уравнения первого рода с мультипликативным ядром Коши методом ортогональных многочленов // Весцi НАН Беларусi. Сер. фiз.-мат. навук. 2014. № 1. С. 26–35.

Получена вычислительная схема численного решения интегрального уравнения первого рода с трех крат-ным ядром Коши в классах ограниченных и неограниченных функций методом ортогональных многочленов.


УДК 517.977

Хартовский В. Е., Урбан О. И. Управление линейными автономными алгебро-дифференциальными система-ми посредством динамических регуляторов // Весцi НАН Беларусi. Сер. фiз.-мат. навук. 2014. № 1. С. 36–42.

Предлагается новый тип разностных регуляторов с обратной связью, эффективность применения которых рассматривается на примере задачи успокоения решения для линейных автономных алгебро-дифференциальных систем. Отличительной чертой предлагаемого типа регуляторов является возможность его реализации для систем, не обладающих свойством полной управляемости.


УДК 517.925

Маковецкая О. А. Алгоритмы построения решений периодической краевой задачи для матричного урав-нения Ляпунова – Риккати // Весцi НАН Беларусi. Сер. фiз.-мат. навук. 2014. № 1. С. 43–50.

Получены конструктивные достаточные условия однозначной разрешимости и алгоритмы построения решения периодической краевой задачи для матричного дифференциального уравнения, представляющего собой обобщение уравнений Ляпунова и Риккати.




Беларуси

127

УДК 514.142

Прокопчук А. В., Янчевский В. И. О нециклических унитарных инволюциях гензелевых дискретно норми-рованных алгебр с делением // Весцi НАН Беларусi. Сер. фiз.-мат. навук. 2014. № 1. С. 51–53.

Пусть / KD – гензелева дискретно нормированная слабо разветвлeнная центральная K-алгебра с делением нечeтного индекса. В статье установлено, что для существования циклической унитарной K/k-инволюции (K/k – сепарабельное расширение степени 2) необходимо существование в поле вычетов k поля k примитивного корня р-й степени для любого простого делителя р индекса алгебры D. Из этого утверждения немедленно вытекает описание широкого класса нециклических инволюций в вышеупомянутых алгебрах.


УДК 519.1

Дугинов О. И. Покрытие расщепляемого графа наименьшим числом полных двудольных подграфов // Весцi НАН Беларусi. Сер. фiз.-мат. навук. 2014. № 1. С. 54–60.

Рассматривается вычислительная сложность двух задач, связанных с бикликами (связными полными двудольными подграфами) графа в классе расщепляемых графов. Для заданного графа и натурального числа k, в задаче о бикликовом покрытии требуется ответить на вопрос: можно ли множество ребер графа покрыть не более k бикликами; в задаче о бикликовом покрытии вершин требуется ответить на вопрос: можно ли множество вершин графа покрыть не более k бикликами. Известно, что обе задачи являются NP-полными для двудольных графов. В работе показано, что обе задачи остаются NP-полными в классе расщепляемых графов.

Ил. 2. Библиогр. – 19 назв.

УДК 512.553.1+512.553.5

Пунинский Г. Е. Пример кольца эндоморфизмов полуцепного модуля // Весцi НАН Беларусi. Сер. фiз.-мат. навук. 2014. № 1. С. 61–62.

Хорошо известно, что фактор кольца эндоморфизмов инъективного модуля по его радикалу Джекобсона является регулярным по Нейману самоинъективным с одной стороны кольцом. А. Факкини спросил, верно ли это для полуцепных модулей бесконечной размерности Голди. В этой статье мы построим пример, показывающий, что ответ на этот вопрос отрицательный.


УДК 539.3

Швед О. Л. Модель нелинейно упругопластического материала // Весцi НАН Беларусi. Сер. фiз.-мат. навук. 2014. № 1. С. 63–68.

В рамках концепции поверхности текучести на основе принципа сохранения потенциальной природы упругой деформации предложена модель материала. Активный упругопластический процесс представлен попеременным чередованием пластического и упругого состояний. Определены девиаторные сечения поверхности текучести. Получены критерии текучести и разрушения. Сформулированы определяющие соотношения. Рассмотрены модельные примеры для ортотропного материала.


УДК 519.688

Чичурин А. В., Швычкина Е. Н. О построении решений с заданными предельными свойствами у систем, описывающих модели хемостата // Весцi НАН Беларусi. Сер. фiз.-мат. навук. 2014. № 1. С. 69–76.

Исследуется система трех дифференциальных уравнений, описывающая процесс непрерывного культивирования бактерий в хемостате. Для простой пищевой цепочки, описываемой динамической моделью хемостата Михаэлиса – Ментена, построено двухпараметрическое аналитическое решение. Используя возможности СКА Mathematica, построены алгоритм и программный модуль, которые позволяют находить явный вид решений, обладающих заданными предельными свойствами. Приведены примеры, в которых удается смоделировать выживание или вымирание одного или двух микроорганизмов, а также выделить интервалы значений начальных концентраций, обеспечивающих «конкурирующее исключение» или сосуществование обоих микроорганизмов.


УДК 517+530.1

Жестков С. В. О солитонных решениях обобщенного нелинейного уравнения Шредингера // Весцi НАН Беларусi. Сер. фiз.-мат. навук. 2014. № 1. С. 77–81.

Получены нетопологические солитоны семейства уравнений Шредингера со степенными законами нелинейности. Найдены законы распространения этих солитонов.




Беларуси

УДК 639.303.45:535.21:577.3

Плавский В. Ю., Мостовникова Г. Р., Барулин Н. В., Плавская Л. Г., Третьякова А. И., Микулич А. В., Леусенко И. А., Мостовников А. В. Биологическое и терапевтическое действие оптического излучения низкой интенсив-

ности // Весцi НАН Беларусi. Сер. фiз.-мат. навук. 2014. № 1. С. 82–97.

В работе исследовано влияние лазерного излучения и излучения светодиодных источников на пролиферативную активность животных клеток в культуре; постэмбриональное развитие осетровых рыб при кратковременном однократном облучении оплодотворенной икры; активность сперматозоидов рыб; выклев зоопланктона при воздействии излучения на цисты в зависимости от параметров воздействующего фактора (плотность мощности, длина волны, поляризация, степень когерентности излучения). Разработаны методы усиления биологической активности и терапевтического действия оптического излучения за счет его модуляции; совместного действия с постоянным магнитным полем; комбинированного последовательного воздействия излучением различного спектрального диапазона. Рассмотрены механизмы фотохимических и нефотохимических (нерезонансных) процессов, лежащие в основе наблюдаемых светоиндуцированных эффектов.

Табл. 2. Ил. 9. Библиогр. – 29 назв.

УДК 551.501.7

Иванов А. П. Лазерное зондирование атмосферы в Беларуси: исторический очерк // Весцi НАН Беларусi. Сер. фiз.-мат. навук. 2014. № 1. С. 98–107.

Рассматриваются идея и преимущества лазерного зондирования рассеивающей среды. Анализируются первые работы по нестационарному рассеянию света и лазерному зондированию атмосферы в Беларуси. Показывается дальнейшее развитие работ по лазерному зондированию. Рассказывается о контроле загрязнения промышленного региона на примере Солигорского комбината калийных удобрений, о аэрозольном загрязнении г. Минска и стратосферы над ним вулканом Пинатрубо, о контроле высотного распределения озона в атмосфере, пылевых бурь из Африки и дымов пожаров. Рассматриваются загрязнения, обусловленные антропогенной деятельностью. Показывается участие Института физики имени Б. И. Степанова НАН Бе ла-руси в создании Европейской лидарной сети.


УДК 539.12.01

Манько А. Ю., Сацункевич И. С., Шуляковский Р. Г. Монте-Карло генератор HEPComp для двухфотонного рождения лептонных пар в адронных столкновениях // Весцi НАН Беларусi. Сер. фiз.-мат. навук. 2014.

№ 1. С. 108–112.

Создан Монте-Карло генератор HEPComp для двухфотонного рождения лептонных пар в адронных стол кновениях. Показано, что этот генератор событий правильно описывает рождение лептонных пар в двухфотонном механизме. Генератор проверялся на экспериментальных данных Тэватрона, и с его помощью пред сказаны полные и дифференциальные сечения для БАК.


УДК 513+681.3

Найденко В. Г. OC-выпуклая аппроксимация частично выпуклых оболочек // Весцi НАН Беларусi. Сер. фiз.-мат. навук. 2014. № 1. С. 113–117.

Исследуется OC-выпуклость, порожденная пересечениями флаговых полупространств частичной вы-пук лости. Описывается разработанный нами полиномиальный алгоритм построения OC-выпуклой аппроксимации частично выпуклой оболочки объединения конечного числа многогранников в линейном пространстве фиксированной размерности в случае конечности множества направлений.


УДК 519.173

Бенедиктович В. И. О совместимости триангуляций и геометрических графов // Весцi НАН Беларусi. Сер. фiз.-мат. навук. 2014. № 1. С. 118–123.

В данной работе найдены универсальные множества точек на плоскости для совместимых триангуляций; показано, что граф дизъюнктно совместимых совершенных паросочетаний, вообще говоря, не является связным; доказано, что произвольное совершенное паросочетание обладает дизъюнктно совместимым остовным деревом.




Беларуси

libcat.bas-net.bylibcat.bas-net.by/xfile/v_fizm/2014/1/k1nou2.pdf · 1. СЕРЫЯ...

Documents