Рассмотрим математическое описание марковского процесса с дискретными состояниями и непрерывным временем

на примере случайного процесса из задачи 15.1, граф которого изображен на рис. 15.1. Будем полагать, что все переходы системы из состояния 5 в 5 происходят под воздействием простейших потоков событий с интенсивностями λ . (i, j = = 0, 1,2, 3); так, переход системы из состояния S 0 в 5, будет происходить под воздействием потока отказов первого узла, а обратный переход из состояния в S 0 – под воздействием потока "окончаний ремонтов" первого узла и т.п.

Граф состояния системы с проставленными у стрелок интенсивностями будем называть размеченным (см. рис. 15.1). Рассматриваемая система S имеет четыре возможных состояния. 5q, iSj, S 2, 5"->-

Вероятностью i-го состояния называется вероятность pit) того, что в момент t система будет находиться в состоянии 5(.. Очевидно, что для любого момента t сумма вероятностей всех состояний равна единице:

Рассмотрим систему в момент t и, задав малый промежуток At, найдем вероятность p 0(t + At) того, что система в момент (ί + Δί) будет находиться в состоянии 50. Это достигается разными способами.

1. Система в момент t с вероятностью p Q(t) находилась в состоянии 50, а за время At не вышла из него.

Вывести систему из этого состояния (см. граф на рис. 15.1) можно суммарным простейшим потоком с интенсивностью (λ01 + λ02), т.е. в соответствии с (15.7) с вероятностью, приближенно равной (λ01 + λ0.,)Δί. Л вероятность того, что система не выйдет из состояния 50, равна [ΐ-(λοι + λ0.,)Δί]. Вероятность того, что система будет находиться в состоянии 50 по первому способу (т.е. того, что находилась в состоянии 50 и не выйдет из него за время Δί), равна по теореме умножения вероятностей

2. Система в момент t с вероятностью p^t) (или p 2(t)) находилась в состоянии 5) или S2 и за время At перешла в состояние 50.

Потоком интенсивностью λ10 (или λ20 – см. рис. 15.1) система перейдет в состояние 50 с вероятностью, приближенно

равной λ,0Δί (или λ20Δί) Вероятность того, что система будет находиться в состоянии 50 по этому способу, равна Ρι(ί)10Δί (или ρ2(ί)λ20Δί).

Применяя теорему сложения вероятностей, получим откуда

Переходя к пределу при At → 0 (приближенные равенства, связанные с применением формулы (15.7), перейдут в точные), получим в левой части уравнения производную р" 0 (ί) (обозначим ее для простоты р "0):

Получили дифференциальное уравнение первого порядка, т.е. уравнение, содержащее как саму неизвестную функцию, так и ее производную первого порядка.

Рассуждая аналогично для других состояний системы 5, можно получить систему дифференциальных уравнений Колмогорова для вероятностей состояний:

(15.9)

Сформулируем правило составления уравнений Колмогорова. В левой части каждого из них стоит производная вероятности i-го состояния. В правой части – сумма произведений вероятностей всех состояний (из которых идут стрелки в данное состояние) на интенсивности соответствующих потоков событий, минус суммарная интенсивность всех потоков, выводящих систему из данного состояния, умноженная на вероятность данного (i-го состояния).

В системе (15.9) независимых уравнений на единицу меньше общего числа уравнений. Поэтому для решения системы необходимо добавить уравнение (15.8).

Особенность решения дифференциальных уравнений вообще состоит в том, что требуется задать так называемые начальные условия, т.е. в данном случае вероятности состояний системы в начальный момент t = 0. Так, например, систему уравнений (15.9) естественно решать при условии, что в начальный момент оба узла исправны и система находилась в состоянии 50, т.е. при начальных условиях р 0 (0) = 1, р х (о) = р 2 (О) = р 3 (О) = 0.

Уравнения Колмогорова дают возможность найти все вероятности состояний как функции времени. Особый интерес представляют вероятности системы р-(!) в предельном, стационарном режиме, т.е. при t → ∞, которые называются предельными (или финальными) вероятностями состояний.

В теории случайных процессов доказывается, что если число состояний системы конечно и из каждого из них можно (за конечное число шагов) перейти в любое другое состояние, то предельные вероятности существуют.

Предельная вероятность состояния S j имеет четкий смысл: она показывает среднее относительное время пребывания системы в этом состоянии. Например, если предельная вероятность состояния 50, т.е. р 0 = 0,5, то это означает, что в среднем половину времени система находится в состоянии 50.

Так как предельные вероятности постоянны, то, заменяя в уравнениях Колмогорова их производные нулевыми значениями, получим систему линейных алгебраических уравнений, описывающих стационарный режим. Для системы S с графом состояний, изображенном на рис. 15.1, такая система уравнений имеет вид:

(15.10)

Систему (15.10) можно составить непосредственно по размеченному графу состояний, если руководствоваться правилом, согласно которому слева в уравнениях стоит предельная вероятность данного состояния р г умноженная на суммарную интенсивность всех потоков, ведущих из данного

состояния, а справа – сумма произведений интенсивностей всех потоков, входящих в i-е состояние, на вероятности тех состояний, из которых эти потоки исходят.

15.2. Найти предельные вероятности для системы S из задачи 15.1, граф состояний которой приведен на рис. 15.1, при

Решение. Система алгебраических уравнений, описывающих стационарный режим для данной системы, имеет вид (15.10) или

(15.11)

Здесь мы вместо одного "лишнего" уравнения системы (15.10) записали нормировочное условие (15.8).

Решив систему (15.11), получим р () = 0,40, p i = 0,20, р 2 = 0,27, р 3 = 0,13, т.е. в предельном, стационарном режиме система S в среднем 40% времени будет находиться в состоянии 5Н (оба узла исправны), 20% – в состоянии 5, (первый узел ремонтируется, второй работает), 27% – в состоянии S 2 (второй узел ремонтируется, первый работает) и 13% времени – в состоянии 53 (оба узла ремонтируются).

15.3. Найти средний чистый доход от эксплуатации в стационарном режиме системы 5 в условиях задач 15.1 и 15.2, если известно, что в единицу времени исправная работа первого и второго узлов приносит доход соответственно в 10 и 6 ден. ед., а их ремонт требует затрат соответственно в 4 и 2 ден. ед. Оценить экономическую эффективность имеющейся возможности уменьшения вдвое среднего времени ремонта каждого из двух узлов, если при этом придется вдвое увеличить затраты на ремонт каждого узла (в единицу времени).

Решение. Из задачи 15.2 следует, что в среднем первый узел исправно работает долю времени, равную р {) + р 2 = = 0,40 + 0,27 = 0,67, а второй узел – р 0 + p = 0,40 + 0,20 = = 0,60. В то же время первый узел находится в ремонте в среднем долю времени, равную р { + р3 = 0,20 + 0,13 = 0,33, а второй узел – р 2 + р 3 = 0,27 + 0,13 = 0,40. Поэтому средний чистый доход в единицу времени от эксплуатации системы, т.е. разность между доходами и затратами, равен

Уменьшение вдвое среднего времени ремонта каждого из узлов в соответствии с (15.6) будет означать увеличение вдвое интенсивностей потока "окончаний ремонтов" каждого узла, т.е. теперь, и система линейных алгебраических уравнений (15.10), описывающая стационарный режим системы У, вместе с нормировочным условием (15.8) примет вид :

Решив систему, получим р 0 = 0,60, р, = 0,15, р 2 = 0,20, р 3 = 0,05.

Учитывая, что р 0 + р 2 = 0,60 + 0,20 = 0,80, р 0 + р { = 0,60 + + 0,15 = 0,75, р { + р 3 = 0,15 + 0,05 = 0,20, р 2 + р 3 = 0,20 + + 0,05 = 0,25, а затраты на ремонт первого и второго узла составляют теперь соответственно 8 и 4 ден. ед., вычислим средний чистый доход в единицу времени:

Так как Д1 больше Д (примерно на 20%), то экономическая целесообразность ускорения ремонтов узлов очевидна.

• При записи системы (15.10) одно "лишнее" уравнение мы исключили.

Пусть имеется физическая система S с дискретными состояниями:

в которой протекает марковский случайный процесс с непрерывным временем (непрерывная цепь Маркова). Граф состояний показан на рис. 4.32.

Предположим, что все интенсивности потоков событий, переводящих систему из состояния в состояние, постоянны:

другими словами, все потоки событий - простейшие (стационарные пуассоновские) потоки.

Записав систему дифференциальных уравнений Колмогорова для вероятностей состояний и проинтегрировав эти уравнения при заданных начальных условиях, мы получим вероятности состояний, как функции времени, т. е. функций:

при любом t дающих в сумме единицу:

Поставим теперь следующий вопрос: что будет происходить с системой S при Будут ли функции стремиться к каким-то пределам? Эти пределы, если они существуют, называются предельными (или «финальными») вероятностями состояний.

Можно доказать следующее общее положение. Если число состояний системы S конечно и из каждого состояния можно перейти (за то или иное число шагов) в каждое другое, то предельные вероятности состояний существуют и не зависят от начального состояния системы.

На рис. 4.33 показан граф состояний, удовлетворяющий поставленному условию: из любого состояния система может рано или поздно перейти в любое другое. Напротив, для системы, граф состояний которой показан на рис. 4.34, условие не выполнено. Очевидно, что если начальное состояние такой системы то, например, состояние при может быть достигнуто, а если начальное состояние - не может.

Предположим, что поставленное условие выполнено, и предельные вероятности существуют:

Предельные вероятности мы будем обозначать теми же буквами что и сами вероятности состояний, разумея подними на этот раз не переменные величины (функций времени), а постоянные числа.

Очевидно, предельные вероятности состояний, так же как и допредельные, в сумме должны давать единицу:

Таким образом, при в системе S устанавливается некоторый предельный стационарный режим: он состоит в том, что система случайным образом меняет свои состояния, но вероятность каждого из них уже не зависит от времени: каждое из состояний осуществляется с некоторой постоянной вероятностью. Каков смысл этой вероятности? Она представляет собой не что иное, как среднее относительное время пребывания системы в данном состоянии. Например, если у системы S три возможных состояния: причем их предельные вероятности равны 0,2, 0,3 и 0,5, это означает, что после перехода к установившемуся режиму система S в среднем две десятых времени будет находиться в состоянии три десятых - в состоянии и половину времени в состоянии Возникает вопрос: как вычислить предельные вероятности состояний

Оказывается, для этого в системе уравнений Колмогорова, описывающих вероятности состояний, нужно положить все левые части (производные) равными нулю.

Действительно, в предельном (установившемся) режиме все вероятности состояний постоянны, значит, их производные равны нулю.

Если все левые части уравнений Колмогорова для вероятностей состояний положить равными нулю, то система дифференциальных уравнений превратится в систему линейных алгебраических уравнений. Совместно с условием

(так называемым «нормировочным условием») эти уравнения дают возможность вычислить все предельные вероятности

Пример 1. Физическая система 5 имеет возможные состояния: размеченный граф которых дан на рис. 4.35 (у каждой стрелки поставлено численное значение соответствующей интенсивности). Вычислить предельные вероятности состояний:

Решение. Пишем уравнения Колмогорова для вероятностей состояний:

Полагая левые части равными нулю, получим систему алгебраических уравнений для предельных вероятностей состояний:

Уравнения (7.4) - так называемые однородные уравнения (без свободного члена). Как известно из алгебры, эти уравнения определяют величины только с точностью до постоянного множителя. К счастью, у нас есть нормировочное условие:

которое, совместно о уравнениями (7.4), дает возможность найти все неизвестные вероятности.

Действительно, выразим из (7.4) все неизвестные вероятности через одиу из них, например, через Из первого уравнения:

Подставляя во второе уравнение, получим:

Четвертое уравнение дает:

Подставляя все эти выражения вместо в нормировочное условие (7.5), получим

Таким образом, предельные вероятности состояний получены, они равиы:

Это значит, что в предельном, установившемся режиме система S будет проводить в состоянии в среднем одну двадцать четвертую часть времени, в состоянии - половину времени, в состоянии - пять двадцать четвертых и в состоянии - одну четверть времени.

Заметим, что решая эту задачу, мы совсем не пользовались одним из уравнений (7 4) - третьим Нетрудно убедиться, что оно является следствием трех остальных: складывая все четыре уравнения, мы получим тождественный нуль. С равным успехом, решая систему, мы могли бы отбросить любое из четырех уравнений (7.4).

Примененный нами способ составления алгебраических уравнений для предельных вероятностей состояний сводился к следующему: сперва написать дифференциальные уравнения, а затем положить в них левые части равными нулю. Однако можио записать алгебраические уравнения для предельных вероятностей и непосредственно, не проходя через этап дифференциальных. Проиллюстрируем это на примере.

Рассмотрим математическое описание марковского процесса с дискретными состояниями и непрерывным временем на примере случайного процесса из задачи 1, граф которого изображен на рис. 1. Будем полагать, что все переходы системы из состояния S i в S j происходят под воздействием простейших потоков событий с интенсивностями l ij (i, j=0,1,2,3); так, переход системы из состояния S 0 в S 1 будет происходить под воздействием потока отказов первого узла, а обратный переход из состояния S 1 в S 0 - под воздействием потока «окончаний ремонтов» первого узла и т.п.
Граф состояний системы с проставленными у стрелок интенсивностями будем называть размеченным (см. рис. 1). Рассматриваемая система S имеет четыре возможных состояния: S 0 , S 1 , S 2 , S 3 .
Вероятностью i-го состояния называется вероятность p i (t) того, что в момент t система будет находиться в состоянии S i . Очевидно, что для любого момента t сумма вероятностей всех состояний равна единице:
. (8)
Рассмотрим систему в момент t и, задав малый промежуток Dt , найдем вероятность p 0 (t+Dt) того, что система в момент t+ Dt будет находиться в состоянии S 0 . Это достигается разными способами.
1. Система в момент t с вероятностью p 0 (t) находилась в состоянии S 0 , а за время Dt не вышла из него.
Вывести систему из этого состояния (см. граф на рис. 1) можно суммарным простейшим потоком с интенсивностью (l 01 +l 02), т.е. в соответствии с (15.7), с вероятностью, приближенно равной (l 01 +l 02)Dt . А вероятность того, что система не выйдет из состояния S 0 , равна . Вероятность того, что система будет находиться в состоянии S 0 , по первому способу (т.е. того, что находилась в состоянии S 0 и не выйдет из него за время Dt ), равна по теореме умножения вероятностей:
p 0 (t)· .
2. Система в момент t с вероятностями р 1 (t) (или p 2 (t)) находилась в состоянии S 1 или S 2 и за время Dt перешла в состояние S 0 .
Потоком интенсивностью l 10 (или l 20 - см. рис. 1) система перейдет в состояние S 0 с вероятностью, приближенно равной l 10 Dt (или l 20 Dt ). Вероятность того, что система будет находиться в состоянии S 0 по этому способу, равна р 1 (t)× l 10 Dt (или р 2 (t) × l 20 Dt ).
Применяя теорему сложения вероятностей, получим
p 0 (t+Δt)=p 1 ·λ 10 ·Δt+p 2 (t)·λ 20 ·Δt+p 0 (t),
откуда
,
Переходя к пределу при Dt ®0 (приближенные равенства, связанные с применением формулы (7), перейдут в точные), получим в левой части уравнения производную p’ 0 (t ) (обозначим ее для простоты p’ 0):
p′ 0 = λ 10 ·p 1 +λ 20 ·p 2 +(λ 10 +λ 20)·p 0 ,
Получили дифференциальное уравнение первого порядка, т.е. уравнение, содержащее как саму неизвестную функцию, так и ее производную первого порядка.
Рассуждая аналогично для других состояний системы S, можно получить систему дифференциальных уравнений Колмогорова для вероятностей состояний:
(9)
Сформулируем правило составления уравнений Колмогорова. В левой части каждого из них стоит производная вероятности i-го состояния. В правой части - сумма произведений вероятностей всех состояний (из которых идут стрелки в данное состояние) на интенсивности соответствующих потоков событий, минус суммарная интенсивность всех потоков, выводящих систему из данного состояния, умноженная на вероятность данного (i-го состояния).
В системе (9) независимых уравнений на единицу меньше общего числа уравнений. Поэтому для решения системы необходимо добавить уравнение (8).
Особенность решения дифференциальных уравнений вообще состоит в том, что требуется задать так называемые начальные условия, т.е. в данном, случае вероятности состояний системы в начальный момент t = 0. Так, например, систему уравнений (9) естественно решать при условии, что в начальный момент оба узла исправны и система находилась в состоянии S 0 , т.е. при начальных условиях p 0 (0)=1, p 1 (0)=p 2 (0)=p 3 (0)=0.
Уравнения Колмогорова дают возможность найти все вероятности состояний как функции времени . Особый интерес представляют вероятности системы p i (t ) в предельном стационарном режиме, т.е. при t→∞, которые называются предельными (или финальными) вероятностями состояний.
В теории случайных процессов доказывается, что если число состояний системы конечно и из каждого из них можно (за конечное число шагов) перейти в любое другое состояние, то предельные вероятности существуют.
Предельная вероятность состояния S i имеет четкий смысл: она показывает среднее относительное время пребывания системы в этом состоянии. Например, если предельная вероятность состояния S 0 , т.е. p 0 =0,5, то это означает, что в среднем половину времени система находится в состоянии S 0 .
Так как предельные вероятности постоянны, то, заменяя в уравнениях Колмогорова их производные нулевыми значениями, получим систему линейных алгебраических уравнений, описывающих стационарный режим. Для системы S с графом состояний, изображенном на рис. 1, такая система уравнений имеет вид:
(10)
Систему (10) можно составить непосредственно по размеченному графу состояний, если руководствоваться правилом, согласно которому слева в уравнениях стоит предельная вероятность данного состояния p i , умноженная на суммарную интенсивность всех потоков, ведущих из данного состояния, а справа - сумма произведений интенсивностей всех потоков, входящих в i-е состояние, на вероятности тех состояний, из которых эти потоки исходят.

Задача 2. Найти предельные вероятности для системы S задачи 1, граф состояний которой приведен на рис. 1, при l 01 =1, l 02 =2, l 10 =2, l 13 =2, l 20 =3, l 23 =1, l 31 =3, l 32 =2.
Решение . Система алгебраических уравнений , описывающих стационарный режим для данной системы, имеет вид (10) или
3p 0 =2p 1 +3p 2 (11)
4p 1 =p 0 +3p 3
4p 2 =2p 0 +2p 3
p 0 +p 1 +p 2 +p 3 =1
(Здесь мы вместо одного "лишнего" уравнения системы (10) записали нормировочное условие (8)).
Решив систему (11), получим p 0 =0,40, p 1 =0,20, p 2 =0,27, p 3 =0,13, т.е. в предельном, стационарном режиме система S в среднем 40% времени будет находиться в состоянии S 0 (оба узла исправны), 20% - в состоянии S 1 (первый узел ремонтируется, второй работает), 27% - в состоянии S 2 (второй узел ремонтируется, первый работает) и 13% времени - в состоянии S 3 (оба узла ремонтируются).

Задача 3. Найти средний чистый доход от эксплуатации в стационарном режиме системы S в условиях задач 1 и 2, если известно, что в единицу времени исправная работа первого и второго узлов приносит доход соответственно в 10 и 6 ден.ед., а их ремонт требует затрат соответственно в 4 и 2 ден.ед. Оценить экономическую эффективность СМО имеющейся возможности уменьшения вдвое среднего времени ремонта каждого из двух узлов, если при этом придется вдвое увеличить затраты на ремонт каждого узла (в единицу времени).
Решение. Из задачи 2 следует, что в среднем первый узел исправно работает долю времени, равную p 0 +p 3 =0,40+0,27=0,67, а второй узел - p 0 +p 1 =0,40+0,20=0,60. В то же время первый узел находится в ремонте в среднем долю времени, равную p 1 +p 3 =0,20+0,13=0,33, а второй узел – p 2 +p 3 =0,27+0,13=0,40. Поэтому средний чистый доход в единицу времени от эксплуатации системы, т.е. разность между доходами и затратами, равен
Д=0,67 ×10+0,60×6-0,33 ×4-0,40×2=8,18 ден.ед.
Уменьшение вдвое среднего времени ремонта каждого из узлов в соответствии с (6) будет означать увеличение вдвое интенсивностей потока "окончаний ремонтов" каждого узла, т.е. теперь l 10 =4, l 20 =6, l 31 =6, l 32 =4 и система линейных алгебраических уравнений (10), описывающая стационарный режим системы вместе с нормировочным условием (8) примет вид:
3p 0 =4p 1 +6p 2
6p 1 =p 0 +6p 3
7p 2 =2p 0 +4p 3
p 0 +p 1 +p 2 +p 3 =1
Решив систему, получим p 0 =0,60, p 1 =0,15, p 2 =0,20, p 3 =0,05.
Учитывая, что p 0 +p 2 =0,60+0,20=0,80, p 0 +p 1 =0,60+0,15=0,75, p 1 +p 3 =0,15+0,05=0,20, p 2 +p 3 =0,20+0,05=0,25, а затраты на ремонт первого и второго узла составляют теперь соответственно 8 и 4 ден. ед., вычислим средний чистый доход в единицу времени:Д 1 =0,80 ×10+0,75×6-0,20 ×8-0,25×4=9,9 ден.ед.
Так как Д 1 больше Д (примерно на 20%), то экономическая целесообразность ускорения ремонтов узлов очевидна.

Пример . Техническое устройство может находиться в одном из трех состояний S 0 , S 1 , S 2 . Интенсивность потоков, переводящих устройство из состояния, заданы в таблице.

Необходимо построить размеченный граф состояний, записать систему уравнений Колмогорова, найти финальные вероятности и сделать анализ полученных решений.
Размеченный граф состояний имеет вид.

p 0 (t) + p 1 (t) + p 2 (t) = 1

p 0 (t) + p 1 (t) + p 2 (t) = 1

2p 0 -3p 1 = 0
2p 0 +2p 1 -3p 2 =0
p 0 + p 1 + p 2 = 1
Решим СЛАУ с помощью метода Гаусса.
Вывод: При достаточно большом времени работы техническое устройство с вероятностью p 0 = 0.36 будет находиться в состоянии S 0 , с вероятностью p 1 = 0.24 в состоянии S 1 и с вероятностью p 2 = 0.4 в состоянии S 2 .

Пример .
Техническое устройство может находиться в одном из трех состояний S 0 , S 1 , S 2 . Интенсивность потоков, которые переводят устройства из одного состояния во второе, известны λ 01 =2, λ 10 =4, λ 21 =2, λ 12 =3, λ 20 =4.
Необходимо построить размеченный граф состояний, записать систему уравнений Колмогорова, найти финальные вероятности и сделать анализ полученных решений.
Размеченный граф состояний имеет вид.

По графу запишем систему уравнений Колмогорова в общем виде:

Вместо интенсивности потоков λ ij запишем их конкретные значения и получим искомую систему:

Чтобы найти финальные вероятности состояний, в уравнениях Колмогорова отбросим первое уравнения, а по остальным составим систему алгебраических уравнений:
2p 0 -7p 1 +2p 2 =0
3p 1 -6p 2 =0
p 0 +p 1 +p 2 =1
Делим первое уравнение на 2, а второе на 3 и получим систему
p 0 -7p 1 +2p 2 =0
3p 1 -6p 2 =0
p 0 +p 1 +p 2 =1
Из третьего уравнения вычитаем первое
p 0 -3.5p 1 +p 2 =0
p 1 -2p 2 =0
4.5p 1 =1
Отсюда получим p 1 =0,22, p 2 =0,11 и p 0 =0,67.
Вывод: При достаточно большом времени работы техническое устройство с вероятностью p 0 = 0,67 будет находиться в состоянии S 0 , с вероятностью p 1 = 0,22 в состоянии S 1 и с вероятностью p 2 = 0,11 в состоянии S 2 .

Процесс гибели и размножения

В теории массового обслуживания широкое распространение имеет специальный класс случайных процессов - так называемый процесс гибели и размножения . Название этого процесса связано с рядом биологических задач, где он является математической моделью изменения численности биологических популяций.
Граф состояний процесса гибели и размножения имеет вид, показанный на рис. 4.

Рис. 4
Рассмотрим упорядоченное множество состояний системы S 0 , S 1 , S 2 , …, S k . Переходы могут осуществляться из любого состояния только в состояния с соседними номерами, т.е. из состояния S k возможны переходы только либо в состояние S k-1 , либо в состояние S k+1 . (При анализе численности популяций считают, что состояние S k соответствует численности популяции, равной k, и переход системы из состояния S k в состояние S k+1 происходит при рождении одного члена популяции, а переход в состояние S k-1 , - при гибели одного члена популяции).
Предположим, что все потоки событий, переводящие систему по стрелкам графа, простейшие с соответствующими интенсивностями l k, k+1 или l k+1, k .
По графу, представленному на рис. 4, составим и решим алгебраические уравнения для предельных вероятностей состояний (их существование вытекает из возможности перехода из каждого состояния в каждое другое и конечности числа состояний).
В соответствии с правилом составления таких уравнений (см. 13) получим: для состояния S 0
λ 01 p 0 = λ 10 p 1 (12)
для состояния S 1 – (l 12 +l 10)p 1 =l 01 p 0 +l 21 p 2 , которое с учетом (12) приводится к виду
λ 12 p 1 = λ 21 p 2 (13)
Аналогично, записывая уравнения для предельных вероятностей других состояний, можно получить следующую систему уравнений:
(14)
к которой добавляется нормировочное условие
p 0 +p 1 +p 2 +...+p n =1 (15)
Решая систему (14), (15), можно получить (16)
(17)
Легко заметить, что в формулах (17) для p 1 , p 2 , …, p n коэффициенты при p 0 есть слагаемые, стоящие после единицы в формуле (16). Числители этих коэффициентов представляют произведение всех интенсивностей, стоящих у стрелок, ведущих слева направо до данного состояния S k (k=1, 2, …, n), а знаменатели - произведение всех интенсивностей, стоящих у стрелок, ведущих справа налево до состояния S k .

Задача 4. Процесс гибели и размножения представлен графом (рис. 5). Найти предельные вероятности состояний.

Рис. 5

Решение. По формуле (16) найдем

по (17) – т.е. в установившемся, стационарном режиме в среднем 70,6% времени система будет находиться в состоянии S 0 , 17,6% - в состоянии S 1 и 11,8% - в состоянии S 2 .

Пусть имеется физическая система S с дискретными состояниями:

S 1 ,S 2 ,...,S n ,

в которой протекает марковский случайный процесс с непрерывным временем (непрерывная цепь Маркова). Граф состояний показан на рис. 23.

Предположим, что все интенсивности потоков событий, переводя­щих систему из состояния в состояние, постоянны:

другими словами, все потоки событий – простейшие (стационарные. пуассоновские) потоки.

Записав систему дифференциальных уравнений Колмогорова для вероятностей состояний и проинтегрировав эти уравнения при заданных начальных условиях, мы получим вероятности состояний, как функции времени, т. е. n функций:

p 1 (t), p 2 (t),…,p n (t),

при любом t дающих в сумме единицу: .

Поставим теперь следующий вопрос: что будет происходить с сис­темой S при t®¥? Будут ли функции p 1 (t), p 2 (t),…,p n (t) стремиться к каким-то пределам? Эти пределы, если они существуют, называются предельными (или «финальными») вероятностями состояний.

Можно доказать следующее общее положение. Если число состоя­ний системы S конечно и из каждого состояния можно перейти (за то или иное число шагов) в каждое другое, то предельные вероятности со­стояний существуют и не зависят от начального состояния системы .

На рис. 24 показан граф состояний, удовлетворяющий постав­ленному условию: из любого состояния система может рано или позд­но перейти в любое другое. Напротив, для системы, граф состояний которой показан на рис. 25, условие не выполнено. Очевидно, что если начальное состояние такой системы S 1 то, например, состояние S 6 при t®¥ может быть достигнуто, а если начальное состояние S 2 – не может.

Предположим, что поставленное условие выполнено, и предель­ные вероятности существуют:

(i = 1, 2,..., n). (6.1)

Предельные вероятности мы будем обозначать теми же буквами р 1 , р 2 , … р n , что и сами вероятности состояний, разумея подними на этот раз не переменные величины (функции времени), а постоянные числа.

Очевидно, предельные вероятности состоянии, так же как и допредельные, в сумме должны давать единицу:

Таким образом, при t®¥ в системе S устанавливается некоторый предельный стационарный режим: он состоит в том, что система случайным образом меняет свои состояния, но вероятность каждого из них уже не зависит от времени: каждое из состояний осу­ществляется с некоторой постоянной вероятностью. Каков смысл этой вероятности? Она представляет собой не что иное, как сред­нее относительное время пребывания си­стемы в данном состоянии. Например, если у системы S три возможных состояния: S 1 ,S 2 и S 3 , причем их предельные вероят­ности равны 0,2, 0,3 и 0,5, это означает, что после перехода к устано­вившемуся режиму система S в среднем две десятых времени будет находиться в состоянии S 1 три десятых – в состоянии S 2 и полови­ну времени – в состоянии S 3 . Возникает вопрос: как вычислить пре­дельные вероятности состояний р 1 , р 2 , … р n ?

Оказывается, для этого в системе уравнений Колмогорова, описывающих вероятности состояний, нужно положить все левые час­ти (производные) равными нулю.

Действительно, в предельном (установившемся) режиме все вероят­ности состояний постоянны, значит, их производные равны нулю.

Если все левые части уравнений Колмогорова для вероятностей состояний положить разными нулю, то система дифференциальных уравнений превратится в систему линейных алгеб­раических уравнений. Совместно с условием

(так называемым «нормировочным условием») эти уравнения дают возможность вычислить все предельные вероятности

р 1 , р 2 , … р n

Пример 1 . Физическая система S имеет возможные состояния: S l , S 2 , S 3 , S 4 , размеченный граф которых дан на рис. 26 (у каждой стрелки поставлено численное значение соответствующей интенсивности). Вычислить предельные ве­роятности состояний: р 1 , р 2 , р 3 , р 4 .

Решение . Пишем уравнения Колмогорова для вероятностей состояний:

(6.3)

Полагая левые части равными нулю, получим систему алгебраических уравнений для предельных вероятностей состояний:

(6.4)

Уравнения (6.4) – так называемые однородные уравнения (без свободного члена). Как известно из алгебры, эти уравнения определяют величины р 1 , р 2 , р 3 , р 4 только с точностью до постоянного множителя. К счастью, у нас есть нор­мировочное условие:

p 1 + p 2 + p 3 + p 4 = 1, (6.5)

которое, совместно с уравнениями (64), дает возможность найти все неизвест­ные вероятности.

Действительно, выразим из (6.4) все неизвестные вероятности через одну из них, например, через p 1 . Из первого уравнения:

p 3 = 5p 1

Подставляя во второе уравнение, получим:

р 2 = 2 p 1 + 2р 3 = 12 p 1 .

Четвертое уравнение дает:

p 4 = 1/2p 2 = 6 p 1 .

Подставляя все эти выражения вместо р 2 , р 3 , р 4 в нормировочное условие (6.5), получим

p 1 + 12p 1 + 5 p 1 + 6 p 1 = 1.

24 p 1 = 1, p 1 = 1/24, p 2 =12p 1 = 1/2.

p 3 = 5p 1 = 5/24. p 4 = 6 p 1 = 1/4.

Таким образом, предельные вероятности состояний получены, они равны;

p 1 = 1/24, p 2 = 1/2, p 3 = 5/24, p 4 = 1/4 (6.6)

Это значит, что в предельном, установившемся режиме система S будет проводить в состоянии S 1 в среднем одну двадцать четвертую часть времени, в состоянии S 2 – половину времени, в состоянии S 3 – пять двадцать четвертых и в состоянии S 4 – одну четверть времени.

Заметим, что решая эту задачу, мы совсем не пользовались одним из уравнений (6.4) – третьим. Нетрудно убедиться, что оно является следствием трех остальных: складывая все четыре уравнения, мы получим тождественный нуль. С равным успехом, решая систему, мы могли бы отбросить любое из четырех уравнений (6.4).

Примененный нами способ составления алгебраических уравнений для предельных вероятностей состояний сводился к следующему: сперва написать дифференциальные уравнения, а затем положить в них левые части равными ну­лю Однако можно записать алгебраические уравнения для предельных вероят­ностей и непосредственно, не проходя через этап дифференциальных. Проиллюстрируем это на примере.

Пример 2 . Граф состоянии системы показан на рис. 27. Написать ал­гебраические уравнения для предельных вероятностей состояний.

Решение . Не записывая дифференциальных уравнений, прямо пишем соот­ветствующие правые части и приравниваем их нулю; чтобы не иметь дела с от­рицательными членами, сразу переносим их в другую часть, меняя знак:

(6.7)

Чтобы в дальнейшем сразу же писать такие уравнения, полезно запом­нить следующее мнемоническое правило: «что втекает, то и вытекает», то есть для каждого состояния сумма членов, соответствующих входящим стрелкам, рав­на сумме членов, соответствующих выходящим; каждый член равен интенсивнос­ти потока событий, переводящего систему по данной стрелке, умноженной на вероятность того состояния, из которого выходит стрелка.

В дальнейшем мы во всех случаях будем пользоваться именно этим кратчай­шим способом записи уравнений для предельных вероятностей.

Пример 3 . Написать алгебраические уравнения для предельных вероят­ностей состояний системы S , граф состояний которой дан на рис. 28. Решить эти уравнения.

Решение. Пишем алгебраические уравнения для предельных вероятно­стей состояний;

Нормировочное условие;

p 1 + p 2 + p 3 = 1 . (6.9)

Выразим с помощью первых двух уравнений (6.8) р 2 и р 3 через р 1:

Подставим их в нормировочное условие (6.9):

,

откуда .

; .

Рассмотрим математическое описание марковского процесса с дискретными состояниями и непрерывным временем на примере случайного процесса из предыдущего примера, граф которого изображен на рис. 15. Будем полагать, что все переходы системы из состояния S i в S j происходят под воздействием простейших потоков событий с интенсивностями (i, j = 0, 1, 2, 3); так, переход системы из состояния S 0 в S 1 будет происходить под воздействием потока отказов первого узла, а обратный переход из состояния S 1 в S 0 - под воздействием потока окончаний ремонтов первого узла и т.п.

Граф состояний системы с проставленными у стрелок интенсивностями будем называть размеченным (см. рис. 3.1). Рассматриваемая система S имеет четыре возможных состояния: S 0 ,S 1 , S 2 , S 3 .

Вероятностью i-го состояния называется вероятность p i (t ) того, что в момент t система будет находиться в состоянии S ,. Очевидно, что для любого момента t сумма вероятностей всех состояний равна единице:

Система дифференциальных уравнений Колмогорова для вероятностей состояний:

(3.2.)

Сформулируем правило составления уравнений Колмогорова. В левой части каждого из них стоит производная вероятности i -го состояния. В правой части - сумма произведений вероятностей всех состояний (из которых идут стрелки в данное состояние) на интенсивности соответствующих потоков событий, минус суммарная интенсивность всех потоков, выводящих систему из данного состояния, умноженная на вероятность данного (1-го состояния).

В системе (3.2) независимых уравнений на единицу меньше общего числа уравнений. Поэтому для решения системы необходимо добавить уравнение (3.1).

Особенность решения дифференциальных уравнений вообще состоит в том, что требуется задать так называемые начальные условия, т.е. в данном случае вероятности состояний системы в начальный момент t = 0. Так, например, систему уравнений (15.9) естественно решать при условии, что в начальный момент обе бригады свободны и система находилась в состоянии S 0 , т.е. при начальных условиях p 0 (0) = 1, p 1 (0) = 0, p 2 (0) = 0, p 3 (0) = 0.

Уравнения Колмогорова дают возможность найти все вероятности состояний как функции времени. Особый интерес представляют вероятности системы p i (t ) в предельном стационарном режиме, т.е. при , которые называются предельными (или финальными) вероятностями состояний.

В теории случайных процессов доказывается, что если число состояний системы конечно и из каждого из них можно (за конечное число шагов) перейти в любое другое состояние, то предельные вероятности существуют.

Предельная вероятность состояния S , имеет четкий смысл: она показывает среднее относительное время пребывания системы в этом, состоянии. Например, если предельная вероятность состояния S 0 т.е. р 0 = 0,5, то это означает, что в среднем половину времени система находится в состоянии S 0 .

Так как предельные вероятности постоянны, то, заменяя в уравнениях Колмогорова их производные нулевыми значениями, получим систему линейных алгебраических уравнений, описывающих стационарный режим. Для системы S с графом состояний, изображенном на рис. 3.2), такая система уравнений имеет вид:

(3.3)

Систему (4.3) можно составить непосредственно по размеченному графу состояний, если руководствоваться правилом, согласно которому слева в уравнениях стоит предельная вероятность данного состояния р„ умноженная на суммарную интенсивность всех потоков, ведущих из данного состояния, а справа - сумма произведений интенсивностей всех потоков, входящих в 1-е состояние, на вероятности тех состояний, из которых эти потоки исходят.