Тема: Цепи Маркова в теории вероятности и их приложения

  • Вид работы:
    Диплом
  • Предмет:
    Математика
  • Язык:
    Русский
  • Формат файла:
    MS Word
  • Размер файла:
    74,95 kb
Цепи Маркова в теории вероятности и их приложения
Цепи Маркова в теории вероятности и их приложения
Вы можете узнать стоимость помощи в написании студенческой работы.
Помощь в написании работы, которую точно примут!

ГОСУДАРСТВЕННОЕ ОБРАЗОВАТЕЛЬНОЕ УЧРЕЖДЕНИЕ

ВЫСШЕГО ПРОФЕССИОНАЛЬНОГО ОБРАЗОВАНИЯ

"МОРДОВСКИЙ ГОСУДАРСТВЕННЫЙ ПЕДАГОГИЧЕСКИЙ ИНСТИТУТ ИМЕНИЕ М.Е. ЕВСЕВЬЕВА"

ФИЗИКО-МАТЕМАТИЧЕСКИЙ ФАКУЛЬТЕТ

КАФЕДРА МАТЕМАТИКИ





КУРСОВАЯ РАБОТА

ЦЕПИ МАРКОВА В ТЕОРИИ ВЕРОЯТНОСТИ И ИХ ПРИЛОЖЕНИЯ


Автор курсовой работы:

Т. Н. Данилова

Руководитель:

Н. Г.Тактаров






Саранск 2011

Содержание

Введение

1.Основные понятия теории марковских цепей

2.Возвратные и невозвратные состояния

.Теорема возвратного состояния

.Достижимые возвратные состояния

.Примеры решения задач

Заключение

Список используемой литературы

Введение

Марковские случайные процессы названы по имени выдающегося русского математика А.А.Маркова (1856-1922), впервые начавшего изучение вероятностной связи случайных величин и создавшего теорию, которую можно назвать "динамикой вероятностей". В дальнейшем основы этой теории явились исходной базой общей теории случайных процессов, а также таких важных прикладных наук, как теория диффузионных процессов, теория надежности, теория массового обслуживания и т.д. В настоящее время теория марковских процессов и ее приложения широко применяются в самых различных областях.

Благодаря сравнительной простоте и наглядности математического аппарата, высокой достоверности и точности получаемых решений, особое внимание марковские процессы приобрели у специалистов, занимающихся исследованием операций и теорией принятия оптимальных решений.

Марковские цепи используются в теории массового обслуживания для расчета распределения вероятностей числа занятых приборов в системе, состоящей из n приборов с пауссоновским потоком требований и показательным законом времени обслуживания.

Цепь Маркова, используется и в качестве математической модели при изучении поведения определенных стохастических систем. Для коротких отрезков времени можно использовать вычисления абсолютных вероятностей . Когда же число переходов неограниченно возрастает (больше k), необходимы иные методы анализа поведения системы.

В неприводимой цепи Маркова, любое состояние Sj может быть достигнуто из любого другого состояния Si за конечное число переходов, т. е. , где , в такой цепи все состояния будут сообщающимися. Все состояния неприводимой Марковской цепи образуют замкнутое множество состояний и никакое его подмножество состояний не может быть замкнутым.

Данная курсовая работа рассматривает цепи Маркова в теории вероятностей и их приложения. Объект исследования: цепи Маркова. Цель исследования: изучить Марковкие цепи, их виды, состояния. Задачи исследования: рассмотреть задачи, решаемые с использованием цепей Маркова.

марковский цепь вероятность невозвратный

1. Основные понятия теории марковских цепей

Условно будем говорить о некоторой физической системе, шаг за шагом меняющей свое фазовое состояние. Будем считать, что имеется лишь конечное или счетное число различных фазовых состояний ε1, ε2, ... Обозначим ξ (п) состояние системы через п шагов. Будем предполагать, что цепочка последовательных переходов

ξ(0) → ξ (1) …

зависит от вмешательства случая, причем соблюдается следующая закономерность: если на каком-либо шаге п система находится в состоянии εi, то, независимо от предшествующих обстоятельств, она на следующем шаге с вероятностью pij переходит в состояние εj

ij = Р{ ξ (n+1) = εi/ ξ (п) = εj }, i, j =1, 2, ... (2.1)

Описанная выше модель называется однородной цепью Маркова, а вероятности рij называются переходными вероятностями этой цепи. Кроме них, еше задается начальное распределение вероятностей

oi = P{ξ (0) = εi}, i=1, 2, ... (2.2)

Какова вероятность того, что система через п шагов будет находиться в состоянии εj?

Обозначим эту вероятность pj (n):

j (n) = Р {ξ(n) = εj}. (2.3)

Через п - 1 шагов система обязательно будет находиться в одном из состояний εk, k = 1, 2, ..., причем в εk она будет с вероятностью, обозначенной рк(п - 1). При условии, что через п-1 шагов система будет находиться в состоянии εk, вероятность оказаться через п шагов в состоянии εj равна вероятности рkj перехода из εk в εj. Используя формулу полной вероятности, получаем, что


Это дает следующие рекуррентные соотношения для вероятностей рj(п), j=1, 2, ...:

(n=1, 2, …).

Если в начальный момент система находится в определенном состоянии εi, то начальное распределение вероятностей таково, что р0i= 1, p0k= 0 для k ≠ i а вероятность pi(n) совпадает с вероятностью pij(n) того, что система из состояния εi за п шагов перейдет в состояние εj.

ij(n) = Р{ξ(п) = εj/ξ(0) =εi}, i, j = 1, 2, ... (2.6)

При начальном распределении вида р0i =1, р0k = 0 для k ≠ i формула (2.5) дает следующие соотношения между переходными вероятностями pij(n); i,j =1, 2,... :

(n=1, 2, …)

Удобно ввести матрицу Р(п) = { pij(n)}. Согласно формуле (2.7)

Р(0)= I, Р(1) = Р, Р(2) =Р(1) Р = P2, ...,

где I - единичная матрица, Р = {pij} − матрица переходных вероятностей. Видно, что имеет место следующее равенство:

(n) = Pn (n = 1, 2, …) (2.8)

Рассмотрим несколько примеров

Задача о стопке книг. На письменном столе лежит стопка из m книг. Если обозначить каждую книгу соответствующим номером, то порядок их расположения сверху вниз можно описать перестановкой из т чисел (i1, i2, … … im), где i1 - номер книги, лежащей сверху, i2 - номер следующей книги, ..., iт-номер последней книги, лежащей в самом низу. Предположим, что каждая книга, берется с определенной вероятностью, скажем, книга с номером k берется с вероятностью рk (к=1, ..., m), причем при возвращении она кладется сверху.

Возьмем произвольное состояние (i1, i2, …, im). На следующем шаге оно либо остается неизменным, что происходит с вероятностью при выборе лежащей сверху книги с номером i1 либо меняется на одно из m - 1 состояний вида (ik, i1, ...), что происходит с вероятностью при выборе книги с номером ik. Перед нами цепь Маркова с состояниями, каждое из которых описывается соответствующей перестановкой (i1, i2, … … im), и указанными переходными вероятностями.

Остановимся на случае т = 2. Тогда имеется лишь два состояния: ε1=(1,2) и ε2 = (2, 1). Переходные вероятности имеют вид:

p11=p21=p1, p12=p22=p2

и матрица переходных вероятностей есть


Вероятности перехода за два шага суть

11(2)=p21(2)=p1p1+p2p1=p1(p1+p2)=p1,12(2)=p22(2)= p1p2+p2p2=p2(p1+p2)=p2.

Видно, что Р2 = Р и вообще Рn = Р. При любом начальном распределении вероятностей имеем (n =1, 2, ...)

1(n)= p11(n)+p21(n)=p1(+)=p1,2(n)= p12(n)+p2(n)=p2(+)=p2.

Задача о наилучшем выборе. Положим ξ0(0)=1 и обозначим: ξ(1) - порядковый номер первого предмета, оказавшегося наилучшим среди всех осмотренных ранее; ξ(2)-порядковый номер следующего наилучшего среди всех осмотренных до него предметов и т. д. Цепочка ξ(0)→ξ(1)→ξ(2)... обрывается на некотором ν-м шаге, если предмет с порядковым номером ξ(ν) оказывается абсолютно наилучшим, так что и среди не осмотренных еще предметов нет лучшего. Число ν является случайным, поскольку случайным является сам порядок осмотра. Введем состояния ε1, ε2, …εm, εm+1, охарактеризовав их следующим образом: εi при i=1, …, т означает, что предмет с порядковым номером i (т. е. i-й по счету осмотренный предмет) является наилучшим среди всех ранее осмотренных; εm+1 означает, что уже осмотрен абсолютно наилучший предмет. Если положить ξ(n) = εm+1, при всех п>ν, то последовательность ξ(0)→ξ(1)→ξ(2)... образует цепь Маркова.

Найдем соответствующие переходные вероятности рij Очевидно, рij=0 при i≥j, j≤m, а pm+1, m+1=1. Подсчитаем вероятности pij при i<j≤m. Обозначим εi событие, состоящее в том, что при случайном порядке осмотра j предметов наилучшим среди них является последний j-й предмет. Очевидно, переходные вероятности рij согласно общей формуле () совпадают с условными вероятностями

, i<j≤m.

Очевидно, вероятность события εj совпадает с вероятностью того, что среди всех перестановок из j предметов будет выбрана та, при которой на последнем месте стоит наилучший предмет. Всего различных перестановок имеется j! а тех, при которых на последнем месте оказывается один и тот же фиксированный элемент, имеется (j-1)! Следовательно,

, j=1, …, m.

Вероятность события εiεj совпадает с вероятностью того, что на последнем месте стоит наилучший предмет, а на i-м месте стоит также вполне определенный предмет - второй по качеству среди всех j предметов. Всего имеется (j - 2)! Таких перестановок и, следовательно,

, i<j≤m.

Таким образом, переходные вероятности рij суть


Переходные вероятности pi, m фактически были подсчитаны

, i=1, …, m.

Случайные блуждания. Рассмотрим случайное блуждание, связанное с неограниченными испытаниями Бернулли, когда частица блуждает по целочисленным точкам действительной прямой таким образом, что, находясь в точке i она с вероятностью р переходит на следующем шаге в соседнюю точку i + 1, а с вероятностью q=1-р - в соседнюю точку i-1. Если обозначить ξ(n) положение частицы после п шагов, то последовательность ξ(0) →ξ(1)→ξ(2)... будет цепью Маркова с переходными вероятностями вида


Рассмотрим случайное блуждание другого типа. Частица блуждает лишь по целым неотрицательным точкам, причем из точки i она с вероятностью рi переходит на следующем шаге в соседнюю точку i+1, а с вероятностью qi=1 - pi возвращается в нулевое положение. Соответствующие переходные вероятности суть


2. Возвратные и невозвратные состояния

Рассмотрим цепь Маркова с состояниями ε1, ε2, … и переходными вероятностями рij, i, j=1, 2, … Пусть в начальный момент система находится в состоянии εi. Временно положим un=pij(n) и обозначим υn вероятность того, что через п шагов система впервые вернется в исходное состояние εi. Имеет место следующее равенство:

ип = u0 υn + u1υn-1 + … + un-1υ1 + unυ0, n=1, 2, …,

где дополнительно введены u0= 1 и υ0 = 0.

Оно является следствием общей формулы полной вероятности. Именно, если ввести события Вk-"система через k шагов впервые возвращается в исходное состояние εi", k = 1, …, п, и событие Вп+1-"система ни разу не побывает в состоянии εi в течение первых п шагов", то В1, ..., Bn+1 будет полной системой событий, и вероятность события А - "система через п шагов будет находиться в исходном состоянии εi" - по формуле полной вероятности есть

,

где

(Bk)=υk; P(A|Bk)=un-k, k=1, …, n; P(A|Bn+1)=0.

Если обратиться к производящим функциям

, , |z|≤1,

то отношение (8.8), справедливое при всех п= 1, 2,... , можно записать в виде

, u0=1,

,

Значение


есть вероятность того, что система рано или поздно попадет в исходное состояние εi, иначе υ есть вероятность возвращения в εi. Состояние εi называется возвратным, если вероятность возвращения в него равна 1, и невозвратным, если вероятность эта меньше 1.

. Теорема возвратного состояния

Теорема. Состояние εi является возвратным тогда и только тогда, когда

.

Доказательство. Возвратность состояния εi означает, что

,

Это предельное соотношение равносильно тому, что

.

Но, как легко видеть


Таким образом, возвратность состояния εi равносильна тому, что ряд расходится. Для завершения доказательства остается лишь напомнить, что ип = рii(п).

Теорема. Если исходное состояние εi является возвратным, то система с вероятностью 1 за бесконечное число шагов бесконечно много раз возвратится в εi. Если это состояние является невозвратным, то за бесконечное число шагов система с вероятностью 1 лишь конечное число раз побывает в состоянии εi, другими словами, после некоторого конечного числа шагов она никогда больше не возвращается в εi.

Доказательство. Обозначим ν1 - число шагов до первого возвращения в состояние εi, ν2 - число шагов до второго возвращения и т. д. Если за бесконечное числа шагов происходит меньше k возвращений, то полагаем νk=∞. Событие {νk < ∞} означает, что произошло по меньшей мере k возвращений. Вероятность возвращения есть

.

При условии осуществления события {ν1 < ∞} система через некоторое конечное число шагов ν1 возвращается в исходное состояние εi, после чего ее дальнейшее поведение подчиняется тем же закономерностям, как если бы она только начинала свое движение. Таким образом, вероятность события {ν2< ∞} при условии, что {ν1 < ∞}, будет равна υ:

.

Очевидно, если ν1=∞, то также и ν2=∞. Поэтому

.

Совершенно аналогично при любом k

, .

Невозвратность состояния εi означает, что υ<1. В этом случае

.

и, согласно первой лемме Бореля - Кантелли, с вероятностью 1 может произойти лишь конечное число событий вида {νk < ∞}, т. е. с вероятностью 1 за бесконечное число шагов система лишь конечное число раз побывает в состоянии εi.

Возвратность состояния εi означает, что υ=1. В этом случае при любом k

.

Обозначим х число возвращений за бесконечное число шагов. Очевидно, событие {х ≥ k} тождественно с событием {νk < ∞}, так что, если P{νk < ∞} =1 при всех k, то с вероятностью 1 величина x превосходит любое наперед заданное число k. Это значит, что

.

Теорема доказана.

. Достижимые возвратные состояния

Говорят, что состояние εj достижимо из εi, если за некоторое число шагов система с положительной вероятностью переходит из εi в εj т. е. pij(M)>0 при некотором М.

Пусть εi - возвратное состояние εj достижимо из εi. Тогда εi в свою очередь достижимо из εj, так как в противном случае, выходя из εi система за М шагов с положительной вероятностью рij (М)=α>0 попадает в состояние εj, после чего уже не может вернуться в εi; таким образом, вероятность возвращения в εi будет не больше, чем 1-α, а это противоречит возвратности εi. Итак, если εj достижимо из возвратного состояния εi, то в свою очередь εi достижимо из εj, т. е. pij(N)=β>0 при некотором N. Как следует из формулы (8.7), при любом п

,

откуда

,

.

Эти неравенства показывают, что ряды

,

сходятся или расходятся одновременно. Согласно условию (8.11), для возвратного состояния εi ряд расходится. Поэтому также и


Следовательно, состояние εj является возвратным. Мы пришли к следующему результату.

Теорема. Если состояние εj достижимо из возвратного состояния εi, то εj также является возвратным, причем εi в свою очередь достижимо из εj.

Следствие. Если цепь Маркова имеет лишь конечное число состояний, причем каждое из них достижимо из любого другого состояния, то все они являются возвратными.

Действительно, если имеется лишь конечное число состояний, то за бесконечное число шагов хотя бы в одном из них система обязательно побывает бесконечное число раз. Следовательно, хотя бы одно состояние является возвратным, а поскольку по условию из него можно с положительной вероятностью перейди в любое другое состояние, все они будут возвратными.

5. Примеры решения задач

Задача о стопке книг. Очевидно, если каждая книга выбирается с положительной вероятностью, т. е. pi>0 при всех i=1,..., т, то любое состояние достижимо из каждого другого состояния. Всего имеется т! различных состояний (i1, …, im) и все они будут возвратными. Если pi = 0 при некотором i то все состояния вида(i1, …, im), где i1=i (книга с номером i лежит на самом верху), являются невозвратными, так как после первого же шага выбирается некоторая книга с номером j, отличным от i, и книга с номером i, никогда не вынимаемая из стопки, опускается ниже.

Задача о наилучшем выборе. Очевидно, через некоторое число шагов, не больше т (т - число всех имеющихся предметов), система попадает в состояние еm+1, в котором остается навсегда. Таким образом, все состояния, кроме еm+1, являются невозвратными.

Случайные блуждания. Рассмотрим случайное блуждание, при котором частица из каждой целочисленной точки i на следующем шаге с вероятностью р переходит в соседнюю точку j=i - 1, а с вероятностью q - в точку j=i - 1. Ясно, что каждое состояние достижимо из любого другого состояния и (см. формулу (6.0))


Используя формулу Стирлинга, при п→∞ получаем


где


причем знак равенства имеет место лишь при р = q=. Таким образом, при п→∞

,

откуда следует, что ряды

и

сходятся или расходятся одновременно. При р ≠ q, когда 4pq<1, ряд сходится, и следовательно, каждое состояние i является невозвратным. Интуитивно ясно, что, например, при р>q блуждающая частица постепенно будет уходить все дальше и дальше в положительном направлении, рано или поздно навсегда покидая любое фиксированное состояние i. При неограниченно продолжающемся симметричном случайном блуждании, когда р = q=, частица бесконечное число раз возвращается в каждое из состояний.

Рассмотрим теперь случайное блуждание, при котором частица из неотрицательной целой точки i на следующем шаге с вероятностью рi смещается в соседнюю точку j = i + 1, а с вероятностью qi = 1-рi переходит в нулевую точку j = 0. Очевидно, если все вероятности рi таковы, что 0<pi<1, то все состояния являются достижимыми одно из другого. Все они будут возвратными или невозвратными.

Предположим, что система находится в состоянии i=0. Вероятность того, что за последующие п шагов она ни разу не вернется в исходное положение i = 0, равна произведению p0p1 …pn-1 - вероятности того, что система последовательно пробегает цепочку состояний 0→1→...→п. Легко видеть, что вероятность за бесконечное число шагов ни разу не вернуться в исходное состояние i = 0 равна бесконечному произведению

.

Если это бесконечное произведение сходится к нулю: lim p0р1 ...рп = 0, то состояние i = 0 (а вместе с ним и все остальные) является возвратным. В противном случае вероятность возвращения есть


и состояние i=0 (а вместе с ними все остальные) является невозвратным.

К этому результату можно прийти и другим путем, непосредственно рассматривая вероятности υk впервые вернуться в исходное состояние 0 ровно через k шагов. Очевидно, частица впервые возвращается в состояние 0 на k-м шаге, если она на первых k - 1 шагах последовательно переходит из состояния i-1 в i (с вероятностями рi-1, i=1, ..., k - 1), и потому

, ; k= 2, 3, ...

Вероятность возвращения в исходное состояние 0 по определению равна суммеесть

.

Рассмотрим цепь Маркова с конечным числом состояний ε1, ε2, …, εm, каждое из которых достижимо из любого другого состояния. Более того, предположим, что существует такое N. что за N шагов система с положительной вероятностью может перейти из каждого состояния εi в любое


Теорема. Вероятности pj (п), с которыми через п шагов система будет находиться в соответствующих состояниях εj, j = 1, …, т, при п→∞ имеют предельные значения

.

Указанные финальные вероятности j= 1, …, т, не зависят от начального распределения и, более того,

,

где С и D - некоторые положительные постоянные.

Доказательство. Положим

, .

Имеем


Таким образом, получаем следующую цепочку неравенств:


Для любых состояний εα и εβ


где означает суммирование по всем тем k, при которых разность рαk(N)-рβk(N) является положительной, а -суммирование по всем тем k, при которых разность рαk(N)-рβk(N) является отрицательной. Очевидно, в силу условия (8.12)


Используя полученные соотношения, оценим разность . Имеем


Отсюда, вытекает, что

, k=1, 2, ...

Последовательность rj(n), n=1, 2, ..., монотонно возрастает, а последовательность rj(n), n =1, 2, ..., монотонно убывает, причем . Полученная выше оценка разности показывает, что эти последовательности имеют один и тот же предел :


Очевидно,


При любом начальном распределении , i=1,..., m, имеем

Полученные оценки, конечно, можно переписать в виде(8.14) соответствующих постоянных С и D, полагая

,

Теорема доказана.

Финальные вероятности , j = 1, ..., т, являются решением следующей системы линейных уравнений:

j =1, … ,т. (8.15)

Эти уравнения получаются, если в формуле (8.4), согласно которой


перейти к пределу при n→∞.

Рассмотрим произвольную цепь Маркова с состояниями ε1, ε2, … и числа , i=1, 2..., такие, что

,

j=1, 2, …

Взяв , i=1, 2, ..., в качестве начального распределения вероятностей, будем иметь следующие вероятности pj(п) для нахождения системы в соответствующих состояниях εj через п шагов:


Видно, что вероятности рj (п) остаются неизменными:

, j = 1, 2, .... (8.18)

каково бы ни было i=1, 2, ...

Цепь Маркова называется стационарной, если вероятности , j = 1, 2, .... остаются неизменными при всех n = 0, 1, ...; стационарным называется и соответствующее распределение вероятностей , j = 1, 2, .... Согласно формуле (8.4) распределение вероятностей , j=1, 2, ..., является стационарным тогда и только тогда, когда оно удовлетворяет системе уравнений (8.17).

Если при любом начальном, распределении существуют одни и те же финальные вероятности , то стационарное распределение единственно: , j=1, 2, … Полученные выше результаты могут быть соединены в следующую теорему.

Теорема. При условии (8.12) финальные вероятности j=1, ..., m , являются единственным решением системы линейных уравнений (8.15), удовлетворяющим дополнительному требованию вида , и образуют стационарное распределение вероятностей.

Остановимся на рассмотренных ранее примерах.

Задача о стопке книг. Как показывают проведенные ранее расчеты, для т = 2 стационарное распределение вероятностей возникает уже на первом шаге:

,

при всех n=1, 2, ... и любом начальном распределении вероятностей.



где перестановка получается из выбором некоторого и перестановкой его на первое место.

Финальные вероятности являются решением следующей системы линейных уравнений:


Через достаточно большое число шагов практически устанавливается стационарное распределение вероятностей, т. е. стопка книг будет с неизменными вероятностями занимать соответствующие положения .Естественно спросить, с какой вероятностью каждая из имеющихся книг оказывается лежащей сверху?

Вероятность того, что сверху лежит книга с номером i, есть, очевидно,

,

где берется сумма по всем состояниям, в которых на первом месте стоит i.

Из уравнений для финальных вероятностей получаем, что

, i=1, …, m.

т. е. финальная вероятность находиться сверху книге с номером i равна той вероятности pi с которой эта книга выбирается. Таким образом, чем чаще берется та или иная книга, тем с большей вероятностью она будет находиться сверху.

Заключение

Тема курсовой работы " Цепи Маркова в теории вероятности и их приложения". В курсовой работе были рассмотрены вопросы:

.Основные понятия теории марковских цепей.

. Возвратные и невозвратные состояния.

. Теорема о возвратном состоянии.

. Достижимые возвратные состояния.

. Примеры решения задач.

Марковские случайные процессы названы по имени выдающегося русского математика А.А.Маркова (1856-1922), впервые начавшего изучение вероятностной связи случайных величин и создавшего теорию, которую можно назвать "динамикой вероятностей". В дальнейшем основы этой теории явились исходной базой общей теории случайных процессов, а также таких важных прикладных наук, как теория диффузионных процессов, теория надежности, теория массового обслуживания и т.д. В настоящее время теория марковских процессов и ее приложения широко применяются в самых различных областях.

Благодаря сравнительной простоте и наглядности математического аппарата, высокой достоверности и точности получаемых решений, особое внимание марковские процессы приобрели у специалистов, занимающихся исследованием операций и теорией принятия оптимальных решений

Список использованной литературы

1. Кельберт М. Я., Сухов Ю. М. Вероятность и статистика в примерах и задачах. Т. ІІ: Марковские цепи как отправная точка теории случайных процессов и их приложения <http://www.statslab.cam.ac.uk/%7Eyms/KS2.pdf>. М.: МЦНМО, 2009. - 295 с.: ил.

. Марков А. А., Распространение закона больших чисел на величины, зависящие друг от друга. - Известия физико-математического общества при Казанском университете. - 2-я серия. - Том 15. (1906) - С. 135-156.

. Kemeny J. G., Snell J. L., Finite Markov chains. - The University Series in Undergraduate Mathematics. - Princeton: Van Nostrand, 1960 (перевод: Кемени Дж. Дж., Снелл Дж. Л. Конечные цепи Маркова. - М.: Наука. 1970. - 272 с.)

. Чжун Кай-лай, Однородные цепи Маркова. Перев. с англ. - М.: Мир, 1964. - 425 с.

. Нуммелин Э., Общие неприводимые цепи Маркова и неотрицательные операторы. - М.: Мир, 1989. - 207 с.

6. Morimoto T., Markov processes and the H-theorem. - J. Phys. Soc. Jap. 12 (1963), 328-331.

7. Яглом А. М. <http://ru.wikipedia.org/wiki/%D0%AF%D0%B3%D0%BB%D0%BE%D0%BC,_%D0%90%D0%BA%D0%B8%D0%B2%D0%B0_%D0%9C%D0%BE%D0%B8%D1%81%D0%B5%D0%B5%D0%B2%D0%B8%D1%87>, Яглом И. М. <http://ru.wikipedia.org/wiki/%D0%AF%D0%B3%D0%BB%D0%BE%D0%BC,_%D0%98%D1%81%D0%B0%D0%B0%D0%BA_%D0%9C%D0%BE%D0%B8%D1%81%D0%B5%D0%B5%D0%B2%D0%B8%D1%87>, Вероятность и информация <http://ilib.mirror1.mccme.ru/djvu/yaglom/verojatnost.htm>. - М., Наука, 1973. - 512 с.

. Рудой Ю. Г., Обобщенная информационная энтропия и неканоническое распределение в равновесной статистической механике <http://mi.mathnet.ru/tmf178>, ТМФ, 135:1 (2003), 3-54.

. Романовский И.В. Дискретный анализ: Учебное пособие для студентов, 3-е изд. <http://rain.ifmo.ru/cat/view.php/books/romanovsky-2003> - СПб: Невский Диалект; БХВ Петербург, 2003.

. Таха, Хэмди А. Введение в исследование операций, 6-е изд. <http://rain.ifmo.ru/cat/view.php/books/taha-2001> - М.: Издательский дом "Вильямс", 2001.

. Вернер М. Основы кодирования. Учебник для ВУЗов. <http://rain.ifmo.ru/cat/view.php/books/werner-2004> - М.: Техносфера, 2004.

Похожие работы

 

Не нашел материала для курсовой или диплома?
Пишем качественные работы
Без плагиата!