Энтропия динамической системы

В теории динамических систем, энтропия динамической системы — число, выражающее степень хаотичности её траекторий. Различают метрическую энтропию, описывающую хаотичность динамики в системе с инвариантной мерой для случайного выбора начального условия по этой мере, и топологическую энтропию, описывающую хаотичность динамики без предположения о законе выбора начальной точки.

При этом, вариационный принцип утверждает, что для непрерывной динамической системы на компактном множестве, топологическая энтропия равна супремуму метрических, взятому по всем возможным выборам инвариантных мер данной системы.

Определения

Топологическая энтропия

Пусть задано непрерывное отображение T метрического компакта (X,d) в себя. Тогда, метрика $d_n$ на X определяется как

$d_n(x,y)=\max_{0\le j \le n} d(T^j(x),T^j(y)),$

иными словами, это максимальное расстояние, на которое орбиты x и y расходятся за n итераций. Далее, для заданного $\varepsilon>0,$ говорят, что множество — $(n,\varepsilon)$-отделённое, если попарные $d_n$-расстояния между его точками не меньше $\varepsilon$, и мощность наибольшего такого множества обозначается через $N(n,\varepsilon)$. Тогда, топологической энтропией отображения T называется двойной предел

$h(T)=\lim_{\varepsilon\to 0} \limsup_{n\to\infty} \frac{1}{n} \log N(n,\varepsilon).$

Эта же величина может быть определёна иначе: если обозначить через $M(n,\varepsilon)$ мощность наименьшей $\varepsilon$-сети, то

$h(T)=\lim_{\varepsilon\to 0} \limsup_{n\to\infty} \frac{1}{n} \log M(n,\varepsilon).$

Эквивалентность этих определений легко выводится из неравенств $N(n,\varepsilon)\le M(n,\varepsilon) \le N(n,\varepsilon/2).$ Стоит отметить, что и то, и другое определение формализуют следующее нестрогое понятие: для неизвестной начальной точки, какое количество информации нужно получить в расчёте на одну итерацию, чтобы предсказать большое количество итераций с небольшой фиксированной ошибкой.

Метрическая энтропия

Пусть$(X,T,\mu)$ — сохраняющая меру измеримая динамическая система. По определению, энтропией разбиения $X=\bigcup_{j=1}^n \xi_j$ называется число

$H(\xi):=\sum_{j=1}^n - \mu(\xi_j) \log \mu(\xi_j),$

определяющее информационную энтропию определения элемента разбиения, содержащего $\mu$-случайную точку.

Итерационные измельчения разбиения $\xi$,

$\xi^{(k)}=\left\{\xi_{i_1}\cap T^{-1}(\xi_{i_2}) \cap\dots\cap T^{-k+1}(\xi_{i_k}) \mid 1\le i_1,\dots,i_k\le n \right\}$

определяют, в каких элементах $\xi$ оказывается точка на протяжении k итераций, а, соответственно, величина

$h_{\mu}(T,\xi)= \lim \frac{1}{k} H(\xi^{(k)})$

выражает информационную энтропию такого процесса. Наконец, метрическая энтропия отображения T по мере $\mu$ определяется как точная верхняя грань $h_{\mu}(\xi)$ по всевозможным разбиениям $\xi$:

$h_{\mu}(T):=\sup_{\xi} h_{\mu}(T,\xi).$

Литература

• А. Б. Каток, Б. Хасселблат. Введение в современную теорию динамических систем = Introduction to the Modern Theory of Dynamical Systems / пер. с англ. А. Кононенко при участии С. Ферлегера. — М.: Факториал, 1999. — 768 с. — ISBN 5-88688-042-9