WWW.DISSERS.RU

БЕСПЛАТНАЯ ЭЛЕКТРОННАЯ БИБЛИОТЕКА

   Добро пожаловать!

Pages:     | 1 |   ...   | 3 | 4 || 6 | 7 |   ...   | 20 |

2.1.2. Информативные структуры статистических систем Накопленной статистической информации, недостаточной для сколько нибудь достоверной оценки истинного совместного рас пределения вероятностей случайного вектора, обычно вполне дос таточно для обоснованной оценки с приемлемыми точностью и на дежностью частных распределений вероятностей существенно меньшей размерности. При отсутствии дополнительных сведений об истинном многомерном распределении вероятностей естест венно считать, что экстракт информации из накопленного стати стического материала представляет собой наилучшее (в некото ром точно определенном заранее смысле, целесообразном с ин формационной точки зрения) приближение искомого совместного распределения вероятностей большой размерности композицией его частных распределений вероятностей небольшой размерно сти. В содержательных терминах принятое допущение означает, что непосредственные связи между элементами сложной стати Подробное изложение свойств структур имеется в приложении к работе (Гаври лец, 1974). Методы построения структур для некоторых частных классов статисти ческих систем приведены, например, в работах (Корчемная, 1978); (Родионов, 1978; 1980; 1982); (Сенченко, 1982); (Харчук, 1975); (Юдин, 1976) и др. В работе (Зайцева, 1984) показана связь теории структур случайных векторов с другими ме тодами многомерного статистического анализа, такими как лог линейный анализ, факторный анализ и пр.

стической системы, содержащей большое количество элементов, определяются главным образом внутренними связями некоторого числа ее «базовых» подсистем существенно меньшей размерно сти.

Отсутствие априорных гипотез, основанных на качественном анализе, практически исключает возможность установления зако номерностей состояния и поведения сложной системы на основе данных статистического исследования. Объем наблюдений, необ ходимых для сколько нибудь надежной аппроксимации совместно го распределения вероятностей компонент случайного вектора – модели статистической системы – и даже для определения суще ственных непосредственных связей между элементами рассмат риваемой системы, астрономически велик и быстро (экспоненци ально) растет с ростом размерности системы.

Будем называть статистическую систему размерности n систе мой существенной размерности k (или системой k существенной размерности), если эта система допускает выделение небольшого числа подсистем размерности не выше k таким образом, что все непосредственные связи между элементами системы определя ются только непосредственными связями между элементами вы деленных подсистем. Следует полагать, что весьма многие слож ные системы могут быть рассмотрены, по крайней мере, в первом приближении как статистические системы k существенной раз мерности, где k относительно мало. Это объясняется иерархично стью сложных систем, их гибкостью или высоким разнообразием (откуда следует не слишком большое число непосредственных связей, так как при прочих равных условиях разнообразие системы тем выше, чем меньше в ней непосредственных связей) и естест венной возможностью агрегирования элементов системы по огра ниченному числу признаков (например, по числу функций, выпол няемых системой).

Определение классов n мерных статистических систем k существенной размерности поддается относительно простой формализации. Статистическая система размерности n относится к классу систем существенной размерности k, если совместная функция распределения вероятностей моделирующего ее случай ного вектора может быть представлена в виде композиции некото рых ее маргинальных распределений вероятностей размерности не выше k. Частные распределения вероятностей, определяющие эту композицию, есть совместные распределения вероятностей случайных векторов, моделирующих выделенные k мерные под системы изучаемой статистической системы.

Приведем формальное определение существенной размерно сти статистической системы. Пусть статистическая система инду цирует некоторый случайный вектор. Тогда при любой переста n новке {i} индексов I = {1,…, n} совместное распределение веро i=ятностей p(x) случайного вектора может быть представлено в ви де декомпозиции n p(x)= p(xi x1,..., xi-1). (2.4) i=При этом каждый сомножитель декомпозиции (2.4) может быть представлен как p(x x,..., x )= p(x x( )). Таким образом, де i 1 i-1 i i композиция (2.4) может быть переписана в виде n p(x) = p(x x( )). (2.5) i i i=Существенной размерностью статистической системы, инду цирующей случайный вектор с совместным распределением ве роятностей p(x), будем называть максимальную размерность со множителей декомпозиции (2.5), отвечающей такой перестановке n {i} индексов I = {1,…, n}, при которой она минимальна, т.е. число i=k такое, что k = min max (i ) +1. (2.6) n {i }i=1 1in Множество n мерных случайных векторов (статистических сис тем, моделируемых этими векторами) существенной размерности k, или случайных n мерных векторов (статистических систем) k существенной размерности, будем обозначать Pk,n.

Здесь и далее будем полагать, что уже известны все k мерные (k << n) частные распределения вероятностей искомой n мерной случайной величины. Обозначим через Pk,n(p) множество n мерных распределений вероятностей существенной размерности k, т.е.

n ~ p(x) = p(x | x( )), i i n ~ i =Pk,n(p)= p(x){i} : (2.7) i =1 i - (i ) }, (i ) < k,i U{ j j = Таким образом, множество Pk,n(p) содержит все n мерные слу чайные величины, совместные распределения которых могут быть получены как композиции k мерных частных распределений веро ятностей n мерного случайного вектора, индуцированного ис следуемой статистической системой. Другими словами, можно дать следующее, эквивалентное (2.7), определение множества Pk,n(p):

Pk,n(p) = {~(x) Pk,n ~, x( ))= p(x, x( ))}. (2.8) p p(x i i i i Естественно, что конструктивные методы количественного и ка чественного анализа можно ожидать только для статистических систем с k << n, т.е. для систем с малой существенной размерно стью. Интуитивно представляется правдоподобным, что многие сложные кибернетические системы высокой размерности либо сами являются статистическими системами невысокой сущест венной размерности, либо, по крайней мере, достаточно хорошо аппроксимируются такими системами.

В качестве характеристики непосредственных связей статисти ческих систем будем рассматривать их информативные структуры (Юдин, 1977). Грубо говоря, информативные структуры k го по рядка – это структуры случайных векторов k существенной раз мерности, ближайших в смысле минимума различающей инфор мации к модели исследуемой статистической системы. Другими словами, информативная структура k го порядка n мерного слу чайного вектора - это существенная структура случайного векто ра, совместное распределение вероятностей p(x) которого удов летворяет следующим свойствам. Оно является, во первых, композицией k мерных частных распределений вероятностей ис ходного случайного вектора и, во вторых, ближайшим в смысле минимума различающей информации к неизвестному распреде лению вероятностей p(x) случайного вектора, моделирующего изучаемую статистическую систему. Соответствующее распреде ление вероятностей p(x) называется информативной аппроксима цией k го порядка истинного распределения вероятностей. Все k мерные маргинальные распределения предполагаются известны ми, или же их можно построить по имеющемуся статистическому материалу с достаточной степенью достоверности и надежности.

Определение информативной структуры вводится с опорой на понятие структуры случайного вектора. Это связано с двумя фак торами. Во первых, само понятие информативной структуры воз никло в связи с попытками формирования общего метода по строения структур. Во вторых, и это главное, тот факт, что инфор мативная структура статистической системы является в некотором смысле ее приближенной структурой, а точнее – структурой приближенной модели, позволяет использовать все положительные качества понятия «структура случайного вектора» и все соответствующие результаты.

Если известна декомпозиция совместного распределения ве роятностей исследуемого случайного вектора, определяющая его существенную размерность, то построение структуры соответст вующей статистической системы является достаточно простым делом. Воспользуемся этим обстоятельством для построения при ближенных совместных распределений вероятностей и структур случайных векторов. Сформулируем задачу аппроксимации со вместного распределения вероятностей случайного вектора ком позицией его частных распределений вероятностей, имеющих размерность не выше заданной, в формальных терминах17.

Будем строить приближенную модель статистической системы, моделью которой является случайный вектор с совместным рас пределением вероятностей p(x), в классе случайных векторов Pk,n(p). Степень близости многомерных распределений вероятно стей p(1)(x) и p(2)(x) (случайных векторов (1) и ( 2) с совместными распределениями вероятностей p(1)(x) и p(2)(x) соответственно, а значит, и моделируемых ими систем) будем оценивать по величи не информационного расхождения (Kullback, Leiber, 1951).

Такой подход часто используется в теории распознавания образов. В работе (Chow, 1970) получены результаты, аналогичные построению информативных структур второго порядка.

I(p(1) : p(2))= p(1)(x)ln p(1)(x). (2.9) ln p(2)(x) xX Здесь, естественно, предполагается, что случайные величины (1) и (2) с совместными распределениями вероятностей p(1)(x) и p(2)(x) соответственно принимают значения на одном и том же мно жестве X. Мера различающей информации представляет собой направленное расстояние18.

Тогда в принятых нами обозначениях задача построения при ближенного распределения вероятностей случайного вектора мо жет быть сформулирована следующим образом.

* Требуется найти распределение вероятностей p (x) из множест ва Pk,n(p) такое, что оно является ближайшим по мере близости ~ I(p : p) к искомому распределению вероятностей p(x) среди всех ~ распределений вероятностей p(x)Pk,n(p). Другими словами, при ближенное распределение вероятностей p*(x) k существенной размерности n мерного распределения вероятностей p(x) являет ся решением задачи математического программирования ~ ~ min{I(p : p) p(x) Pk,n(p)}, т.е. (2.10) ~ p(x)= arg min{I(p : p)~(x) Pk,n(p)}. (2.11) p Придадим задаче (2.10) более конструктивную форму. Для это го введем «параметры управления»: матрицу Z = ziA размерности k nCn -1 и вектор y = (y1,…, yn). Рассмотрим множества пар (Z, y), удовлетворяющих условиям:

(2.12) iA z 1,i I = {1,..., n}, AN yi - ziA max y 1, A N,i I, (2.13) j jA ziA {0, 1}, A N, i I, (2.14) y Y, (2.15) где Y = {yyi Y : yi yj, i j}; A I – подмножество индексов из I;

N = {A I A = k – 1}.

Свойства меры различающей информации подробно изложены в работе (Кульбак, 1967).

Задача (2.10) – задача нахождения наилучшей аппроксимации (2.11) многомерного распределения вероятностей p(x) распреде лением вероятностей существенной размерности k – сводится к решению следующей задачи дискретного программирования (Юдин, 1979): найти минимум функционала (2.9) при выполнении условий (2.11)-(2.15).

По решению (Z*, y*) задачи (2.9), (2.12)-(2.15) восстанавливает ся аппроксимирующее распределение вероятностей по формуле n p(x) = p(xi x(i)), (2.16) i=где множество (i) определяется по решению задачи (2.9), (2.12)-(2.15) следующим образом:

(i) = {j I j A N : zia = 1}. (2.17) Будем называть распределение вероятностей p*(x) Pk,n(p), по лученное в результате решения задачи (2.9), (2.12)-(2.15), в соот ветствии с (2.16)-(2.17) информативной аппроксимацией k го по рядка распределения вероятностей p(x) случайного вектора.

Введем еще одно определение. Пусть p*(x) Pk,n(p) – информа тивная аппроксимация k го порядка n мерного распределения ве роятностей p(x) случайного вектора, полученная в результате решения задачи (2.10). Назовем информативной структурой k го порядка n мерной случайной величины граф с матрицей смеж ности S = sij, где 1, j (i)U -1(i)\ {i}, sij = (2.18) {i}.

0, j (i)U -1(i)\ Здесь –1(i) = {j Ii (j)}.

Справедливо следующее утверждение (Юдин, 1977).

Теорема 1. Распределение вероятностей p*(x) Pk,n(p) является информативной аппроксимацией k го порядка распределения ве роятностей p(x) в том и только в том случае, если матрица Z*, свя занная с p*(x) соотношением (2.18), является компонентой реше ния задачи максимизации функционала n L(Z)= (2.19) iA I ziA i=1 AN при ограничениях (2.20) iA z 1,i I = {1,...,n}, AN yi - ziA max y 1, A N,i I, (2.21) j jA ziA {0, 1), A N, i I, (2.22) y Y. (2.23) Здесь IiA = I(i, A).

При этом граф с матрицей смежности S = sij, где 1,A :(j A ziA = 1)(i A z 1), = jA sij = (2.24) (j (i = 0,A A ziA = 0) A z 0), jA является информативной структурой k го порядка случайного век тора с совместным распределением вероятностей p(x).

Для построения информативных структур статистических сис тем разработаны различные методы. В работе (Юдин, 1977) пред ложен общий метод направленного перебора (типа метода ветвей и границ) построения информативных структур произвольного по рядка. Метод построения информативных структур второго поряд ка (эквивалентный методу решения задачи о соединении городов) разработан в работе (Юдин, 1980). Обобщение этого метода по зволило построить асимптотически оптимальный метод прибли женного построения информативных структур (Юдин, 1981), кото рый также является методом решения обобщенной задачи о со единении городов и приближенного решения задачи Штейнера.

2.1.3. Сложность статистических систем Говоря о сложности социально экономических явлений и про цессов, обычно ориентируются главным образом на интуитивное понимание термина «сложность». Ясно, однако, что понятие «сложность системы» станет полезным не только для качественных обсуждений, но и для количественных оценок только после того, как оно получит формальное определение, позволяющее измерять или, по крайней мере, оценивать сложность различных систем и сравнивать их между собой по сложности. В последние годы этому вопросу уделяется большое внимание как в математической логи ке, так и в различных прикладных дисциплинах. (Подробнее об этом см., например, (Д. Юдин, А. Юдин, 1985)).

Следует полагать, что вряд ли возможно характеризовать слож ность широкого спектра различных явлений и процессов некоторым единым универсальным показателем. В различных задачах играют большую или меньшую роль те или иные аспекты сложности.

Pages:     | 1 |   ...   | 3 | 4 || 6 | 7 |   ...   | 20 |



© 2011 www.dissers.ru - «Бесплатная электронная библиотека»

Материалы этого сайта размещены для ознакомления, все права принадлежат их авторам.
Если Вы не согласны с тем, что Ваш материал размещён на этом сайте, пожалуйста, напишите нам, мы в течении 1-2 рабочих дней удалим его.