WWW.DISSERS.RU

БЕСПЛАТНАЯ ЭЛЕКТРОННАЯ БИБЛИОТЕКА

   Добро пожаловать!

Pages:     | 1 |   ...   | 2 | 3 || 5 | 6 |   ...   | 15 |

ДАС с зависимым стимулированием Если стимулирование АЭ в каждом периоде зависит как от его действия в этом периоде, так и от его действий во всех предыдущих t t периодах, то есть = (y1,t), то в соответствии с принципом компенсации затрат оптимальной будет система стимулирования ct (xt ), если yi = xi, i = 1,t t (1) (x1,T, y1,t) =, t = 1,T, K 0, в оcтальных случаях где оптимальная плановая траектория определяется как и в ДАС с несвязанными периодами (см. выше):

T (2) x1,T = arg max1,T {H t(yt) – ct(yt)}.

y1,T A t =ДАС с зависимыми затратами Как отмечалось выше, под связанными (зависимыми) затратами в ДАС будем понимать такие функции затрат АЭ, которые в каждом периоде зависят не только от действия АЭ в этом периоде, но и от его действий во всех предыдущих периодах, то есть ct = ct(y1,t).

Введем следующее предположение относительно свойств функции затрат АЭ.

А.2’. t = 1,T 1) функция ct( ) непрерывна по всем переменным; 2) y1,t A1,t ct(y1,t) не убывает по yt, t = 1,T ; 3) y1,t A1,t ct(y1,t) 0, t = 1,T ; 4) y1,t-1 A1,t-1 ct(y1,t-1, 0) = 0, t = 2,T.

Если центр сообщает недальновидному АЭ управление в каждом периоде (текущий режим управления – см. выше), то в соответствии с принципом компенсации затрат оптимальной будет система стимулирования ct (x1,t ), если yt = xt t (3) (x1,T, yt) =, t = 1,T, K 0, в оcтальных случаях где оптимальная плановая траектория определяется как решение следующей задачи:

T (4) x1,T = arg max1,T {Ht(yt) – ct(y1,t)}.

y1,T A t =Если АЭ полностью дальновиден, а центр использует программный режим управления, то есть сообщает АЭ до начала первого периода управление сразу на все T периодов, то оптимальной будет система стимулирования ct (xt, y1,t -1), если yt = xt t (x1,T, yt) =, t = 1,T.

K 0, в оcтальных случаях Пример 3. Пусть T = 2, H t(yt) = yt, ct(yt) = (yt – yt-1)2/2rt, At = 1, t = 1, 2. Решение задачи (4) имеет вид: x1 = (1 + ) r1, + x2 = r2 + (1 + ) r1 и при = 0 переходит в решение, оптимальное в соответствующей ДАС с несвязанными периодами (см. пример 2). • ДАС со связанным доходом Если доход центра в каждом периоде зависит от действий АЭ, выбранных в данном и всех предыдущих периодах, то оптимальной будет следующая плановая траектория:

T (5) x1,T = arg max1,T {Ht(y1,t) – ct(yt)} y1,T A t=при компенсаторной функции стимулирования ct (xt ), если yt = xt t (6) (xt, yt) =, t = 1,T.

K 0, если yt xt ДАС со связанными ограничениями Пусть множество допустимых действий АЭ в периоде t зависит от его действий в предыдущих периодах, то есть At = At(y1,t-1), t = 2,T, множество A1 считается фиксированным. Тогда, используя систему стимулирования (6), центр определяет оптимальную плановую траекторию как решение следующей задачи оптимального согласованного планирования T (7) x1,T = arg max1,T {H t(yt) – ct(yt)}, y1,T A0 t=где (8) A0, = {y1, A1, | yt At(y1,t-1), t = 1, }, = 1,T.

Пример 4. Пусть T = 2, H t(yt) = yt, ct(yt) = (yt)2/2rt, t = 1, 2, A1 = 1, A2(y1) = [y1; + ]. Фиксируем y1 0, тогда оптимальный + r2, y1 rплан x2(y1) на второй период равен: x2(y1) =. Следова y, y1 rтельно, решение задачи (7) имеет вид:

(r1, r2), r1 rx1,2 =. • (2r r2 /(r1+r2 ), 2r1r2 /(r1+r2 )), r1 rОбщая модель детерминированной ДАС Итак, из рассмотрения четырех описанных выше частных моделей детерминированных ДАС со связанными периодами можно сделать качественный вывод, что для решения соответствующих задач стимулирования, наряду с принципом компенсации затрат, приходится использовать обобщения1 принципа оптимальности В случае полностью зависимых периодов непосредственное использование принципа Беллмана неэффективно, так как условно оптимальные управления на последнем шаге (в последнем периоде) в общем случае должно параметрически зависеть от управлений во всех предыдущих периодах (так как присутствует «последействие»), начиная с первого.

Беллмана (см. примеры 3 и 4), что качественно отличает их от модели ДАС с несвязанными или со слабо связанными периодами, в которых применение принципа компенсации затрат сводило задачу управления к стандартной задаче условной оптимизации.

Выше мы рассмотрели четыре модели ДАС, отличающиеся от ДАС с несвязанными периодами «связанностью» периодов по одной из компонент (стимулирование, затраты, доход, допустимые множества). Можно было бы последовательно продолжать усложнение моделей, рассматривая попарные комбинации «связанных» компонент (таких моделей было бы 6), затем комбинации из трех «связанных» компонент (таких моделей было бы 4) – по аналогии с тем как это делалось для АС с распределенным контролем в [60].

Но анализ первых четырех моделей свидетельствует, что решение задачи стимулирования в них имеет простой вид, поэтому сформулируем сразу задачу стимулирования в детерминированной ДАС со связанными стимулированием, затратами, доходом и допустимыми множествами.

t t Пусть = (y1,t), ct = ct(y1,t), Ht = Ht(y1,t), At = At(y1,t), t = 1,T, а центр и АЭ полностью дальновидны и центр использует программный режим управления.

Принцип Беллмана в явном виде эффективен, если параметры каждого периода зависят только от параметров предыдущего периода, то есть, например, At = At(yt-1), ct = ct(yt, yt-1), H t = H t(yt, yt-1) и т.д. Такая «неполная» зависимость параметров во многих случаях достаточно хорошо отражает специфику ДАС. Однако, в настоящей работе мы не будем обращать внимания на «вычислительные» трудности, считая задачу управления решенной если она сведена к известной оптимизационной (пусть даже достаточно сложной и требующей дополнительного исследования методов ее решения) задаче. Принцип компенсации затрат разделяет исходную задачу на две составляющих – задачу согласованного стимулирования, решением которой является (9), и задачу согласованного планирования (10). Если методы решения первого класса задач (задач согласованного планирования) для детерминированных АС хорошо известны [6, 18, 19], то в ДАС основную сложность представляет решение именно задач согласованного планирования. При этом желательно не только свести ту или иную задачу планирования к известной оптимизационной задаче, но и проанализировать зависимость свойств ее решения от параметров модели ДАС (см. теоремы 5, 6, 7).

Теорема 1. Если выполнены предположения А.0, А.1, А.2’, А.и А.4, то при использовании центром системы стимулированияct (x1,t ), если yi = xi, i = 1,t t (9) (x1,T, y1,t) =, t = 1,T, K 0, в оcтальных случаях где оптимальная плановая траектория определяется:

T (10) x1,T = arg max1,T {Ht(y1,t) – ct(y1,t)}, y1,T A0 t =а A0, – выражением (8). Действия АЭ при этом совпадут с планами и эффективность стимулирования K0 будет максимально возможной, где T K0 = max1,T {Ht(y1,t) – ct(y1,t)}.

y1,T A0 t =Доказательство2. Задача стимулирования заключается в выборе 1,T центром системы стимулирования ( ), которая максимизировала бы его целевую функцию, учитывающую в силу полной дальновидности центра все T периодов.

T 1,T 1 1 (11) ( ( ), y*,T ) = {H t( y*,t ) – t( y*,t )} t = Если вознаграждение АЭ в любом периоде может зависеть от его действий, выбранных только в этом периоде, то есть (9) заменяется на (3), то результат теоремы 1 уже не имеет места – см. теорему 2.

Доказательство теоремы 1 следует общей схеме доказательства всех результатов об оптимальности тех или иных систем стимулирования:

сначала показывается, что достаточно поощрять агента за выбор только одного действия (вектора действий, траектории и т.д.), далее доказывается, что для этого необходимо как минимум компенсировать его затраты, после чего доказательство состоит из двух шагов – на первом шаге проверяется, что при некотором (произвольном) плане и использовании соответствующей компенсаторной системы стимулирования АЭ будет выбирать действия, совпадающие с планами (этап проверки согласованности системы стимулирования), затем на втором шаге (этап согласованного планирования) ищутся оптимальные реализуемые планы (см. также [15, 58]).

при условии, что действия АЭ y*,T, выбираемые им при известной системе стимулирования, максимизируют его целевую функцию 1,T f( ( ), y1,T),, учитывающую в силу полной дальновидности АЭ все T периодов, то есть T 1 t 1 (12) y*,T Arg max1,T { ( y*,t ) – c t( y*,t )}.

y1,T A t =Фиксируем произвольную плановую траекторию z1,T A1,T.

Пусть некоторая система стимулирования s1,T() реализует эту плановую траекторию, то есть T T (13) {s t(z1,t) – c t(z1,t)} {s t(y1,t) – c t(y1,t)}, y1,T A1,T.

t =1 t =Перейдем от системы стимулирования s1,T() к соответствующей квази-системе стимулирования [42] qs1,T() следующим образом:

st (z1,t ), y1,t = z1,t (14) qst(y1,t) =, t = 1,T.

0, y1,t z1,t Если заменить в выражении (13) s1,T() на qs1,T(), то система неравенств останется в силе, то есть плановая траектория z1,T будет реализовываться и системой стимулирования qs1,T(), а фактические выплаты активному элементу не изменятся.

Таким образом, мы доказали, что без потери эффективности можно ограничиться классом систем стимулирования типа (14), которому в том числе принадлежит система стимулирования (9).

Фиксируем произвольную плановую траекторию z1,T A1,T. Из (11) и (13) следует, что при фиксированной плановой траектории центр стремится найти реализующую ее систему стимулирования, которая обладала бы минимальными затратами на стимулирование, то есть центр решает следующую задачу:

T (15) st(z1,t) min t =T T (16) {s t(z1,t) – c t(z1,t)} – c t(y1,t), y1,T A1,T.

t =1 t =Из предположения А.2’ следует, что максимум правой части выражения (16) достигается в том числе при нулевых действиях АЭ и равен нулю. Кроме того, выше предполагалось, что центр должен в каждом периоде обеспечить АЭ неотрицательную полезность, то есть каждое из слагаемых в левой части выражения (16) неотрицательно. Следовательно, одно из решений задачи (15)-(16) имеет вид (17) st(z1,t) = ct(z1,t), t = 1,T.

Значит минимальная система стимулирования, реализующая плановую траекторию z1,T, удовлетворяет одновременно (14) и (17), что дает выражение (9). При этом значение целевой функции АЭ в каждом периоде неположительно, а при выборе действий, совпадающих с планами, равно нулю.

То, что агент при использовании центром управления (9)-(10) выберет действия, совпадающие с планами, следует из подстановки (9) в (12) – если в любом из периодов АЭ выбирает действия, отличающиеся от планов, то значение его целевой функций не увеличивается (для того, чтобы планы были единственными точками максимума достаточно доплачивать АЭ за их выбор, помимо компенсации затрат, сколь угодно малую, но строго положительную величину – см. выше и [30, 59, 60]).

Суммируя (17) по всем периодам, получим следующую оценку минимальных затрат ( ) на реализацию плановой траектории z1,T:

T (18) (z1,T) = ct(z1,t).

t =Таким образом, мы показали, что системы стимулирования вида (14), (17) реализуют плановую траекторию1 z1,t с минимальными затратами центра на стимулирование, определяемыми (18). Вспоминая, что плановая траектория выбиралась произвольной, получаем, что необходимо найти плановую траекторию, которая максими Еще раз подчеркнем, что на значения целевой функции АЭ в каждом периоде могут быть наложены дополнительные ограничения (гарантированное обеспечение ненулевой резервной полезности, или некоторого значения полезности, зависящего от действий АЭ, и т.д.). Однако, как доказано в [42, 58, 59], введение подобных ограничений не меняет вида и основных свойств решения задачи стимулирования, поэтому рассматривать подобные искусственные «усложнения» модели мы не будем, стремясь акцентировать внимание на специфике динамики.

T зировала бы разность между H t(z1,T) и (z1,T) (см. (11)), что и t=отражено выражением (10). • Обсудим результат теоремы 1.

Очевидно, что, во-первых, в соответствии с (9) центр может не запоминать какие действия выбирает АЭ в каждом периоде – ему необходимо лишь знать отклонялся ли АЭ в прошлом хотя бы раз от планов или нет.

Во-вторых, в силу полной дальновидности центра результат теоремы 1 справедлив для любого режима управления активным элементом со стороны центра, то есть центр может в рамках предположения А.0 как сообщать АЭ всю информацию (9)-(10) до начала первого периода, так и в каждом периоде сообщать только управление для этого периода и/или на любое число будущих периодов (см. более подробное обсуждение в разделе 3.5).

В третьих, введение различного учета будущего1 участниками АС не изменяет результата теоремы 1, за исключением того, что оптимальная плановая траектория, независимо от распределения дальновидностей АЭ, будет иметь вид T t x1,T = arg max1,T {Ht(y1,t) – ct(y1,t)}, y1,T A t =1,T 1 2 T где = (,,..., ) – распределение дальновидностей центра 0 0 0 типа РД1 или РД3. Справедливость последнего утверждения следует из того, что при использовании центром системы стимулирования (9) выигрыш АЭ в каждом периоде тождественно равен нулю.

Сделав маленькое отступление, отметим, что отказ от предположения о том, что центр должен в каждом периоде обеспечить АЭ неотрицательную полезность, и замена его требованием обеспечения неотрицательной суммарной (по всем T периодам) полезности, приводит к тому, что центр должен решать следующую задачу:

T t (19) {H t(y1,t) – } max, 1 t y1,T A0,T,{ } t= Рассматриваемый учет участниками АС будущих периодов может считаться автоматически включенным в зависимость функции дохода центра и функции затрат АЭ от времени.

t где последовательность { } неотрицательных чисел и вектор y1,T таковы, что T T t (20) = ct(y1,t).

t =1 t =Условие (20) гарантирует АЭ компенсацию суммарных затрат (то есть обеспечивает неотрицательность суммарной (по всем T периодам) полезности АЭ.

Отметим также, что (10) удовлетворяет условию (20), но в общем случае не является ни одним из решений задачи (19)-(20).

Другими словами, при отказе от условий индивидуальной рациональности АЭ в каждом периоде множество допустимых (с точки зрения условий участия (индивидуальной рациональности) и согласованности стимулирования) управлений увеличивается и, следовательно, не снижается эффективность управления.

Если условие индивидуальной рациональности АЭ (условие его T t 1,T 1 2 T участия) имеет вид (ср. с (20)) f t U, где = (,,..., ) t =– распределение дальновидностей АЭ, то центру следует в каждом t периоде доплачивать АЭ (помимо компенсации затрат) величину, совокупность которых определится из решения задачи (ср. с (19)) T t t {Ht(y1,t) – ct(y1,t) – } max.

Pages:     | 1 |   ...   | 2 | 3 || 5 | 6 |   ...   | 15 |



© 2011 www.dissers.ru - «Бесплатная электронная библиотека»

Материалы этого сайта размещены для ознакомления, все права принадлежат их авторам.
Если Вы не согласны с тем, что Ваш материал размещён на этом сайте, пожалуйста, напишите нам, мы в течении 1-2 рабочих дней удалим его.