WWW.DISSERS.RU

БЕСПЛАТНАЯ ЭЛЕКТРОННАЯ БИБЛИОТЕКА

   Добро пожаловать!

Pages:     | 1 | 2 || 4 | 5 |

Оценка «отклика» для модели (1) осуществлялась с привлечением представителей (менеджеров по качеству) всех категорий вузов (НИТУ «МИСиС», ТПУ, УрФУ, РГРТУ, МГУП). Была проведена проверка выполнения предпосылок регрессионного анализа. Оценка параметров математической модели (1) осуществлялась, используя МНК. Получены следующие оценки параметров = 0.117, k1 = 2 и k2 = 3. Построены доверительные области для оценок параметров математической модели (1). Гипотеза об адекватности модели (1) не была отвергнута для каждой из групп точек в построенном плане эксперимента. Коэффициент детерминации, рассчитанный на основе первой группы точек плана (объяснительное свойство модели) равен 0.86, для второй группы точек плана (предсказательное свойство модели) равен 0.83.

Определена мера чувствительности математической модели (1) предпочтений ЛПР по комплексной оценке деятельности вуза.

Третья глава посвящена разработке моделей оценки компетенции экспертов и алгоритма формирования экспертных групп для независимой оценки деятельности вуза. Рассмотрены существующие модели оценки компетенции, в которых учитываются отдельные личностные качества, знания, умения и навыки, которыми должны обладать аудиторы. Важно отметить, что деятельность независимого эксперта шире, чем аудитора и не сводится к поиску соответствия критериям аудита. Эксперт осуществляет всесторонний анализ, оценку не только процессов, как это принято при аудите, но и результатов деятельности вуза. Таким образом, разработана модель компетенций эксперта, осуществляющего экспертизу деятельности вуза с учетом сильных и слабых сторон существующих моделей.

В предлагаемой модели оценки деятельности вуза (см. Рисунок 2) эксперт осуществляет два вида деятельности: экспертиза отчета по самооценке, обследование вуза на месте. Исходя из этого, выделено две группы компетенций эксперта общие и специальные (см. Рисунок 5).

В группу общих компетенций входят: социально-личностные, инструментальные, управленческие, предметные. В группу специальных компетенций входят социально-личностные и инструментальные. Каждая из компетенций имеет составляющие характеризующие её с точки зрения двух видов деятельности эксперта, обозначенных выше.

Оценка важности компетенций эксперта осуществлялась с привлечением представителей (менеджеров по качеству) всех категорий вузов (НИТУ «МИСиС», ТПУ, УрФУ, РГРТУ, МГУП), эти же эксперты принимали участие в оценке важности разработанных в диссертационной работе критериев (см. Рисунок 1, Рисунок 5, Рисунок 6, Таблица 1), а также в количественной оценке параметров и адекватности структур разработанных в диссертационной работе математических моделей (2)-(16). Оценивание осуществлялось в согласованных шкалах, используя метод Дельфи. В общей сложности для оценки важности критериев было получено и обработано 966 индивидуальных оценок ЛПР, для оценки значений параметров 649 оценок, а для проверки адекватности моделей оценок ЛПР, с учетом обратной связи, основанной на проверке согласованности и воспроизводимости.

Рисунок 5 – Предлагаемая модель компетенций эксперта и схема расчета интегрированной оценки компетенции эксперта Проведен анализ существующих методов, позволяющих с тех или иных позиций оценивать эксперта: документационный метод, самооценка, взаимооценка, положительная и отрицательная обратная связь. Показаны достоинства и недостатки этих методов применительно к оценке компетенции эксперта, осуществляющего экспертизу деятельности вуза. Для нивелирования их слабых сторон предлагается использовать сочетание этих методов.

Сущность используемого метода самооценки (взаимооценки) состоит в том, что эксперту предлагается оценить уровень составляющих собственных компетенций и/или компетенций других экспертов. Оценка компетенций осуществляется в разработанной шкале интервалов. Уровень отдельной компетенции эксперта по результатам самооценки (взаимооценки) определяется как значение некоторой свертки.

Предложено для определения уровня отдельной компетенции эксперта в случае самооценки использовать в качестве свертки принцип оптимальности «идеальная точка» (Евклидова норма) с учетом важности составляющих компетенций (2).

nq Sdq = (M - sadgq), d = 1,K, D, q = 1,K,Q, (2) wgq gq g =где Sdq – уровень q -ой компетенции для d -го эксперта по результатам самооценки;

wgq – относительный коэффициент важности g -ой составляющей q -ой компетенции;

M – максимальное значение g -ой составляющей q -ой компетенции, M = 100, g = 1,K,nq, gq gq q = 1,K,Q ;

nq – число составляющих q -ой компетенции;

sadgq – оценка уровня q -ой компетенции по g -ой составляющей d -м экспертом;

D – число экспертов в реестре;

Q – число компетенций эксперта, Q = 6.

Проведены исследования, показывающие, что такая свертка более чувствительна к оценкам составляющих компетенций эксперта имеющего крайние оценки, чем линейная свертка, проверена адекватность такой свертки (2) в случае самооценки в равноотстоящих точках для каждого узла дерева компетенций (см. Рисунок 5), величина коэффициента детерминации изменяется от 0.78 до 0.94 в зависимости от узла дерева.

Предложено для определения обобщенной оценки составляющих компетенции эксперта в случае взаимооценки, использовать разработанный коэффициент осведомленности (3), имеющий субъективную и объективную составляющие.

wоб wсуб об суб Zdgqu = (Kdu ) (Kdgqu), d, u = 1,K, D, g = 1,K,nq, q = 1,K,Q, (3) где Zdgqu – степень осведомленности u -м экспертом g -ой составляющей q -ой компетенции d -го эксперта;

об Kdu – объективная осведомленность u -м экспертом об уровне компетенции d -го эксперта;

суб Kdgqu – субъективная осведомленность u -м экспертом об уровне g -ой составляющей q -ой компетенции d -го эксперта;

wоб, wсуб – относительные коэффициенты важности объективной и субъективной составляющей.

Получены оценки коэффициентов важности объективной и субъективной составляющей wоб = 0.74, wсуб = 0.26. Проверена адекватность модели (3) в равноотстоящих точках R2 = 0.93.

Объективная осведомленность эксперта об уровне компетенций другого эксперта определяется по формуле (4).

hdu об Kdu =, d, u = 1,K, D, (4) max hdu u где hdu – число экспертиз, проведенных u -м и d -м экспертом вместе.

суб Субъективная осведомленность Kdgqu u -м экспертом об уровне g -ой составляющей q -ой компетенции d -го эксперта определяется как нормализованная оценка для составляющих компетенций, измеренная в разработанной шкале интервалов.

Обобщенная оценка уровня составляющей компетенций эксперта по результатам взаимооценки вычисляется по следующей формуле (5).

D-vadgq = adgqu, d = 1,K, D, g = 1,K,nq q = 1,K,Q, (5) Zdgqu u =где vadgq – уровень q -ой компетенции по g -ой составляющей d -го эксперта;

adgqu – оценка u -м экспертом уровня g -ой составляющей q -ой компетенции d -го эксперта.

Проверена адекватность модели (5) в равноотстоящих точках R2 = 0.77.

Уровень q -ой компетенции для d -го эксперта по результатам взаимооценки Vdq определяется как значение свертки по принципу «идеальной точки» (Евклидова норма) с учетом важности составляющих компетенции (2), проверена адекватность такой свертки для случая вазимооценки в равноотстоящих точках, установлено, что она не отличается от случая самооценки.

Представлено определение уровня составляющих компетенций эксперта с использованием документационного метода. Проанализированы различные модели критериев, допускающих документальное подтверждение. Сформировано множество критериев, учитывающих сильные и слабые стороны существующих критериальных моделей. Разработанная критериальная модель представлена на рисунке 6.

Критериям модели определения уровня компетенций эксперта с использованием документационного метода присвоены соответствующие веса для каждой q -ой компетенции (см.

Таблица 1), на основе показателей критериев последовательно (снизу-вверх) с нормализацией рассчитывается результирующая оценка уровня q -ой компетенции для d -го эксперта по результатам документационного метода Dcdq, как значение свертки по принципу «идеальной точки» (Евклидова норма) (2). Проверена адекватность такой свертки для каждого узла дерева критериев (см. Рисунок 6) в равноотстоящих точках, величина коэффициента детерминации изменяется от 0.79 до 0.96 в зависимости от узла дерева критериев документационного метода.

Рисунок 6 – Предлагаемая критериальная модель определения уровня компетенций эксперта с использованием документационного метода Таблица 1 – Важность критериев модели определения уровня компетенций эксперта Коэффициенты важности критериев Компетенция q w1(q) w2(q) w3(q) w4(q) w5(q) w6(q) Общие компетенции Социально0,11 0,12 0,19 0,18 0,21 0,личностные Инструментальные 0,20 0,18 0,11 0,17 0,17 0,Управленческие 0,12 0,14 0,06 0,23 0,34 0,Предметные 0,15 0,17 0,08 0,21 0,26 0,Специальные компетенции Социально0,07 0,09 0,23 0,15 0,25 0,личностные Инструментальные 0,13 0,15 0,10 0,25 0,22 0,Сущность используемого метода обратной связи состоит в том, что инициаторы экспертизы (руководство вуза) осуществляют оценку независимых экспертов на предмет результативности, проведенной экспертизы. Причиной низкой результативности может быть принятие на основе результатов независимой экспертизы неэффективных управленческих решений со стороны руководства вузов. Оценка компетенций осуществляется в разработанной шкале интервалов. Уровень q -ой компетенции для d -го эксперта по результатам обратной связи Odq определяется, как значение свертки по принципу «идеальной точки» (Евклидова норма) с учетом важности составляющих компетенции (2), проверена адекватность такой свертки для случая обратной связи в равноотстоящих точках, установлено, что она не отличается от случая самооценки.

Сформирован реестр экспертов численностью 65 человек из специалистов ведущих вузов и представителей бизнес-сообщества, имеющих опыт экспертизы в рамках Конкурса.

В таблице 2 представлены коэффициенты парной корреляции (полужирным шрифтом выделены значимые коэффициенты при = 0.05 ) между коэффициентами компетенции, рассчитанными на основе: документационного метода, самооценки, взаимооценки, обратной связи.

Таблица 2 – Коэффициенты парной корреляции коэффициентов компетенции Документационный Обратная rij Самооценка Взаимооценка метод связь Самооценка 1,00 0,43 0,64 0,Взаимооценка 0,43 1,00 0,43 0,Документационный 0,64 0,43 1,00 0,метод Обратная связь 0,47 0,82 0,48 1,Разработана математическая модель определения компетенции экспертов и формирования экспертной группы, которая имеет следующий содержательный вид. Имеется множество D независимых экспертов ( Э = {Эd}d =1, где D – число экспертов в реестре), каждый из которых описывается набором интегрированных оценок компетенций эксперта ( Эd = (Udq )Q ).

q=Интегрированная оценка компетенции эксперта (Udq ) – это взвешенная свертка («принцип идеальной точки») оценок уровня компетенции эксперта по результатам самооценки ( Sdq ), взаимооценки (Vdq ), документационного метода ( Dcdq ) и обратной связи (Odq ). Проверена адекватность такой свертки в равноотстоящих точках R2 = 0.91. Схема расчета интегрированной оценки компетенции эксперта представлена на рисунке 5.

Для определения коэффициента компетенции эксперта Kd предлагается использовать комбинацию принципов оптимальности, а именно принципа «главного критерия» и принципа «идеальной точки». Согласно принципу «главного критерия» все компетенции разбиваются на две группы. На основе первой группы компетенций эксперта конструируется функция определения коэффициента компетенции эксперта (6), а на основе второй группы компетенций – конструируется ограничение (7). Для формирования функции и ограничения используется принцип «идеальной точки». Проверена адекватность такой свертки в равноотстоящих точках R2 = 0.82. В рамках gr внедрения было получено и использовалось следующее значение параметра модели (7) K = 0.9.

2 I Кd = (Uq -Udq )2, d D* wq (6) qQ* d 2 I gr D* = : (Uq -Udq )2 K (7) wq qQ** I где Uq = min Udq – идеальная точка;

d{1,K,D} gr K – граничное значение коэффициента компетенции для критериев Q** ;

wq – относительный коэффициент важности q -ой компетенции;

Q* – множество общих компетенций, в случае заочной экспертизы, иначе множество специальных компетенций;

Q** – множество специальных компетенций, в случае заочной экспертизы, иначе множество общих компетенций.

Требуется из множества независимых экспертов выделить группу экспертов заданного размера ( m D* ), обладающих максимальной компетенцией так, чтобы компетенции в группе не сильно отличались и стоимость участия в экспертизе выделенных экспертов не превышала бюджета (b ).

Для реализации задачи предложена целевая функция (8) как параметрическая свертка среднего значения и среднего квадратического отклонения коэффициентов компетенции экспертов ( Kd ).

Число экспертов m и бюджет b образуют ограничения (9).

эd Kd (K - Kd эd )(8) dD* dD* g(э) = (1- ) + min эЭ* m m -где э = (эd )dD – группа экспертов;

* Э* = {Эd}dD – множество независимых экспертов;

* 1, если d - ый эксперт участвует в экспертизе эd = ;

0 в противном случае эd Kd dD* K = – среднее значение компетенции экспертов;

m – параметр модели, [0,1].

= m ;

эd dD* (9) эd bv Cdv dD* где Сdv – стоимость участия d -го эксперта в экспертизе v ;

v – вид экспертизы (1 – заочная, 2 – очная).

Сформулированная задача (8), (9) является задачей нелинейного программирования с булевыми переменными с ограничениями типа равенства и неравенства, для решения которой разработан алгоритм, в основу которого положен подход эволюционных вычислений – генетические алгоритмы. Генетические алгоритмы позволяют получить сравнительно быстро (за конечное число шагов) «хорошее» решение в задачах глобальной оптимизации. Предлагаемый алгоритм состоит из следующих основных операций: генерация начальной популяции; выбор родительских пар;

применение операторов кроссинговера; вычисление функции приспособленности (8); селекция;

проверка условия вырождения популяции, если оно выполнено применить оператор инверсии;

проверка условия останова, если оно не выполнено перейти в выбору родительских пар.

Формальное описание алгоритма решения поставленной задачи (8), (9).

1. Задать T – число итераций, m, b,, E – размер популяции, = 0.

Pages:     | 1 | 2 || 4 | 5 |



© 2011 www.dissers.ru - «Бесплатная электронная библиотека»

Материалы этого сайта размещены для ознакомления, все права принадлежат их авторам.
Если Вы не согласны с тем, что Ваш материал размещён на этом сайте, пожалуйста, напишите нам, мы в течении 1-2 рабочих дней удалим его.