WWW.DISSERS.RU

БЕСПЛАТНАЯ ЭЛЕКТРОННАЯ БИБЛИОТЕКА

   Добро пожаловать!

О.В. Знаменская, О.С. Островерх, Л.А. Рябинина, Б.И. Хасан Статья поступила в редакцию МОНИТОРИНГ в феврале 2009 г.

ИНДИВИДУАЛЬНОГО ПРОГРЕССА УЧЕБНЫХ ДЕЙСТВИЙ ШКОЛЬНИКОВ Предлагается новая концепция оценивания учебных достижений Аннотация учащихся общеобразовательных школ на основе трехуровневой модели индивидуального прогресса. Дано развернутое и структу рированное определение индивидуального прогресса, обоснова на методическая и инструментальная возможность его измерения с помощью оригинальной методики «Дельта». Приведены проце дуры и результаты валидизации тестовых материалов;

обсужда ются перспективы использования оценок, полученных с помощью «Дельты», в интересах различных участников образовательного процесса: учителей, учащихся и их родителей.

Ключевые слова: учебные достижения;

компетенции;

ин дивидуальный прогресс;

методика «Дельта».

В 2003–2006 гг. группа специалистов из Института психологии и педагогики развития (г. Красноярск) и Психологического инсти тута РАО (г. Москва) по заказу Национального фонда подготовки кадров разработала инструментарий для исследования индивиду ального прогресса учащихся общеобразовательных учреждений1.

Апробация инструментария проходила на десяти эксперименталь ных площадках — в общеобразовательных школах нескольких го родов России2. В настоящее время этот инструментарий, получив ший название «Дельта», уже используется в гимназии «Универс» № 1 (г. Красноярск), в центре образования «Измайлово» (г. Моск В состав исследовательского коллектива по данному проекту кроме авторов статьи входили П.Г. Неж нов, Б.Д. Эльконин, А.М. Аронов, О.Г. Баландин, И.Е. Ким, Т.В. Тимкова, О.И. Свиридова, Т.И. Юстус.

Авторы статьи выражают искреннюю признательность И.Д. Фрумину, который был одним из инициато ров проекта и давал ценные советы по ходу его реализации.

Авторы статьи выражают особую благодарность педагогическим коллективам пилотных школ за по мощь, понимание и поддержку при апробации тестов.

Теоретические и прикладные исследования ва), в гимназии № 5 (г. Чебоксары), в центре развивающего обра зования «Умка» (г. Новосибирск), в лицее № 1 (г. Красноярск).

Актуальность разработки такого инструмента диктуется острой потребностью в современных методах оценки качества образова ния, которую испытывает в настоящее время российская школа.

В современной школе на первый план выходят задачи формирова 1. Методо ния у учащихся интеллектуальной и исследовательской культуры, а логия дина также способности свободно применять свои знания и опыт: иден мического тифицировать ситуацию как востребующую то или иное знание и измерения эффективно действовать в ней [8;

10]. Иными словами, образова тельным результатом должно стать умение использовать приоб образова ретаемые знания в качестве личного ресурса. Смена ориентиров тельных ре в обучении — установка на активное освоение человеком спосо зультатов бов познавательной деятельности, на создание условий для само определения и реализации потенциальных возможностей ребен ка в процессе обучения, — естественно, требует новых подходов к измерению образовательных результатов.

Наиболее перспективным в этом отношении представляет ся компетентностный подход, в рамках которого осуществляется международный мониторинг образовательных достижений уча щихся — проект PISA [11]. Исследование PISA вызвало широчай ший общественный резонанс, который свидетельствует о том, что намеченное в нем направление оценки качества образования ока залось адекватным не только назревшим проблемам образования, но и современным попыткам их осмысления.

Однако можно констатировать, что проект PISA лишь обнажил проблемы, которые еще предстоит решать, такие как:

• недостаточная исследованность природы компетентностей (логико-предметный анализ и психолого-педагогические условия их становления);

• несовершенство инструментария, диагностирующего ста новление компетентностей.

Заметим, что известные отечественные (ЕГЭ) и зарубежные (PISA, TIMSS, PIRLS) диагностические инструменты фиксируют либо итоговые результаты обучения на отдельных ступенях школы (начальная, основная), либо результаты общего образования. Они дают представление об эффективности системы образования, но не обеспечивают возможность управлять процессом достижения результатов.

Следовательно, нужны инструменты, которые измеряют ди намические, а не только констатирующие характеристики обра зовательных достижений и позволяют проектировать и прогнози ровать образовательные процессы. Именно таков разработанный нами инструментарий для мониторинга индивидуального прогрес са учащихся.

О.В. Знаменская, О.С. Островерх, Л.А. Рябинина, Б.И. Хасан Мониторинг индивидуального прогресса учебных действий школьников Мы пытались прежде всего согласовать целевые установ ки и притязания учителей и учащихся с критериями их достиже ний, способами их измерения и оценки. Подход, реализованный в разработанных нами диагностических материалах, основан на культурно-исторической концепции Л.С. Выготского и представ лениях о способах измерения результатов обучения и образова ния, опирающихся на теорию учебной деятельности, разработан ную Д.Б. Элькониным и В.В. Давыдовым [3;

9;

27].

В культурно-исторической концепции Л.С. Выготского разви тие рассматривается как становление культурной формы дейст вия, причем главным механизмом этого становления является зна ковое опосредствование. Обучение ведет за собой развитие в том случае, если учащийся присваивает культурные средства и соот ветствующие им способы действия. Таким образом, учебное со держание рассматривается как система культурных средств, при своение которых и составляет стержень образовательного про цесса. Соответственно диагностика индивидуального прогресса школьников должна быть ориентирована на такое программ ное учебное содержание, которое рассматривается как система средств и соответствующих способов действия. Специфическим предметом диагностики является мера освоенности этих средств учащимися.

Принципиальное обстоятельство, образующее основу наше го исследования и разработки, состоит в том, что деятельность учения-обучения и соответствующие ей институты предназначе ны для решения задачи трансляции и воспроизводства культуры [7;

25]. Единицей трансляции в этом подходе выступает культур но нормированное действие, а его присвоение и образует про цесс воспроизводства. В свою очередь культурно нормированные действия институционализированы в научных предметах и других культурных формах общественного сознания. Для организации массового обучения детей научный взгляд на мироустройство (на учное мышление) был «переупакован» в учебные (школьные) пред меты [12]. Способ «переупаковки» должен соответствовать зада чам, которые общество ставит перед образовательными институ тами на разных этапах своего развития. Однако всегда собственно освоение, присвоение культурного способа действия составляло и составляет главную задачу образования.

На современном этапе акцент делается на качество появле ния у каждого конкретного ученика культурного способа действия.

Следует отметить, что в зависимости от качества индивидуальной динамики в становлении культурного способа действия формиру ется мышление и специфическое персональное отношение к той или иной предметной области. На основе рассуждений Л.С. Вы готского можно выделить следующие типы отношений к новым для ученика способам преобразующего действия:

Теоретические и прикладные исследования а) освоение (отношение к способу как к нечужому, знакомо му);

б) усвоение (отношение к способу как возможному для вос производства);

в) присвоение способа (отношение к способу как к естествен ному собственному действию) и овладение им (рефлексив ное отношение к способу как к специальному средству) [4].

На наш взгляд, качество образования и, следовательно, кос венным образом качество деятельности образовательных ин ститутов — от класса и школы до муниципальных и региональных систем — определяется не чем иным, как индивидуальным про грессом учащегося. Иными словами, мы можем считать, что об разование успешно в той мере, в какой оно вносит свой вклад в развитие мышления и отношения к учебному предмету у каждого школьника.

В этом подходе образовательные достижения учащегося опре деляются как изменение его отношения к предмету, наблюдаемое через изменение действия с предметом, при этом мы неизбежно должны перейти на деятельностный язык для описания содержа ния предметного образования. В этом языке становление компе тенций понимается как развитие предметных способов действия, завершающееся выходом за их границы в ситуациях стихийного освоения новых, более сложных реальностей. То есть в образова тельном цикле выделяются три фазы становления компетентно сти: первые две связаны с присвоением общего способа действия, а третья — это этап, на котором сам способ функционализируется.

Встраиваясь в систему личностных ресурсов действия, становясь одним из ее опорных элементов, освоенный способ формируется как особая деятельностная структура.

В процессе этого формирования необходимо различать и учи тывать два направления:

а) наращивание арсенала культурных средств по мере раз вертывания программного содержания;

б) процесс постепенного овладения этими средствами, их включения в систему личностных ресурсов.

Психологическим основанием выделения уровней освоения культурного средства выступает представление о трех закономер ных этапах становления культурной формы действия — присвоения культурных средств и соответствующих им способов действия:

1) освоение общего смысла и формы способа действия;

2) раскрытие существенного отношения, лежащего в основе способа действия;

3) функционализация способа действия (его включение в сис тему личностных ресурсов) [5].

Трем этапам становления культурной формы действия соответ ствуют три уровня действий с учебно-предметным материалом.

О.В. Знаменская, О.С. Островерх, Л.А. Рябинина, Б.И. Хасан Мониторинг индивидуального прогресса учебных действий школьников Первый уровень — освоение общего смысла и формы способа действия: действие по формальному образцу (алгоритму, правилу, схеме) в стандартной задачной ситуации (узнавание как воспро изведение способа действия в том виде, в котором он появлялся в обучении).

Второй уровень — освоение существенного отношения как основания способа действия: выполнение задания на основе вы деленного существенного отношения (общего принципа, предмет ного отношения). Для успешного осуществления действий на этом уровне явно недостаточно демонстрации образца, а необходимо овладение модельными представлениями как формой выделения и удерживания существенных отношений. На этом этапе важным является стремление и готовность учащегося к преобразующему, аналитическому действию.

Третий уровень — функционализация способа действия: ори ентация на границы способа действия (конструирование или пе рестройка общего способа действия). Действие ученика опирает ся на функциональное представление задачной ситуации и пред полагает возможность преобразования любых ее элементов: цели, условий, средств, способов. Иными словами, происходит вклю чение обобщенного способа действия в состав личных ресурсов, т.е. возникает способность «увидеть» и осуществить действие, в котором способ, «взятый» в известном предмете, востребован (уместен) и выступает как преобразующий материал для другого предмета. Это требует умственных действий рефлексии, синтеза и обобщения высокого уровня и фактически умения занять надпред метную позицию.

Согласно приведенной трехуровневой модели становления предметного действия индивидуальный прогресс (ИП) ученика по нимается нами как комплексная положительная динамика личных ресурсов, включающая линейные и уровневые приращения спо собностей мышления и понимания. Характеристиками уровневого приращения являются сохранение учеником достигнутого ранее уровня и выход на следующий, более высокий уровень мышления и понимания;

показателем линейного приращения — количество решенных заданий данного уровня.

Как и в чем можно увидеть ИП ученика? Как можно узнать, что именно меняется в его отношении к предмету? Это изменение можно наблюдать через изменившееся действие с предметом, т.е.

предмет и его структура не меняются, а действие по отношению к этому предмету становится качественно иным. Важно, что та кие изменения носят не случайный, а устойчивый характер. Иными словами, мы должны увидеть новое отношение человека к предме ту через новое действие с этим предметом. Мы должны увидеть, что тот, кто изучает предмет, сегодня увидел его иначе, чем вче ра, обнаружил его новые свойства. Мы полагаем, что в таком об наружении новых предметных отношений появляется предпосыл Теоретические и прикладные исследования ка к осознанию своих новых возможностей. Именно это осознание важно не столько нам, исследователям, сколько тому, кто учится.

По сути, появление новых ресурсов и благодаря их использова нию — новых достижений в какой-либо области мы можем назы вать индивидуальным прогрессом.

Описанная выше модель была положена в основу разработанного 2. «Дель нами инструментария для мониторинга ИП учащихся, который по та» — метод лучил название «Дельта» [15].

мониторинга В отличие от традиционных средств педагогической диагно процесса об- стики тест «Дельта» ориентирован на образовательный процесс.

Раз в год в течение нескольких лет ученик выполняет задачи одно учения го и того же типа (устроенные в соответствии с трехуровневой мо делью), и каждый его новый результат сравнивается с предыду щим, чтобы определить, на каком уровне освоения того или иного учебного содержания учащийся находится. Таким образом, от всех существующих систем диагностики «Дельта» отличается тем, что предметом оценивания являются ресурсные (качественные) изме нения компетенций учащегося (в основе диагностики лежит уров невая модель мышления и понимания, содержание предмета рас сматривается как система средств и соответствующих образцов действия), а не объем информации и темп освоения программ.

Иными словами, предметом диагностики выступает мера освоен ности предметных средств учащимися. Показателем того, в какой мере освоено то или иное средство, является способ действия ре бенка с предметным материалом.

Диагностический инструмент «Дельта» позволяет проводить у школьников начальной и основной школы оценку компетенций, связанных с освоением определенных учебных дисциплин: мате матики, русского языка и физики. В системе тестовых заданий мы стремились отразить логико-психологическую специфику каждой дисциплины как системы предметных действий. Дело в том, что разные предметные области отличаются друг от друга формами действия, которые задают сквозные предметно-деятельностные линии развертывания учебной дисциплины — тот остов, на кото ром держится ее содержание. Важно подчеркнуть, что имеется в виду не развитие какой-либо темы (например, сложения, вычи тания как математических действий) или каких-либо общих прие мов обучения (решения задач, написания сочинений). Имеется в виду развертывание тех линий, на которых основаны математиче ские действия, решение задач, написание сочинений и иные уме ния. Такова, например, линия моделирования в математике и фи зике (от замещения текста задачи схемой проблемной ситуации к использованию уравнений как способа описания ситуаций). В по добных линиях задан способ развертывания учебного предмета, и поэтому лишь относительно них имеет смысл определять меру прогресса в его освоении. В соответствии со сказанным тестовые О.В. Знаменская, О.С. Островерх, Л.А. Рябинина, Б.И. Хасан Мониторинг индивидуального прогресса учебных действий школьников задания в рамках каждой учебной дисциплины конструировались и группировались с учетом ведущих предметно-деятельностных ли ний.

Так, в школьной математике мы выделяем три предметно-дея 2.1. Конструи тельностные линии, в которых возможны образовательные дости рование те жения учащихся: линия моделирования, алгоритмическая линия и стовых зада линия формулирования утверждений [1]. Остановимся подробнее ний по мате на линии моделирования, поскольку она является сквозной для на матике чальной и основной ступеней школы.

Содержанием действия моделирования является выявление математического отношения и полагание его предметом преоб разования. Модельными средствами служат различные (симво лические и графические) языки математики. Заметим, что в млад шей школе рассматривается математическое отношение как от ношение между величинами (разностное, кратное и др.), тогда как в подростковой школе содержанием понятий становятся отноше ния между процессами изменения объектов, в том числе отноше ния изменяющихся величин и их фиксация в разных видах знако вого материала. Таким образом, в подростковой школе в качестве предмета моделирования выступает одна из базовых по отноше нию к школьной математике категорий — понятие функциональной зависимости. Существенной трудностью при усвоении этого поня тия является необходимость изучать изменение характера соотно шений переменных величин, а не характера изменений отдельных величин.

На второй ступени обучения достаточно полно рассматривают ся всего две функциональные зависимости — линейная и квадра тичная. Поэтому именно они были выбраны в качестве материала для заданий теста. Для описания указанных зависимостей исполь зуются три типа знаковых средств: таблица (числовые последова тельности), формула и график.

Уровни развития мышления и понимания определяются в этой линии через этапы становления действия моделирования.

Первый уровень моделирования — это замещение одного зна кового материала, представляющего данное математическое от ношение, другим при условии, что математическое отношение дано в явном виде и правило замещения известно.

Примеры заданий первого уровня:

• для начальной школы: для уравнения 385 + x = 402 выбери и обведи верное решение (варианты решений: 787;

7;

17;

18).

Выполнение такого задания требует от ребенка воспроиз ведения способа действия, в основе которого находятся отношения целого и частей;

• для основной школы: по данному графику функции запол нить таблицу значений функции (заместить множество то чек их координатами) и построить график в стандартной Теоретические и прикладные исследования системе координат (замещение алгебраической формулы геометрической моделью).

Второй уровень моделирования — построение модели извест ного типа через выделение существенного в рассматриваемых си туациях, в которых явное опознание модели затруднено. Зашум ление ситуации, препятствующее выполнению задания по образ цу, может быть связано, например, с необходимостью достраивать графическую модель зависимости.

Примеры заданий второго уровня:

• для начальной школы. Прочитай начало задачи: «На празд нике девочки съели f пачек печенья, а мальчики на t пачек меньше…» Допиши текст задачи так, чтобы она решалась следующим выражением: f : (f – t). От учащихся требуется выделить отношение кратности в математическом выра жении, а затем перевести его в другую знаковую форму — текст задачи. Если ученики могут продолжить текст задачи:

«Во сколько раз девочки съели печенья больше, чем маль чики?» или: «Во сколько раз мальчики съели печенья мень ше, чем девочки?», то это говорит о том, что они могут вы делить математическое отношение кратности, отличить его от отношения целого и частей (f – t) и адекватно сконструи ровать речевую форму (текст задачи). Таким образом, если учащийся выделяет существенное отношение и может вос создать его в другой знаковой форме (в форме текста), то он находится на втором уровне развития мышления и по нимания;

• для основной школы: построить график зависимости y от 5x + 1, если известно, что y = 3(5x + 1) – 2 (здесь зашумле нием является вид независимой переменной).

Третий уровень моделирования — конструирование модели при переходе от одного модельного языка к другому, преобразо вание модели с использованием модельных средств. Преобразо вание модели связано с поиском и построением области ее при менения.

Примеры заданий третьего уровня:

• для начальной школы. В отличие от заданий второго уровня в заданиях третьего уровня берется математическое отно шение (в данном случае целого и частей) как предмет рабо ты и задаются вопросы типа: если целое не меняется (m), а одна часть меньше, чем другая (c < s), то что можно сказать об отношении двух других частей (x … y)? Если ученик на чальной школы выделяет отношение частей и целого и мо жет представить изменение компонентов этого отношения в условном плане, то он находится на третьем уровне осво ения действия моделирования;

• для основной школы: найти все значения x, при каждом из которых наибольшее из двух чисел a = x – 5 – 6x и b = 9 – О.В. Знаменская, О.С. Островерх, Л.А. Рябинина, Б.И. Хасан Мониторинг индивидуального прогресса учебных действий школьников – x2 больше 4 (требует интерпретации всех трех чисел, уча ствующих в условии, как функциональных зависимостей от x, моделирования в геометрическом языке и анализа от ношения трех зависимостей).

В отличие от других предметных областей по отношению к русско 2.2. Особен му языку ученик выступает в двух позициях: как носитель, «поль ности тесто зователь» языка, овладевающий языком как инструментом обще вых заданий ния, и как учащийся, осваивающий предметные знания. Поэтому по русскому в основу определения содержания предметных линий нами поло языку жены два вида деятельности: речевая деятельность как непосред ственное владение языком и учебно-предметная деятельность как освоение лингвистической теории. В связи с этим мы можем гово рить о двух типах умений:

1) умение реконструировать (извлекать) смысл из данного вы сказывания (текста) и конструировать языковую форму для данного смысла;

2) умение выделять языковой факт и интерпретировать его как проявление системных отношений в языке.

На основании этого мы выделяем в русском языке две линии ИП учащегося: линию адекватного употребления языкового знака и линию моделирования языка как системы. Остановимся на опи сании первой предметно-деятельностной линии.

Эту линию ИП учащегося в языке мы связываем с восприяти ем языковой формы (реконструкцией ее смысла) и выражением смысла посредством языковой формы.

Смысл выражается языковыми единицами разного типа: мор фемой, словом и высказыванием (коммуникативной единицей, со поставимой и с предложением, и с текстом). Таким образом, клю чевым здесь является отношение «смысл — форма». Это отноше ние двустороннее, и возможно его рассмотрение с обеих сторон:

«форма — смысл» (рецептивный аспект, связанный с установле нием смысла данной формы) и «смысл — форма» (продуктивный аспект, связанный с созданием или воспроизводством формы, вы ражающей данный смысл).

Каждая языковая единица способна выражать стандартный смысл, который называется ее значением. С другой стороны, язы ковая единица, помещенная в какой-то контекст (коммуникативную ситуацию), способна выражать требуемый в этом контексте или ситуации актуальный смысл. ИП заключается в развитии умения воспринимать и выражать через стандартное, общепринятое зна чение актуальный смысл (адекватно употреблять языковой знак).

Значит, основная линия ИП учащегося применительно к языку — это линия развития произвольности в обращении со значением и формой языковой единицы для восприятия и выражения индиви дуального (ситуативного, контекстуального, личностного) смысла.

Теоретические и прикладные исследования Для этой линии уровни ИП можно конкретизировать следую щим образом.

Первый уровень связан с удержанием стандартного, устойчи вого соотношения языковой единицы и обозначаемой ею реалии или фрагмента действительности, которое представлено в терми нах лингвистики как прямое значение языковой единицы.

Пример задания первого уровня: к словам из первого столбика подберите слова-синонимы (слова с близким значением) из вто рого столбика:

1) большой А) трусить 2) бояться Б) битва 3) сражение В) огромный 4) везде Г) всюду Задание предполагает умение устанавливать отношение си нонимии между словами в их основном (стандартном) значении без влияния контекста, который может уточнять или даже менять значение. Умение опознавать синонимы означает понимание зна чения слова. Задание построено таким образом, что синонимы в каждой паре не только близки по лексическому значению, но и яв ляются одной частью речи:

Большой — огромный (прилагательные);

Бояться — трусить (глаголы);

Сражение — битва (существительные);

Везде — всюду (наречия).

Второй уровень предполагает понимание смысла, выражаемо го языковой единицей в нестандартном для нее контексте, т.е. об наружение того, что она не привязана жестко к той или иной реа лии или фрагменту действительности. Это означает, что школьник представляет значение языковой единицы не как статичное, стро го определенное, а как динамичное, способное принимать акту альный, необходимый в данных условиях смысл.

Для слова нестандартные условия определяются в границах высказывания, а для высказывания — в рамках ситуации. Школь ник должен быть способен воспринимать значение слова как се мантическое поле и «вычитывать» из него актуальный (заданный контекстом) смысл. Высказывание (текст) предстает как структу ра, в которой есть актуально значимая и незначимая информация, и ученик должен уметь извлечь второстепенную или неявную ин формацию для решения коммуникативной или практической за дачи. Умения, которые ученик демонстрирует на первом уровне (установление синонимии, антонимии, различение омонимов и разных значений одного и того же слова), на этом уровне реализу ются в условиях зашумления:

1) одно и то же слово представлено в двух и более контек стах;

О.В. Знаменская, О.С. Островерх, Л.А. Рябинина, Б.И. Хасан Мониторинг индивидуального прогресса учебных действий школьников 2) знакомое слово дается в нестандартном контексте, актуа лизирующем новый для ученика смысл.

Кроме того, на этом уровне ученик должен определить значе ние незнакомых слов (например, окказионализмов и слов из пас сивного словарного запаса) и дать толкование их значения с опо рой на контекст.

Пример задания второго уровня: прочитайте текст, объясните значение выделенного слова:

Множество соловьев живет в зеленых кустах около реки. День и ночь не умолкают их свисты и раскаты. Садится солнце, и ночники сменяют до утра усталых дневных соловьев.

Ночники —.

Третий уровень предполагает способность отделить актуаль ный смысл высказывания от его общего смысла и умение создать (сконструировать) языковую единицу для выражения необходимо го в данной ситуации или контексте смысла.

Выполняя задание этого уровня, ученик должен уметь выделить в недостроенном высказывании актуальный смысл и достроить это высказывание путем создания (конструирования) языковой едини цы, адекватно выражающей данный смысл, или отделить актуаль ный смысл высказывания от его общего смысла. Если школьник справляется с заданием, это означает, что он способен распозна вать синонимию, антонимию и омонимию высказываний, а также отделять смысл от обозначающей его формы и свободно строить для выражения такого смысла новую языковую единицу.

В начальной школе ребенок выделяет актуальную информацию в одном или нескольких текстах, обобщает ее и выражает путем конструирования слова или словосочетания. В основной школе ученик на этом уровне способен выражать актуальный смысл раз ными способами в зависимости от ситуации общения.

Пример задания третьего уровня:

Впишите на каждую линеечку одно слово, подходящее по смыслу. Об разуйте это слово от других слов(-а) из того же текста.

А) Бывает летний дождь, который окатит, промочит до нитки, но тут же и высохнешь на солнце и ветерке. Такой дождь называется.

Б) Чаще всего зарницы бывают в июле, когда созревают хлеба. Поэто му и существует народное поверье, что зарницы «зарят хлеб» — освеща ют его по ночам — и от этого хлеб наливается быстрее. В Калужской обла сти зарницы называют «».

Это задание предполагает умение конструировать слова с опо рой на контекст. В теоретической лингвистике такое построение слова «здесь и сейчас» описывается понятием «эпидигматика».

Контекстное конструирование слова свидетельствует о высоком уровне владения языком. К умениям, которые можно оценить на примере этого задания, относятся способность выделить наибо Теоретические и прикладные исследования лее значимый элемент контекста;

умение воспринимать не только смысл, но и форму языковых единиц;

умение создавать языковые единицы.

Диагностический комплект для мониторинга ИП учащихся школы 3. Апробация апробировался на десяти пилотных площадках, расположенных в диагностиче Самарской области, Республике Чувашия, городах Томск, Москва, ского Красноярск. Апробация основывалась на трех тестовых срезах, ко комплекта торые проводились в 2003–2005 гг. В каждом тестировании уча ствовали около 2700 учащихся 2–4-х и 6–9-х классов.

Задача первого среза состояла в первичном опробовании мас сива разработанных тестовых заданий. Полученные данные были использованы для выявления заданий, не вполне соответствую щих сформулированным принципам их построения. В дальнейшем часть этих заданий была отбракована, а часть — доработана. По результатам первого среза было заложено ядерное содержание тестовых тетрадей, которое в дальнейшем не подвергалось суще ственным изменениям и составило основу для проведения второ го и третьего срезов.

Дополнительной задачей на всех этапах реализации проекта было опробование самой процедуры организации и проведения тестирований в школах. Требовалось оценить возможность орга нично встраивать данный вид обследований в учебный процесс конкретного образовательного учреждения с учетом контекстов использования получаемых данных. Кроме того, проверке подле жали тексты инструкций по проведению тестирования в школах, по обработке и первичной интерпретации данных.

Задача второго и третьего срезов состояла в проверке тестов на надежность и валидность. Для проведения соответствующего анализа были отобраны данные двукратного выполнения одного и того же набора заданий одними и теми же учащимися, т.е., по сути, была применена процедура повторного тестирования и со поставления результатов двух идентичных срезов. При этом для сохранения возможности сравнения данных, полученных на раз ном предметном материале (математика, физика и т.д.), из вы борки исключались учащиеся, которые выполняли тест не полно стью (например, решали задания по математике, но не решали по физике).

В итоге общая выборка испытуемых составила 4106 человек, из них 734 человека — учащиеся начальной школы и 3372 — уча щиеся основной школы (табл. 1).

Для проверки валидности теста были сформулированы гипоте зы относительно результатов тестирования:

1) уровень задания положительно связан со степенью его трудности;

2) тестируемый параметр — освоенность способа действия — имеет тенденцию прогрессировать, и повторное тестирова О.В. Знаменская, О.С. Островерх, Л.А. Рябинина, Б.И. Хасан Мониторинг индивидуального прогресса учебных действий школьников ние при определенном временном интервале должно фик сировать прирост результатов [15];

Таблица 1 Численность учащихся, участвовавших в тестировании по каждому предмету Основная школа Начальная школа Всего по предметам Всего Словесность 782 734 1516 Математика 1140 734 Биология 358 Физика 3) в силу специфики содержания школьных предметов резуль таты тестирования по разным предметам не должны сильно коррелировать между собой.

Для проверки гипотезы о связи уровня задания с его статистиче 3.1. Связь ской мерой трудности был введен показатель «достижение уча уровня щегося» (Дi), который представляет собой отношение количества заданий правильно выполненных заданий теста к общему числу заданий из со степенью данного набора. Было определено численное значение этого пока их трудности зателя для трех разных наборов задач каждого теста:

Дi(1) — общее число задач теста;

Дi(2) — суммарное число задач второго и третьего уровней;

Дi(3) — число задач третьего уровня.

Затем были определены средние значения показателей Д(1), Д(2) и Д(3) для выборки учащихся начальной школы (НШ) и основ ной школы (ОШ), т.е. величины, которые выражают точки сгущения достижений учащихся (в унимодальном распределении). Для всех тестов они сведены в табл. 2.

Таблица 2 Среднее достижение Д группы учащихся (по ступеням) Среднее достижение Д группы учащихся (по ступеням) по отношению ко всем по отношению к заданиям по отношению к заданиям заданиям теста второго и третьего уровней третьего уровня Д(1) Д(2) Д(3) 2-й срез 3-й срез 2-й срез 3-й срез 2-й срез 3-й срез Математика НШ 0,29 0,34 0,19 0,22 0,06 0, ОШ 0,31 0,27 0,17 0,14 0,04 0, Словесность НШ 0,43 0,42 0,31 0,30 0,05 0, ОШ 0,36 0,32 0,15 0,11 0,05 0, Биология ОШ 0,22 0,28 0,16 0,23 0,12 0, Физика 0,28 0,31 0,13 0,15 0,12 0, Как видно из табл. 2, численные значения максимальны для Д(1) и минимальны для Д(3), что подтверждает первую из выдви нутых нами гипотез. Если представить распределение Дi в гра Теоретические и прикладные исследования фической форме, то наблюдаемая тенденция выразится еще бо лее наглядно в смещении точки сгущения Дi относительно центра, что отражает меру трудности набора заданий для данной выборки (чем больше смещение влево, тем тест труднее для данной груп пы учащихся).

На рис. 1–3 приведены гистограммы распределения достиже ний учащихся Д(1), Д(2) и Д(3) в тесте по математике для началь ной школы1.

Показано, что задания по всем предметам в целом не являются ни чрезмерно легкими, ни слишком сложными, что вполне соответ ствует требованиям к разрабатываемым тестам (рис. 1). В соот ветствии с трехуровневой моделью становления предметного дей ствия в диагностическом инструменте «Дельта» задачи второго и третьего уровней предполагают более высокий уровень мыш ления/понимания — и значит, должны быть более трудными для большинства учащихся. Поэтому закономерно смещение (скос) гистограммы влево. Устойчивый (наблюдаемый как на втором, так и на первом срезах) явно выраженный скос влево имеют распре деления Д(2) для тестов по математике (НШ и ОШ), для теста по словесности (ОШ). Менее выраженный скос влево имеют распре деления Д(2) для тестов по физике и биологии. Для заданий тре тьего уровня нормальной ситуацией является еще более выражен ный левосторонний скос (рис. 3).

Рис. 1. Гистограмма распределения достижений учащихся Д(1) (тест по математике для начальной школы) Рис. 2. Гистограмма распределения достижений учащихся Д(2) (тест по математике для начальной школы) Данные по всем предметам изложены в [15].

О.В. Знаменская, О.С. Островерх, Л.А. Рябинина, Б.И. Хасан Мониторинг индивидуального прогресса учебных действий школьников Рис. 3. Гистограмма распределения достижений учащихся Д(3) (тест по математике для начальной школы) Подсчет значений стандартного отклонения для результатов по каждому тесту показал, что по критерию «трех » практически все распределения Д(1) – Д(3) близки к нормальному, что свидетель ствует о достоверности результатов [15].

Связь уровня заданий со степенью их трудности хорошо видна на примере данных тестирования по математике учащихся основ ной школы. Показатели решаемости (величина, обратная показа телю трудности) для заданий теста попадают в диапазоны, соот ветствующие установленной иерархии уровней, т.е. задания пер вого уровня оказались более легкими по сравнению с заданиями второго и третьего уровней, а задания второго уровня — более легкими по сравнению с заданиями третьего уровня (табл. 3).

Показателем связи уровня задания с мерой его трудности яв ляются следующие данные: учащиеся основной школы, которые решили от 50 до 55% задач второго уровня, решили и от 50 до 70% задач первого уровня. А учащиеся, которые решили от 55 до 60% задач второго уровня, решили от 70 до 90% задач первого уров ня. Наконец, учащиеся, которые решили более 65% задач второго уровня, решили от 90 до 100% задач первого уровня. Аналогичная картина получена и для задач третьего уровня.

Таблица 3 Показатели решения задач теста учащимися основной школы Доля решенных решенных задач (%) Первый уровень Второй уровень Третий уровень 82 68 82 84 91 84 100 79 Таким образом, получила подтверждение первая из гипотез — о том, что уровень задания положительно связан со степенью его трудности.

Теоретические и прикладные исследования Для проверки второй гипотезы, согласно которой освоенность 3.2. Динамика способа действия имеет тенденцию прогрессировать и это изме освоенности нение должно улавливаться тестированием, была разработана ме способа дей тодика фиксации и оценки указанных изменений.

ствия В качестве индикатора уровня освоения, демонстрируемого учащимся при выполнении отдельного предметного теста, было принято относительное количество решенных им задач, соот ветствующее условно принятой в рамках исследования «норме» [15].

Уровневый прогресс учащегося описывается несколькими воз можными ситуациями. Эти ситуации отображены в табл. 4, где представлено процентное распределение учащихся по уровням по итогам двух срезов.

Таблица 4 Показатели уровневого прогресса учащихся начальной и основной школ, % Словесность Математика Биология Физика Переходы с уровня НШ ОШ НШ ОШ ОШ на уровень 734 человека 782 человека 734 человека 1140 человек 358 человек 2 3 16 4 5,3 2 7 1 3 1,4 2 2,3 0,3 20 0 3 1,0 0,1 0 0,2 9 1 2 5,3 9 8,5 6,1 10 0 2 2,3 1,9 0,4 1,1 2 1, 0 1 4,0 4 7,1 6,3 7 3 7 1 4,4 1 3 1, 2 34121513 3 1 0 9186368 В первом столбце табл. 4 цифры 0, 1, 2, 3 обозначают сохране ние соответствующего уровня от среза к срезу. Цифра 0 означает нулевой уровень;

цифры 0 1, 1 2 и т.д. обозначают учащихся, которые перешли от одного уровня к другому. Как видно из табл. 4, тестированием удалось зафиксировать факт перехода определен ной части учащихся на более высокий уровень. Интегрально и бо лее наглядно эти данные представлены на рис. 41.

Гистограммы, детализирующие распределение учащихся (каждой возрастной группы начальной и основной школы) приведены в [15].

О.В. Знаменская, О.С. Островерх, Л.А. Рябинина, Б.И. Хасан Мониторинг индивидуального прогресса учебных действий школьников Рис 4. Уровневый прогресс учащихся (среднее значение по всем предметам) Интересно, что динамика прогресса в средней школе оказа лась менее выраженной, чем в младшей школе (рис. 5). Возмож но, ослабление динамики в основной школе связано с возрастны ми переходами.

Рис. 5. Среднее значение достижений учащихся начальной и основной школы Таким образом, получила определенное подтверждение вторая из заявленных гипотез — о том, что тестируемый параметр имеет тенденцию прогрессировать и повторное тестирование (при вре менном интервале в один год) фиксирует прирост результатов.

Теоретические и прикладные исследования Исходя из содержательной специфики данного теста, мы пред 3.3. Соотноше полагали, что результаты тестирования по разным предметам не ние результа должны сильно коррелировать между собой. Полученные данные тов, получен подтвердили эту гипотезу (табл. 5, 6).

ных по разным пред метным те стам Таблица 5 Корреляции между достижениями учащихся по разным предметам в основной школе Таблица 6 Корреляции между достижениями учащихся по русскому языку и математике в начальной школе Из табл. 5 и 6 видно, что корреляция между достижениями по 4. Эффектив разным предметам есть, но незначительная. Это означает, что ность приме школьные достижения предметно специфичны и для получения нения диаг полной картины продвижения ребенка необходимо учитывать весь ностического набор основных предметов.

комплекта Несколько слов о том, как были отобраны экспериментальные шко в разных ти лы для данного проекта. При апробации важно посмотреть, как ра пах школ ботает диагностический инструмент в образовательных учрежде ниях, различных по статусу (лицей/школа), по месту расположения (село/город), по использованию технологий (инновационных/тра диционных) и проч., — насколько инструмент доступен для исполь зования и показывает надежный результат в школах разного типа.

Среди десяти школ, участвовавших в эксперименте, были:

1) школы преимущественно традиционного обучения, в ко торых основу образовательной деятельности составляют О.В. Знаменская, О.С. Островерх, Л.А. Рябинина, Б.И. Хасан Мониторинг индивидуального прогресса учебных действий школьников классические учебные программы, а в качестве иннова ций включаются курсы с углубленным изучением отдельных предметов и профилизация на средней и старшей ступенях школы. Таких школ в проекте четыре: три городские и одна сельская;

2) школы развивающего обучения, где основой деятельности начальной школы выступают концепция развивающего обу чения Д.Б. Эльконина — В.В. Давыдова и система Л.В. Зан кова, а на средней ступени используются эксперименталь ные программы развивающего обучения, а также другие инновационные программы. К этой группе относятся четы ре школы — участницы проекта: две городские и две школы мегаполиса;

3) инновационные школы, где основу образовательной дея тельности составляют наряду с программами развивающе го обучения и традиционными курсами авторские экспери ментальные программы, которые не только используются на отдельных предметах, но и задают образовательное про странство школы. Эта группа состоит из двух школ (одна го родская и одна сельская).

Данные, полученные в результате опроса администраторов экспериментальных площадок, позволяют сделать вывод о суще ственных различиях между школами разных типов по критерию ин дивидуализации образовательных результатов и ориентации на ИП учащихся.

Так, школы традиционного обучения, несмотря на использова ние некоторых инновационных программ и курсов, в качестве об разовательных результатов заявляют показатели академической успеваемости и предметной компетентности по школе в целом и оперируют в основном количественными показателями, а эффек тивность образовательной деятельности определяют по степе ни включения учителей и учеников в эту деятельность и усердия в ее осуществлении. Таким образом, приоритет отдается собствен но организации учебного процесса, что делает важным оценку его эффективности в целом по школе, по ступени, а не в рамках инди видуальных действий учеников.

Инновационные школы ориентированы на измерение очень конкретных показателей, таких как критерии успешности внедре ния инноваций. В этом смысле они должны отслеживать (и, судя по описаниям администраторов, отслеживают) как изменения в дея тельности и способностях учащихся, так и общие характеристики программы, конкретного вида деятельности.

Школы развивающего обучения уже в силу специфики исполь зуемых программ оказались наиболее ориентированными на ин дивидуальные образовательные результаты. Как в описании задач своей деятельности, так и в практике измерения ее эффективно сти они ставят акцент на усвоение определенных видов деятель Теоретические и прикладные исследования ности и мыслительных операций, а также на формирование кон кретных ценностей у учащихся. Причем эти показатели заданы как системные и поддерживающие друг друга. Поэтому мы можем ска зать, что в школах развивающего обучения есть представления об индивидуальных достижениях и ИП, а также опыт его измерения.

Отметим, что достижения эти не связаны с конкретными предме тами, а преимущественно отражают развитие мышления и пони мания. Реже, но все же упоминаются в характеристиках образова тельной практики этих школ (как результат деятельности, но не как предмет мониторинга) и коммуникативные способности.

Итак, проведенное предварительное обследование позволило определить типы и специфику школ — экспериментальных площа док, обнаружить их приоритетные образовательные результаты и выявило существенные различия в ориентации на индивидуальные достижения учащихся. Эти данные были использованы при анали зе пилотажных диагностических результатов.

Нами была выдвинута гипотеза, что школы, работающие по сис темам развивающего обучения, т.е. использующие в своих программах деятельностный подход, должны демонстрировать по тесту ИП несколько более высокие результаты, чем обычные об щеобразовательные школы. Как видно из табл. 7, эта гипотеза по лучила определенное подтверждение. Мы проанализировали вы ход учащихся начальной школы (в школах развивающего и тради ционного обучения) на первый, второй и третий уровни по тесту ИП (данные по школам городов Москва, Красноярск и Шумерля).

Таблица 7 Показатели достижений учащихся, обучающихся по разным системам обучения, % Из табл. 7 видно, что первый уровень (действие по образцу, узнавание) оказывается более доступным для детей в школах с традиционной системой обучения. И это понятно, так как именно отработка навыка действия по образцу является ключевой задачей в традиционном обучении. Оказалось, что успешно справляющих ся с задачами третьего уровня (конструирование, интерпретация, управление) больше среди детей, обучающихся по системе разви вающего обучения, чем среди учеников традиционных школ. В це лом можно сделать вывод о наибольшей эффективности приме нения инструментария для мониторинга ИП в школах, реализую щих уже в настоящее время в своих программах деятельностный подход (например, систему Эльконина — Давыдова). Однако, учи О.В. Знаменская, О.С. Островерх, Л.А. Рябинина, Б.И. Хасан Мониторинг индивидуального прогресса учебных действий школьников тывая общую тенденцию изменений в отечественной системе об разования, полагаем, что применение разработанного инструмен та и в остальных школах может способствовать их более быстрой ориентации на деятельностный подход.

В последнее время в сфере общего образования наблюдаются 5. Заключе прогрессивные сдвиги, связанные с углублением представлений о ние его содержании и назначении. К числу узловых проблем, решение которых определяет продуктивность этой работы, несомненно от носится конструирование адекватных средств педагогической об ратной связи, обеспечивающих управление собственно образова тельными процессами.

Разработка концепции проекта опиралась, с одной стороны, на результаты анализа существующих подходов в сфере мониторин га образовательных достижений школьников, а с другой — на фун даментальные положения отечественной педагогической психоло гии. Это позволило нам выйти за рамки статичных представлений о результатах образовательного процесса как о «симптомах» и раз работать их динамическую нормативную модель, которая и была положена в основу диагностической схемы.

В результате проведения необходимых срезовых исследова ний были получены данные, свидетельствующие в пользу валидно сти созданного инструмента.

Диагностический комплект может быть полезен для всех субъектов образовательного процесса. Учащийся сможет полу чить объективную квалификацию проделанной им учебной работы и уточнить ее цели. Квалифицированному учителю данные, полу ченные с помощью диагностического комплекта, дадут точку опо ры для перестройки образовательной практики с целью усиления ее развивающего эффекта. Родители смогут на основании теста получить независимую оценку и составить объективное представ ление о когнитивном развитии своего ребенка, выяснить заранее, еще на второй ступени, насколько он подготовлен к профильному обучению в старшей школе. Школьные администраторы смогут ис пользовать тест для оценки степени инновационности используе мых в школе методов и содержания обучения. Руководители ор ганов управления образованием получат инструмент для оценки соответствия декларируемых инновационными школами когни тивных результатов действительному положению дел, а также для сравнения разных образовательных подходов.

С нашей точки зрения, отсутствие прогресса у учащегося озна чает, что конкретная образовательная система неэффективна для данного ребенка.

Та или иная динамика показателей теста или, наоборот, ее от сутствие служат для учителя руководством по изменению тактики обучения конкретного школьника. Так, невысокие показатели при решении задач первого уровня означают, что материал недоста Теоретические и прикладные исследования точно освоен даже в его формальном варианте, на уровне образ ца действия. Трудности решения задач второго уровня указывают на дефициты понимания и предполагают необходимость развер тывания действий (например, моделирования) на соответствую щем учебном содержании. И наконец, трудности при решении за дач третьего уровня означают ограниченность действий рамками учебного предмета без его прикладных функций, и, следователь но, учителю необходимо инициировать или усилить проектные формы деятельности.

Мы полагаем, что включение диагностики ИП учащихся в про цесс оценивания учебных достижений и ориентация на уровневую оценку, в частности на характеристики второго (выделение и фикса ция существенных предметных отношений) и третьего уровня (упо требление знания в иных контекстах), должны привести к корректи ровке в содержании учебного материала и методов его освоения.

Использование разработанного диагностического инструмента способно принципиально изменить отношения между субъектами образования (учениками и педагогами, родителями и администра цией школы, учителями и методическими объединениями) и суще ственно повысить качество работы образовательного учреждения.

1. Аронов А.М., Знаменская О.В. Условия индивидуального прогрес Литература са школьников в математике / Педагогика развития: социальная си туация развития и образовательные среды. Мат. 12-й Всеросс. конф.

Красноярск, 2006.

2. Бугрименко Е.А., Микулина Г.Г., Савельева О.В., Цукерман Г.А. Руко водство по оценке качества математических и лингвистических зна ний школьников. М., 1989.

3. Выготский Л.С. Собр. соч.: в 6 т. Т. 2. М., 1982.

4. Выготский Л.С. Лекции по педологии. Ижевск: Изд-во Удмуртского ун та, 1996.

5. Выготский Л.С., Лурия А.Р. Этюды по истории поведения. М., 1993.

6. Гальперин П.Я. Психология как объективная наука. М., 1998.

7. Гессен С.И. Основы педагогики. Введение в прикладную философию.

М.: Школа-пресс, 1995.

8. Громыко Ю.В. Проблема обновления содержания образования в пост советской школе и перспективы подхода В.В. Давыдова // Развиваю щее образование. Т. I. Диалог с В.В. Давыдовым. М.: АПК и ПРО, 2002.

9. Давыдов В.В. Теория развивающего обучения. М., 1996.

10. Каспржак А., Митрофанов К., Поливанова К. Становление ключевых компетентностей и результаты традиционного обучения (размышле ния по материалам проекта «Модернизация образования: перспек тивные разработки») / Педагогика развития: становление компетент ности и результаты образования в различных подходах. Мат. 10-й науч.-практ. конф. Красноярск, 2004. С. 74–87.

11. Ковалева Г.С., Красновский Э.А., Краснокутская Л.П., Краснянская К.А.

Основные результаты международного исследования образователь ных достижений учащихся PISA-2000 (краткий отчет). М., 2002.

12. Коменский Я.А. Великая дидактика // Педагогическое наследие. Я.А. Ко менский, Д. Локк, Ж.-Ж. Руссо, Г. Песталоцци. М.: Педагогика, 1987.

О.В. Знаменская, О.С. Островерх, Л.А. Рябинина, Б.И. Хасан Мониторинг индивидуального прогресса учебных действий школьников 13. Майоров А.Н. Теория и практика создания тестов для системы обра зования. М., 2000.

14. Модернизация образовательного процесса в начальной, основной и старшей школе: варианты решения: Рекомендации для опытно экспериментальной работы школы / А.Г. Каспржак, Л.Ф. Иванова, К.Г. Митрофанов и др. М., 2004.

15. Мониторинг индивидуального прогресса учебных действий школьни ков / под ред. П.Г. Нежнова, Б.И. Хасана, Б.Д. Эльконина. Красноярск:

Печатный центр КПД, 2006.

16. Мониторинг учебно-предметных компетенций в начальной школе / под ред. П.Г. Нежнова, Б.И. Хасана, Б.Д. Эльконина. М.: Университет ская книга, 2007.

17. Нежнов П.Г. Опосредствование и спонтанность в теоретической кар тине развития / Педагогика развития: образовательные интересы и их субъекты. Мат. 11-й Всеросс. науч.-практ. конф. Красноярск, 2005.

18. Новый взгляд на грамотность. По результатам международного ис следования PISA-2000. М.: Логос, 2004.

19. Образование в странах с переходной экономикой: задачи развития.

Всемирный банк реконструкции и развития, 2000.

20. Психолого-педагогическая диагностика в образовании. Опыт гумани тарной экспертизы. М., 2003.

21. Симонов В.П. Директору школы об управлении учебно-воспитательным процессом. М., 1987.

22. Теоретические основы содержания общего среднего образования / под ред. В.В. Краевского, И.Я. Лернера. М., 1983.

23. Фрумин И.Д., Эльконин Б.Д. Образовательное пространство как про странство развития // Вопросы психологии. 1993. № 1.

24. Хасан Б.И. Индивидуальный прогресс как результат образовательных отношений / Педагогика развития: социальная ситуация развития и образовательные среды. Мат. 12-й Всеросс. науч.-практ. конф. Крас ноярск, 2006.

25. Щедровицкий Г.П. Система педагогических исследований (методоло гический анализ) // Педагогика и логика. М.: Касталь, 1992.

26. Эльконин Б.Д. Педагогика развития: проба как конструкт образова тельной системы / Педагогика развития: ключевые компетентности и их становление. Мат. 9-й Всеросс. науч.-практ. конф. Красноярск, 2003.

27. Эльконин Д.Б. Избранные психологические труды. М., 1989.

28. Alderson J.Ch. Assessing reading. Cambridge University Press, 2000.

29. Bloom B.S. Hastings Th., Madaus G.F. Handbook on formative and summa tive evaluation of students learning. N.Y.: McGrowHill, 1971.

30. Bredecamp S., Copple C. (еd.) Developmentally appropriate practice in early childhood programs. NAEYC. Washington, 1997.

31. Knowledge and skills for life. First results from PISA-2000. Executive sum mary. OECD, 2001.

32. Mullis I.V.S., Martin M.O., Gonzalez E.J., Chrostovski S.J. TIMSS 2003 In ternational Mathematics Report. TIMSS & PIRLS International Study Cen ter, 2004.

33. TIMSS. Assessment Frameworks and Specifications. 34. http://www.ippd.univers.krasu.ru/bibl/ind_progress/analiz_m.html — Об зор российских и зарубежных источников по тематике мониторинга индивидуального прогресса, 2004–2005 гг.




© 2011 www.dissers.ru - «Бесплатная электронная библиотека»

Материалы этого сайта размещены для ознакомления, все права принадлежат их авторам.
Если Вы не согласны с тем, что Ваш материал размещён на этом сайте, пожалуйста, напишите нам, мы в течении 1-2 рабочих дней удалим его.