using timss and pisa results to inform educational policy: a study of russia and its neighbours

33
Анализ реформ в образовании в странах Балтии и в России. Исследование с применением смешанного дизайна Татьяна Хавенсон, НИУ ВШЭ Мартин Карной, Университет Стэнфорда, НИУ ВШЭ 23 июля 2015, Летняя школа, мастерская «Образование»

Upload: galina-shavard

Post on 17-Aug-2015

203 views

Category:

Education


0 download

TRANSCRIPT

Page 1: Using TIMSS and PISA results to inform educational policy: a study of Russia and its neighbours

Анализ реформ в образовании в странах Балтии и в России.

Исследование с применением смешанного дизайна

Татьяна Хавенсон, НИУ ВШЭ

Мартин Карной, Университет Стэнфорда, НИУ ВШЭ

23 июля 2015, Летняя школа, мастерская «Образование»

Page 2: Using TIMSS and PISA results to inform educational policy: a study of Russia and its neighbours

Международные исследования школьного образования

29.07.2015 2

• Тренды в изучении математического и естественно-научного образования

• Математика и естествознание

• 4 и 8 классы

• Раз в 4 года, начиная с 1995 года

• http://timss.bc.edu

TIMSS

• Программа международной оценки обучающихся

• Чтение, математика и естествознание

• 15-летняя когорта (школьники и студенты проф.ОУ)

• Раз в 3 года, начиная с 2000

• http://www.oecd.org/pisa

PISA

Page 3: Using TIMSS and PISA results to inform educational policy: a study of Russia and its neighbours

Международные исследования школьного образования

29.07.2015 3

Обучение

Страна

Класс

Уче ник

Школа

Кто опрашивается:

0. Тест

1. Школьники

2. Учителя (только в TIMSS)

3. Администрация школы

4. Анкета об учебном процессе (одна для страны)

TIMSS – тест про школьные знания и навыки

PISA – тест про применение знаний в реальной жизни

Page 4: Using TIMSS and PISA results to inform educational policy: a study of Russia and its neighbours

Постановка исследования и предыстория исследования

29.07.2015 4

Мы делали более методологическую работу (слои сэп и сдвиги в выборке). И интерпретируя некоторые результаты, поняли, что это может быть самостоятельным исследованием.

Исследовательский вопрос: какие шаги реформ привели к росту результатов в PISA в странах Балтии

Лонгитюдный аспект и глубинный анализ проводимых реформ

Page 5: Using TIMSS and PISA results to inform educational policy: a study of Russia and its neighbours

Предпосылки исследования

29.07.2015 5

Работы по формированию образовательной политики. Откуда страна черпает идеи. Основные типы: интерес или заимствование ОП (policy attraction/borrowing), совместное выстраивание ОП (policy negotiation), навязывание ОП (policy imposition), и смешивание ОП (policy hybridization) (Dale, 1999; Philips, 1989; Spreen, 2004; Steiner-Khamsi, 2004; Brent, 2013).

Сравнительные исследования в образовании – инструмент для выстраивания образовательной политики. Менее успевающие страны склонны копировать образовательные модели более успевающих. (Plomp, 1998; Alexander, 2001; Porter & Gamoran, 2002; Auld & Morris, 2014).

Page 6: Using TIMSS and PISA results to inform educational policy: a study of Russia and its neighbours

Изучение Эстонии, Латвии и России вместе. Исследовательские возможности

29.07.2015 6

Натуральный эксперимент

Много общего в системе образования до конца 1980-х.

Около 25% школ с русским языком преподавания. Проведение PISA на государственном и на русском. Возможность сравнения не страны в целом, а именно подгрупп в каждой стране.

Образование учителей - в СССР (в РСФСР).

Инерционность школ с русским языком преподавания в Прибалтике.

Четкие временные точки начала и основных шагов реформ.

Одинаковые стартовые позиции с т.зр. PISA и TIMSS.

К настоящему моменту добились каких-то результатов в образовании.

Page 7: Using TIMSS and PISA results to inform educational policy: a study of Russia and its neighbours

Методология. Смешанный дизайн.

29.07.2015 7

Последовательное применение сначала количественного, потом качественного подхода. (Leech & Onwuegbuzie, 2009; Morgan, 2013)

Количественный

Общие тенденции в результатах PISA

Динамика

Статистические выводы

Регрессионные модели

Качественный

Сбор информации на «низовом» уровне

Восприятие реформ

Уровень осуществления ОП

Объяснение результатов самими участниками

Интервью

Page 8: Using TIMSS and PISA results to inform educational policy: a study of Russia and its neighbours

Результаты

29.07.2015 8

Реформы в Латвии и Эстонии

Описательная статистика

Внутри стран Балтии

Сравнение с Россией

Регрессионные модели

Интервью

Page 9: Using TIMSS and PISA results to inform educational policy: a study of Russia and its neighbours

Реформа в Латвии (р/я школы)

29.07.2015 9

Год PISA

2012 Четвертый поток реформы

2009 Первый поток реформы

2006 Не попали в реформу

Класс школы 1 2 3 4 5 6 7 8 9 10 11 12

Общие тенденции: гос.стандарт (1995, 1998) – ориентирован на «современные методы», больше практики, «problem solving» задачи. Автономия школ в построении собственной программы.

Конец обязательного обучения – 16 лет.

Совместное выстраивание и заимствование, выравнивание с Западной Европой в части программы

2000 год – официальное начало реформы р.я. школ, но пока не массовое распространение. Основа: билингвальное образование.

Реформа начиналась в начальных классах.

Массовое переобучение учителей. В т.ч. новым методам работы.

Page 10: Using TIMSS and PISA results to inform educational policy: a study of Russia and its neighbours

Реформа в Эстонии (р/я школы)

29.07.2015 10

Общие тенденции: гос.стандарт (1996, 2011) – компетентностный подход, больше практики, активного обучения, «problem solving» задачи.

Автономия школ в построении собственной программы. Конец обязательного обучения – 16 лет. Совместное выстраивание и заимствование, выравнивание с Западной

Европой 2006 год. Активное внедрение сразу в средней школе. Функциональное

чтение, связь с реальной жизнью, включение заданий в “стиле PISA” в ежедневные уроки.

Экзамены в 3, 6, 9, 12 классе. Во многом в “стиле PISA”. Билингвальное обучение как эксперимент с 2000 г.

Год PISA

2012 Только в средней школе

2009 Первый поток реформы

2006

Класс школы 1 2 3 4 5 6 7 8 9 10 11 12

Page 11: Using TIMSS and PISA results to inform educational policy: a study of Russia and its neighbours

Данные количественного этапа

29.07.2015 11

PISA 2006, 2009 & 2012

Всего в 44221 наблюдения. Выборка делилась на пять подгрупп:

Эстония

Эстонский яз. в школе (444 шк., 11287 чел.)

Русский яз. в школе (117 шк., 3069 чел.)

Латвия

Латышский яз. в школе (452 шк., 9914 чел.)

Русский яз. в школе (149 шк., 3613 чел.)

Россия (649 шк., 16338 чел.)

Page 12: Using TIMSS and PISA results to inform educational policy: a study of Russia and its neighbours

Результаты PISA в разрезе СКС

29.07.2015

12

420

440

460

480

500

520

540

560

580

2006 2009 2012

PISA Math. Высокий СКС

420

440

460

480

500

520

540

560

580

2006 2009 2012

PISA Math. Низкий СКС

420

440

460

480

500

520

540

560

580

2006 2009 2012

PISA Math. Средний СКС

Эстония – Эстонский Эстония – Русский Латвия – Латышский Латвия – Русский Россия

Page 13: Using TIMSS and PISA results to inform educational policy: a study of Russia and its neighbours

Результаты PISA. Латвия

29.07.2015 13

420

440

460

480

500

520

540

2006 2009 2012

PISA Math

420

440

460

480

500

520

540

2006 2009 2012

PISA Reading

реф. нач.школы 420

440

460

480

500

520

540

2006 2009 2012

PISA Science

в ест.науках реф. начались раньше

Высокий СКС Средний СКС Низкий СКС Латышский язык в школе Русский язык в школе

Би

ли

нгв

. о

буч

.

Page 14: Using TIMSS and PISA results to inform educational policy: a study of Russia and its neighbours

Результаты PISA. Эстония

29.07.2015 14

420

440

460

480

500

520

540

560

580

2006 2009 2012

PISA Math

390

410

430

450

470

490

510

530

550

570

2006 2009 2012

PISA Reading

реф. ср.школы

420

440

460

480

500

520

540

560

580

600

2006 2009 2012

PISA Science

Высокий СКС Средний СКС Низкий СКС Эстонский язык в школе Русский язык в школе

Page 15: Using TIMSS and PISA results to inform educational policy: a study of Russia and its neighbours

Выводы

29.07.2015 15

Результаты по математике и естествознанию близки в 4 из 5 групп.

В чтении отрыв школ эстонским языком обучения не так велик.

С 2009 года рост результатов в русскоязычных школах.

В целом по Латвии к 2012 г. русскоязычные школы догнали школы с государственным языком обучения по математике и естествознанию, обогнали по чтению.

В Латвии и Эстонии разные паттерны результатов школ с государственным и нет языком обучения.

В обеих странах прирост 2009-2012 больше в школах с русским языком обучения.

Page 16: Using TIMSS and PISA results to inform educational policy: a study of Russia and its neighbours

Регрессионные модели

29.07.2015 16

AiS = 0 + jXij + iYi + k (C*L)ik + j + ei

Зависимая переменная (AiS) – баллы PISA (по чтению, математике или естествознанию)

Xij – социально-экономическое положение семьи ребенка

Yi – средний уровень социально-экономического положения в классе

(C*L)ik – группа страна*язык преподавания в школе (анализ 5 подгрупп, референтная группа - Россия)

СЭП – количество книг в доме, образование матери

Модель строилась для трех волн PISA (2006, 2009 и 2012) и для трех групп СКС: низкий, средний, высокий (на основе вопроса про количество книг)

Page 17: Using TIMSS and PISA results to inform educational policy: a study of Russia and its neighbours

Регрессия. Результаты

29.07.2015 17

MATHEMATICS READING SCIENCE

2006 2009 2012 2006 2009 2012 2006 2009 2012

26-200 BH 0.30*** 0.26*** 0.39*** 0.37*** 0.34*** 0.33*** 0.33*** 0.29*** 0.42***

>200 BH 0.60*** 0.54*** 0.64*** 0.58*** 0.60*** 0.59*** 0.55*** 0.58*** 0.66***

M’s Ed < Secondary -0.28** -0.14 -0.28** -0.26** -0.25** -0.19* -0.25** -0.18* -0.21**

M’s Ed University 0.17*** 0.25*** 0.22*** 0.14*** 0.22*** 0.31*** 0.16*** 0.24*** 0.29***

Avg. BH/School 0.17*** 0.21*** 0.16*** 0.22*** 0.23*** 0.25*** 0.19*** 0.19*** 0.19***

Estonia-Estonian 0.38*** 0.52*** 0.47*** 0.63*** 0.41*** 0.47*** 0.52*** 0.58*** 0.67***

Estonia-Russian -0.08 0.12 0.20*** -0.13 0.14** 0.19*** -0.01 0.20*** 0.37***

Latvia-Latvian 0.04 0.24*** 0.17*** 0.35*** 0.33*** 0.21*** 0.04 0.26*** 0.28***

Latvia-Russian -0.02 0.16** 0.21*** 0.22*** 0.24*** 0.39*** -0.09* 0.12 0.27***

R2 0.12 0.15 0.13 0.15 0.17 0.18 0.13 0.13 0.17

Observations 15157 14187 13884 15157 14187 13884 15157 14187 13884

Page 18: Using TIMSS and PISA results to inform educational policy: a study of Russia and its neighbours

Регрессия. Сравнение с Россией

29.07.2015 18

Эстония (русск.яз) Латвия (русск.яз)

2006 2009 2012 2006 2009 2012

Математика

Низкий СКС – +

Средний СКС + + + +

Высокий СКС + + +

Чтение

Низкий СКС – + + +

Средний СКС + + + + +

Высокий СКС + + + +

Естествознание

Низкий СКС – + – +

Средний СКС + + +

Высокий СКС + + + +

Page 19: Using TIMSS and PISA results to inform educational policy: a study of Russia and its neighbours

Выводы

29.07.2015 19

К 2012 все группы обогнали соответствующие группы в России.

Латвия начала реформы раньше, поэтому к 2009 году эффект был сильнее.

Эстония начала после 2006, но сразу в средней школе, поэтому к 2012 пришла к таким же результатам. Более быстрый эффект.

Школы с латышским языком в группах низкого и среднего СКС в 2006 году по математике и естествознанию и в группе низкого СКС по математике в 2012 результаты равны, в остальных группах СКС и годах выше.

Школы с эстонским языком всегда выше во всех группах СКС и годах.

Поиск объяснения в количественной парадигме не принес удовлетворительных результатов. Поэтому мы начали качественный.

Page 20: Using TIMSS and PISA results to inform educational policy: a study of Russia and its neighbours

Типы информации о системе образования

29.07.2015 20

•стандарты •законы •программы •учебные планы и пр. •проводимые мероприятия и пр.

1. Намерения

•что происходит на уроках •что фактически умеют и делают педагоги •как используется обратная связь в системе и пр.

2. Осуществление

•достижения школьников, например, PISA

3. Результат

PISA дает информацию об уровне 3, но практически не дает о 1 и 2.

(Robitaille, 1993; Plomp, 1998)

Page 21: Using TIMSS and PISA results to inform educational policy: a study of Russia and its neighbours

Качественный этап

29.07.2015 21

Интервью:

Школа: директор и завуч, 1 урок.

Экспертные интервью с людьми из министерства образования и с людьми, проводящими PISA.

Эстония. 7 школ (Таллинн, Нарва, Кохтла-Ярве). Ноябрь 2013.

Латвия. 6 школ (Рига). Июнь 2013

Контрольные интервью в России

Page 22: Using TIMSS and PISA results to inform educational policy: a study of Russia and its neighbours

Гайд

29.07.2015 22

Общая информация о школе Состав учащихся: близлежащие районы или нет; отбор в школу. Русскоязычное население в Эстонии. это какой-то определенный слой общества или нет? А в Вашей школе? Учебная программа Автономия школ при выборе программ, учебников. Процедура (УМК…) Есть ли примеры того, как какая-то тема или предмет преподаются по-разному в школах с русским эстонским языком обучения? Отличия от советской системы. Полностью ли поменялась программа, стили преподавания

Page 23: Using TIMSS and PISA results to inform educational policy: a study of Russia and its neighbours

Гайд

29.07.2015 23

Стили преподавания Как работают учителя с детьми из разных социальных слоев, с разными способностями Индивидуализация, групповая работа Подготовка учителей Где и когда получали ВО Экзамены, тесты В каком виде; по каким предметам; в каких классах Участие в международных исследованиях Знают ли о PISA и TIMSS. Отношение к PISA и TIMSS, мотивация к участию

Page 24: Using TIMSS and PISA results to inform educational policy: a study of Russia and its neighbours

Что происходит в школах. 1

29.07.2015 24

Учебники

Практика

Реальная

жизнь

Эксперименты

Собственные

материалы

PISA-стиль

Более позитивн

ый настрой

в Э

Учителя

Образование в

РСФСР

«Метод.объединени

я» в школах

Сдержанность в оценках компетентностного подхода и ухода от

глубоких знаний, но активное применение

Билингвальное

обучение

Толчок вперед по всем предметам

(Латвия)

Необходимость (Л и Э)

Позитивный

настрой (больше

Э)

Page 25: Using TIMSS and PISA results to inform educational policy: a study of Russia and its neighbours

Что происходит в школах. 2

29.07.2015 25

Учебная програм

ма

Практика

Реальная жизнь

Функциональное чтение

Мета-предмет

ные навыки

PISA-стиль

Участие в PISA

В Эстонии серьезное и позитивное отношение

PISA влияет на содержание программ и

итоговых тестов

Повышение

квалификации

Разнообразие

Актуальность

Поддержка

участия в ПК

Канал распростра

нения установок и ценностей

Page 26: Using TIMSS and PISA results to inform educational policy: a study of Russia and its neighbours

Что происходит в школах. 3

29.07.2015 26

Педагогические

практики

Индивидуализация внутри

урока Индивидуализация

траектории

Применение

знаний

Проекты

Естествознание – очень практико-

ориентированное

Музеи

Дружелюбная

атмосфера

Активное обучение

Учителя полностью разделяют

эти практики

Page 27: Using TIMSS and PISA results to inform educational policy: a study of Russia and its neighbours

Выводы

29.07.2015 27

В интервью отразились те практики, которые присутствуют в школах Латвии и Эстонии с момента начала реформ.

Их большее распространение и усиление со временем совпадает по времени с улучшением результатов.

В Латвии эти практики в большей степени свойственны именно школам с русским языком обучения (реформа 2000). В Эстонии обоим типам школ.

Отсутствие большинства этих практик в российских школах позволяет говорить, что именно они «сдвинули» Эстонию и Латвию вверх в достижениях PISA и позволили к 2012 году достичь более высоких, чем у России результатов.

В Эстонии более высокий уровень принятия нововведений, их интериоризации. Из интервью видно, что министерство образования предприняло для этого больше шагов.

Page 28: Using TIMSS and PISA results to inform educational policy: a study of Russia and its neighbours

Куда дальше?

29.07.2015 28

Как развить линию с СКС?

Где грань между анализом реформ и «what works»?

Page 29: Using TIMSS and PISA results to inform educational policy: a study of Russia and its neighbours

Спасибо за внимание!

Татьяна Хавенсон

[email protected]

29 29.07.2015

Page 30: Using TIMSS and PISA results to inform educational policy: a study of Russia and its neighbours

29.07.2015 30

Эстония Латвия

2006 2009 2012 2006 2009 2012

Математика

Низкий СКС -0.21** 0.16*

Средний СКС 0.18** 0.23*** 0.19** 0.24***

Высокий СКС 0.39*** 0.24** 0.39***

Чтение

Низкий СКС -0.24* 0.20** 0.19* 0.39***

Средний СКС 0.18** 0.24*** 0.23*** 0.23*** 0.46***

Высокий СКС 0.19* 0.28*** 0.34*** 0.35***

Естествознание

Низкий СКС -0.20* 0.40*** -0.26** 0.33***

Средний СКС 0.25*** 0.36*** 0.27***

Высокий СКС 0.24** 0.47*** 0.18* 0.30***

Page 31: Using TIMSS and PISA results to inform educational policy: a study of Russia and its neighbours

Heterogeneity. Mathematics

29.07.2015 31

MATHEMATICS Low SCS Middle SCS High SCS

2006 2009 2012 2006 2009 2012 2006 2009 2012

SCS Yes Yes Yes Yes Yes Yes Yes Yes Yes

Estonia-Estonian 0.29*** 0.59*** 0.42*** 0.37*** 0.53*** 0.46*** 0.45*** 0.52*** 0.65***

Estonia-Russian -0.21** 0.13 0.14 -0.03 0.18** 0.23*** -0.07 0.11 0.39***

Latvia-Latvian -0.03 0.15** 0.11 0.04 0.28*** 0.18*** 0.12* 0.33*** 0.30***

Latvia-Russian -0.22 0.02 0.16* 0.00 0.19** 0.24*** 0.04 0.24** 0.39***

Constant -0.58*** -0.75*** -0.50*** -0.24*** -0.43*** -0.24*** 0.04 -0.28*** -0.16

R2 0.03 0.03 0.03 0.04 0.08 0.06 0.08 0.15 0.09

N 2798 3044 3604 8091 7681 7175 4268 3462 3105

Page 32: Using TIMSS and PISA results to inform educational policy: a study of Russia and its neighbours

Heterogeneity. Reading

29.07.2015 32

READING Low SCS Middle SCS High SCS

2006 2009 2012 2006 2009 2012 2006 2009 2012

SCS Yes Yes Yes Yes Yes Yes Yes Yes Yes

Estonia-Estonian 0.59*** 0.55*** 0.48*** 0.61*** 0.40*** 0.45*** 0.70*** 0.43*** 0.57***

Estonia-Russian -0.24* 0.15 0.20** -0.09 0.18** 0.24*** -0.12 0.14 0.19*

Latvia-Latvian 0.27*** 0.32*** 0.18** 0.34*** 0.36*** 0.25*** 0.43*** 0.36*** 0.22**

Latvia-Russian 0.11 0.19* 0.39*** 0.23*** 0.23*** 0.46*** 0.28*** 0.34*** 0.35***

Constant -0.86*** -0.71*** -0.48*** -0.45*** -0.32*** -0.21*** -0.27*** -0.25*** -0.11

R2 0.06 0.05 0.06 0.07 0.08 0.12 0.1 0.17 0.13

N 2798 3044 3604 8091 7681 7175 4268 3462 3105

Page 33: Using TIMSS and PISA results to inform educational policy: a study of Russia and its neighbours

Heterogeneity. Science

29.07.2015 33

SCIENCE Low SCS Middle SCS High SCS

2006 2009 2012 2006 2009 2012 2006 2009 2012

SCS Yes Yes Yes Yes Yes Yes Yes Yes Yes

Estonia-Estonian 0.39*** 0.66*** 0.73*** 0.48*** 0.58*** 0.61*** 0.66*** 0.59*** 0.79***

Estonia-Russian -0.20* 0.17 0.40*** -0.01 0.25*** 0.36*** 0.07 0.24** 0.47***

Latvia-Latvian -0.03 0.23*** 0.35*** 0.04 0.29*** 0.24*** 0.13** 0.30*** 0.33***

Latvia-Russian -0.26** 0.06 0.33*** -0.08 0.12 0.27*** -0.02 0.18* 0.30***

Constant -0.64*** -0.78*** -0.68*** -0.28*** -0.40*** -0.29*** -0.08 -0.26** -0.22

R2 0.04 0.03 0.06 0.05 0.05 0.08 0.09 0.14 0.09

N 2798 3044 3604 8091 7681 7175 4268 3462 3105