Scheduling Computational Workflows with Low Latency Requirements

Microsoft Research Internship

Рыбалкин Михаил

1

2

Запрос к поисковой системе

Ваш любимый браузер

Olympics 2012

Bing Servers

Изображения

РекламаРезультаты поиска

События

Связанные запросы

Связанныезапросы

3

Время выполения запроса

Время дня

Количествозапросов

Времявыполнения

4

Вариация времени выполенния

Большое отклонение времени выполенния приводит к:

Выход за пределы гарантированных сроков выполнения

Различным результатам Перерасход вычислительных ресурсов

95% квантиль более важен чем среднее время

Время выполнения запроса:

Время дня

Врем

я в

ып

ол

нен

ия

5

Схема выполнения запроса

Spell Check

Suggestions

News

Blogs

…

Web Index

Advertising

…

Время выполения

Web Index

6

Распределение медленных запросы

Номер компьютера

Врем

я д

ня

7

Ход исследования

1. Анализ логов работы системы (1

мес)

2. Написание симулятора системы (2

недели)

3. Уменьшение отклонения времени

выполнения:

Управление очередями

Адаптивное выполнение запроса

8

Результаты анализа логов

Различия в скорости машин

Временные отключения/замеделения машин

Непредсказуемая задержки в сети

Вариации времени выполнения

и пр.

Автоматическое определение причин

замеделения?

Адаптивное выполнение запроса

Slide 9

10

Адаптивное выполнение запроса

Шаг 1 Шаг 2

Повторный запрос через 50 мс

T1 T2

Шаг 1 Шаг 2 Общее время

𝑇 1 𝑓 (𝑇 ¿¿1)¿

11

Функция задержки

Шаг 1 Шаг 2

T1 T2

𝑓 (𝑇 ¿¿1)¿

𝑇 1𝐵1

𝐵2

𝑓 (𝑇 1)

𝑇 1

12

Оптимальная функция задержки

Выполнение без повторов:

Выполнение с повторными запросами:)

Ограничение: доля новых запросов

Минимизация: → min Оптимальный вид функции ? Не знаю.

13

Результаты: сравнение методов

14

Результаты

15% увеличение числа запросов

Method 99th percentile Improvement

No reissue 352.8 0.00%

100% duplicates 294.4 16.55%

Fixed timeout 334.1 5.30%

Global timeout 301.4 14.57%

15

Дальнейшее исследование Обобщение на несколько шагов:

Более общая функция задержки

T2

Шаг 1 Шаг 2

T1

𝑓 (𝑇 ¿¿1)¿

Шаг 3

𝑓 (𝑇 ¿¿1+𝑇2)¿

T3

𝑓 (𝑇 ¿¿1)¿

𝑇 1

Впечатление от стажировки

Slide 16

17

Структура Microsoft и Microsoft Research

MicrosoftMicrosoft Research

R&D

93 000 струдников 1000 струдников

Семинары, лекции, экскурсии, стуктура организации, …

18

Впечатления от стажировки