![Page 1: [ИТ-лекторий ФКН ВШЭ]: Диалоговые системы. Татьяна Ландо](https://reader036.vdocuments.pub/reader036/viewer/2022062523/58732ec91a28ab596c8b63a1/html5/thumbnails/1.jpg)
Диалоговые системы и чат-боты
Как они устроены сейчас, и что ждет их в ближайшем будущем
Татьяна Ландо
![Page 2: [ИТ-лекторий ФКН ВШЭ]: Диалоговые системы. Татьяна Ландо](https://reader036.vdocuments.pub/reader036/viewer/2022062523/58732ec91a28ab596c8b63a1/html5/thumbnails/2.jpg)
Настоящее
![Page 3: [ИТ-лекторий ФКН ВШЭ]: Диалоговые системы. Татьяна Ландо](https://reader036.vdocuments.pub/reader036/viewer/2022062523/58732ec91a28ab596c8b63a1/html5/thumbnails/3.jpg)
![Page 4: [ИТ-лекторий ФКН ВШЭ]: Диалоговые системы. Татьяна Ландо](https://reader036.vdocuments.pub/reader036/viewer/2022062523/58732ec91a28ab596c8b63a1/html5/thumbnails/4.jpg)
Ближайшее будущее:Conversational Commerce
• Telegram • Facebook• Slack
Платформы для быстрого построения ботов:• https://botogram.io/ • http://chatfuel.com/ru• http://manychat.com/
![Page 5: [ИТ-лекторий ФКН ВШЭ]: Диалоговые системы. Татьяна Ландо](https://reader036.vdocuments.pub/reader036/viewer/2022062523/58732ec91a28ab596c8b63a1/html5/thumbnails/5.jpg)
Как вообще устроен диалог?
![Page 6: [ИТ-лекторий ФКН ВШЭ]: Диалоговые системы. Татьяна Ландо](https://reader036.vdocuments.pub/reader036/viewer/2022062523/58732ec91a28ab596c8b63a1/html5/thumbnails/6.jpg)
Порядок обмена репликами
![Page 7: [ИТ-лекторий ФКН ВШЭ]: Диалоговые системы. Татьяна Ландо](https://reader036.vdocuments.pub/reader036/viewer/2022062523/58732ec91a28ab596c8b63a1/html5/thumbnails/7.jpg)
Структура разговора
![Page 8: [ИТ-лекторий ФКН ВШЭ]: Диалоговые системы. Татьяна Ландо](https://reader036.vdocuments.pub/reader036/viewer/2022062523/58732ec91a28ab596c8b63a1/html5/thumbnails/8.jpg)
Инициатива
![Page 9: [ИТ-лекторий ФКН ВШЭ]: Диалоговые системы. Татьяна Ландо](https://reader036.vdocuments.pub/reader036/viewer/2022062523/58732ec91a28ab596c8b63a1/html5/thumbnails/9.jpg)
Общий контекст
![Page 10: [ИТ-лекторий ФКН ВШЭ]: Диалоговые системы. Татьяна Ландо](https://reader036.vdocuments.pub/reader036/viewer/2022062523/58732ec91a28ab596c8b63a1/html5/thumbnails/10.jpg)
Что должна уметь диалоговая система?
• Определять, когда пользователь закончил говорить и ждет ответа;
• Иметь с пользователем общий контекст, обучаться на лету его пополнять;
• Понимать роли собеседников и порядок реплик;
• Вовремя перехватывать и отдавать инициативу
![Page 11: [ИТ-лекторий ФКН ВШЭ]: Диалоговые системы. Татьяна Ландо](https://reader036.vdocuments.pub/reader036/viewer/2022062523/58732ec91a28ab596c8b63a1/html5/thumbnails/11.jpg)
Единственная общепризнанная метрика – тест Тьюринга
![Page 12: [ИТ-лекторий ФКН ВШЭ]: Диалоговые системы. Татьяна Ландо](https://reader036.vdocuments.pub/reader036/viewer/2022062523/58732ec91a28ab596c8b63a1/html5/thumbnails/12.jpg)
Единственная общепризнанная метрика – тест Тьюринга
![Page 13: [ИТ-лекторий ФКН ВШЭ]: Диалоговые системы. Татьяна Ландо](https://reader036.vdocuments.pub/reader036/viewer/2022062523/58732ec91a28ab596c8b63a1/html5/thumbnails/13.jpg)
Как устроены чат-боты?
![Page 14: [ИТ-лекторий ФКН ВШЭ]: Диалоговые системы. Татьяна Ландо](https://reader036.vdocuments.pub/reader036/viewer/2022062523/58732ec91a28ab596c8b63a1/html5/thumbnails/14.jpg)
Классическая архитектура чат-бота
![Page 15: [ИТ-лекторий ФКН ВШЭ]: Диалоговые системы. Татьяна Ландо](https://reader036.vdocuments.pub/reader036/viewer/2022062523/58732ec91a28ab596c8b63a1/html5/thumbnails/15.jpg)
Классическая архитектура чат-бота
• КАК ТЫ ЖИВЕШЬ | ? | Вот, сижу в компьютере, разговариваю с людьми…
• ТЕБЯ ДОЛГО ДЕЛАЛИ | ? | Меня - полдня, а базу - четыре года.
• ПЛОХО | ТАК КАК | А ты не допускаешь другой точки зрения?
• ХОЧУ | РАБОТ | Если хочешь поработать, ляг поспи и все пройдет.
![Page 16: [ИТ-лекторий ФКН ВШЭ]: Диалоговые системы. Татьяна Ландо](https://reader036.vdocuments.pub/reader036/viewer/2022062523/58732ec91a28ab596c8b63a1/html5/thumbnails/16.jpg)
Классическая архитектура чат-бота
• Диалог основывается на шаблонах «стимул — реакция»
![Page 17: [ИТ-лекторий ФКН ВШЭ]: Диалоговые системы. Татьяна Ландо](https://reader036.vdocuments.pub/reader036/viewer/2022062523/58732ec91a28ab596c8b63a1/html5/thumbnails/17.jpg)
Классическая архитектура чат-бота
Входная реплика hey man, look at what I've found here ;)
Очистка look at what I have found here
Поиск шаблона <WHAT I HAVE FOUND HERE>
Поиск шаблона <WHAT DID YOU FIND?><THAT'S NOT INTERESTING!>
Ответ That's not interesting!
![Page 18: [ИТ-лекторий ФКН ВШЭ]: Диалоговые системы. Татьяна Ландо](https://reader036.vdocuments.pub/reader036/viewer/2022062523/58732ec91a28ab596c8b63a1/html5/thumbnails/18.jpg)
Прошлое
![Page 19: [ИТ-лекторий ФКН ВШЭ]: Диалоговые системы. Татьяна Ландо](https://reader036.vdocuments.pub/reader036/viewer/2022062523/58732ec91a28ab596c8b63a1/html5/thumbnails/19.jpg)
Eliza (Weizenbaum, 1966)
User: I am feeling depressed. ELIZA: How long are you feeling depressed?
I am feeling * => How long are you feeling *
![Page 20: [ИТ-лекторий ФКН ВШЭ]: Диалоговые системы. Татьяна Ландо](https://reader036.vdocuments.pub/reader036/viewer/2022062523/58732ec91a28ab596c8b63a1/html5/thumbnails/20.jpg)
AIML: ALICE & Co
• AIML – XML для создания чатботов• ALICE: –бот с открытым кодом на основе AIML–50 000 пар шаблон – ответ –поддержка краткосрочной памяти–поддержка темы диалога –обобщенные шаблоны
![Page 21: [ИТ-лекторий ФКН ВШЭ]: Диалоговые системы. Татьяна Ландо](https://reader036.vdocuments.pub/reader036/viewer/2022062523/58732ec91a28ab596c8b63a1/html5/thumbnails/21.jpg)
Поддержка краткосрочной памяти
<category><pattern>YES</pattern><that>DO YOU LIKE READING BOOKS?</that><template>Which one do you like most?</template></category>
![Page 22: [ИТ-лекторий ФКН ВШЭ]: Диалоговые системы. Татьяна Ландо](https://reader036.vdocuments.pub/reader036/viewer/2022062523/58732ec91a28ab596c8b63a1/html5/thumbnails/22.jpg)
Поддержка темы диалога
<topic name=”POETRY”/><category><pattern>*</pattern><template>Do you own any poetry books?</template></category>
![Page 23: [ИТ-лекторий ФКН ВШЭ]: Диалоговые системы. Татьяна Ландо](https://reader036.vdocuments.pub/reader036/viewer/2022062523/58732ec91a28ab596c8b63a1/html5/thumbnails/23.jpg)
Обобщения шаблонов
– Меня зовут Бонд, Джеймс Бонд– Приятно познакомиться, Бонд, Джеймс
Бонд!
![Page 24: [ИТ-лекторий ФКН ВШЭ]: Диалоговые системы. Татьяна Ландо](https://reader036.vdocuments.pub/reader036/viewer/2022062523/58732ec91a28ab596c8b63a1/html5/thumbnails/24.jpg)
Обобщения шаблонов
– Меня зовут Бонд, Джеймс Бонд– Приятно познакомиться, Бонд, Джеймс
Бонд!
– Меня зовут Бонд, Джеймс Бонд– Приятно познакомиться, Бонд!
![Page 25: [ИТ-лекторий ФКН ВШЭ]: Диалоговые системы. Татьяна Ландо](https://reader036.vdocuments.pub/reader036/viewer/2022062523/58732ec91a28ab596c8b63a1/html5/thumbnails/25.jpg)
Обобщения шаблонов
– Меня зовут Бонд, Джеймс Бонд– Приятно познакомиться, Бонд, Джеймс
Бонд!
– Меня зовут Бонд, Джеймс Бонд– Приятно познакомиться, Бонд!
– Меня зовут Бонд, Джеймс Бонд– Приятно познакомиться, Джеймс!
![Page 26: [ИТ-лекторий ФКН ВШЭ]: Диалоговые системы. Татьяна Ландо](https://reader036.vdocuments.pub/reader036/viewer/2022062523/58732ec91a28ab596c8b63a1/html5/thumbnails/26.jpg)
Обобщение шаблонов и NLP
• Регулярные выражения• Контекстно-свободные грамматики• Извлечение именованных сущностей
(NER)• Синтаксический парсинг, вот это всё
![Page 27: [ИТ-лекторий ФКН ВШЭ]: Диалоговые системы. Татьяна Ландо](https://reader036.vdocuments.pub/reader036/viewer/2022062523/58732ec91a28ab596c8b63a1/html5/thumbnails/27.jpg)
Обобщение шаблонов и NLP
<category><pattern>WHO IS ALBERT *</pattern><template>albert is a common name</template></category>
<category><pattern>WHO IS NE_PERSON *</pattern><template>I don't know anybody of that name.</template></category>
![Page 28: [ИТ-лекторий ФКН ВШЭ]: Диалоговые системы. Татьяна Ландо](https://reader036.vdocuments.pub/reader036/viewer/2022062523/58732ec91a28ab596c8b63a1/html5/thumbnails/28.jpg)
Как устроены диалоговые системы?
![Page 29: [ИТ-лекторий ФКН ВШЭ]: Диалоговые системы. Татьяна Ландо](https://reader036.vdocuments.pub/reader036/viewer/2022062523/58732ec91a28ab596c8b63a1/html5/thumbnails/29.jpg)
Классическая архитектура диалоговой системы
Понимание ввода на естественном языке
Управление диалогом
Генерация ответа на естественном языке
![Page 30: [ИТ-лекторий ФКН ВШЭ]: Диалоговые системы. Татьяна Ландо](https://reader036.vdocuments.pub/reader036/viewer/2022062523/58732ec91a28ab596c8b63a1/html5/thumbnails/30.jpg)
Классическая архитектура диалоговой системы
![Page 31: [ИТ-лекторий ФКН ВШЭ]: Диалоговые системы. Татьяна Ландо](https://reader036.vdocuments.pub/reader036/viewer/2022062523/58732ec91a28ab596c8b63a1/html5/thumbnails/31.jpg)
Понимание естественного языка Natural Language Understanding
• Сири, разбуди меня завтра в 6 утра • Слушай, Яндекс, поехали домой• Окей, гугл, Сколько лет Анджелине
Джоли?• Фильм в котором два мужика едут к
морю
![Page 32: [ИТ-лекторий ФКН ВШЭ]: Диалоговые системы. Татьяна Ландо](https://reader036.vdocuments.pub/reader036/viewer/2022062523/58732ec91a28ab596c8b63a1/html5/thumbnails/32.jpg)
Понимание естественного языка Natural Language Understanding
Очистка входной реплики
Опечатки, ошибки, символы
Сегментация ПредложенияУровень слов Морфология, извлечение
именованных сущностейСинтаксис Синтаксические связи
Семантика Попытка связать со значениями
![Page 33: [ИТ-лекторий ФКН ВШЭ]: Диалоговые системы. Татьяна Ландо](https://reader036.vdocuments.pub/reader036/viewer/2022062523/58732ec91a28ab596c8b63a1/html5/thumbnails/33.jpg)
Управление диалогом
• Решает, что должна сделать система• Основана на «разговорных состояниях»– Граф конечных состояний– Фреймы– План
![Page 34: [ИТ-лекторий ФКН ВШЭ]: Диалоговые системы. Татьяна Ландо](https://reader036.vdocuments.pub/reader036/viewer/2022062523/58732ec91a28ab596c8b63a1/html5/thumbnails/34.jpg)
Управление диалогом: фрейм
Покупка авиабилета
Origin: {{city}} МоскваDestination: {{city}} ПарижDate: {{date}} завтра
Time: {{time}} 10.00Airline: {{airline_name}} Air France
![Page 35: [ИТ-лекторий ФКН ВШЭ]: Диалоговые системы. Татьяна Ландо](https://reader036.vdocuments.pub/reader036/viewer/2022062523/58732ec91a28ab596c8b63a1/html5/thumbnails/35.jpg)
Генерация ответа
• Преднаписанный текст• Заполнение шаблонов:– Преднаписанные тексты с пробелами– Пробелы заполняются значениями
переменных• Генерация текста:– Очень сложно делать хорошо– Интегрирована в «плановое управление
диалогом»
![Page 36: [ИТ-лекторий ФКН ВШЭ]: Диалоговые системы. Татьяна Ландо](https://reader036.vdocuments.pub/reader036/viewer/2022062523/58732ec91a28ab596c8b63a1/html5/thumbnails/36.jpg)
Генерация ответа
В Москве 21 ноября 2015 года будет 4 градуса выше нуля.
В _city_(предложный падеж) _date_ будет _degrees_. Date = _day_ _month_ _year_Degrees = _number_ _градус(а|ов|-)_ (выше|ниже) нуля
![Page 37: [ИТ-лекторий ФКН ВШЭ]: Диалоговые системы. Татьяна Ландо](https://reader036.vdocuments.pub/reader036/viewer/2022062523/58732ec91a28ab596c8b63a1/html5/thumbnails/37.jpg)
Генерация естественного языка
Naturalism and decision for the majority of Arab countries' capitalide was grounded by the Irish language by [[John Clair]], [[An Imperial Japanese Revolt]], associated with Guangzham's sovereignty. His generals were the powerful ruler of the Portugal in the [[Protestant Immineners]], which could be said to be directly in Cantonese Communication, which followed a ceremony and set inspired prison, training.
![Page 38: [ИТ-лекторий ФКН ВШЭ]: Диалоговые системы. Татьяна Ландо](https://reader036.vdocuments.pub/reader036/viewer/2022062523/58732ec91a28ab596c8b63a1/html5/thumbnails/38.jpg)
Попытки автоматизации
• Марковский процесс принятия решения• Обучение с подкреплением
(Reinforcement learning)• Проблемы:– Подобрать вознаграждения для MDP – Количество состояний конечно (реплик или
действий)
![Page 39: [ИТ-лекторий ФКН ВШЭ]: Диалоговые системы. Татьяна Ландо](https://reader036.vdocuments.pub/reader036/viewer/2022062523/58732ec91a28ab596c8b63a1/html5/thumbnails/39.jpg)
Что дальше?
![Page 40: [ИТ-лекторий ФКН ВШЭ]: Диалоговые системы. Татьяна Ландо](https://reader036.vdocuments.pub/reader036/viewer/2022062523/58732ec91a28ab596c8b63a1/html5/thumbnails/40.jpg)
Машинное обучение и боты
![Page 41: [ИТ-лекторий ФКН ВШЭ]: Диалоговые системы. Татьяна Ландо](https://reader036.vdocuments.pub/reader036/viewer/2022062523/58732ec91a28ab596c8b63a1/html5/thumbnails/41.jpg)
Машинное обучение и боты
• Обучение на реальных диалогах: – End-to-end системы – Нейронные сети
• Обучение с подкреплением:– Разные реакции на одинаковые реплики– Но не понятно как их оценивать
![Page 42: [ИТ-лекторий ФКН ВШЭ]: Диалоговые системы. Татьяна Ландо](https://reader036.vdocuments.pub/reader036/viewer/2022062523/58732ec91a28ab596c8b63a1/html5/thumbnails/42.jpg)
Нейронные сети
• Обучение от последовательности к последовательности (Sequence to sequence)см. Ilya Sutskever, Oriol Vinyals, Quoc V.Le
• Многослойная длинная краткосрочная память (Long Short-Term Memory, LSTM)
• Neural Conversational Model: – Субтитры– Логи службы поддержки
![Page 43: [ИТ-лекторий ФКН ВШЭ]: Диалоговые системы. Татьяна Ландо](https://reader036.vdocuments.pub/reader036/viewer/2022062523/58732ec91a28ab596c8b63a1/html5/thumbnails/43.jpg)
Гибриды
• Надо ли обучать нейронную сеть, чтобы отвечать на вопросы о погоде?
• Чат-боты используются для «общечеловеческой болтовни»
• Диалоговые системы – для применений в конкретных предметных областях
![Page 44: [ИТ-лекторий ФКН ВШЭ]: Диалоговые системы. Татьяна Ландо](https://reader036.vdocuments.pub/reader036/viewer/2022062523/58732ec91a28ab596c8b63a1/html5/thumbnails/44.jpg)
Оценка качества
![Page 45: [ИТ-лекторий ФКН ВШЭ]: Диалоговые системы. Татьяна Ландо](https://reader036.vdocuments.pub/reader036/viewer/2022062523/58732ec91a28ab596c8b63a1/html5/thumbnails/45.jpg)
Оценка качества: зачем?
• Оценить как система выполняет цели• Как система улучшается от версии к версии• Сравнивать системы между собой• Найти слабые места системы• Делать тонкую настройку: размен факторов
![Page 46: [ИТ-лекторий ФКН ВШЭ]: Диалоговые системы. Татьяна Ландо](https://reader036.vdocuments.pub/reader036/viewer/2022062523/58732ec91a28ab596c8b63a1/html5/thumbnails/46.jpg)
Оценка качестваНейронная сетьQ: my name is david . what is my name ?R: david .Q: is sky blue or black ?R : blue .Q: what do you think about cleopatra ?R: oh , she ’s very regal .
Чат-бот (Cleverbot)Q: My name is david . what is my name ?R: How old are you David?Q: Is sky blue or black ?R: I am 200 years old.Q: What do you think about cleopatra ?R: Cool is cool.
![Page 47: [ИТ-лекторий ФКН ВШЭ]: Диалоговые системы. Татьяна Ландо](https://reader036.vdocuments.pub/reader036/viewer/2022062523/58732ec91a28ab596c8b63a1/html5/thumbnails/47.jpg)
Оценка качества: пользовательские и объективные
• Счастье пользователя:– Вероятность повторного использования– Простота использования, ожидаемое поведение– Обратная связь «спасибо»
• Характеристики системы: – Проблема 100% полноты (у чат ботов)– Частота успешных диалогов– Время/число реплик до выполнения цели
диалога
![Page 48: [ИТ-лекторий ФКН ВШЭ]: Диалоговые системы. Татьяна Ландо](https://reader036.vdocuments.pub/reader036/viewer/2022062523/58732ec91a28ab596c8b63a1/html5/thumbnails/48.jpg)
Оценка качества: юзабилити
• «Счастье пользователей»:– Task ease– Perceived completion– Expected behavior
• Вероятность повторного использования
![Page 49: [ИТ-лекторий ФКН ВШЭ]: Диалоговые системы. Татьяна Ландо](https://reader036.vdocuments.pub/reader036/viewer/2022062523/58732ec91a28ab596c8b63a1/html5/thumbnails/49.jpg)
Оценка качества: объективные
• Проблема 100% полноты (у чат ботов)• Частота успешных диалогов• Время/число реплик до выполнения
цели диалога
![Page 50: [ИТ-лекторий ФКН ВШЭ]: Диалоговые системы. Татьяна Ландо](https://reader036.vdocuments.pub/reader036/viewer/2022062523/58732ec91a28ab596c8b63a1/html5/thumbnails/50.jpg)
Оценка качества: WOZ
Решаем проблему, где взять эталон:– Человек прикидывается чат-ботом (Wizard)– Пользователь считает, что говорит с чат-
ботом– Строгие протоколы взаимодействия– Нужно много «волшебников»
![Page 51: [ИТ-лекторий ФКН ВШЭ]: Диалоговые системы. Татьяна Ландо](https://reader036.vdocuments.pub/reader036/viewer/2022062523/58732ec91a28ab596c8b63a1/html5/thumbnails/51.jpg)
Использование в настоящем и будущем
![Page 52: [ИТ-лекторий ФКН ВШЭ]: Диалоговые системы. Татьяна Ландо](https://reader036.vdocuments.pub/reader036/viewer/2022062523/58732ec91a28ab596c8b63a1/html5/thumbnails/52.jpg)
XiaoIce• Jerry: XiaoIce, will it rain tomorrow?• XiaoIce: Tomorrow the weather in Beijing will be
nice with a maximum high of 25*C. No rain to get you soaked.
• Jerry: How about the day after tomorrow?• XiaoIce: The day after tomorrow, the weather in
Beijing will also be fair, with a max high of 23*C.• Jerry: What about Seattle?• XiaoIce: Yes sir, I’ve got the answer. The day
after tomorrow, Seattle will be cloudy with a max high of 30*C. Perfect for going outside.
![Page 53: [ИТ-лекторий ФКН ВШЭ]: Диалоговые системы. Татьяна Ландо](https://reader036.vdocuments.pub/reader036/viewer/2022062523/58732ec91a28ab596c8b63a1/html5/thumbnails/53.jpg)
![Page 54: [ИТ-лекторий ФКН ВШЭ]: Диалоговые системы. Татьяна Ландо](https://reader036.vdocuments.pub/reader036/viewer/2022062523/58732ec91a28ab596c8b63a1/html5/thumbnails/54.jpg)
Какими станут диалоговые системы?
• Обучающимися• Эмоциональными• Персональными• Универсальными• Аватаризированными
![Page 55: [ИТ-лекторий ФКН ВШЭ]: Диалоговые системы. Татьяна Ландо](https://reader036.vdocuments.pub/reader036/viewer/2022062523/58732ec91a28ab596c8b63a1/html5/thumbnails/55.jpg)
Терапевтические применения
![Page 56: [ИТ-лекторий ФКН ВШЭ]: Диалоговые системы. Татьяна Ландо](https://reader036.vdocuments.pub/reader036/viewer/2022062523/58732ec91a28ab596c8b63a1/html5/thumbnails/56.jpg)
Голосовые интерфейсы