텍스트에서자동감정...

2015-11-11

1

텍스트에서자동감정/의견분석

사회과학연구방법론포럼

2015년 11월 11일

신효필

(서울대학교인문대학언어학과)[email protected]

http://knlp.snu.ac.kr

2015-11-11

목차

자연언어처리란(Natural Language Processing)?

감정분석(sentiment Analysis)/의견분석(Opinion Analysis) 감정분석/의견분석?

빅데이터분석

새로운마케팅/위기관리/고객관리수단

사회과학과의접목

언어분석기반의소셜미디어(SNS) 분석

소셜미디어이슈탐지

이슈예측분석

감정분석의단계

감정분석의현주소

참고문헌

2015-11-11

2015-11-11

2

목차



빅데이터분석





이슈예측분석



참고문헌

2015-11-11

자연언어처리의최종목표

2015-11-11

2015-11-11

3

컴퓨터와의대화

Stanley Kubrick’s film ‘2001: A Space Odyssey’ (1968) : HAL 9000 Computer HAL can interact with humans

via language 음성인식(speech recognition) 자연언어이해(natural

language understanding) 자연언어생성(natural

language generation) 음성합성(speech synthesis) 정보검색(information

retrieval) 정보추출(information

extraction) 추론(inference)

2015-11-11

자연언어처리의중요성

인터넷시대 기계번역과다국어정보검색이필요함 인터넷상의정보를효율적으로제어할필요성 인터넷을통한유언비어, 스팸(spam) 메일유포문제 2003년도에 EU는공식문서만 130만페이지를번역. 이를위해번역전문가 4천명이동원되었고 10억유로라는비용이소요됨

군사적목적 자연언어처리시스템의많은부분은군사적목적 상대방의정보를인간의도움없이쉽게획득

정보의기본단위인인간언어의자동처리로정보화시대에적극대처할필요

스마트폰시대 시리, S-voice, 정보검색

학제적중요성 언어학/컴퓨터공학/인지과학/통계학/심리학.. 2015년 2학기대학원컴퓨터언어학연구I 수강생현황(21명)

(영어영문1, 언어학7, 인지과학5, 언론정보학1, 경영학1, 컴퓨터공학3, 건설환경공학1, 융합과학(디지털융합전공)2

2015년 1학기학부컴퓨터언어학(국어국문, 노어노문, 언어학인지과학, 인류학, 심리학, 지리학, 산업공학, 컴퓨터공학, 지리교육, 소비자아동학, 자유전공학부)

2015-11-11

2015-11-11

4

자연언어처리-왜어려운가?

인간언어의근원적문제 –중의성 (ambiguity) ‘감기’

‘늙은사또와기생’

‘여기물이좋은데’

중의성해결이자연언어처리의목표

2015-11-11

Watson at the Jeopardy

2015-11-11

2015-11-11

5

텍스트마이닝(Text Mining)

Text mining은방대한양의문서에서유용한지식을찾아낼수있는시스템을개발

Data mining은관계테이블과같이정형화된자료에서어떤지식을얻어내는반면텍스트는그런구조로되어있지않고정보도자유로운형식으로기술되어있다.

따라서텍스트를분석하여정보를추출할수있는자연언어처리기술이필요

자연언어처리방법을사용하여문서에서발견되는용어들을나타내는개념들의집합으로전환된다.

Text Mining은텍스트를찾는기술이외에도어떤사실이나저자의의도, 기대, 주장등을추출해낼수있는방법도포함 이런지식은marketing, trend analysis, claim processing, generating FAQ 와같은응용시스템에서도중요.

2015-11-11

Language Technology

Coreference resolution

Question answering (QA)

Part‐of‐speech (POS) tagging

Word sense disambiguation (WSD)

Paraphrase

Named entity recognition (NER)

ParsingSummarization

Information extraction (IE)

Machine translation (MT)

Dialog

Sentiment analysis

mostly solved

making good progress

still really hard

Spam detection

Let’s go to Agra!

Buy V1AGRA …

✓

✗

Colorless green ideas sleep furiously.

ADJ ADJ NOUN VERB ADV

Einstein met with UN officials in Princeton

PERSON ORG LOC

You’re invited to our dinner party, Friday May 27 at 8:30

PartyMay 27add

Best roast chicken in San Francisco!

The waiter ignored us for 20 minutes.

Carter told Mubarak he shouldn’t run again.

I need new batteries for my mouse.

The 13th Shanghai International Film Festival…

第13届上海国际电影节开幕…

The Dow Jones is up

Housing prices rose

Economy is good

Q. How effective is ibuprofen in reducing fever in patients with acute febrile illness?

I can see Alcatraz from the window!

XYZ acquired ABC yesterday

ABC has been taken over by XYZ

Where is Citizen Kane playing in SF?

Castro Theatre at 7:30. Do you want a ticket?

The S&P500 jumped

2015-11-11

2015-11-11

6

목차



빅데이터분석





이슈예측분석



참고문헌

2015-11-11

감정/의견분석(Sentiment / Opinion Analysis)?

감정분석 (Sentiment Analysis), 의견분석(Opinion Analysis) ?

텍스트에나타난사람들의태도, 의견, 성향과같은주관적데이터를분석하는자연언어처리(Natural Language Processing)의한분야

다수의의견(opinion)을요약하는기술

감정 vs. 감성 ?

주관성(subjectivity)과객관성(objectivity)을포함하는문제 Opinion vs. Fact

2015-11-11

2015-11-11

7

감정분류

감정을표현하는영어단어 : 2600종한국어 (현대한국어의어휘빈도 65,000단어중에서 ) : 434쾌 : 28%불쾌 : 72%

공포/분노/슬픔/기쁨/좋음/싫음/공감

Plutchik의감정분류

2015-11-11

감정분류

ETRI의 20여개감정분류

2015-11-11

2015-11-11

8

감정분석의구조

2015-11-11

Information Extraction & Sentiment Analysis

nice and compact to carry!

since the camera is small and light, I won't need to carry around those heavy, bulky professional cameras either!

the camera feels flimsy, is plastic and very light in weight you have to be very delicate in the handling of this camera

Size and weight

Attributes:zoomaffordabilitysize and weightflash ease of use

✓

✗

✓

2015-11-11

2015-11-11

9

Google Product Search

a

2015-11-11

Target Sentiment on Twitter

Twitter Sentiment App Alec Go, Richa Bhayani, Lei Huang. 2009.

Twitter Sentiment Classification using Distant Supervision

2015-11-11

2015-11-11

10

Aspect-based 감정분석

2015-11-11

Aspect-based 감정분석

Opinion-target의속성별감정분석 “화질이구리다”

속성: 디스플레이, 속성표현:화질, 속성값:구리다

2015-11-11

2015-11-11

11

온라인토론/논쟁의견분석

Ong et al. (2014)의 Argument Diagram

2015-11-11

온라인토론/논쟁의견분석

논쟁구조분석

2015-11-11

2015-11-11

12

논쟁분석예시

textID ID_1

stance pos

topic 박원순 시장의 무상보육

중앙정부의 무책임을 서울시가 대신 떠맡는 것에 대해, 중앙정부는 자신들이 떠맡지 않더라도 알아서 잘 한다고 생각하지 않고, 서울시가 한계에 부딪치는 무리를 해가면서 책임을

이어간다는 것을 이해하고 그 책임을 함께 거들어야claim

textID ID_2

stance pos


중앙정부에서 자기들이 자기입으로 한 약속을 안지키는데 대해서는 넌덜머리가 납니다. claim

박시장님이라도 힘없는 시민들의 힘이 되어 주신다니...정말 다행이 아닐 수 없네요^^& claim

안티들 많아도 힘내세요~ support

안티들도 돈받고 어쩔수 없이 하는 분들이 많더라고요 support

textID ID_3

stance neg


돈없다는 놈이 민주 노총에는 왜 15억이나 지급하냐? claim

무상급식 하면서 급식노조 결성해서 선거에 이용하려는 꼼수는 아니겠지? claim

textID ID_4

stance neg


그 2000억 빚은 누구 빚인가요? claim

그 빚을 갚으라는건데요.저는 무상급식이고 무상보육이고 지금까지 혜택받은 거 없습니다. claim

그리고 앞으로 10년 내에도 없을거고요. claim

제가 왜 시장님 선심공세에 제 월급을 축내면서 지원해야 하는지요? oppose

남 탓 하기전에당신의 처음 공약부터 사탕발림이었지 않나요? oppose

시장님 별명이 원숭이인가요? not

흉내내기그것 참 묘한 늬앙스가 oppose

2015-11-11

소셜빅데이터분석

소셜빅데이터로부터이슈를탐지, 모니터링하여이슈의향후전개과정에대한예측

2012년의미국의 ‘빅데이터선거’

전문가의실시간의사결정지원

2015-11-11

2015-11-11

13

Marketing과감정분석

소셜마케팅의중요성부각

다양한소셜플랫폼에올라오는사용자의활동이나피드백에대한자료분석

방대한자료에서소비자의의견을일일이추적하는것이어려움.

이런자료를자동으로처리하는효과적인분석솔루션이필요

Adobe Social –예측퍼블리싱솔루션

제품및서비스에대한사용자의의견이나평가, 별점조사

업체에대한부정적인의견이나이슈의실시간모니터링

시장현황이나경쟁업체의활동, 소비자트랜드추적

업체의활동이나관련이슈에대한대중의반응측정

IBM의 Social Analytics –스페인의민간금융업체인 BBVA(Banco Bilbao Vizcaya Argentaria, S.A)가소셜에널리틱스를도입해브랜드이미지및고객관리분야에서큰성과를이룸

2015-11-11

Top 6 웹분석서비스

2015-11-11

2015-11-11

14

사회과학과 접목

Political Linguistics? Justin Grimmer(An associate Professor of Political Science at

Stanford University) How representation occurs in American politics using new statistical Methods What Legislators Say and Why It Matters(Cambridge University Press, 2013):

how senators define the type representation they provide constituents and how this affects constituents’ evaluations

Using the new data and methods, he shows how the incentives of communication contribute to perceptions of an angry public and vitriolic politicians

The Impression of Influence: How Legislator Communications and Government Spending Cultivate a Personal Vote (Princeton University Press, 2014)

언론정보학과 공익을 위한 언론 및 소셜미디어 모니터링 시스템 구축 (언론정보학과 한규섭교수)

사회학과 한국 지식생태계 구축 연구

2015-11-11

목차



빅데이터분석






이슈예측분석


참고문헌

2015-11-11

2015-11-11

15


데이터수집(Data Collection) 인터넷상에있는방대한양의소셜미디어및블로그, 게시판등의자료수집

보통검색엔진활용

수집된데이터는 ‘감정’과는관련이없는자료도있기때문에필요한자료만을추출하는주관성탐지작업이필요

대개인터넷자료는비형식적, 비문법적자료가많기때문에이를처리할수있는선처리작업이필요

2015-11-11


주관성탐지 (Subjectivity Detection) 감정, 의견이드러나있는주관적자료만을정제 긍정, 부정, 중립, 객관등의지표사용

극성탐지(Polarity Detection) 자료가긍정인지부정인지파악 보통은극성어휘에바탕을둔단순한연산작업 문서단위, 문장단위, 속성단위의극성분석 기계학습(Machine Learning)을이용한학습

이노트북은최첨단프로세스와메모리를갖추고있어뛰어난성능을자랑한다.

스크린도크고선명해오랫동안사용해도눈이피로하지않다는장점이있다

또한태블릿 PC로서스크린의터치감도이전모델보다확연히좋아졌다

그러나이노트북은결정적으로지나치게무거워구매가망설여진다.

2015-11-11

2015-11-11

16

Baseline Algorithm

TokenizationFeature ExtractionClassification using different

classifiers Naïve Bayes MaxEnt SVM

Deep Learning Word2Vec…

2015-11-11

감정분석의자원 – The General Inquirer

Home page: http://www.wjh.harvard.edu/~inquirer List of Categories:

http://www.wjh.harvard.edu/~inquirer/homecat.htm Spreadsheet:

http://www.wjh.harvard.edu/~inquirer/inquirerbasic.xls

Categories: Positiv (1915 words) and Negativ (2291 words) Strong vs Weak, Active vs Passive, Overstated

versus Understated Pleasure, Pain, Virtue, Vice, Motivation, Cognitive

Orientation, etc Free for Research Use

2015-11-11

2015-11-11

17

감정분석의 자원:LIWC (Linguistic Inquiry and Word Count)

Home page: http://www.liwc.net/2300 words, >70 classes Affective Processes

negative emotion (bad, weird, hate, problem, tough)

positive emotion (love, nice, sweet) Cognitive Processes

Tentative (maybe, perhaps, guess), Inhibition (block, constraint)

Pronouns, Negation (no, never), Quantifiers (few, many)

$30 or $90 fee

2015-11-11

감정분석의 자원: MPQA Subjectivity Cues Lexicon

Home page: http://www.cs.pitt.edu/mpqa/subj_lexicon.html

6885 words from 8221 lemmas 2718 positive 4912 negative

Each word annotated for intensity (strong, weak)

GNU GPL

2015-11-11

2015-11-11

18

감정분석의 자원: KOSAC

KOrean Sentiment Analysis Corpus http://word.snu.ac.kr/kosacSubjective Objective Total2658 5055 7713

Agree. Argu. Emotion

Intention

Judgment

Speculation Others Total

Dir-Action 1 9 71 8 38 0 1 128

Dir-Explicit 156 277 341 276 2740 157 40 3987

Dir-Speech 8 1149 22 28 86 13 7 1313

Indirect 255 321 720 409 6086 63 22 7876

Writing-Device 5 98 9 306 764 172 2957 4311

Total 425 1854 1163 1027 9714 405 3027 176152015-11-11

목차



빅데이터분석





이슈예측분석


참고문헌

2015-11-11

2015-11-11

19

언어분석기반의소셜미디어분석 (국내)

소셜메트릭스(다음소프트) http://www.socialmetrics.co.kr/campaign.html

사용자가입력한키워드에대해소셜미디어에서노출된빈도추이와관련연관어맵을제공하고, 각키워드에대한긍부정감정정보및날짜별로가장많이확산된트윗메시지제공

2015-11-11

언어분석기반의소셜미디어분석(국내)

펄스K(코난테크놀로지) http://www.pulsek.com

트위터, 페이스북(4월말로종료), 미투데이, 블로그등의소셜미디어를모니터링하고분석

최근 14일간의소셜인지도와호감도(긍부정)를기반으로평판을수치화함

2015-11-11

2015-11-11

20

언어분석기반의소셜미디어분석(국내)

현재는서비스되지않는몇예 트루스토리(솔트룩스)

http://politician.truestory.co.kr

정치인혹은정치적관심을받는인물들을대상으로소셜미디어상에서의추이를제공

씨날(그루터) http://www.seenal.com

기업및브랜드관련소셜버즈모니터링서비스

2014년 12월말로서비스종료

소셜위즈덤 한국전자통신연구원

소셜미디어(뉴스, 블로그, 트위터) 문서를수집, 저장하고차별화된심층언어분석을기반으로추출한정보를이용하여이슈를탐지하고모니터링

소셜미디어에감정을표현한문장들에감정분석기술을접목하여전반적인호감도나여론등을추론하는서비스를제공

2015-11-11

언어분석기반의소셜미디어분석(해외)

2000년이후부터소셜미디어에서사용자의 needs를파악하기위한비즈니스연구가진행

특정브랜드의모니터링, 사용자의피드백감정분석, 네트워크분석의사결정지원하는제품들이개발

공익적인측면

다양한웹및소셜웹으로부터질병과재해관련정보를탐지하여세계적동향을분석, 모니터링하는서비스

IBM, Microsoft, SAS 등대기업들이 Business Intelligence(BI), 고객관리(Customer Relationship Management, CRM) 분야에소셜웹분석을활용하는제품을출시

2015-11-11

2015-11-11

21


Google Trends http://www.google.com/trends)

전세계에서매일수집되는대량의웹사용자의검색로그를기반으로한동향분석서비스

개인관심사와구글검색로그기반전세계인관심사와의비교가가능

구글에입력된사용자검색어가특정산업의현경제활동상황과상관관계가있다고가정, 다양한예측모델을제시

2015-11-11


BuzzMetrics(미국, 닐슨) http://nmincite.com

글로벌시장조사업체인닐슨은기업, 고객에대한위기탐지, 대응, 후속조치에대해통찰력있는정보를제공하며, 브랜드의이미지나고객의반응을 BRM(Brand Association Map)으로시각화하여제공

2015-11-11

2015-11-11

22


MediSys(유럽연합 Joint Research Center) http://emm.newsbrief.eu/overview.htm#medisys

유럽연합에서진행중인의학관련이수탐지프로젝트로 250개의의학전문사이트와 400-1,600 개의일반뉴스포털, 20 개의유럽지역상업뉴스서비스에서제공하고있는웹미디어를대상으로의학및공공건강관련주제를지역및카테고리별로분석하여매 20분마다자동으로생성되는조기경고서비스

2015-11-11


EMM NewsExplorer (유럽연합 FP-7) http://emm.newsbrief.eu/overview.htm#explorer

유럽연합에서지원하는표준화프로젝트 (FP-7) 중하나인 EMM은 19 개의언어를통해일단위로뉴스를요약해주며, 사람/기관/나라에관한정보를수집, 같은사건이나같은주제의뉴스를군집화해서연결하여특정사건의군집들이시간상변화하는트렌드를탐지하는기술을연구

2015-11-11

2015-11-11

23


Radian6(미국, Radian) http://www.radian6.com

전통적인기업리스닝솔루션을위한다양한대시보드기능, 영향력자판별기능을제공

최근에는트위터, 페이스북등소셜웹참여기능과소셜웹에나타난감정을분석하는기능을함께제공

2015-11-11

목차



빅데이터분석





이슈예측분석


참고문헌

2015-11-11

2015-11-11

24


감정분석은컴퓨터에인간언어자체를이해시키고분석하는과정

단순한지식의축적과정은아님

IBM의Watson이토론의내용을자동으로분석하고의견의찬반을구분하라고하면퀴즈대회처럼좋은성적을얻기는어려움

단순한어휘및문장구조를중심으로한분석에서담화구조(Discourse structure)를이용한분석으로진화

영어와달리한국어는언어자체의복잡성으로인해다른차원의감정분석연구가필요

2015-11-11

참고문헌

이충희, 허정, 오효정, 김현진, 류범모, 김현기 (2013), 소셜빅데이터이슈탐지및예측분석기술동향, 『전자통신동향분석』 28-1호.

김현기 (2013), (엑소브레인) 소셜빅데이터기반인간언어이해와분석기술, 발표자료 Hyopil Shin. 2014. A Corpus Study of Nested Sources for Subjectivity Analysis, Eoneohag

69.

Janyce Wiebe, Theresa Wilson, and Claire Cardie. 2005. Annotating expressions of opinions and emotions in Language. Language Resources and Evaluations. 39(2):165-210.

IDG Tech Report (2014), “글에서감정을읽다” 감성분석의이해 Nathan Ong, Diane Litman and Alexandra Brusilovsky. 2014. Ontology-Based Argument

Mining and Automatic Essay Scoring. In Proceedings of the First Argumentation Mining Workshop. ACL2014.

MPQA. 2005. Multi-Perspective Question Answering. http://www.cs.pitt.edu/mpqa/., University of Pittsburgh.

2015-11-11

텍스트에서자동감정...

Documents