Dive into Advertising Science

매킨지에서 2014년 연말에 낸 “Making stores matter in a multichannel world”란 리포트를 봤다.

스토어는 다음과 같은 5가지 점을 염두에 두고 변화해나가야 한다고 한다.

Start by redefining the role of the store. Tailor categories accordingly. Optimize the portfolio using forward-looking analytics. Reinvent the in-store experience. Execute systematically across all channels.

1.  Start by redefining the role of the store.

물건을 파는 곳이란 정의를 뛰어넘어 온라인 스토어에 비한 장점을 찾아내야 한다는 얘기. 예를 들어, 원하는 걸 금방 구할 수 있는 곳, 제품을 느낄 수 있는 곳 같은 점들

2. Tailor categories accordingly.

상품 품목에 따라 차별적으로 처리하라는 얘기. 예를 들어 물류 창고에 둘 수 있는 것과 상점에 갖다 놔야할 것을 구분하라는 얘기

3. Optimize the portfolio using forward-looking analytics.

스토어들의 위치와 역할 같은 거 분석해서 잘 정리하라는 이야기

4. Reinvent the in-store experience.

IT기술을 활용해서 매장에 남아있는 재고와, 물품의 위치 같은 걸 빠르고 정확히 알려줄 수 있음. 고객이 원하는 것에 집중하여 매장 경험 제고

5.  Execute systematically across all channels.

기업들이 해시태그를 사용하는 3가지 유형:

1) 고객이 많이 사용하는 #술스타그램 같은 해시태그를 사용. #브랜드명 #제품명 보다 더 중요

2) 고객의 인증샷을 모으는 용도

3) 고객이 자발적으로 참여하는 놀이를 정하는 용도

“사용자 안으로 깊숙이 들어가 그들이 브랜드와 관련된 가치(Value)있는 경험을 나누고 퍼트리는 장(Vessel)을 만들며 이 과정을 도와주어 유효성(Validity)을 높이라는 것이다.”

소비자/사용자가 브랜드와 관련된 좋은 경험을 하게하고, 이 경험을 퍼뜨리게 만드는 걸 도와주는 게 유효한 마케팅이란 얘기인가 보다.

바이럴 마케팅을 전염병 전파 모델에 비유해 살펴본 글.

바이럴 모델의 변수들: 전염가능자 수, 감염율, 감염유지율, 감염싸이클. 

검색/이메일/SNS 등 링크의 랜딩페이지가 모바일웹이기 때문에 App보다 모바일웹의 UV가 더 높다. 하지만 체류 시간은 App이 모바일웹보다 월등히 높다.

Why actually visit Wikipedia, when you can get your sound byte from Google?

Big Data is a field where even a single millisecond loss can be significant over billions of events. Yet, languages often regarded as slow like Python have gained a lot of popularity in the past year. Recent articles and discussions in the Big Data community have started reigniting the debate around the choice of a programming language for data science and Big Data.

대량의 데이터 (Big data)를 처리할 때 프로그래밍 언어의 퍼포먼스가 중요할 거라고 생각하지만 사실 그다지 큰 영향은 미치지 않는다는 주장의 글.

애드롤(AdRoll)의 수석과학자인 빌 툴로스(Ville Tuulos)는 자사의 백엔드스택이 파이썬(python)으로 구현했지만 빠르다고 했다. 범용 소프트웨어가 아닌 특정한 목적의 코드라면 최적화를 통해 프로그래밍 언어의 퍼포먼스 차이를 줄일 수 있다는 주장.

데이터 과학자들 사이에서 R을 써야하느냐, 파이썬을 써야하느냐로 논란이 많은데, 디쉬네트워크 (Dish Network)의 데이터 과학자 톰 램플리 (Tom Rampley)는 대량의 실데이터를 다루거나 텍스트 파싱을 하기에는 R보다 파이썬에서 Numpy, Scipy, Pandas 패키지를 사용하는 게 더 낫다고 주장하기도 했다.

클라우데라가 임팔라 프로젝트에서 성능 향상을 위해 자바 대신 C++를 썼다고 하지만 임팔라의 속도 향상은 프로그래밍 언어를 바꾼 것 때문만은 아니라 맵-리듀스 대신 인-메모리 캐쉬를 사용한 것처럼 다른 이유 덕도 있다는 게 글쓴이의 주장.

오늘 연합뉴스에 "SNS에 나도는 루머 90% 이상 가려낸다 < KAIST>"란 제목으로 올라온 기사. 

이 기사에서 다루는 실제 논문은 다음이다:

CIKM2013의 인더스터리 트랙에서 Ted Dunning이 발표한 Talk. K실장님이 팀 내부에 소개했다. 들어보니 얻어갈 것이 있어 여기에도 옮겨 본다.

Which Algorithms Really Matter from Ted Dunning

저자가 대용량 실서비스에 학습을 적용해보며 배운 교훈들을 정리했다. 네 가지 교훈은 다음과 같다.

Exploration is good

Exploration is pretty easy to do and pays big benefits

Sketches make big data small

연합뉴스 기사 링크: http://news.naver.com/main/read.nhn?mode=LSD&mid=sec&sid1=105&oid=001&aid=0006613515

일본 국립정보학연구소 등이 개발중인 `인공지능'을 탑재한 컴퓨터가 도쿄대 입시 모의시험 등에 도전, 현재로는 도쿄대 합격이 어렵지만 사립대는 합격할 수 있다는 수준이라는 판정을 받았다.

언어 영역은 점수가 안 좋았지만, 일본사, 세계사에서는 평균을 넘었고 수학은 편차치 60이상의 성적이라고 함. 편차치란 엔하위키미러에 따르면 학력 편차, 즉 일본판 표준점수란다. 편차치 60 이상이면 "중상위권으로 다수의 지방거점 국공립대(통칭 에키벤 대학)와 MARCH, 칸칸도리츠 등의 명문 사립대 1차 컷이 이 쯤이다"라고 함.

ACL Anthology에 2013년 NAACL논문들이 올라왔는데, 이번엔 영상까지 함께 올라왔다.

http://www.aclweb.org/anthology/N/N13/

Ryan McDonald의 박사 학위 논문에 나오는 2차원 Eisner 알고리즘 (그림 3.5)은 아래와 같다.

이를 그림으로 그리면 아래와 같다.

[잘못된 논문을 다운로드 해 삽질한 이야기 ㅠㅠ]

Sibling span을 사용하는 2차원 (second-order) Eisner 파싱 알고리즘을 이해하기 위해 이 알고리즘을 꼼꼼히 설명한 Ryan McDonald의 박사학위 논문을 www.cis.upenn.edu에서 다운받았다.

(이 글을 쓰면서 이 버전은 오타가 포함된 버전이란 걸 깨달았다. 오류가 없는 최신 논문은 Ryan McDonald의 홈페이지에 링크 된 이 문서이다.)

그리고 그림 3.5 (Pseudo-code for bottom-up second-order Eisner parsing algorithm.)을 보던 중 의문이 생겼다. 내가 생각한 것과 다르다는 것.

%First Case의 C[t-1]의 인덱스가 이상하고,  %Create complete items 부분은 완전히 이상한 것 같은데, 확신을 할 수가 없었다.

그러다가 Joakim Nivre가 의존파싱 알고리즘을 정리해놓은 문서를 찾아보니 확연히 위 두 부분은 오류가 맞았다. 

오타가 있는 알고리즘을 이해하려고 들인 시간이 무척 아깝다. 단, 위 의사코드에도 오타가 존재한다. 10번재 줄은 max i<k<=j가 맞을 듯. 

가장 정확한 건 오타가 교정된, Ryan McDonald 홈페이지에 링크된 문서의 의사코드겠지. 아래와 같다.

2000년대 후반의 의존 파싱 (dependency parsing) 논문들을 보면 대부분 Jason Eisner가 2000년에 발표한 "Bilexical Grammars and their cubic-time parsing algorithms" 논문의 동적 알고리즘을 사용한다.

그런데 저 Eisner 이후의 논문들에는 Eisner 논문에는 나오지 않은 complete span과 incomplete span이란 개념으로 Eisner의 파싱 알고리즘을 설명한다. 아래(Koo의 2010년 "Efficient Third-order Dependency Parsers" 논문에서 발췌)와 같은 도형과 함께.

(a)에 나오는 왼쪽 삼각형이 complete span이고 (b)의 왼쪽 사각형이 incomplete span인데 이 논문들만 봐서는 이 도형이 무슨 의미인지, complete span과 incomplete span이 무슨 차이가 있는지 이해하기가 어려웠다.

꽤나 고민을 하다가 이 표기법의 원조(?)를 찾게 됐으니, 바로 Ryan McDonald이다 (더 빠른 원조가 있을지도 모르겠지만 내가 찾은 가장 빠른 논문의 저자가 이 분). 이 분의 박사 논문을 보고서야 complete span과 incomplete span, 또 저 도형을 이해하게 됐기에 여기에 정리해 본다.

이하 그림에서 s와 t는 스팬의 시작, 끝 위치이고,  r은 스팬의 중간점이다.

1) Incomplete Span (미완성 스팬)

미완성 스팬이란 지배소를 중심으로 한 쪽의 모든 의존소가 지배소에 아직 결합되지 않은 스팬을 말한다.

두 개의 완성된 스팬이 결합하여 만들어진다. 

2) Complete Span (완성 스팬)

완성 스팬이란 지배소를 기준으로 한쪽편의 모든 의존소가 지배소에 결합 완료된 스팬이다.

지배소를 중심으로 반대편의 의존소들은 아직 결합되지 않은 상태이기 때문에 구(constituent)는 아니고 반정도 완성된 구(half-constituent)라고 할 수 있다.

한 개의 완성스팬 + 한 개의  미완성스팬이 결합하여 만들어진다.

또, 필요한 완성스팬의 길이가 0인 경우도 허용하기 때문에 한 개의 미완성스팬만으로 만들어지기도 한다.

Ryan McDonald의 박사학위논문에 이 구조들을 이용한 Eisner 파싱 알고리즘(그림 3.2. 아래 발췌)이 기술돼 있다.  여기서 각 스팬은 C란 변수로 설명하는데, C뒤의 각 논항들은 다음과 같은 의미이다.

C[시작위치][끝위치][지배방향][완성/미완성]

지배방향은 ←면 지배소가 오른쪽, →면 지배소가 왼쪽이다.

완성/미완성 변수는 0이면 완성스팬, 1이면 미완성스팬   

이 표기법을 이용하여 실제 문장 "Japan exports many cars to the US"를 파싱한 내용은 다음과 같다. (삼각형의 위치는 이해를 돕기 위한 것으로 실제 파싱 순서와는 무관함)

저자: Daniel Cer, Marie-Catherine de Marneffe, Daniel Jurafsky, Christopher D. Manning (Stanford Univ)

PDF: http://nlp.stanford.edu/pubs/lrecstanforddeps_final_final.pdf

여러 파서를 비교한 2010년 논문. 의존 트리를 낼 수 있는 여러 파서들을 비교 평가했다. 여기서 말하는 의존 트리는 Stanford dependencies이다. (Stanford baisc dependencies는 아님)

한 줄 요약: 의존 파서가 빠르지만 구구조 파서가 훨씬 정확하다.

조금 길게 요약하자면:

스탠포드 의존 관계 (Stanford Dependencies)를 내주는 구구조 파서가 의존 파서보다 뛰어나다. 여기서 말하는 구구조 파서는 구구조로 된 Penn Treebank로 학습하여 구구조 트리를 내주는 파서로, 이 출력물을 의존 트리로 변환할 수 있다.

반면 의존 파서란 구구조로 된 Penn Treebank를 이진 트리(Stanford basic dependencies)로 변환하여 학습하여 의존 트리를 내주는 파서이다. 

양쪽 모두 최종 출력은 Stanford dependencies로 변환하여 평가했다.

최근 5년 사이에 의존 파싱 알고리즘에 대한 많은 연구가 많았지만 Charniak, Charniak-Johnson reranking, Berkley 파서 같은 구구조 파서의 품질이 여전히 훨씬 좋다. (아래 표에서 보듯이 Labeled F1 기준으로 +8%pt) 속도는 의존 파서류가 더 빠르다.

따라서 의존 관계가 필요한 대부분의 사람들은 이 구구조 파서들을 이용해 파싱을 한 후 구구조 결과를 의존 관계로 변환하는 편이 나을 것이다. 분석해야 할 내용이 적으면 CJ reranking 파서로 정확하게 분석하는 게 좋다. 분석해야 할 코퍼스가 크더라도 CJ 파서를 사용하는 게 좋은데, 분석 후보의 수를 줄이도록 설정하면 (beam의 수를 줄이면) 빨라진다. 분석 대상 코퍼스가 엄청나게 커서 속도가 매우 중요하다면 속도가 빠른 Malt 패키지의 파서를 쓰면 된다.

참고로,

평가 집합: 보통 'Development Set'이라 불리는 WSJ 섹션 22였음. 학습 집합은 흔히 쓰는 WSJ 젝션 2-21.