UIUC CS410 — word association mining and analysis
어느덧 410도 중반을 넘어가기 시작했습니다. 중간고사가 다음주고 MP1/MP2까지 이미 제출한 상황. 이제 대략 4주 정도의 분량과 기말고사, 그리고 final project가 남았네요. 남은 기간동안 으쌰으쌰!!!
week6까지는 주로 검색엔진 자체 구현에 관련된 내용들이 많았는데 week7부터는 text mining관련 내용으로 넘어갑니다. Coursera에 공개된 두개의 과정을 묶은게 사실 이 CS410코스이고 week7부터가 두번째 과정의 시작입니다.
그 중 오늘 다룰 내용은 7.7 word association mining and analysis.
기본적으로 단어간의 관계에는 paradigmatic relation과 syntagmatic relation이 있습니다. paradigmatic relation은 어떤 단어들이 서로 대체될 수 있는 같은 클래스의 단어인 경우입니다. 이를테면 “개” 와 “고양이”, 혹은 “월요일” 과 “화요일”.
예) 개가 사료를 먹는다 -> 고양이가 사료를 먹는다.
예) 내일은 월요일이다 -> 내일은 화요일이다.
이런 관계일 때 이 단어들은 paradigmatic relation이 있다고 합니다.
syntagmatic relation은 단어들이 서로 함께 조합될 수 있을 때, 혹은 의미를 나타낼 때 서로 관련되어 표현될 수 있는 경우입니다. 앞의 예를 들자면 “개”와 “먹는다” 혹은 “개”와 “사료를”. 또 다른 예를 들자면 “자동차” 와 “운전하다” 와 같은 경우가 될 수 있습니다.
이러한 두가지 paradigmatic relation과 syntagmatic relation은 아주 일반적이라 사실 그 어떤 언어의 단어사이의 관계라도 연관지을 수 있습니다.
Get Wonhee Jung’s stories in your inbox
Join Medium for free to get updates from this writer.
자 그럼 이걸 어따 써먹을 것인가?
다음과 같은 문장들이 있다고 합시다.
My cat eats fish on Saturday.
His cat eats turkey on Tuesday.
My dog eats fish on Sunday.
His dog eats turkey on Tuesday.
cat 과 dog을 두고 봤을 때 얼마나 이 두 단어가 나오는 문장이 유사할까요? 해당 단어의 왼쪽으로는 주로 my, his, your, her, this, that 등등이 나올 수 있을테고 해당단어의 오른쪽으로는 주로 eats, plays, sits 등등의 단어나 표현들이 나올 수 있을 것입니다. computer 라는 단어를 생각해 봤을 때 위와 같은 문맥에서 computer와 dog/cat은 paradigmatic relation이 있다고 보기 어려운데 왜냐햐면 computer는 생선이나 칠면조를 먹거나 놀거나 앉거나 잔다거나 하는 것들을 하지 않고 문맥상 대체되더라도 유사하지 않기 때문이죠.
“cat”이 들어간 문맥과 “dog”이 들어간 문맥은 얼마나 유사한가? 또 반대로 “cat”이 들어간 문맥과 “computer”가 들어간 문맥은 얼마나 유사한가? (paradigmatic: similar context)
반면 위에서의 예제 문장에서 dog 과 cat을 걷어내고 다음과 같은 문장이 있다고 할때,
“eats”라는 단어가 문장에 나타났을 때, 함께 출현하는 성향이 높은/가능성이 큰 단어들은 무엇인가? 혹은 “meat” 이나 “fish”라는 단어가 출현할 것인지를 예상하는데 “eats”라는 단어의 출현이 얼마나 도움이 되는가? ( 혹은 그 반대 ) (syntagmatic: correlated occurances)
이 다음 챕터에서는 어떻게 paradigmatic relation을 발견할 수 있는가에 대해서를 다루고 있는데 여기서는 앞에서 많이 봤던 VSM을 이용한 유사도 계산이 또 나옵니다. 일단은 여기까지.
