Notice
Recent Posts
Recent Comments
Link
일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | |||||
3 | 4 | 5 | 6 | 7 | 8 | 9 |
10 | 11 | 12 | 13 | 14 | 15 | 16 |
17 | 18 | 19 | 20 | 21 | 22 | 23 |
24 | 25 | 26 | 27 | 28 | 29 | 30 |
Tags
- k-means
- p-value
- DataFrame
- hive
- SPLIT
- pig
- 다중공선성
- T-검정
- DBSCAN
- 분산분석
- cross validation
- list
- SQL on 하둡
- 하둡
- 데이터프레임
- 분포
- 결정계수
- join
- 교차검증
- 병렬 쿼리 시스템
- 딕셔너리
- 가설검정
- merge
- Python
- 밀도기반
- pca
- Sawzall
- dict
- distribution
- 유사도
Archives
- Today
- Total
one of a kind scene
3장 비정형 데이터마이닝_텍스트 마이닝 본문
텍스트 마이닝(Text Mining)
1. 텍스트 마이닝(Text Mining)이란?
- 인터넷 데이터, 소셜미디어 데이터 등과 같은 자연어로 구성된 비정형 텍스트 데이터 속에서 정보나 관게를 발견하는 분석 기법
- 문서 요약, 문서 분류, 문서 군집, 특성 추출
2. Corpus란?
- 텍스트 데이터의 정제, 통합, 선택, 변환의 과정을 거친 구조화된 단계
- 더 이상 추가적인 절차 없이 데이터마이닝 알고리즘 실험에 활용될 수 있는 상태
3. 텍스트 마이닝 패키지
- R : tm
• tm_map(data, 처리)
• 처리 종류 : as.PlainTextDocument, stripWhitespace, tolower, removewords
- Python : nlp, Konlpy
4. Term-Document Matrix
- 용어별 문서의 빈도수
- Document-Term Matrix = 문서별 용어의 빈도수
5. 감성분석
- 문장에서 사용된 단어의 긍정과 부정 여부에 따라 긍정적인 단어가 얼마나 많은지를 파악하여 전체 문장의 긍/부정여부를 판단
6. 워드 클라우드
- 문서에 포함된 단어의 사용빈도를 효과적으로 보여주기 위해 단어들을 크기, 색 등으로 나타낸 구름 형태로된 시각화 기법
- 워들이라고도 부름
'ADP > 이론' 카테고리의 다른 글
4-1 데이터 처리 프로세스_ETL(Extraction Transforamtion Load) (0) | 2019.11.17 |
---|---|
3장 비정형 데이터마이닝_사회연결망 분석(SNA) (0) | 2019.11.13 |
2장 정형 데이터마이닝_군집분석의 타당성 지표 (0) | 2019.11.13 |
2장 정형 데이터마이닝_군집분석 (0) | 2019.11.13 |
2장 정형 데이터마이닝_재표본추출(Resampling) (0) | 2019.11.13 |