mecab-ko-core 0.7.2

한국어 형태소 분석 핵심 엔진 - Lattice, Viterbi, 토크나이저
Documentation
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
126
127
128
129
130
131
132
133
134
135
136
137
138
139
140
141
142
143
144
145
146
147
148
149
150
151
152
153
154
155
156
157
158
159
160
161
162
163
164
165
166
167
168
169
170
171
172
173
174
175
176
177
178
179
180
181
182
183
184
185
186
187
188
189
190
191
192
193
194
195
196
197
198
199
200
201
202
203
204
205
206
207
208
209
210
211
212
213
214
215
216
217
218
219
220
221
222
223
224
225
226
227
228
229
230
231
232
233
234
235
236
237
238
239
240
241
242
243
244
245
246
247
248
249
250
251
252
253
254
255
256
257
258
259
260
261
262
263
264
265
266
267
268
269
270
271
272
273
274
275
276
277
278
279
280
281
282
283
284
285
286
287
288
289
290
291
292
293
294
295
296
297
298
299
300
301
302
303
304
305
306
307
308
309
310
311
312
313
314
315
316
317
318
319
320
321
322
323
324
325
326
327
328
329
330
331
332
333
334
335
336
337
338
339
340
341
342
343
344
345
346
347
348
349
350
351
352
353
354
355
356
357
358
359
360
361
362
363
364
365
366
367
368
369
370
371
372
373
374
375
376
377
378
379
380
381
382
383
384
385
386
387
388
389
390
391
392
393
394
395
396
397
398
399
400
401
402
403
404
405
406
407
408
409
410
411
412
413
414
415
416
417
418
419
420
421
422
423
//! 종결어미 세부 보정: XPN 접두사, 수사·고유명사 복합어, NR 변환

use crate::sejong::types::SejongToken;

/// 152차 보정에 사용되는 XPN 접두사 목록
const XPN_PREFIXES: &[&str] = &["", "작은", "", "", "젊은", "늙은"];

/// 152차 보정에 사용되는 VA 어간 → XPN 형태 매핑 (어간, XPN 표면형)
const XPN_STEM_MAP: &[(&str, &str)] = &[("", ""), ("", "작은")];

/// 164차 보정에 사용되는 단위 수사 목록 (십/백/천/만)
const UNIT_NUMERALS: &[&str] = &["", "", "", ""];

/// 164차 보정에 사용되는 한 자리 수사 목록
const DIGIT_NUMERALS: &[&str] = &["", "", "", "", "", "", "", "", ""];

/// 189차 보정에 사용되는 단일 한자 숫자 목록 (NR → SN 변환 대상)
const SINGLE_SINO_NUMERALS: &[&str] = &[
    "", "", "", "", "", "", "", "", "", "", "",
];

/// 149~259차: 문장 종결·EC/EF 변환 보정 (후반부)
///
/// 의문대명사 NP 변환, EP 표면형 정규화, 합성 형용사,
/// 수사 병합, 종결어미 정규화, 의문문 EF 변환 등
/// 149~259차 보정 패스를 포함합니다.
pub(super) fn apply_sentence_final_endings_corrections(tokens: &mut Vec<SejongToken>) {
    // 149차 보정: "VCP + 시/EP + 라고/EC" → "VCP + 라고/EC" (잘못된 EP 제거)
    // "학생이라고" = "학생/NNG 이/VCP 라고/EC" (시/EP 불필요)
    let mut remove_si_ep_indices: Vec<usize> = Vec::new();
    for i in 0..tokens.len().saturating_sub(2) {
        if tokens[i].pos == "VCP"
            && tokens[i + 1].surface == ""
            && tokens[i + 1].pos == "EP"
            && tokens[i + 2].surface == "라고"
            && tokens[i + 2].pos == "EC"
        {
            remove_si_ep_indices.push(i + 1);
        }
    }

    for idx in remove_si_ep_indices.into_iter().rev() {
        tokens.remove(idx);
    }

    // 149차 보정: "ㄴ/ETM + 다/NNG" (문장 중간) → "ㄴ다/EF"
    // "간다 온다" = "가/VV ㄴ다/EF 오/VV ㄴ다/EF"
    // 조건: 다음 토큰이 VV인 경우 (문장 중간)
    let mut nda_merge_indices: Vec<usize> = Vec::new();
    for i in 0..tokens.len().saturating_sub(2) {
        if (tokens[i].surface == "" || tokens[i].surface == "")
            && tokens[i].pos == "ETM"
            && tokens[i + 1].surface == ""
            && tokens[i + 1].pos == "NNG"
            && i + 2 < tokens.len()
            && (tokens[i + 2].pos == "VV" || tokens[i + 2].pos == "VA")
        {
            nda_merge_indices.push(i);
        }
    }

    for idx in nda_merge_indices.into_iter().rev() {
        let start = tokens[idx].start_pos;
        let end = tokens[idx + 1].end_pos;
        let merged_surface = format!("{}", tokens[idx].surface);
        tokens[idx] = SejongToken::new(&merged_surface, "EF", start, end);
        tokens.remove(idx + 1);
    }

    // 152차: "큰/VA+ETM + 집/NNG" → "큰/XPN + 집/NNG"
    // 관형사형 어미가 붙은 형용사가 접두사처럼 사용될 때
    for i in 0..tokens.len().saturating_sub(1) {
        if XPN_PREFIXES.contains(&tokens[i].surface.as_str())
            && (tokens[i].pos == "VA" || tokens[i].pos == "ETM")
            && tokens[i + 1].pos == "NNG"
        {
            // "큰/VA" 또는 "ㄴ/ETM" 이후 "집/NNG" → XPN + NNG
            // VA+ETM 분리된 경우 (크/VA + ㄴ/ETM) → 큰/XPN으로 병합 필요
        }
    }

    // VA+ETM 분리 후 재병합이 필요한 패턴: "크/VA + ㄴ/ETM + 집/NNG" → "큰/XPN + 집/NNG"
    let mut xpn_merge_indices: Vec<(usize, String)> = Vec::new();

    for i in 0..tokens.len().saturating_sub(2) {
        if tokens[i].pos == "VA"
            && tokens[i + 1].surface == ""
            && tokens[i + 1].pos == "ETM"
            && tokens[i + 2].pos == "NNG"
        {
            if let Some(merged) = XPN_STEM_MAP
                .iter()
                .find(|(stem, _)| *stem == tokens[i].surface.as_str())
                .map(|(_, xpn)| *xpn)
            {
                xpn_merge_indices.push((i, merged.to_string()));
            }
        }
    }

    for (idx, merged) in xpn_merge_indices.into_iter().rev() {
        let start = tokens[idx].start_pos;
        let end = tokens[idx + 1].end_pos;
        tokens[idx] = SejongToken::new(&merged, "XPN", start, end);
        tokens.remove(idx + 1);
    }

    // 153차 보정: 의존명사 NNB 패턴 수정
    // "채/VV + 어/EC" → "채/NNB" (눈을 감은 채로, 그 채로)
    // "대/NNG + 로/JKB" → "대로/NNB" (있는 대로, 원하는 대로)
    // "따르/VV + 어/EC" → "따라/NNB" (결과에 따라, 상황에 따라)
    let mut nnb_fix_indices: Vec<(usize, &str)> = Vec::new();
    for i in 0..tokens.len().saturating_sub(1) {
        // "채/VV + 어/EC" → "채/NNB"
        if tokens[i].surface == ""
            && tokens[i].pos == "VV"
            && tokens[i + 1].surface == ""
            && tokens[i + 1].pos == "EC"
        {
            nnb_fix_indices.push((i, ""));
        }
        // "대/NNG + 로/JKB" → "대로/NNB"
        if tokens[i].surface == ""
            && tokens[i].pos == "NNG"
            && tokens[i + 1].surface == ""
            && tokens[i + 1].pos == "JKB"
        {
            nnb_fix_indices.push((i, "대로"));
        }
        // "따르/VV + 어/EC" → "따라/NNB"
        if tokens[i].surface == "따르"
            && tokens[i].pos == "VV"
            && tokens[i + 1].surface == ""
            && tokens[i + 1].pos == "EC"
        {
            // 문맥 확인: 앞에 ETM이 있으면 의존명사
            if i > 0 && tokens[i - 1].pos == "ETM" {
                nnb_fix_indices.push((i, "따라"));
            }
        }
    }

    for (idx, surface) in nnb_fix_indices.into_iter().rev() {
        let start = tokens[idx].start_pos;
        let end = tokens[idx + 1].end_pos;
        tokens[idx] = SejongToken::new(surface, "NNB", start, end);
        tokens.remove(idx + 1);
    }

    // 154차 보정: 문장 끝 "다/NNG" → "다/EF"
    // "먹다", "가다" 등 동사 원형의 "다"가 NNG로 분석될 때
    // 문장 끝이거나 앞에 VV/VA/VX가 있으면 EF로 변환
    if let Some(last) = tokens.last_mut() {
        if last.surface == "" && last.pos == "NNG" {
            // 문장 마지막 "다" → EF
            last.pos = "EF".to_string();
        }
    }

    // 문장 중간의 "VV/VA/VX + 다/NNG" → "VV/VA/VX + 다/EF"
    for i in 1..tokens.len() {
        if tokens[i].surface == ""
            && tokens[i].pos == "NNG"
            && (tokens[i - 1].pos == "VV" || tokens[i - 1].pos == "VA" || tokens[i - 1].pos == "VX")
        {
            tokens[i].pos = "EF".to_string();
        }
    }

    // 155차 보정: XSV/EP 뒤의 "다/NNG" → "다/EF"
    // "발표했다", "개선됐다" 등 XSV+EP+다 패턴
    for i in 1..tokens.len() {
        if tokens[i].surface == ""
            && tokens[i].pos == "NNG"
            && (tokens[i - 1].pos == "XSV" || tokens[i - 1].pos == "EP")
        {
            tokens[i].pos = "EF".to_string();
        }
    }

    // VCP 뒤의 "다/NNG" → "다/EF" (이다)
    for i in 1..tokens.len() {
        if tokens[i].surface == "" && tokens[i].pos == "NNG" && tokens[i - 1].pos == "VCP" {
            tokens[i].pos = "EF".to_string();
        }
    }

    // 156차 보정: 의문대명사 NP 변환
    // "얼마/NNG + 이/VCP" → "얼마/NP + 이/VCP"
    // "뭐", "무엇", "누구", "어디", "언제", "어느" 등
    let question_pronouns = [
        "얼마",
        "",
        "무엇",
        "누구",
        "어디",
        "언제",
        "어느",
        "",
        "어떻게",
    ];
    for token in tokens.iter_mut() {
        if token.pos == "NNG" && question_pronouns.contains(&token.surface.as_str()) {
            token.pos = "NP".to_string();
        }
    }

    // 157차 보정: EP 표면형 정규화
    // "ㅓㅆ/EP" → "었/EP", "ㅏㅆ/EP" → "았/EP"
    for token in tokens.iter_mut() {
        if token.pos == "EP" {
            if token.surface == "ㅓㅆ" {
                token.surface = "".to_string();
            } else if token.surface == "ㅏㅆ" {
                token.surface = "".to_string();
            }
        }
    }

    // 158차 보정: 합성 형용사 VA 병합
    // "NNG + 있/VV" → "NNG있/VA", "NNG + 없/VX" → "NNG없/VA"
    // 세종 태깅: "재미있다" = "재미있/VA + 다/EF"
    let compound_va_nouns = [
        "재미", "", "", "", "", "", // 기본
        "흥미", "의미", "가치", "효과", "보람", // 추가
        "관심", "", "", "", // 추가 (관심있다, 정없다 등)
    ];
    let mut va_merge_indices: Vec<(usize, String)> = Vec::new();
    for i in 0..tokens.len().saturating_sub(1) {
        if compound_va_nouns.contains(&tokens[i].surface.as_str())
            && tokens[i].pos == "NNG"
            && (tokens[i + 1].surface == "" || tokens[i + 1].surface == "")
            && (tokens[i + 1].pos == "VV" || tokens[i + 1].pos == "VX")
        {
            let merged = format!("{}{}", tokens[i].surface, tokens[i + 1].surface);
            va_merge_indices.push((i, merged));
        }
    }

    for (idx, merged) in va_merge_indices.into_iter().rev() {
        let start = tokens[idx].start_pos;
        let end = tokens[idx + 1].end_pos;
        tokens[idx] = SejongToken::new(&merged, "VA", start, end);
        tokens.remove(idx + 1);
    }

    // 159차 보정: "VA + ㄹ/ETM + EF" 잘못된 ETM 제거
    // "힘들어요" = "힘들/VA 어요/EF" (not "힘들/VA ㄹ/ETM 어요/EF")
    // VA+ETM 분해에서 잘못 삽입된 ETM 제거
    let mut spurious_etm_indices: Vec<usize> = Vec::new();
    for i in 1..tokens.len().saturating_sub(1) {
        if tokens[i].surface == ""
            && tokens[i].pos == "ETM"
            && tokens[i - 1].pos == "VA"
            && tokens[i + 1].pos == "EF"
        {
            // VA 다음에 바로 EF가 오면 ㄹ/ETM은 잘못 삽입된 것
            spurious_etm_indices.push(i);
        }
    }

    for idx in spurious_etm_indices.into_iter().rev() {
        tokens.remove(idx);
    }

    // 160차 보정: "VV + 어디/NP + 서/JKB" → "VV + 어서/EC"
    // MeCab이 "어서"를 "어디+서"로 잘못 분석하는 버그
    let mut eoseo_fix_indices: Vec<usize> = Vec::new();
    for i in 0..tokens.len().saturating_sub(2) {
        if tokens[i].pos == "VV"
            && tokens[i + 1].surface == "어디"
            && tokens[i + 1].pos == "NP"
            && tokens[i + 2].surface == ""
            && tokens[i + 2].pos == "JKB"
        {
            eoseo_fix_indices.push(i + 1);
        }
    }

    for idx in eoseo_fix_indices.into_iter().rev() {
        let start = tokens[idx].start_pos;
        let end = tokens[idx + 1].end_pos;
        tokens[idx] = SejongToken::new("어서", "EC", start, end);
        tokens.remove(idx + 1);
    }

    // 161차 보정: 문장 끝 "ㅏ/EC" → "아/EF", "ㅓ/EC" → "어/EF"
    // VX 뒤의 축약 모음을 정규화하고 EC → EF 변환
    // 203차: "어/EC", "아/EC"도 EF로 변환
    // 206차: "어/IC", "아/IC"도 EF로 변환
    if let Some(last) = tokens.last_mut() {
        if last.pos == "EC" || last.pos == "IC" {
            if last.surface == "" || last.surface == "" {
                last.surface = "".to_string();
                last.pos = "EF".to_string();
            } else if last.surface == "" || last.surface == "" {
                last.surface = "".to_string();
                last.pos = "EF".to_string();
            }
        }
    }

    // 265차 보정: VV/VA 뒤의 문장 끝 "네/IC" → "네/EF"
    // "킹받네" = "킹받/VV 네/EF" (종결어미)
    // 동사/형용사 뒤의 "네"는 종결어미
    if tokens.len() >= 2 {
        let last_idx = tokens.len() - 1;
        if tokens[last_idx].surface == ""
            && tokens[last_idx].pos == "IC"
            && (tokens[last_idx - 1].pos == "VV"
                || tokens[last_idx - 1].pos == "VA"
                || tokens[last_idx - 1].pos == "VX")
        {
            tokens[last_idx].pos = "EF".to_string();
        }
    }

    // 163차 보정: EF 축약 모음 정규화
    // "ㅔ요/EF" → "에요/EF", "ㅐ요/EF" → "애요/EF"
    for token in tokens.iter_mut() {
        if token.pos == "EF" {
            match token.surface.as_str() {
                "ㅔ요" => token.surface = "에요".to_string(),
                "ㅐ요" => token.surface = "애요".to_string(),
                "" => token.surface = "".to_string(),
                "" => token.surface = "".to_string(),
                _ => {}
            }
        }
    }

    // 204차 보정: 문장 끝 "ㄴ데요/EC" → "ㄴ데요/EF"
    // "TMI인데요" = "TMI/NNG 이/VCP ㄴ데요/EF"
    // 문장 마지막 "ㄴ데요", "ᆫ데요" 는 종결어미
    if let Some(last) = tokens.last_mut() {
        if last.pos == "EC" {
            if last.surface == "ᆫ데요" || last.surface == "ㄴ데요" {
                last.surface = "ㄴ데요".to_string();
                last.pos = "EF".to_string();
            } else if last.surface == "ᆫ데" || last.surface == "ㄴ데" {
                last.surface = "ㄴ데".to_string();
                last.pos = "EF".to_string();
            } else if last.surface == "" {
                // "킹받네" = "킹받/VV 네/EF"
                last.pos = "EF".to_string();
            }
        }
    }

    // 164차 보정: NR 수사 병합
    // "삼/NR + 십/NR" → "삼십/NR", "이/NR + 백/NR" → "이백/NR"
    // 십/백/천/만 앞의 수사를 병합
    let mut idx = 0;
    while idx + 1 < tokens.len() {
        if tokens[idx].pos == "NR" && tokens[idx + 1].pos == "NR" {
            let second = tokens[idx + 1].surface.as_str();
            // 십, 백, 천, 만 뒤에 올 수 있는 1자리 수사
            if UNIT_NUMERALS.contains(&second) {
                let first = tokens[idx].surface.clone();
                // 일, 이, 삼, 사, 오, 육, 칠, 팔, 구 등 1자리 수사
                if DIGIT_NUMERALS.contains(&first.as_str()) {
                    // 병합
                    tokens[idx].surface = format!("{first}{second}");
                    tokens.remove(idx + 1);
                    continue;
                }
            }
        }
        idx += 1;
    }

    // 189차: 한자 숫자 NR → SN 변환 (164차 병합 이후 실행!)
    // "일 이 삼" = "일/SN 이/SN 삼/SN"
    // 한자 숫자는 SN(숫자), 아라비아 숫자도 SN
    // 주의: 병합된 "삼십/NR"은 NR 유지 (sample.tsv 기준)
    for token in tokens.iter_mut() {
        // 단일 글자 한자 숫자만 SN으로 변환
        // "삼십", "이백" 등 합성 수사는 NR 유지
        if token.pos == "NR"
            && token.surface.chars().count() == 1
            && SINGLE_SINO_NUMERALS.contains(&token.surface.as_str())
        {
            token.pos = "SN".to_string();
        }
    }

    // 255차: "어/EF + 요/JX" → "어요/EF" 병합 (8차 EC→EF 변환 후 실행)
    // "추워요" = "춥/VA 어요/EF"
    // MeCab이 "어/EC + 요/JX"로 분리하는 경우 병합
    let mut i = 0;
    while i + 1 < tokens.len() {
        if tokens[i].surface == ""
            && tokens[i].pos == "EF"
            && tokens[i + 1].surface == ""
            && tokens[i + 1].pos == "JX"
        {
            let start = tokens[i].start_pos;
            let end = tokens[i + 1].end_pos;
            tokens[i] = SejongToken::new("어요", "EF", start, end);
            tokens.remove(i + 1);
            continue;
        }
        i += 1;
    }

    // 258차: 삭제됨 - sample.tsv는 "말씀/NNG 하/VV 세요/EF" (하/VV 유지)

    // 259차: "채/VV + 아/EF" (문장 끝) → "채/NNB"
    // "만큼 뿐 채" 등에서 "채"는 의존명사
    // MeCab이 "채/VV 아/EF"로 분석하는 경우 수정
    let len = tokens.len();
    if len >= 2
        && tokens[len - 2].surface == ""
        && tokens[len - 2].pos == "VV"
        && (tokens[len - 1].surface == "" || tokens[len - 1].surface == "")
        && tokens[len - 1].pos == "EF"
    {
        // "채/VV 아/EF" → "채/NNB"
        tokens[len - 2].pos = "NNB".to_string();
        // "아/EF" 제거
        tokens.remove(len - 1);
    }
}