목록 List

SNU Thunder-DeID Framework

SNU Thunder-DeID Framework는 한국어 법원 판결문 내 개인정보 등의 비식별화(De-identification)를 자동화하기 위한 프레임워크입니다. 개체명 인식(Named Entity Recognition, NER) 기술을 기반으로 판결문 내 사건 관계인을 식별할 수 있는 정보를 탐지하고, 이를 알파벳으로 치환하여 비식별화합니다.

SNU Thunder-DeID is a project developed to automate the de-identification of personally identifiable information in Korean court judgments. It uses Named Entity Recognition (NER) techniques to detect information that can identify individuals involved in a case and anonymizes it by replacing such entities with alphabetic placeholders. SNU Thunder-DeID project includes models, datasets, training dataset generation scripts, and inference toolkit.

SNU Thunder-DeID Framework 는 자체 개발한 트랜스포머 인코더(transformer encoder) 기반 언어 모델을 활용해 한국어 법원 판결문 비식별화를 수행합니다. 모델은 340M, 750M, 1.5B의 세 가지 크기를 활용합니다. 각 모델은 한국어 및 영어로 구성된 대규모 데이터셋(한국어 22B 토큰, 영어 38B 토큰)으로 사전학습(pretraining)되었고, SNU Thunder-DeID 데이터셋을 활용해 생성한 학습용 데이터로 미세조정(Fine-tuning)되었습니다.

한국어 개체 경계 분리에 특화된 토크나이저
모델에 사용된 토크나이저는 형태소 분석기 MeCab-ko와 BPE(Byte Pair Encoding)를 결합해 구성되었습니다. 이 토크나이저는 명사와 조사를 우선적으로 분리한 뒤 토큰화를 진행하도록 특별히 설계되어 교착어적 특성을 지닌 한국어에서도 개체의 경계를 정밀하게 분리할 수 있습니다. 예를 들어 "홍길동이"와 같은 어절에서 "홍길동"만을 정확히 비식별화해야 하는 상황에서, "홍길동이" 전체가 하나의 토큰으로 묶이면 개체 경계를 올바르게 식별하기 어렵습니다. 그러나 본 토크나이저는 명사(홍길동)와 조사(이)를 분리함으로써 정확한 개체 단위의 탐지와 대체가 가능하도록 설계되어 있습니다.

비식별화 성능
SNU Thunder-DeID 모델의 성능 평가는 두 가지 기준으로 수행되었습니다. 첫째, 입력 문장의 모든 토큰에 대해 비식별화 대상 여부를 판별하는 기준으로 평가되었으며, 이때 산출된 F1 점수는 비식별화 대상 토큰 탐지 성능을 나타냅니다 (비식별화 대상 토큰 탐지 F1-score). 둘째, 탐지된 토큰이 어떤 유형(예: 이름, 주소 등)에 속하는지를 분류하는 기준으로 평가되었고, 이에 따른 F1 점수는 비식별화 대상 토큰의 유형 분류에 관한 성능을 나타냅니다 (비식별화 대상 토큰 유형 분류 F1-score).

검증 데이터셋을 이용한 평가 결과, 비식별화 대상 토큰 탐지에서는 약 0.99의 F1 점수를, 비식별화 대상 토큰 유형 분류에서는 약 0.89의 F1 점수를 기록하였습니다. 2019년 기준 15%의 정확도* 와 2025년 기준 8%의 처리율**을 기록한 대법원 법원행정처의 '지능형 비식별 시스템'과 비교할 때, SNU Thunder-DeID는 비식별화 대상 탐지 성능에서 현저히 우수한 결과를 보였습니다.
* 2019년에 공개된 금태섭 국회의원의 『판결문 공개 확대를 위한 국회토론회』자료에 근거(39쪽).
** 2025년에 공개된 법원행정처의 『재판업무 지원을 위한 AI 모델 개발 ISP』자료에 근거(26쪽).

SNU Thunder-DeID is a family of transformer encoder-based language models developed for de-identification of personal information in Korean court judgments. The models are available in three sizes—340M, 750M, and 1.5B parameters—and have been released on Hugging Face. Each model was pre-trained on a large-scale bilingual dataset of Korean and English (38B English tokens and 22B Korean tokens). Fine-tuning was performed using training data generated from the SNU Thunder-DeID dataset.

Tokenizer specialized for entity boundary separation in Korean text
The tokenizer combines the MeCab-ko morphological analyzer with Byte Pair Encoding (BPE). It separates nouns and grammatical particles before tokenization to ensure precise entity boundary separation in Korean, an agglutinative language. For example, in the phrase "홍길동이" (Hong Gil-dong + -i, where -i is the nominative particle), only "홍길동"(Hong Gil-dong) should be de-identified. If the entire phrase is tokenized as a single unit, the model cannot detect the correct entity span. By splitting "홍길동" (Hong Gil-dong, noun) and "이" (-i, nominative particle), the tokenizer supports accurate entity-level detection and replacement.

De-identification performance
The performance of the SNU Thunder-DeID model was evaluated based on two criteria. First, the model was assessed on its ability to determine whether each token in an input sentence should be de-identified. The resulting F1 score reflects its performance in detecting tokens requiring de-identification (Detection of tokens subject to de-identification F1-score). Second, the model was evaluated on its ability to classify the type of each identified token (e.g., name, address). The corresponding F1 score represents its performance in entity type classification (Classification of token types subject to de-identification F1-score).

Based on evaluation using a validation dataset, the model achieved an F1 score of approximately 0.99 for detecting tokens subject to de-identification, and approximately 0.89 for classifying the types of tokens subject to de-identification. Compared to the "Intelligent De-identification System" developed by the National Court Administration, which recorded an accuracy of 15% as of 2019* and a processing rate of 8% as of 2025**, SNU Thunder-DeID demonstrated significantly superior performance in detecting tokens that require de-identification.
* 『National Assembly Forum on Expanding Judgment Disclosure』, National Assembly Member Tae-seop Geum, 2019 (p.39).
** 『ISP for Developing AI Models to Support Judicial Work』, Supreme Court Administration Office, 2025 (p.26).

모델 크기	비식별화 대상 토큰 탐지 F1-score	비식별화 대상 토큰 유형 분류 F1-score
340M	0.9894	0.8917
750M	0.9891	0.8862
1.5B	0.9910	0.8974

Model sizes	Detection of tokens subject to de-identification F1-score	Classification of token types subject to de-identification F1-score
340M	0.9894	0.8917
750M	0.9891	0.8862
1.5B	0.9910	0.8974

SNU Thunder-DeID의 추론 코드는 Hugging Face 저장된 ThunderDeID 모델을 불러온 뒤, 사용자가 입력한 텍스트 또는 파일에 대해 비식별화를 수행합니다. 결과는 터미널에 출력하거나 텍스트 파일로 저장할 수 있습니다.

The inference script loads SNU Thunder-DeID model from Hugging Face and performs de-identification on user-provided text or files. The results can be printed to the terminal or saved to a text file.

본 연구는 과학기술정보통신부 선도연구센터사업(ERC)의 지원을 받아 수행된 연구입니다 (과제번호: RS-2023-00222663, 초거대 AI 모델 및 플랫폼 최적화 센터). 또한, GPU 장비는 과학기술정보통신부·광주광역시가 공동 지원한 '인공지능 중심 산업융합 집적단지 조성사업'의 지원을 받았습니다.

This work was supported by the National Research Foundation of Korea (NRF) under Grant No. RS-2023-00222663 (Center for Optimizing Hyperscale AI Models and Platforms, ERC). This research was also supported by Artificial intelligence industrial convergence cluster development project funded by the Ministry of Science and ICT(MSIT, Korea)&Gwangju Metropolitan City.

함성은⁺, 김희진⁺, 이규성⁺, 박현지⁺, 이재진<sup>*+

*</sup> 서울대학교 컴퓨터공학부
⁺ 서울대학교 데이터사이언스대학원

Sungeun Hahm⁺, Heejin Kim⁺, Gyuseong Lee⁺, Hyunji Park⁺ Jaejin Lee<sup>*+

*</sup>Department of Computer Science and Engineering, Seoul National University
⁺Graduate School of Data Science, Seoul National University