자동 지식 그래프 구축의 모든 것: 획득에서 진화까지 300여 편의 연구를 정리한 서베이

논문 개요와 전체 구조

검색, 추천, 대화 시스템, 가짜뉴스 탐지에 이르기까지 오늘날 거의 모든 지식 집약형 인공지능(AI) 서비스의 밑단에는 지식 그래프(Knowledge Graph, KG) 가 깔려 있습니다. 지식 그래프는 실세계 객체에 관한 지식을 노드와 엣지로 표현한 의미 그래프로, 최소 단위인 지식 튜플(knowledge tuple) 은 개념을 나타내는 두 노드와 그 사이의 관계를 나타내는 엣지로 구성됩니다. 문제는 Freebase나 Wikidata 같은 고품질 KG가 여전히 크라우드소싱(crowd-sourcing) 에 크게 의존한다는 점입니다. 비정형(unstructured)·반정형(semi-structured) 데이터로부터 KG를 자동으로 구축하는 일은 막대한 수작업을 자동화하는 핵심 과제입니다.

이 논문(Zhong et al., ACM Computing Surveys 2023, 62쪽)은 300편 이상의 방법론을 정리한 대형 서베이입니다. 저자들은 기존 정보 추출 시스템(TextRunner, KnowItAll 등)이 두 가지 결함을 가진다고 지적합니다. 첫째 비실질적(insubstantial) — 서로 다른 표현을 같은 엔티티로 묶지 못해 지식 집약이 안 됩니다. 둘째 무정보적(uninformative) — 구문 구조만 보고 의미적 함의를 못 잡습니다. 핵심 기준은 Wu et al.의 명제로, "개념에 대한 배경지식(background knowledge)으로 노드와 엣지를 조직하지 못한 KG는 단순 데이터 그래프(data graph)에 불과하다" 는 것입니다.

서베이 전체를 관통하는 배경 개념은 HACE 정리(HACE theorem) 입니다. 빅데이터 환경의 네 가지 특성, 즉 이질성(Heterogeneous), 자율성(Autonomous), 복잡성(Complex), 진화성(Evolving)을 가리키며, 논문은 도전 과제 전체를 이 네 축에 배치합니다. 이질적 데이터는 KG 구축(3장)·정제(4장)·시간 데이터(5.1절)·멀티모달(6.5절)로, 복잡 데이터는 장문 컨텍스트·노이즈(3장)·해석가능성(4.1.3절)으로, 진화 데이터는 지식 진화(5장)·자율 데이터(6.2절)로 연결됩니다.

논문의 전체 지도는 다음과 같습니다. 본 리뷰는 이 섹션 순서를 그대로 따라갑니다.

전체 구축 과정은 세 단계로 나뉩니다. 이 3단계 프레임워크가 서베이의 척추입니다.

핵심 기여와 혁신성

해결하려는 문제의 중요성 — 신뢰할 수 있는 KG는 잘 조직된 인간 지식을 보조 정보로 제공해 "지식 인식(knowledge awareness)"을 가능하게 합니다. 그러나 고품질 KG가 크라우드소싱에 의존하는 한 확장성에 한계가 있습니다. 비정형·반정형 데이터에서 KG를 자동 구축하는 체계적 해법은 실무적으로 막대한 가치를 가집니다.

기존 접근법의 한계 — 초기 규칙·클러스터링 기반 정보 추출 시스템은 배경지식이 부족해 앞서 언급한 비실질성·무정보성 문제를 겪었고, 무거운 피처 엔지니어링과 전문가 지식을 요구했습니다. 또한 기존 서베이들은 특정 단계에만 집중했습니다 — Paulheim은 KG 정제, Wu et al.은 텍스트 기반 raw KG 구축, Ji et al.은 표현 학습·획득, Cai et al.은 시간 KG에만 초점을 맞췄습니다.

제안 해결책의 독창성 — 이 서베이는 데이터 수준의 멘션(mention)을 넘어 개념 수준(concept-level)의 구조화된 지식을 조직하는 패러다임 전체를 다룹니다. 저자들은 자신들의 기여를 세 가지로 요약합니다.

• KG 구축 과정과 다양한 KG를 형식적 정의와 분류로 소개하고, 실용 데이터셋·도구 리소스를 게재 연도·인용수·접근 링크와 함께 정리합니다.
• 지식 획득부터 정제까지 다양한 시나리오의 모델을 태스크 배경과 도전 과제에 따라 분석하고, 고전·신규 모델의 동기와 설계를 아키텍처·개선점 중심으로 서술합니다.
• 노이즈·문서 수준·저자원 데이터를 포함한 HACE 빅데이터 환경에서의 KG 구축을 논하고, 해석가능성·진화 조건 지식의 성과를 리뷰하며 주요 도전 과제와 방향을 정리합니다.

예상 파급효과 — 이 서베이의 가장 큰 실용 가치는 태스크 분해의 지도(map) 입니다. KG 파이프라인을 설계할 때 각 단계마다 어떤 데이터 환경(반정형 대 비정형, 문장 대 문서, 풀샷 대 퓨샷)에 어떤 계열의 모델이 적합한지 빠르게 후보를 좁히는 기준선을 제공합니다.

기술적 세부사항

형식적 정의

논문은 정의 1에서 지식 그래프를 다음과 같이 형식화합니다.

각 항의 의미는 다음과 같습니다. $E$ 는 개념(엔티티/속성)의 집합이고, $R$ 은 관계의 집합입니다. $T$ 는 사실 트리플의 집합으로, 표준 이항 사실은 $(h, t, r) \in T$ 이며 여기서 $h, t \in E$, $r \in R$ 입니다($h$ 는 머리 엔티티, $t$ 는 꼬리 엔티티, $r$ 은 둘을 잇는 관계). 다항 관계는 $(e_1, \dots, e_n, r)$ 로 표현됩니다. 그리고 $F_k$ 는 사실을 지식 수준으로 제약하는 배경지식 함수로, $T \subseteq F_k(\{E, R\})$ 를 만족합니다. 실무에서 $F_k$ 는 규칙 집합·스키마·암묵적 수학 원리로 구현됩니다. 바로 이 $F_k$ 가 KG를 단순 데이터 그래프와 구분하는 본질입니다.

정의 2는 구축을 데이터 소스를 KG로 매핑하는 절차로 봅니다.

여기서 $D$ 는 데이터 소스 집합, $f_k(D)$ 는 데이터 대상의 배경지식(도메인 지식이 될 수 있음)입니다. 핵심은 사전 설계된 규칙이나 표현 언어 모델이 제공하는 배경지식 없이는 KG 구축이 진행될 수 없다는 점입니다.

분류 축(taxonomy)

서베이는 각 기법을 데이터 환경(data environment) · 동기(motivation) · 아키텍처(architecture) 세 축으로 비교합니다. 데이터 환경은 다시 반정형 대 비정형, 문장 수준 대 문서 수준, 풀샷 대 퓨샷으로 세분됩니다. 이 축들은 Step 4의 각 챕터에서 표(Table 2~4)로 구체화됩니다.

평가 관점

이 논문은 서베이이므로 저자가 직접 수행한 실험은 없습니다. 대신 각 기법의 설계 동기, 아키텍처 구성요소, 배경 정보(background information) 활용 방식을 표로 비교합니다. 대표적으로 Table 2(문장 수준 RC), Table 3(원거리 지도 RE/RC), Table 4(문서 수준 RE)가 모델별 인코더·추론·교차문장 피처를 나란히 정리합니다. 본 리뷰에서는 이 비교 표들을 해당 챕터 안에서 다룹니다.

챕터별 상세 리뷰

📖 Chapter 1: Introduction

챕터의 위치와 역할: 서베이 전체의 문제의식과 범위를 설정하는 도입부입니다. KG가 왜 AI의 "초석(paving stone)"인지, 왜 자동 구축이 필요한지, 그리고 이 서베이가 기존 연구와 어떻게 다른지를 밝힙니다.

1. KG의 응용과 중요성: 추천 시스템, 대화 시스템, 가짜뉴스 탐지 등에서 KG가 활용되며, 신뢰할 수 있는 KG는 "지식 인식"을 가능하게 합니다. 그러나 Freebase·Wikidata 같은 고품질 시스템이 크라우드소싱에 의존하므로 자동 구축이 절실합니다.
2. 전통적 정보 추출의 결함: TextRunner·KnowItAll 등 초기 시스템은 규칙·클러스터링 기반으로, 비실질성(엔티티 구분·집약 실패)과 무정보성(의미 무시)이라는 두 결함을 가집니다. Wu et al.은 배경지식으로 노드·엣지를 조직하지 못하면 데이터 그래프일 뿐이라고 못 박습니다.
3. 고전 파이프라인: 가장 전형적인 패러다임은 개념 엔티티를 발견·링킹하고, 상호참조를 해소한 뒤, 엔티티 간 관계를 추출하는 순차 파이프라인입니다.
4. 딥러닝의 부상: NLP의 딥러닝 돌파가 NER, ET, EL, 상호참조 해소, 관계 추출 전반에 좋은 성능을 가져왔고, BERT·대규모 GCN 같은 사전학습 모델이 빅데이터 환경의 복잡한 시나리오(조인트 추출, 장문 컨텍스트, 노이즈, 저자원)로 적용 범위를 넓혔습니다.
5. HACE 정리: Wu et al.이 정리한 빅데이터 환경의 본질 — 이질성·자율성·복잡성·진화성. 서베이는 이 네 축으로 도전 과제를 배치합니다.

1.1 주요 차이점과 기여: Table 1에서 기존 서베이(Paulheim 2017, Yan 2018, Wu 2019, Ji 2020, Arora 2020, Nayak 2021, Pawar 2021, Hogan 2021, Cai 2022)와 본 서베이를 엔티티/관계/상호참조/조건/KGC/TKGC/융합, 대상 데이터(웹/표/문장/문서), 리소스(도구/데이터셋) 항목으로 비교합니다. 본 서베이만이 거의 모든 항목을 폭넓게(15편 이상) 다룹니다.

1.2 서베이의 구성: 2장 배경, 3장 획득, 4장 정제, 5장 진화, 6장 향후 방향, 7장 결론으로 이어진다고 안내합니다.

챕터의 핵심 기여: 데이터 멘션을 넘어선 개념 수준 지식 조직이라는 관점 정립, HACE 환경에 따른 도전 과제 매핑. 다음 챕터로의 연결: 문제의식을 세운 뒤, 2장에서 KG의 형식적 정의와 실용 리소스로 토대를 다집니다.

📖 Chapter 2: Background

챕터의 위치와 역할: 이후 모든 논의의 토대가 되는 형식적 정의와 실무 리소스를 제공합니다. "무엇을 만드는가"와 "무엇으로 만드는가"를 정리합니다.

2.1 정의 (Definitions)

KG 정의의 발전을 짚습니다. Wang et al.은 KG를 다중관계 그래프로 보았으나 의미 구조를 고려하지 않았고, Ehrlinger와 Wöß는 정보를 온톨로지로 배열하고 "추론기(reasoner)"로 새 지식을 발견하는 점을 강조했습니다. Wu et al.은 노드가 개념(엔티티/속성/사실), 엣지가 배경지식을 끌어오는 관계를 나타내는 의미 그래프로 정의했습니다. 이를 종합한 것이 앞서 본 정의 1 $G = \{E, R, T, F_k\}$ 와 정의 2 $f: D \cup f_k(D) \rightarrow G$ 입니다.

2.2 실용 KG 데이터셋

대표 KG 프로젝트를 여섯 범주로 분류합니다.

2.3 KG 구축 도구

하위 작업별 도구를 정리합니다. 데이터 전처리에는 광고·레이아웃 노이즈를 거르는 WebCollector, 지식 획득에는 규칙 기반 KnowItAll, 맞춤형 솔루션 OpenCalais, 그리고 코딩 없이 신경망 아키텍처·액티브 러닝 인터페이스·스키마 통합을 제공하는 엔드투엔드 도구 gBuilder 가 있습니다. 지식 정제에는 KG 완성용 표현 모델을 제공하는 OpenKE, 구조 병합용 OpenEA 가 있습니다.

챕터의 핵심 기여: $F_k$ 를 포함한 KG의 형식적 정의 확립, 데이터셋·도구의 분류된 출발점 제공. 다음 챕터로의 연결: 정의와 도구를 갖췄으니, 3장부터 실제 구축 파이프라인의 첫 단계인 지식 획득으로 들어갑니다.

📖 Chapter 3: Knowledge Acquisition

챕터의 위치와 역할: 서베이에서 가장 두꺼운 본체입니다. 다중 구조 데이터에서 KG의 구성요소를 수집하는 과정으로, 엔티티 발견 → 상호참조 해소 → 관계 추출의 순서로 진행됩니다. raw KG를 만드는 단계입니다.

3.1 엔티티 발견 (Entity Discovery)

KG의 노드가 될 개념 부분집합을 획득합니다. 세 하위 작업으로 구성됩니다 — 개체명 인식(Named Entity Recognition, NER) 은 엔티티를 일반 타입(person, location, country, company)으로, 엔티티 타이핑(Entity Typing, ET) 은 세분화 타입(actor, artist, brand)으로 분류하며, 엔티티 링킹(Entity Linking, EL) 은 KG의 기존 노드로 연결합니다. 연결할 노드가 없으면 새 노드를 생성합니다.

3.1.1 반정형 대 비정형 데이터의 NER

NER은 BIES 스킴(beginning, intermedia, ending, single)에 따라 엔티티의 위치·분류를 태깅합니다. 반정형 데이터는 속성-값(property-attribute) 구조의 의미 힌트를 품고, 비정형 데이터는 텍스트만 가집니다. 저자는 통계 기반 → 딥러닝 → 어텐션·GCN·사전학습의 순서로 발전을 서술합니다.

(1) 통계 기반 접근 — 비정형 NER의 핵심 가설은 각 단어의 태그가 이전 단어들에만 의존한다는 것입니다. 이 이웃 의존성을 포착하기 위해 은닉 마르코프 모델(Hidden Markov Model, HMM) 과 조건부 무작위장(Conditional Random Field, CRF) 이 인기 설계로 자리잡았습니다. 반정형 테이블 데이터에서는 속성의 2차원 피처를 다루기 위한 CRF 변형이 쓰입니다 — 다중 속성을 2차원 구조로 추출하는 2D-CRF, 동적 베이지안망으로 잠재 속성-엔티티 상호작용을 추론하는 DCRF, 반정형 데이터를 계층 트리로 모델링해 조인트 추출하는 hierarchical CRF입니다. Finn과 Kushmerick은 SVM으로 텍스트 내 엔티티 경계를 찾았습니다. 이들은 빠른 NER 솔루션이지만 수작업 피처(handcraft feature)에 크게 의존한다는 공통 한계가 있습니다.

(2) 딥러닝 접근 — NER을 seq2seq(단어열 → 라벨열)로 다룹니다. 컨텍스트·어휘 피처 임베딩을 집계하고 컨텍스트 인코더가 CRF나 softmax 디코더로 태그를 출력하는 표준 아키텍처를 따릅니다.

• CNN/RNN: Collobert et al.은 CNN+CRF 출력층을 최초의 통합 엔티티 탐지 솔루션으로 썼으나, 순수 CNN은 장거리 의존을 이해하지 못합니다. 이에 긴 문장의 전역 컨텍스트를 소화하는 RNN(생의학용 단방향 RNN)으로 넘어갔습니다. 다만 RNN은 후행 단어로 인한 컨텍스트 편향(context bias) 을 겪어, 양방향 Bi-LSTM-CRF 와 GRU 기반 NER이 등장했습니다.
• 병렬화: 재귀 모델의 학습은 완전 병렬화가 안 되므로, 일부 입력을 생략해 수용 영역을 넓히는 dilated convolution 기반 IDCNN 이 RNN의 일반화 능력에 근접하면서 병렬성을 확보했습니다.
• 문자+단어 인코더: 문자 임베딩용 CNN과 단어 임베딩용 LSTM을 조합해 두 고전 구조의 장점을 결합하고 수작업 어휘 피처 의존에서 벗어났습니다.

(3) 어텐션·GCN·사전학습 — black-box 신경망이 태스크 특화 피처를 명시하지 못하고 빅데이터 환경의 배경지식을 무시한다는 한계를 넘기 위한 흐름입니다. Luo et al.은 전역 컨텍스트의 두드러진 상호작용을 투사하는 word-level soft attention을, Gregoric et al.은 word-word self-attention을 도입했습니다. Cetoli et al.은 구문 의존 트리를 GCN으로 처리해 사전 언어 지식을 활용했습니다. 이후 ELMo, Ltp, LUKE 같은 사전학습 언어 모델이 대규모 데이터에서 암묵적 배경지식 표현을 추출해 돌파 수준의 인식을 이뤘습니다.

3.1.2 엔티티 타이핑(ET)

scientists, clubs, hotels 같은 세분(fine-grained)·초세분(ultra-grained) 타입을 부여합니다. ET를 하지 않으면 정보 손실이 생깁니다 — 예컨대 "Donald Trump는 politician이자 businessman"이라는 정보가 누락됩니다. 반정형 테이블은 캡션이 세분 타입 힌트를 줍니다(예: "soccer players in England"). ET 딥러닝 모델은 두 가지 난제를 극복해야 합니다.

• (1) 드문 세분 타입 해석: 일부 타입은 불균형하거나 빈도가 낮습니다. Shimaoka et al.은 계층 라벨 인코딩을 멘션·컨텍스트 표현과 통합해 세분 컨텍스트 피처를 활용하는 LSTM 어텐션망을 제안했습니다.
• (2) 과도하게 구체적인 타이핑(overly-specific typing) 방지: 올바르지만 현재 컨텍스트에 안 맞는 타입을 거릅니다. Xu et al.은 다중 라벨 엔티티에 out-of-context loss 를 적용했는데, 학습 중 최고 확률을 받은 타입이 옳게 태깅됐다고 가정해 과도 타이핑 노이즈를 걸러냅니다.

Zhang et al.은 한 걸음 더 나아가, 문서 수준 표현 으로 엔티티 발견을 위한 전역 컨텍스트를 제공하고, 문장 수준 표현 으로 서로 다른 문장에 나타난 동일 엔티티 표현을 정렬한 뒤, 적응적 확률 임계값(adaptive probability threshold) 으로 서로 다른 컨텍스트의 타입 라벨을 생성합니다.

3.1.3 반정형 대 비정형 데이터의 EL

EL은 엔티티 중의성 해소(disambiguation)라고도 하며, 멘션을 KG의 대응 객체에 연결합니다. 예컨대 "Tesla"는 차·회사·과학자를 가리킬 수 있습니다. 반정형 데이터는 열 머리글·타입 라벨·셀 텍스트·하이퍼링크의 의미 힌트를, 비정형 텍스트는 멘션의 컨텍스트 표현을 활용합니다.

통계 기반 — SVM·확률 그래프 모델이 일반 솔루션입니다. Mulwad et al.은 SVMRanker 로 타깃 엔티티에 연결 가능한 후보 노드를 판정했습니다. 더 유연한 확률 그래프 기반으로, Limaye et al.은 셀 텍스트-엔티티 라벨, 열 머리글-타입 라벨의 TF-IDF를 계산하는 팩터 그래프로 집단 링킹(collective entity linking)을 수행했습니다. TabEL 은 위키 하이퍼링크로 의미 연관도를 추정해 팩터 그래프를 개선했고, Wu et al.은 다중 KB의 "same-as" 엣지를 활용했으며, Efthymiou et al.은 엔티티 컨텍스트·최소 엔티티 컨텍스트·KB와 테이블이 공유하는 스키마 구조의 벡터 표현을 체계적으로 통합했습니다.

딥러닝 — GENRE 는 대규모 비정형 데이터를 다루는 생성형 seq2seq 솔루션으로, 사전학습 오토인코더로 텍스트를 인코딩하고 autoregressive beam search로 후보 대응 엔티티를 디코딩해 여러 EL 태스크에서 돌파를 이뤘습니다. 다만 계산 자원 소모가 과도하므로, 저자는 복잡한 환경이 관여할 때만 사전학습 EL 모델을 고려하라고 명시적으로 권고합니다.

3.2 상호참조 해소 (Coreference Resolution, CO)

별칭과 대명사를 포함해 같은 엔티티를 가리키는 멘션을 탐지합니다. 다른 멘션이 가리키지 않으면 singleton입니다. 비정형 문장을 입력받아 동일 지시 단어 스팬 쌍을 출력합니다.

3.2.1 통계 기반 모델 — 엔티티·멘션·선행사(antecedent)의 통계 피처에 집중합니다. 그래프·트리 기반이 인기로, 하이퍼그래프(엣지가 둘 이상 노드를 연결)를 구성해 Cai와 Strube는 클러스터링으로 분할을, Sapena et al.은 relaxed labeling을 적용했습니다. Bean과 Riloff는 결정 트리로 조응 멘션을, Fernandes et al.은 voted perceptron으로 멘션 쌍 트리를 탐지했습니다. 경량이지만 장거리 조응(long-distance anaphor) 에 약하고 일반화 가능한 통계 피처 설계가 어렵습니다.

3.2.2 딥러닝 기반 모델 — 문서를 단어 표현으로 변환해 다양한 시나리오의 복잡한 멘션 쌍을 탐지합니다(더 많은 라벨·자원 필요).

• CNN: 많은 초기 모델이 CNN 기반입니다. Xi et al.은 계층적 멘션 쌍 피처에 distant feature를 결합하고 softmax로 멘션 쌍을 점수화해 특히 장거리 조응을 해소했습니다. Wu et al.은 선행사·멘션·멘션쌍의 컨텍스트 피처 조합을 합성곱·연결로 결합해 풍부한 다중스케일 컨텍스트로 상호참조와 singleton을 다뤘습니다.
• RNN: RNN 계열은 단어 멘션 쌍 간 전역 피처를 CNN보다 잘 추출합니다. Wiseman et al.의 초기 RNN 모델에 이어, Lee et al.은 멘션 스팬 내부 의존을 탐지해 전역 컨텍스트를 이해하는 end-to-end LSTM 모델(멘션 탐지 → 선행사 스코어링 2단계)을 제시해 표준이 됐습니다. Gu et al.은 LSTM에 클러스터 수정 알고리즘을 더해 비유사 쌍을 걸렀습니다.
• 어텐션: word-level attention 강화 Bi-LSTM 외에, 단어 스팬 상호작용을 잡아 연결 표현을 탐지하는 biaffine attention, 의존 구조와 선행사 간 상호작용 피처에 구문 피처를 결합하는 mutual attention이 등장했습니다. Clark과 Manning은 휴리스틱 정책망으로 잘못된 매칭 행위를 거르는 RL 기반 전략으로 다양한 표현에 대한 견고성을 높였습니다.

3.3 관계 추출 (Relation Extraction, RE)

서베이에서 가장 두꺼운 절입니다. 비정형·반정형 데이터에서 엔티티 간 상호작용·속성을 나타내는 관계 사실을 추출합니다. 하위 태스크로 관계 분류(RC)라고도 불리며, 이항 추출과 다항(예: 공저자) 추출로 나뉩니다.

3.3.1 비정형 문장 수준 도메인 특화 RC — 사전 정의된 관계 집합에 멘션을 라벨링합니다. 입력 문장 $\{x_1, x_2, x_{eh}, \dots, x_{et}, x_n\}$ 에서 $x_{eh}$ 와 $x_{et}$ 는 각각 머리·꼬리 엔티티이며, 딥러닝 모델은 각 단어 표현을 생성한 뒤 피처 추출기가 관계 타입별 확률 벡터 $r$ 을 도출합니다.

• SVM 커널: 단어 피처 벡터를 커널 함수로 피처 공간에 매핑해 분류합니다 — POS·엔티티 태그를 쓰는 lexical-kernel SVM, dependency-tree-kernel SVM, shallow-parse-tree-kernel SVM. 다만 고성능 커널 함수 설계가 어렵습니다.
• 지역 컨텍스트 인지(CNN): 어휘 피처와 max-pooling을 결합한 피처 기반 CNN은 엔티티 이웃 단어의 지역 컨텍스트로 표현된 관계에 집중합니다. Nguyen과 Grishman의 Multi-kernel CNN 은 다중스케일 합성곱 윈도로 지역 피처 집계를 강화합니다.
• 전역 컨텍스트 인지(LSTM): 긴 문장 전체로 전달되는 관계 사실을 위해, Zhou et al.은 inter-word attention의 BiLSTM+Attention 으로 장거리 의존을, Miwa와 Bansal은 트리 구조를 결합한 TreeLSTM 을 씁니다.
• 어텐션 강화 CNN: 재귀 구조의 느린 학습을 보완해, 엔티티 관련 컨텍스트를 word-level attention으로 선택하는 Attention-CNN, input attention과 attention-based pooling을 결합한 Multi-level CNN 이 나왔습니다.
• 그래프 컨텍스트 인지(GCN): 보조 정보를 위해 GCN·사전학습을 활용합니다 — 엔티티쌍 그래프에 BERT를 결합한 EPGNN, 그래프 합성곱에 multi-head attention을 통합한 AGGCN, 이종 그래프망으로 고차 피처를 병합하는 RIFRE.
• 태스크 변환: Cohen et al.은 RC를 질의응답(QA) 태스크로 변환하고 BERT 임베딩으로 분류합니다.

다항 관계는 semantic role labeling으로 이항으로 분해합니다(NNF, dependency path embedding). 저자들은 "노 실버 불릿(no-silver-bullet)" 원칙 을 강조합니다 — 노드를 더 쌓거나 망을 깊게 한다고 장문·노이즈에 강해지지 않으며, 데이터 환경에 맞는 아키텍처·학습 전략 탐색이 필수입니다. Table 2가 모델별 설계를 비교합니다.

3.3.2 반정형 대 비정형 데이터의 오픈 RE

오픈 RE는 사전 정의된 관계 타입 없이 명사어(주어/목적어)와 동사구(술어)를 탐지해 (subject, predicate, object) 트리플을 만듭니다.

통계 기반 — Mulwad et al.은 반정형 테이블 위 확률 그래프와 의미 메시지 전달로 관계를 태깅했고, Chen과 Cafarella는 CRF+frame finder로 셀을 위치 라벨(left/middle/right)로 태깅한 뒤 부모-자식 계층 트리에서 트리플을 복원했습니다. StatSnowball 은 Markov logic network로 관계를 식별합니다. 이들은 경험적 피처에 의존해 복잡·희소 표현에서 무정보 트리플을 만듭니다.

딥러닝 — 인코더-디코더가 일반적입니다. CopyAttention 은 신경 부트스트래핑으로 입력 단어를 출력으로 복사하나, 문장 길이에 맞춰 트리플 개수를 조절하지 못해 잉여 트리플이 생깁니다. IMOJIE 는 BERT-LSTM 구조와 비지도 집계 스킴으로 다중스케일 컨텍스트에 적응하는 반복 추출로 이를 개선합니다. 복잡 표현의 희소 관계를 위해, Wu et al.은 Relation Siamese Net(RSN)과 클러스터링을 결합한 메트릭 러닝으로 지도 지식을 비지도 저자원 관계에 전이합니다.

3.3.3 원거리 지도 RE/RC(Distant Supervision)

대규모 데이터의 라벨링이 어렵다는 문제에 대해, Mintz et al.은 외부 KB로 관계 라벨을 자동 부여하는 원거리 지도를 제안했습니다. "서로 다른 문장에 나타난 동일 엔티티 쌍은 KB에서 그들을 잇는 같은 관계를 반영한다" 고 가정하지만, 데이터 컨텍스트를 충분히 고려하지 못해 노이즈가 불가피합니다. 저자는 노이즈 대응을 네 흐름으로 정리합니다.

• (1) 향상된 추출기: 문장을 엔티티 기준 세 조각으로 나눠 핵심 컨텍스트를 보존하는 piecewise convolution PCNN, 잘못된 패턴을 학습해 노이즈 피처를 분리하는 transition matrix.
• (2) 향상된 학습 전략: RL로 오라벨 샘플을 제거하는 Qin et al., 적대 학습으로 신뢰 샘플을 선택하는 DSGAN. 다만 이들은 표면 피처만 보고 인스턴스를 체계적으로 보지 못합니다.
• (3) 인스턴스 선택(MIML): Riedel et al.의 "at-least-one" 가설 기반 다중 인스턴스 다중 라벨 학습(Multi-instance Multi-label Learning, MIML) — 같은 엔티티 쌍을 담은 샘플 중 적어도 하나는 주어진 원거리 지도 관계를 표현한다는 것입니다. 같은 관계 태그 문장을 묶는 selective attention(Lin et al.), 교차문장 풀링으로 엔티티쌍 표현을 만드는 MIML CNN, 엔티티 설명을 더한 MIML CNN + ED, long-tail 라벨용 계층 어텐션 HAtt, 내부 관계·외부 백 상호작용을 합성 어텐션으로 잡는 Intra/Inter-Bag Attention, 베이즈 규칙으로 백 간 전역 유사도를 얻는 cross-relation attention, 그리고 다중 MIML망을 통합하는 collaborative learning(Huang et al.의 NetAtt/NetMax).
• (4) 외부 지식 강화: 이상 피처를 덮어쓰는 외부 지식으로, 엔티티 KG 임베딩을 결합(Zhang et al.)하거나 구문 그래프+side information의 RESIDE 를 씁니다.

Table 3이 PCNN·TM·DSGAN·CCL-CT·selective attention·MIML CNN·HAtt·RESIDE 등을 범주(향상된 추출기/학습 전략/인스턴스 피처/배경정보)로 비교합니다.

3.3.4 퓨샷 RC(Few-shot)

long-tail 현상으로 대부분의 관계 타입이 소수 예시로만 표현되는 저자원(퓨샷·제로샷) 시나리오입니다. 사용 가능한 특성을 증폭하는 세 갈래로 대응합니다.

• 메타러닝(Meta-learning): 제한된 지도에서 전이 가능한 메타 정보를 보존해 옵티마이저를 강화합니다. MAML(Model-agnostic Machine Learning)은 2단계 다중 경사하강으로 관계 타입별 경사를 추정한 뒤 전체 최적화하며, 태스크 민감 메타 정보를 부분 경사값에 저장합니다. MetaNet 은 뇌의 개념 이해를 모방한 fast-slow 메커니즘(느린·빠른 가중치)으로 고차 암묵 관계 메타 피처를 얻습니다. Wu et al.은 파국적 망각(catastrophic forgetting) 을 막기 위해 샘플을 순서대로 복습하고 메모리에 보존하는 curriculum 메타러닝을 씁니다.
• 메트릭 러닝(Metric learning): 관계 타입을 대조할 메트릭 공간을 찾습니다. ProtoNet 은 서포트셋의 관계별 임베딩 평균을 프로토타입 벡터로 삼아 쿼리와의 거리를 비교합니다. LM-ProtoNet 은 CNN 유도 구문·문장 임베딩을 결합하고 marginal triple loss로 클래스 간 비메타 피처를 분리하며 클래스 내 응집을 높입니다. Gao et al.은 피처 수준·인스턴스 수준 어텐션을 결합해 신뢰 프로토타입 피처를 강조하고, RSN 은 샘플 임베딩 유사도를, Matching Network 는 벡터 곱으로 쿼리-서포트 어텐션 점수를 계산하며, long-tail용 MLMAN 은 지역·인스턴스 피처를 서포트·쿼리 벡터 결합으로 집계합니다.
• 도메인 적응(Domain adaptation): 미지 라벨을 매핑합니다. 미지 "none-of-the-above" 타입을 위한 BERT-PAIR, 도메인 불변 피처 탐색을 게임 과정으로 보고 적대 학습으로 구현하는 Gao et al.이 있습니다.

3.3.5 조인트 RE 모델

전통 파이프라인은 각 단계의 오류 전파(error propagation) 를 겪고 태스크 간 상호작용을 약화시킵니다. 조인트 RE는 이를 막습니다.

• 파라미터 공유: 신경 아키텍처를 병합하고 다른 출력층으로 관계 있는 엔티티를 가져옵니다. Zheng et al.은 NER·RC용 이중 BiLSTM 가중치를 공유한 뒤 CNN·LSTM으로 각각 관계·엔티티를 라벨링하고, Miwa와 Bansal은 Bi-LSTM+Bi-TreeLSTM으로 의존 피처를 통합합니다. GraphRel 은 2단계 지도로 두 BiGCN 층을 통해 의존 그래프와 관계-엔티티 그래프를 결합합니다. 다만 중첩 라벨의 복잡 지도로 확장이 어렵습니다.
• 새 태깅 스킴(중첩 처리): Zheng et al.은 BIES에 관계 타입·역할(주어/목적어)을 더해 NER+RC 시퀀스 태깅을 만들고, Wei et al.은 관계 타입별 cascade map으로 한 주어의 모든 목적어 후보를 라벨링해 중첩 멘션을 담습니다. Wang et al.은 노출 편향을 완화하는 hand-shaking을, Bekoulis et al.은 모든 엔티티/관계 조합을 탐색하는 multi-head selection을, Li et al.은 엔티티-관계 태깅을 다중턴 QA로 바꿔 기계독해(MRC)로 장거리 의미를 잡습니다. KGGen 은 사전학습+적대 학습 기반 인코더-디코더/생성기로 트리플을 직접 생성해 엔티티 공기(co-occurrence) 정보 의존을 극복합니다.

3.3.6 문서 수준 RE

문서 내 엔티티는 복잡한 교차문장 컨텍스트로 관계를 표현해, 대부분의 문장 수준 인코더가 무력해집니다. 저자는 정적 → 동적 → 증거 기반 → 비그래프의 발전을 서술합니다.

• 정적 그래프: 초기엔 그래프 구조에 맞춘 LSTM 변형 Graph LSTM·Graph-state LSTM. 이후 Sahu et al.은 상호참조·인접 단어 엣지로 동질 문서 그래프를, AGGCN은 인접 문장 의존 트리 루트를 attention-guided GCN으로 연결, Christopoulou et al.은 멘션/문장/엔티티(M,S,E) 노드의 이종 의미 그래프로 EoG 추론층을 만듭니다. 정적 설계는 복잡 추론에서 한계가 있습니다.
• 동적 그래프: 고차 추론을 위해 동적 엣지를 활용합니다 — 완전 연결 그래프의 동적 엣지 가중치로 추론하는 GP-GNNs, 그래프를 잠재 변수로 보고 링크·가중치를 반복 정제하는 LSR, 의존 경로를 재구성해 엔티티쌍을 재가중하는 Xu et al., 정적+동적 관계가중 그래프로 다중홉을 강화하는 GraphRel, 멘션·엔티티 이종 그래프의 GAIN(Zeng et al.).
• 증거 기반 추론: 외부 태깅 공기 증거의 rationale 그래프 RARE(Zhang et al.), 게이트로 저신뢰 엔티티 스팬을 가지치기하는 DyGIE, 이종 그래프로 상식 관계를 인식하는 DRN, 상식 배경 피처를 주는 COMET.
• 비그래프 계열: GCN이 한 엔티티의 여러 출현 표현을 통합해 더미 컨텍스트를 부르는 문제를 넘기 위해, ATLOP 은 부분별 엔티티 관련 피처를 distill하는 localized context pooling 과 관계 라벨 상호작용으로 디코딩하는 adaptive threshold loss(ATL) 를 도입합니다. Tan et al.은 라벨 기반 지식 증류(KD)로 원거리 지도 모델을 결합하고 ATL을 adaptive focus loss(AFL)로 개선합니다. U-Net 은 문서를 시각 의미 행렬로 보고 다층 합성곱의 U자형 분할을 적용합니다.

Table 4가 단어 인코더·장문 인코더·추론·교차문장 피처 축으로 Graph LSTM부터 ATLOP까지 비교합니다. 저자는 문서 수준 컨텍스트를 어떻게 조직할지가 아직 거의 밝혀지지 않았다며 향후 노력을 촉구합니다.

챕터의 핵심 기여: NER→ET→EL→CO→RE 각 하위 작업을 데이터 환경·동기·아키텍처로 분류하고, "노 실버 불릿" 원칙과 MIML·퓨샷·조인트·문서 수준이라는 복잡 시나리오 대응을 정리. 다음 챕터로의 연결: raw KG가 만들어졌으니, 4장에서 그 불완전·손상된 트리플을 정제·병합합니다.

📖 Chapter 4: Knowledge Graph Refinement from Structured Data

챕터의 위치와 역할: 3장이 만든 raw KG는 희소하고 트리플이 불완전·손상될 수 있습니다. 4장은 배경 의미나 외부 KG(구조화 데이터)로 이를 보수합니다. 하위 작업은 KG 완성과 지식 융합입니다.

4.1 KG 완성 (Knowledge Graph Completion)

불완전 트리플을 채우고 새 트리플을 도출하며, 트리플 분류로 신뢰성(accountability, 트리플의 정확성)을 평가합니다.

4.1.1 임베딩 기반 트리플 완성 — 누락 부분 $(h, ?, t)$, $(?, r, t)$(엔티티 예측), $(h, ?, t)$(관계 예측)을 채웁니다. 소·중규모 KG엔 경험적 임베딩이, 대규모엔 피처 강화 임베딩이 적합합니다.

경험적 임베딩(empirical embedding) — 얕은 지식 구조에서 유도한 분포 피처 공간을 활용합니다. TransE 는 머리·꼬리·관계 표현이 다음을 만족하도록 학습해 트리플을 완성합니다.

여기서 $h$ 는 머리 엔티티 벡터, $t$ 는 꼬리 엔티티 벡터, $r$ 은 관계 벡터입니다. 직관은 머리 벡터에 관계 벡터를 더하면 꼬리 벡터에 근접한다는 것입니다. 그러나 대칭적인 TransE는 1:다(one-to-many) 관계를 고려하지 못합니다. 이에 초공간 행렬을 도입한 거리 기반 링크 예측 TranSparse, 엔티티쌍 표현을 잠재 관계 텐서 의미 공간에 매칭해 더 큰 그래프를 다루는 TuckER·NTN 이 나왔습니다. 다만 다양한 지식 구조는 여전히 과소평가될 수 있습니다.

피처 강화 임베딩(feature-enhanced embedding) — 복잡한 의미 지식 구조를 결합합니다.

• HAKE 는 극좌표계로 의미 계층(상위어·하위어·동격)을 모델링해 mold(크기)·angle(각도) 제약으로 계층별 엔티티 벡터를 구분합니다.
• CAKE 는 상식 규칙으로 negative sampling을 강화하고, SimKGC·HaLE 는 대조 학습으로 저차원 임베딩의 negative sampling을 최적화합니다.
• CAFE 는 이웃 서브그래프 피처 집합으로 관련 링크 정보를 강화합니다.
• DisenKGAT 는 GCN 의미 확산으로 표현 구성요소를 서브그래프별 별개 의미로 분해(disentangle)합니다 — 큰 KG는 $k$ 개 구성요소로 축약 가능한 충분한 부분집합을 가진다는 가정입니다.
• COMET 은 트리플을 단어 토큰으로 변환해 상식 사전학습 트랜스포머로 생성 예측합니다. 생성형은 복잡 시나리오에서 돌파를 이루나, 추가 계산 비용이 병목 으로 남습니다.

4.1.2 관계 경로 추론(Relation Path Reasoning)

완성된 트리플 시퀀스를 근거로 새 사실을 도출합니다 — 예: "(B, lives-in, Seattle) ∧ (A, works-in, Microsoft), (Microsoft, located-in, Seattle)".

• 신경망 계열: 경로 피처를 재귀 집계해 다중홉 추론하는 Path-RNN, 어텐션으로 다중 경로 의존과 엔티티 타입 정보를 강조하는 chains-of-reason. 다만 black-box 재귀 추출기는 시퀀스 내 논리를 명시적으로 모델링하지 못합니다.
• 강화 학습(RL): KG를 마르코프 결정 과정(Markov Decision Process, MDP)으로 보고 정책 에이전트로 논리 제약을 명시 인식합니다. DeepPath 는 상태 공간을 번역 기반 엔티티 표현으로 두고 엔티티쌍 피처 공간에서 최적 관계 라벨을 찾으며 이진 함수로 보상을 계산합니다. 저품질 이진 보상의 일반화 문제를 위해 Lin et al.은 soft reward shaping을, Li et al.은 다중 에이전트를, M-Walk 는 RNN으로 통시적 상태 의존을, Chen et al.은 변분 인코딩으로 경로 추론·탐색을 통합합니다.
• 어텐션 강화 RL: self-attention으로 이웃 엔티티-관계 상호작용을 강조하는 ADRL, graph attention(Wang et al.), 계층 정책망(Zheng et al.), 경로 길이 피처로 보상을 발행하는 거리 인지 DAPath, 사전학습 임베딩 의존을 완화하는 메모리 기반 MemoryPath.

4.1.3 해석가능 관계 추론(Interpretable Relation Reasoning)

해석가능성은 모델을 인간이 이해 가능하게 만들어 신뢰성을 평가하는 데 핵심입니다. 자기 설명형 pre-hoc과 사후 분석형 post-hoc으로 나뉩니다.

• pre-hoc(자기 설명): 투명한 결정 과정으로 내부 구조를 introspection으로 자기 해석합니다. 논리 규칙 마이닝 AMIE·RLvLR 은 연결 결정을 설명하는 논리 규칙을 사용자에게 피드백합니다. 신경 기반 규칙 탐색 NeuralLP·pLogicNet·ExpressGNN 은 학습된 규칙을 side information으로 제공하지만 신경망 자체는 여전히 black-box입니다. 부분 pre-hoc에는 random-walk(잠재 경로 확률값), RL(행위별 보상값), attention(두드러진 상관의 어텐션 점수) 기반도 포함됩니다.
• post-hoc(사후 분석): black-box의 암묵 피처를 프록시로 탐색합니다. Carmona et al.은 1차 논리 베이지안망으로 임베딩 모델에서 규칙을 추출하고, OXKBC 는 관계·엔티티 유사도로 그럴듯한 설명 경로를 생성합니다. 얽힌 비선형 피처는 모델 단순화로 분해되지 않으므로, 작은 섭동을 가해 출력 변화로 영향 피처를 찾는 민감도 분석을 씁니다 — GNNExplainer 는 단일·다중 인스턴스 예측에 영향 주는 서브그래프를, CRIAGE 는 거짓 사실을 생성해 관계별 방해 트리플을 찾습니다.

4.1.4 트리플 분류(Triple Classification)

확실한 트리플과 비정상(거짓) 트리플을 구분합니다. 끊임없이 갱신되는 KG에서 의심스러운 트리플을 판정합니다.

• CKRL 은 신뢰 트리플 판정 인덱스 체계 — 트리플과 negative sample의 거리를 비교하는 local triple confidence, 트리플을 형성하는 추론 경로의 전역 자원을 보는 global path confidence, 트리플을 도출하는 지역 추론 경로를 점수화하는 adaptive path confidence — 를 제안하나 학습이 복잡합니다.
• 임베딩 기반은 단순하나 불충분한 negative sampling(특히 1:다 관계)으로 합리적 트리플이 누락됩니다. Dong et al.은 엔티티 임베딩을 n-ball 구조로 확장해 세분 타입 체인을 결합하고, Amador-Domínguez et al.은 온톨로지 정보로 표현력을 높이며, R-MeN 은 multi-head attention으로 트리플 간 잠재 의존을 잡는 메모리 기반 임베딩을 생성합니다.

4.2 지식 융합 (Knowledge Fusion)

"Trump"와 "Donald Trump"처럼 의미적으로 동등한 요소를 병합합니다. 속성 정렬, 소규모 엔티티 매칭, 대규모 엔티티 정렬로 나뉩니다.

4.2.1 속성 정렬(Attribute Alignment) — 속성 트리플은 색·날짜·숫자·문자열 같은 값으로 개념의 속성을 나타냅니다. "birthday"와 "date of birth" 같은 동의어가 의미 희소를 유발하므로 표기를 통일합니다. 임베딩이 가까우면 같은 속성으로 보는 언어적 전제하에, 문자열 유사도 기반 임베딩, bag-of-words(Yang et al.), 공기 속성을 모델링하는 Skip-gram 기반 JAPE(예: "latitude"와 "longitude")가 있습니다. 다만 전화번호처럼 정보가 적은 속성은 어렵습니다. AttrE 는 속성값 각 문자를 LSTM으로 임베딩해 단일어 표현의 잠재 구절을 예측하고, 속성명-술어 정렬로 미지 속성을 다룹니다.

4.2.2 소규모 KG와의 엔티티 매칭 — 초기 KB는 트리플이 적어 정보가 불충분하므로 다중 소스 지식을 통합합니다. 분류 태스크로 다뤄 Magellan(다중 유사도 함수+랜덤 포레스트, 수치 속성 고려), MSejrKu(로지스틱 회귀·MLP 분류기), RNN+어텐션의 DeepMatcher, WordNet 개념 강화가 있습니다. 닉네임·전화번호 같은 고유 개인 속성은 사용자만 알기에, 사용자에게 질의해 충돌을 푸는 액티브 러닝(active learning) 이 가장 신뢰할 만한 필수 솔루션입니다.

4.2.3 대규모 KG와의 엔티티 정렬 — 충분한 속성·구조를 가진 대규모 KG에 구조화 데이터를 통합합니다.

• KG 임베딩 기반: 트리플 임베딩을 가진 시드 엔티티로 그래프 간 매핑을 학습합니다. Sun et al.은 같은 타입 엔티티 구분을 해치는 vanilla negative sample 대신 피처 공간의 근접 엔티티로 negative sample을 생성합니다. IPTransE 는 같은 엔티티쌍을 잇는 관계 경로를 임베딩하는 경로 번역 임베딩과 매칭 오류를 완화하는 soft alignment의 반복 조인트 전략입니다. MultiEA 는 그래프 속성·링크·이웃 노드의 다중 뷰 피처를, BootEA 는 신뢰 시드를 반복 추가하는 "likely alignment" 부트스트랩 라벨링을 씁니다. 교차언어 MtransE 는 축 보정·번역 벡터로 언어 간 공간 불변성을 모델링하고, 자기지도 SS-AGA·SelfKG 가 시드 정보를 활용합니다. 다만 이들은 엔티티 속성을 과소평가하고 고차 의미를 잘 고려하지 못합니다.
• 속성 표현 강화: 표면·구조 분포 피처가 없는 엔티티 정렬을 위해, KDCoE 는 설명 속성으로 공동학습(co-training)하고, JarKA 는 희소 다국어 KG의 속성 상호작용을 모델링하며, AttrE 는 LSTM으로 속성값 의존 피처를, JAPE 는 속성 임베딩을 오버레이 관계 그래프와 통합해 교차언어 차이를 잡습니다.
• 그래프 합성곱(GCN): 최초의 GCN 정렬 프레임워크 GCN-Align, 이웃 노드 피처를 매칭하는 RNM, 삼각 엔티티 그래프의 모순 표현을 이중 관계 그래프로 푸는 RDGCN, 이웃을 잇는 topic entity graph로 동일 엔티티를 병합하는 GMNN, 속성 트리플 타입별로 KG를 분할해 이종 정보를 이해하는 AttrGNN. 고차 교차그래프 상호작용에는 다채널 GNN 인코더로 그래프 간 구조 피처를 일관 모델링하는 cross-KG attention의 MuGNN, 조인트 graph attention으로 교차그래프 관계 정보를 융합하는 GTEA.

챕터의 핵심 기여: 임베딩($h+r \approx t$ 계열)·경로 추론·해석가능성·트리플 분류로 KG 완성을, 속성/소규모/대규모로 융합을 체계화. 해석가능성과 액티브 러닝을 HACE의 복잡·자율 축에 연결. 다음 챕터로의 연결: 정적 KG를 정제했으니, 5장에서 시간·조건에 따라 변하는 동적 지식으로 확장합니다.

📖 Chapter 5: Knowledge Evolution

챕터의 위치와 역할: 환경 조건에 따라 지식이 어떻게 진화하는지를 다룹니다. 조건 튜플은 $(h, r, t, \theta)$ 로 형식화되며, $\theta$ 는 사실의 전제 조건입니다. 가장 흔한 단순화가 시간 정보(timestamp) 로, 예를 들어 (Biden, job, vice president, 2009–2017), (Biden, job, president, 2020-)처럼 표현됩니다.

5.1 조건 지식 획득 (Condition Knowledge Acquisition)

특히 생의학 분야의 많은 사실은 조건 위에 성립합니다. 전통 추출 시스템은 조건 정보를 엔티티에 병합해 엔티티 링킹을 해쳤고, 같은 토큰이 서로 다른 튜플의 주어·목적어가 될 수 있다는 문제가 있었습니다. Jiang et al.은 B/I-XYZ 태깅 스키마를 제안했습니다 — "BI"는 위치(begin/intermediate), "X"는 논리 역할(fact/condition), "Y"는 튜플 역할(subject/object), "Z"는 구성요소 타입(concept/attribute/predicate)입니다. 이를 토대로 조건 추출은 사실 튜플 추출·조건 튜플 수집·사실 조건 연결의 세 목표를 달성합니다. 이들의 MIMO(multi-input multi-output) 시퀀스 라벨링 모델은 관계명 태깅층으로 사실·조건 태깅 서브층을 두고, 튜플 완성 태깅층으로 각 토큰의 논리 역할을 구분합니다. Zheng et al.은 MIMO가 중첩 트리플을 못 다룬다고 지적하며, 계층 파싱으로 다중 출력 스키마를 단일 출력으로 단순화했습니다.

일반 조건 모델링은 어렵기에 현재 주류는 시간 지식 추출 입니다. RNN으로 시간 의존을 잡는 모델([217], [218]), 사건·상태·지속을 다중 스택 어텐션으로 타임라인 매칭하는 Vashishtha et al., 그리고 문서 수준에서 "기본 담화 단위(elementary discourse unit)"를 다루는 수사 인지 GCN 그래프 TIMERS 가 있습니다.

5.2 조건 KG 완성 (Condition Knowledge Graph Completion)

$(h, ?, t, \theta)$, $(h, r, ?, \theta)$, $(h, r, t, ?)$ 형태의 불완전 조건 트리플을 채웁니다(주로 시간 KG). 소규모엔 행렬 임베딩, 대규모엔 텐서, 복잡한 시간 추론엔 GCN이 적합합니다.

• 행렬 임베딩: 소규모 시간 KG에 적합합니다. TransE를 시간 임베딩 벡터로 확장한 TTransE, 타임스탬프를 초평면(hyperplane)으로 보고 엔티티·관계 임베딩을 매칭하는 HyTE. 시간 인지 임베딩으로는 시간 인코딩 시퀀스를 해석하는 LSTM 모델, 컨텍스트의 시간 일관성을 잡는 CNN 모델이 있습니다.
• 텐서 분해: 시간 차원을 따라 KG 표현을 텐서로 보고 분해하며 대규모에 적합합니다. 표준 다항 분해(canonical polyadic decomposition) 는 여러 1-rank 텐서의 합으로 목표 텐서를 근사하고, Tucker 분해(Tucker decomposition) 는 목표 텐서를 커널 텐서와 각 차원별 텐서들의 곱으로 분해합니다. Shao et al.은 Tucker 기반으로 타임스탬프를 포함한 표현의 유연성을 높였고, SpliMe 는 정적 모델로 시간 관점 엔티티 임베딩을 얻습니다.
• 시간 추론(GCN): 복잡한 통시적 피처로 시간 관계 경로를 추론합니다. Han et al.은 엣지 어텐션 점수로 질의 의존 간섭 서브그래프를 확장하고, Jung et al.은 엣지 기반 어텐션 전파로 다중홉 시간 추론을, Liu et al.은 RL로 추론을 강화합니다. "born-in"이 "works-at"보다 앞선다는 시간 의존을 위해 Jiang et al.은 비대칭 행렬로 시간 순서 제약을 보존하는 스코어 함수를 정의합니다.

저자들은 한 튜플에 둘 이상 조건이 있는 경우(예: 특정 온도 범위에서만 일어나는 화학 반응)는 추가 탐구 대상이며, 인과성 발견 방법을 함께 고려하라고 제언합니다.

5.3 지식 동역학 (Knowledge Dynamic)

상태 변화를 예측합니다. 대부분 RNN으로 통시적 의존을 이해합니다 — Know-evolve(다변량 시간 점 과정 + 강화 RNN, 시간 진화 표현 함수 학습), 이웃 집계로 동시 상호작용을 잡는 RE-NET, 진화 표현의 MGraph·DyERNIE, 이종 KG 진화 정보를 결합하는 신경 잠재 공간 모델(Gracious et al.), 시간 스냅샷 간 노드 정렬로 위상 불변 피처를 잡는 GCN(Yan et al.). 일반 조건 변화에 따른 지식 진화(예: COVID-19 종식 조건)는 여전히 도전 과제이며, 인과 피처 선택과 전문가·다중 소스 증거를 함께 쓰라고 권합니다.

챕터의 핵심 기여: 조건 튜플 $(h, r, t, \theta)$ 라는 일반 틀과 그 단순화인 시간 KG를 획득·완성·동역학으로 체계화. 텐서 분해(CP/Tucker)와 시간 스코어 함수를 도구로 제시. 다음 챕터로의 연결: 3~5장이 현행 기법을 망라했으니, 6장에서 아직 풀리지 않은 도전 과제와 미래 방향으로 시야를 넓힙니다.

📖 Chapter 6: Discussions on Knowledge Graph Construction

챕터의 위치와 역할: 서베이를 종합해 다섯 가지 미해결 과제와 향후 방향을 제시합니다. 모두 논문이 명시적으로 꼽은 방향입니다.

1. 6.1 복잡·소수 언어를 위한 교차언어 KG: 언어 간 불균형 자원 통합이 장기 목표입니다(XLore가 좋은 예). 그러나 기계번역이 병목으로, 복잡 표현 번역 시 오류·충돌이 생기고, 아이슬란드어처럼 "디지털 소멸(digital extinction)" 위기의 소수 언어는 대응어조차 없을 수 있습니다. 현재 언어 전문가가 대체 불가합니다.
2. 6.2 역할 인지 인간-기계 협업: 액티브 러닝은 미지 사실 획득의 궁극 해법입니다. Wu et al.의 HAO 모델 — 인간지능(Human Intelligence, HI)·조직지능(Organizational Intelligence, OI)·인공지능(AI)의 협업 — 은 역할을 자동 식별해 미결 데이터를 적합한 사용자에게 할당합니다(예: 국적은 권위 기관 OI가, 친구는 사회망 사용자 HI가, 거주지는 AI가 추론).
3. 6.3 고급 의미·동역학: 직유·은유 같은 비유 표현 해석("Tom went to heaven in 2008" = "Tom, died-in, 2008")이 미래 방향이며, 고급 의미 사전학습 모델이 출발점입니다. 또한 일반 조건 변화에 따른 지식 의미 진화(예: 팬데믹 단계별 의료진 사회망 변화)는 미개척 분야입니다.
4. 6.4 엔드투엔드 통합 프레임워크: GCN 기반 엔드투엔드가 획득 하위 작업을 통합해 파이프라인을 능가했으나, 획득과 정제를 하나의 조인트 모델로 통합하는 것은 여전히 병목입니다. seq2seq 생성형 패러다임이 후보이나 정교한 파인튜닝·태스크 민감 구조가 필요합니다.
5. 6.5 멀티모달 KG 구축·완성: 멀티모달 KG는 이질 정보를 표현·저장하고, 텍스트-이미지 불일치(파리 라벨에 런던 사진)를 탐지합니다. 이미지 추론으로 완성하는 MMKG, 교차모달 엔티티 링킹(Dost et al.)이 있으며, 비디오 처리와 모호한 텍스트를 그림으로 보완하는 교차모달 의존 해석이 도전 과제입니다.

챕터의 핵심 기여: HACE 네 축에 미해결 과제를 매핑하고, HAO 협업·생성형 통합·멀티모달이라는 구체적 미래 방향 제시. 다음 챕터로의 연결: 이 방향들을 종합해 7장에서 서베이를 마무리합니다.

📖 Chapter 7: Conclusion

챕터의 위치와 역할: 서베이 전체를 한 단락으로 압축합니다.

저자들은 다양한 데이터 타입·시나리오에서 KG를 구축·정제·통합하는 태스크·방법·도전·리소스를 리뷰했다고 정리합니다. 빅데이터 환경의 본질 주제로 세분 개념 획득(ET), 저자원 지식(퓨샷 추출), 큰 언어 객체 이해(문서 수준 RE), 복잡 추론(논리·해석가능 추론), 조건 구조 처리의 대표(paragon) 모델을 제시했고, 실용 도구·데이터셋도 소개했습니다. KG 구축은 AI 응용에서 인간 지능을 가능하게 하는 핵심 주제이며, 향후 연구 공동체는 이질·자율·복잡·진화(HACE) 환경에서 KG에 지혜를 부여하는 패러다임을 계속 탐색하고 지식 공동체 간 협업을 강화할 것이라 전망합니다.

챕터의 핵심 기여: 3단계 프레임워크와 HACE 축이라는 서베이의 두 척추를 재확인.

부록 요약: 응용과 실용 리소스

본문 외 부록은 KG 구축 기법의 응용을 다룹니다. 부록 A는 추천 시스템 응용을 소개합니다 — 콜드 스타트·데이터 희소 문제 완화를 위해 KG side information을 임베딩 기반으로 결합하며, 뉴스 콘텐츠에 EL을 수행해 서브그래프 임베딩을 학습하는 DKN, 구축과 추천을 엔드투엔드로 결합하는 KGeRec, 고차 이웃 피처와 지식 정제 어텐션의 KRAN 이 대표적입니다. 부록 B는 데이터셋(B.1)·도구(B.2)의 상세 정보를 표로 제공합니다.

기술적 함의와 응용

분야에 미치는 영향 — 이 서베이의 가장 큰 가치는 태스크 분해의 지도 입니다. KG 파이프라인을 구축한다면 NER → ET → EL → CO → RE → 완성 → 융합의 각 단계마다 데이터 환경(반정형 대 비정형, 문장 대 문서, 풀샷 대 퓨샷)에 맞는 모델 계열 후보를 빠르게 좁힐 수 있습니다. 3단계 프레임워크(획득-정제-진화)와 HACE 네 축은 "무엇을 직접 만들고 무엇을 기성 도구로 대체할지" 결정하는 견고한 기준선입니다.

새겨둘 메시지 세 가지:

• "노 실버 불릿" — 아키텍처를 키우는 것보다 데이터 환경에 맞는 학습 전략을 찾는 게 우선입니다.
• 저자원 대응 — 원거리 지도와 퓨샷 기법은 라벨링 비용을 줄이는 현실적 무기이나, 노이즈 처리(MIML의 at-least-one 가설, 인스턴스 선택)가 핵심입니다.
• 생성형의 선택적 투입 — GENRE·COMET·KGGen 같은 생성형이 성능 돌파를 가져오지만 계산 비용이 병목이므로 복잡한 시나리오에 선택적으로 투입합니다.

다른 연구 영역으로의 확장 — 논문이 명시한 향후 방향은 6장 그대로입니다 — 교차언어 KG(기계번역 병목, 소수 언어 보존), HAO 기반 역할 인지 인간-기계 협업, 고급 의미·동역학(비유 해석, 일반 조건 진화), 획득+정제를 통합하는 엔드투엔드 프레임워크, 멀티모달 KG.

재현성 — 이 논문은 서베이이므로 자체 코드·데이터를 공개하지 않습니다. 대신 부록의 실용 리소스가 재현의 출발점입니다 — 데이터셋으로 YAGO, Google Knowledge Graph, Wikidata, ConceptNet, ASER 등이, 도구로 KG 완성용 OpenKE, 엔티티 정렬용 OpenEA, 노코드 엔드투엔드 구축의 gBuilder 가 게재 연도·인용수·접근 링크와 함께 제공됩니다.

TrendHacker와의 접점 — 본 프로젝트의 태그 파이프라인은 GeekNews 기사에서 엔티티를 추출·승격하고 공기(co-occurrence) 그래프로 시각화합니다. 이 서베이의 분류로 보면, 우리의 결정적(deterministic) 파이프라인은 엔티티 발견(NER/ET) 과 경량 관계 추출(공기 기반) 에 해당합니다. 서베이가 제시한 EL(중의성 해소)·CO(상호참조)·KG 완성·융합은 향후 엔티티 품질을 높일 때 참고할 수 있는 확장 축입니다. 다만 서베이가 거듭 강조하듯, 무거운 생성형·딥러닝 컴포넌트는 비용 대비 효과를 고려해 선택적으로 도입하는 것이 합리적입니다.