본 게시글은 Knowledge Graph Contrastive Learning for Recommendation, Yuhao Yang, Liandhao Xia, Chao Huang, Chenliang Li를 읽고 작성한 글입니다.
1. Title
Knowledge Graph Contrastive Learning for Recommendation
2. Abstract
지식 그래프(KG)를 활용한 추천 시스템 접근법
엔티티(KG에서 객체나 개념을 나타내는 기본 단위)가 롱테일 분포라는 문제 : 극히 작은 부분에 분포돼있고, 나머지는 소수
KG의 노이즈 문제 : 노이즈 및 주제와 무관한 아이템
위 문제들을 해결하기 위해, 아래 방법을 고안했다.
지식 그래프 증강 스키마 : 정보 집계에서 KG 노이즈를 억제하고, 아이템에 대한 더 강건한 지식 인식 표현 도출
교차 뷰 대조 학습 : KG 증강 과정에서 추가적인 감독 신호를 활용해 노이즈 억제 및 사용자-아이템 상호작용의 역할 강화
3. 목표
엔티티 롱테일 분포로 인한 희소 감독 신호 & 실제 지식 그래프에 존재하는 노이즈 및 주제와 무관한 연결 해결
지식 그래프의 노이즈/희소성 문제에 강하면서 KG 정보를 통합 가능한 프레임워크 개발
4. 방법
KGCL(Knowledge Graph Contrastive Learning)
(1) 관계 인식 지식 집계
- 지식 그래프의 관계 이질성 처리(그래프 어텐션 매커니즘으로 KG 내의 다양한 관계에 따라 다른 가중치 부여)
- 이질적 어텐션 집계기를 사용해 엔티티 및 관계 의존적 맥락 신호 포착
- TransE를 통한 의미 표현 향상(Translating Embeddings, 엔티티 h를 엔티티 t로 이동시키는 역할을 하는 관계 r을, 수식으로 h+r ~~[겹친거임] t로 표현할 수 있으므로, ||h+r-t||^2를 최소화하는 방향으로 모델이 학습된다.)
(2) 지식 그래프 증강
- 지식 그래프 구조에 대한 데이터 증강(대조 학습을 위한 KG 구조의 다양한 뷰 생성, 즉 노이즈 억제 및 아이템 간 의미적 관련성 강화에 기여)
(3) 지식 유도 대조 학습
- 추정된 지식 그래프 구조 일관성을 활용해 사용자-아이템 상호작용 그래프의 데이터 증강 유도
- 지식 의미론을 통합하는 공동 대조 학습 아키텍처 도입
- InfoNCE 손실을 이용해 부정 쌍에 비해 긍정 쌍 간의 일치 달성
(4) 공동 훈련
- BPR(베이지안 개인화 랭킹) 추천 손실과 대조 손실 결합
- 주요 추천 작업과 보조 자기 감독 신호를 위한 공유 임베딩 공간 생성
5. 결과
여러 데이터셋에서 모든 기준 방법을 능가했으며,
상호작용이 적은 사용자 / 롱테일 아이템 / 노이즈가 많은 KG 에 대해 성능이 크게 개선됐다.
'논문 살피기' 카테고리의 다른 글
본 게시글은 Knowledge Graph Contrastive Learning for Recommendation, Yuhao Yang, Liandhao Xia, Chao Huang, Chenliang Li를 읽고 작성한 글입니다.
1. Title
Knowledge Graph Contrastive Learning for Recommendation
2. Abstract
지식 그래프(KG)를 활용한 추천 시스템 접근법
엔티티(KG에서 객체나 개념을 나타내는 기본 단위)가 롱테일 분포라는 문제 : 극히 작은 부분에 분포돼있고, 나머지는 소수
KG의 노이즈 문제 : 노이즈 및 주제와 무관한 아이템
위 문제들을 해결하기 위해, 아래 방법을 고안했다.
지식 그래프 증강 스키마 : 정보 집계에서 KG 노이즈를 억제하고, 아이템에 대한 더 강건한 지식 인식 표현 도출
교차 뷰 대조 학습 : KG 증강 과정에서 추가적인 감독 신호를 활용해 노이즈 억제 및 사용자-아이템 상호작용의 역할 강화
3. 목표
엔티티 롱테일 분포로 인한 희소 감독 신호 & 실제 지식 그래프에 존재하는 노이즈 및 주제와 무관한 연결 해결
지식 그래프의 노이즈/희소성 문제에 강하면서 KG 정보를 통합 가능한 프레임워크 개발
4. 방법
KGCL(Knowledge Graph Contrastive Learning)
(1) 관계 인식 지식 집계
- 지식 그래프의 관계 이질성 처리(그래프 어텐션 매커니즘으로 KG 내의 다양한 관계에 따라 다른 가중치 부여)
- 이질적 어텐션 집계기를 사용해 엔티티 및 관계 의존적 맥락 신호 포착
- TransE를 통한 의미 표현 향상(Translating Embeddings, 엔티티 h를 엔티티 t로 이동시키는 역할을 하는 관계 r을, 수식으로 h+r ~~[겹친거임] t로 표현할 수 있으므로, ||h+r-t||^2를 최소화하는 방향으로 모델이 학습된다.)
(2) 지식 그래프 증강
- 지식 그래프 구조에 대한 데이터 증강(대조 학습을 위한 KG 구조의 다양한 뷰 생성, 즉 노이즈 억제 및 아이템 간 의미적 관련성 강화에 기여)
(3) 지식 유도 대조 학습
- 추정된 지식 그래프 구조 일관성을 활용해 사용자-아이템 상호작용 그래프의 데이터 증강 유도
- 지식 의미론을 통합하는 공동 대조 학습 아키텍처 도입
- InfoNCE 손실을 이용해 부정 쌍에 비해 긍정 쌍 간의 일치 달성
(4) 공동 훈련
- BPR(베이지안 개인화 랭킹) 추천 손실과 대조 손실 결합
- 주요 추천 작업과 보조 자기 감독 신호를 위한 공유 임베딩 공간 생성
5. 결과
여러 데이터셋에서 모든 기준 방법을 능가했으며,
상호작용이 적은 사용자 / 롱테일 아이템 / 노이즈가 많은 KG 에 대해 성능이 크게 개선됐다.