그래프를 위한 다목적 프리미티브 셋 — “Word” (Toward a Universal Primitive Vocabulary for Graphs)

1. 문제 (Problem)

랭귀지 모델에서 word(token) 는 도메인과 무관하게 재사용되는 범용 프리미티브이며, 이것이 사전학습과 전이의 토대가 된다. 그래프에는 아직 이런 프리미티브가 없다. ProgNet과 PL4XGL의 GDL program vocabulary는 데이터셋별로 마이닝되므로, 한 데이터셋에서 만든 vocabulary를 다른 데이터셋·도메인에 그대로 가져다 쓸 수 없다.

목표는 랭귀지 모델의 word에 해당하는, 그래프에서의 기초적 프리미티브 program 셋을 구축하는 것이다. 이런 셋을 잘 만들어두면 어디든 갖다 쓸 수 있다. 핵심 포인트는 멀티(multi) — 멀티 도메인, 멀티 데이터셋. 어떤 데이터에도 잘 써줄 수 있는 셋이어야 한다.

이 문제는 어댑테이션과도 가깝다. 쉬운 버전은 예컨대 데이터셋 8개 중 6개로 vocabulary를 잘 만든 뒤 나머지 7·8번 데이터셋에 어댑테이션하는 것이다. 그러나 이 정도로는 제너럴라이즈 주장이 약하다 — “서로 가까운 6개를 골라서 잘 된 것”일 수 있기 때문이다.

구체적으로 다음이 모두 열린 문제다.

이러한 이유로 이 방향은 ProgNet 후속 4개 방향 중 가장 어려운 방향으로 평가된다.

2. 목표 (Goal)

멀티 도메인·멀티 데이터셋에서 재사용 가능한 범용 그래프 프리미티브 vocabulary를 구축한다.