1. 문제 (Problem)
랭귀지 모델에서 word(token) 는 도메인과 무관하게 재사용되는 범용 프리미티브이며, 이것이 사전학습과 전이의 토대가 된다. 그래프에는 아직 이런 프리미티브가 없다. ProgNet과 PL4XGL의 GDL program vocabulary는 데이터셋별로 마이닝되므로, 한 데이터셋에서 만든 vocabulary를 다른 데이터셋·도메인에 그대로 가져다 쓸 수 없다.
목표는 랭귀지 모델의 word에 해당하는, 그래프에서의 기초적 프리미티브 program 셋을 구축하는 것이다. 이런 셋을 잘 만들어두면 어디든 갖다 쓸 수 있다. 핵심 포인트는 멀티(multi) — 멀티 도메인, 멀티 데이터셋. 어떤 데이터에도 잘 써줄 수 있는 셋이어야 한다.
이 문제는 어댑테이션과도 가깝다. 쉬운 버전은 예컨대 데이터셋 8개 중 6개로 vocabulary를 잘 만든 뒤 나머지 7·8번 데이터셋에 어댑테이션하는 것이다. 그러나 이 정도로는 제너럴라이즈 주장이 약하다 — "서로 가까운 6개를 골라서 잘 된 것"일 수 있기 때문이다.
구체적으로 다음이 모두 열린 문제다.
- 무엇이 프리미티브인가: 구조 단위인가, interval 술어인가, 그 조합인가. 어떤 granularity가 재사용에 유리한가.
- 도메인 간 이질성: 분자·인용·소셜 등 도메인마다 feature 공간과 스케일이 달라, 프리미티브를 공유 가능한 형태로 정규화하는 방법이 필요하다.
- 일반화 평가 프로토콜: "정말 범용"임을 설득력 있게 보이는 실험 설계 자체가 어렵다.
이러한 이유로 이 방향은 ProgNet 후속 4개 방향 중 가장 어려운 방향으로 평가된다.
2. 목표 (Goal)
멀티 도메인·멀티 데이터셋에서 재사용 가능한 범용 그래프 프리미티브 vocabulary를 구축한다.
- Vocabulary 구축: 여러 도메인·데이터셋을 아우르는 프리미티브 program 셋 구축 알고리즘
- 어댑테이션: 새로운 데이터셋에 저비용으로 적응시키는 기법 (few-shot adaptation)
- 일반화 평가: "가까운 데이터셋을 골랐다"는 비판을 방어할 수 있는 평가 프로토콜 — 도메인 간 거리를 고려한 held-out 설계, leave-one-domain-out 등
- 장기 비전: 그래프 파운데이션 모델의 symbolic 대응물 — 어떤 그래프 태스크에도 갖다 쓸 수 있는 해석 가능한 기초 어휘