MUFFIN: Mixture of User-Adaptive Frequency Filtering for Sequential Recommendation

3 Jun 2025

본 문서에서는 CIKM 2025에 게재될 논문 “MUFFIN: Mixture of User-Adaptive Frequency Filtering for Sequential Recommendation”을 소개합니다. 논문의 상세 정보는 아래와 같습니다.

Title: MUFFIN: Mixture of User-Adaptive Frequency Filtering for Sequential Recommendation
Authors: Ilwoong Baek*, Mincheol Yoon*, Seongmin Park, Jongwuk Lee
The 34th ACM International Conference on Information and Knowledge Management (CIKM 2025, Full paper)

[paper] [code]

Introduction

순차 추천(Sequential Recommendation)은 사용자의 과거 행동 패턴을 분석하여 다음에 상호작용할 아이템을 예측하는것을 목표로 합니다. 일반적인 추천 시스템이 단순히 사용자-아이템 상호작용을 독립적으로 처리했다면, 순차 추천은 사용자의 시간에 따른 상호작용 및 선호도의 변화를 모델링하는 데 초점을 맞춥니다.

최근 트랜스포머 기반 모델들이 self-attention 메커니즘을 통해 아이템간 장기적 의존성을 효과적으로 모델링하며 순차 추천에서 큰 성과를 거두었습니다. 하지만 이러한 트랜스포머 기반 모델들은 사용자의 장기적 선호에 집중하여 세밀한 행동 패턴 변화와 주기성을 잡아내는데 한계가 있다는 점이 지적되었습니다.
이를 해결하기 위한 대안으로 주파수 도메인에서 사용자의 행동 패턴을 분석하는 연구가 주목받고 있습니다. 이러한 연구들은 discrete Fourier transform(DFT)을 활용하여 사용자의 시간 도메인 행동 패턴을 주파수 도메인으로 변환합니다. 이 과정을 통해 복잡한 사용자 행동을 다음과 같이 해석 가능한 스펙트럼 요소로 분해할 수 있습니다:

저주파 성분: 점진적이고 장기적인 변화
고주파 성분: 빈번하고 단기적인 변화

이러한 분해를 통해 기존 시간 도메인 모델이 놓치기 쉬운 주기적 패턴과 다중 스케일 변화를 효과적으로 포착할 수 있게 됩니다. 그림 1의 예시를 보면 사용자의 행동 패턴애 따라 다르게 변환되는 주파수 도메인 표현을 확인할 수 있습니다.

그림 1. 여러 사용자 행동 패턴별 주파수 도메인 변환 예시

그림2. 기존 주파수 도메인 모델들과 MUFFIN의 차이

Motivation

기존 주파수 도메인 순차 추천 모델들은 분명한 진전을 보였지만, 여전히 두 가지 핵심적인 문제점을 안고 있었습니다.

제한된 주파수 대역 커버리지

그림 1을 보면 사용자들이 각기 다른 주파수 특성을 보입니다. 이러한 사용자의 주파수 도메인 표현을 효과적으로 활용하려면 전체 주파수 스펙트럼의 포괄적 분석과 세부 주파수 대역별 정밀 분석을 동시에 수행해야 합니다. 하지만 기존 모델들은 이 둘을 함께 달성하지 못합니다.

개인화된 주파수 필터링의 부재

또한 기존 모델들은 모든 사용자자에게 동일한 필터링을 적용하여 사용자별 특징을 제대로 고려하기 힘듭니다. 그림 2 예시를 보면 각 사용자가 서로 다른 주파수 특성을 보임에도 불구하고, 기존 모델들은 저주파수 중심의 동일한 필터를 모든 사용자에게 적용함으로써 개별 사용자의 고유한 행동 패턴을 포착하지 못 합니다.

Proposed Method

위 두 가지 challenge를 해결하기 위해 MUFFIN(Mixture of User-adaptive Frequency FIlteriNg)은 글로벌 필터링 모듈(GFM)과 로컬 필터링 모듈(LFM)로 이루어진 이중 필터링 아키텍처와 사용자 적응형 필터(UAF)를 사용하는 접근법을 제안합니다.

Global Filtering Module (GFM): GFM은 전체 주파수 스펙트럼을 동시에 처리하여 모든 주파수 대역에서 종합적인 사용자 특성을 포착합니다.
Local Filtering Module (LFM): LFM은 주파수 스펙트럼을 K개의 구별되는 주파수 대역으로 분할하고 소프트 게이팅 방식을 사용하여 중요한 대역을 선택적으로 강조하는 동시에 강조되지 않는 대역의 정보를 소실시키지 않도록 합니다.
User-Adaptive Filter (UAF): UAF는 개인화된 주파수 필터를 동적으로 생성하여 각 모듈에 전달합니다. 각 모듈은 UAF를 이용해 사용자 특성에 맞게 각각 global adaptive filter, local adaptive filter를 생성하여 학습 가능한 주파수 필터링을 적용합니다.

그림 3. MUFFIN overview, UAF는 각 모듈에 적용하여 Adaptive Filter 사용됨. GFM과 LFM 결과를 통합하여 사용자의 다음 아이템을 예측

Experiments

MUFFIn은 다섯가지 벤치마크 데이터셋에서 뛰어난 성능을 보여주었습니다.

아래 표 1.은 4개의 시간 도메인, 4개의 주파수 도메인 베이스라인 모델들과의 성능 비교 결과이며, NDCG@5 기준 최대 10.06% 성능 향상을 달성했습니다.

표 1. 5개의 데이터셋과 8개의 베이스라인 모델 대비 MUFFIN 성능 및 성능 향상률

그림 4는 Beauty, ML-1m 벤치마크 데이터셋으로 학습한 후 Layer별로 각 사용자에게 적용되는 filter를 추출하여 나타낸 것입니다. 다른 베이스라인 모델들의 filter는 모든 사용자에게 동일하게 적용되어 line으로 나타납니다. MUFFIN의 경우 사용자별로 서로 다른 필터가 적용되어 그 variability를 확인할 수 있습니다. 특히 대역별로 나누어 필터링하는 LFM의 경우 더 두드러지게 나타납니다. 이러한 사용자별 필터의 다양성은 MUFFIN이 개별 사용자의 고유한 주파수 특성을 포착하려고 한다는 것을 보여줍니다.

그림 4. Beauty, ML-1M 데이터셋으로 학습한 MUFFIN의 Layer별 각 사용자에게 적용되는 filter 결과

Conclusion

MUFFIN은 기존 주파수 도메인 순차 추천 모델들의 근본적인 한계를 해결하는 접근법을 제시합니다. Global Filtering Module과 Local Filtering Module로 구성된 이중 필터링 아키텍처를 통해 전역적 스펙트럼 분석과 특정 대역별 강조를 동시에 수행할 수 있게 되었으며, User-Adaptive Filter를 도입하여 각 사용자의 고유한 주파수 특성에 맞춘 개인화된 필터링을 적용했습니다. 실험 결과는 이러한 방법론적 개선의 효과를 보여줍니다. 모든 벤치마크 데이터셋에서 기존 최고 성능 모델들을 일관되게 뛰어넘었으며, SLIME4Rec 혹은 DuoRec과 같이 대조학습 기반의 모델들 보다도 좋은 성능을 보여줌으로써 MUFFIN의 구조가 순차 추천 성능 향상에 핵심적인 역할을 한다는 것을 입증했습니다.

Reference

[1] Yehjin Shin, Jeongwhan Choi, Hyowon Wi, and Noseong Park. 2024. An Attentive Inductive Bias for Sequential Recommendation beyond the Self-Attention. In AAAI. 8984–8992.

[2] Xinyu Du, Huanhuan Yuan, Pengpeng Zhao, Junhua Fang, Guanfeng Liu, Yanchi Liu, Victor S. Sheng, and Xiaofang Zhou. 2023. Contrastive Enhanced Slide Filter Mixer for Sequential Recommendation. In ICDE. 2673–2685.

[3] Kun Zhou, Hui Yu, Wayne Xin Zhao, and Ji-Rong Wen. 2022. Filter-enhanced MLP is All You Need for Sequential Recommendation. In WWW. 2388–2399.

Page updated

Google Sites

Report abuse