넷플릭스, LLM 추천 모델 ‘GenRec’ 공개…기존 랭커 성능 웃돌아

넷플릭스가 공식 TechBlog를 통해 대규모언어모델(LLM) 기반 추천 랭커 ‘GenRec’을 공개했다. 이용자의 시청 이력과 콘텐츠 메타데이터, 접속 맥락을 자연어로 표현해 추천 순위를 계산하는 방식이다.

넷플릭스의 기존 운영 모델은 이용자와 콘텐츠, 상호작용을 설명하는 수천 개의 수작업 특성과 목적별 구조를 사용한다. 영화·시리즈·게임·라이브·팟캐스트 등 콘텐츠 유형과 서비스 화면이 늘면서 새 추천 사례를 추가할 때마다 특성 설계와 모델 구조, 인프라 작업이 필요하다는 점이 과제로 꼽혔다.

GenRec은 2단계 학습 구조를 취한다. 먼저 오픈소스 LLM을 넷플릭스 내부 데이터에 맞게 조정해 콘텐츠와 이용 행태를 이해하는 기반 모델을 만든다. 이어 추천 순위에 특화된 데이터와 목적함수로 후속 학습을 진행한다.

모델 입력에는 이용 이력과 콘텐츠 정보, 기기·화면·지역·시간 같은 맥락을 자연어로 바꾼 프롬프트가 쓰인다. 모델 뒤에는 넷플릭스 카탈로그에 포함된 항목만 점수화하는 전용 헤드를 붙여 존재하지 않는 콘텐츠를 추천하는 문제를 줄였다. 이용자 만족과 사업 목표를 반영하기 위해 장기 만족도 추정치와 콘텐츠 유형 간 균형 신호로 학습 손실의 가중치도 조정한다.

서비스 단계에서는 vLLM 기반 사내 인프라에서 자동회귀식 문장 생성을 하지 않고 프리필 단계의 은닉 상태만 이용해 순위를 계산한다. 넷플릭스는 모델 소형화와 이력 압축, 프리픽스 캐싱을 함께 적용해 대규모 서비스 비용을 낮췄다고 설명했다.

대규모 A/B 테스트에서는 잘 조정된 기존 운영 랭커보다 단기·장기 온라인 지표가 통계적으로 유의미하게 개선됐다. 2단계 학습에 사용한 라벨 데이터와 입력 신호는 기존 시스템의 일부에 그쳤다는 것이 회사 설명이다. 다만 모델 규모와 지표별 개선 폭, 실제 적용 범위는 공개하지 않았다.

이번 결과는 추천 시스템의 개발 중심이 수작업 특성 설계에서 프롬프트에 담을 맥락을 고르는 작업으로 이동할 가능성을 보여준다. 동시에 추천 목록을 카탈로그로 제한하고 장기 만족 신호를 별도로 반영하는 등 범용 LLM을 실제 서비스용 랭커로 바꾸려면 도메인별 설계가 필요하다는 점도 드러냈다.

출처: Netflix TechBlog, “GenRec: Towards LLM-Native Recommendation at Netflix”
https://netflixtechblog.com/genrec-towards-llm-native-recommendation-at-netflix-f20be6f643e3