Awesome Deep Learning Papers for Search Recommendation Advertising 다운로드 - Awesome Deep Learning Papers for Search Recommendation Advertising 소스 코드 다운로드

Awesome Deep Learning Papers for Search Recommendation Advertising

기타 소스코드

1.0.0

다운로드

산업 검색, 추천 및 광고를 위한 멋진 딥 러닝 논문입니다. Embedding, Matching, Ranking(CTR/CVR 예측), Post Ranking, Large Model(Generative Recommendation, LLM), Transfer learning, Reinforcement Learning 등에 중점을 둡니다.

00_임베딩

2013 (Google) (NIPS) [Word2vec] 단어 및 구문의 분산 표현 및 구성성
2014 (KDD) [DeepWalk] DeepWalk - 사회적 표상에 대한 온라인 학습
2015 (WWW) [LINE] LINE 대규모 정보 네트워크 임베딩
2016(KDD) [Node2vec] node2vec - 네트워크를 위한 확장 가능한 기능 학습
2017 (ICLR) [GCN] 그래프 컨벌루션 네트워크를 사용한 준지도 분류
2017(KDD) [Struc2vec] struc2vec - 구조적 동일성에서 노드 표현 학습
2017 (NIPS) [GraphSAGE] 대형 그래프에서의 귀납적 표현 학습
2018 (Airbnb) (KDD) *[Airbnb Embedding] Airbnb의 검색 순위를 위한 임베딩을 활용한 실시간 개인화
2018 (Alibaba) (KDD) *[Alibaba Embedding] 알리바바 전자상거래 추천을 위한 수십억 규모 상품 임베딩
2018 (ICLR) [GAT] 그래프 어텐션 네트워크
2018 (Pinterest) (KDD) *[PinSage] 웹 규모 추천 시스템을 위한 그래프 컨볼루셔널 신경망
2018 (WSDM) [NetMF] 행렬 분해로 네트워크 임베딩 - deepwalk, line, pte 및 node2vec 통합
2019 (Alibaba) (KDD) *[GATNE] 속성 다중 이종 네트워크를 위한 표현 학습

01_매칭

2013 (Microsoft) (CIKM) [DSSM] 클릭 데이터를 이용한 웹 검색을 위한 심층 구조화된 의미 모델 학습
2015 (KDD) [Sceptre] 대체 및 보완 제품의 네트워크 추론
2016 (Google) (RecSys) **[Youtube DNN] YouTube 추천을 위한 심층 신경망
2018 (Alibaba) (KDD) * [TDM] 추천 시스템을 위한 학습 트리 기반 딥 모델
2018 (Pinterest) (KDD) *[PinSage] 웹 규모 추천 시스템을 위한 그래프 컨볼루셔널 신경망
2019 (Alibaba) (CIKM) **[MIND] Tmall 추천을 위한 동적 라우팅을 갖춘 다관심 네트워크
2019 (Alibaba) (CIKM) *[SDM] SDM - 온라인 대규모 추천 시스템을 위한 순차적 딥매칭 모델
2019 (Alibaba) (NIPS) *[JTM] 추천 시스템을 위한 트리 기반 인덱스와 심층 모델의 공동 최적화
2019 (Amazon) (KDD) 의미론적 제품 검색
2019 (Baidu) (KDD) *[MOBIUS] MOBIUS - 바이두 스폰서 검색의 차세대 쿼리-광고 매칭을 향하여
2019 (Google) (RecSys) **[Two-Tower] 대규모 코퍼스 항목 추천을 위한 샘플링-편향 보정 신경 모델링
2019 (Google) (WSDM) *[Top-K Off-Policy] REINFORCE 추천 시스템을 위한 Top-K Off-Policy 수정
2019 [Tencent] (KDD) Tencent의 쿼리 및 문서 이해를 위한 사용자 중심 컨셉 마이닝 시스템
2020 (Alibaba) (ICML) [OTM] 빔 검색에서 최적의 트리 모델 학습
2020 (Alibaba) (KDD) *[CommiRec] 추천을 위한 제어 가능한 다관심 프레임워크
2020 (Facebook) (KDD) **[페이스북 검색 임베딩] 페이스북 검색에 임베딩 기반 검색
2020 (Google) (WWW) *[MNS] 권장 사항의 2타워 신경망 학습을 위한 혼합 음성 샘플링
2020 (JD) (CIKM) *[DecGCN] 대체 및 보완 항목 추론을 위한 분리 그래프 컨볼루션 네트워크
2020 (JD) (SIGIR) [DPSR] 개인화 및 의미 검색을 향하여 - 임베딩 학습을 통한 전자상거래 검색을 위한 엔드투엔드 솔루션
2020 (Microsoft) (Arxiv) TwinBERT - 효율적인 검색을 위한 트윈 구조 BERT 모델에 대한 지식 추출
2021 (Alibaba) (KDD) * [MGDSPR] 타오바오 검색 내 임베딩 기반 상품 검색
2021 (Amazon) (KDD) 상품 검색에서 의미론적 일치를 위한 익스트림 다중 라벨 학습
2021 (Bytedance) (Arxiv) [DR] 심층 검색 - 대규모 추천을 위한 검색 가능한 구조 학습
2022 (Alibaba) (CIKM) **[NANN] [two 向箔] 대규모 추천을 위한 신경 유사성 메트릭에서 가장 가까운 이웃 검색
2022(알리바바)(CIKM) [CLE-QR] 타오바오 검색 쿼리 재작성
2022(Alibaba) **(CIKM) [MOPPR] Taobao 검색에서 다중 목표 개인화 제품 검색
2024 (Bytedance) (KDD) [Trinity] Trinity - 멀티:롱테일:장기적 이익을 하나로 통합

앤

2017 (Arxiv) (Meta) [FAISS] GPU를 이용한 수십억 규모 유사성 검색
2020(PAMI) [HNSW] 계층적 탐색 가능한 작은 세계 그래프를 사용한 효율적이고 강력한 근사 최근접 검색
2021 (TPAMI) [IVF-PQ] 최근접이웃 검색을 위한 제품 양자화

그래프_신경_네트워크

2017 (ICLR) [GCN] 그래프 컨벌루션 네트워크를 사용한 준지도 분류
2018 (ICLR) [GAT] 그래프 어텐션 네트워크
2018 (Pinterest) (KDD) [PinSage] 웹 규모 추천 시스템을 위한 그래프 컨볼루셔널 신경망
2019 (Alibaba) (KDD) [IntentGC] IntentGC - 추천을 위해 이종 정보를 융합하는 확장 가능한 그래프 컨볼루션 프레임워크
2019 (Alibaba) (KDD) [MEIRec] 의도 추천을 위한 메타패스 기반 이종 그래프 신경망
2019 (Alibaba) (SIGIR) [GIN] 스폰서 검색의 클릭률 예측을 위한 그래프 의도 네트워크
2020 (Alibaba) (SIGIR) [ATBRG] ATBRG - 효과적인 추천을 위한 적응형 목표-행동 관계형 그래프 네트워크

02_사전랭킹

2020 (Alibaba) (DLP-KDD) [COLD] COLD - 차세대 사전랭킹 시스템을 향하여
2023 (Alibaba) (CIKM) [COPR] COPR - 온라인 광고를 위한 일관성 중심의 사전 순위 지정
2023 (알리바바) (KDD) [ASMOL] 대규모 전자상거래 검색시스템에서 사전 순위 결정의 역할 재고

03_랭킹

2014 (ADKDD) (Facebook) Facebook 광고 클릭 예측을 통한 실무 교훈
2016 (구글) (DLRS) **[와이드 앤 딥] 추천 시스템을 위한 와이드 앤 딥 러닝
2016 (Google) (RecSys) **[Youtube DNN] YouTube 추천을 위한 심층 신경망
2018 (Alibaba) (KDD) **[DIN] 클릭률 예측을 위한 심층 관심 네트워크
2019 (Alibaba) (AAAI) **[DIEN] 클릭률 예측을 위한 Deep Interest Evolution Network
2019 (Facebook) (Arxiv) [DLRM] (Facebook) 개인화 및 추천 시스템을 위한 딥러닝 추천 모델, Facebook
2019 (Google) (Recsys) ** [유튜브 멀티태스크] 다음에 볼만한 영상 추천 - 멀티태스크 순위 시스템
2020 (Alibaba) (Arxiv) ** [SIM] 클릭률 예측을 위한 평생 순차 행동 데이터를 사용한 검색 기반 사용자 관심 모델링
2020 (JD) (CIKM) **[DMT] 대규모 전자상거래 추천 시스템의 다목적 순위 지정을 위한 심층 다각적 변환기
2020 (Tencent) (Recsys) ** [PLE] PLE(Progressive Layered Extraction) - 개인화된 추천을 위한 새로운 MTL(Multi-Task Learning) 모델
2021 (Alibaba) (CIKM) * [ZEUS] 전자상거래의 다중 시나리오 순위를 위한 사용자의 자발적 행동에 대한 자기 지도 학습
2021 (Alibaba) (CIKM) [STAR] 모든 서비스를 제공하는 단일 모델 - 다중 도메인 CTR 예측을 위한 스타 토폴로지 적응형 추천기
2022 (Alibaba) (Arxiv) ** [예정] 클릭률 예측을 위한 효율적인 긴 순차 사용자 데이터 모델링
2022(Alibaba)(WSDM) 전자상거래 검색의 클릭률 예측을 위한 사용자의 상황별 페이지별 피드백 모델링
2022 (Meta) [DHEN] DHEN - 대규모 클릭률 예측을 위한 심층적이고 계층적인 앙상블 네트워크
2022(WWW) [FMLP] 필터 강화 MLP는 순차적 추천에 필요한 모든 것입니다
2023 (Alibaba) (Arxiv) [ESLM] 전체 공간 학습 프레임워크 - 추천 시스템 전체 단계에서 편향되지 않은 전환율 예측
2023(Google) (Arxiv) 공장 현장 - 산업 규모 광고 추천 모델을 위한 ML 엔지니어링
2023 (Kuaishou) (Arixiv) [TWIN] TWIN - Kuaishou의 CTR 예측에서 평생 사용자 행동 모델링을 위한 2단계 관심 네트워크
2023 (Kuaishou) (KDD) [PEPNet] PEPNet - 개인화 사전정보 주입을 위한 매개변수 및 개인화 네트워크 내장
2024(Kuaishou)(CIKM) [TWINv2] TWIN V2 - Kuaishou의 향상된 CTR 예측을 위한 초장기 사용자 행동 시퀀스 모델링 확장
2024 (Tencent) (KDD) [LCN] 온라인 클릭률 예측을 위한 교차 도메인 평생 순차 모델링

권위 있는

2003 (Amazon) (IEEE) [CF] Amazon.com 권장 사항 - 항목 간 협업 필터링
2009 (컴퓨터) [MF] 추천 시스템을 위한 행렬 분해 기법
2016(ICLR) [GRU4Rec] 순환 신경망을 사용한 세션 기반 권장 사항
2017(Amazon)(IEEE) Amazon.com의 추천 시스템 20년

DNN

2019 (KDD) (Airbnb) 에어비앤비 검색에 딥러닝 적용
2020(Airbnb)(KDD) Airbnb 검색을 위한 딥 러닝 개선

지연 피드백 문제

2008(KDD) 긍정적이고 레이블이 지정되지 않은 데이터만으로 분류기 학습
2014 (Criteo) (KDD) [DFM] 디스플레이 광고의 지연 피드백 모델링
2018 (Arxiv) [NoDeF] 전환율 예측을 위한 비모수적 지연 피드백 모델
2019(Twitter)(RecSys) CTR 예측에서 신경망을 사용한 지속적인 훈련에 대한 지연된 피드백 해결
2020(AdKDD) 다중 전환에 대한 음이항 회귀를 사용한 지연 피드백 모델
2020 (JD) (IJCAI) [TS-DL] 클릭 후 보정을 통한 지연 피드백을 사용한 전환율 예측을 위한 주의 기반 모델
2020 (SIGIR) [DLA-DF] 지연 변환을 위한 이중 학습 알고리즘
2020 (WWW) [FSIW] 지연된 피드백 하에서 전환율 예측의 피드백 이동 수정
2021 (Alibaba) (AAAI) [ES-DFM] 경과 시간 샘플링을 통해 전환율 예측에서 지연된 피드백 캡처
2021 (Alibaba) (AAAI) [ESDF] 전체 공간 전환율 예측을 위한 지연 피드백 모델링
2021 (Alibaba) (Arxiv) [Defer] Real Negatives Matter - 지연 피드백 모델링을 위한 Real Negatives를 사용한 지속적인 교육
2021 (Google) (Arxiv) 지연된 피드백 모델링에서 클릭당 많은 전환 처리
2021 (Tencent) (SIGIR) 지연 피드백을 통한 스트리밍 추천에 대한 반사실적 보상 수정
2022 (Alibaba) (WWW) [DEFUSE] 라벨 수정을 통한 지연 피드백 모델링에 대한 점근적 편견 추정

기능 교차

2010 (ICDM) [FM] 인수분해 기계
2013 (Google) (KDD) [LR] 광고 클릭 예측 - 참호에서 본 전망
2016 (Arxiv) [PNN] 사용자 반응 예측을 위한 제품 기반 신경망
2016 (Criteo) (Recsys) [FFM] CTR 예측을 위한 현장 인식 인수분해 기계
2016 (ECIR) [FNN] 다중 필드 범주형 데이터를 통한 딥러닝 - 사용자 반응 예측에 관한 사례 연구
2016 (KDD) [Deepintent] Deepintent - 순환 신경망을 이용한 온라인 광고에 대한 관심 학습
2016 (Microsoft) (KDD) [Deep Crossing] Deep Crossing - 수동으로 제작된 조합 기능이 없는 웹 규모 모델링
2017 (Google) (ADKDD) [DCN] 광고 클릭 예측을 위한 Deep & CrossNetwork
2017 (Huawei) (IJCAI) [DeepFM] DeepFM - CTR 예측을 위한 인수분해 기계 기반 신경망
2017 (IJCAI) [AFM] Attention Networks를 통해 특징 상호 작용의 가중치를 학습하는 Attentional Factorization Machines
2017 (SIGIR) [NFM] 희소 예측 분석을 위한 신경 분해 기계
2017 (WWW) [NCF] 신경 협업 필터링
2018 (CVPR) * [SENet] 압착 및 여기 네트워크
2018 (Google) (WSDM) [Latent Cross] 순환 추천 시스템에서 컨텍스트를 활용하는 잠재 교차
2018(KDD) [xDeepFM] xDeepFM - 추천 시스템을 위한 명시적 및 암시적 기능 상호 작용 결합
2018 (TOIS) [PNN] 다분야 범주형 데이터에 대한 사용자 반응 예측을 위한 제품 기반 신경망
2019 (CIKM) ** [AutoInt] AutoInt - 자기 주의 신경망을 통한 자동 기능 상호 작용 학습
2019 (Huawei) (WWW) [FGCNN] 클릭률 예측을 위한 컨볼루셔널 신경망을 통한 기능 생성
2019 (Sina) (Arxiv) [FAT-DeepFFM] FAT-DeepFFM - 현장 주의 깊은 현장 인식 인수분해 기계
2019 (Sina) (Recsys) [FiBiNET] FiBiNET - 클릭률 예측을 위한 기능 중요도와 이중선형 기능 상호 작용 결합
2019 (Tencent) (AAAI) [IFM] 추천 시스템을 위한 상호작용 인식 인수분해 기계
2020 (Baidu) (KDD) [CAN] Baidu 비디오 광고를 위한 Combo-Attention Network
2021 (Google) (WWW) * [DCN V2] DCN V2 - 시스템 순위 지정을 위한 웹 규모 학습을 위한 심층 및 교차 네트워크 개선 및 실무 강의
2022 (Alibaba) (WSDM) * [CAN] CAN - 클릭률 예측을 위한 협력 네트워크 기능
2023 (CIKM) * [GDCN] CTR 예측을 위한 더 깊고, 더 가볍고, 해석 가능한 교차 네트워크를 향하여
2023 (Sina) (CIKM) [FiBiNet++] FiBiNet++ - CTR 예측을 위한 하위 기능 상호 작용 계층으로 모델 크기 줄이기
2023 (Sina) (CIKM) [MemoNet] MemoNet - CTR 예측을 위한 다중 해시 코드북 네트워크를 통해 모든 교차 특징의 표현을 효율적으로 기억

장기 시퀀스 모델링

2019 (알리바바) (KDD) [MIMN] 클릭률 예측을 위한 장기간 순차 사용자 행동 모델링 실습
2019(Google)(WWW) 장거리 종속 사용자 시퀀스에 대한 신경 혼합 추천기를 향하여
2020 (Alibaba) (Arxiv) ** [SIM] 클릭률 예측을 위한 평생 순차 행동 데이터를 사용한 검색 기반 사용자 관심 모델링
2020(ICLR) 리포머 - 효율적인 변압기
2020 (SIGIR) [UBR4CTR] 클릭률 예측을 위한 사용자 행동 검색
2021 (Alibaba) (Arxiv) [ETA] 클릭률 예측 모델에서 엔드투엔드 사용자 행동 검색
2022 (Alibaba) (Arxiv) ** [예정] 클릭률 예측을 위한 효율적인 긴 순차 사용자 데이터 모델링
2022 (Meituan) (CIKM) [SDIM] CTR 예측을 위한 장기 사용자 행동 모델링에 필요한 것은 샘플링뿐입니다.
2023 (Kuaishou) (Arixiv) [TWIN] TWIN - Kuaishou의 CTR 예측에서 평생 사용자 행동 모델링을 위한 2단계 관심 네트워크
2023 (Kuaishou) (CIKM) [QIN] 대규모 검색 순위를 위한 쿼리 중심 사용자 관심 네트워크
2024(Kuaishou)(CIKM) [TWINv2] TWIN V2 - Kuaishou의 향상된 CTR 예측을 위한 초장기 사용자 행동 시퀀스 모델링 확장
2024 (Tencent) (KDD) [LCN] 온라인 클릭률 예측을 위한 교차 도메인 평생 순차 모델링

손실

2024 (Tencent) (KDD) 희소 사용자 피드백을 통한 추천의 순위 손실 이해
2024 (Tencent) (KDD) [BBP] 바이너리 선호를 넘어서 - 순위 및 보정의 공동 최적화를 위한 베이지안 접근 방식 활용

다중 모드

2018 (Alibaba) (CIKM) [이미지 CTR] Image Matters - 고급 모델 서버를 사용하여 사용자 행동을 시각적으로 모델링
2020 (Alibaba) (WWW) [MARN] 클릭률 예측을 위한 적대적 다중모달 표현 학습

다중 도메인 다중 시나리오

2014 (TASLP) * [LHUC] 비지도 음향 모델 적응을 위한 숨겨진 단위 기여 학습
2015 (Microsoft) (WWW) 추천 시스템의 도메인 간 사용자 모델링을 위한 다중 뷰 딥 러닝 접근 방식
2018 (Google) (KDD) ** [MMoE] 다중 게이트 전문가 혼합을 통한 다중 작업 학습에서 작업 관계 모델링
2019 (Alibaba) (CIKM) [WE-CAN] 전자상거래 검색을 위한 Wasserstein Regularizer를 사용한 도메인 간 관심 네트워크
2020 (Alibaba) (Arxiv) [SAML] 전자상거래의 다중 시나리오 추천을 위한 시나리오 인식 및 상호 기반 접근 방식
2020 (Alibaba) (CIKM) [HMoE] 라벨 공간에서 작업 관계를 활용하여 전자상거래 순위를 위한 다중 시나리오 학습 개선
2020 (Alibaba)(CIKM) [MiNet] MiNet - 도메인 간 클릭률 예측을 위한 혼합 관심 네트워크
2020 (Tencent) (Recsys) ** [PLE] PLE(Progressive Layered Extraction) - 개인화된 추천을 위한 새로운 MTL(Multi-Task Learning) 모델
2021 (Alibaba) (CIKM) * [ZEUS] 전자상거래의 다중 시나리오 순위를 위한 사용자의 자발적 행동에 대한 자기 지도 학습
2021 (Alibaba) (CIKM) ** [STAR] 모든 서비스를 제공하는 단일 모델 - 다중 도메인 CTR 예측을 위한 스타 토폴로지 적응형 추천기
2022 (Alibaba) (CIKM) AdaSparse - 다중 도메인 클릭률 예측을 위한 적응형 희소 구조 학습
2022 (Alibaba) (NIPS) ** [APG] APG - 클릭률 예측을 위한 적응형 매개변수 생성 네트워크
2023(Alibaba)(CIKM) [HC2] 다중 시나리오 광고 순위를 위한 하이브리드 대조 제약 조건
2023 (Alibaba) (CIKM) [MMN] Masked Multi-Domain Network - 단일 모델을 이용한 다중 유형 및 다중 시나리오 전환율 예측
2023(Alibaba)(CIKM) [Rec4Ad] Rec4Ad - Taobao의 광고 CTR 예측에 대한 샘플 선택 편견을 완화하기 위한 무료 점심 식사
2023 (Alibaba) (SIGIR) [MARIA] 적응형 특성 학습을 통한 다중 시나리오 순위 지정
2023(CIKM) [HAMUR] HAMUR - 다중 도메인 권장을 위한 하이퍼 어댑터
2023(Huawei)(CIKM) [DFFM] DFFM - CTR 예측을 위한 도메인 촉진 기능 모델링
2023 (Kuaishou) (KDD) * [PEPNet] PEPNet - 개인화 사전정보 주입을 위한 매개변수 및 개인화 네트워크 내장
2023(Tencent)(KDD) 클릭률 예측을 위한 시나리오 적응형 기능 상호작용
2024 (Alibaba) (CIKM) * [MultiLoRA] MultiLoRA - 다중 도메인 추천을 위한 다방향 하위 순위 적응
2024 (Alibaba) (RecSys) * [MLoRA] MLoRA - 클릭률 예측을 위한 다중 도메인 하위 적응형 네트워크
2024 (Kuaishou) (SIGIR) [M3oE] M3oE - 다중 영역 다중 작업 전문가 혼합 권장 프레임워크
2024 (Tencent) (KDD) [LCN] 온라인 클릭률 예측을 위한 교차 도메인 평생 순차 모델링
2024(WSDM) 추천 시스템을 위한 어댑터 기반 전이 학습 탐색 - 실증적 연구 및 실용적인 통찰력

멀티태스킹

(2018) (ICML) GradNorm - 심층 멀티태스크 네트워크의 적응형 손실 균형을 위한 기울기 정규화
2014 (TASLP) [LHUC] 비지도 음향 모델 적응을 위한 숨겨진 단위 기여 학습
2017 (Google) (ICLR) [Sparsely-Gated MOE] 엄청나게 큰 신경망 - 희소하게 게이팅된 전문가 혼합 레이어
2018 (Alibaba) (KDD) [DUPN] 심층적인 사용자 인식 - 여러 전자상거래 작업에서 범용 사용자 표현 학습
2018 (Alibaba) (SIGIR) [ESMM] 전체 공간 다중 작업 모델 - 클릭 후 전환율을 추정하기 위한 효과적인 접근 방식
2018(CVPR) 장면 기하학 및 의미론에 대한 손실을 평가하기 위해 불확실성을 사용한 다중 작업 학습
2018 (Google) (KDD) ** [MMoE] 다중 게이트 전문가 혼합을 통한 다중 작업 학습에서 작업 관계 모델링
2019 (알리바바) (CIKM) 온라인 프로모션을 위한 멀티태스킹 기반 매출 예측
2019 (Alibaba) (Recys) 전자상거래 추천의 다중 객관적 최적화를 위한 파레토 효율적 알고리즘
2019 (Google) (AAAI) 다중 작업 학습에서 유연한 매개변수 공유를 위한 SNR 하위 네트워크 라우팅
2019 (Google) (Recsys) ** [유튜브 멀티태스크] 다음에 볼만한 영상 추천 - 멀티태스크 순위 시스템
2019 (NIPS) 파레토 다중 작업 학습
2020 (Alibaba) (SIGIR) [ESM2] 전환율 예측을 위한 클릭 후 행동 분해를 통한 전체 공간 다중 작업 모델링
2020 (Alibaba) (WWW) 다중 작업 학습을 통한 디바이어스 클릭 후 전환율 추정에 대한 대규모 인과적 접근 방식
2020(Amazon)(WWW) 확률적 레이블 집계를 사용한 상품 검색을 위한 다목표 순위 최적화
2020 (Google) (KDD) [MoSE] 사용자 활동 스트림을 위한 순차적 전문가의 멀티태스킹 혼합
2020 (JD) (CIKM) *[DMT] 대규모 전자상거래 추천 시스템의 다목표 순위를 위한 심층 다면적 변환기
2020 (Tencent) (Recsys) ** [PLE] PLE(Progressive Layered Extraction) - 개인화된 추천을 위한 새로운 MTL(Multi-Task Learning) 모델
2021 (Alibaba) (SIGIR) [HM3] 전환율 예측을 위한 다중 작업 학습을 통한 미시적 및 거시적 행동의 계층적 모델링
2021 (Alibaba) (SIGIR) [MSSM] MSSM - 효율적인 다중 작업 학습을 위한 다중 수준 희소 공유 모델
2021 (Baidu) (SIGIR) [GemNN] GemNN - CTR 예측을 위한 기능 상호 작용 학습을 갖춘 게이팅 강화 다중 작업 신경망
2021 (Google) (Arxiv) [DSelect-k] 다중 작업 학습에 대한 응용 프로그램과 전문가 혼합의 DSelect-k 미분 선택
2021 (Google) (ICLR) HyperGrid Transformers - 다중 작업을 위한 단일 모델을 향하여
2021 (Google) (KDD) 다중 작업 학습의 공정성-정확도 상충관계 이해 및 개선
2021(JD)(ICDE) 카테고리 계층 소프트 제약 조건을 사용한 전문가의 적대적 혼합
2021 (Kwai) (Arxiv) [POSO] POSO - 대규모 추천 시스템을 위한 맞춤형 콜드 스타트 모듈
2021(Meituan)(KDD) 타겟 디스플레이 광고에서 다중 작업 학습을 통한 잠재고객 다단계 전환 간의 순차적 종속성 모델링
2021(Tencent)(Arxiv) 다중 목표 사용자 프로필 모델링을 위한 가상 커널 전문가의 혼합
2021 (Tencent) (WWW) 개인화된 근사 파레토 효율적 추천
2022 (Google) (WWW) Small Heads가 도움을 줄 수 있나요? 다중 작업 일반화 이해 및 개선
2023년(Airbnb)(KDD) 멀티 태스킹 학습을 통한 Airbnb 검색 여정 최적화
2023 (Alibaba) (CIKM) [DTRN] 다중 작업 추천을 위한 심층 작업별 하위 표현 네트워크
2023 (구글) (CIKM) 몰입형 피드 및 추가 클릭 방지를 위한 멀티태스킹 순위 시스템 - 짧은 형식의 비디오 추천 사례 연구
2023(Google)(KDD) 추천 시스템의 멀티태스크 순위 모델에 대한 훈련 안정성 개선
2023(Meta)(KDD) AdaTT - 추천의 멀티태스크 학습을 위한 적응형 작업 간 융합 네트워크
2024(Airbnb)(KDD) 모델 증류를 통해 순위를 매기는 다목적 학습
2024 (Kuaishou) (KDD) [GradCraft] GradCraft - 전체적인 그라데이션 제작을 통해 멀티 작업 권장 사항 향상
2024 (Kuaishou) [Home] Home - Kuaishou의 다중 작업 학습을 위한 다중 게이트 전문가 계층
2024 (Shopee) (KDD) [ResFlow] 응용 순위를 위한 잔여 다중 작업 학습자
2024 (Tencent) (KDD) [STEM] 붕괴되고 얽힌 세상에서의 광고 추천

사전 훈련

2019 (Alibaba) (IJCAI) [DeepMCP] 표현학습 기반 클릭률 예측
2019 (SIGIR) [BERT4Rec] (Alibaba) (SIGIR2019) BERT4Rec - Transformer의 양방향 인코더 표현을 사용한 순차적 권장사항

시퀀스 모델링

2016 (Google) (RecSys) **[Youtube DNN] YouTube 추천을 위한 심층 신경망
2017 (Google) (NIPS) ** 주의가 필요한 전부입니다
2018 (Alibaba) (KDD) **[DIN] 클릭률 예측을 위한 심층 관심 네트워크
2018 (Alibaba) (KDD) [DUPN] 심층적인 사용자 인식 - 여러 전자상거래 작업에서 범용 사용자 표현 학습
2019 (Alibaba) (AAAI) **[DIEN] 클릭률 예측을 위한 Deep Interest Evolution Network
2019 (Alibaba) (IJCAI) [DSIN] 클릭률 예측을 위한 심층 세션 관심 네트워크
2019 (Alibaba) (KDD) [BST] Alibaba 전자상거래 추천을 위한 행동 시퀀스 변환기
2019 (Alibaba) (KDD) [DSTN] 클릭률 예측을 위한 심층 시공간 신경망
2019 (Alibaba) (WWW) [TiSSA] TiSSA - 순차적 사용자 행동 모델링을 위한 Time Slice Self-Attention 접근 방식
2019 (Tencent) (KDD) [RALM] 추천 시스템을 위한 TReal-time Attention Based 유사 모델
2020 (Alibaba) (SIGIR) [DHAN] 클릭률 예측을 위한 계층적 관심 네트워크에 대한 깊은 관심
2020 (구글) (KDD) [구글 드라이브] 구글 드라이브 추천 품질 개선
2020 (JD) (CIKM) **[DMT] 대규모 전자상거래 추천 시스템의 다목적 순위 지정을 위한 심층 다각적 변환기
2020 (JD) (NIPS) [KFAtt] CTR 예측에서 사용자 행동 모델링을 위한 칼만 필터링 주의
2020 (JD) (WSDM) [HUP] 전자상거래 추천 시스템을 위한 계층적 사용자 프로파일링
2022(Alibaba)(WSDM) 전자상거래 검색의 클릭률 예측을 위한 사용자의 상황별 페이지별 피드백 모델링
2022(JD)(WWW) 검색 광고의 CTR 예측을 위한 후보 항목을 통한 암시적 사용자 인식 모델링
2023 (JD) (CIKM) [IUI] IUI - 클릭률 예측을 위한 의도 강화 사용자 관심 모델링
2023(Meituan)(CIKM) [DCIN] 클릭률 예측을 위한 Deep Context Interest Network
2023 (Pinterest) (KDD) TransAct - Pinterest 추천을 위한 Transformer 기반 실시간 사용자 작업 모델

방아쇠

2022 (Alibaba) (WWW) 트리거 유도 추천의 클릭률 예측을 위한 Deep Interest 하이라이트 네트워크

04_포스트랭킹

1998(SIGIR) ** [MRR] 문서 재정렬 및 요약 생성을 위한 MMR, 다양성 기반 재지정 사용
2005(WWW) 주제 다양화를 통한 추천 목록 개선
2008 (SIGIR) [α-NDCG] 정보 검색 평가의 참신성과 다양성
2009 (마이크로소프트) (WSDM) 검색결과 다양화
2010(WWW) 웹 검색 결과 다양화를 위한 쿼리 재구성 활용
2016(Amazon)(RecSys) 시각적 발견을 위한 적응형, 개인화된 다양성
2017 (Hulu) (NIPS) [DPP] 추천 다양성 향상을 위한 결정점 프로세스에 대한 Fast Greedy MAP 추론
2018년(알리바바)(IJCAI) 전자상거래 검색 부문 글로벌 최적화 상호영향력 인식 순위
2018 (Alibaba) (IJCAI) [Alibaba GMV] 전자상거래 검색에서 전 세계적으로 최적화된 상호 영향력 인식 순위
2018 (Google) (CIKM) [DPP] 결정적 포인트 프로세스를 통한 YouTube의 실용적이고 다양한 추천
2018 (SIGIR) [DLCM] 순위 세분화를 위한 Deep Listwise 컨텍스트 모델 학습
2019 (알리바바) (WWW) [가치기반 RL] 강화 이익 극대화 기반 가치 인식 추천
2019 (Alibaba) (KDD) [GAttN] Maximal Clique Optimization을 통한 Exact-K 추천
2019 (Alibaba) (RecSys) ** [PRM] 추천 대상 개인화 재순위
2019 (Google) (Arxiv) 슬레이트 기반 추천 시스템을 위한 강화 학습 - 다루기 쉬운 분해 및 실용적인 방법론
2019 (Google) (Arxiv) Seq2slate - rnns를 사용한 재순위 및 슬레이트 최적화
2019 (Google) (IJCAI) [SlateQ] SLATEQ - 권장 세트를 사용한 강화 학습을 위한 다루기 쉬운 분해
2019 (Google) (WSDM) [Top-K Off-Policy] REINFORCE 추천 시스템을 위한 Top-K Off-Policy 수정
2020(Airbnb)(KDD) Airbnb 검색의 다양성 관리
2020 (Alibaba) (CIKM) [EdgeRec] EdgeRec - 모바일 타오바오 엣지 추천 시스템
2020 (Huawei) (Arxiv) 라이브 추천 시스템의 다양성 개선을 위한 개인화된 순위 재지정
2021 (Alibaba) (Arxiv) [PRS] 순열 전망에서 추천 시스템 재검토
REINFORCE 추천 시스템 개선을 위한 2021(Google)(WSDM) 사용자 응답 모델
2021(Microsoft) 이동 중인 다양성! 최대 유도 카디널리티 목표에 따라 스트리밍 결정 포인트 프로세스
2023(Amazon)(KDD) RankFormer - 목록 전체 레이블을 사용한 목록별 순위 학습
2023 (Meituan) (KDD) PIER - 전자상거래의 순열 수준 관심 기반 엔드 투 엔드 재순위 프레임워크
2024(Kuaishou)(KDD) [NAR4Rec] 추천 재지정을 위한 비자기회귀 생성 모델

Seq2Slate

2015 (Google) (Arxiv) 대규모 개별 행동 공간에서의 심층 강화 학습
2015 (Google) (Arxiv) 고차원 상태 및 동작을 사용하는 Slate Markov 결정 프로세스에 주의를 기울이는 심층 강화 학습
2017 (KDD) [DCM] 포인터 네트워크를 이용한 항공사 여정 예측을 위한 Deep Choice 모델
2018 (Microsoft) (EMNLP) [RL4NMT] 신경기계번역을 위한 강화학습 연구
2019 (Google) (Arxiv) Seq2slate - rnns를 사용한 재순위 및 슬레이트 최적화

05_관련성

2020 (ICLR) [StructBERT] StructBERT - 심층 언어 이해를 위한 사전 훈련에 언어 구조 통합
2021 (Alibaba) (WWW) 전자상거래의 클릭스루 데이터로부터 제품 관련성 모델 학습
2023 (Meituan) (CIKM) [SPM] SPM - Meituan 검색의 관련성 모델링을 위한 구조화된 사전 학습 및 매칭 아키텍처

06_캐스케이드

2023 (Alibaba) (CIKM) [COPR] COPR - 온라인 광고를 위한 일관성 중심의 사전 순위 지정
2023 (알리바바) (KDD) [ASMOL] 대규모 전자상거래 검색시스템에서 사전 순위 결정의 역할 재고

07_대형_모델

2019 (CIKM) [AutoInt] AutoInt - 자기 주의적 신경망을 통한 자동 기능 상호 작용 학습
2020 (Arxiv) 신경 언어 모델의 확장 법칙
2022 (Arxiv) (Meta) DHEN - 대규모 클릭률 예측을 위한 심도 있는 계층적 앙상블 네트워크
2024 (Arxiv) (Bytedance) [HLLM] HLLM - 항목 및 사용자 모델링을 위한 계층적 대형 언어 모델을 통해 순차적 추천 강화
2024 (Arxiv) ** (Meta) [GR] 말보다 행동이 더 중요합니다 - 생성적 추천을 위한 수조 매개변수 순차 변환기
2024 (PMLR) (Meta) [Wukong] Wukong - 대규모 추천을 위한 확장법을 향하여

이력서

2014(ICML) [VAE] 자동 인코딩 변형 베이즈
2014 (NIPS) [GAN] 생성적 적대 네트워크
2017 (NIPS) [VQ-VAE] 신경 이산 표현 학습
2020 (NIPS) [확산] 잡음 제거 확산 확률 모델

딥러닝

2012 (NIPS) [CNN] 심층 합성곱 신경망을 사용한 ImageNet 분류
2014(JMLR) [드롭아웃] 드롭아웃 - 신경망의 과적합을 방지하는 간단한 방법
2015 (Google) (JMLR) [BatchNorm] 배치 정규화 - 내부 공변량 이동을 줄여 심층 네트워크 훈련 가속화
2015 (OpenAI) (ICLR) [Adam] Adam - 확률론적 최적화 방법
2016 (CVPR) [ResNet] 영상 인식을 위한 심층 잔차 학습
2016 (OpenAI) (NIPS) [Weight Norm] 가중치 정규화 - 심층 신경망 훈련을 가속화하기 위한 간단한 재매개변수화
2017 (Arxiv) [LayerNorm] 레이어 정규화
2017 (구글) (NIPS) [트랜스포머] Attention Is All You Need

법학대학원

2013 (Google) (NIPS) [Word2vec] 단어 및 구문의 분산 표현과 그 구성성
2014 (Google) (NIPS) [Seq2Seq] 신경망을 이용한 시퀀스 학습
2017 (구글) (NIPS) [트랜스포머] Attention Is All You Need
2017 (OpenAI) (NIPS) [RLHF] 인간 선호도로부터의 심층 강화 학습
2018 (OpenAI) (Arxiv) [GPT] 생성적 사전 훈련을 통한 언어 이해 향상
2019 (Google) (NAACL) [Bert] BERT - 언어 이해를 위한 심층 양방향 변환기 사전 훈련
2019 (OpenAI) (Arxiv) [GPT2] 언어 모델은 비지도 멀티태스킹 학습자입니다
2020 (Arxiv) 신경 언어 모델의 확장 법칙
2020 (OpenAI) (Arxiv) [GPT3] 언어 모델은 Few-Shot Learners입니다.
2021 (Microsoft) (Arxiv) [LoRA] LoRA - 대규모 언어 모델의 낮은 순위 적응
2022(Google)(JMLR) [SwitchTransfomers] Switch Transformers - 간단하고 효율적인 희소성을 통해 수조 개의 매개변수 모델로 확장
2022 (Google) (NIPS) [ChainOfThought] 생각의 연쇄 유도로 대규모 언어 모델에서 추론 유도
2022 (Google) (TMLR) [Emergent] 대규모 언어 모델의 새로운 능력
2022 (OpenAI) (Arxiv) [InstructGPT] 인간 피드백을 통해 지침을 따르도록 언어 모델 교육
2023 (Meta) (Arxiv) [LLaMA] LLaMA - 개방적이고 효율적인 기초 언어 모델
2023 (OpenAI) (Arxiv) [GPT4] GPT-4 기술 보고서

환경부

2017 (Google) (ICLR) [Sparsely-Gated MOE] 엄청나게 큰 신경망 - 희소하게 게이팅된 전문가 혼합 레이어
2018 (Google) (KDD) ** [MMoE] 다중 게이트 전문가 혼합을 통한 다중 작업 학습에서 작업 관계 모델링
2022(Google)(JMLR) [SwitchTransfomers] Switch Transformers - 간단하고 효율적인 희소성을 통해 수조 개의 매개변수 모델로 확장
2022(메타)(EMNLP) 전문가 혼합을 통한 효율적인 대규모 언어 모델링
2024 (Google) (ICLR) 전문가의 희박한 혼합에서 부드러운 혼합으로

다중 모드

2020 (Google) (ICLR) [ALBERT] ALBERT - 언어 표현의 자기 지도 학습을 위한 Lite BERT
2021 (Google) (ICLR) [VIT] 이미지는 16x16 단어만큼 가치가 있습니다 - 대규모 이미지 인식을 위한 변환기
2021 (OpenAI) (ICML) [클립] 자연어 감독에서 전송 가능한 시각적 모델 학습

self_supervised_learning

2020 (ALIBABA) (AAAI) [DMR] 개인화 된 클릭 제한 속도 예측에 대한 랭크 모델과의 깊은 일치
2020 (Alibaba) (CIKM) [BERT4REC] BERT4REC- 변압기의 양방향 인코더 표현을 사용한 순차 권장 사항
2020 (Alibaba) (KDD) 순차적 추천자에서 자기 감독을 분리했습니다
2020 (ARXIV) USERBERT- 자체 감독 사용자 표현 학습
2020 (ARXIV) [SGL] 추천을위한 자체 감독 그래프 학습
2020 (CIKM) [S3REC] S3-REC- 상호 정보 최대화와 순차적 권장을위한 자체 감독 학습
2020 (EMNLP) [PTUM] PTUM- 자기 감독을 통해 표지되지 않은 사용자 행동에서 미리 훈련하는 사용자 모델
2020 (Sigir) 추천 시스템에 대한 자체 감독 강화 학습
2020 (Xiangnan HE) (ARXIV) 추천을위한 자체 감독 그래프 학습
2021 (Alibaba) (ARXIV) [CLREC] 대규모 추천 시스템에서 토론 된 후보 세대에 대한 대조 학습
2021 (Alibaba) (CIKM) * [Zeus] 전자 상거래에서 멀티 스케나 리오 순위에 대한 사용자의 자발적 행동에 대한 자체 감독 학습
2021 (Alibaba) (www) 순차적 권장을위한 대조적 인 사전 훈련
2021 (Google) (CIKM) 대규모 품목 권장 사항에 대한 자체 감독 학습
2021 (WSDM) [Prop] Prop- 대표적인 단어로 사전 훈련 예측 임시 검색

08_transfer_Learning

2014 (Google) (NIPS) [Knoledge Distillation] 신경망의 지식 증류
2015 (ICLR) [FitNets] FitNets- 얇은 딥 네트를위한 힌트
2018 (ALIBABA) (AAAI) [로켓] 로켓 런칭 - 잘 실적이 좋은 라이트 네트를 훈련하기위한 보편적이고 효율적인 프레임 워크
2018 (KDD) [순위 증류] 순위 증류 - 추천 시스템을위한 고성능으로 컴팩트 한 순위 모델
2019 (ICCV) [RCO] 경로 제한 최적화를 통한 지식 증류
2020 (Alibaba) (KDD) *[Privileged Features Distillation] Taobao 권장 사항의 증류 기능 증류

크로스 도메인

2015 (Microsoft) (www) 추천 시스템에서 크로스 도메인 사용자 모델링을위한 멀티 뷰 딥 러닝 방식
2016 (JMLR) 신경망의 도메인-산맥 훈련
2018 (CIKM) CONET- 크로스 도메인 추천을위한 협업 크로스 네트워크
2019 (Alibaba) (CIKM) [WE-CAN] 전자 상거래 검색을위한 Wasserstein 일반화와 함께하는 크로스 도메인주의 네트워크
2019 (Alibaba) (KDD) [MGTL] Minimax 게임 예를 들어 선택적 전송 학습을 기반으로합니다.
2019 (CIKM) DTCDR- 이중 표적 크로스 도메인 추천을위한 프레임 워크
2020 (Alibaba) (CIKM) [Minet] Minet- 크로스 도메인 클릭 제한 속도 예측을위한 혼합 관심사 네트워크
2020 (WSDM) DDTCDR- 심층 듀얼 전송 크로스 도메인 권장 사항

메타 학습

2019 (Alibaba) (KDD) [S_2META] 온라인 추천을위한 순차적 시나리오 별 메타 학습자
2020 (Kuaishou) (Sigir) [SML] 추천 시스템을 재교육하는 방법은 무엇입니까? 순차적 메타 학습 방법

옮기다

2018 (CVPR) 다중 도메인 심해 신경망의 효율적인 매개 변수화
NLP에 대한 2019 (ICML) 매개 변수 효율적인 전송 학습
2020 (Tencent) (SIGIR) [PETERREC] 사용자 모델링 및 권장 사항을위한 순차적 동작에서 매개 변수 효율적인 전송

09_Reinforcement_Learning

2010 (Yahoo) (www) [Linucb] 개인 뉴스 기사 권장 사항에 대한 맥락 대역 접근 방식
2018 (Alibaba) (KDD) 전자 상거래 검색 엔진 공식화, 분석 및 응용 분야에서 순위를 매기는 강화 학습
2018 (Spotify) (Resys) [Spotify Bandit] Bandits와의 설명 가능한 권장 사항을 탐색, 악용 및 설명
2018 [Microsoft] (www) [DRN] DRN- 뉴스 추천을위한 깊은 강화 학습 프레임 워크
2019 (Alibaba) (www) [HRL] 계층 적 강화 학습을 통한 이종 소스의 전자 상거래 검색 결과 집계
2019 (Google) (ijcai) *[Slateq] SlateQ- 권장 세트가있는 강화 학습을위한 트랙 가능한 분해
2019 (Google) (WSDM) *[Top-K Off-Policy] 강화 추천 시스템을위한 Top-K 오프 정책 수정
2019 (JD) (KDD) [FeedRec] 추천 시스템에서 장기 사용자 참여를 최적화하기위한 강화 학습
2019 (Sigweb) 검색, 추천 및 온라인 광고를위한 깊은 강화 학습 - 설문 조사
2020 (Bytedance) (KDD) [RAM] 공동으로 추천하고 광고하는 법을 배우십시오.
2020 (JD) (Sigir) [NICF] 신경 대화 형 협업 필터링

회의

KDD2023

2023 (airbnb) (KDD) 다중 태스킹 학습으로 에어 비앤비 검색 여행 최적화
2023 (Alibaba) (KDD) 판매 프로모션 중 전환율 변동 캡처 - 새로운 역사적 데이터 재사용 접근법
2023 (Amazon) (KDD) Rankformer- Listwide 레이블을 사용하는 Listwise Learning-to rank
2023 (Baidu) (KDD) 웹 검색에서 개별 문서 표현 학습
2023 (Baidu) (KDD) S2PHERE- 데이터 순위를 매기는 이질적인 학습에 대한 웹 검색을위한 반 감독 사전 훈련
2023 (Google) (KDD) 추천 시스템에서 멀티 태스킹 순위 모델에 대한 교육 안정성 향상
2023 (Kuaishou) (KDD) 단기 비디오 추천에서 시계 시간 예측을위한 트리 기반 점진적 회귀 모델
2023 (Kuaishou) (KDD) [PEPNET] PEPNET- 매개 변수 및 개인화 된 사전 정보를 주입하기위한 개인화 된 네트워크를 포함
2023 (MEITUAN) (KDD) 부두-전자 상거래의 순열 수준의 관심 기반 엔드 투 엔드 재 계급 프레임 워크
2023 (Meta) (KDD) ADATT- 권장 사항에서 멀티 태스킹 학습을위한 적응 형 작업 퓨전 네트워크
2023 (Microsoft) (KDD) Unifier- 대규모 검색을위한 통합 리트리버
2023 (Pinterest) (KDD) Transact- Pinterest에서 권장 사항을위한 변압기 기반 실시간 사용자 작업 모델
Tencent에서 2023 (Tencent) (KDD) 이진 임베딩 기반 검색
2023 (Tencent) (KDD) CT4REC- 순차적 권장을위한 간단하면서도 효과적인 일관성 교육
2023 (Tencent) (KDD) 시나리오 적응 기능 기능 상호 작용 클릭 제한 속도 예측에 대한 상호 작용

KDD2024

2024 (airbnb) (KDD) 모델 증류에 의해 순위를 매기는 다목적 학습
2024 (Bytedance) (KDD) [Trinity] Trinity-Syncretizing Multi-: Long-Tail : 장기 관심사 모두 하나입니다.
2024 (Kuaishou) (KDD) [Gradcraft] Gradcraft- 전체 론적 구배 공예를 통해 멀티 태스킹 권장 사항 높이기
2024 (kuaishou) (KDD) [NAR4REC] 권장 사항을 재고를위한 비 유적지의 생성 모델
2024 (Shopee) (KDD) [Resflow] 응용 순위를위한 잔여 멀티 태스킹 학습자
2024 (Tencent) (KDD) 희소 한 사용자 피드백으로 추천에 대한 순위 손실 이해
2024 (Tencent) (KDD) [BBP] 이진 선호도를 넘어서 - 순위 및 교정의 공동 최적화를위한 베이지안 접근법 활용
2024 (Tencent) (KDD) [LCN] 온라인 클릭 제한 속도 예측을위한 크로스 도메인 평생 순차적 모델링
2024 (Tencent) (KDD) [Stem] 붕괴되고 얽힌 세상에서의 광고 권장 사항