Bias CRS

Meningkatkan Sistem Rekomendasi Percakapan melalui Analisis Bias dan Augmentasi Data yang Disempurnakan Model Bahasa

Diterima oleh EMNLP 2023 (Temuan)

Perintah untuk mempersiapkan lingkungan

 apt-get update
apt-get install build-essential -y

Preparing enviroment:
(for torch 1.12.0)

Option 1: 
pip install pyg-lib torch-scatter torch-sparse torch-cluster torch-spline-conv torch-geometric -f https://data.pyg.org/whl/torch-1.12.0+cu113.html
export LD_LIBRARY_PATH="/opt/conda/lib/:$LD_LIBRARY_PATH"

Option 2:
pip install torch==1.12.0+cu113 torchvision==0.13.0+cu113 torchaudio==0.12.0 --extra-index-url https://download.pytorch.org/whl/cu113 
pip install torch-scatter -f https://pytorch-geometric.com/whl/torch-${TORCH}+${CUDA}.html
pip install torch-sparse -f https://pytorch-geometric.com/whl/torch-${TORCH}+${CUDA}.html
pip install torch-cluster -f https://pytorch-geometric.com/whl/torch-${TORCH}+${CUDA}.html
pip install torch-spline-conv -f https://pytorch-geometric.com/whl/torch-${TORCH}+${CUDA}.html
pip install torch-geometric

pip install -r requirements.txt

For the case of "command 'x86_64-linux-gnu-gcc' failed with exit status 1":
apt-get install python3.x-dev

Tes Cepat

 python run_bias_crs.py --config config/crs/tgredial/tgredial.yaml

Eksperimen dilakukan pada model ReDial, KGSF, KBRD dan TGReDial dan dievaluasi pada kumpulan data ReDIAL dan TGReDIAL.

Augmentasi Data

Pembuatan dan persiapan dialog sintetik diterapkan terlebih dahulu [data_prep_gen_ .ipynb] dan kemudian [gen_convert_ .ipynb] di dalam folder data_aug (* mengacu pada nama kumpulan data).

Augmentasi data diterapkan dalam base.py dalam [bias_crs/data/dataloader/base.py], sedangkan perubahan jumlah item yang akan ditambah melalui popNudge dapat diubah dari sini.

Untuk setiap proses yang dijalankan, hasil eksperimen akan disimpan di direktori [data/bias/] dan diikuti oleh folder yang diberi nama sesuai nama model dan dataset dan diberi judul [bias_anlytic_data.csv].

Analisis terkait hasil rekomendasi melalui skor Popularitas Lintas-Episode dan Popularitas Berorientasi Niat Pengguna dapat diakses melalui folder [analisis].

Hitung Popularitas Lintas Episode

 from scipy.stats.stats import pearsonr

def compute_pop_scores(pop_score_dict, items):
    return [pop_score_dict[item] if item in pop_score_dict else 0.0 for item in items]

pop_scores = [compute_pop_scores(pop_score_dict, row['Prediction_items']) for _, row in data.iterrows()]
data['pop_scores'] = pop_scores

new_conv = True
cep_scores = []
for idx, row in data.iterrows():
    # set the default value to the first episode
    if new_conv:
        new_conv = False
        cep_scores.append(0.5)
    else:
        if idx+1 < len(data) and row['conv_id'] != data.at[idx+1, 'conv_id']:
            new_conv=True
        pearsonr_score = np.abs(pearsonr(row['pop_scores'], data.at[idx-1, 'pop_scores'])[0])
        cep_scores.append(pearsonr_score)

data['cep_score'] = cep_scores
data['cep_pop_score'] = data['cep_score'] * data['pop_bias']

Hitung Popularitas Berorientasi Niat Pengguna

 data['target_pop_score'] = data['target_item_index'].map(pop_score_dict)
data['UIOP'] = np.abs(data['pop_bias'] - data['target_pop_score'])

Kutipan

 @inproceedings{
    title={Improving Conversational Recommendation Systems via Bias Analysis and Language-Model-Enhanced Data Augmentation},
    author={Xi Wang, Hossein A. Rahmani, Jiqun Liu, Emine Yilmaz}
    booktitle={Proceedings of EMNLP 2023 (Findings)}
    year={2023}
}

Pengakuan

Repositori ini dikembangkan berdasarkan kerangka CRSLab [https://github.com/RUCAIBox/CRSLab]. Terima kasih atas kontribusi mereka yang tak ternilai karena memungkinkan pengembangan sistematis dan evaluasi model dalam proyek ini.