Bias CRS

Verbesserung konversationaler Empfehlungssysteme durch Bias-Analyse und sprachmodellgestützte Datenerweiterung

Akzeptiert von EMNLP 2023 (Ergebnisse)

Befehle zur Vorbereitung der Umgebung

 apt-get update
apt-get install build-essential -y

Preparing enviroment:
(for torch 1.12.0)

Option 1: 
pip install pyg-lib torch-scatter torch-sparse torch-cluster torch-spline-conv torch-geometric -f https://data.pyg.org/whl/torch-1.12.0+cu113.html
export LD_LIBRARY_PATH="/opt/conda/lib/:$LD_LIBRARY_PATH"

Option 2:
pip install torch==1.12.0+cu113 torchvision==0.13.0+cu113 torchaudio==0.12.0 --extra-index-url https://download.pytorch.org/whl/cu113 
pip install torch-scatter -f https://pytorch-geometric.com/whl/torch-${TORCH}+${CUDA}.html
pip install torch-sparse -f https://pytorch-geometric.com/whl/torch-${TORCH}+${CUDA}.html
pip install torch-cluster -f https://pytorch-geometric.com/whl/torch-${TORCH}+${CUDA}.html
pip install torch-spline-conv -f https://pytorch-geometric.com/whl/torch-${TORCH}+${CUDA}.html
pip install torch-geometric

pip install -r requirements.txt

For the case of "command 'x86_64-linux-gnu-gcc' failed with exit status 1":
apt-get install python3.x-dev

Ein Schnelltest

 python run_bias_crs.py --config config/crs/tgredial/tgredial.yaml

Die Experimente wurden mit ReDial-, KGSF-, KBRD- und TGReDial-Modellen durchgeführt und anhand von ReDIAL- und TGReDIAL-Datensätzen ausgewertet.

Datenerweiterung

Die Generierung und Vorbereitung der synthetischen Dialoge erfolgt zunächst durch [data_prep_gen_ .ipynb] und dann durch [gen_convert_ .ipynb] im Ordner data_aug (* bezieht sich auf den Namen von Datensätzen).

Die Datenerweiterung wird in base.py in [bias_crs/data/dataloader/base.py] implementiert, während die Änderungen an der Anzahl der über popNudge zu erweiternden Elemente von hier aus geändert werden können.

Für jeden Durchlauf werden die experimentellen Ergebnisse im Verzeichnis [data/bias/] gespeichert, gefolgt von den Ordnern, die nach Modell- und Datensatznamen benannt sind und den Titel [bias_anlytic_data.csv] tragen.

Die entsprechende Analyse der Empfehlungsergebnisse über Cross-Episode Popularity und User Intent-Oriented Popularity Scores ist über den Ordner [Analyse] abrufbar.

Berechnen Sie die episodenübergreifende Popularität

 from scipy.stats.stats import pearsonr

def compute_pop_scores(pop_score_dict, items):
    return [pop_score_dict[item] if item in pop_score_dict else 0.0 for item in items]

pop_scores = [compute_pop_scores(pop_score_dict, row['Prediction_items']) for _, row in data.iterrows()]
data['pop_scores'] = pop_scores

new_conv = True
cep_scores = []
for idx, row in data.iterrows():
    # set the default value to the first episode
    if new_conv:
        new_conv = False
        cep_scores.append(0.5)
    else:
        if idx+1 < len(data) and row['conv_id'] != data.at[idx+1, 'conv_id']:
            new_conv=True
        pearsonr_score = np.abs(pearsonr(row['pop_scores'], data.at[idx-1, 'pop_scores'])[0])
        cep_scores.append(pearsonr_score)

data['cep_score'] = cep_scores
data['cep_pop_score'] = data['cep_score'] * data['pop_bias']

Berechnen Sie die benutzerabsichtsorientierte Popularität

 data['target_pop_score'] = data['target_item_index'].map(pop_score_dict)
data['UIOP'] = np.abs(data['pop_bias'] - data['target_pop_score'])

Zitat

 @inproceedings{
    title={Improving Conversational Recommendation Systems via Bias Analysis and Language-Model-Enhanced Data Augmentation},
    author={Xi Wang, Hossein A. Rahmani, Jiqun Liu, Emine Yilmaz}
    booktitle={Proceedings of EMNLP 2023 (Findings)}
    year={2023}
}

Anerkennung

Dieses Repository wurde auf Basis des CRSLab-Frameworks [https://github.com/RUCAIBox/CRSLab] entwickelt. Vielen Dank für ihre unschätzbaren Beiträge zur Ermöglichung einer systematischen Entwicklung und Bewertung von Modellen im Rahmen dieses Projekts.