DiffAbXL:

Penulis: Talip Ucar ([email protected])

Penerapan DiffAbXL dijadikan acuan dalam makalah: Eksplorasi Skor Log-Likelihood untuk Pemeringkatan Desain Urutan Antibodi.

Harap dicatat bahwa makalah ini awalnya berjudul "Membandingkan Model Generatif untuk Desain Antibodi" namun kami memutuskan untuk mengubahnya agar lebih menonjolkan kontribusi intinya.
Ini adalah implementasi ulang dari karya aslinya, DiffAb: [Kertas dan Kode]

Daftar isi:

Papan Peringkat Saat Ini
Hasil benchmarking dari makalah
Cara Membangun Antarmuka untuk Model Benchmarking
Pelatihan
Struktur repo
Pelacakan eksperimen
Mengutip makalah tersebut
Mengutip repo ini

Papan Peringkat Saat Ini

Pangkat	Model	Absci HER2		Alam		Target AZ-2	jalan?
Pangkat	Model	Tembakan Nol	Pengendalian SPR	TOLONG	DIA2	Target AZ-2	jalan?
1	DiffAbXL-A-DN	0,43	0,22	0,62	0,37	0,41	0,41
2	DiffAbXL-A-SG	0,46	0,22	0,64	-0,38	0,43	0,274
3	DiffAbXL-H3-DN	0,49	0	0,52	-0,08	0,37	0,26
4	IgBlend (hanya struct.)	0,40	0,21	0,54	-0,30	0,31	0,232
5	anti lipat	0,43	0,22	0,4	-0,47	0,38	0,192
6	DiffAbXL-H3-SG	0,48	0	0,4	-0,41	0,29	0,152
7	ESM	0,29	0	0	0,18	0,27	0,148
8	DiffAb	0,34	0,21	0	-0,14	0,22	0,126
9	AbLang2	0,3	0	0	-0,07	0,36	0,118
10	IgBlend (hanya seq.)	0,27	0	0	-0,1	0,36	0,106
11	AbLang	0,3	0	0	-0,13	0,35	0,104
12	dyMEAN	0,37	0,15	0	0	0	0,104
13	AbX	0,28	0,19	0	0	0	0,094
14	AntiBERTy	0,26	0	0	-0,17	0,35	0,088
15	BERARTI	0,36	0	0	0,02	0	0,076
16	ESM-JIKA	0	-0,27	0	-0,53	0,42	-0,076

Catatan-1: Jalan.? mengacu pada rata-rata korelasi Spearman di lima kumpulan data. Papan peringkat di atas didasarkan pada lima kumpulan data target, dengan skor nol diberikan pada model yang tidak menunjukkan korelasi signifikan secara statistik atau tidak sesuai untuk penghitungan skor (misalnya, memerlukan antigen).
Catatan-2: Skor log-likelihood dalam penelitian ini dihitung menggunakan pendekatan naif, sebagaimana diuraikan dalam Persamaan-11 di makalah, untuk menjaga konsistensi di seluruh model. Namun, perlu dicatat bahwa ada metode yang lebih berprinsip untuk menghitung skor ini, yang mungkin bervariasi tergantung pada jenis model (misalnya, model bahasa autoregresif vs. model bahasa bertopeng). Kami berencana untuk menyelidiki pendekatan alternatif ini dalam pekerjaan di masa depan.

Hasil Pembandingan

1- Korelasi antara kemungkinan log DiffAbXL dan afinitas pengikatan di berbagai target

Hasil-1

Gambar-1: Hasil untuk DiffAbXL: a) DiffAbXL-H3-DN untuk data Absci zero-shot HER2 b) DiffAbXL-A-SG untuk AZ Target-2, c) DiffAbXL-A-SG untuk Nature HEL, d) DiffAbXL- A-DN untuk Alam HER2.

2- Membandingkan model berbasis Difusi, berbasis LLM, dan berbasis Grafik

Hasil-2

Tabel-1: Ringkasan hasil korelasi Spearman. Singkatan: DN: Mode De Novo, SG: Mode Panduan Struktur, NA: Epitope atau struktur kompleks diperlukan, tetapi tidak tersedia. *, **, *** menunjukkan nilai p masing-masing di bawah 0,05, 0,01 dan 1e-4.

Cara Membangun Antarmuka untuk Model Benchmarking

Untuk memudahkan kami melakukan tolok ukur model Anda, kami menyarankan Anda mengimplementasikan antarmuka sebagai metode Python di kelas yang dapat kami integrasikan dengan mudah dengan alur evaluasi kami. Metode ini harus menerima masukan berikut:

Urutan antibodi : Daftar urutan antibodi.
Informasi struktur opsional : Jika berlaku, struktur data (yaitu file PDB) terkait dengan urutan.
Parameter khusus model tambahan : Input lain yang diperlukan model Anda.

Metode ini harus mengembalikan kamus yang berisi:

Skor log-likelihood : Untuk menentukan peringkat rangkaian antibodi berdasarkan prediksi afinitas pengikatannya.
Metrik relevan lainnya : Seperti RMSD, pAE, atau keluaran spesifik model apa pun yang Anda yakini relevan.

Berikut template dasar dengan Python untuk mengimplementasikan antarmuka ini:

    def benchmark ( self , sequences , structure = None , mask = None , ** kwargs ):
        """
        Benchmark the model on provided antibody sequences and structures.

        Parameters:
        sequences (list of str): List of antibody sequences.
        structure (optional): Path to a PDB file. Currently, only one PDB file is provided per target dataset.
                              The PDB file may contain either just the antibody or an antibody-antigen complex,
                              depending on the dataset.
        mask (optional): Binary list or array indicating the regions of interest in the sequences for metric calculations.
        kwargs (optional): Additional parameters required by the model.

        Returns:
        dict: A dictionary containing log-likelihood scores and other relevant metrics.
        """
        pass

Harap pastikan bahwa model Anda mengeluarkan skor log kemungkinan dalam format yang dapat kami gunakan secara langsung untuk membuat tolok ukur desain urutan antibodi. Ini akan membantu kami membandingkan performa model Anda di seluruh kumpulan data kami secara efisien.

Pelatihan

Ada satu file konfigurasi: sabdab.yaml, yang dapat digunakan untuk mengubah parameter apa pun. Anda dapat melatih model dengan menggunakan:

 python train.py # For training.

Struktur repo

 - kereta.py

- src
    |-model.py
    
- konfigurasi
    |-sabdab.yaml
    
- utilitas
    |-load_data.py
    |-argumen.py
    |-model_utils.py
    |-loss_functions.py
    ...
    
- data
    |-dia2
    ...

Pelacakan eksperimen

Bobot & Bias dapat digunakan untuk melacak eksperimen. Ini dinonaktifkan secara default, tetapi dapat diaktifkan dengan mengubah opsi di file konfigurasi di ./config/sabdab.yaml

Mengutip makalah tersebut

 @article {Ucar2024.10.07.617023,
	author = {Ucar, Talip and Malherbe, Cedric and Gonzalez Hernandez, Ferran},
	title = {Exploring Log-Likelihood Scores for Ranking Antibody Sequence Designs},
	elocation-id = {2024.10.07.617023},
	year = {2024},
	doi = {10.1101/2024.10.07.617023},
	publisher = {Cold Spring Harbor Laboratory},
	URL = {https://www.biorxiv.org/content/early/2024/10/24/2024.10.07.617023},
	eprint = {https://www.biorxiv.org/content/early/2024/10/24/2024.10.07.617023.full.pdf},
	journal = {bioRxiv}
}

Mengutip repo ini

Jika Anda menggunakan DiffAbXL dalam studi dan pekerjaan Anda sendiri, harap kutip dengan menggunakan yang berikut ini:

 @Misc{talip_ucar_2024_DiffAbXL,
	author =   {Talip Ucar},
	title = {Exploring Log-Likelihood Scores for Ranking Antibody Sequence Designs},
	URL = {https://github.com/AstraZeneca/DiffAbXL},
	month = {October},
	year = {since 2024}
}

Memperluas

Informasi Tambahan