Gossiping Chinese Corpus

PTT китайский корпус

? Новости: Мы использовали аналогичную стратегию сбора данных для обучения крупномасштабной языковой модели традиционного китайского языка. Информацию о производительности и использовании модели см. на сайте Kyara.

---

Привет, вот корпус PTT на китайском языке. Я использовал определенные предположения и методы, чтобы упростить каждую статью до пары вопросов и ответов, где вопросы берутся из названия статьи, а ответы — это твиты статьи. К сожалению, шум в этом наборе данных в настоящее время все еще немного громкий. Если у вас есть лучший способ извлечь пары вопросов и ответов из статей или если вы обнаружите какие-либо части этого набора данных, которые можно улучшить, свяжитесь со мной. .Также желаю всем плавного развития:>

Описание информации

Существует два набора данных, которые можно получить из PTT-Gossiping-Corpus или из папки data этого проекта.

Сплетни-QA-Dataset.txt

Сборник статей из PTT Bagua Edition с 2015 по июнь 2017 года. Каждая строка представляет собой пару вопросов и ответов, а вопрос и ответ разделены, например, разделом табуляции ( t ).

 matlab有什麼炫砲一點的圖？	一樣的圖改一改顏色，有點半透明感覺更唬爛炫
有沒有情人節吃什麼cp值最高的八卦	吃屎啊廢話 免費的一餐
姆咪一個人守得住街亭嗎?	引來一堆肥宅穢土轉生 有機會喔
有沒有被落石砸到該反省的八卦	蔡英文執政就故意誇大報導 東森不意外
情人節該帶女朋友去哪慶祝？	用了一整年 對她好一點  送專業乾洗店吧
為什麼 聖結石 會被酸而 這群人 不會？	質感 劇本 成員 都差很多好嗎 不要拿腎結石來污辱這群人
為什麼慶祝228會被罵可是慶端午不會？	因為屈原不是台灣人，是楚國人。
有沒有戰神阿瑞斯的八卦?	爵士就是阿瑞斯 男主角最後死了
理論與實務最脫節的系	哪個系不脫節...你問最不脫節的簡單多了...
為什麼PTT這麼多人看棒球	肥宅才看棒球　系壘一堆胖子
為什麼達摩祖師傳那麼好看?	達摩從頭到尾都是被動 (別人問他問題

На данный момент имеется 418 202 совпадений вопросов и ответов, но не все совпадения действительны, поскольку в некоторых статьях нет твитов. Ответы на такие вопросы будут помечены как沒有資料(всего 650).

Сплетни-QA-Dataset-2_0.csv

Новая версия набора данных расширена из Gossiping-QA-Dataset.txt, добавлены некоторые статьи за 2018 и 2019 годы, и содержит в общей сложности 774 114 пар вопросов и ответов. Формат данных настроен на csv, который содержит два столбца: question и answer . Его можно легко загрузить с помощью панд:

 import pandas as pd
qa_corpus = pd.read_csv("data/Gossiping-QA-Dataset-2_0.csv")
qa_corpus.head()

# question	answer
# 173763	今年房市是多還是空？	有台北市的房子 再來討論
# 216985	有沒有台灣高登拉姆齊-劉一帆的八卦?	餐飲界賈伯斯
# 679552	什麼時候會覺得台灣治安很差？	台灣一年輾死三千多人
# 349323	有沒有早上起來運動很舒服的八卦？	肥宅每天都在運動,手部運動
# 42228	迪士尼還有什麼片子適合拍成真人版	想說我剛剛不是進sex版啊...

Цитирование

Если вы считаете, что набор данных полезен для вашего исследования, укажите наш проект:

 @misc{
    kai-chou yang_2019,
    title={PTT-Gossiping-Corpus},
    url={https://www.kaggle.com/dsv/676336},
    DOI={10.34740/DVS/676336},
    publisher={Kaggle},
    author={Kai-Chou Yang},
    year={2019}
}