lm steganography

隱寫術

這是出版品《走向近乎難以察覺的隱寫文本》附帶的程式碼庫。它實現了論文中概述的語言隱寫系統的設計、提出的patient-Huffman演算法以及我們在論文中用於實證研究的程式碼。

初步的

我們研究的隱寫系統假設一個密碼系統可以產生要編碼為隱寫文字的密文。在這項工作中，我們透過控制語言模型的取樣將密文編碼為流暢的隱寫文字。我們專注於提供不可察覺性（隱寫保密性），而密碼安全性則由密碼系統提供。

用法

• example.ipynb包含一個完整的範例，包括加密/解密步驟。
• core.py包含隱寫系統編碼/解碼的說明性最小工作範例。
• 您可能需要GPT-2 （作為 git 子模組包含）和公開發布的GPT-2-117M語言模型來產生隱寫文字。
• 該方法實現了patient-Huffman編碼演算法。及其對應的解碼方法。
• samples/目錄包含使用patient-Huffman （不可感知參數為 0.08，隨機位元串長度為 32）產生的 20 個樣本和來自基本語言模型的 20 個樣本。這是為了透過將受控樣本與不受控（標準採樣）樣本進行比較來提供演算法所提供的不可察覺性的主觀感覺。
• 這本筆記本包含圖表和實證分析。

複製

非常歡迎獨立複製！請引起我們的注意，我們將在此處列出它們。我們在提交 ACL 時使用的原始程式碼，請參閱標記為acl-2019 git commit。

常問問題

這是一個研究原型。請謹慎使用它作為隱私保護工具。

• 什麼是隱寫術？
  • 隱寫術是關於隱藏一個人正在隱藏某些東西的事實。其目的是避免引起竊聽者（或通道監控者）懷疑正在發生某些秘密通訊。
• 我們所說的不可察覺是什麼意思？
  • 理想情況下，我們希望隱寫通訊是難以察覺的，也就是隱藏在眾目睽睽之下。特別是，我們透過詢問對手需要多少樣本才能發現隱寫通訊的存在來形式化這個概念。這正是有效語言模型和基礎語言模型之間的總變異距離（以及 Kullback-Leibler 散度）所測量的。
• 是否存在任何已知的漏洞？
  • 在本文的設定中，我們假設對手是被動的，即它只是觀察訊息。人們可以想像一個更強大的對手也可以乾擾訊息本身。這種對手的目的可能是破壞隱寫通信，但不一定發現其存在或破壞非秘密通信。例如，透過注入常見的拼字錯誤。這種設定有時被稱為魯棒隱寫術，我們認為這種類型的隱寫系統在這種攻擊下是脆弱的。

參考

如果您發現此儲存庫或相關論文有用，請引用我們的工作。

 Dai, Falcon Z and Cai, Zheng. Towards Near-imperceptible Steganographic Text. Proceedings of ACL. 2019.

 @inproceedings { dai-cai-2019-towards ,
    title = " Towards Near-imperceptible Steganographic Text " ,
    author = " Dai, Falcon Z and Cai, Zheng " ,
    booktitle = " Proceedings of Association for Computational Linguistics " ,
    month = july,
    year = " 2019 " ,
    publisher = " Association for Computational Linguistics "
  }