DolboNet

亲爱的英语用户，不幸的是，该项目目前只有俄语版本。带来不便敬请谅解。

多尔博网

我们很高兴向您展示我们的开发成果 -基于 Transformer 架构的 Discord 俄语聊天机器人。

该神经网络在一个 epoch （ GTX 1080上 5 天）内接受了来自最流行的俄语Discord服务器的3600 万条以上公开消息的训练。训练基于这样的原则：在字符三元组嵌入级别上，哪条消息最有可能在前 10 条消息之后发送。

该机器人不使用现成的消息数据库，而是生成新的独特消息，在 Transformer 架构上实现 seq2seq 概念。网络的基础取自TensorFlow 2教程。

这种模式在 2019 年很有意义，但很快就过时了。您可以通过关注这里找到更好、更现代的东西。

我们走吧！

安装

Windows 10 64 位

在2 个 2.6 GHz CPU + 4 GB RAM上测试。

• 安装Python 3.8 64位
• 安装Python 3.8 64位时，必须选中Install launcher for all users (recommended)和Add Python 3.8 to PATH
• 安装Git
• 安装Visual C++ Redistributable - scipy所需
• 右键单击文件夹内的空白区域（例如，我的文档）并选择Git Bash Here打开Git Bash
• 下载存储库： git clone https://github.com/sergree/DolboNet
• 转到文件夹： cd DolboNet
• 在出现的窗口中运行pip install -r requirements.txt
• 获取您的机器人令牌 - 说明
• 编辑config.py配置文件，将机器人令牌插入token = "..."
• ️在您的机器人帐户设置中启用消息内容意图
• 最后，运行机器人： python bot.py
• 机器人将在 5-10 分钟内加载

该机器人只能在64 位Windows和Python上运行。

Ubuntu 20.04 LTS

在2 个 2.6 GHz CPU + 2 GB RAM上测试。

• 下载存储库： git clone https://github.com/sergree/DolboNet
• 转到文件夹： cd DolboNet
• 如果尚未安装pip3 ，请安装它： sudo apt install python3-pip
• 安装依赖项： pip3 install -r requirements.txt
• 获取您的机器人令牌 - 说明
• 编辑配置文件： nano config.py ，将bot token插入token = "..."
• ️在您的机器人帐户设置中启用消息内容意图
• 最后，运行机器人： python3 bot.py
• 机器人将在 5-10 分钟内加载

GPU支持

如果机器有NVIDIA显卡，那么您可以使用CUDA运行机器人，这将提高其速度。

• 如果已经安装了依赖项，请卸载tensorflow ： pip uninstall tensorflow
• 安装CUDA® Toolkit和cuDNN SDK - 说明
• 安装pip install tensorflow-gpu>=2.3.1或pip install -r requirements_gpu.txt

️如果您是第一次执行此操作并且不想在安装过程中花费整个晚上，我们不建议您设置GPU 支持️

附加设置

在config.py文件中，您可以编辑一些参数来更改机器人的性质和行为：

• temperature - 采样温度 - 调节生成文本的性质和多样性

意义	描述
0.01	我只知道你好这个词
0.3	重复鹦鹉
0.65	默认
1.3	醉诗人
3	趴在键盘上睡着了

为了便于实验，可以将!temp значение命令发送到Discord以动态编辑该值。该命令仅适用于具有管理员权限的用户。

• mention_prob - 机器人响应提及它的消息的概率。可以取0到1之间的值。默认值： 1 ，即100%
• no_mention_prob - 机器人响应未提及的消息的概率。可以取0到1之间的值。默认值： 0.2 ，即20%
• command_temperature_change - 如果您不喜欢!temp значение ，可以使用命令更改温度？
• use_delay - 模拟人类在键盘上打字的速度，默认为False ，因为在CPU上生成过程不够快
• discord_game_name - Discord中的机器人状态

最好不要编辑其余参数。

咖啡

☕ 如果你对项目的开发感兴趣，可以请我喝杯咖啡。 ☕

谢谢你！

常问问题

我有半个服务器都是这样的白痴，为什么我还需要另一个呢？

• 他可以帮助节制：

• 有时甚至非常好：

• 喜欢的动漫：

• 分享最新消息：

• 他不会让你感到无聊：

• 当然，它的味道也很棒：

但说实话，只有一个原因。

您托管这个机器人吗？我可以使用公共版本吗？给我一个链接！

关联。该机器人并不总是可用，有时响应缓慢。我们不托管该机器人的公共版本。为了让它出现在您的Discord服务器上，必须安装它。

哪些服务器已经安装了这个机器人？

我们知道该机器人已经托管在这里：

• ！佩佩斯坦共和国及其公民
• 趣味俱乐部
• 莱维娅乐趣
• ！分子梦想世界 ☘

请写信给我们以加入此名单。

他基本上是在发出语无伦次的废话。 ？

是的，有这样的事情。但有时结果很有趣。

这是无用的废话，明白吗？

当然。就像我们现代世界中的许多其他事物一样。

该机器人向我发送了侮辱或威胁！混乱！ ？

机器人的神经网络仅反映进行训练的公共数据。也许这给我们的社会敲响了警钟。反正我们也不想。

英语呢？

在这个阶段，我们决定不在拉丁三字词上浪费网络容量。使用opendatakosovo/cyrillic-transliteration将拉丁语自动音译为西里尔语。我们测试了许多类似的库，这个是最快的。

为什么是卦象？

因为他伟大而强大。当然，这个想法不是我们的，而是取自本书。

也许使用词干分析会更好？

不是在这种情况下。因为聊天中的人们总是在谈论错误，有时甚至是胡言乱语。有时是translitom，ile fse vmesti。 ？

整理维基百科或新闻提要是另一回事。

他也可以发表情符号吗？

是的。暂时只是随机的。所有自定义表情符号都会在字典中分配一个标记。未来，有计划将CNN与分类器联系起来。

您刚刚复制了TensorFlow 2的指南，您自己做了什么？

• 用于标记俄语文本和解析Discord实体的算法：提及用户/角色/频道、链接、表情符号等。
• 我们挖掘了许多可用的Transformer实现
• 我们找到了合适的实现并将其与我们的 tokenizer 和Discord API链接起来
• 解析了来自俄语Discord社区的3600 万多条公共消息，并对其进行了训练
• 此文字已打印

LSTM呢？

我们就把它留在这里。

接下来怎么办？

• 解析更多，训练时间更长
• 用于无监督表情符号分类的CNN
• 尝试通用变压器
• 还有变压器XL
• 如果咖啡没有用完

？