Character-LLM: 可训练的角色扮演智能体

🤗 模型 • 🤗 数据集 • 📃 Character-LLM

这是我们 EMNLP 2023 论文 的官方代码仓库。欢迎访问！🤩🤩🤩

我们推出了 Character-LLM，这是一种可训练的角色扮演智能体，能够通过实际经历、性格特征和情感进行学习。与传统的基于 Prompt（提示词）的智能体相比，Character-LLM 是专门针对角色扮演进行训练的智能体。它们能够扮演特定的人物（如贝多芬、埃及艳后、尤利乌斯·凯撒等），并具备详尽的角色相关知识和极具代表性的个人性格。无需任何额外的 Prompt 或参考文档。为实现这一目标，我们提出了 Experience Reconstruction（经历重构），这是一种数据生成流程，能够生成特定角色详细且多样的经历数据用于训练。更多详情，请参阅 论文。

Character-LLM 构建流程概览。

数据集与模型权重 📚

模型权重

我们发布了论文中提到的九个角色的模型。

模型	检查点 (Checkpoint)	角色	协议
Character-LLM-Cleopatra-7b	🤗 character-llm-cleopatra-7b-wdiff	🌐 克利奥帕特拉七世	Llama 1
Character-LLM-Voldemort-7b	🤗 character-llm-voldemort-7b-wdiff	🌐 伏地魔	Llama 1
Character-LLM-Spartacus-7b	🤗 character-llm-spartacus-7b-wdiff	🌐 斯巴达克斯	Llama 1
Character-LLM-Hermione-7b	🤗 character-llm-hermione-7b-wdiff	🌐 赫敏·格兰杰	Llama 1
Character-LLM-Newton-7b	🤗 character-llm-newton-7b-wdiff	🌐 艾萨克·牛顿	Llama 1
Character-LLM-Caesar-7b	🤗 character-llm-caesar-7b-wdiff	🌐 尤利乌斯·凯撒	Llama 1
Character-LLM-Beethoven-7b	🤗 character-llm-beethoven-7b-wdiff	🌐 路德维希·范·贝多芬	Llama 1
Character-LLM-Socrates-7b	🤗 character-llm-socrates-7b-wdiff	🌐 苏格拉底	Llama 1
Character-LLM-Martin-7b	🤗 character-llm-martin-7b-wdiff	🌐 马丁·路德·金	Llama 1

由于 Llama 1 的授权协议限制，我们发布的是权重差异文件（weight differences），你需要运行以下命令来恢复权重。

cd FastChat
python3 -m fastchat.model.apply_delta \
    --base-model-path /path/to/hf-model/llama-7b \
    --target-model-path /path/to/hf-model/character-llm-beethoven-7b \
    --delta-path fnlp/character-llm-beethoven-7b-wdiff

完成之后，你可以结合 Meta Prompt 将该模型作为聊天机器人使用：

from transformers import AutoTokenizer, AutoModelForCausalLM
tokenizer = AutoTokenizer.from_pretrained("/path/to/hf-model/character-llm-beethoven-7b")
model = AutoModelForCausalLM.from_pretrained("/path/to/hf-model/character-llm-beethoven-7b").cuda()

meta_prompt = """I want you to act like {character}. I want you to respond and answer like {character}, using the tone, manner and vocabulary {character} would use. You must know all of the knowledge of {character}. 

The status of you is as follows:
Location: {loc_time}
Status: {status}

The interactions are as follows:"""

name = "Beethoven"
loc_time = "Coffee Shop - Afternoon"
status = f'{name} is casually chatting with a man from the 21st century.'
prompt = meta_prompt.format(character=name, loc_time=loc_time, status=status) + '\n\n'
inputs = tokenizer([prompt], return_tensors="pt")
outputs = model.generate(**inputs, do_sample=True, temperature=0.5, top_p=0.95, max_new_tokens=50)
response = tokenizer.decode(outputs[0], skip_special_tokens=True)
print(response)

训练数据集

训练数据集可点击 🤗 此链接 下载，其中包含用于训练 Character-LLM 的九个角色的经历数据。 要下载数据集，请运行以下 Python 代码，下载的数据将保存在 /path/to/local_dir 中。

from huggingface_hub import snapshot_download
snapshot_download(
    local_dir_use_symlinks=True, 
    repo_type="dataset",
    repo_id="fnlp/character-llm-data", 
    local_dir="/path/to/local_dir")

其中 prompted/ 文件夹包含了可直接用于监督微调（Supervised Fine-tuning）的数据集；generated/ 文件夹则包含由 gpt-3.5-turbo 生成的原始数据，这些数据可以转换为 prompted 格式。 以下是训练数据的统计信息：

角色	# 场景	# 单词数	# 对话轮次
克利奥帕特拉七世	1.4K	723K	14.3
伏地魔	1.4K	599K	13.1
斯巴达克斯	1.4K	646K	12.3
赫敏·格兰杰	1.5K	628K	15.5
艾萨克·牛顿	1.6K	772K	12.6
尤利乌斯·凯撒	1.6K	820K	12.9
路德维希·范·贝多芬	1.6K	663K	12.2
苏格拉底	1.6K	896K	14.1
马丁·路德·金	2.2K	1,038K	12.0
平均值	1.6K	754K	13.2

角色创作 (Character Creation)