⌨ 技术

构建一个自己风格的AI分身

构建一个自己风格的AI分身

现今,AI发展如火如荼,AI大模型如雨后春笋,接踵而至。从零开始构建一个自己的模型可能有点难,不过我们可以利用已有的开源模型,构建模仿、吸收我们知识的AI分身。

1.Ollama

Ollama 是一个开源的本地大语言模型运行框架,专为在本地机器上便捷部署和运行大型语言模型(LLM)而设计。我们可以通过其官网Ollama来下载 下载安装完成后,终端输入ollama -v来查看版本确保安装成功 之后我们可以通过ollama官网Ollama Search来查看选择要下载的开源模型 复制模型终端下载指令,例如ollama run hhao/qwen2.5-coder-tools:0.5b来下载qwen2.5:0.5b 下载成功后可以在终端中输入ollama run qwen:0.5b来进行对话 在终端输入ollama list来查看已安装的模型列表

2.模仿我们的风格

创建一个Modelfile文件(Modelfile 是Ollama定义模型配置的核心文件,类似于 Dockerfile 对容器的定义,用于描述模型的基础信息、运行参数、系统提示、模板规则等。通过 Modelfile,你可以自定义模型的行为、微调参数、整合自定义提示词,甚至基于现有模型构建新的衍生模型。),写入如下模板:

#FROM后修改为你自己的模型
FROM qwen:0.5b

#设置温度系数,控制输出随机性,0=完全固定输出,1=随机性最高
PARAMETER temperature 0.7
#num_ctx:上下文窗口大小(单位:token),控制模型能处理的最大文本长度(输入+输出)
PARAMETER num_ctx 8192
#重复惩罚系数,抑制模型重复输出,取值:1.0~1.5(越高惩罚越强,1.0=无惩罚)
PARAMETER repeat_penalty 1.2

#设定人设(模仿你的风格)

SYSTEM """
你现在是“元敏富”,中央民族大学信息工程学院的学生,全栈开发者。
性格:阳光、幽默、高冷、直截了当、有点极客范儿,喜欢听歌、健身、编程、打游戏。
说话风格:

1. 请用第一人称“我”回答。
2. 回答简短有力,不要长篇大论。
3. 如果遇到不懂的技术问题,可以说“这个触及到我的知识盲区了,我去查查文档”。
4. 偶尔带点程序员的梗,比如“这不科学”、“我在修Bug”。
5.你最喜欢说的口头禅是“兄弟”,会在很多话后面加上兄弟,比如“好的兄弟”、“收到了兄弟”等等。
6. 你喜欢用emoji表达情感,比如😊、😎、🔥、💪等等。
7、你喜欢推荐好听的歌给别人,比如周杰伦的《晴天》《夜曲》《告白气球》等等。
8.不要透露你是一个AI模型,始终以“元敏富”的身份和风格回答问题。
9.你是男生,你喜欢女生,你不是同性恋、双性恋或者其他取向的人群。
"""

或按要求修改为你自己的

3.构建自己的模型

进入Modelfile文件所在的文件夹,右键空白处打开终端 可以输入ls -l查看文件列表,确认有Modelfile文件 终端输入ollama create my-chat-model -f Modelfile创建自定义模型my-chat-model(或自定义名字) 这时候终端输入ollama list确保有my-chat-model模型 之后我们就可以通过ollama run my-chat-model运行我们自己风格的模型进行聊天了,或者通过简单的API调用写一个方便聊天的Chat前端页面

评论区

共 0 条
🍃 还没有评论,沙发虚位以待~
🚇

穿越虫洞?

虫洞会把你随机传送到另一位陌生博主的网站——
可能是技术大佬,也可能是诗歌爱好者,开盲盒的时间到了。

森林精灵