尧图网站建设 
MiniMind 本地部署指南30分钟跑通 64M 轻量 LLM 与 WebUI 对话界面【免费下载链接】minimind Train a 64M-parameter LLM from scratch in just 2h!项目地址: https://gitcode.com/GitHub_Trending/min/minimindMiniMind 是一个从零实现的轻量级大语言模型项目主线模型minimind-3约 64M 参数核心代码用 PyTorch 原生编写并开源了预训练、SFT、LoRA、RLHF 等完整链路。对刚接触 LLM 的开发者来说它的价值在于既能直接下载现成权重在本地对话也能顺着仓库把训练过程看个明白。本文只解决一件事——把 MiniMind 在你电脑上跑起来先确认环境再拿代码和权重然后用命令行验证模型可用最后打开网页版对话界面。全程只需要 Python 3.10 和一行依赖安装命令有 NVIDIA 显卡会更快没有也能在 CPU 上体验。先花两分钟确认环境是否就绪部署失败大多出在环境上动手前先做三个检查Python 版本WebUI 需要python 3.10建议直接用 3.10 或 3.11 建一个干净的虚拟环境。依赖安装仓库根目录提供了 requirements.txt一条命令装齐torch 需要按自己显卡单独安装requirements 里默认注释掉了pip install -r requirements.txt -i https://mirrors.aliyun.com/pypi/simple计算后端确认写几行代码看看 PyTorch 能否识别你的 GPUimport torch print(torch.cuda.is_available())输出True说明 CUDA 可用推理会明显更快输出False也不影响本次部署CLI 和 WebUI 都会自动回落到 CPU只是生成速度较慢。一次拿齐代码和模型权重代码与权重是两条独立的路径分开下载克隆代码仓库只读使用即可不需要修改任何代码git clone https://gitcode.com/GitHub_Trending/min/minimind cd minimind下载模型权重。minimind-3发布在 ModelScope 上安装好 modelscope CLI 后requirements 中已包含modelscope1.37.0modelscope download --model gongjy/minimind-3 --local_dir ./minimind-3下载完成后项目根目录应多出一个minimind-3/文件夹里面是 transformers 格式的权重和 tokenizer 文件。如果命令行下载不稳定也可以从 ModelScope 网页端手动下载同名模型包解压到同一位置。仓库 README 中还列有 minimind2104M、minimind2-small26M等历史版本入门体验建议直接使用当前的minimind-3主线版本。第一次对话用命令行验证模型能跑模型文件就位后最快的验证方式是根目录下的 eval_llm.py。进入项目根目录执行python eval_llm.py --load_from ./minimind-3--load_from指向 transformers 格式的模型目录。启动后进入交互式问答直接输入问题即可看到流式回复另有一种用法是加载项目自训的 PyTorch 原生权重python eval_llm.py --load_from ./model --weight full_sft常用参数不必全记用到时查这张表均来自 eval_llm.py 的定义完整参数执行python eval_llm.py --help参数默认值作用--load_frommodel模型路径指向 transformers 格式目录或model--weightfull_sft原生权重名称前缀如pretrain、full_sft--device自动有 CUDA 用 CUDA否则 CPU指定cuda/cpu运行设备--max_new_tokens8192单次最大生成长度--temperature0.85采样温度越大越随机--open_thinking0置 1 开启显式思考输出如果命令行能稳定问答说明代码、权重、依赖三件事都齐了剩下的只是换一种入口而已。打开网页版对话界面WebUI命令行验证通过后用 Streamlit 启动图形界面。这里有一个官方 README 明确要求的前置步骤必须先把 transformers 格式的模型文件夹复制到scripts/目录下因为 web_demo.py 只扫描该目录下含权重文件的子文件夹找不到会直接报错cp -r minimind-3 ./scripts/minimind-3 cd scripts streamlit run web_demo.py启动成功后浏览器会自动打开默认地址 http://localhost:8501。页面提供历史轮次、最大长度、温度等调节项底部还支持「思考」开关与工具选择数学、时间、翻译等内置模拟工具最多选 4 个可以体验多轮 Tool Call 的调用过程。Streamlit 版本以 requirements.txt 中的streamlit1.50.0为准若单独安装过其他版本建议以 requirements 统一避免页面渲染差异。启动失败时先查这几处按出现频率排序绝大多数问题都能在下面对号入座WebUI 报找不到模型/权重scripts/目录里没有带权重文件的子文件夹。确认执行过上一步的cp -r minimind-3 ./scripts/minimind-3。CLI 启动即报模块错误No module named ...依赖没装全。回到项目根目录重跑pip install -r requirements.txt注意 torch 需单独安装且版本要与你机器的 CUDA 匹配。Python 版本过低导致 streamlit 异常WebUI 依赖python 3.10python --version低于该值时先换解释器。生成很慢或被杀进程没有 GPU 时 CPU 推理偏慢属正常现象可加--max_new_tokens限制生成长度先快速验证。想确认到底跑在哪个设备上看 CLI 启动日志的设备输出WebUI 会自动选择cuda或cpu见 web_demo.py 中的 device 逻辑。跑通之后仓库里还有这些可看的内容对话只是入口。MiniMind 真正完整的地方是训练链路trainer/ 目录包含train_pretrain.py、train_full_sft.py、train_lora.py、train_dpo.py、train_grpo.py等脚本dataset/ 目录存放训练数据说明。README 给出的最小复现组合是pretrain_t2t_mini.jsonlsft_t2t_mini.jsonl两份数据在单张 3090 上约 2 小时、3 元租卡成本内完成预训练 SFT。主线结构对齐 Qwen3 生态配置为 8 层、dim 768、RoPE GQA结构如下图所示训练阶段的 loss 收敛曲线预训练阶段如果你的目标只是部署与体验本文到 WebUI 一节即可收工如果想理解这个小模型是怎么被训练出来的从 trainer/ 里的预训练脚本读起是性价比最高的路径。【免费下载链接】minimind Train a 64M-parameter LLM from scratch in just 2h!项目地址: https://gitcode.com/GitHub_Trending/min/minimind创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考 MiniMind 本地部署指南：30分钟跑通 64M 轻量 LLM 与 WebUI 对话界面
MiniMind 本地部署指南30分钟跑通 64M 轻量 LLM 与 WebUI 对话界面【免费下载链接】minimind Train a 64M-parameter LLM from scratch in just 2h!项目地址: https://gitcode.com/GitHub_Trending/min/minimindMiniMind 是一个从零实现的轻量级大语言模型项目主线模型minimind-3约 64M 参数核心代码用 PyTorch 原生编写并开源了预训练、SFT、LoRA、RLHF 等完整链路。对刚接触 LLM 的开发者来说它的价值在于既能直接下载现成权重在本地对话也能顺着仓库把训练过程看个明白。本文只解决一件事——把 MiniMind 在你电脑上跑起来先确认环境再拿代码和权重然后用命令行验证模型可用最后打开网页版对话界面。全程只需要 Python 3.10 和一行依赖安装命令有 NVIDIA 显卡会更快没有也能在 CPU 上体验。先花两分钟确认环境是否就绪部署失败大多出在环境上动手前先做三个检查Python 版本WebUI 需要python 3.10建议直接用 3.10 或 3.11 建一个干净的虚拟环境。依赖安装仓库根目录提供了 requirements.txt一条命令装齐torch 需要按自己显卡单独安装requirements 里默认注释掉了pip install -r requirements.txt -i https://mirrors.aliyun.com/pypi/simple计算后端确认写几行代码看看 PyTorch 能否识别你的 GPUimport torch print(torch.cuda.is_available())输出True说明 CUDA 可用推理会明显更快输出False也不影响本次部署CLI 和 WebUI 都会自动回落到 CPU只是生成速度较慢。一次拿齐代码和模型权重代码与权重是两条独立的路径分开下载克隆代码仓库只读使用即可不需要修改任何代码git clone https://gitcode.com/GitHub_Trending/min/minimind cd minimind下载模型权重。minimind-3发布在 ModelScope 上安装好 modelscope CLI 后requirements 中已包含modelscope1.37.0modelscope download --model gongjy/minimind-3 --local_dir ./minimind-3下载完成后项目根目录应多出一个minimind-3/文件夹里面是 transformers 格式的权重和 tokenizer 文件。如果命令行下载不稳定也可以从 ModelScope 网页端手动下载同名模型包解压到同一位置。仓库 README 中还列有 minimind2104M、minimind2-small26M等历史版本入门体验建议直接使用当前的minimind-3主线版本。第一次对话用命令行验证模型能跑模型文件就位后最快的验证方式是根目录下的 eval_llm.py。进入项目根目录执行python eval_llm.py --load_from ./minimind-3--load_from指向 transformers 格式的模型目录。启动后进入交互式问答直接输入问题即可看到流式回复另有一种用法是加载项目自训的 PyTorch 原生权重python eval_llm.py --load_from ./model --weight full_sft常用参数不必全记用到时查这张表均来自 eval_llm.py 的定义完整参数执行python eval_llm.py --help参数默认值作用--load_frommodel模型路径指向 transformers 格式目录或model--weightfull_sft原生权重名称前缀如pretrain、full_sft--device自动有 CUDA 用 CUDA否则 CPU指定cuda/cpu运行设备--max_new_tokens8192单次最大生成长度--temperature0.85采样温度越大越随机--open_thinking0置 1 开启显式思考输出如果命令行能稳定问答说明代码、权重、依赖三件事都齐了剩下的只是换一种入口而已。打开网页版对话界面WebUI命令行验证通过后用 Streamlit 启动图形界面。这里有一个官方 README 明确要求的前置步骤必须先把 transformers 格式的模型文件夹复制到scripts/目录下因为 web_demo.py 只扫描该目录下含权重文件的子文件夹找不到会直接报错cp -r minimind-3 ./scripts/minimind-3 cd scripts streamlit run web_demo.py启动成功后浏览器会自动打开默认地址 http://localhost:8501。页面提供历史轮次、最大长度、温度等调节项底部还支持「思考」开关与工具选择数学、时间、翻译等内置模拟工具最多选 4 个可以体验多轮 Tool Call 的调用过程。Streamlit 版本以 requirements.txt 中的streamlit1.50.0为准若单独安装过其他版本建议以 requirements 统一避免页面渲染差异。启动失败时先查这几处按出现频率排序绝大多数问题都能在下面对号入座WebUI 报找不到模型/权重scripts/目录里没有带权重文件的子文件夹。确认执行过上一步的cp -r minimind-3 ./scripts/minimind-3。CLI 启动即报模块错误No module named ...依赖没装全。回到项目根目录重跑pip install -r requirements.txt注意 torch 需单独安装且版本要与你机器的 CUDA 匹配。Python 版本过低导致 streamlit 异常WebUI 依赖python 3.10python --version低于该值时先换解释器。生成很慢或被杀进程没有 GPU 时 CPU 推理偏慢属正常现象可加--max_new_tokens限制生成长度先快速验证。想确认到底跑在哪个设备上看 CLI 启动日志的设备输出WebUI 会自动选择cuda或cpu见 web_demo.py 中的 device 逻辑。跑通之后仓库里还有这些可看的内容对话只是入口。MiniMind 真正完整的地方是训练链路trainer/ 目录包含train_pretrain.py、train_full_sft.py、train_lora.py、train_dpo.py、train_grpo.py等脚本dataset/ 目录存放训练数据说明。README 给出的最小复现组合是pretrain_t2t_mini.jsonlsft_t2t_mini.jsonl两份数据在单张 3090 上约 2 小时、3 元租卡成本内完成预训练 SFT。主线结构对齐 Qwen3 生态配置为 8 层、dim 768、RoPE GQA结构如下图所示训练阶段的 loss 收敛曲线预训练阶段如果你的目标只是部署与体验本文到 WebUI 一节即可收工如果想理解这个小模型是怎么被训练出来的从 trainer/ 里的预训练脚本读起是性价比最高的路径。【免费下载链接】minimind Train a 64M-parameter LLM from scratch in just 2h!项目地址: https://gitcode.com/GitHub_Trending/min/minimind创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考