归档: 2025/4 | 墨宇Logic

2025

04

29

关于Open Compass模型评估框架的基本使用教程

2025-04-29 AI大模型应用开发

Markdown Python vllm PyTorch OpenCompass

27

使用llama.cpp框架转换hf模型格式为GGUF并通过ollama实现本地部署调用和使用open-webui界面调用案例教程

2025-04-27 AI大模型应用开发

ollama Python Linux PyTorch huggingface open-webui llama_cpp

25

基于LLaMA-Factory模型微调框架，使用Unichat-llama3.2-Chinese-1B 和弱智吧数据集来进行模型微调训练、评估、量化、导出实现全过程

2025-04-25 AI大模型应用开发

Python vllm PyTorch LLaMA-Factory

23

Linux安装Ollama安装命令：curl -fsSL https://ollama.com/install.sh | sh 如果下载速度很慢，可以开启学术加速开启学术加速:source /etc/network_turbo 取消学

2025-04-23 AI大模型应用开发

ollama Python Linux LLaMa LoRA

21

LLaMa3微调LoRA基本概念LoRA（Low-Rank Adaptation）是一种用于大模型微调的技术，通过引入低秩矩阵来减少微调时的参数量。在预训练的模型中，LoRA通过添加两个小矩阵B和A来近似原始的大矩阵ΔW，从而减少需要更新的

2025-04-21 AI大模型应用开发

ollama Python Linux LLaMa LoRA

17

关于在win11系统下，使用WSL2来安装Ubuntu22.04系统来配套安装深度学习框架，来进行AI大模型应用开发学习

2025-04-17 实用教程

Markdown

15

关于RAG-Embedding-Vector知识点，以及RAG实现的基本流程实操记录

2025-04-15 AI大模型应用开发

Markdown RAG Embeddings OpenAI

11

这个教程使用的个人博客框架是hexo，博客文件拖管于github，博客网站用netlify生成，国内访问采用Cloudflare进行CDN加速。

2025-04-11 博客搭建教程

css Markdown