上下而求索
朱兴达的个人博客
  • 主页
  • 技术
  • 笔记本
  • 生活
  • 关于我

【LLM】VLLM 单卡部署 Qwen3-4B

2025-05-23
LLM

尝试在个人显卡上部署一个 Qwen-4B 模型

分类

  • Algorithem
  • LLM
  • 分布式系统
  • 大数据
  • 操作系统
  • 收藏
  • 数据仓库
  • 编程语言

标签

Algorithm Flink Go Java Kubernetes Leetcode Network Paimon Qwen3 Ray Ray Data VLLM 分布式协议 文件格式

近期文章

  • 【数据仓库】数仓建模理论
  • 【LLM】VLLM 单卡部署 Qwen3-4B
  • 【Paimon】文件结构
  • 【Ray】Ray Data 模块入门
  • 【Linux】Linux 服务器抓包记录
  • ORC 和 Parquet 文件格式
  • Go 和 Java 在多线程、内存模型、垃圾回收上的对比
  • 分布式协议总结
  • 【Flink】Flink Watermark 产生和传递原理
  • 【Kubernetes】记录一些在使用 Kubernetes 时遇到的问题

社交

GitHub
Email
youtube Youtube
Bilibili
© 2025 Zhu Xingda. 基于 Hugo 引擎和 Mainroad 主题