服务器 GPU 配备太多的显存会导致 Linux 系统休眠出现问题
2025-06-30 23:11 by 海底两万里
大模型时代，越来越多的数据中心安装了专用 GPU 加速器，而这些加速器配备了数百 GB 容量的显存（VRAM）。在特定的情况下，如果服务器系统内存容量太少，休眠功能可能会出现问题，从休眠中恢复可能需要多达 1 个小时。AMD 工程师 Samuel Zhang 递交了补丁修复了该问题。他解释说，如果一台 Linux 服务器有 2 TB 系统内存，配了 8 个 AMD Instinct 加速器，每个加速器显存 192GB 共 1,536GB。休眠时所有 VRAM 显存都迁移到 GTT 或 shmem。在这两种情况下，它都在系统内存中，内核会尝试将复制页到休眠镜像。在最糟糕的情况下，这会导致系统内存中有 2 个 VRAM 副本，1,536GB * 2 = 3TB > 2 TB，系统内存不够用了。
www.phoronix.com/news/AMD-Too-Much-vRAM-RAM-Hibernate
#Linux
2025-06-30 23:11 by 海底两万里
大模型时代，越来越多的数据中心安装了专用 GPU 加速器，而这些加速器配备了数百 GB 容量的显存（VRAM）。在特定的情况下，如果服务器系统内存容量太少，休眠功能可能会出现问题，从休眠中恢复可能需要多达 1 个小时。AMD 工程师 Samuel Zhang 递交了补丁修复了该问题。他解释说，如果一台 Linux 服务器有 2 TB 系统内存，配了 8 个 AMD Instinct 加速器，每个加速器显存 192GB 共 1,536GB。休眠时所有 VRAM 显存都迁移到 GTT 或 shmem。在这两种情况下，它都在系统内存中，内核会尝试将复制页到休眠镜像。在最糟糕的情况下，这会导致系统内存中有 2 个 VRAM 副本，1,536GB * 2 = 3TB > 2 TB，系统内存不够用了。
www.phoronix.com/news/AMD-Too-Much-vRAM-RAM-Hibernate
#Linux
今天发现一个有趣的项目 ShellGPT | 中文介绍
简单说可以让你在 #命令行 里面使用 #ChatGPT , 需要自己提供 API key 或者自己搭建的本地 LLM 模型
体验下来, 我觉得它能实现的最好用的功能是 自然语言操作命令行 , 很适合我这种又菜又爱玩又经常记不住命令用法的人。提问完得到的命令可以一键执行, 免去了在 浏览器, 终端软件的 窗口来回切换、复制粘贴、切换中英文输入法 等过程, 体验非常丝滑
用起来也很简单, 有 Python 环境的话, 使用
pip 即可安装 pip install shell-gpt
装好后先在 shell 输入
sgpt 回车, 然后输入 key 就能用了, 在 ~/.config/shell_gpt/.sgptrc 有更具体的配置项目, 可以指定gpt模型或者更换api服务器域名等。个人觉得 GPT3.5 的模型完全够用 (项目默认用 GPT4)我用的最多的命令:
sgpt 你的提问语句 #直接提问, 如果提问语句有空格记得用'引号'包起来
sgpt -s 需要生成的命令 #我最喜欢的功能 -s 是 --shell 的缩写
直接写需要生成的命令 #然后按Ctrl+L键 可以直接生成命令
#需要安装 Shell integration, 这是 bash, zsh 限定的功能还有很多用法, 详情看官方项目主页
#ShellGPT #Linux #GPT
