This commit is contained in:
2025-12-31 16:00:29 +00:00
commit 3688f93d5d
310 changed files with 93400 additions and 0 deletions

319
2025/02/09/server.html Normal file
View File

@@ -0,0 +1,319 @@
<!DOCTYPE html>
<html lang="zh-CN">
<head>
<meta charset="UTF-8" />
<meta http-equiv="X-UA-Compatible" content="IE=edge" />
<meta name="viewport" content="width=device-width, initial-scale=1" />
<!-- Begin Jekyll SEO tag v2.8.0 -->
<title>新旧服务器的使用体验与对比 | Mayx的博客</title>
<meta name="generator" content="Jekyll v3.9.5" />
<meta property="og:title" content="新旧服务器的使用体验与对比" />
<meta name="author" content="mayx" />
<meta property="og:locale" content="zh_CN" />
<meta name="description" content="花更多钱可以收获更多吗?" />
<meta property="og:description" content="花更多钱可以收获更多吗?" />
<meta property="og:site_name" content="Mayx的博客" />
<meta property="og:type" content="article" />
<meta property="article:published_time" content="2025-02-09T00:00:00+08:00" />
<meta name="twitter:card" content="summary" />
<meta property="twitter:title" content="新旧服务器的使用体验与对比" />
<meta name="google-site-verification" content="huTYdEesm8NaFymixMNqflyCp6Jfvd615j5Wq1i2PHc" />
<meta name="msvalidate.01" content="0ADFCE64B3557DC4DC5F2DC224C5FDDD" />
<meta name="yandex-verification" content="fc0e535abed800be" />
<script type="application/ld+json">
{"@context":"https://schema.org","@type":"BlogPosting","author":{"@type":"Person","name":"mayx"},"dateModified":"2025-02-09T00:00:00+08:00","datePublished":"2025-02-09T00:00:00+08:00","description":"花更多钱可以收获更多吗?","headline":"新旧服务器的使用体验与对比","mainEntityOfPage":{"@type":"WebPage","@id":"/2025/02/09/server.html"},"publisher":{"@type":"Organization","logo":{"@type":"ImageObject","url":"https://avatars0.githubusercontent.com/u/17966333"},"name":"mayx"},"url":"/2025/02/09/server.html"}</script>
<!-- End Jekyll SEO tag -->
<link rel="canonical" href="https://mabbs.github.io/2025/02/09/server.html" />
<link type="application/atom+xml" rel="alternate" href="/atom.xml" title="Mayx的博客" />
<link rel="alternate" type="application/rss+xml" title="Mayx的博客(RSS)" href="/rss.xml" />
<link rel="alternate" type="application/json" title="Mayx的博客(JSON Feed)" href="/feed.json" />
<link rel="stylesheet" href="/assets/css/style.css?v=1767196818" />
<!--[if !IE]> -->
<link rel="stylesheet" href="/Live2dHistoire/live2d/css/live2d.css" />
<!-- <![endif]-->
<link rel="search" type="application/opensearchdescription+xml" href="/opensearch.xml" title="Mayx的博客" />
<link rel="webmention" href="https://webmention.io/mabbs.github.io/webmention" />
<link rel="pingback" href="https://webmention.io/mabbs.github.io/xmlrpc" />
<link rel="preconnect" href="https://summary.mayx.eu.org" crossorigin="anonymous" />
<link rel="prefetch" href="https://www.blogsclub.org/badge/mabbs.github.io" as="image" />
<link rel="blogroll" type="text/xml" href="/blogroll.opml" />
<link rel="me" href="https://github.com/Mabbs" />
<script src="/assets/js/jquery.min.js"></script>
<!--[if lt IE 9]>
<script src="//cdnjs.cloudflare.com/ajax/libs/html5shiv/3.7.3/html5shiv.min.js"></script>
<script src="//cdnjs.cloudflare.com/ajax/libs/jquery-ajaxtransport-xdomainrequest/1.0.3/jquery.xdomainrequest.min.js"></script>
<script src="//cdnjs.cloudflare.com/ajax/libs/respond.js/1.4.2/respond.min.js"></script>
<![endif]-->
<script>
var lastUpdated = new Date("Thu, 01 Jan 2026 00:00:18 +0800");
var BlogAPI = "https://summary.mayx.eu.org";
</script>
<script src="/assets/js/main.js"></script>
<!--[if !IE]> -->
<!-- Global site tag (gtag.js) - Google Analytics -->
<script async="async" src="https://www.googletagmanager.com/gtag/js?id=UA-137710294-1"></script>
<script>
window.dataLayer = window.dataLayer || [];
function gtag(){dataLayer.push(arguments);}
gtag('js', new Date());
gtag('config', 'UA-137710294-1');
</script>
<script src="/assets/js/instant.page.js" type="module"></script>
<!-- <![endif]-->
</head>
<body>
<!--[if !IE]> --><noscript><marquee style="top: -15px; position: relative;"><small>发现当前浏览器没有启用JavaScript这不影响你的浏览但可能会有一些功能无法使用……</small></marquee></noscript><!-- <![endif]-->
<!--[if IE]><marquee style="top: -15px; position: relative;"><small>发现当前浏览器为Internet Explorer这不影响你的浏览但可能会有一些功能无法使用……</small></marquee><![endif]-->
<div class="wrapper">
<header class="h-card">
<h1><a class="u-url u-uid p-name" rel="me" href="/">Mayx的博客</a></h1>
<img src="https://avatars0.githubusercontent.com/u/17966333" fetchpriority="high" class="u-photo" alt="Logo" style="width: 90%; max-width: 300px; max-height: 300px;" />
<p class="p-note">Mayx's Home Page</p>
<form action="/search.html">
<input type="text" name="keyword" id="search-input-all" placeholder="Search blog posts.." />&#160;<input type="submit" value="搜索" />
</form>
<br />
<p class="view"><a class="u-url" href="/Mabbs/">About me</a></p>
<ul class="downloads">
<li style="width: 270px; border-right: none;"><a href="/MayxBlog.tgz">Download <strong>TGZ File</strong></a></li>
</ul>
</header>
<section class="h-entry">
<small><time class="date dt-published" datetime="2025-02-09T00:00:00+08:00">9 February 2025</time> - 字数统计2811 - 阅读大约需要9分钟 - Hits: <span id="/2025/02/09/server.html" class="visitors">Loading...</span></small>
<h1 class="p-name">新旧服务器的使用体验与对比</h1>
<p class="view">by <a class="p-author h-card" href="//github.com/Mabbs">mayx</a></p>
<div id="outdate" style="display:none;">
<hr /><p>
这是一篇创建于 <span id="outime"></span> 天前的文章,其中的信息可能已经有所发展或是发生改变。
</p>
</div>
<script>
daysold = Math.floor((new Date().getTime() - new Date("Sun, 09 Feb 2025 00:00:00 +0800").getTime()) / (24 * 60 * 60 * 1000));
if (daysold > 90) {
document.getElementById("outdate").style.display = "block";
document.getElementById("outime").innerHTML = daysold;
}
</script>
<hr />
<b>AI摘要</b>
<p id="ai-output">这篇文章主要探讨了作者购买新旧服务器的体验与对比。旧服务器如R730搭载20核40线程的英特尔E5-2698 v4性价比高性能能满足大部分应用需求且扩展性强但管理工具和安全方面与新服务器R760xs或R770搭载英特尔至强Gold 6426Y相比差一些。新服务器虽然具有修完漏洞、安全性好和AMX指令集等特征但在性能测试sysbench跑分新服务器与旧服务器相比性能提升并不明显尤其在大模型推理上AMX加速效果不明显。最后作者认为旧服务器对于大多数业务已经足够而新服务器的价值更多在于支持服务等附加服务而非硬件性能本身。</p>
<hr />
<ul><li><a href="#起因">起因</a></li><li><a href="#选择服务器">选择服务器</a></li><li><a href="#使用体验与对比">使用体验与对比</a></li><li><a href="#感想">感想</a></li></ul>
<hr />
<main class="post-content e-content" role="main"><p>花更多钱可以收获更多吗?<!--more--></p>
<h1 id="起因">
<a href="#起因"><svg class='octicon' viewBox='0 0 16 16' version='1.1' width='16' height='32' aria-hidden='true'><path fill-rule='evenodd' d='M7.775 3.275a.75.75 0 001.06 1.06l1.25-1.25a2 2 0 112.83 2.83l-2.5 2.5a2 2 0 01-2.83 0 .75.75 0 00-1.06 1.06 3.5 3.5 0 004.95 0l2.5-2.5a3.5 3.5 0 00-4.95-4.95l-1.25 1.25zm-4.69 9.64a2 2 0 010-2.83l2.5-2.5a2 2 0 012.83 0 .75.75 0 001.06-1.06 3.5 3.5 0 00-4.95 0l-2.5 2.5a3.5 3.5 0 004.95 4.95l1.25-1.25a.75.75 0 00-1.06-1.06l-1.25 1.25a2 2 0 01-2.83 0z'></path></svg></a> 起因
</h1>
<p>最近由于某些原因需要买点服务器,从我平时用的东西来看,其实很多年前的产品就已经满足大多数应用了,业务的发展跟不上时代的发展,就根本不需要更好的性能。所以既然要买服务器,还是买洋垃圾比较好,那些淘汰下来的服务器特别便宜。虽然这么说,但是我也好奇现在的技术到底发展到一个什么样的程度,所以也整个新的服务器玩玩吧。</p>
<h1 id="选择服务器">
<a href="#选择服务器"><svg class='octicon' viewBox='0 0 16 16' version='1.1' width='16' height='32' aria-hidden='true'><path fill-rule='evenodd' d='M7.775 3.275a.75.75 0 001.06 1.06l1.25-1.25a2 2 0 112.83 2.83l-2.5 2.5a2 2 0 01-2.83 0 .75.75 0 00-1.06 1.06 3.5 3.5 0 004.95 0l2.5-2.5a3.5 3.5 0 00-4.95-4.95l-1.25 1.25zm-4.69 9.64a2 2 0 010-2.83l2.5-2.5a2 2 0 012.83 0 .75.75 0 001.06-1.06 3.5 3.5 0 00-4.95 0l-2.5 2.5a3.5 3.5 0 004.95 4.95l1.25-1.25a.75.75 0 00-1.06-1.06l-1.25 1.25a2 2 0 01-2.83 0z'></path></svg></a> 选择服务器
</h1>
<p>那选哪个服务器比较合适呢我在大学里用过R730那款服务器给我留下的印象很不错拆装很方便也有很好用的带外管理功能iDRAC现在的R730已经非常便宜了我看了看CPU觉得既然洋垃圾很便宜那就要选个厉害的CPU最终我选择了双路20核40线程的<a href="https://www.intel.cn/content/www/cn/zh/products/sku/91753/intel-xeon-processor-e52698-v4-50m-cache-2-20-ghz/specifications.html">英特尔® 至强® 处理器 E5-2698 v4</a>总共40核80线程另外配了4根32GiB 2400MT/s的DDR4内存看起来参数还是挺唬人的🤣而且价格才2k多CNY感觉还挺不错。 </p><p>
那新的用啥呢我上Intel的官网看了看至强6是现在最新的Intel服务器CPU至于AMD的……主要是给我买服务器的人不喜欢AMD🤣所以只能选Intel的。既然旧的选了Dell新的也选Dell吧我看搭载至强6的戴尔服务器是R770但是目前还买不到😅而且价格贵的吓人。次一级就是R760可以上第四或第五代至强可扩展处理器不过看了一眼价格也有点贵……但这个机器有个青春版叫R760xs也能上第四或第五代至强可扩展处理器扩展性稍微差一点但是价格比较便宜他们管这叫“成本优化版”。最终选来选去选了个单路16核32线程的<a href="https://www.intel.cn/content/www/cn/zh/products/sku/232377/intel-xeon-gold-6426y-processor-37-5m-cache-2-50-ghz/specifications.html">英特尔® 至强® Gold 6426Y 处理器</a>外加4条16GiB 4800MT/s的DDR5内存总共花了将近4wCNY感觉还是相当贵啊……</p>
<h1 id="使用体验与对比">
<a href="#使用体验与对比"><svg class='octicon' viewBox='0 0 16 16' version='1.1' width='16' height='32' aria-hidden='true'><path fill-rule='evenodd' d='M7.775 3.275a.75.75 0 001.06 1.06l1.25-1.25a2 2 0 112.83 2.83l-2.5 2.5a2 2 0 01-2.83 0 .75.75 0 00-1.06 1.06 3.5 3.5 0 004.95 0l2.5-2.5a3.5 3.5 0 00-4.95-4.95l-1.25 1.25zm-4.69 9.64a2 2 0 010-2.83l2.5-2.5a2 2 0 012.83 0 .75.75 0 001.06-1.06 3.5 3.5 0 00-4.95 0l-2.5 2.5a3.5 3.5 0 004.95 4.95l1.25-1.25a.75.75 0 00-1.06-1.06l-1.25 1.25a2 2 0 01-2.83 0z'></path></svg></a> 使用体验与对比
</h1>
<p>服务器拿到手之后自然要先跑个分我给新服务器安装了Ubuntu Server 24.04旧的因为核心数多感觉应该能干点别的所以安装了Vmware ESXi 6.7然后在上面安装了个Ubuntu Server 24.04的虚拟机。跑分用的是sysbench。最终新的服务器单核跑分2853.45events/s多核47054.35events/s旧服务器单核876.22events/s多核52792.15events/s。从这里来看这个新服务器让人非常失望啊单核才3倍多点差距尤其我试了试13代i5的单核跑分能到4290.80events/s家用的处理器可是要便宜的多啊。多核虽然说16核比40核少了点能跑出差不多的分数已经很厉害了但是考虑到这两个服务器20倍的价格差还是深深的感到不值啊…… </p><p>
当然服务器的性能并不是它的优势扩展性才是但是R730的定位比R760xs的定位要高啊😂扩展性显然是旧服务器更强……那新服务器就没什么优势了吗倒也不是新服务器的处理器至少把漏洞都修完了除了幽灵漏洞之外至少不受其他漏洞影响安全性更强了。旧处理器和酷睿5代是同一个时代的所以会受各种CPU漏洞的影响。不过这个服务器又不会当云服务器租给别人用有没有漏洞根本无所谓啊😅。 </p><p>
那管理性呢新的带外管理用的是iDRAC9旧的是iDRAC8两个界面上差距倒是挺大的不过功能基本上都差不多从功能上来看9比8多了个修改BIOS的功能但是修改完还是得重启才能生效😅那不如花几十块钱买个企业版订阅然后用虚拟KVM直接重启进BIOS修改呢……不过如果是大规模的话可能是可以统一修改BIOS选项那就有点意义了不过对我来说没啥意义😥。 </p><p>
那还有别的优势吗我看网上说第四、第五代至强可扩展处理器新出了个指令集叫AMX可以用来加速AI推理正好最近国内一个叫DeepSeek-R1的模型挺火的那就拿来试试看呗要是这个AMX指令集能大幅提高CPU的推理速度那我还是挺认同它的价格的毕竟内存可以随便加显存……都被老黄垄断了价格巨贵无比😂。现在的<a href="https://github.com/ggerganov/llama.cpp">llama.cpp</a>已经支持了AMX加速具体的使用方法可以看Intel官网上的<a href="https://www.intel.cn/content/www/cn/zh/content-details/791610/optimizing-and-running-llama2-on-intel-cpu.html">论文</a>看起来需要安装Intel oneAPI的库才能编译使用。我折腾了一下编译完跑了一下DeepSeek-R1 32B Q4_K_M蒸馏版速度大概是5.2token/s。然后我安装了个<a href="https://ollama.com/">Ollama</a>它自带的这个llama服务器只支持AVX2指令集加速但是我试了一下速度能达到4.8token/s也就是说AMX指令集加速了个寂寞几乎没起倒什么作用难怪没什么人讨论。不过我也听说纯CPU跑大模型主要瓶颈在内存带宽上我插4条也就是四通道其实也不是它的全部实力它最大支持八通道也许给它插满效果会好一些吧…… </p><p>
那旧服务器呢我倒也试了一下用Ollama跑一样的模型大概是2token/s多的速度也就是说新的相比旧的也只快了1倍多一点而且旧的每个CPU只有2条内存只有双通道速度也只有新的一半结果新的才领先了一倍多一点都上了那么多黑科技……看来Intel是真不行了。 </p><p>
当然5.2token/s的速度显然是无法接受的还是有点慢了再加上DeepSeek-R1还有思维链在回答问题前还要生成一堆废话那就更慢了其实要我说它那个思维链其实就是把之前的AutoGPT的结果作为训练材料训练的相当于集成到模型里了我自己测了一下水平还是不够用包括官网的满血版也一样。我之前听说有一种叫做“投机采样”的推理加速技术不知道为什么凉了llama.cpp编译的产物里还有这个技术的PoC。于是我就下了个DeepSeek-R1 7B Q4_K_M蒸馏版拿来试试看用它来加速32B的怎么样。首先我单独测试7B的速度可以达到20token/s然后我用“llama-speculative”测了一下感觉有点一言难尽……一阵快一阵慢的总体来说感觉不如直接跑的快难怪这个技术凉了😥不过也可能是因为这两个模型的什么token分布不太一致毕竟是蒸馏的模型估计还是有点区别所以体验不太好吧。 </p><p>
那除了大语言模型之外还有什么可测的吗?其实就像我开始说的,要说能满足业务,洋垃圾显然是绰绰有余,尤其还是顶尖的洋垃圾,普通的业务甚至都不能让洋垃圾产生瓶颈,新的不就更不可能了😥……</p>
<h1 id="感想">
<a href="#感想"><svg class='octicon' viewBox='0 0 16 16' version='1.1' width='16' height='32' aria-hidden='true'><path fill-rule='evenodd' d='M7.775 3.275a.75.75 0 001.06 1.06l1.25-1.25a2 2 0 112.83 2.83l-2.5 2.5a2 2 0 01-2.83 0 .75.75 0 00-1.06 1.06 3.5 3.5 0 004.95 0l2.5-2.5a3.5 3.5 0 00-4.95-4.95l-1.25 1.25zm-4.69 9.64a2 2 0 010-2.83l2.5-2.5a2 2 0 012.83 0 .75.75 0 001.06-1.06 3.5 3.5 0 00-4.95 0l-2.5 2.5a3.5 3.5 0 004.95 4.95l1.25-1.25a.75.75 0 00-1.06-1.06l-1.25 1.25a2 2 0 01-2.83 0z'></path></svg></a> 感想
</h1>
<p>从上面来看新服务器真的没什么优势啊性能提高了一些但是价格翻几十倍当然那些洋垃圾当年也是超级贵的东西只是被淘汰了所以失去了价值……不过说来这个价值也许并不是服务器硬件本身的价值“服务”也是很值钱的啊像那个支持服务比如远程诊断、上门服务现场响应之类的就是它贵的原因吧二手的旧服务器2019年就结束支持了新的有3年的支持期能到2027年不过我感觉在这支持期内恐怕没有能用到的地方啊服务器还是挺难坏的它最值钱的地方似乎只能被浪费掉了🥲。所以总的来说只有行业领先的业务才配得上最新的服务器小规模的业务还是用二手服务器吧😆。</p></main>
<small style="display: block">tags: <a rel="category tag" class="p-category" href="/search.html?keyword=%E6%9C%8D%E5%8A%A1%E5%99%A8"><em>服务器</em></a> - <a rel="category tag" class="p-category" href="/search.html?keyword=Dell"><em>Dell</em></a> - <a rel="category tag" class="p-category" href="/search.html?keyword=%E4%BD%BF%E7%94%A8%E4%BD%93%E9%AA%8C"><em>使用体验</em></a> <span style="float: right;"><a href="https://gitlab.com/mayx/mayx.gitlab.io/tree/master/_posts/2025-02-09-server.md">查看原始文件</a></span></small>
<h4 style="border-bottom: 1px solid #e5e5e5;margin: 2em 0 5px;">推荐文章</h4>
<p id="suggest-container">Loading...</p>
<script>
var suggest = $("#suggest-container");
$.get(BlogAPI + "/suggest?id=/2025/02/09/server.html&update=" + lastUpdated.valueOf(), function (data) {
if (data.length) {
getSearchJSON(function (search) {
suggest.empty();
var searchMap = {};
for (var i = 0; i < search.length; i++) {
searchMap[search[i].url] = search[i];
}
var tooltip = $('<div class="content-tooltip"></div>').appendTo('body').hide();
for (var j = 0; j < data.length; j++) {
var item = searchMap[data[j].id];
if (item) {
var link = $('<a href="' + item.url + '">' + item.title + '</a>');
var contentPreview = item.content.substring(0, 100);
if (item.content.length > 100) {
contentPreview += "……";
}
link.hover(
function(e) {
tooltip.text($(this).data('content'))
.css({
top: e.pageY + 10,
left: e.pageX + 10
})
.show();
},
function() {
tooltip.hide();
}
).mousemove(function(e) {
tooltip.css({
top: e.pageY + 10,
left: e.pageX + 10
});
}).data('content', contentPreview);
suggest.append(link);
suggest.append(' - ' + item.date + '<br />');
}
}
});
} else {
suggest.html("暂无推荐文章……");
}
});
</script>
<br />
<div class="pagination">
<span class="prev">
<a href="/2025/01/01/summary.html">
上一篇:年终总结
</a>
</span>
<br />
<span class="next">
<a href="/2025/02/22/llm.html">
下一篇近期LLM的部署与应用经历
</a>
</span>
</div>
<!--[if !IE]> -->
<link rel="stylesheet" href="/assets/css/gitalk.css">
<script src="/assets/js/gitalk.min.js"></script>
<div id="gitalk-container"></div>
<script>
var gitalk = new Gitalk({
clientID: '36557aec4c3cb04f7ac6',
clientSecret: 'ac32993299751cb5a9ba81cf2b171cca65879cdb',
repo: 'mabbs.github.io',
owner: 'Mabbs',
admin: ['Mabbs'],
id: '/2025/02/09/server', // Ensure uniqueness and length less than 50
distractionFreeMode: false, // Facebook-like distraction free mode
proxy: "https://cors-anywhere.mayx.eu.org/?https://github.com/login/oauth/access_token"
})
gitalk.render('gitalk-container')
</script>
<!-- <![endif]-->
</section>
<!--[if !IE]> -->
<div id="landlord" style="left:5px;bottom:0px;">
<div class="message" style="opacity:0"></div>
<canvas id="live2d" width="500" height="560" class="live2d"></canvas>
<div class="live_talk_input_body">
<form id="live_talk_input_form">
<div class="live_talk_input_name_body" >
<input type="checkbox" id="load_this" />
<input type="hidden" id="post_id" value="/2025/02/09/server.html" />
<label for="load_this">
<span style="font-size: 11px; color: #fff;">&#160;想问这篇文章</span>
</label>
</div>
<div class="live_talk_input_text_body">
<input name="talk" type="text" class="live_talk_talk white_input" id="AIuserText" autocomplete="off" placeholder="要和我聊什么呀?" />
<button type="submit" class="live_talk_send_btn" id="talk_send">发送</button>
</div>
</form>
</div>
<input name="live_talk" id="live_talk" value="1" type="hidden" />
<div class="live_ico_box" style="display:none;">
<div class="live_ico_item type_info" id="showInfoBtn"></div>
<div class="live_ico_item type_talk" id="showTalkBtn"></div>
<div class="live_ico_item type_music" id="musicButton"></div>
<div class="live_ico_item type_youdu" id="youduButton"></div>
<div class="live_ico_item type_quit" id="hideButton"></div>
<input name="live_statu_val" id="live_statu_val" value="0" type="hidden" />
<audio src="" style="display:none;" id="live2d_bgm" data-bgm="0" preload="none"></audio>
<input id="duType" value="douqilai" type="hidden" />
</div>
</div>
<div id="open_live2d">召唤伊斯特瓦尔</div>
<!-- <![endif]-->
<footer>
<p>
<small>Made with ❤ by Mayx<br />Last updated at 2026-01-01 00:00:18<br /> 总字数614622 - 文章数178 - <a href="/atom.xml" >Atom</a> - <a href="/README.html" >About</a></small>
</p>
</footer>
</div>
<script src="/assets/js/scale.fix.js"></script>
<!--[if !IE]> -->
<script src="/assets/js/main_new.js"></script>
<script src="/Live2dHistoire/live2d/js/live2d.js"></script>
<script src="/Live2dHistoire/live2d/js/message.js"></script>
<!-- <![endif]-->
</body>
</html>