Skip to content

Instantly share code, notes, and snippets.

@superresistant
superresistant / README.md
Created October 29, 2026 07:11
B60 multi-user vLLM throughput kit (Qwen3.6-35B-A3B int4, TP2, graph vs eager)

B60 multi-user throughput kit

Measures Qwen3.6-35B-A3B (Intel int4 AutoRound) on upstream vLLM 0.32.0 XPU, tensor parallel 2 on two B60s, at 1, 8, 32 and 64 concurrent requests (1024 in / 1024 out). Two arms by default: XPU graph (PIECEWISE, falls back to capture sizes 1-8 if the full list fails) and --enforce-eager. Everything runs in Docker, unattended.

Requirements: Linux with the xe driver on both GPUs, Docker, about 100 GB free in this folder (image about 25 GB, model about 22 GB), 32 GB RAM. No Hugging Face account needed. Nothing else should use the two GPUs during the run.

Run:

git clone https://gist.github.com/f3e8338ceeb6b3d15ac305a9a219e7ba.git b60-kit && cd b60-kit
sudo bash run.sh
@bennettthomas95
bennettthomas95 / 53997_jsqhm.md
Last active October 29, 2026 07:11
53997_jsqhm

只列坑,不列优点,优点到处都是宣传,不用我讲。

坑一:只看价格不看售后网点。出了问题没人管,省的钱全搭进去。

坑二:相信宣传里的极限参数。那是在最优条件下测出来的。

坑三:买了用不上的功能。为"以后可能用得上"多付钱。

坑四:在促销当天冲动下单。先涨后降是常规操作。

@torressarah23
torressarah23 / 51377_uhwlj.md
Last active October 29, 2026 07:11
51377_uhwlj

说点个人的真实感受,不一定对,仅供参考。

我买这类东西有个习惯:先不买,先看一个月。

看的过程中会慢慢发现,第一眼喜欢的,一个月后往往就不那么喜欢了。

真正值得买的,通常是看了一个月之后还想买的那几个。这个筛选过程比任何评测都准。

另一个感受是,别太在意别人的推荐。

几条速览,都是花过钱之后才总结出来的。

不要迷信参数。同一个数字,不同品牌的实际表现能差三成。

不要一次买齐。先用起来,才知道真正缺的是什么。

不要在第一家下单。至少比三家,把报价单留好。

不要忽略售后。网点密度比便宜两百块重要得多。

@torressarah23
torressarah23 / 14693_xfypl.md
Created October 29, 2026 07:11
14693_xfypl

把整个过程按时间记一下,方便后来的人参考。

去年三月开始了解,那时候什么都不懂,只看价格,觉得贵的就是坑人。

五月跑了几家线下门店,才发现线上参数和实物差距不小。

七月第一次下手,买了个入门款,用了两个月发现不够用。

九月换了一台,这次学乖了,先列需求再选型号,前后花了三周才定。

选购这类产品的十二个要点,按重要性排序,从最要紧的开始。

第一,先看实际需求。把每天一定会用到的三个场景写下来,写不出来的说明还没想清楚。

第二,价格不是唯一标准。售后网点密度比便宜两百块重要得多,出了问题找不到人才最麻烦。

第三,看真实评价,重点是差评。差评里反复出现的问题,那就是这款的通病。

第四,问清楚保修年限和免费范围。很多条款写在细则里,买的时候不问,修的时候才知道要花钱。

选购这类产品的十二个要点,按重要性排序,从最要紧的开始。

第一,先看实际需求。把每天一定会用到的三个场景写下来,写不出来的说明还没想清楚。

第二,价格不是唯一标准。售后网点密度比便宜两百块重要得多,出了问题找不到人才最麻烦。

第三,看真实评价,重点是差评。差评里反复出现的问题,那就是这款的通病。

第四,问清楚保修年限和免费范围。很多条款写在细则里,买的时候不问,修的时候才知道要花钱。

最近对比了三类主流方案,把差异说清楚。

方案一,价格最低,入门门槛小,适合短期过渡。缺点是后期扩展基本没有空间,用一年左右就会明显遇到上限。

方案二,价格居中,各项均衡。优点是配件通用,坏了容易更换。缺点是原厂配套一般,需要自己补一部分。

方案三,价格最高,但整体完成度最好。开箱即用,几乎不用折腾。缺点是投入大,回本周期长。

从长期成本算,方案二最划算,三年总花费通常最低。

先把概念说清楚,避免后面被绕晕。

是什么。

这类产品的核心差异不在外观,也不在宣传的重点参数,而在于内部配置的组合方式。

为什么重要。

组合方式决定了后期的扩展空间和维护成本。组合合理的,用三年还能加东西;组合僵硬的,一年就到顶。

@lovesusan5381
lovesusan5381 / 44089_ebhmk.md
Created October 29, 2026 07:11
44089_ebhmk

说点个人的真实感受,不一定对,仅供参考。

我买这类东西有个习惯:先不买,先看一个月。

看的过程中会慢慢发现,第一眼喜欢的,一个月后往往就不那么喜欢了。

真正值得买的,通常是看了一个月之后还想买的那几个。这个筛选过程比任何评测都准。

另一个感受是,别太在意别人的推荐。