33 min read
THOR:纯 HE 非交互式 Transformer 推理
ACM CCS 2025:对角线表示 + 紧凑打包,在最贵的两个 CC-MM 场景把旋转次数压到 BOLT 的 2%–5%,BERT-base 128 token 单卡 10 分钟;但一层里 56% 时间在 bootstrapping。
“bert” 标签下有 1 篇文章
ACM CCS 2025:对角线表示 + 紧凑打包,在最贵的两个 CC-MM 场景把旋转次数压到 BOLT 的 2%–5%,BERT-base 128 token 单卡 10 分钟;但一层里 56% 时间在 bootstrapping。