Python

BitNet - 微软如何让神经网络在普通处理器上运行

微软的 BitNet 使在普通 CPU 上以 5-7 tokens/秒的速度运行 1000 亿参数语言模型成为可能，能耗节省高达 82%。以下是它的工作原理。