1
Sawyerhou 290 天前 via Android
AI 是量化工具中的一种,后者包含前者
|
2
Muniesa 290 天前 via Android
ai 量化模型可以有两种意思,一种就是功能为炒股的那个量化的 ai 模型,还有一种是把原模型的 float32 数据类型量化到 float16 、int8 、int4 来提升运行速度,降低硬件要求。
|
5
Muniesa 290 天前 via Android
@gransh 英文原词都是 quantization ,将连续数据转为离散数据的过程,金融中是将金融数据和市场信息离散化,深度学习中是将模型权重离散化,其实还是有些相似之处的。不好理解,大概是量化这个词翻译得让人有些先入为主了吧。
|
7
matchalatte 290 天前
@Muniesa #5 量化交易的量化应该是 Quantitative ,应该表示的是一种科学研究的技巧,比如定量分析 vs 定性分析。这里的量化应该是指“可以用数值衡量的意思”,通过统计学手段代替主观的交易倾向。
而模型量化英文是 Model Quantization ,Quantization 是一种将连续数值转化为离散数值的手段。在 AI 里一般的用途是用来压缩模型,因为模型权重在训练时一般是用浮点数表示的,而常见的浮点数形式 fp32 或 fp16 都比较占空间,转成 int8 或者是 int4 可以节约显存占用,提高模型在端上设备运行的可能性。现在的一些芯片(如高通、苹果)的 NPU 也会对整数计算做一定优化,提高量化后模型的运行效率。 |
8
matchalatte 290 天前
@matchalatte #7 所以在英文里其实是两个单词,只是翻译成了同一种
|
9
gransh OP @matchalatte 谢谢解答
|