| | | | |
| --- | --- | --- | --- |
| 精度 | 含义 | 内存占用 | 内存结构 |
| fp32(float32) | 全精度浮点数 | 4字节,32位 | 1 bit 符号,8 bit 指数,23 bit 尾数 |
| fp16(float16) | 半精度浮点数 | 2字节,16位 | 1 bit 符号,5 bit 指数,10 bit 尾数 |
| int8 | 8位整数 | 1字节,8位 | 8 bit 整数 |
| int4 | 4位整数 | 0.5字节,4位 | 4 bit 整数 |
这是原始结构:
这是导出后的结构: