新无止竞

首页 » 人工智能 » 人脸特征向量用整数存储精度损失多少?

人脸特征向量用整数存储精度损失多少?

问题描述:向量
,展开形式为
,相似度时计算公式

浮点转定点: 假设转定点数时把[0.0, 1.0] 映射到 [0, M], 则分量最大损失为
,考虑四舍五入则为

误差分析:
其中
, 替换之后
两边再加上绝对值
取N = 256, M = 32767,相似度的误差在万分之五以内。
进行人脸查找时,这个误差应该可以忽略不计,向量点积由32位浮点转为32位整型,我的机器大概能快5~6倍。

文章如无特别注明均为原创! 作者: 独自狂战, 转载或复制请以 超链接形式 并注明出处 新无止竞博客 - 专注网络技术资源分享的IT博客
原文地址《 人脸特征向量用整数存储精度损失多少?》发布于2018-12-13

分享到:
打赏

评论

游客

切换注册

登录

您也可以使用第三方帐号快捷登录

Q Q 登 录
微 博 登 录
切换登录

注册