首页> 中国专利> 浮点运算定点化方法及系统

浮点运算定点化方法及系统

摘要

本发明公开了一种浮点运算定点化方法,包括以下步骤:根据预设的数值范围以及计算的精度需求,调整可调精度浮点数据的指数和有效位,预先将单精度浮点格式的参数数据转换为可调精度浮点数据;计算时将所述可调精度浮点数据转换为定点数据并用于计算,并将计算产生的中间结果转换为可调精度浮点数据;待全部计算完成后产生最终结果,将最终结果转换为单精度浮点格式数据。本发明可以用16位位宽或是更小的位宽表示标准浮点数据,实现浮点运算定点化的转换,从而节省存储空间和提升运算性能,且几乎不影响计算精度。

著录项

  • 公开/公告号CN107451658B

    专利类型发明专利

  • 公开/公告日2020-12-15

    原文格式PDF

  • 申请/专利权人 杭州菲数科技有限公司;

    申请/专利号CN201710606500.3

  • 发明设计人 丁昊杰;王文华;

    申请日2017-07-24

  • 分类号G06N3/063(20060101);G06N3/08(20060101);G06F7/38(20060101);

  • 代理机构33289 杭州裕阳联合专利代理有限公司;

  • 代理人姚宇吉

  • 地址 310000 浙江省杭州市滨江区新联路608号诚高大厦801室

  • 入库时间 2022-08-23 11:25:05

相似文献

  • 专利
  • 中文文献
  • 外文文献
获取专利

客服邮箱:kefu@zhangqiaokeyan.com

京公网安备:11010802029741号 ICP备案号:京ICP备15016152号-6 六维联合信息科技 (北京) 有限公司©版权所有
  • 客服微信

  • 服务号