光子AI协处置惩罚芯片 为传统加速盘算卡装上“涡轮增压”
发布日期:2023-04-09 23:29
光学芯片加速的不是完整算法和所有的数字芯片一样光学芯片面向庞大函数做加速盘算其盘算工具是特定算子。光的劣势在于不是特别灵活可是在某些函数上有优势。
编者按:在日前举行的GTIC 2020上光子算数首创人兼CEO白冰揭晓了一场题为《AI芯片的另一条路:光子芯片》的主题演讲。作为一家海内少有的光子AI芯片赛道玩家白冰在演讲中与大家分享了光学芯片的工程化希望、市场定位及目的客户、详细研发实施路径及相关适配算法等话题。
作为一家初创公司光子算数和高校、研究所等几家单元配合事情。
其早期样片集成了几百个差别的光学单元好比有电光转换把电信号加载到光载波然后通过流传到片内的光学组合完成一些特定的函数变换。跟传统的盘算特征差别它不是面向加减乘除而是直接完成一个庞大的变化历程。
一、光学芯片工程化希望已至测试阶段
好比基于光学随机投影做目的识别迁移学习时后半部门举行重新训练算法训练量还是很大的。其实可以不走绿色部门直接在蓝色块用光学芯片做预处置惩罚后面加简朴的线性层就可以完成任务做一个维度的升维变化。
光子算数对自己的市场定位是提供传统加速盘算卡的升级组件使传统加速盘算卡提升性能、降低能耗、降低成本不受制于软件工具。消费者依然买大厂的卡和工具如需升级即可选用光子算数的模块。白冰提了一个形象的比喻用一张传统卡加上光子协处置惩罚引擎模块的效果相当于给汽车配了一个涡轮增压。
白冰说用光学做盘算处于比力早期的阶段。
现在光子算数团队已将其做成测试级的产物并于今年放至服务器厂商客户处举行测试。
下一步他们思量将光的部门带宽扩大进一步提升算力。
当前在光通信领域100GB/s是主流200GB/s比力少400GB/s、800GB/s主要有一些大厂在做现在还没推生产品。只管做这块成本较高但这是比力切实可行的已有方案。
如果想在云端替代NVIDIA GPU是很是难题的其焦点竞争力在于它的软件工具。把电和光放到一张卡上要开发完整的软件套件事情量很是大且价格很高。
固然云端加速盘算卡也可以做定制化但定制化在云端的适用空间会相对有限这是做云端AI芯片的所有公司配合面临的逆境。
盘算卡封装有光子协处置惩罚引擎模块散热器、驱动、控制器、TIA、一些盘算控制部门和赛灵思FPGA芯片数据在光电之间形成循环流动。
光的定位是为电做协处置惩罚加速。
完整盘算历程是FPGA吸收的数据从电接口进来经由驱动放大驱动光芯片上的调优器把信号再返到光上经由片内传输完成变换然后再酿成电信号返回。
光子协处置惩罚引擎模块内里是两层结构上面是控制模组其二级控制缓存处置惩罚随时可以换以适应下一步软件迭代;下面是光学运算模组包罗整个光学盘算部门其中集成了大量的光学单元为了一些特定的函数可以做低延时、低能耗的变换历程。
更多的其行业特征特别像光模块它的行业拓展是小芯片、大组装其封装和组装成本占整个的70%是一个系统工程。更主要的要做软硬系统的匹配同时硬件要做到光与电的协同其中包罗一些算子、标定的工具并涉及到一些关键技术。
光子算数与高校一起打造了面向服务器的光电混淆AI加速盘算卡现在已完成一些定制化加速任务包罗机械学习推理、时间序列分析等特定任务。白冰说盘算卡现在的性能可用不外还比力开端能做到36路1080P视频同步处置惩罚功耗不到70W算力资源相对有。
本文关键词:开云体育app下载手机版,光子,协,处置,惩罚,芯片,为,传统,加速,盘算
本文来源:开云体育app下载手机版-www.skype-gmw.com
AG九游会 威尼斯wnsr888 yobo体育 火狐体育在线网站 爱游戏官网登录
Copyright © 2003-2022 www.skype-gmw.com. 开云体育app下载手机版科技 版权所有 网站备案号:ICP备42688671号-2