首页 > 资讯 > 正文

Intel10nm十代Core改造转战M.2神经网路推理

导读 Intel 10nm Ice Lake十代Core处理器已经上市,但它可不仅仅会用于轻薄笔电,未来还会登陆伺服器,而在两个月前以色列海法(Intel重要研发
Intel10nmIceLake十代Core处理器已经上市,但它可不仅仅会用于轻薄笔电,未来还会登陆伺服器,而在两个月前以色列海法(Intel重要研发基地),Intel还展示了一款採用10nmIceLake打造的NervanaNNP-I(神经网路推理处理器),但採用了M.2样式。

Intel-NNP-I-1000-Spring-Hill-Cover.jpg(152.87KB,下载次数:5)

2019-8-2119:12上传


HotChips31晶片大会上,Intel首次公布了这款特殊产品的架构细节。

在无处不AI(AIEverywhere)的指导思想下,Intel正在研究各种各样的AI软硬体方案,包括CPU、GPU、FPGA、ASIC等等。这款新的NNP-I代号为“SpringHill”(温泉山丘),针对数据中心领域的轻度AI推理工作,能做成M.2扩充卡正是得益于10nm晶片的超小面积。在原有10nmIceLake处理器的基础上,Intel拿掉了两个CPU计算核心、GPU显示,同时加入12个推理计算引擎(ICE),彼此採用硬体同步,同时每个ICE有自己的4MBSRAM快取来减少数据转移,并且和两个CPU核心共享一致性互连、24MBL3快取。

Intel-NNP-I-1000-Spring-Hill-Goa.jpg(251.94KB,下载次数:4)

2019-8-2119:18上传



Intel还设计了一个深度学习计算网格(DLComputeGrid),作为张量引擎的它通过数据和控制汇流排与SRAM、VP6DSP互连,支援FP16、INT8、INT4、INT2、INT1等类型操作,其中DSP还可以处理一些特殊的算法。

Intel-NNP-I-1000-Spring-Hill-ICE.png(1.58MB,下载次数:5)

2019-8-2119:22上传



Intel-NNP-I-1000-Spring-Hill-DL.png(1.29MB,下载次数:5)

2019-8-2119:22上传



CPU核心仍然是标準的SunnyCove架构,支援AVX-512、VNNI指令集,可加速卷积神经网路,而完全继承的FIVR电压调节器可动态调整功耗,优先满足最需要的硬体单元。内建两个LPDDR4X记忆体控制器,整合封装一颗记忆体晶片与之配合,传输频宽4.2GT/s(68GB/s),并支援带内ECC,但容量未公布。NNP-I与系统的通讯通道走的是PCIe3.0x4或者PCIe3.0x8,频宽不是什么大问题,但没有用NVMe协议,只是标準的PCIe界面。

Intel-NNP-I-1000-Spring-Hill-Mem.png(1.32MB,下载次数:4)

2019-8-2119:22上传



TDP功耗非常灵活,低可至10W,高可达50W,完全视性能需要而定,作为扩充卡也不受M.215W的限制。根据不同功耗配置,INT8整数能效在2-4.8TOP/s範围内。Intel表示10WTDP功耗下跑ResNet500,每分钟推理数可达3600,等于效率高达4.8TOP/s,还是相当高的。

软体方面Intel会提供相应的开发工具,帮助负载将推理工作完全转移到加速器上,完成后再通知XEONCPU进行下一步处理,从而使得XEONCPU不再需要通过PCIe汇流排和其他加速器彼此通信、转移数据,大大节省计算资源和功耗。

萤幕快照-2019-08-21-上午10.05.28.png(336.88KB,下载次数:6)

2019-8-2119:23上传



Intel-NNP-I-1000-Spring-Hill-Fle.png(1.42MB,下载次数:4)

2019-8-2119:23上传



IntelNNP-I目前已经试产,将在年底投入规模量产并出货,而且后续还有两代新品正在设计中……

消息来源

免责声明:本文由用户上传,如有侵权请联系删除!

标签:

Copyright @ 2015 -2023 太行之窗 All Rights Reserved. 网站地图 | 百度地图 .