社区所有版块导航
Python
python开源   Django   Python   DjangoApp   pycharm  
DATA
docker   Elasticsearch  
aigc
aigc   chatgpt  
WEB开发
linux   MongoDB   Redis   DATABASE   NGINX   其他Web框架   web工具   zookeeper   tornado   NoSql   Bootstrap   js   peewee   Git   bottle   IE   MQ   Jquery  
机器学习
机器学习算法  
Python88.com
反馈   公告   社区推广  
产品
短视频  
印度
印度  
Py学习  »  机器学习算法

Science:光子深度学习

纳米人 • 3 年前 • 573 次点击  


特别说明:本文由学研汇技术中心原创撰写,旨在分享相关科研知识。因学识有限,难免有所疏漏和错误,请读者批判性阅读,也恳请大方之家批评指正。
原创丨吴宗涵
编辑丨Jax

【背景及挑战】

近年来,深度神经网络(DNN,机器学习领域中一种技术)的进展有效地推动了各类科学和技术的发展。但DNN不断增长的计算需求使得其在低功耗设备(如智能手机和传感器)上难以应用。尽管目前有许多研究正在尝试降低功耗,但由于矩阵代数、神经形态、模拟存储器和光子网格等模拟方法都存在较大功耗,因此仍然没有实现有效的降低。为了使先进的DNN在低功耗设备上应用可及,工业界已尝试将计算量大的DNN推理转移到云服务器上,例如,智能家庭设备可以将语音查询作为向量U发送到云服务器,再由云服务器将推断结果V返回给客户端,但这种方式存在较长的延迟(~200 ms),此外安全风险也较高,在私人数据上存在安全漏洞。

【最新突破】

最近,来自麻省理工学院电子研究实验室的Dirk Englund和Ryan Hamerly等人首次提出了一种基于跨网络非局域模拟处理的机器学习推理方法,通过引入一种名为Netcast的光子边缘计算架构,成功实现了大型线性代数运算(如通用矩阵向量乘法(GEMV))的最小化能耗和延迟。


图1 Netcast的概念设计

【研究要点】

1) 在Netcast架构中,云服务器以模拟格式将DNN权重数据(W)流式传输到边缘设备,以实现高效的光学GEMV,从而消除所有本地权重内存访问;

2) 研究证实在超低光能下的图像识别下,可以达到每倍增40阿托焦(每倍增<1光子),且分类准确率为98.8%(93%),研究者还通过在波士顿地区的现场试验辅证了该性能;

3) Netcast可以在使用具有最小内存和处理能力的毫瓦级边缘设备的情况下,为高功率(>100瓦)云计算机以teraFLOPS速率进行计算。


图2 Netcast系统的实验演示

参考文献:


Dirk E., et al. Delocalized photonic deep learning on the internet’s edge. Science (2022).

DOI: 10.1126/science.abq8271

https://www.science.org/doi/10.1126/science.abq8271



同步辐射丨球差电镜丨FIB-TEM
原位XPS、原位XRD、原位Raman、原位FTIR
加急测试
李老师  
学研汇技术经理
158 2732 3927
官方网站:www.xueyanhui.com

Python社区是高质量的Python/Django开发社区
本文地址:http://www.python88.com/topic/148664