力积电黄崇仁：AIM技术将提升单芯片AI处理能力

5G、AI、IoT成为半导体业最热门的议题，但如何提升IoT芯片AI运算效率却不增加功耗，已成为IC设计产业难题。TwIoTA（台物联网产业技术协会）理事长，同时也是力积电董事长黄崇仁以自家公司开发中的AI芯片（AI Memory，AIM）技术为例指出，将MCU与DRAM整合到单一芯片上，让IC设计厂商开发出体积更小的单芯片电脑（Single Chip Computer），有利降低AIoT应用服务设备开发成本。
黄崇仁20日受JASA嵌入式系统技术协会之邀，于2019日本嵌入式&物联网技术大展（ET & IoT Technology 2019）上发表演说，他提到，力积电开发中的AI晶片（AI Memory）技术，将MCU与DRAM整合到单一芯片上，并让存储器数据可依照需求进行非循序存取，进而提升影像神经网络运算10倍处理效率。
黄崇仁介绍，人类大脑有大约10的11次方个神经元（neuron）与10的15次方个突触（synaptic），形成一个连接线路高达数千英里的立体性神经网络架构，但是整个大脑的耗电量只有25瓦，可说是非常省电。
他进一步说，力积电在研究分析大脑神经元运作架构后，耗费许久开发出AI芯片（AI Memory，AIM）技术，协助IC设计厂商可以开发出给AI运算用的AI芯片，不仅低耗电，AI运算效率也能符合应用需求。
黄崇仁指出，IC设计厂商可以通过AIM Innovation Service Platform架构，与力积电、智成电子、爱普科技合作，将CPU与DRAM相关IP放在同一颗芯片中，如此一来，MCU到DRAM的数据传输宽度，可以从常用的32位元大幅提升至4096位元，不仅增加数据传输频宽，并且达到低延迟与低耗电效果，甚至还可以把WiFi芯片功能包进去，让单一芯片可以获得相当于单芯片电脑所需功能，并能降低耗电量。
此外，由于在范纽曼型架构（von Neumann architecture）下，传统AI运算上会碰到的频颈是数据需要循序处理，不符合AI运算情境上其实是要能非循序存取的需求。他强调，力积电AI Memory技术，可开发出后范纽曼型架构的存储器处理方式，除了将CPU到DRAM的频宽大幅提升，甚至可以在存储器存取上加入控制电路，以非循序存取的方式高速读取DRAM数据，进而提升AI运算执行效率。
以行车安全最需要的ADAS应用来说，若采用AIM技术所开发的单芯片，搭配影像神经网络加速运算程式（VNNA），在进行1080p RGB影像物件分离处理上，可以达到10倍的执行效率，但耗电量却只要原来的十分之一，可说是非常省电又有AI运算效率。同样的架构与技术可以让自驾车、无人车、摄影机、影像监控等芯片供应厂商采用，协助相关芯片厂商开发出具有特定领域的AI加速芯片产品。
在专题演讲当中，黄崇仁也同步介绍由TwIoTA所倡议成立的台RISC-V联盟（RVTA）与日本业界合作，共同加速RISC-V产业发展。并介绍台RISC-V供应链与IC设计生产代工服务，也希望日本厂商若有RISC-V开发需求，可跟台半导体产业上中下游合作，进而开发更多5G、AI与IoT应用。