AI对记忆体产业带来巨变 三星用4个关键数字揭密

根据《财讯》双周刊报导,9月4日,三星电子总裁暨记忆体业务主管Jung-Bae Lee博士获邀担任半导体展大师论坛演讲嘉宾,他以四个数字破题探讨AI对于如今全球的巨大影响力,接着探讨因为AI的未来与记忆体技术的创新。(图/财讯提供)

根据《财讯》双周刊报导,9月4日,三星电子总裁暨记忆体业务主管Jung-Bae Lee博士获邀担任半导体展大师论坛演讲嘉宾,他以四个数字破题探讨AI对于如今全球的巨大影响力,接着探讨因为AI的未来与记忆体技术的创新。

一开始,Jung-Bae Lee先在萤幕上秀出1966、200、1600、800四个数字,接着要让与会者来猜猜这四个数字背后的意义?

第一个数字1966年,是指1966年麻省理工学院的维森鲍姆(Joseph Weizenbaum)博士开发出第一个聊天机器人ELIZA。然而快转到2022年,基于GPT-3.5的ChatGPT被开发出来,其参数数量达到惊人的 1.75 亿个。那时起,生成式人工智慧开始迅速改变世界。

200,则是2023年AI加速器进行AI模型训练时,一天内在GPU和记忆体之间产生的资料量高达200ZB(Zettabyte),这个数字是2019年的六倍,未来这个差距还会持续扩大。

1600,是2024年预估HBM(高频记忆体)的出货量,将高达1600 million GB,也就是16亿GB的容量规模,这是2016年至2023年八年总和的两倍之多。

至于数字800的意义,则是预估至2027年市场规模将高达800 billion美元,也就是将从2023年的5300亿美元急遽攀升至8000亿美元的市场产值;但是在2021年前市场产值要达到5000亿美元花了四年的时间。

然而,AI也为记忆体产业带来新的挑战,Jung-Bae Lee列出的三大挑战包括AI模型训练导致耗电量激增、记忆体频宽,以及储存容量已捉襟见肘。

想当然尔,三星也针对AI推出众多记忆体系列产品,包括DDR、SSD等相关产品线,但当中最引人关注的是今年六月三星发布的技术文献,也就是一种前瞻性的3D HBM封装技术。

《财讯》双周刊指出,在这次大师论坛中,Jung-Bae Lee也首度对外揭橥3D HBM封装技术的架构,以及将为AI时代解决记忆体产业面临的诸多难题。

「这个创新的记忆体架构,类似于V-NAND(三星采用双次堆叠技术开发的记忆体),但是需要单独的电容器,这使得堆叠技术具有挑战性,我们正在开发超越目前2D架构的结构。」Jung-Bae Lee指着萤幕上创新封装技术架构说。

由于,随着人工智慧模型的不断增长,对记忆体频宽和容量的需求不断增加,功耗问题也随之增加,目前的架构很难有效地解决这些需求和问题。后来,三星透过对HBM的功耗进行分析,发现主要的功耗发生在HBM和GPU之间的资料传输期间。

文章来源:财讯双周刊