爱奇飞网

网站首页数码科技 >正文

IBM推出一款新的模拟AI芯片可以与H100竞争

开心的月饼 2023-08-28 08:50:34 数码科技

IBM刚刚公布了未来AI开发的蓝图,其模拟AI芯片的能效据说比当前业界领先的组件高出14倍。生成式人工智能的主要问题之一是该技术目前非常耗电,而且有一天可能会变得如此耗电。

IBM推出一款新的模拟AI芯片可以与H100竞争

随着空间的成熟,训练模型和运行基础设施所涉及的成本只会飙升。例如,据Insider称,ChatGPT每天的运行成本超过70万美元。

这是由于模拟芯片的构建方式造成的。这些组件与数字芯片的不同之处在于,数字芯片可以操纵模拟信号并理解0和1之间的灰度。数字芯片在当今时代应用最广泛,但它们只能处理不同的二进制信号。功能、信号处理和应用领域也存在差异。

Nvidia的芯片,包括H100TensorCoreGPU和A100TensorCoreGPU,主要是为当今许多生成式AI平台提供动力的组件。然而,如果IBM迭代该原型并为大众市场做好准备,它很可能有一天会取代Nvidia成为当前的中流砥柱。

IBM声称其14nm模拟AI芯片每个组件可以编码3500万个相变存储设备,可以建模多达1700万个参数。该公司还表示,其芯片模仿了人脑的运作方式,微芯片直接在内存中执行计算。

它在多个实验中展示了使用这种芯片的优点,其中一个系统能够以非常接近数字硬件设置的准确度转录人们说话的音频。

IBM原型机的每瓦效率大约高出14倍,尽管之前的模拟显示此类硬件的能效可能是当今领先GPU的40到140倍。


版权说明:本站所有作品图文均由用户自行上传分享,仅供网友学习交流。若您的权利被侵害,请联系我们


标签:

站长推荐
栏目推荐
阅读排行