言外之意就是,现在的硬件水平赶不上他的要求。
陈宇说道:“我们平时跑模型的时候,不论是深度学习训练还是推理,第一个问题就是需要多大的显存,星宇科技的图形处理器为什么那么快,其中一个原因就是通用内存摆脱了PCie的限制,可以让CPU和GPU更加快速的交换信息。”
“我认为星宇科技的SOCL大有可为,有自己的生态圈基础,是最有可能挑战英伟达的CUDA的地位,尽管现在看起来双方不存在竞争关系。”
听到这话的方鸿心中为之侧目。
陈宇望着他沉声说道:“但秦丰显然没有意识到GPU、CPU、SOCL与AI的关系及其在人工智能领域的意义,不,应该说他是有意识的,至少他比华尔街更明白,不然就不会有SOCL的出现,只是秦丰的重视程度远没有上升到与STAR系列智能手机的程度。”
方鸿心中颇为欣喜,这陈宇绝对是个人才。
他创立的量化资本现在一共就300多号员工,方鸿早就了解过这家公司的大致情况,但其中八成以上的员工学历背景都是带有计算机科学、物理学或数学领域的高材生,包括陈宇自己也是这样的学历背景。
现在是研究资本市场做投资交易,但这个团队摇身一变就是一个强大的技术开发团队。
过了片刻,陈宇打开放在桌上的电脑,并对方鸿说道:“这是我们跑的一个自主学习的神经网络AI模型,它已经在艺星视频上看了几千万个视频了,目标是图像识别,但问题是算力不够,如果要达成这个目标,得要好几千个CPU的支持才行,但如果换成GPU只用七个就搞定了。”
闻言,方鸿盯着屏幕说道:“嗯,我知道伱想说什么,GPU虽然单个计算单元不如CPU通用,但可以同时进行大量计算。”
方鸿在这一世原主的身份就是计算机系出生的,虽然在这方面可能比不过陈宇、徐景仁他们,但要是去科技大厂应聘是没什么问题的,这也是其他投资人没有的优势。
陈宇点头道:“没错,就比如零八年奥运会开幕式上的印刷术表演,如果让一个或者几个掌握全局变化的人来对这个阵列进行实时调控那是相当复杂的,但实际表演中每个成员只需要记住自己什么时候站起来、什么时候蹲下,就可以使整体呈现出复杂多变的效果。”
“这些成员就像是GPU里面的一个个小的计算单元,虽然并不掌握全局信息,但在一块同时运作却可以呈现出我们的想要的效果,而AI运算就是需要同时进行大量运算的场景,包括我们跑的AI交易模型。现在我们就是在用GPU来进行深度学习训练。”
“如果只是说GPU更合适AI那肯定不至于,但这就不得不提英伟达的CUDA和星宇科技的SOCL了,老黄在五年前发布了CUDA1.0,这是一个用GPU来进行计算的并行计算平台和编程模型,尽管主要是用于加速图片处理也没有出现革命性的东西。”