欢迎光临~hth官网app
语言选择: 中文版 ∷  英文版

hth官网首页

专家访谈汇总:Groq“最快”AI推理芯片

时间: 2024-02-27 00:20:39 |   作者: hth官网首页

  Q:Groq的LPU和传统的GPU有哪些关键差异?在推理芯片市场上,Groq的LPU性能提升和成本情况如何?

  A:Groq的LPU其实就是一个针对AI算法设计的DSA(领域特定加速器),与典型的如谷歌TPU相似,其架构与英伟达的GPU有显著不同。它的设计并未脱离传统CMOS工艺,并采用了与传统内存相连的SM(StorageMemory)架构,而非使用新型存储器设计。

  不同之处在于,Groq采用了一种基于内嵌的SRAM架构进行存储,代替了传统的cache系统和HBM(高带宽内存)。然而,这种设计并非创新突破,众多其他公司也使用类似的内部存储方式,如百度昆仑芯和英国的GraphCore。

  Groq的存储容量并不是最大的,但其架构很适合大模型计算,尤其是大型语言模型,拥有较宽的数据流格式和向量计算。

  Groq的LPU从架构和编程方式上更为适合大语言模型的计算需求,提供了友好的编程模式,适应目前大语言模型的需求。Groq对LPU进行了优化调整,目前可提供高达500Trillionoperations per second的性能。

  Q:Groq这样设计的LPU存储量为何这么大,采用这样的设计其成本和价格如何?

  A:虽然Groq的存储量并不是市面上最大的,但其230或240兆字节的全局共享SM便于编程,因为能视为一整块内存,而不是多块分散的SM。这让编程相对简单,因为不需要在多个小块间做过多的优化工作。

  从工艺流派来看,Groq采用的是基于传统CMOS工艺的存储器设计,与新型存储器工艺相比,传统CMOS更成熟、广泛采用,并且制造商和生产链也更丰富和完善。

  这意味着从设计到制造成本都会相比来说较低,能够更容易地找到代工和进行批量生产。总体来说,Groq的这种设计选择可以使其成本控制更有效,并有助于其推理芯片在市场中的竞争力。

  A:Groq芯片在架构上有几种不同的形式,包括称为净存计算和存内计算的类型。净存计算中,计算电路被放置于存储器中,例如至纯科技和后膜智能等都采用了这种被称为纯列计算的形式。

  另外,还有一种叫做进程计算的形式,HBM(HighBandwidthMemory)是进程计算的一个典型例子,它将原本放置在芯片外部的设计集成到了芯片内,这样子就能够减小延时,并大幅度提高带宽。

  此外,有两种实现芯片内部进程计算的方式,一是基于SM(StreamingMultiprocessors)的设计,二是基于cache的设计。比如CPU和GPU内部通常都会有大容量的cache。

  不同的架构会导致价格和性能上的差异,比如Groq芯片,有着144MB或244MB不等的容量,并且架构也不同,这使得它们的性能竞争力很强。举例来说,谷歌已经在其云服务中大规模采用Groq芯片,甚至超过了GPU的使用量。

  A:华为的智能数据目录方案通过自动化的标签和处理,缩短了每次受理的时间至18分钟,并减少了部署服务器的数量达一半,明显提升了数据归类和分级的效率。

  A:面对数据流通的安全与效率问题,华为提出了可信数据空间的概念。通过合法认证和安全策略控制,保障了数据的安全业务流程是可信、可控、可追溯的。

  此外,通过基于智能缓冲的数据高效复合方案及数据压缩技术,数据访问更高效,数据传输效率提升100%。比如,采用该方案的某银行数据流通的直接投入成本减少了40%,数据传输效率提升了一倍。

  A:华为的数据存储解决方案针对金融、政府、运营商及科研教育等行业场景带来了显著的业务价值。例如,与国内某Top股份制银行的合作中,解决方案减少了总行与分行之间数据流通与规则的安全性问题,从而加快了新业务系统的上线速度。

  通过部署华为数据库解决方案,该银行实现了数据违规使用的大幅度降低、多样化数据报表的快速生成、数据产品开发的敏捷性提升,并且新业务上线时间从一个月缩短到了一周。同时,解决方案还降低了总体成本(TCL)30%。

  A:华为将开启开源计划,开放包括异构接入框架、全局视图管理及数据流通引擎等功能。这对软件研发人员意味着加速数据产品研究开发,降低开发周期;对于政企客户,则有助于加速这一些企业融入数据流通的生态,享受数据流通的价值红利。此外,开源还有助于避免硬件和软件的厂商锁定。

  A:华为在支持企业数字化转型上,为中小企业提供针对性的产品和解决方案。这包括建立了800人的销售服务队伍,提供技术培养和训练和市场支持;以及基于客户的真实需求的、为场景找技术的研发方向,打造具有差异化价值、简单易用的产品与解决方案。

  例如,在存储产品方面,华为提供了适用于各种细分场景的解决方案和爆款产品,如os到2000DTS全站数据中心。华为的os到2000自去年上市以来,3个月内销售超过400套,证明了产品的性能,稳定性和操作的简便性得到了市场的认可。

  A:华为的存储产品使得珠海市吉海微电子股份有限公司的EDA仿线%,并且实现了关键业务的定时备份和数据零丢失,极大地提高了公司的研发效率和业务安全。

  这些成果体现了华为激活数据资产潜能的能力,同时展示了华为在支持客户数字化转型,加速企业智能化方面的贡献。

  A:公司秉持“双引擎”发展的策略,持续聚焦主业,深耕汽车金属部件轻量化产业和低空领域通航飞机制造产业。

  轻量化产业聚焦铝/镁合金,基本的产品为铝合金轮毂和轻量化镁合金部件,服务于全球知名汽车主机厂,新能源汽车以及高铁、5G等行业客户,构建了以美系、欧系、日系、韩系、国内知名主机厂以及主流新能源客户为核心的全球客户布局。

  通航飞机制造产业发力低空领域,旗下钻石飞机在整机设计研发、发动机制造技术、新材料技术和先进制造领域具备同行领先的技术研发优势。

  目前拥有奥地利、加拿大、捷克三大飞机设计研发中心及国内一个省级工程研究中心,以及奥地利、加拿大、中国(青岛、新昌)四大飞机制造基地,为全球通用飞机的领导者,客户遍布欧洲、北美、亚太和中东等区域,在全世界内具备良好的品牌影响力。

  A:公司汽车轻量化业务聚焦铝合金轮毂和镁合金压铸产业。在汽车铝合金轮毂领域,公司为有突出贡献的公司之一,并率先完成向新能源汽车的转型与卡位,为比亚迪、奇瑞、赛力斯、大众等主机厂重要的合作伙伴。

  在国内汽车竞争加剧的大环境下,公司凭借灵活的机制持续优化客户结构、提升经营效益,并积极地推进新工艺在汽车铝合金轮毂领域的应用,力争在国内汽车消费升级的趋势下,可以通过新工艺、新产品的创新提升单车配套价值量。

  在镁合金压铸领域,旗下公司镁瑞丁为全球镁合金压铸产业的领导者,在产品仿真设计、模具设计和产品压铸等方面具备较强的竞争优势,同时公司产品储备丰富,并能完成大型一体化镁合金压铸件的设计与制造。

  从金属特性角度分析,镁合金不仅仅具备更轻的重量,同时具备导热好、减震抗噪、抗电磁辐射等优点,在新能源汽车快速普及的环境下,镁合金在门内板、电驱壳体、后掀背门板、减震塔等大型件领域具备更为成熟的应用基础。

  从产业化落地角度来看,镁瑞丁依托于海外先进的技术,逐步引入国内实现商业化落地,并力争从客户开拓与产品拓展两个维度实现国内新能源主机厂的开拓。

  A:围绕发展新质生产力布局产业链做出重要阐释时专门提到低空经济:“低空经济作为新质生产力的代表,慢慢的变成了培育发展新动能的重要方向,逐步走入我们的生活。

  它以各种有人驾驶和无人驾驶航空器的各类低空飞行活动为牵引,辐射带动相关领域融合发展,能够赋能千行百业,形成至少万亿级别的市场,成为经济稳步的增长性的重要引擎。”

  2023年慢慢的变成了低空经济加速发展的关键一年,低空经济已经列为战略性新兴起的产业,并且国家顶层设计与地方政府支持同时发力。北京、广东、安徽、山西、江西、江苏、山东、四川、重庆等多地政府工作报告提到“低空经济”,陕西省首次将“低空经济”写入政府工作报告。

  答:目前公司内外销收入占公司营收比重分别约65%和35%左右,公司内销占比有一定提升。受宏观环境、市场需求、销售情况、客户结构、订单结构等因素影响,未来公司内外销占比可能会出现一定变化。

  答:近年来,公司积极地推进产品和客户转变发展方式与经济转型,产品和客户结构变优,优质客户占比提升,于2020-2021年左右初见成效,陆续成为苹果、耐克、威富集团、哥伦比亚、匡威、比亚迪等品牌客户供应商。

  公司直销比例从2011年上市时的54.5%,提高至2022年的88.1%。未来,随公司品牌客户合作增多,公司直销经销比例可能会出现一定变化。

  3、公司功能鞋材、沙发家居、汽车内饰、电子科技类产品四个品类,2023年分品类及主要大客户销售情况,以及2024年销售预期?

  功能鞋材是公司的优势品类,公司积累了良好的客户资源与渠道关系,享有良好声誉。

  公司与彪马、亚瑟士、安踏、李宁、特步、361度、鸿星尔克、中乔等合作良好,是耐克在中国大陆唯一一家中资鞋用聚氨酯合成革及复合材料合格供应商,口碑与影响力提升;公司正积极培育国际斐乐、匡威、锐步(REEBOK)、威富集团等品牌,积极联系阿迪达斯、NB、UA、昂跑、HOKA等品牌。

  2023年,国内外体育运动品牌去库存,扣除TPU后,功能鞋材销售同比2022年有一定下降。

  ①耐克:公司积极地推进与耐克鞋部合作,因进入耐克鞋部供应商体系较晚,目前处于打基础和蓄势积能的阶段,当前营收及占比相对较小。

  耐克鞋部PU年采购额约30亿元,公司其内部份额未来仍有较大提升空间。当前耐克鞋部有较多项目在安利开发,处于稳步起量阶段;同时积极地推进耐克对安利越南的认证审核工作,未来动能强劲,空间广阔。

  ②彪马:公司是彪马鞋部的全球核心供应商,合作良好。2023年受其去库存影响,当年销售额略有下降。

  ④安踏、李宁、特步等国内运动品牌:2023年受国内运动品牌去库存影响,李宁、361、鸿星尔克等销售有所下降。

  公司积极地推进TPU开发与营销,取得初步成效,2023年6月逐步量产,在安踏、特步中的内部份额处于稳步上升期,含TPU在内,2023年公司对特步销售额保持稳定,对安踏销售额较2022年稳中有升。

  从当前来看,运动品牌去库存基本结束,订单好转。公司销售部门对2024年功能鞋材销售预期良好,计划实现较快增长。

  (2)沙发家居:沙发家居是公司的优势品类,2023年,在房地产行业低迷的大环境下,从第二季度开始,公司沙发家居订单复苏增长,2023年销售较2022年实现较快增长。

  从客户来看,芝华仕、爱室丽、顾家等主要客户实现较快增长。公司在国内、美线市场覆盖了较多知名品牌,欧线市场需要挖掘、开发和扩大。

  公司在该品类建立培育了良好的客户梯度体系,2024年,公司在服务好现有品牌大客户的基础之上,积极拓宽市场、整合渠道,公司销售部门对2024年沙发家居品类销售充满信心,增长可期。

  汽车内饰是公司的新兴品类之一,是公司未来重要的新动能和增量空间,2023年拓展成效初显,销售额较2022年“低基数、高增长”。

  公司目前服务的汽车品牌逐渐增多,相关这类的产品终端应用覆盖了比亚迪、丰田、小鹏、赛力斯、长城、极越、极氪、华人运通等较多汽车品牌。目前该品类中最大的客户是比亚迪。

  单车价值量根据不一样的品牌车型的定点项目、使用部位、材料性能、单价和该款汽车的销量等,会有所区别,一辆车大约需要2-15米聚氨酯复合材料。

  公司坚定地看好汽车行业,是大空间、大市场、大机遇,在未来一段时期内,公司有信心期望通过努力,争取新的定点项目,提高现有客户的内部份额,同时积极地推进新的品牌车企认证工作,实现汽车内饰品类较高速度增长,销售额较快提升。

  电子产品是公司的新兴品类之一,是公司未来重要的新动能和增量空间。目前公司覆盖了较多国内外消费电子知名品牌客户部分终端产品及配件。2023年,公司与苹果合作稳定,三星、Beats有所增长,销售情况较2022年大体相当。

  2024年,公司将努力提升在现有客户中的内部份额,积极联系和拓展联想、谷歌、OPPO、VIVO、荣耀等品牌企业,努力扩大销售,提高市场占有率,实现更好的效益,预计保持稳定增长和向好的态势。

  答:企业从上世纪50年代开始开采铜矿,经历了露天和井下一期开采,目前正处于铜一期与铜二期过渡阶段。

  铜二期项目进度存在延期情况,根本原因还是受到了以前年度南非疫情影响,由于地下开采、施工属于密闭空间作业,会造成疫情的集中爆发,影响地面生产运行,所以始终对井下生产建设比较谨慎,目前,破碎系统中的第一台破碎机已完成对机器设备的安装调试,进入前期试生产阶段。

  破碎机投入到正常的使用中后,铜二期原矿已开始慢慢地产出,但受限于整体工程进度,产量相比来说较低,距离达产仍需较长时间,预计短期内暂不会对公司营业收入、利润等产生重大影响。

  答:公司是集铜采选、冶炼、加工为一体的铜生产企业,公司旗下的PC是南非最大的铜线生产商,计算机显示终端销售稳定。南非作为非洲第二大经济体,基础设施发展的潜在能力巨大,对于铜线的需求将保持稳步增长。

  答:在销售方面,铜产品主要销售给当地用户,但由于近年铜价高企,公司部分铜精矿直接销往国内。

  答:南非位于非洲南部,全境大部分地处副热带高压带,除了西南部属于地中海式气候、东部沿海是亚热带季风气候,其余大部分属热带草原气候,而热带草原气候的显著特点是终年高温、有明显的干湿两季,降水大多分布在在夏季。

  随着全球气候平均状态随时间的变化的加剧,气候系统变得更复杂和不确定,使得极端天气现象日益频繁。在这种情况下,公司将提前最好相关预案,积极主动地应对气候变化。

  答:蛭石是一种天然、无机、无毒的矿物质,在高温作用下会膨胀的矿物,大范围的应用于农林渔业、建筑、冶金等行业及做为吸附剂、助滤剂、化学制品和化肥的活性载体、污水处理、海水油污吸附、香烟过滤嘴,炸药密度调节剂被使用。

  同时,公司积极与科研院校合作,进一步拓展蛭石应用领域。公司PC蛭石矿作为世界高端蛭石主要供应商,凭借优质的品位和质量,与下游蛭石客户建立了牢固的供应关系,长期向欧洲和亚洲客户出口供应蛭石。

  答:在收入列报方面,公司是依据企业会计准则进行列报的。根据新收入准则规定,公司应扣除海运费及相关保险费用后的净额来列示营业收入。

  公司铁矿石主要销售定价方式为M+2,M是装船日所在月份,以装船日所在月份的普氏价格为基础,确认高品磁铁矿的收入,M+2月是结算月,按照当月普氏价格的平均数对前期确认收入进行调整。

  答:在资源领域做大做强、实现可持续健康发展是公司近几年的战略目标。公司将着眼全球市场,继续寻求符合自身特点的项目、抓住长期资金市场机遇,把握时机,实现并购,扩大公司产业高质量发展规模,增强公司的持续盈利能力。