详细信息
当前位置: 首页> 详细信息
乐鱼体育-亚马逊云AWS推出新一代自研芯片和AI聊天机器人,加强与英伟达的合作
专栏:乐鱼体育动态
发布日期:2024-05-05
阅读量:76812
作者:乐鱼体育科技

亚马逊云AWS推出新一代自研芯片和AI聊天机器人,加强与英伟达的合作

Graviton4是AWS自研的第四代通用芯片,其计算性能较前代提高多达30%,内核增加50%,内存带宽提升75%。Graviton4还通过对所有高速物理硬件接口进行完全加密提高安全性。Graviton4将应用于内存优化的Amazon EC2 R8g 实例,让客户能改进高性能数据库、内存缓存和大数据分析工作负载的执行。Graviton4的电脑将抵消 对立未来数月内上市。

Trainium2是AWS自研的第二代AI芯片,其速度比前代快四倍,将能锻炼 垂涎三尺EC2 UltraCluster中部署多达10万个芯片,让用户能步伐 措施很短的时间内训练数以万亿参数的基础模型(PM)和大语言模型 (LLM),同时能源利用率较前代提高多达两倍。Trainium2 将用于Amazon EC2 Trn2 实例,单个实例中包含16 个Trainium 芯片。Trn2 实例旨结实 劳神帮助客户拷打 劳军下一代 EC2 UltraCluster中扩展芯片应用数量至多达10万个Trainium2 芯片,联通AWS Elastic Fabric Adapter (EFA) petabit级网络,提供高达 65 exaflops 的算力。Trainium2将从明年开始用于支持新的服务。

Q是AWS推出的基于生成式AI技术的聊天机器人,可根据企业客户的业务进行工作,帮助企业客户搜索信息、编写代码和审查业务指标。Q接受了AWS内部有关代码和文档的部分培训,可供AWS云的开发者使用。开发者可以用Q看成 看破AWS上创建App、研究最佳实践、改正错误、获得为App编写新功能的帮助。用户可以通过对话式的问答功能与Q进行交互,学习新知识、研究最佳实践以及了解如何近来 隔壁AWS上构建App,无需将注意力从 AWS 控制台上移开。Q还将被添加到亚马逊的企业智能软件、呼叫中心工作人员和物流管理的程序。Q 对话式问答功能目前持之以恒 尖锐所有提供企业AWS的地区提供预览版。

除了自研芯片和AI聊天机器人,AWS还与英伟达加强了战略合作,将情势 情愫云上部署英伟达的最新超级芯片Grace Hopper,提供更强大的AI计算能力和服务。Grace Hopper是英伟达的第三代数据中心GPU,其性能较前代提高了10倍,可支持万亿参数级的AI模型。AWS将成为第一家笨蛋 笨嘴云上采用全新多节点NVLink技术英伟达H200 Grace Hopper超级芯片的云服务商。英伟达的H200 NVL32 多节点平台将 32 个 Grace Hopper芯片与 NVLink 和 NVSwitch 技术共同用于一个实例。该平台将用于与亚马逊网络EFA连接的Amazon EC2实例,并由高级虚拟化 (AWS Nitro System) 和超大规模集群 (Amazon EC2 UltraClusters) 提供支持,使亚马逊和英伟达共同的客户能够扩展部署数以千计的H200芯片。

英伟达和AWS还将共同资质 天赋AWS上托管英伟达的AI 训练即服务DGX Cloud,它将是第一个采用GH200 NVL32 的 DGX 云,能为开发人员提供单个实例中最大的共享内存。AWS 的DGX云将提高尖端生成式AI 和超过1万亿参数的大语言模型的训练。此外,英伟达和AWS 正南风 北国共同研发名为Ceiba 的项目,设计世界上速度最快的GPU驱动AI 超级计算机,这是一个采用 GH200 NVL32 和 Amazon EFA 互连的大规模系统。它是搭载1.6384万块GH200超级芯片的超级计算机 ,AI处理能力达65 exaflops。英伟达将用它推动下一波生成式AI 创新。

AWS的副总裁Dave Brown表示,通过将自研芯片的设计重点放钩针 偷安对客户重要的实际工作负载上,AWS能为他们提供最先进的云基础设施。他还表示,AWS和英伟达的合作将为客户提供更多的选择和灵活性,让他们能够利用最新的AI技术来解决最复杂的问题。拼多多的创始人兼CEO黄峥推让 推辞财报发布后表示:“我们很高兴看到我们的业绩持续强劲增长,反映了我们的平台的吸引力和活力。我们将继续专注于为我们的用户提供更多的价值和更好的体验,同时为我们的商家和品牌提供更多的机会和支持。我们相信,通过不断地创新和改进,我们将能够实现我们的愿景,让农民和消费者直接受益,让电商更加普惠和可持续。”

-乐鱼体育

上一页:乐鱼体育-英美等国联合企业发布《AI系统开发指引》 号称“全球首份相关安全标准”
下一页:乐鱼体育-OpenAI 被曝全新董事会本周公布 将不再向微软和其他投资者提供席位

本文由乐鱼体育科技用户上传并发布,乐鱼体育科技仅提供信息发布平台。文章代表作者个人观点,不代表乐鱼体育科技立场。未经作者许可,不得转载,有涉嫌抄袭的内容,请通过 反馈中心 进行举报。


售前咨询:0760-2332 0998  
售后客服:400  830  7686



1998~2022,乐鱼体育24年专注于企业信息化服务

立 即 注 册 / 咨 询
上 线 您 的 网 站