‘硬核观察 #884 PyTorch 和 Triton 正在打破英伟达 CUDA 的垄断’

“❶ PyTorch 和 Triton 正在打破英伟达 CUDA 的垄断\r\n❷ Basecamp 因巨额账单退出云计算\r\n❸ 使用了 25

'硬核观察 #884 PyTorch 和 Triton 正在打破英伟达 CUDA 的垄断'

'硬核观察 #884 PyTorch 和 Triton 正在打破英伟达 CUDA 的垄断'

PyTorch 和 Triton 正在打破英伟达 CUDA 的垄断

大部分机器学习软件开发框架严重依赖于英伟达 CUDA,并在英伟达 GPU 上表现最佳。但随着 PyTorch 2.0 和 OpenAI Triton 的到来,英伟达 CUDA 对机器学习的垄断地位正逐渐瓦解。即将到来的 PyTorch 2.0 在英伟达 A100 上的训练性能提升了 86%,在 CPU 上的推理性能提升了 26%。而且这种优势可以扩展到 AMD、英特尔、特斯拉、谷歌、亚马逊、微软等等各个公司生产的 GPU 和 AI 加速器上。而 Triton 能让高级语言达到与使用低级语言相当的性能,提高了可用性。

消息来源:Semi Analysis

老王点评:又一次证明了开源胜过闭源,无论闭源的护城河有多深。

'硬核观察 #884 PyTorch 和 Triton 正在打破英伟达 CUDA 的垄断'

Basecamp 因巨额账单退出云计算

Basecamp 的 CTO,也是 Ruby On Rails 的创建者 DHH 介绍了让该公司退出云计算的巨额账单。其 2022 年的费用为 320 万美元,绝大部分都花在了 AWS 上,其中 S3 花费 90 万美元,RDS 47 万美元,OpenSearch 52 万美元,Elasticache 12 万美元。即便如此,也是经过大量工作才减少到这一费用的,该团队不但运行了成本检查计划,还就作为私人协议就长期使用达成了协议。DHH 还用戴尔服务器的三年均摊成本做了对比。

消息来源:The Register

老王点评:云计算确实有很多好处,但也可能是个让你花钱上瘾的无底洞。

'硬核观察 #884 PyTorch 和 Triton 正在打破英伟达 CUDA 的垄断'

使用了 25 年的笔记本内存规范 SO-DIMM 将被替换

制定内存标准的组织 JEDEC 正在制定新规范,以取代已经使用了 25 年的 SO-DIMM 规范。新的 CAMM 标准将基于戴尔公司的设计,目标是在 2023 年下半年完成 1.0 规范,到明年推出基于 CAMM 的系统。现有的 SO-DIMM 在 DDR5/6400 时已经遇到了“困境”,CAMM 的主要吸引力在于它可以实现更高的内存密度,同时还可以扩展到更高的时钟速度。

消息来源:PC World

老王点评:这是不是代表以后笔记本会需要更多内存?

主题测试文章,只做测试使用。发布者:eason,转转请注明出处:https://aicodev.cn/2023/01/18/%e7%a1%ac%e6%a0%b8%e8%a7%82%e5%af%9f-884-pytorch-%e5%92%8c-triton-%e6%ad%a3%e5%9c%a8%e6%89%93%e7%a0%b4%e8%8b%b1%e4%bc%9f%e8%be%be-cuda-%e7%9a%84%e5%9e%84%e6%96%ad/

(0)
eason的头像eason
上一篇 2023年1月17日
下一篇 2023年1月18日

相关推荐

发表回复

您的电子邮箱地址不会被公开。 必填项已用 * 标注

联系我们

400-800-8888

在线咨询: QQ交谈

邮件:admin@example.com

工作时间:周一至周五,9:30-18:30,节假日休息

关注微信