PyTorch 和 Triton 正在打破英伟达 CUDA 的垄断
大部分机器学习软件开发框架严重依赖于英伟达 CUDA,并在英伟达 GPU 上表现最佳。但随着 PyTorch 2.0 和 OpenAI Triton 的到来,英伟达 CUDA 对机器学习的垄断地位正逐渐瓦解。即将到来的 PyTorch 2.0 在英伟达 A100 上的训练性能提升了 86%,在 CPU 上的推理性能提升了 26%。而且这种优势可以扩展到 AMD、英特尔、特斯拉、谷歌、亚马逊、微软等等各个公司生产的 GPU 和 AI 加速器上。而 Triton 能让高级语言达到与使用低级语言相当的性能,提高了可用性。
老王点评:又一次证明了开源胜过闭源,无论闭源的护城河有多深。
Basecamp 因巨额账单退出云计算
Basecamp 的 CTO,也是 Ruby On Rails 的创建者 DHH 介绍了让该公司退出云计算的巨额账单。其 2022 年的费用为 320 万美元,绝大部分都花在了 AWS 上,其中 S3 花费 90 万美元,RDS 47 万美元,OpenSearch 52 万美元,Elasticache 12 万美元。即便如此,也是经过大量工作才减少到这一费用的,该团队不但运行了成本检查计划,还就作为私人协议就长期使用达成了协议。DHH 还用戴尔服务器的三年均摊成本做了对比。
老王点评:云计算确实有很多好处,但也可能是个让你花钱上瘾的无底洞。
使用了 25 年的笔记本内存规范 SO-DIMM 将被替换
制定内存标准的组织 JEDEC 正在制定新规范,以取代已经使用了 25 年的 SO-DIMM 规范。新的 CAMM 标准将基于戴尔公司的设计,目标是在 2023 年下半年完成 1.0 规范,到明年推出基于 CAMM 的系统。现有的 SO-DIMM 在 DDR5/6400 时已经遇到了“困境”,CAMM 的主要吸引力在于它可以实现更高的内存密度,同时还可以扩展到更高的时钟速度。
老王点评:这是不是代表以后笔记本会需要更多内存?
主题测试文章,只做测试使用。发布者:eason,转转请注明出处:https://aicodev.cn/2023/01/18/%e7%a1%ac%e6%a0%b8%e8%a7%82%e5%af%9f-884-pytorch-%e5%92%8c-triton-%e6%ad%a3%e5%9c%a8%e6%89%93%e7%a0%b4%e8%8b%b1%e4%bc%9f%e8%be%be-cuda-%e7%9a%84%e5%9e%84%e6%96%ad/