今日视频：ChatGPT GPTs怎么做？3个GPTs必学的做法。性能升级，英伟达发布新一代AI芯片H200

2023/11/14  Tuesday

📺今日视频：ChatGPT GPTs怎么做？3个GPTs必学的做法

🆕英伟达发布新一代AI芯片H200

英伟达昨晚发布了其新一代AI芯片H200 Tensor Core GPU。

H200 特性如下

• NVIDIA H200 Tensor Core GPU 是世界上最强大的 GPU，可用于加速生成性 AI 和高性能计算 (HPC) 工作负载。

• H200 基于 NVIDIA Hopper 架构，并具有 141GB HBM3e 内存，内存带宽为 4.8TB/s。

• H200 的性能比上一代 H100 GPU 高达 2 倍，比 CPU 快 110 倍。

• H200 还具有能源效率，功耗与 H100 相似。

• NVIDIA AI Enterprise 软件简化了在 H200 上开发和部署 AI 应用程序的过程。

具体来说，H200 在以下领域具有优势：

• 生成性 AI：H200 的更大内存和更高内存带宽使其能够更快地处理大型语言模型 (LLM) 和其他生成性 AI 应用程序。

• 高性能计算：H200 的更高性能和更低功耗使其成为 HPC 应用程序的理想选择。

  以下是一些具体的例子：

• 在 Llama2 70B LLM 推理测试中，H200 比 H100 快 1.9 倍。

• 在 GPT-3 175B LLM 推理测试中，H200 比 H100 快 1.6 倍。

• 在 MILC 高性能计算应用程序中，H200 比双 Sapphire Rapids 8480 CPU 快 110 倍。

  

  H200芯片

❌Ai Pin被曝宣传视频存在两处事实错误

Ai Pin的母公司Humane将更新其AI Pin发布视频以纠正一个重大错误。在视频中，Humane的AI Pin自信地提到了观看即将到来的四月全日食的最佳地点，但Humane员工（及The Verge前员工）Sam Sheffer在Humane的Discord中表示，这是一个已经解决的错误。Sheffer表示Humane将在其网站上更新视频，但截至目前，错误的日食信息仍然存在。

Ai Pin还错误地说明了一把杏仁中的蛋白质含量。Sheffer表示，这个是在说半杯杏仁的蛋白质含量，这是“正确和当前的”行为。然而，他表示这种行为会“随时间改善”。Humane网站上的视频有一个脚注，上面写着“蛋白质含量估算”