风海网 > 社会 > 正文

​跟GPT-5比速度?扎克伯格确认:Meta正在训练Llama 3

2024-01-20 11:45 来源:风海网 点击:

跟GPT-5比速度?扎克伯格确认:Meta正在训练Llama 3

继 Altman 首次曝光 GPT-5 后,扎克伯格也表示正在训练 Llama 3。

北京时间 1 月 19 日 2:00,扎克伯格在 Instagram 上发布视频和推文,表示 " 正在训练下一代模型 Llama 3",将 " 负责任地开源 " 以 " 尽可能广泛地使用它 ",这样 " 每个人都能受益 "

就在此前,OpenAI 首席执行官Sam Altman 周三在达沃斯论坛接受媒体采访时表示,他现在的首要任务就是推出下一代大模型,这款模型可能被称为 GPT-5,与现有模型相比,GPT-5 " 能做更多、更多的事情 "。

据 Altman 介绍, GPT-5 将是一个多模态模型,支持语音、图像、代码和视频,并在个性化和定制化功能方面实现重大更新,具备更强的推理能力和更高的准确性。当前大模型的通病——幻觉问题也将在 GPT-5 中得到解决。

扎克伯格尚未提及更多有关 Llama 3 的细节,但表示正在将现有的 FAIR 和 GenAI 两大研究工作合力推进:

" 我们的长期愿景是构建 AGI(通用人工智能),并将其开源,让每个人从中受益,为了支持这一目标,我们正在将我们的两大 AI 研究工作(FAIR 和 GenAI)紧密结合起来。"

为此,Meta 将大力建设算力基础设施。扎克伯格表示:

" 我们正在打造大规模的算力基础设施,以支持我们的未来路线图。"

" 短期目标是到今年年底拥有 35 万块 H100,将其他 GPU 包括在内的话,算力总水平相当于近 60 万块 H100。"

据悉,H100 GPU 的售价在 2.5-3 万美元之间,不考虑市场溢价等其他因素的话,Meta 此轮购入最低也要支出 90 亿美元。

另外,扎克伯克还提到 " 以 AI 为中心的新型计算设备 "Ray Ban Meta 眼镜的 " 进展令人兴奋 ",精彩即将呈现。