|
今天AI圈又迎来一件大事：Meta正式发布他们迄今最强的新一代开源大语言模型Llama3。 首批发布的Llama3 8B和Llama3 70B包括预训练和指令微调版本，8K上下文，在两个24K GPU定制集群上使用15万亿tokens数据训练而成，Meta称它们分别是80亿和700亿参数上最好的模型。同时一个参数超过400B的「最大Llama3」也在训练中，社区认为这个模型更恐怖，极有可能超过当前的闭源王者GPT-4 Turbo。 Llama3在各种行业基准测试中表现惊艳，广泛支持各种场景。接下来几个月，Meta将陆续引入新的功能，包括多语言对话、多模态、更长的上下文和更强整体核心性能，并将与社区分享研究论文。 扎克伯格和Meta首席AI科学家Yann LeCun分别在Instagram和X宣布了这一消息。  网友们在评论区一片沸腾，马斯克前排回应，不错（有种淡淡的忧伤）。  我们赶快来看看Llama 3的具体性能表现： 多项测试成绩大幅超过Gemini 1.5和Claude SonnetMeta表示，新一代Llama3在Llama 2 的基础上有了重大飞跃，确立了 LLM的新标准。在预训练和后训练过程上的改进大大降低了错误拒绝率，提高了一致性，并增加了模型响应的多样性。在推理、代码生成和指令遵循等方面都得到了极大改善，使得 Llama 3 更加可控。 对照表中可见，Llama3 8B在大规模多任务语言理解、生成式预训练问题回答、编码和数学等LLM核心基准测试上都力挫Gemma 7B和Mistral 7B。Llama3 70B同样战胜 Gemini Pro 1.5和此前被夸爆了的Claude 3 Sonnet。  |
