Meta发布最新开源模型Llama 3.1引领AI新潮流

发表时间: 2024-07-28 09:31

Meta发布最强开源模型Llama 3.1

北京时间7月23日晚,Meta 正式发布最新的开源大模型Llama 3.1系列,进一步缩小了开源模型与闭源模型的差距。Llama 3.1包含8B、70B和450B 3个参数规模,其中450B参数的模型在多项基准测试中超过了OpenAI的GPT-4o,与Claude 3.5 Sonnet 等领先的闭源模型相媲美。在具体细节上,Llama 3.1三个版本的模型上下文窗口都从 8k 增加到了 128K,扩大 16 倍,同时支持8种语言。其中Llama 3.1 -405B模型使用了超过15万亿个tokens进行训练,并且为了能达到这一训练规模,团队使用了1.6万块H100 的GPU。官方表示,405B模型是第一个以这种规模训练的 Llama 模型。

点评:开源大型语言模型在功能和性能方面大多落后于闭源模型,“但现在,我们正迎来一个由开源引领的新时代。”Meta 创始人兼CEO扎克伯格同一时间在官网发布一篇博客为这次发布造势,他表示,Llama 3.1 版本将成为行业的一个转折点,大多数开发人员将开始主要使用开源,开源AI是未来的发展方向。英伟达高级研究科学家Jim Fan在X上发文祝贺Meta团队,他提到,“GPT-4的力量就在我们手中,(这是)一个真正具有历史意义的时刻。

OpenAI测试AI搜索功能

OpenAI正在让少数用户测试一套新的搜索功能,该功能回答问题时将提供更具时效性的信息以及所引用资料的链接。这意味着该公司向谷歌发起直接挑战。这个名为"SearchGPT"的新功能将在网络浏览器上发布测试版本,为用户提供独立的搜索体验,日后有望添加到ChatGPT中。OpenAI没有透露SearchGPT的推出时间。

点评:此前OpenAI频频传出将推出AI搜索工具,当地时间5月10日,OpenAI澄清了下周将推出AI搜索引擎的传言。但OpenAI的AI搜索工具最终还是在来的路上了。据OpenAI介绍,SearchGPT将由GPT-4系列模型提供支持,并与来自网络的实时信息相结合,还会列出答案来源及链接。不过,此前也有厂商推出AI搜索功能,但对搜索巨头谷歌的业绩冲击并不大。2024财年第二季度,谷歌广告业务总营收为646.16亿美元,较上年同期的581.43亿美元增长11%。AI搜索有多大市场、是否为颠覆性的产品还有待观察。

欧盟《人工智能法案》8月1日将生效

8月1日,欧盟《人工智能法案》将在欧盟范围内正式生效,并将在未来三年分阶段实施。这是全球第一部全面监管人工智能的法案。6个月后,总则和关于不可接受风险AI系统的禁令将适用;12个月后,高风险AI系统的部分章节、通用人工智能模型等章节将适用;24个月后,除高风险AI系统分类规则等部分内容外,其余部分适用;36个月后,高风险AI系统分类规则等部分内容也适用。

点评:该法案对多类在欧盟区域开展业务的海外公司有所约束,影响波及域外地区。分阶段实施还是给了人工智能企业适应和作出调整的时间,欧盟也有待对一些条例提供进一步的详细说明和配套设施。该法案将AI系统分为被禁止的、高风险、有限风险和最低风险,每个级别都有相应合规要求,条例将颇多,复杂全面,有意愿出海的企业还是应当对其研究透彻,避免因不合规而被罚款。

谷歌AI拿下IMO奥数银牌

当地时间7月25日,谷歌DeepMind 在官网宣布旗下人工智能完成了一项重要挑战:用 AI 做出了今年国际数学奥林匹克竞赛 IMO 的真题,并且距拿金牌仅一步之遥。上周刚刚结束的 IMO 竞赛共有六道赛题,涉及代数、组合学、几何和数论。谷歌提出的混合 AI 系统做对了四道,获得 28 分,达到了银牌水平。在这背后,由 DeepMind 团队研发的 AlphaProof 和 AlphaGeometry 2 共同实现了里程碑式的突破。其中,AlphaProof 是一种用于形式化数学推理的强化学习系统,而 AlphaGeometry 2 是 DeepMind 几何求解系统 AlphaGeometry 的改进版本。

点评:这一突破表明具有先进数学推理能力的通用人工智能 (AGI) 有潜力开启科学技术新领域。英伟达高级科学家Jim Fan发文表示,大模型是神秘的存在,它们既能在数学奥林匹克竞赛中获得银牌,又会在“9.11和9.9哪个数字更大”这样的问题上频频出错。不过,AlphaProof和AlphaGeometry 2是在形式化证明和特定领域的符号引擎上完成训练,因此即使它们基于通用LLM构建,在解决专业的奥林匹克竞赛问题它们也更出色。

百川智能完成50亿元A轮融资

7月25日,有市场消息称,大模型初创公司百川智能已于近期完成A轮融资。第一财经就以上信息求证百川智能方面,相关人士回复表示,百川智能确实已经于近期完成了A轮融资,总融资金额达50亿元人民币,并且将以200亿估值开启B轮融资。据悉,百川智能的A轮投资方有阿里、小米、腾讯、亚投资本、中金等头部大厂和市场化投资机构,也包括北京市人工智能产业投资基金、上海人工智能产业投资基金、深创投等国资背景产业投资基金。

点评:过去一年半时间里,包括百川、智谱、月之暗面等在内的国内大模型独角兽公司迅速融资壮大,估值纷纷飙升至200亿上下,目前行业也初步形成6家独角兽大模型公司对阵BAT等大厂十几个基座大模型的格局。有投资人认为,基础模型层的投资新机会所剩无几,接下来两三年的机会在AI应用上。

谷歌母公司Q2净利润同比增长29%,多项指标超预期

北京时间7月24日,谷歌母公司Alphabet(NASDAQ: GOOG, GOOGL)发布了截至6月30日的2024财年第二季度财报。财报显示,Alphabet第二季度营收为847.42亿美元,较上年同期的746.04亿美元增长14%,按固定汇率计算同比增长15%;净利润为236.19亿美元,较上年同期的183.68亿美元增长29%。营收与净利润均超市场此前预期。

具体业务上,谷歌广告业务是主要支撑,总营收为646.16亿美元,较上年同期的581.43亿美元增长11%。备受关注的云业务首次季度收入超过100亿美元,二季度营收达103.47亿美元,较上年同期的80.31亿美元增长29%,超过市场预期。管理层在财报电话会上表示,云收入得到AI需求的提振。

点评:虽然财报多项指标亮眼,但财报发布后谷歌股价经历多次震荡,先是涨2%后转跌,7月25日收盘,公司股价下跌2.99%。波动的背后,是两种不同的市场预期在博弈。投资者对云业务、搜索引擎广告业务的蓬勃发展感到欣喜,但也对Alphabet在AI领域的巨额投资何时能获得回报表示担忧。

智谱推出AI生成视频功能清影

7月26日,智谱AI CEO张鹏在智谱 Open Day上宣布,AI生成视频功能清影(Ying)正式上线智谱清言,生成6秒视频只需要30秒的时间。即日起所有C端用户,都能通过清影体验到AI文生视频、图生视频能力。清影API 已同步上线大模型开放平台bigmodel.cn,企业和开发者可以通过调用API的方式,体验和使用文生视频以及图生视频的模型能力。

点评:在过去几个月中,出现了快手可灵、Luma AI、Runway Gen-3等视频大模型。各大模型中,清影的生成时长并不突出,但可免费使用。记者在清影上线首日试用发现,需要排队1分钟,生成过程比较顺畅。从技术底座看,清影底座视频生成模型是CogVideoX,能将文本、时间、空间三个维度融合起来,该模型参考了Sora的算法设计,也是一个DiT架构。

OpenAI今年亏损可能达50亿美元

有消息称,OpenAI是历史上崛起速度最快的企业之一,但可能面临运营成本飙升。基于此前未披露的内部财务数据估算和相关人士的分析,ChatGPT制造商OpenAI今年可能亏损高达50亿美元。如果这个估算是对的,OpenAI近期估值为800亿美元,将需要在未来12个月左右筹集更多资金。

点评:大模型厂商运营成本高不是秘密,大块的成本集中在算力成本。持续融资、持续烧钱的模式,如果没有好的商业产品带来收入,恐怕一些厂商难以支撑下去。OpenAI即将推出的AI搜索工具会有怎样的商业化模式值得期待。

通义大模型将成为奥运AI大模型应用技术提供方

阿里巴巴通义大模型将成为奥运AI大模型应用的技术提供方。在即将开幕的巴黎奥运会上,将有一系列AI应用亮相。其中包括阿里AI技术支持的360度直播特效、黑白影像AI彩色修复、碳减排辅助等应用。巴黎奥运会还将上线首个大模型应用,由阿里通义千问提供技术支持,开放给国际奥组委官方解说员使用,辅助各项赛事解说。

点评:人工智能技术在奥运会中的应用正在进入全新阶段。此前,国际奥委会(IOC)于2023年4月发布了《奥林匹克AI议程》。《奥林匹克AI议程》的核心目标在于,通过人工智能技术优化赛事流程、提升安全水平、增强观众互动、促进体育文化传播,并推动奥林匹克运动在全球范围内的普及与发展。随着人工智能技术在奥运会应用,更多人将认识到人工智能的能力。

网络安全公司Wiz已拒绝谷歌230亿美元的收购提议

本月早些时候有消息源透露,谷歌母公司Alphabet方面拟出价230亿美元收购网络安全初创公司Wiz,并且已就此与后者进行深入谈判。23日有消息称,Wiz CEO阿萨夫·拉帕波特(Assaf Rappaport)已在内部邮件中宣布,该公司将拒绝谷歌的收购提议。

据悉,阿萨夫·拉帕波特在内部邮件中表示,公司将按照原计划寻求上市,达成每年10亿美元的经常性收入的目标。“拒绝这样的报价很难,但凭借我们出色的团队,我对作出这一选择充满信心。”

点评:尽管谷歌云业务近年来持续增长,但面临来自微软和亚马逊等领先者的竞争压力,Wiz的加入本可为谷歌提供助力。Wiz 的决定对谷歌来说是一个挫折,作为其在云计算领域扩大市场份额战略的一个关键环节,谷歌一直在寻求增强其在网络安全方面的能力。

游族网络AI玩伴产品开启测试

游族网络(002174.SZ)首款AI玩伴产品“代号小游酱”近日开启测试。在7月26日的全球游戏产业大会上,游族网络首席产品官戴奇表示,作为游戏专属助手的“代号小游酱”,为玩家提供客服答疑和游戏攻略,兼顾个性化陪伴,以创造多元的互动体验。游族网络于去年创立了AI创新院,聚焦“AIGC”和“AI赋能游戏全球化”两大领域,该公司已经在游戏动画的脚本、分镜、细化、动态、配音等方面都使用了生成式工具来辅助创作。

点评:人工智能正在展现越来越多的改造游戏产业的潜力。国内的头部游戏企业如腾讯、网易等也研究如何使用这一技术提高游戏开发效率、降低开发成本。在一些特定环节比如绘画等,大模型正在实现对成熟画师的赶超;在成本上,AI也更有优势。更重要的是,AI技术还在不断向前推进,它对游戏产业的改造也才刚刚开始。

(本文来自第一财经)