近期,月之暗面(Moonshot AI)宣布其 AI 产品 Kimi,在大模型长上下文窗口技术上取得新的突破,Kimi 智能助手已支持 200 万字超长无损上下文,并于即日起开启产品内测。
去年10月,月之暗面发布支持 20 万汉字输入的 Kimi 智能助手。当时,Claude-100k 支持约 8万字,GPT-4-32k 支持约 2.5 万字。Kimi 是全球市场上能够产品化使用的大模型服务中最长的上下文输入长度。
2024 年 2 月,Kimi 迭代了网站、多问题搜索能力,可用性继续提升。
从发布 5 个月过去,20 万字现在变成 200 万了。
据华尔街见闻援引西部证券郑宏达的评论文章,与目前发布的头部大模型相比,GPT-4 Turbo 上下文窗口为 12.8 万 tokens;Gemini 1.5 和 Claude 3 支持 100 万 tokens 上下文。1 个汉字通常相当于 1~2 个 token,也就是说 Kimi 上下文窗口为 Gemini 1.5 和 Claude 3 的两倍以上。
郑宏达称,现在的 Kimi 可以通过学习用户输入的大量资料,短时间内成为某个领域初级专家;或者作为一种效率工具,帮用户从大量冗杂数据中提取关键信息。未来,具备无损超长上下文能力的 Kimi 有望解锁更多 AI 应用场景。
成立于 2023 年 3 月的月之暗面由清华大学交叉信息学院杨植麟教授领衔,团队成员包括来自谷歌、Meta、亚马逊等国际科技巨头的人才,在 Gemini、盘古 NLP、悟道等多个大模型研发中有参与。公司成立后获红杉中国、真格基金等机构投资,最新一轮融资超 10 亿美元,投资方包括阿里、红杉中国、小红书、美团等,估值达 25 亿美金。
资料来源:综合报道;图片来源:月之暗面官方微博