
智东西
作者 | 黄菲
编辑 | 江宇
智东西10月22日报道,昨夜,前Meta FAIR研究总监田渊栋参与创办的AI初创公司Recursive Superintelligence(以下简称Recursive)推出首款本地编程模型Flint,该模型主打高速推理,在英伟达RTX Spark上的生成速度超过150 Token/秒,在搭载苹果M4 Pro芯片的MacBook Pro上超过125 Token/秒,最高可达同类模型的2倍。

Recursive官宣推出Flint模型,图源:X
田渊栋随后在X平台转发了这一消息,并介绍了Flint的四大亮点。

田渊栋发文Flint亮相,图源:X
性能方面,Flint在Terminal-Bench 2.1、SWE-Bench Pro v2和SWE-Bench Verified三项Agent编程基准测试中,分别取得了54.9%、89.7%和74.2%的成绩,表现领先于总参数量低于500亿的其他MoE模型。

Flint在Terminal-Bench 2.1、SWE-Bench Pro v2和SWE-Bench Verified的表现,图源:Recursive
训练方面,Flint完全从零构建,经历了分词器开发、预训练、中期训练、监督微调(SFT)和强化学习(RL)等环节。推理速度方面,Flint最高生成速度可达同类模型的2倍。
值得一提的是,Recursive仅用了4个月,就完成了Flint整套模型训练流程的搭建。
有网友在体验Flint后称,模型能够很好地完成自己交给它的任务,但执行时间比预期更长。此外,该网友还反馈,即使关闭思考模式,模型的回答依然过于冗长。

另一位网友则称,Flint每Token仅激活25亿参数这一点最吸引他。他目前在一台配备48GB内存的M5 Pro设备上运行约50个Agent,系统往往会因内存压力提前终止部分进程,算力反而还没成为瓶颈。因此,他希望Flint能够常驻本地内存、随时调用,接手部分原本由Qwen处理的日常任务,并考虑将其加入自己的模型调度系统。

Flint的亮相,也让其背后的AI初创公司Recursive再次受到关注。
今年5月,Recursive正式公开亮相,并宣布获得6.5亿美元融资(约合人民币43.68亿元),公司估值达到46.5亿美元(约合人民币312.46亿元)。
彼时,田渊栋在官宣加入Recursive时就曾提到,其将递归自我改进(Recursive Self-Improvement,RSI)作为核心研究方向,希望让AI系统自主开展实验、持续改进自身,进而推动科学研究自动化。
时隔约5个月,Recursive交出了首款模型Flint。Recursive联合创始人、首席执行官、“提示工程之父”理查德·索赫尔(Richard Socher)也在社交平台X上称,其团队借助自动化研究系统Eureka Machine,从零开发了Flint。
Flint可以直接在用户自己的设备上运行,帮助开发者分析代码库、修复程序错误、实现新功能和编写测试。

Recursive联合创始人兼首席执行官理查德·索赫尔,图源:X
目前,Flint已采用Apache 2.0许可证开源。开发者可以通过Hugging Face获取模型权重,并借助兼容的推理工具在本地部署运行。
开源地址:
GitHub:
https://github.com/recursive-oss/rec
Hugging Face:
https://huggingface.co/stepfun-ai/Step-3.5-Flash
一、编程基准表现领先,挑战同规模MoE模型
Flint采用仅解码器的混合专家(Mixture of Experts,MoE)架构,总参数量为398亿,每Token处理时约激活25亿参数。
与每次推理都需要调用全部模型参数的稠密模型相比,MoE架构可以根据输入选择部分专家参与计算,从而减少单次推理需要激活的参数量。
在Terminal-Bench 2.1、SWE-bench Pro v2、SWE-bench Verified、LiveCodeBench v6、IFBench和IFEval这6项基准测试中,Flint BF16版本的平均得分为80.6分,仅次于Qwen3.8的84.7分,高于Muse Glimmer的74.8分、Qwen3.6的71.7分和Qwen3.5的68.9分。
具体来看,Qwen 3.8在Terminal-Bench 2.1和LiveCodeBench v6上分别领先Flint 18.1和10个百分点;Flint则在IFBench和IFEval两项指令遵循测试中领先其他对比模型。
Flint的NVFP4量化版本在6项测试中的平均得分为80.0分,比BF16版本低0.6分;在LiveCodeBench v6测试中,其得分则比BF16版本高0.5个百分点。

Flint在编程基准测试中的表现,图源:Recursive
总体来看,Flint的编程表现可以媲美总参数量为250亿至400亿的稠密模型,生成速度则是这些模型的5倍。
在上下文长度方面,Flint最高支持约51.2万Token的上下文,并建议开发者将实际使用长度控制在25.6万Token以内,以获得更好的编程效果。
不过,与参数规模更大的闭源编程模型相比,Flint在处理复杂任务时可能需要更明确的指令。Recursive建议开发者将复杂任务拆分为较小的子任务,以提高执行效果。
二、适配本地设备运行,推理速度最高超150 Token/秒
在推理速度方面,Recursive公布的测试数据显示,在配备48GiB内存的苹果M4 Pro设备上,Flint 40B A2B使用MLX推理框架时,短上下文场景下的生成速度达到131.22 Token/秒,约为Qwen3.6 35B A3B(65.55 Token/秒)的2倍、Nemotron 3.5 Lightning 30B A3B(58.00 Token/秒)的2.3倍,也明显快于Muse Glimmer 30B(14.54 Token/秒)。
在英伟达RTX Spark上,Flint NVFP4版本的生成速度达到155.82 Token/秒。

Recursive公布的Flint推理速度,图源:Recursive
针对不同硬件,Recursive还优化了专用计算内核。这些优化使Flint在RTX Spark上的生成速度提升55%,且无需修改模型权重。
Recursive还推出了自研推理引擎rec,用于在本地运行其语言模型。
官方测试显示,在配备48GB内存的苹果M4 Pro设备上,使用4 bit量化模型时,rec的Token生成速度达到llama.cpp的1.4至2.6倍。
该测试覆盖了1K至252K Token的不同输入长度,每次生成1024 Token,各组测试均重复运行5次,统计结果不包含提示词预填充阶段的耗时。

推理引擎rec与llama.cpp在苹果M4 Pro上的Token生成吞吐量对比,图源:GitHub
在部署方面,Flint支持通过SGLang、Ollama和LM Studio等工具在本地运行。模型支持离线使用,开发者可以根据自身硬件条件选择合适的运行方式,减少对远程服务的依赖。
三、自动化系统参与研发,优化模型架构与推理效率
Recursive在Flint的开发过程中,通过持续实验、评估和迭代优化,不断提高模型训练和推理效率。
该公司自研的自动化研究系统Eureka Machine能够自动提出研究方案、编写实现代码并开展实验,再根据实验结果决定下一步尝试方向。该系统还可以并行探索多条技术路线,利用此前实验结果调整后续方案,并组合不同方案中的有效改进。
其团队借助自动化研究系统Eureka Machine,在不到4个月的时间内从零开发了Flint。在研发过程中,Eureka Machine还参与了训练数据处理、优化器选择和训练方案设计,并对模型基础设施与推理性能进行优化。
模型架构调整就是一个例子。
Recursive最初测试的基准方案总参数量为350亿,每Token激活30亿参数。随后,该自动化研究系统Eureka Machine探索了不同的专家配置和网络宽度,最终选出总参数量约400亿、每Token激活约25亿参数的架构。
Recursive认为,这一方案在其测试过的配置中,更好地兼顾了运行速度与编程能力。
模型训练完成后,该系统又继续优化模型占用的内存和推理效率。
在量化环节,Eureka Machine尝试将模型输出层的参数精度压缩至4位,并加入离线蒸馏步骤,以弥补低精度处理可能造成的性能损失。最终采用NVFP4格式的模型,在其基准测试中的得分与16位精度版本相差不到0.7分。
Recursive的模型训练时间优化实验经历了6轮迭代,训练耗时从最初的141.5秒逐步降至77.5秒,整体缩短约45%。最后一轮采用递归优化方案,将训练耗时进一步压缩至77.5秒,较此前纪录快2.2秒,创下该组实验的新低。

Eureka Machine优化模型训练耗时的实验结果,图源:Recursive
Recursive希望将这种研发方式延伸至后续模型开发,让每一代模型的研发成果反过来提高Eureka Machine的研究能力,进而加快下一代模型的开发。
四、八位AI大牛联手创业,三位华人坐镇创始团队
Recursive于2026年5月结束隐身,办公地位于美国旧金山和英国伦敦,其研究方向涉及自动化算法、模型训练和能够自我改进的编程Agent。
该公司团队已有25人以上,其不少成员曾在Salesforce、Uber、OpenAI、谷歌DeepMind、谷歌Brain和Meta等企业及研究机构任职。
Recursive的联合创始人团队共有8人,包括联合创始人兼首席执行官理查德·索赫尔(Richard Socher)、田渊栋(Yuandong Tian)、蒂姆·罗克特舍尔(Tim Rocktäschel)、施天麟(Tim Shi)、乔什·托宾(Josh Tobin)、熊才明(Caiming Xiong)、杰夫·克鲁恩(Jeff Clune)和阿列克谢·多索维茨基(Alexey Dosovitskiy)。

Recursive Superintelligence八位联合创始人,图源:Recursive
Recursive联合创始人兼首席执行官理查德·索赫尔(Richard Socher)是AI领域的知名研究者和连续创业者。
他曾师从斯坦福大学教授、AI研究者吴恩达,研究方向包括自然语言处理和深度学习,参与过ImageNet、GloVe等相关研究,谷歌学术引用量超过24万次。
他也是早期推动神经网络应用于自然语言处理的研究者之一,并因较早系统研究提示工程而被称为“提示工程之父”。
索赫尔曾创办AI初创公司MetaMind,该公司于2016年被企业软件公司Salesforce收购。此后,他创办了AI搜索公司You.com,并曾担任Salesforce首席科学家兼执行副总裁。
值得一提的是,Recursive创始团队中有三位华人。
田渊栋曾担任Meta基础AI研究团队(FAIR)的研究科学家总监,研究方向涉及强化学习、规划与效率,以及大型语言模型的理论研究。
他本科及硕士毕业于上海交通大学,2013年获美国卡内基梅隆大学机器人研究所博士学位。博士毕业后,田渊栋于2013年至2014年在谷歌自动驾驶汽车团队担任软件工程师,随后加入Meta FAIR从事AI研究近十年,并于2025年离开Meta。

Recursive联合创始人田渊栋,图源:田渊栋个人官网
熊才明曾任企业软件公司Salesforce AI研究高级副总裁,长期从事AI研究与模型开发。加入Salesforce之前,他曾在MetaMind担任高级研究员,与索赫尔有过共事经历。
他本科及硕士毕业于华中科技大学,后于纽约州立大学布法罗分校取得计算机科学与工程博士学位,并在加州大学洛杉矶分校完成统计学博士后研究。

Recursive联合创始人熊才明(Caiming Xiong),图源:熊才明个人网站
施天麟(Tim Shi)是清华大学姚班校友,曾在斯坦福大学人工智能实验室攻读博士学位,研究方向涉及机器学习与AI系统。
2017年,他加入OpenAI,参与早期AI Agent研究。随后,他联合创办企业AI公司Cresta,并担任联合创始人兼首席技术官,推动AI技术在企业销售和客服场景中的应用。此后,他参与创办Recursive Superintelligence。

Recursive联合创始人施天麟(Tim Shi),图源:施天麟个人网站
其他联合创始人也拥有不同的研究和创业经历。蒂姆·罗克特舍尔是伦敦大学学院教授,曾在谷歌DeepMind从事AI研究;杰夫·克鲁恩长期研究开放式算法和自我改进AI。
结语:速度与实用性兼得,本地编程模型研发提速
Flint的推出体现了本地编程模型在代码生成能力之外,对运行效率与部署体验的重视。
模型在本地运行,可以减少对云端算力的依赖,也有助于降低代码和数据向远程服务器传输的需求,也让开发者拥有更灵活的使用方式。
Recursive将混合专家架构与自动化研发系统Eureka Machine结合,既优化了模型的本地运行效率,也探索了以自动化系统加快模型研发的新路径。
来源:Recursive

