主要内容
前沿AI实验室正竞相开发能自我改进的模型,有人认为这是实现超级智能的关键路径——AI在“思维爆炸”式循环中自我提升,终将超越人类理解甚至实现控制。但对我而言,或许这种递归自我改进能帮助优化新闻工作。经过一周实验,答案是肯定的:可行,且带来意外惊喜。这也展现了AI发展的另一种可能——不再是少数公司垄断整个行业。
为验证想法,我用Andrej Karpathy开发的AutoResearch工具(他曾参与OpenAI创立、特斯拉AI项目,现任职Anthropic),借助Claude模型从基础开始训练小型语言模型。我提供英伟达DGX工作站(AI实验专用“桌面超级计算机”)和持续供电,允许模型跳过常规权限检查(“让它放手去做”)。每几小时检查一次,Claude调整参数与训练策略,逐步优化模型。早期版本输出混乱重复,如“‘In the beginning …’ 最终变成无尽重复的‘end’”,但后续模型经自主改进后更连贯,虽非GPT-5级别,却展现了持续改进的潜力。
为进一步拓展,我使用初创公司Prime Intellect的工具训练定制模型“Frontier_Paper_Curator”,用于筛选和总结新闻中的AI前沿研究论文。通过100篇过往相关内容训练,Claude生成合成数据并借助强化学习优化模型,同时另一模型评估输出。Prime Intellect CEO Vincent Weisser表示,公司获1500万美元融资,目标是让递归自我改进“民主化”——通过开放前沿训练基础设施,让市场集体创造力催生更多专业化模型,而非少数实验室垄断。“我们不要一个近乎全能的中央智能,而要亿万个专注不同领域的‘小智能’。”
类似愿景也出现在其他公司,如Adaption正开发……(原文此处未完整)