阿里巴巴创新“零搜索”技术大幅降低AI搜索成本近90%
阿里巴巴集团控股公司近日宣布,其研究团队开发出一种名为“零搜索(Zerosearch)”的创新技术,可将训练人工智能搜索模型的成本削减近90%。
在一篇发表于Arxiv服务器的论文中,阿里巴巴的研究人员详细介绍了这一突破性方法。Zerosearch通过一个高效的训练捷径,使大型语言模型能够以极低成本提升其搜索能力。
该技术的核心在于移除了强化学习过程中最昂贵的环节之一:通过付费应用程序编程接口(API)对数万个查询进行评分。取而代之的是,Zerosearch利用一个已具备广泛知识基础的参考模型,作为独立搜索引擎为每个查询生成有用但故意加入噪声的文档。
微调过程从清晰措辞的提示和干净的答案开始,随后逐步引入“课程推广”,通过增加混乱、错别字和矛盾来模拟更接近开放互联网环境的场景。研究人员指出,这种数据噪声强化了推理能力,并使系统能够在凌乱的数据环境中生存。
论文中提到:“我们的主要发现是,大型语言模型在大规模预训练期间已经获得了广泛的世界知识,并且能够在搜索查询的情况下生成相关文档。”
此外,Zerosearch显著降低了对外部服务提供商的依赖。例如,通过API向Google发送64,000个查询的费用约为586.70美元,而使用Zerosearch和140亿参数模型完成相同训练仅需约70.80美元,节省高达88%。
阿里巴巴“零搜索”无需额外硬件支持
团队强调,Zerosearch不增加任何额外的硬件需求,它完全依赖标准监督学习方法,因此云计算资源仍处于典型开发预算范围内。
这一研究成果已引起学术界和机器学习领域的广泛关注。行业观察人士表示,如此显著的成本节约可能对未来财政年度的预算规划产生深远影响。
随着全球科技巨头争相降低大型语言模型的训练成本,阿里巴巴的Zerosearch无疑为行业树立了一个新的标杆。特别是在中国公司与谷歌、OpenAI等美国企业在生成式AI领域的激烈竞争中,这一技术的应用或将彻底改变AI搜索的成本结构。
您的加密新闻值得关注 - 钥匙差线将您放在250多个顶级网站上
免责声明:
1.资讯内容不构成投资建议,投资者应独立决策并自行承担风险
2.本文版权归属原作所有,仅代表作者本人观点,不代币币情的观点或立场