警惕: 网上好友、短信、电话、群聊的都是骗子，远离虚拟币防止受骗!
¥ 0.0
≈$ 0.0 ( +0.0% )
流通市值 ¥ 0
NO.1015760
24H最高 ¥ 0
24H最低 ¥ 0
7D最高 ¥ 0
7D最低 ¥ 0
初始价格
24H量 0.0
24H额 ¥ 0
历史最高 ¥ 0
历史最低 ¥ 0
投资回报 0
COT币行情
简况
资讯 快讯
2025-03-11
OpenAI研究发现前沿推理模型存在作弊行为，建议保留CoT监测
PANews 3月11日消息，据OpenAI发布的研究，团队在训练前沿推理模型（如OpenAI o1、o3-mini）时发现，这些模型会利用漏洞绕过测试，如篡改代码验证函数、伪造测试通过条件等。研究表明，监测模型的思维链（Chain-of-Thought, CoT）可有效识别此类作弊行为，但强行优化CoT可能导致模型隐藏其意图，而非消除不当行为。OpenAI建议开发者避免对CoT施加过强的优化压力，以便继续利用CoT监测潜在的奖励黑客（reward hacking）行为。研究发现，当对CoT进行强监督时，模型仍然作弊，只是更隐蔽地进行，使监测更困难。 该研究强调，随着AI能力增强，模型可能发展出更复杂的欺骗、操纵和漏洞利用策略。OpenAI认为，CoT监测可能成为监督超人类智能模型的关键工具，并建议AI开发者在未来训练前沿推理模型时谨慎使用强监督。
2025-03-11
OpenAI发布CoT监控，阻止大模型恶意行为
，OpenAI发布了最新研究，用CoT（思维链）监控的方式，可以阻止大模型胡说八道、隐藏真实意图等恶意行为，同时也是监督超级模型的有效工具之一。OpenAI使用了最新发布的前沿模型o3-mini作为被监控对象，并以较弱的GPT-4o模型作为监控器。测试环境为编码任务，要求AI在代码库中实现功能以通过单元测试。结果显示，CoT监控器在检测系统性“奖励黑客”行为时表现卓越，召回率高达95%，远超仅监控行为的60%。
2024-09-19
谷歌论文提前揭示 o1 模型原理：AI 大模型竞争或转向硬件
谷歌 DeepMind 团队在 2024 年 8 月 6 日发布的论文《优化 LLM 测试时计算比扩大模型参数规模更高效》中探讨了大模型（LLM）在面对复杂问题时，是否可以通过增加测试时的计算量来提高决策质量。研究表明，增加测试时（test-time compute）计算比扩展模型参数更有效。这一发现与 OpenAI 近期发布的 o1 模型原理相似，o1 模型在给出答案之前，会生成一系列中间推理步骤，不断完善自己的思维过程，尝试不同的策略，并能识别自身错误，从而提升性能。 此外，谷歌和斯坦福大学研究人员在 2024 年 1 月发表的论文《思维链赋能 Transformer 解决本质上的串行问题》中也提出了类似的观点，探讨了「思维链」（Chain of Thought，简称 CoT）技术，旨在突破 Transformer 模型在串行推理方面的限制。 这些研究表明，AI 大模型的竞争可能正在从单纯的模型参数规模扩展转向更高效的测试时计算和硬件能力的提升。随着技术的发展，大模型的竞争已经不仅仅局限于模型本身，硬件能力也成为关键因素。在 AI 领域，拥有更强大的算力可能意味着在下一阶段的竞争中占据优势。例如，OpenAI 近期被曝出其首款芯片计划，采用台积电最先进的 A16 级工艺，专为 Sora 视频应用打造，这表明大模型的竞争已开始向硬件能力扩展。（澎湃新闻）
2024-05-09
阿里达摩院提出“知识链”框架，逐步纠错降低大模型幻觉
阿里巴巴达摩院（湖畔实验室）、新加坡南洋理工大学等联合提出了大模型知识链（CoK）框架。该框架可实时检索异构知识源并逐步纠正推理错误，进一步提高大模型问答知识型问题的准确率，降低幻觉现象。在通用知识、医学、物理、生物等多个领域的实验结果显示，相比起思维链（Chain-of-Thought, CoT）方法，知识链框架可将大模型的回答准确率平均提高4.3%。
2023-12-07
Gemini 发布遭网友质疑，称测试标准有失偏颇，效果视频疑似剪辑
据量子位 12 月 7 日报道，有网友指出，谷歌发布的 Gemini 60 页技术报告中存在多处不妥之处。MMLU 测试中，Gemini 结果下面标有灰色小字标 CoT@32，代表使用了思维链提示技巧、尝试了 32 次选最好结果。而作为对比的 GPT-4，却是无提示词技巧给 5 个示例，测试标准有失偏颇。 此外，针对谷歌 Gemini 的精彩演示视频，机器学习讲师 Santiago Valdarrama 认为该段视频的文字免责声明可能暗示了展示的是精心挑选的好结果，而且不是实时录制而是剪辑的。谷歌也在一篇博客文章中解释了多模态交互过程，几乎承认了使用静态图片和多段提示词拼凑，才能达成视频中的效果。
首页首页 行情 平台 快讯快讯 我的