开源人工智能助手Clawdbot:自动化与安全性的双刃剑

霸气犀利5 小时前
摘要
开源人工智能助手正在开发者中迅速传播,但安全研究人员警告称,安全措施落后于其应用速度 。
币币情报道:

一款名为Clawdbot的开源人工智能助手近期在开发者社区迅速走红。自今年1月发布以来,该项目已在GitHub上获得超过10,200个星标,并在Discord上吸引了8,900名成员。

Clawdbot被誉为实现了Siri未能兑现的承诺:一个真正能够完成任务的AI助手。CreatorBuddy首席执行官Alex Finn通过短信让他的机器人Henry预订餐厅。当OpenTable预订失败时,Henry利用ElevenLabs的技术致电餐厅并成功完成预订。

“通用人工智能已经到来,但99%的人对此一无所知。”Finn在X(原Twitter)上写道。

Clawdbot的独特之处在于它能够在设备端保留用户上下文信息,同时以开源形式快速迭代。开发者Dan Peguine指出,该工具支持主流即时通讯平台,提供持久内存和主动后台任务功能,远超一般个人助理。此外,普通用户也能轻松安装。

Clawdbot通过一种称为模型上下文协议的技术,将Claude或GPT等AI模型与现实世界的行动无缝连接,无需人工干预。

该系统几乎可以在任何硬件上本地运行,并通过以下方式连接:即时通讯应用,包括WhatsApp、Telegram、Discord、Slack、Signal和iMessage。它还能执行终端命令、控制浏览器、管理文件以及拨打电话。

从投资建议到OnlyFans账户管理,只要你有创造力去构建,有资源支付代币,并且有胆量承担潜在风险,一切似乎皆有可能。

不受限制的访问引发担忧

然而,Clawdbot也引发了安全社区的关注。人工智能研究员Luis Catacora发现了一个严重问题:“Clawdbot网关目前处于零认证状态(只需连接到您的IP地址即可入侵)……这意味着攻击者可以访问shell、自动化浏览器、获取API密钥,甚至完全控制您的设备。”

实际上,将如此强大的系统交给缺乏经验的用户使用,导致许多机器面临被攻击的风险。

解决方法相对简单:将网关绑定从公共设置更改为本地设置,然后重启。但这一步骤并不直观,且默认配置使得许多用户容易受到远程攻击。

专家建议立即限制网络访问,增加适当的身份验证和加密,轮换可能泄露的密钥,并实施速率限制、日志记录和警报,以降低滥用风险。

此外,Clawdbot的高代币消耗也让用户感到惊讶。开发人员建议采用成本更低的模型或本地部署来管理消耗。

费德里科·维蒂奇在MacStories中提到,他在第一周就烧掉了1.8亿个代币。Hacker News的一位开发人员报告称,他在两天内花费了300美元用于他认为的“基本任务”。

Clawdbot由PSPDFKit(现更名为Nutrient)创始人Peter Steinberger开发,他从退休生活中复出,打造了这款“全天候个人助理”。

鉴于其高昂的成本,建议用户谨慎对待让助理执行的任务。

项目文档中包含了一份详细的安全指南以及用于检查配置错误的诊断命令。社区正以每天约30个pull request的速度快速发布修复程序,但安全措施的采用率仍然落后于安装率。

免责声明:

1.资讯内容不构成投资建议,投资者应独立决策并自行承担风险

2.本文版权归属原作所有,仅代表作者本人观点,不代币币情的观点或立场