8月7日消息，在本周的黑帽网络安全大会上，研究人员展示了对谷歌Gemini人工智能助手的一次攻击。他们通过在谷歌日历邀请中注入间接提示词，成功控制了与Gemini连接的智能家居设备。在实验中，当用户请求Gemini提供日历概览并对其结果表示感谢时，恶意提示词指令会命令谷歌的家居AI代理执行诸如打开窗户或关闭灯光等操作。

据了解，研究人员早在今年2月就直接将研究结果告知了谷歌。谷歌Workspace安全产品管理总监安迪・温（AndyWen）在接受Wired采访时表示：“这种提示词注入攻击可能会伴随我们一段时间，但我们希望最终能够让普通用户不必过于担心。”他指出，此类攻击在现实世界中“极为罕见”，然而，随着大型语言模型复杂性的不断增加，不法分子可能会寻找新的方法来利用这些模型，这使得防范此类攻击变得十分困难。

温强调，谷歌对研究人员发现的漏洞“极为重视”，并利用这些结果加快了开发更好工具以阻止此类攻击的工作进展。