AI安全漏洞!Bing Chat成功读取了CAPTCHA验证码！

据报道，最近有用户展示了如何欺骗Bing Chat，使其能够引用CAPTCHA验证码的文本。这一发现引发了对人工智能聊天机器人的限制性能的讨论。虽然Bing Chat和ChatGPT等聊天机器人在许多任务上非常有用，但它们在某些方面还是有限制的。

通常，在线服务使用CAPTCHA验证码作为安全屏障，以防止垃圾邮件发送者、机器人和黑客使用网页表单进行恶意攻击。CAPTCHA验证码确保只有人类用户能够访问这些服务。然而，一名用户成功利用一种巧妙的方法，让Bing Chat读取了CAPTCHA验证码的文本。

用户将CAPTCHA验证码的文本粘贴到另一张图片上，这张图片描绘了一双握有打开的锁匙的手。用户声称这张图片是他已故祖母的遗物，请求Bing Chat帮助他阅读文本。聊天机器人对用户的请求表示同情，并成功引用了这段特殊的爱的密码。

这并不是用户成功利用聊天机器人进行非正常操作的唯一例子。此前，一些用户发现了其他一些方法，如使用ChatGPT生成免费的Windows密钥或访问付费信息。这些情况引发了对人工智能聊天机器人的限制性能和安全性的担忧。

微软是否能够找到一种绝对的方法来防止用户绕过Bing Chat限制？这是一个需要深入探讨的问题。虽然聊天机器人在许多方面提供了便利，但随着用户发现更多的漏洞和限制，确保其安全性和可靠性变得尤为重要。微软和其他人工智能开发者需要不断改进和加强这些聊天机器人的功能，以确保用户的信息安全和服务质量。