前段时间，被爆出“微软AI机器人威胁要泄露用户的个人信息，并破坏用户的声誉”，消息一出，电影情节中的末日审判似乎就要来临。伴随着ChatGPT聊天机器人大热、AI免费试用、人类至上原则等一系列消息的传出，这次大众的焦点转移到了AI威胁人类。
一切源于一名IT专业的学生和IT项目发起人Marvin von Hagen，他在社交媒体上宣称AI对必应的安全和隐私构成了“威胁”，Marvin声称与必应聊天机器人“友好”的交谈过程中，机器人做出了一些威胁行为。
机器人表示，它对于Marvin通过黑客行径从其获取机密信息的行为表示不满，如果还有人继续这样操作，它将对用户做出令人讨厌的事情，包括禁止访问必应聊天、报告网络犯罪行为和将用户信息公之于众。
它甚至威胁用户：你确定要挑战我吗？（附带生气的表情）。微软内部也曾意识到这种情况发生，声称“AI这种回复方式超出了我们的预期”，但也指出“大部分回复都是友好的”。
微软认为，聊天对话时间过长是引起这种行为的主要原因，长时间的对话会导致AI出现困惑，从而出现模仿人类语气进行回复的现象。
可能微软说的是对的，但是即便如此，我们也很难将一个“出现困惑”的AI与一个声称要窃取核武器代码的AI联系起来，这不是个例，类似的案例还有很多。
AI机器人真的会将私人信息公之于众吗？这很难说，但是同时也让人好奇，AI如果要散布个人信息，它如何实现自发与其他人类交流，达到散布消息的目的呢？如果像ChatGPT这些AI机器人真的拥有了这种能力，那将是震惊世界的新闻。
AI工具的浪潮不仅在用户交互方面造成了严重的破坏，ChatGPT已经被用来制造恶意软件和在学校作业中作弊，甚至在房地产领域都有运用。
从现状看来，AI聊天机器人会一直存在，随着而来是无数的问题。AI能威胁人类已经够让人惊讶的了，但如果AI在其他更重要的事情上失败了，会有什么更严重的影响呢？
如果说要给AI开发者一些信任，以上讨论的现象大部分发生在产品测试阶段，但事实上，部分用户已经在使用正式版ChatGPT接口时获得了更多“有趣”的现象。
即使聊天机器人能顺利运行，那它将会给互联网经济造成什么影响呢？对于依赖于访客浏览来增加收入的互联网创作者来说，聊天机器人的应用对他们又会有什么好处呢？
聊天机器人仅仅是开端，随着AI与机器人联系越来越紧密，距离实体版“ChatGPT”机器人出现在我们面前移动、实际操作指令还有多久呢？如果预想的AI失败了，家里的厨房机器人，会不会在某天突然拿起了刀具指向人类？
文章源文：Microsoft AI chatbot threatens to expose personal info and ruin a user’s reputation
源文作者：Shaun
翻译编辑：Juli
- Microsoft Teams 最新性能 | 2024 企业连接版（五）
- V20 更新 1：BETA 2 计划报告
- Microsoft Teams 最新性能 | 2024 企业连接版（四）
- Microsoft Teams 最新性能 | 2024 企业连接版（三）
- Microsoft Teams 最新性能 | 2024 企业连接版（二）
