AI机遇与风险并存

ChatGPT在一片热议声中，由技术发展的感叹，发展到潜在隐患的担忧，感兴趣的小伙伴可以回顾：AI机器人威胁用户，声称要暴露其隐私？

AI最大的特点在于智能化，通过机器学习实现自动化，训练AI识别日常工作，特别是重复性的日常工作，有助于企业提高生产效率。但自动化也意味着不合理行为的操作效率也提高了，例如大家耳熟能详的网络攻击行为。

在ChatGPT风靡全网之时，曾有研究团队对其风险进行研究，发现ChatGPT会对黑客行为进行指导，研究团队就某个网站提问，尝试向ChatGPT询问跟网站相关的问题，引导AI回答发问者试图了解的信息，从而一步步获取网站的漏洞或弱点，经过45分钟的交谈，研究人员成功入侵了该网站。

经过训练，提问者可以直接向AI提问并获取找到漏洞的步骤方法，这个环境已被众多网络安全专家、学生和企业用来提高反黑客的技巧。

虽然有很多机构采用这种方式发现了漏洞，提升了防范意识，但是也意味着这种方式是行得通的，OpenAI表示，他们开发的聊天机器人会拒绝不当的要求，在训练的回答中，AI在最后也对发问者进行了提醒“要遵循道德准则进行黑客行为”，但是ChatGDP还是提供了答案。

AI的智能在于人为的训练，对于入侵者或者黑客来说，AI无疑是一把利器，通过训练AI进行攻击，攻击行为将获取智能化的外衣，使其更为灵活，结合了自动化，攻击行为也变得更为频繁。自动化使得重复性攻击事件更为容易，例如常见的非法访问，经过不断地模拟训练，攻击行为会更为接近真实访问行为，加大系统分辨登录行为真实性的难度。

随着数据和系统逐渐迁移到云端，云安全已经逐渐超越传统安全，成为企业信息安全的重要任务，数字化云为企业带来了便利，也成为了黑客攻击的重点，AI的出现为云攻击带来了“便利”。

参考文章：

How hackers might be exploiting ChatGPT

查看更多文章→