如今,随着每个人都生活在网上,在线渠道的网络流量正在激增。但是,如果您深入研究流量,您会发现大部分流量并非来自合法用户。只有不到一半的流量是真正的人类,其余的是机器人,包括好机器人和坏机器人。
在早期,机器人仅用于垃圾邮件或小型抓取尝试。如今,机器人操作员正在大规模利用自动化来执行恶意活动。此类活动包括接管用户帐户、滥用 API、执行 DDoS 攻击、抓取独特的定价信息、竞争性数据挖掘、网络抓取、数字欺诈、金融数据收集、交易欺诈、暴力登录等等。
尽管影响严重,但组织是否采用了有效的机器人管理方法?答案是不。许多企业仍在尝试使用传统解决方案来阻止机器人程序,从而将安全置于风险之中。那么,为什么传统的 WAF缓解爬虫程序会失败呢?让我们来看看 WAF 在 bot 管理中失败的原因以及高级 WAF 保护的好处。
为什么传统的WAF保护不足?
要了解高级 WAF 对机器人检测和缓解的重要性,让我们探讨企业为阻止机器人攻击而采取的常见安全措施以及它们为何无效。
- 代码级安全性——这种做法在开发的初始阶段实施安全性,而不是在生命周期结束时后悔。但是,这种基本的安全级别不足以阻止当今不断发展的机器人,因为它们完美地模仿了人类用户。这种做法也缺乏针对机器人模式的欺诈情报的能力。
- 传统的 IP 封锁——如果一家公司想要封锁其网站的一部分流量,IP 封锁是最有效的方法之一。随着欺诈模式的不断演变,这种方法并不适用于所有场景。阻止 IP 有时最终可能会阻止使用该 IP 的合法用户。
- 传统 Web 应用程序防火墙– WAF 主要用于保护网站和 Web 应用程序免受 SQL 注入、XSS(跨站点脚本)、会话劫持、跨站点请求伪造和其他 Web 攻击等攻击。大部分Web应用防火墙无法适应用户配置文件和应用程序的变化,不断变化。
尽管下一代防火墙 (NGFW) 声称可以感知应用程序,但它们仍然依赖于基本的 bot 缓解功能,例如阻止 IP、用户生成重复请求或对浏览器进行指纹识别。他们检查了有效载荷的前几个字节,因此,使用现代技术的下一代机器人仍未被发现。
WAF 技术经历了几项改进,但它依赖于基于过滤器的方法来检测已证明不足以阻止机器人和其他自动威胁的恶意负载。
此外,管理具有操作复杂性的 WAF 策略已导致一些公司使 Web 应用程序不受保护。在某些情况下,由于目标企业无法足够快地修补漏洞,因此利用了一个已知漏洞。
结合这些挑战,机器人的轻松可用性和自动化技术的创新使得机器人检测和缓解变得更加困难。
为了部署有效的爬虫程序管理和保护,组织需要 Web 应用程序防火墙技术,该技术可以自动发展和微调自身以检测最复杂的爬虫程序并提供持续的安全性。好消息是,像 AppTrana 这样的高级 WAF 采用了有效的措施来检测和阻止不断发展的僵尸网络。
爬虫程序管理中高级 WAF 保护的优势
在高级 WAF 保护的情况下,WAF 技术与行为分析相结合,可检测恶意机器人活动,无需人工干预即可更轻松地发现机器人流量。
Advanced WAF 的 Bot 检测包括以下组件:
- 机器人缓解的自定义规则
- 根据过去流量的行为发现机器人并阻止它们
- 接近零误报,从而确保合法流量不被阻塞
通过主动机器人防御,高级 WAF 可以跟踪 IP 地址以外的攻击者,检测用户的性质并将合法机器人与恶意机器人区分开来。它还消除了与 CAPTCHA 挑战相关的 UX(用户体验)的影响。
除了阻止攻击的开箱即用的完全托管的 WAF 功能外,公司还可以创建自己的自定义策略和规则来阻止他们正在接收或担心可能会收到的机器人攻击。
例如,如果在短时间内从同一 IP 发出重复请求,则可以制定规则来阻止访问网站上的密码重置请求。
使用威胁情报数据库,其中包含所有近期攻击的详细信息、相关的 IP 地址、位置,无论这些攻击是机器还是人为产生的。这个数据库一直在更新。如果从任何可疑 IP 地址发出任何请求,该地址将被自动阻止。
传统WAF与高级WAF比较
安全能力 | 传统 WAF | 高级WAF |
防御 OWASP 十大漏洞 | 是的 | 是的 |
简单的机器人保护 | 是的 | 是的 |
针对可疑机器人类型的自定义操作 | 不 | 是的 |
集体机器人智能(行为模式、指纹和 IP) | 不 | 是的 |
误报风险 | 高的 | 没有任何 |
检测复杂的机器人攻击 | 不 | 是的 |
缓解动态 IP | 有限的 | 是的 |
恶意设备指纹 | 是的 | 是的 |
HTTP 流量检查 | 是的 | 是的 |
与 Indusface 合作进行机器人管理
Web 应用程序全天候成为目标,黑客正在寻找新的方法来破坏网站并造成混乱。加入 Indusface 完全托管的基于云的 WAF、AppTrana,您不仅可以降低僵尸网络的风险,还可以通过阻止恶意机器人流量来最大限度地减少基础设施的处理负载。
AppTrana采用 WAF 技术、爬虫程序缓解和 CDN 编译,可通过提供准确且完全托管的基于云的保护来进一步保护您的应用程序完整性,确保为客户提供安全的在线体验,而不会影响速度。