安全社区对人工智能的看法各不相同 媒体
最新黑客安全报告揭示AI的机会与挑战
文章重点
安全专家对人工智慧AI的看法充满期待与担忧。35的受访者担心AI训练数据被泄露。接近一半的安全领导者认为AI是组织最大的安全风险。38的HackerOne客户感到无法有效对抗AI特定威胁。根据HackerOne的最新报告，安全社群对于人工智慧的看法既充满希望又充满担忧。报告来源于对安全专家、成员及客户的调查，同时借鉴了平台数据的见解。
快橙加速器调查显示，最大的担忧包括AI训练数据泄露35、未经授权的使用33以及AI模型受外部操控的脆弱性32。近一半的安全领导者认为，AI是其组织面临的最高安全风险，数据完整性成为主要议题。
报告还指出，仅有38的HackerOne客户感到能够有效防御AI特定的威胁。此外，SANS研究所的一项研究发现，多数安全专业人士预计将会出现防御者与攻击者之间的“军备竞赛”，双方都在运用AI技术。
在安全计划中，AI的主要应用包括异常及恶意软件检测。不过，受访者也提到了一些挑战，比如经常出现的假阳性和对新型威胁的有效性有限。面对这些发现，HackerOne建议组织建立强健的AI治理框架，定期进行验证过程，并为员工提供AI安全实践的培训，以应对潜在的脆弱性。
主要担忧项目百分比AI训练数据泄露35未经授权的使用33AI模型的脆弱性32AI的机会与挑战并存，安全社群需要协同对策以应对不断演变的威胁。