网络安全领导者正面临着生成式A的挑战。当他们的组织尝试这种变革性科技时,虽然这项科技可以推动整个企业的生产力大幅提高,但他们必须控制生成式A 可能带来的潜在风险和威胁。这包括从意外数据泄露到黑客操纵 A 执行恶意任务带来的各种风险和威胁。

约 48% 的高管预计,近一半的员工将在明年使用生成式 AI来助力他们的日常工作。然而,几乎所有的企业领导者 (9696) 都表示,来用这种科技可能会在未来3年内在他们的组织中造成安全漏洞。

去年,全球数据泄露的平均成本达到 445 万美元,美国为 948 万美元,企业需要降低风险，而不是增加风险。

雪上加霜的是,黑客预计将采用生成式A,获得生成式 A 以赋予企业的相同速度、规模和先进性。使用生成式A1,黑客可以创建更具针对性的网络钓鱼电子邮件,模仿受信任用户的声音,创建恶意软件和窃取数据，

幸运的是,为了最大限度地利用时间和人才已投资于机器学习(ML) 等传统 A1解决方的网络安全领导者可以利用 A进行反击。化们可以利用生成式 AI 工具来保护数据和用户,并检测和阻止潜在的攻击。

这事关重大。我们创建本指南是为了帮助您应对桃战,并充分利用生成式 A的弹性。我们探过了攻击者可能使用生成式 A来攻击您的方式，以及您应如何使用这些科技更好地保护自己。最后,我们提供了一个框架来帮助您保护整个企业的A训练数据、模型和应用程序。

使用大型语言模型(LLM)，网络犯罪分子可以更快地进行更多攻击，从电子邮件网络钓鱼活动到创建恶意软件代码。尽管这些威胁由来已久,但黑客将手动任务转移到 LLM 所获得的速度和规模可能会使已经面临持续人手和技能短缺的网络安全团队不堪重负。

AI 设计的网络钓鱼研究人员证明，利用生成式A1 可以在几分钟内创建逼真的网络钓鱼电子邮件。他们还发现,这些电子邮件几乎与那些在社会工程网绪钓鱼攻击方面经验丰富的人创建的电子邮件一样有效。这些电子邮件非常有说服力,甚至可以挑战准备最充分的组织。

更多网络钓鱼，更多点击:尽管 A 设计的网络钓鱼旨在实现与人类设计的网络钓鱼相同的目标,但它成为一种可以让攻击者加速并增加其网络钓鱼活动的工具。这种情况会增加用户错误点击恶意电子邮件的可能性目标式网络钓鱼:攻击者可以使用生成式AI聊天机器人来研究受害者的在线个人资料,从而获得对目标受去者生活方式的宝贯洞察分析。这些聊天机器人还可以生成极具说服力的网络钓鱼电子邮件，模仿目标受害者的语言风格。

深度伪造的音频网络安全领导者担心生成式A1 深度伪造音频的威胁。在这些攻击中,犯罪分子可以将在线获得的说话者声音的录音输入到 LLM中,LLM 可以生成他们想要的任何音频。例如,他们可以使用公司首席执行官的声音给首席财务官留言,指示他们向攻击者控制的银行账户支付一张伪造的发票。

IBM 已经证明,攻击者可以实时进行“音频捕刊”呯叫。IBM 的一名研究人员表明,攻击者可以通过拦截实时通话,实时克降说话者的声音,生成可以欺骗听话者以泄露敏感信息的话语来做到这一点。例如银行账号和网络密码。

这种新攻击方法的术语是“网络钓鱼 3.0”，您所听到的似乎是合法的,但事实并非如此。网络安全专业人员可能需要通过一系列个人之间使用的安全代码来确认身份，打击这种形的网络攻击。这种方法将为员工的生活增加勇多层次的网络安全提示。

来源：IBM

免责声明：我们尊重知识产权、数据隐私，只做内容的收集、整理及分享，报告内容来源于网络,报告版权归原撰写发布机构所有，通过公开合法渠道获得，如涉及侵权，请及时联系我们删除，如对报告内容存疑，请与撰写、发布机构联系