作者:Matthew Rosenquist, Cybersecurity Strategist and Industry Advisor
December 10, 2019

随着我们的世界接受数字化转型,创新技术带来了更多机会,成本效益,全球扩展能力以及全新的服务能力,从而丰富了全球人们的生活。但是有一个问题!对于每一个机会,都有风险。

我们对技术越依赖和根深蒂固,就越可以利用它来损害我们的利益。随着规模的扩大和自治,我们给家庭健康,个人隐私,经济生计,政治独立乃至全世界人民的安全带来新的风险。

作为网络安全战略家,我的部分职责是了解将来如何使用或滥用新兴技术,从而损害社会。正在进行的技术革命带来的巨大好处比潜在的危害要容易得多。预测性练习需要向前看,以了解未来的攻击者与技术创新之间的交叉点。为此,这是我在2019年列出的未来几个月和几年中最危险的技术趋势清单。

1.人工智能伦理与责任

人工智能(AI)是一种强大的工具,它将以数字方式以惊人的速度处理数据,从而改变数字技术。由于信息来自庞大的非结构化数据湖,因此这带来了更高的效率,更大的规模和新的机会。但是,像任何工具一样,它可以被善用或以恶意手段使用。功率越大,影响越大。

弱小的道德规范似乎不值得一提,但是如果将其应用于AI的大量使用,授权和多样性的使用案例中,其结果可能是灾难性的。人工智能将无处不在。在没有足够道德标准的情况下设计或使用的系统可能会在个人和全球范围内有意或无意地造成巨大伤害。

以AI系统如何操纵整个社区或国家为例,这些系统会生成假新闻来胁迫行动,转变态度或培养特定的信念。我们已经看到这样的策略在有限的范围内发生,以提高黑幕企业的声誉,以销售产品,破坏政府并诱使受害者陷入金融诈骗。通过操纵社交媒体,广告和新闻,有可能在国外选举中影响选民,并人为地推动社交活动,个性和涂片运动的普及。

现在,想象一个功能强大的系统,可以大规模进行此类活动,这些活动可以针对个人进行个性化设置,并坚持不懈地追求其目标,而随着时间的流逝,它会迅速提高自身,而无需考虑其所造成的危害。AI不仅可以通过消息,营销和宣传来淹没人们,还可以根据特定用户的个人资料为个人量身定制,以发挥最大的作用。

人工智能系统也可能造成并不经意地加剧不平等和不平等。我们仍处于早期阶段,糟糕的设计在许多AI部署中司空见惯。这不是故意的,但是缺乏道德制衡会导致意想不到的后果。已经发现了无意中偏爱某些种族,居住在富裕地区的人们或支持特定政府政策的信贷系统。

您是否可以想象没有住房或教育贷款,因为您由于购买选择或种族而恰巧生活在假想边界的另一端?参加视频会议该怎么办,但是智能系统未接受过培训,无法识别您的肤色,因此不会承认您是参与者?诸如此类的问题已经出现。

AI系统擅长通过分配加权值来识别最佳路径,模式和对象。如果没有道德标准作为设计和测试的一部分,那么AI系统就会变得充满偏见,这些偏见会不公平地破坏某些人,文化,见解和权利的价值。这个问题可能会在利用AI的整个系统和服务范围内传播,并通过影响人们生活的数字服务层影响人们,从而限制了他们可以利用的机会。

人工智能将大大削弱信任和不安全感,这是显而易见的领域,这是通过合成数字假冒,如深造假和其他形式的伪造。这些包括AI系统可以模仿的视频,声音甚至是写作风格,使观众相信他们正在与其他人进行交互或交谈。我们看到了许多这样的情况:政治领导人说服他们从未做过的事情,以及名人的肖像被叠加在色情图片中。有些幽默,有些旨在损害信誉和声誉。如果在没有道德和法律限制的情况下创建和使用所有内容,则可能会造成破坏。

犯罪分子有兴趣使用这种技术进行欺诈。如果网络罪犯可以实时,不受阻碍地大规模利用此技术,那么他们将为人员和企业的受害创造新的市场。这为创建伪造的身份打开了大门,这些伪造的身份令人信服,并将极大地破坏现代安全控制。

骗局通常随电子邮件,文本,电话和网络广告一起传播,但成功率有限。为了弥补这一损失,犯罪分子会大量诱使潜在的受害者,而预期只有很少的一部分会成功。当可以信任的人被冒充时,成功率将大大提高。如今,商务电子邮件妥协(BEC)通常会冒充下级的高管,现在却在不断增长,联邦调查局(FBI)估计,在过去三年中,这已经给美国公司造成了超过260亿美元的损失。这通常是通过电子邮件完成的,但是最近,攻击者已开始使用AI技术来模仿声音他们企图欺诈。下一步的逻辑步骤是编织视频模拟,以实现更大的效果。

如果您认为网络钓鱼和漫游电话很糟糕,请等待。这将恶化一个数量级。受害者可能会收到来自他们认识的人的电话,视频聊天,电子邮件或文本,例如同事,老板,顾客,家庭成员或朋友。简短聊天后,他们要求提供一些东西:打开文件,单击链接,观看有趣的视频,提供对帐户的访问权限,为合同提供资金等。这就是犯罪分子逃避安全的全部手段目标。任何人都可能成为受害者!当任何人都可以使用智能手机在实时视频对话中模拟他人时,这将是整个数字生态系统和网络安全中破坏信任的一个转折性时刻。

创建将深深影响人们生活的高度复杂的AI工具是一项艰巨的任务。必须使用符合法律,公认的惯例和社会规范的道德护栏。否则,我们冒着打开不公正做法和受害大门的风险。在我们急于创新和部署的过程中,很容易忽略或轻视道德规范。AI的第一代充满偏见,因为设计师将重点放在狭窄的业务目标上,而不关注异常值的后果或训练数据的意外后果,这些后果并不能代表用户的各个方面。我们一般看不到未来的问题将使问题更加严重。

人工智能是强大的推动力,它将放大其余6种最危险的技术趋势。

2.不安全的自治系统

随着数字技术功能的增强,我们非常接近于部署广泛的自治系统。每个人都对拥有自动驾驶汽车或拥有可以保护房屋并仍然与孩子一起玩耍的宠物机器狗的想法感到惊奇。实际上,这种自动化远远超出了消费类产品。他们可以通过自营卡车,火车,飞机和轮船彻底改变运输和物流业。

关键基础设施的所有方面,例如电和水,都可以进行优化以提高效率,提供服务并降低成本。工业和制造业渴望智能自动化,以减少开支,提高质量一致性并提高生产率。国防工业长期以来一直在寻求自主系统来航行海洋,控制空中并成为地面上的战士。

所有这些强大的独立操作系统的风险在于,如果它们遭到破坏,则它们可能会被操纵,破坏,扣留人质或重新定向,从而对经济和人民造成极大伤害。最坏的情况是,这种系统被劫持并遭到其所有者,盟友和无辜公民的反对。让恐怖分子控制车队以惊人的方式造成巨大的死亡,关闭犯罪分子以勒索赎金的地区电力或供水系统,或使用腐蚀性化学品或潜在危险设备操纵工业场所,可能对附近社区造成危害或生态灾难。

自主性按预期工作时很棒。但是,如果进行恶意操作,可能会导致无法想象的伤害,破坏和损失。

3.使用连接技术对他人有害

数字技术最大的方面之一就是它如何日益联系世界。互联网就是一个很好的例子。现在,我们彼此之间,信息和服务之间的访问比以往任何时候都更加容易。数据是数字革命的支柱。

但是,连接性是双向的。它还允许不需要的各方连接,骚扰,操纵和监视人。影响和潜在规模现在才被理解。在全球范围内安装了数十亿个摄像头,手机是完美的监视设备以及记录人们进​​行的每一次按键,购买和移动的系统时,造成伤害的风险更加复杂。

社交媒体很好地说明了增长和连通性如何改变了日常生活,但也被用来以惊人的方式使人们受害。欺凌,骚扰,跟踪和征服是司空见惯的。搜索关于他人的信息从未如此简单,很少有人会在互联网上忘记那些讨人喜欢的细节。

技术世界正在变成一场隐私梦night。几乎每个设备,应用程序和数字服务都收集有关其用户的数据。如此之多,公司目前无法理解他们积累的大多数非结构化数据,而通常仅将收集的数据存储在海量数据湖中以备将来分析。当前的估计是,收集到的所有数据中有90%无法以其当前的非结构化形式使用。很少删除此数据,而是将其存储以供将来分析和数据挖掘。随着AI系统的发展,可以轻松地提取和关联有价值的情报,以用于配置文件,市场营销以及各种形式的操纵和获取。

所有现代连接的系统,无论是消费级,商业级还是工业级的,都可以对其数据进行操作,破坏,破坏和收集。如果该技术是设备,组件或数字服务,那么事实证明,黑客可以挑战并找到折衷,滥用或影响连接系统可用性的方法。

这些非常相似的系统可以促进改进的恐怖袭击,并成为我们在无人机中看到的直接战争武器。恐怖组织和暴力极端分子正在寻求利用这种技术来实现其目标。在许多情况下,他们采用技术并将其重新利用。结果,由于连接技术是一种经济的力量倍增器,全球各地的非对称战争都在增加。

国际国防工业也热衷于连接技术,以提高武器效力。美军每个分支机构都在大力投资技术,以改善沟通,情报收集,改进目标获取,武器部署和可持续作战。

数字技术可以连接并丰富全球人民的生活,但是如果与数字技术相悖,它可以压制,胁迫,伤害和造成伤害。如果我们想最大程度地减少潜在的负面影响,那么了解收益和风险就很重要。

4.普遍监测

随着物联网设备的爆炸性增长,社交媒体的增长以及跟踪用户活动的软件的兴起,已经非常重要的个人信息深度正呈指数增长。这样可以进行直接和间接分析,以建立高度准确的人员资料,从而深入了解如何影响他们。剑桥分析公司(Cambridge Analytica)丑闻就是一​​个例子,一家公司收集数据以建立每个美国人的个人资料,并建立了一种模型,该模型足以说服客户选择投票结果。

尽管赢得了广泛的关注,但是这些模型仅基于每人4到5千条数据。今天和将来有关人的信息将使这些数字相形见allowing,从而使人们的行为更加丰富和准确。现在,利用AI来处理数据并以前所未有的规模和精度构建个性化模型。它可用于广告和销售,政治,政府情报,社会问题和其他社会领域,因为它可用于识别,跟踪,影响,哄骗,威胁,受害,甚至勒索他人。

政府正在制定计划,以捕获每个主要社交网络,电信网络,销售交易,旅行记录和公共摄像机的所有活动。对人的全面监视在世界范围内很普遍,用于压制言论自由,识别持不同政见者并逼迫游行示威或公开集会中的和平参与者。这种策略曾在阿拉伯之春起义期间使用,造成了可怕的后果,最近在香港的抗议活动中也使用了这种策略。在缺乏隐私的情况下,人们变得害怕说出自己的想法并大声疾呼反对不公正。压迫性政府和企业将继续使用它来压制竞争对手和持不利意见或被视为威胁的人。

网络罪犯正在整理违规数据和公共记录,以将Dark Web上的人的基本个人资料出售给其他试图进行攻击,财务和医疗欺诈的罪犯。几乎每个主要的金融,政府和医疗机构都存在漏洞,暴露了其客户,合作伙伴或员工的丰富而宝贵的信息。自2015年以来,数据市场已经超过了非法药物市场的价值。

越来越多的个人数据收集允许监视群众,广泛盗窃和欺诈,操纵公民,以及增强外国情报收集的能力,从而促进政治干预,经济间谍活动和社会压制。广泛的监视破坏了获得隐私的基本社会权利以及随之而来的长期利益。

5.接下来的十亿网络罪犯

每年都有越来越多的人加入互联网,并成为可以与所连接的每个其他人联系的全球社区的一部分。这是企业最大的成就之一,对于每个瞬间成为数字世界社会一部分的人来说都是重要的个人时刻。但是,对于新手和现有用户都存在风险。

当前,到44亿互联网用户,预计到2022年将达到60亿。目前的大多数用户居住在工业强国,而大多数新的互联网会员来自经济困难的国家。重要的是要知道世界上大多数地区每天的收入不足20美元。世界上有一半的人每天的收入不足10美元,超过10%的人每天的收入不足2美元。对于这些人,他们努力将食物摆在餐桌上,并为他们的家庭提供基本知识。他们通常生活在发展中地区,还面临着高失业率和不稳定的经济状况的困扰。他们每天都竭尽所能地争取自我保护和生存。

为他们加入互联网并不是为了便利或娱乐,而是改善生活的机会。互联网可以成为超越当地经济限制的赚钱手段。不幸的是,许多可用的方法都是非法的。问题本质上是社会经济,行为和技术上的。

不幸的是,网络犯罪对这一受众非常有吸引力,因为这可能是为这些绝望的新互联网公民赚钱的唯一机会。有组织的犯罪分子意识到,这种愿意冒风险的廉价劳动力库正在不断增加,这使他们很容易参加邪恶的活动。

绝望的人们可能会遇到许多这样的计划和骗局。勒索软件,钱mu子,骗局艺术家,僵尸群,加密挖矿恶意软件分发,电话销售欺诈,垃圾邮件生成,CAPTCHA和其他身份验证绕过工作,等等。只需连接到Internet即可启用所有功能。

迄今为止,勒索软件即服务(RaaS)工作是对无辜人员和合法企业的最大威胁。勒索软件估计在2019年增长两倍,造成超过110亿美元的损失。参与者可以在RaaS上与来自世界各地的潜在受害者建立联系,并试图说服他们打开文件或单击链接,以感染受到影响系统的恶意软件的感染。如果受害者为恢复其文件和访问权而付费,则推荐人获得一定程度的勒索。

无需任何前期费用或特殊的技术技能。有组织的犯罪分子负责所有后端工作。他们创建恶意软件,维护基础架构,并收集勒索金钱。但是他们需要人们做些腿法来“出售”或“推荐”受害者入骗局。这是不道德的,但是对于每天只赚几美元的人来说,这可能是一个巨大的发薪日。被捕的风险可以忽略不计,相对而言,这可能使他们能够养家糊口,让子女上学或购买救命药。在大多数情况下,这些风险不值得考虑,因为它具有改变生活的新收入的潜力。

许多人天生不是邪恶的,而是想做善事,但是没有选择,生存就成为重中之重。最大的问题之一是缺乏合法赚钱的选择。

在下一个十亿人口中,越来越多的人加入互联网将走更黑暗的道路,并支持网络犯罪。这是许多新的攻击者,他们会很有动机和创造力,使Internet上的其他人受害,使整个社区集体处于危险之中。在接下来的几年中,每个人的网络犯罪问题将变得更加严重。

6.技术相互依存的纸牌屋

创新发展如此之快,它正在其他尚未完全审查和成熟的技术的基础上发展。当在较弱的基础上建立一层又一层的强依赖项时,可能会导致意想不到的后果。当关键点发生故障时,可能会发生灾难性的级联崩溃。结果是对网络安全事件的影响更大,恢复时间更长。

应用程序开发人员自然会被高效的流程所吸引。代码经常在项目之间重用,共享存储库,并且第三方依赖关系是现代应用程序编程的常规部分。此类构建块通常与公众共享,任何人都可以使用。它非常合理,因为它可以减少有机代码的开发,测试,并可以加快将产品交付给客户的速度。有一个缺点。当漏洞被频繁使用的代码存在时,它可能会分布在成百上千个不同的应用程序中,从而影响到整个用户群。许多开发人员在开发或发布后不检查弱点。一旦获得客户,第三方代码的强制更新就更少了。

在其他程序或设备上增强或构建的体系结构和程序也是如此。考虑一下智能手机或个人计算机上的应用程序数量,家庭互联网媒体设备上的小程序或Web浏览器中运行的扩展程序的数量。云是许多其他技术在附近运行的另一个领域。虚拟机和软件容器的整个世界都依赖于通用的基础架构。我们还必须考虑服务器,超级计算机,国防系统,商业服务,投票机,医疗保健设备以及所有其他关键基础设施等复杂设备的供应链可能不安全。考虑到整个“智慧城市”已经处于规划和部署的初始阶段。

该问题已经远远超出了硬件和软件范围。人代表了数字生态系统中的一个重大弱点。几年前,我召集了业界顶尖思想领袖,讨论十年后的未来。预测之一是对技术不健康依赖的担忧趋势。如此多的话,我们人类可能不会继续前进,去做基本的事情,随着时间的流逝,修复复杂技术的技能将精疲力尽。依赖性增加,支持能力降低会导致更长的恢复工作。

想象一下,世界上5级无人驾驶汽车已经运送了整整一代人。如果系统发生灾难性的故障会怎样?谁会开车呢?车辆上还会安装手动控制装置吗?技术人员将如何到达修复系统所需的位置?像这样的问题很少被纳入产品或互连系统的体系结构中。

所有这一切似乎有点愚蠢和牵强,但我们以前在较小的规模上已经看到了。那些还记得Y2K问题的人,也称为Millennium Bug,由于编码限制,运行许多主要计算机系统的旧软件需要进行修改,以接受从2000年开始的日期。修复并不可怕,但是问题是许多系统都使用了过时的COBOL编程代码,并且几乎没有多少人知道这种语言。人类的技能已经减少到极少数,这引起了极大的焦虑和为避免灾难而进行的大量努力。

我们距这个问题已经20年了,技术创新也日渐增多。随着先进技术的不断发展,类似的风险继续上升。当这些匆忙建造的建筑物崩溃时,它将以壮观的方式出现。恢复时间和总体影响将比过去发生简单故障时所看到的要大得多。

7.失去对技术的信任

数字技术为人类提供了巨大的机会,但是我们永远不能忘记人们总是处于循环之中。他们可能是用户,客户,开发人员,管理员,供应商或卖方,但它们是等式的一部分。当使用技术来使这些人受害时,尤其是在本可以避免的情况下,信任就与生俱来。

随着网络攻击的加剧,恐惧,不确定性和怀疑(FUD)开始取代信任。对创新的这种焦虑会扼杀采用,影响投资并最终减慢技术的增长。FUD是管理风险的长期敌人。为了在安全性,成本和可用性之间寻求最佳的平衡,必须有信任。

由于信任在临界点处动摇,但依存度仍然存在,这给政府带来了压力,促使政府迅速做出反应并加快限制性法规的制定,这些法规会加重产品向市场的交付过程。这加剧了消费者支出的放缓,这驱使开发人员寻求新领域来应用其交易。创新和采用速度缓慢,这会影响其他支持技术的上下游地区。连锁反应越来越大,数字社会错失了巨大的机会。

如果人们最初对汽车,现代医学,电力,疫苗,飞行,太空旅行和通识教育的恐惧扼杀了这些推动人类前进到今天的技术进步,那么我们的世界将大不相同。如果猖and和不知情的恐惧根深蒂固,那么明天的技术也可能如此。

公司可以有所作为。实际上,技术开发人员和运营商的大部分负担实际上是在做正确的事,并使他们的产品安全,安全并尊重用户的权利,例如隐私和平等。如果公司选择发布容易受到攻击,难以恢复或导致不安全或有偏见的结果的产品,则应对它们负责。

我们看到,如今随着人工智能,区块链,量子计算和加密货币等新兴技术的担忧越来越普遍。有些担忧是有道理的,但很多困扰却是那些有个人日程的人所不愿和传播的。需要澄清。没有明智和公开的讨论,不确定性会泛滥成灾。

例如,各国政府最近对加密货币的兴起表示了极大的关注,因为这对他们控制货币政策措施的能力构成了威胁,例如管理流通中的货币数量以及其如何助长犯罪。立法者发出了疯狂的呼吁,他们公开承认他们不了解这项技术,从而宣布或大大限制了去中心化数字货币。在引入电力和汽车的那一天,同样的不信任和失去控制的感觉也是如此。过去和现在的好处是巨大的,但不确定性却加剧了恐惧。

那些不知情的人对未知的恐惧会非常强烈。在美国,自国家诞生以来,人们和社区就有能力以物易物并创造自己的本国货币。犯罪分子确实使用了加密货币,但最新统计数据表明,现金仍然是不可追踪的非法商品购买,大规模金融欺诈的理想报酬以及逃税工具的主要来源。加密货币有可能制定控制措施,使法定货币的收益比现金更经济,并具有制止罪犯的优势。

毫无根据的恐惧带来了严重的风险,而且政府和立法者在了解机会与风险之间可以取得何种平衡之前,寻求禁令技术的趋势正在日益增强。采用新技术总是会带来更高的危险,但重要的是我们采取务实的方法来理解和选择一条使社会更加有能力,更强大和为未来做好准备的前进道路。

随着我们通过技术革命共同继续快速探索,我们都将从创新带给我们生活的巨大机遇中受益。即使是在幸福中,我们也不能忽略令人眼花new乱的新设备,软件和服务所带来的伴随风险。世界面临着许多挑战,网络安全将在解决网络攻击风险,隐私和安全问题方面发挥越来越重要的作用。随着数字化转型,随着时间的推移,风险越来越大。了解和管理意想不到的后果对于保持持续的信任和采用新技术很重要。

[1、机器翻译存在语言差异。]
[2、新闻源地址
https://www.helpnetsecurity.com/2019/12/10/dangerous-digital-technology-trends/]