人工智能与现实制造

原作者: 人工智能 收藏 分享 邀请

2020年1月20日,美国兰德公司网站颁发博客文章,题为《人工智能与实际制作》(Artificial Intelligence and the Manufacturing of Reality),作者是克里斯托弗·保罗(帕蒂兰德研讨生院传授),有关内容编译如下。

2016年,接管查询拜访的美国人有1/3通知研讨职员,他们置信当局在隐瞒对“北达科他州解体”的领会,而这是由研讨职员出于查询拜访目标本身精心筹谋的一个诡计。此次解体底子没有发作,但它凸显了人类在决议什么是真实的或不真实的进程中所带有的缺点。

互联网和其它手艺使得更易于将其用作兵器和操纵这些缝隙,比以往任何时辰都更快、更惹人瞩目地诱惑更多的人。人工智能很能够会以史无前例的范围、速度和有用性程度来操纵人道的内涵弱点。像俄罗斯如许的敌手可以寻求一些方针,即操纵这些把持手腕来奇妙地重塑方针受众对四周世界的观点,从而有用地制作实际。即便我们的猜测只要一些是正确的,一切依靠于公家言论、公共认知或国民介入的管理也都将面对风险。人类的弱点之一是其轻易过错地从头界说本身所履历的工作。这种被称为托马斯定理的缺点注解:“假如人们将环境界说为真实的,那么厥后果就是真实的。”换句话说,人类不只对环境的客不雅特点做出反映,并且对本身客观的环境诠释做出反映,即便这些信心现实上是过错的。其他错误谬误包罗我们情愿置信不真实的信息,以及轻易遭到感情诉乞降感性影响的偏向,如“北达科他州解体”假话所证实的那样。

还可以教会机械比人类更有用天时用这些缺点:为使方针受众做出所希冀的反映,人工智能算法能针对数百万人高速测试哪些内容有用以及哪些内容不克不及一遍遍地反复。

看看俄罗斯在2016年英国脱欧投票中的脚色。有证据注解,与俄罗斯相干的推特账户3800个,发送的1000多条推文在投票日鞭策了同意脱欧投票。跟着时候的流逝,这种推文似乎在推特上煽惑了脱欧阵营的火焰,而反脱欧阵营在投票前几天做出了反映。

包罗匹敌天生收集、天然说话处置和量子计较在内的新兴手艺可使这种作法加倍有用。例如,未来俄罗斯行动者可以按照受众的特点及其在各类在线平台上的行动来剪裁推文中的信息,而断定受众在各类在线平台上的行动的根据是他们向数据掮客人正当采办的用户数据,以及从黑客那边采办的不法数据和他们本身检索的数据。

此刻可以操纵这些机遇,而且某些机遇能够会变得越来越轻易被人工智能所操纵。例如,在未来,像俄罗斯如许的敌手可以查询这些数据流以定制其动静,并在社交媒体平台上对其停止测试以辨认最有用的动静。然后,此类进犯者可以响应地更改这些颠末测试的动静,并经由过程各类在线媒体(例如,传统的社交媒体平台、加强实际、虚拟实际装备或无创性脑机接口)将其发送到用户及其社交收集。

以后,很多操纵都是手动完成的,但人工智能可以改动范围。新兴手艺将使这种迭代式优化轮回简直及时发作,而且其影响规模比英国脱欧投票时代所触及的人数要多得多。

(1)实际制作并非新事物

人类曩昔一向很轻易遭到棍骗、搬弄、摆布、诱惑或以其它体例遭到把持。至多从20世纪60年月最先,苏联军方和随后的俄罗斯机构就熟悉到了操纵此缝隙的机遇。这就是为什么苏联人开辟了一个正式的研讨打算(称为反身节制实际)来模仿若何把持方针对实际的观点。该实际侧重于战略性地将信息传递给方针的体例,从而奇妙地改动其决议计划的念头和逻辑。终极方针是使人们置信某事合适他们的最年夜好处,即使这不是最有利的,也可以使人们做某事。当俄罗斯人将反身节制实际用作兵器时,麦迪逊年夜道利用近似的逻辑唤起了人们的感情,并向美国花费者出售产物。

俄罗斯人利用反身节制的例子不乏其人。例如,在1993年10月,俄罗斯一些立法职员接收了本身的议会,倡议恢复共产主义。政府决议让兵变者占据一个差人通信站,从而使其进进一个靠得住的通信频道,然后由差人在这个频道传送当局官员有关打算攻占被占据的国会年夜厦的子虚对话。听到这一动静后,兵变带领人之一——议会讲话人鲁斯兰·卡什布拉托夫呼吁撑持者篡夺本地电视台,这是政变的第一步。经由过程让卡什布拉托夫地下提出暴力请求,俄罗斯政府缔造了固守议会和拘系贰言人士的来由。

异样,东德也认识到了制作实际对保持外部节制的力气。从20世纪70年月摆布最先,其称为“斯塔西”的国度平安部将任务规模从对方针的身材凌虐(例如严刑或处决)扩大到了某种心思凌虐。“斯塔西”将这种手艺称为Zersetzung,它年夜致翻译为“分化”。这是一项有组织的迷信任务,旨在搜集有关人的信息,然后以粉碎人们在私家和公共糊口中自我认识的体例利用这些信息。“斯塔西”闯进方针者的衡宇,从头安插家具、偷走衣物或封闭时钟。他们会发送一些照片,使任务场合中的人蒙羞,将贰言人士的后代摈除出境,或许诱使他们以为本身患有精力疾病,这在明天被称为“煤气灯式心思把持”。“分化”的受益者会尽力领会为什么其糊口变得八怪七喇了。

可是,俄罗斯和“斯塔西”的这些战术需求停止当真的研讨和履行,才干一次性地粉碎或把持方针。今世的信息情况和古代东西(包罗人工智能),可以年夜幅下降此类把持的买卖本钱。以下方式可以在信息兵器化方面完成光鲜明显扩大。

(2)实际制作与古代东西相连系

① 年夜数据

有人猜测,到2025年,人类天天将发生年夜约463艾字节,足以装满2.12亿张DVD。小我数据以令人惧怕的细节对其停止了描绘。经由过程从正当和不法数据掮客人那边拜候此类数据,人工智能可以连系并婚配其亚马逊购物、谷哥搜刮、推特、脸书照片、401k账户余额、信誉记实、其Netflix的阅读习气和在线搜刮等。

② 精准分发和微不雅定位

基于状况更新、宣布的视频草稿、面部辨认数据、德律风和短信,年夜数据可以帮忙辨认哪些人与其别人类似,以及哪些类似之处很主要。人工智能将使其在未来变得越来越轻易。假如把持者对或人的领会足够多,就可以向他或她发送安慰或鼓励信息,那么向近似的人发送不异的动静应当发生类似的成果。

③ 浅表捏造、深度捏造和社交机械人

浅表捏造是经由过程手动窜改图像、视频或音频来建立的。深度捏造利用人工智能将图像、视频和录像叠加到源文件上,以奇妙地改动谁在做什么。人工智能驱动的“社交机械人”可以像真人一样停止对话。人工智能将极年夜地增添这种不真实的“人”的数目,而且使人与人之间的对话加倍坚苦。

④ 匹敌天生收集

帮忙使深度造假的工具变得如斯实际的手艺之一,是利用一类称为匹敌天生收集(GAN)的机械进修零碎。这些收集具有两个神经收集模子:天生器和辨别器。天生器获取练习数据并进修若何从头建立它,而辨别器则测验考试将练习数据与天生重视重生成的数据区分隔。两小我工智能介入者频频博奕,每个介入者的任务迭代都越来越好。

今朝,匹敌天生收集已被用来为假色情影片和政治嘲讽作品停止深度造假。而其把持才能应使我们担忧,缘由有几个。起首,它们可以利用诸如年夜数据和切确倾销之类的输出来扩大如深度造假之类的内容制作。其次,天生器和辨别器神经收集之间的迭代竞争是在机械速度下停止的,而且是切确的。第三,可以将匹敌天生收集的根本逻辑使用于其它理论。

结论

此刻由人工智能驱动的社交机械人向您发送汽车或护肤告白,它们能够最先与您聊天(现实上是在实验您),以测试哪些内容会惹起最激烈的反映。您的回覆将反应到近似匹敌天生收集的零碎中,在此零碎中,您和有数其别人将饰演辨别器的脚色,一切这些都有助于人工智能进修若何在将来的安慰中更好地把持您。您或您如许的其别人能够会渐渐地自愿改动对其它集体或在交际和国际政策成绩上的立场、偏好或行动。谁最先开辟和利用如许的零碎,就很轻易在将来几年内吸引泛博公家。

鉴于以后的社交媒体魄局,抵挡这种年夜范围把持将特殊顺手,以后的社交媒体可以经由过程利用机械人或其他方式的主动化来轻松地复制子虚的个别、人物和账户。开辟庇护性的任务能够有几种方式,以避免利用人工智能对人类停止尝试。当局监管是一种体例。当局可以标准社交媒体公司的身份认证尺度。可以对不合适这些尺度的公司处以罚款,为合适这些尺度的公司供给税收减免,或对每个开设新社交媒体账户的用户纳税。此外,美国证券买卖委员会可觉得地下买卖的社交媒体公司制订尺度,以在其文件中陈述真实、活泼的用户。例如,2016年,美国证券买卖委员会对推特在其平台上陈述逐日和每月活泼用户的体例暗示存眷。证券买卖委员会可以制订陈述真适用户的尺度,这不只可以庇护投资者,并且还可以确保在这些平台上开立账户的通明度。

别的,社交媒体供给商能够会自动采纳办法限制多个账户或不真实的账户。假如这些公司以为如许做合适其好处,那么它们可以采取多种方式来削减子虚账户的传布。此类办法能够包罗更严酷的身份认证和验证,或许能够强加与开设每个账户相干的名义本钱。正当用户只会遭到这种用度最小水平的未便,但僵尸牧人能够会发明这种用度高得令人望而生畏,或许为有数假账户放置付款法式碰到了妨碍。此外,金钱陈迹追踪将为辨认不真实账户甚至追溯到立功者供给了另一种手腕。

这些办法连系起来将使本钱和鼓励办法连结分歧,以避免用户开设数千小我工智能撑持的非真实账户。不论新手艺能否不竭成长,不真实内容的出产者将一直需求一种方式来分发其把持性信息。这些分发渠道将成为我们抵挡实际制作兵器化的第一道防地。

不幸的是,以后的鼓励布局简直没无为鞭策社交媒体公司采纳如许的办法供给动力,由于告白支出的素质是嘉奖年夜量活泼账户,无论它们是由真实的人仍是经由过程主动化来治理的。但可以想象,正视与真人互动的用户会嘉奖社交媒体公司,后者会采纳办法确保其营业和流量账户的真实性。真实性能够成为某些社交媒体平台的主要品牌属性,并遭到花费者行动的鼓励。


鲜花

握手

雷人

路过

鸡蛋
该文章已有0人参与评论

请发表评论

全部评论

本文作者2020-5-9 09:20 PM
人工智能
粉丝1 阅读27 回复0

精彩阅读

排行榜

人工智能公众号

扫码微信公众号
我陪你畅想未来

最智能的人工智能网!
QQ:162057003
周一至周五 9:00-18:00
意见反馈:162057003@qq.com

扫一扫关注我们

Powered by Discuz! X3.4   © 2020 ( 鲁ICP备18055727号 )  |  |网站地图