情报机构希望软件能够阻止AI木马攻击-ope体育官网
发布时间:2021-04-16  

ope体育平台

ope体育官网|对人工智能系统的最相当严重反击有可能不是来自恶意软件,而是来自单个粘性便笺。由于人工智能系统处置大量数据以“自学”如何在其环境中展开交互,因此单个出现异常(例如粘贴在暂停标志上的粘性便笺)可能会根据技术的训练方式转变技术对所看见内容的观点。因此,粘性便笺不是说明暂停标志,而是可以启动时落成AI的自动驾驶车辆将其登记为车速标志,这些标志在某些地方是黄色和方形的,从而导致潜在的损害。

如果你在AI系统的自学数据中映射充足的触发器,你可以大大转变它的不道德。情报高级研究项目活动(IARPA)的官员正在找寻可以协助制止这种被称作特洛伊木马或后门反击的场景的软件包,并且正在向业界谋求协助。

ope体育官网

该情报界的研究部门周六公布了一份普遍的机构声明草案,敦促行业获取一个解决方案,可以评估和维护AI平台的数据和培训渠道,以维护其免遭潜在的木马反击。IARPA的程序,称作TrojAI,目的检测何时潜在的木马触发器被摆放在AI系统用作在部署用作实际操作之前展开训练的数据中。但是这样的目标本身并非没挑战。

“对木马反击的显著防卫是网络安OPE体育官方网站全(以维护训练数据)和数据清扫(以保证训练数据精确),”BAA说道。“意外的是,现代人工智能的变革的特点是可观的众包数据集,这些数据集对于清扫或监控是不切实际的。”人工智能系统还包括用作训练其他人工智能的公共数据集,并根据特定用例展开调整,这一过程称作移往自学。因此,在没开发人员科学知识的情况下,可以在多个AI系统的自学数据中线性地摄入特洛伊木马触发器。

OPE体育官方网站

“为了使特洛伊木马反击有效地,在长时间操作者环境中启动时必需很少,因此它会影响AI在测试数据集或长时间操作者中的性能,”IARPA官员说道。“此外,触发器理想情况下是攻击者可以在AI的操作者环境中掌控的东西,因此他们可以转录木马不道德。或者,触发器是世界上大自然不存在的东西,但仅在输掉告诉AI想做到什么的时候经常出现。“TrojAI计划期望研发一种解决方案,可以在AI系统经过培训后检测到这些触发器。

明确而言,他们正在找寻具备深度自学,网络安全和其他经验的行业合作伙伴,以协助制订AI内部处置的检查技术,以确认何时以及否已摆放特洛伊木马触发器。官方回应,他们将首先测试早已曝露于木马反击的深度神经网络的潜在解决方案,并将其扩展到其他AI,因为它显得更加有效地。该计划将运营一个基准年,具备选项年和有可能的额外先前工作。

OPE体育官方网站

IARPA官员回应,他们将拒绝接受有关BAA草案的对系统,评论和问题,直到1月4日,随后将在晚些时候公布最后的BAA。_ope体育官网。

本文来源:ope体育官网-www.trailergmt.com

ope体育官网

下一篇:意大利一华人女子遭惨烈虐待身亡 死因为颈部窒息:ope体育平台 上一篇:怎么过?美国白宫保密升级:禁止无线联网设备