当前位置:首页>滚动 > >正文

核污水排海引热议!日政府被曝出动AI武器,实时监控全网“虚假信息”

  • 2023-08-26 16:09:37来源:凤凰网


(相关资料图)

【新智元导读】有媒体爆料,早在去年,日本政府便开始用AI工具检测与福岛核污水排放的相关言论,并在几小时内就能做出回应。

这几天,日本正式开始向太平洋排放核污染水的消息,引起了广泛的关注。

而就在排放之前,有媒体报道称,日本政府从去年起便开始利用AI工具监控任何与福岛核电站计划排放核污水有关的言论。

今年6月,该AI发现了一份韩国媒体的报道,声称日本外务省高级官员向国际原子能机构(IAEA)进行了巨额政治献金。

短短几个小时之内,日本政府便做出回应,同时用英文和日文驳斥该报道「毫无根据」。

根据Nikkei Asia此前的报道,日本外务省在2023年推出了一套全新的AI系统,用于收集和分析社交媒体等平台上的信息,以及在中长期内对公众舆论影响的追踪。

值得注意的是,该框架不仅包括面向日本受众的信息,还包括其他国家和地区针对日本的信息。

事件回顾

2011年3月,地震和海啸摧毁了福岛第一核电站的冷却系统,导致三个反应堆中的核燃料熔毁,放射性物质不断泄漏。随之而来的大面积污染,迫使数万人撤离。

为了抑制爆炸后过热的反应堆堆芯,自那以后,已经有超过130万立方米的海水被用于冷却。

这些受污染的水也被收集起来,并存储在该场地上的1000多个不锈钢储罐中。

在造成污染的64种放射性元素中,主要对人类健康构成威胁的放射性元素为:碳-14,碘-131,铯-137,锶-90,钴-60和氚-3。

为了处理这些核污水,东京电力公司(TEPCO)采用了自行研发的先进液体处理系统(ALPS),过程分为共沉淀、吸附和物理过滤等五个阶段。

然而,如此大量的水也让持续的储存变得越来越困难。

2021年4月,日本政府正式批准将这些经过处理的核污水排入大海。

尽管多个国家和国际组织对此表示担忧,但这并没有阻止日本对该计划的推进。

与此同时,日本外务省也开始使用AI来监控网上关于核污水中含有放射性物质的报道,并通过制作大量宣传材料来稀释这些信息的浓度。

7月21日,日本外务省在推特上发布的一则动画视频,就用日语、英语、法语、西班牙语、俄语、阿拉伯语、中文和韩语,解释了核污水处理过程中采取的安全防护措施。

视频解释了工厂的水如何通过高级液体处理系统(ALPS)按照监管标准进行净化。并且强调,在被释放到更广泛的海洋区域之前,排放的核污水已经被海水稀释了100倍。

AI监控言论

实际上,这种监控互联网舆论的技术,在AI领域早已有了非常深入和广泛的探索。

其中最为热门的,便是利用算法、机器学习模型和人工的组合来应对社交媒体中发布的「虚假新闻」。

2018年的一项Twitter研究显示,虚假新闻报道被人类转发的可能性比真实新闻高70%。

与此同时,真实新闻需要大约6倍的时间才能在1500人的群体中传播,而且大部分时候的传播范围很少能超过1000人。相比之下,热门的虚假新闻却可以传播到多达10万人。

为此,Meta曾在2022年推出过一款全新的AI工具Sphere,用来确保信息的准确性。

Sphere是第一个能够一次性扫描数十万引用,来检查它们是否支持相应声明的AI模型。

Sphere的数据集包括1.34亿个公共网页。它依靠互联网的集体知识来快速扫描数十万条网络引用,以寻找事实错误。

Meta表示,Sphere已经扫描了维基百科上所有页面,以此来检测它是否能够找出并不支持页面中声明的引用来源。

当Sphere发现可疑来源时,就会推荐更强大的来源或更正,来帮助提高条目的准确性。

此前,就有不少AI系统能够识别出缺乏引用来源的信息,但Meta的研究者表示,挑出可疑的说法并确定引用来源是否真正支持这种说法,需要「AI系统的深度理解和分析」。

Sphere的研发,标志着Meta为解决平台上的错误信息所做的努力。

几年来,Meta一直因为Facebook、Instagram和WhatsApp上传播的错误信息,遭受着用户和监管机构的严厉批评。CEO小扎甚至被召到国会面前讨论这个问题。

发现假新闻,探索社交媒体传播模式

在欧洲,还有一个Fandango项目,他们在构建软件工具,帮助记者和事实核查员检测假新闻。

无论是PS还是DeepFake,Fandango的系统都可以对这些变化进行逆向工程,使用算法帮助记者发现被篡改的内容。

另外,系统还会根据已经被事实核查员标记的假消息,寻找到具有类似词语和观点的网页或者社交媒体帖子。

这个系统的背后,就是各种AI算法的支持,尤其是自然语言处理。

而瑞士卢加诺大学和英国伦敦帝国理工学院教授Bronstein,则采用一种非典型的AI方法来检测假新闻。

这个项目叫做GoodNews,颠覆了传统的假新闻AI探测工具。

在以往,这些工具会分析假新闻特有的语义特征,然而它们会经常遇到障碍,比如WhatsApp这类平台是加密的,并不允许访问。

另外,很多时候假新闻可能是图像,使用自然语言处理技术很难进行分析。

因此,Bronstein教授的团队颠覆了传统的模型,转而研究假新闻是如何传播的。

结果表明,假新闻在Facebook上的分享量可能远远多于点赞数,而普通帖子的点赞数往往多于分享量。通过发现这样的模式,GoodNews就会将可信度分数附加到新闻项目上。

团队的第一个模型使用基于图形的机器学习,基于推特的数据训练,上面的某些消息被记者证明是虚假的。

由此,他们训练了AI算法,教会模型哪些故事是假的,哪些不是。

多模态DeepFake检测,让AIGC伪造无处可藏

除了单纯的文本外,如Stable Diffusion等视觉生成模型的快速发展,也让DeepFake问题愈发严峻。

在多模态媒体篡改中,各类新闻报道的图片中重要人物的人脸(下图中法国总统人脸)被替换,文字中关键短语或者单词被篡改(下图中正面短语「is welcome to」被篡改为负面短语「is forced to resign」)。

为了应对新的挑战,研究人员提出了一种多模态层次化篡改推理模型,可以通过融合与推理模态间的语义特征,来检测到篡改样本的跨模态语义不一致性。

目前,该工作已被CVPR 2023收录。

具体来说,作者提出了多模态层次化篡改推理模型HierArchical Multi-modal Manipulation rEasoning tRansformer(HAMMER)。

此模型建立在基于双塔结构的多模态语义融合与推理的模型架构上,并将多模态篡改的检测与定位细粒度层次化地通过浅层与深层篡改推理来实现。

HAMMER模型具有以下两个特点:

1. 在浅层篡改推理中,通过篡改感知的对比学习(Manipulation-Aware Contrastive Learning)来对齐图像编码器和文本编码器提取出的图像和文本单模态的语义特征。同时将单模态嵌入特征利用交叉注意力机制进行信息交互,并设计局部块注意力聚合机制(Local Patch Attentional Aggregation)来定位图像篡改区域;

2. 在深层篡改推理中,利用多模态聚合器中的模态感知交叉注意力机制进一步融合多模态语义特征。在此基础上,进行特殊的多模态序列标记(multi-modal sequence tagging)和多模态多标签分类(multi-modal multi-label classification)来定位文本篡改单词并检测更细粒度的篡改类型。

实验结果表明研究团队提出的HAMMER与多模态和单模态检测方法相比,都能更准确地检测并定位多模态媒体篡改。

从多模态篡改检测和定位的可视化结果来看,HAMMER可以准确地同时进行篡改检测与定位任务。

此外,关于篡改单词的模型注意力可视化结果,进一步展示了HAMMER是通过关注与篡改文本语义不一致性的图像区域来进行多模态篡改检测和定位。

标签:

延伸阅读

推荐阅读

核污水排海引热议!日政府被曝出动AI武器,实时监控全网“虚假信息”

【新智元导读】有媒体爆料,早在去年,日本政府便开始用AI工具检测与福

《原神》怎么完成海洋书任务

原神游戏讲述了一个关于神灵和人类的奇幻故事,玩家需要了解世界的历史

安徽巢湖:入秋护农正当时

立秋后,安徽省巢湖市公安局迅速调整勤务模式并力推系列举措,贴身跟进

欠了玖富万卡一天没还后果严重吗

1、产生罚息这是金钱上的损失。如果信用贷款出现逾期,贷款机构会先电

绿的谐波08月25日获沪股通增持18.03万股

08月25日,绿的谐波获沪股通增持18 03万股,最新持股量为631 08万股,

保定成立9个专业组指导恢复农业生产

8月25日,在涿州市高官庄镇东下庄村,种植大户周杰看着田里刚长出两片

扛不住了,理想汽车开始暗中降价

年初打响的价格战,一直持续到现在。8月开始,就已经有不少车企不降价

本周盘点(8.21-8.25):林州重机周跌1.52%,主力资金合计净流出1982.87万元

截至2023年8月25日收盘,林州重机(002535)报收于4 53元,较上周的4 6

第六届国际少儿环保公益绘画大赛颁奖典礼在北京举行

中新网北京8月25日电(记者张晓曦)儿童是世界的未来,环保从儿童抓起。2

锂市场面临多方挑战,产能将过剩8万吨?专家:应避免盲目扩产

8月22日,江西省锂产业大会暨第一届碳酸锂供需策略会在江西南昌举办,5

国民党为什么称为蓝营 蓝营批蔡当局能源政策错误成烂尾 基本情况讲解

大家好,今日关于【国民党为什么称为蓝营蓝营批蔡当局能源政策错误成烂

兆易创新:上半年净利3.36亿元 同比下降78%

8月25日电,兆易创新披露半年报,上半年营业收入29 66亿元,同比下降37

windows和office有什么区别(Office 2019和Office 365有什么区别)

1、Office2019以一次性购买方式销售,即客户一次性付清全部费用,为一

颜值巅峰时期的关之琳 宁愿在宝马车里的动态图

这就是为什么姑娘们喜欢坐宝马的原因?是不是有点太真了。。。外面天气

【港股通】美团(03690)中期扭亏为盈 惟绩后股价低开3.43%

美团(03690)绩后低开3 43%,报135 2港元,成交额2亿港元。消息面上,公

教大家闪电音频剪辑软件怎么对音频进行降噪处理的办法

近期闪电音频剪辑软件怎么对音频进行降噪处理问题在网上得到了很多的关

民营企业诚信合规建设观摩交流活动在浙江举行

人民网杭州8月24日电(记者刘军国)民营企业诚信合规建设观摩交流活动日

德业股份(605117)8月24日主力资金净买入7591.26万元

截至2023年8月24日收盘,德业股份(605117)报收于89 28元,上涨2 12%,

意甲:米兰对18岁的巴特萨吉在季前赛中的表现满意,对他充满信心

维蒂耶洛:米兰对巴特萨吉充满信心,希望让这位2005年出生的后卫作为左

盐化中学校长闫宗民简历 盐化中学

1、盐化吧。2、自由模式的康中和压迫性运中的重点班都好。相信通过盐化

抵制日本核污水排海,但囤盐大可不必 | 新京报快评

抵制日本核污水排海,但囤盐大可不必|新京报快评,日本,核污水,食用盐,

深圳华强2023年上半年净利2.67亿 同比减少48.91%

挖贝网2023年8月24日,深圳华强(000062)近日发布2023年半年度报,报告

戏子无义却演绎人间悲欢离合(戏子无义)

来为大家解答以上问题,戏子无义却演绎人间悲欢离合,戏子无义很多人还

顺势而“为”,技术引领,为旌科技开启千行百业赋能新篇章

集微网消息,疫情3年,受晶圆缺货及地缘政治等因素影响,中国智慧视觉

Gamescom2023:bequiet! 揭开新型高端风冷散热器的面纱

在10 1号展厅A078展位抢先观看DarkRockPro5和DarkRockeElite2023年8月2

大乐透开奖查询23098期:一注8+2复式追加,后区本期要买08+11

上期开奖:体彩大乐透第2023097期开奖号码为:06、07、18、20、22+03、

大贸摩托是什么意思(大贸摩托车是什么车?)

大贸摩托车是指正常过海关缴税和做了强制性3C认证的摩托车,意思是完全

看图写话植树节一年级下册(看图写话植树)

诸多的对于看图写话植树节一年级下册,看图写话植树这个问题都颇为感兴

兰石重装与战略投资者华菱湘钢签署合作协议 推动产业链上下游深度融合

本报记者刘欢8月23日晚间,兰石重装发布公告称,公司接到控股股东兰石

请律师做公司盈余分配案件费用?

找律师一般是根据案件的复杂程度,还有就是各个地方的经济水平来进行收

猜您喜欢

Copyright ©  2015-2022 时代服装网版权所有  备案号:   联系邮箱: 514 676 113@qq.com