防范AI制造不实信息:大数据反黄应用的SNA算法解析

发表时间: 2024-05-19 11:05

随着AI技术的深度发展,“AI换脸”“AI脱衣”工具变得常见。一些不法分子将歪主意打到了造“黄谣”,甚至威胁、诈骗上。4月19日,北京市海淀区人民法院审理了一起使用“AI去衣”软件制作淫秽物品案。被告人将他人提供的承载人脸信息的不特定多数女性图片,通过深度伪造技术、AI软件制作成裸体图片贩卖牟利,同时出售“AI去衣”软件及使用教程牟利。(引5月13日《南方都市报》)

当今社会网络造谣事件频发,我们在警惕AI造谣的同时,也要对大数据扫黄引起更多的关注。本文就来浅析一下在警务情报分析系统中常见的SNA算法原理是怎样的。

一、什么是SNA算法

简单来说,SNA算法称为社交网络算法。社会网络分析(social network analysis,SNA)是复杂系统的一个分支,可用于构建多智能体系系统。

首先,在研究社会网络分析如何协助多智能体系系统建模的同时,需要解决两种实例之间的异同。所以在构建SNA体系之前需要建构一个多智能体系系统的原型,通过在智能体实例之间建立的社会网络基础之上,形成的智能集群来解决任务。

我们再来看下MAS的定义,多智能体系(Multi-Agent Systems,MAS)的定义是:代表社会结构(如组织和联盟)的模型,以便客观地分析开放系统的关联行为。通过不同类型的关系(如对目标的依赖、对资源的冲突、相似的信念等)相互关联的个体组成了组织和联盟。

弄清了SNA和MAS两者定义之后,我们可以发现多智能体系统(MAS)和复杂系统理论之间存在密切关系,并且可以在社交网络分析的背景下进行表示。在情报分析系统原理中将MAS和SNA技术相结合,使智能体社会能够在决策过程中利用SNA指标,考虑智能体在网络中的位置、价值和重要性等属性。

二、SNA的作用

社交网络分析(SNA)是一种源自社会学、社会心理学和人类学等领域的科学研究领域。这个领域研究社会行为者之间的关系链接(也称为关系纽带)。

在SNA中,角色可以是个人或公司,可以作为个体单元进行分析,也可以作为集体社会单位进行分析。

SNA与其他研究的根本区别在于它不关注行为者的属性(特征),而是关注它们之间的联系。行为者之间的关系由关系纽带或连接建立。

最常见的连接类型有:个体评估(例如友谊或情感交换);物质资源的交易和转移(两家公司之间的购买和销售交易);非物质资源的转移(电子消息的交换);当行为参与者与事件同时发生具有地域、行为等关联或隶属关系时,那么交易网络就形成了。例如:网络关联集群关系(QQ、微博、微信使用者之间的社交网络联系);正式节点之间的联系(公司中的上下级权威循环);生物关系(父子关系)等等。

SNA是一种通过分析行为者之间的位置和结构(即它们的关系)来增强知识共享的方法。

那么您可能会提出疑问

  • 本文主要讨论了多智能体团队组成的基于SNA的推理方法,那么在这个方法中,SNA如何被应用于多智能体系统的决策过程中?
  • 本文中提到了多智能体系统和社交网络的紧密联系,那么在这个集成过程中,如何利用SNA指标来评估智能体在网络中的地位和重要性?

那么我们下面就通过一个列举的例子来谈谈社交关系网络的实际效用。

三、SNA的应用领域案例

在情报分析系统领域中,我们熟知的IBM I2就是一款常用的警务情报分析系统。IBM I2的底层逻辑中就运用了SNA的模型应用。

我们浅看一例:

图片摘自-360doc【知识】IBM i2可视化分析产品概述(网图侵删)

在本案例中,通过IBM i2的网络节点分析,由中心节点引出关联节点的关系集群推算。该原型使用SNA原理展示了团队动态形成的模型,团队中的节点是在基于其本地社会网络的决定后自发且分散地形成的。该集群的参与者拥有一个社会网络。

对于一个节点来说,要成为团队的一员,它必须至少与团队中的一名成员拥有社交连接(即网络中的边)。因此,在此集群中,多节点包含N个子节点,A={a1,a2,…,aN},其中每个子节点都可以被视为社会网络中的一个节点。网络被建模为一个邻接矩阵E,其中每个邻接矩阵元素eij=1,如果存在,则连接两个代理人ai和aj的边,否则eij=0。简单来说就是0出度边界。即边界中的最后一个节点。那么该集群的选定范围就确定了。

四、结语

笔者大学毕业后两年在国家级法治期刊从事新媒体记者工作,后又投入IT领域从事风控领域中的情报分析系统产品设计工作多年。

笔者想说:在如今AI大流行的时代,我们务必从风控角度意识到这样一个观点。

科技越发达,网络造谣、别有用心的人网络违法的可能性就越高。

但还是一句老话:天网恢恢疏而不漏。

时代的进步同样也是网络法治的进步。会有更多的高科技系统来杜绝、侦查、抓捕那些利用AI、利用网络造谣、诈骗、违法行为的人。千万不要抱有侥幸心理。尊重科技遵守优良品德做个良好公民。

本文由 @kingwu 原创发布于人人都是产品经理。未经作者许可,禁止转载

题图来自Unsplash,基于CC0协议

该文观点仅代表作者本人,人人都是产品经理平台仅提供信息存储空间服务