<返回更多

AI绘画让女子秒“失衣” 网友呼吁对新技术立法规范

2023-03-29    浙江在线
加入收藏

 当AI在短短几秒内绘出熊猫花花号宇宙战舰时,一位入行10年的影视制作从业者“心头一紧”,技术的迭代升级让他震撼不已;当AI轻而易举地让一位苗条靓丽的穿搭博主成为火上热搜的地铁裸女,技术的杀伤力也在舆论风波中让无数网友细思极恐。

  翻看AI绘画的AB面,我们正在思索,当人工智能以迅雷不及掩耳之势成熟时,规矩与方圆该如何入场。

  女子被“一键脱衣”

  AI会让女性更危险么?

  3月28日,一起利用AI恶意P图的事件引爆舆论。

  一位广州穿搭博主去年7月曾在某社交平台发布一张搭乘地铁时的随手拍,但时隔8个月,这张照片“摇身一变”成为了在朋友圈疯传的八卦谈资,广州地铁3号线惊现裸女的离谱黄谣越传越广。据报道,谣传的地铁实拍照片其实是由AI一键脱衣生成的图片。

事件当事人社交平台 截图

  浙江在线记者通过搜索发现图片源头,发布原图的是一位小红书博主。“宝子们别慌,我都不慌,稍安勿躁我会进行相关的维权处理。”该博主回复表示。

  不过在这句“不慌”的宽慰之下,更多网友则表示“很慌”。

  大家在“慌”什么?答案是AI,以及AI有可能带来的威胁感。

  “我想问现在AI这么发达么,那岂不是随便就能毁掉一个人的名声啊!”网友“多神”评论后附上一个石化的表情包。在该事件相关内容的评论区,恐怖、害怕、恶心等感叹俯拾即是。当城门失火,同在一片互联网冲浪的网友不禁有浓郁的“殃及池鱼”的忧患。

  当AI画出熊猫花花号战舰

  10年影视行业从业者心头一紧

  当AI绘画掀起向恶而生的浪时,它也同样激起了向智而生的潮。

  “昨天AI给我画出熊猫花花战舰的时候,我真的心一紧。”从事10年影视行业的网友“PD徐”深深感受到了来自AI的压力。3月27日晚,他抱着试一试的心态,试水文生图系统文心一格。

  宇宙苍穹、结构光、4K、气势恢宏、土星环背景……他不断输入并调整关键词时,系统给出的画面似乎也在不断朝着被“驯化”的方向发展。当他无意间加入“熊猫花花”这个关键词时,短短几秒之间令他触动的画面产生了——一艘有着熊猫骨骼轮廓的星际战舰出现在一片渐变的宇宙深蓝中。“这玩意儿有点脑子,它对‘熊猫花花’这个词的理解,很妙。”

加入“熊猫花花”关键词生成的AI绘画 图片源自PD徐

  被触动的同时,“PD徐”也产生了极大的危机感,从美国奈飞公司发布首支利用AIGC动画《犬与少年》,到社交网络博主自制AI动画《石头剪刀布》,再到可口可乐最近发布的实景 AI影片《杰作》,“PD徐”觉得技术升级像老虎一样追到了他的脚后跟。“工具不分善恶,人才分善恶。”不过,对于AI绘画的AB面,他有着泾渭分明的认知。

  “超乎意料!”最近,杭州90后设计爱好者“Focal”也玩起AI绘图。她从开源平台下载了图文生成模型Stable Diffusion,通过给模型不断“投喂”自己的个人照片,训练出了属于自己的AI形象。作为一个女性,“Focal”对于AI绘图有所保留。“我使用的这个可训练的模型是离线的,拔了网线还是可以跑程序。”对于市面上一些需要上传图片到服务器导出的AI绘图工具,她非常谨慎,担心自己的肖像被盗用。“网上别有用心的人也很多,防不胜防。”

网友分享AI训练经验 图片源自Focal

  “用魔法打败魔法”

  AI绘画亟待法律规范

  从少妇出轨快递小哥到女大学生被造黄谣,从男网红合成与女明星亲吻照被到女子被AI一键脱衣,不少网友感叹AI绘图似乎正让女性处于更危险的局面,同时呼吁尽快立法规范。

  “其实侵害是不分性别的,不管男性还是女性此前都有被AI侵权的案例出现。更需要意识到的是对个人的侵权只是冰山一角,没有‘规矩’的AI还可能会涉及危害国家安全、信息安全。”面对不断升级迭代的AI技术,中国政法大学传播法研究中心副主任朱巍也认为,必须充分重视AI技术所产生的潜在问题。

  他分析,伴随ChatGPT等AI的快速迭代,如何应对“深度伪造”或将成为一个重要议题。《中华人民共和国民法典》第一千零一十九条指出,“任何组织或者个人不得以丑化、污损,或者利用信息技术手段伪造等方式侵害他人的肖像权。”此外,《中华人民共和国网络安全法》第十二条也提及,不得编造、传播虚假信息扰乱经济秩序和社会秩序,以及侵害他人名誉、隐私、知识产权和其他合法权益。“对于虚假信息、伪造等内容可以见诸于现有法律法规,不过目前针对于AI领域尚无针对性立法。”朱巍表示。

  “目前国际上已有一些国家对AI合成内容进行了规范,要求必须要有相应标记水印等,建议后续立法要跟进。”此外,朱巍认为,技术的升级也对监管手段提出了更高要求,“效率和安全在互联网时代同样重要,在技术监管上要用‘魔法’去打败‘魔法’。”

声明:本站部分内容来自互联网,如有版权侵犯或其他问题请与我们联系,我们将立即删除或处理。
▍相关推荐
更多资讯 >>>