|簡體中文

比思論壇

 找回密碼
 按這成為會員
搜索



查看: 648|回復: 8
打印 上一主題 下一主題

通过技术手段造假“人脸”,造假“身份”

[複製鏈接]

104

主題

0

好友

1993

積分

大學生

Rank: 6Rank: 6

  • TA的每日心情
    郁悶
    8 小時前
  • 簽到天數: 1094 天

    [LV.10]以壇為家III

    推廣值
    0
    貢獻值
    7
    金錢
    13910
    威望
    1993
    主題
    104
    樓主
    發表於 2022-4-3 11:24:23

    “中国的兄弟姐妹你们好,我是俄罗斯娜娜。”


    最近,一个名为@俄罗斯娜娜 的账号忽然走红抖音网络。视频中,一个长着“俄式假脸”的人,操着蹩脚的“俄式中文”,时而唱歌,时而做“科普”,在抖音上积累下近200万粉丝。


    由于其脸孔怪异,有用户不禁在评论区质疑此人性别、国籍的真实性,但更多人是在“追捧”。4月1日晚,抖音官方发布《关于打击仿冒帐号等黑产行为的处理公告》,指出包括@俄罗斯娜娜 在内的4个账号存在滥用平台道具、仿冒虚假人设的情况,将对其进行无限期封禁的处罚。


    对于公告中所说的“滥用平台道具”,有人认为是“AI换脸”,即通过人工智能技术将别人的脸替换到自己身上。也有人指出,这可能是抖音自带的某种可以将人的五官特征、轮廓改为外国人的特效——且该特效的使用基本是0门槛,使用目的也缺乏规则和监管。


    而这种通过技术手段造假“人脸”,造假“身份”,蹭网络热度的情况,全世界其实都屡见不鲜。上个月,还有人通过类似技术使得乌克兰总统泽连斯基发布“投降宣言”、俄罗斯总统普京发表“和平宣言”……




    “通过技术手段换脸”,这个以前听来天方夜谭的技术,如今已经变得常见。


    最近热播的刑侦局《猎罪图鉴》中,男主的恩师就因接到儿子借钱的求助视频,把自己的养老积蓄全都转了过去。在发现自己被骗后,老两口选择投海自杀。




    随后,男主在和恩师儿子的沟通中发现,这则视频的说话方式、脸部肌肉趋势都与本人有所不同,连光线都是伪造的。




    原来,这又是一起用以诈骗的“AI换脸”视频,背后则是一个长期通过类似技术手段骗取老人钱财的犯罪团伙。


    现在,剧情走进了现实。


    前段时间,抖音上出现一个叫做@俄罗斯娜娜 的账号。该账号的视频中,出现了一个自称来自俄罗斯,名为娜娜的“女人”,其拥有棕色的长发、蓝绿色的眼睛和一口“烈焰红唇”。


    视频中,她动不动就操着蹩脚的外国腔调说“中国的兄弟姐妹你们好”,讲解一些道听途说的“俄罗斯常识”,要么就为观众“高歌一曲”,且是假唱……


    由于抖音上的@俄罗斯娜娜 已经被封,用户们的发言也难以找到。但在b站上,还留存着她的歌声,和满屏真情实感的“好好听”弹幕。




    评论区曾有用户质疑,“娜娜”画面怪异,五官模糊,可能是AI换脸,趁着最近俄罗斯热度高在“蹭流量”。也有人表示,抖音有一些如下图所示的“外国人”特效或者滤镜,“俄罗斯娜娜”可能也是通过这些特效改变了五官特征,伪装成外国人。但在大量的称赞里,这些质疑声基本很快就被淹没了……




    此类特效的使用基本是0门槛,使用目的也缺乏规则和监管。有用户向观察者网提供了类似的视频——使用者是100%的中国人,但换上特效后,脸部特征便朝外国人转变。且操作之简单,仅仅点击、下载特效、拍摄、上传,即可在互联网上变为“外国人”。




    靠着这些手段,“俄罗斯娜娜”在抖音上积攒了近200万粉丝,在b站上也存在浏览量破5万的视频。


    4月1日晚,抖音官方发布《关于打击仿冒帐号等黑产行为的处理公告》称,日前在日常巡查时发现,个别用户存在滥用平台道具,仿冒虚假人设,不当获取流量及粉丝的违规现象。


    抖音表示,仿冒账号是黑产团伙常用的作弊手段,行为违反了抖音平台相关公约,进行诈骗更是涉嫌触犯国家相关法律法规。抖音坚决打击各类黑产行为。


    为此,抖音安全中心对包括“俄***娜”、“俄****莎”、“罗****娜”、“***娜娜”在内的 4 个帐号予以无限期封禁的处罚。




    目前,尚无官方消息确认“俄罗斯娜娜”的真实身份。


    这种“改脸/换脸技术”对于年轻人来说,可能还有辨别的可能;但对于一些中老年人而言,或许真的很难识破。这也造成了本文开头,老年人被骗尽养老钱的悲惨剧情。


    目前,通过技术手段造假“人脸”,造假“身份”的情况,已经出现在了世界各地。像“俄罗斯娜娜”这种造个假人设、骗点关注和广告的还算“收敛”。更有甚者,直接伪造政界名流,致力于伪造出假的“大新闻”。


    据英国广播公司(BBC)3月18日报道,俄乌冲突期间,网上出现了不少“假总统”。先是乌克兰总统泽连斯基在一段视频中发表了号召乌克兰“投降”的讲话……




    而后,又出现一段普京宣布和平的视频……这两段视频随后被证实都是用“AI换脸”伪造的。




    根据彭博社发布的一段视频,早在三年前,这项技术就已经发展到可以把一个人的表情、口型完全复刻到另一个人脸上。




    两年前,这项技术已经发展得相当成熟。在开源社区网站GitHub上,有一个项目,就可以把自己的脸替换成别人的脸,并且是实时的。


    也就是说,你可以直接把自己的脸换成马斯克的脸,去和别人开在线会议……




    技术无罪,有时甚至只是出于毫无恶意的“好玩”。


    但当它被“娜娜”们掌握时,如何管理和使用,则将成为“AI”即将到来的时代里,一个经久不衰的话题。



    0

    主題

    0

    好友

    5301

    積分

    教授

    Rank: 8Rank: 8

  • TA的每日心情
    難過
    2024-10-21 22:52
  • 簽到天數: 2300 天

    [LV.Master]伴壇終老

    推廣值
    0
    貢獻值
    0
    金錢
    16897
    威望
    5301
    主題
    0
    沙發
    發表於 2022-4-3 16:14:25
    兄弟姐妹

    59

    主題

    1

    好友

    1664

    積分

    大學生

    Rank: 6Rank: 6

  • TA的每日心情
    奮斗
    2024-10-16 08:53
  • 簽到天數: 589 天

    [LV.9]以壇為家II

    推廣值
    0
    貢獻值
    60
    金錢
    6583
    威望
    1664
    主題
    59

    回文勇士 文明人 中學生 男生勳章 簽到勳章 簽到達人 高中生 文章勇士 大學生

    板凳
    發表於 2022-4-4 10:57:27
    o(* ̄︶ ̄*)o
    請大家多給發帖者支持,有您們回應支持,才有動力去發貼!

    0

    主題

    0

    好友

    2661

    積分

    大學生

    Rank: 6Rank: 6

  • TA的每日心情
    開心
    昨天 18:43
  • 簽到天數: 716 天

    [LV.9]以壇為家II

    推廣值
    0
    貢獻值
    0
    金錢
    12427
    威望
    2661
    主題
    0
    地板
    發表於 2022-4-4 11:26:06
    請善用帖子右下角舉報鍵,來檢舉有害網站/垃圾/宣傳帖,每個舉報會有金錢增加。
    有啥区别
    不要把自己的東西藏起來,論壇需要你的分享才能成長!!

    0

    主題

    1

    好友

    2536

    積分

    大學生

    Rank: 6Rank: 6

  • TA的每日心情
    慵懶
    昨天 11:35
  • 簽到天數: 1541 天

    [LV.Master]伴壇終老

    推廣值
    0
    貢獻值
    0
    金錢
    24581
    威望
    2536
    主題
    0
    5#
    發表於 2022-4-4 11:49:51
    看不出来

    0

    主題

    0

    好友

    266

    積分

    小學生

    Rank: 2

  • TA的每日心情

    2024-7-5 14:23
  • 簽到天數: 314 天

    [LV.8]以壇為家I

    推廣值
    0
    貢獻值
    0
    金錢
    4283
    威望
    266
    主題
    0
    6#
    發表於 2022-4-5 05:08:25
    仿冒虚假人设的情况
    不要把自己的東西藏起來,論壇需要你的分享才能成長!!
    頭像被屏蔽

    0

    主題

    1

    好友

    5117

    積分

    禁止發言

  • TA的每日心情
    擦汗
    2023-7-31 21:46
  • 簽到天數: 495 天

    [LV.9]以壇為家II

    推廣值
    0
    貢獻值
    0
    金錢
    6445
    威望
    5117
    主題
    0
    7#
    發表於 2022-4-13 18:11:00
    提示: 作者被禁止或刪除 內容自動屏蔽

    0

    主題

    0

    好友

    1萬

    積分

    教授

    Rank: 8Rank: 8

  • TA的每日心情
    慵懶
    昨天 02:03
  • 簽到天數: 2866 天

    [LV.Master]伴壇終老

    推廣值
    720
    貢獻值
    1131
    金錢
    55398
    威望
    13848
    主題
    0
    8#
    發表於 2022-4-13 20:47:43
    现在是什么都能造假
    不要把自己的東西藏起來,論壇需要你的分享才能成長!!

    14

    主題

    1

    好友

    876

    積分

    高中生

    Rank: 4

  • TA的每日心情
    慵懶
    2023-1-16 10:45
  • 簽到天數: 266 天

    [LV.8]以壇為家I

    推廣值
    0
    貢獻值
    0
    金錢
    51
    威望
    876
    主題
    14
    9#
    發表於 2022-5-17 10:09:55
    随便逛逛
    請大家多給發帖者支持,有您們回應支持,才有動力去發貼!
    重要聲明:本論壇是以即時上載留言的方式運作,比思論壇對所有留言的真實性、完整性及立場等,不負任何法律責任。而一切留言之言論只代表留言者個人意見,並非本網站之立場,讀者及用戶不應信賴內容,並應自行判斷內容之真實性。於有關情形下,讀者及用戶應尋求專業意見(如涉及醫療、法律或投資等問題)。 由於本論壇受到「即時上載留言」運作方式所規限,故不能完全監察所有留言,若讀者及用戶發現有留言出現問題,請聯絡我們比思論壇有權刪除任何留言及拒絕任何人士上載留言 (刪除前或不會作事先警告及通知 ),同時亦有不刪除留言的權利,如有任何爭議,管理員擁有最終的詮釋權。用戶切勿撰寫粗言穢語、誹謗、渲染色情暴力或人身攻擊的言論,敬請自律。本網站保留一切法律權利。

    手機版| 廣告聯繫

    GMT+8, 2024-11-1 09:11 , Processed in 0.023606 second(s), 20 queries , Gzip On, Memcache On.

    Powered by Discuz! X2.5

    © 2001-2012 Comsenz Inc.

    回頂部