首页全站导航手机版加入收藏关注我们
全站导航
  • 手游行业
  • 游戏问答
  • 新游前瞻
  • 游戏动态
  • 视频攻略
  • 新游预告
  • 热游视频
  • 周边视频
  • 资讯中心
  • 游戏攻略
  • 礼包中心
  • 热门攻略
  • 游戏专区
  • 手游合集
  • 手游分类
  • 手游开服
  • 手游开测
  • 全部手游
  • 苹果排行
  • 安卓排行
  • 单机排行
  • 网游排行
  • 福利美图
  • 吐槽八卦
  • 内涵GIF
  • 游戏截图
  • 游戏壁纸
关注我们
手游巴士

资讯

  • 资讯
  • 游戏
  • 视频
  • 礼包
  • 图片
  • 首页
  • 游戏中心
  • 手游行业
  • 新游资讯
  • 新游预告
  • 游戏活动
  • 综合资讯
  • 硬件资讯
  • 游戏攻略
  • 游戏评测
当前位置:首页 > 手游资讯 > 手游行业 > 仅需 7 张照片,任何人都能在这个世界上“无中生你”

仅需 7 张照片,任何人都能在这个世界上“无中生你”

2022-12-22 12:02 来源:it之家 作者:佚名

用手机看

扫描二维码随身看资讯 使用手机 二维码应用 扫描右侧二维码,您可以
1.在手机上细细品读~
2.分享给你的微信好友或朋友圈~

AIGC 一旦不受控制,将可能成为一种杀伤力“武器”。

注意看,这是一位小学老师,他正赤裸着上身在学校教室里自拍。

如果这是一张真实的照片,那么图片中这位名为 John 的小学老师很可能将被学校直接勒令开除。

图片来自 Arts Technica 网站,版权属于原作者

但好在,这位 John 是一个由 Arts Technica 为了做人工智能社交图片实验而虚构出来的人物。John 的人物设定是一位普通的小学老师,和我们生活中的大部分的人一样,在过去的 12 年里,John 喜欢在 Facebook 上发布自己在工作记录、家庭生活、假期照片等。

Arts Technica 团队通过从中选取了 7 张含有 John 的图片,再使用了近期大火的 Stable Diffusion 和谷歌研究院发布的 Dreambooth 两个 AIGC 工具,接着就在社交媒体上生成了不同版本、让人真假难辨的 John。

在这些照片里,John 从一位普通的、喜欢分享日常生活的英文老师,一会变成了一个喜欢在教室里、公众场合脱衣服自拍的“危险分子”,一会又变成了一个喜欢穿各种奇装异服搞怪的“小丑”…… 翻看照片,每一张似乎都不是 John,但每一张却都有着 John 的脸。

而实际上,如今通过借助各种免费开放的 AIGC 工具,John 的经历可能会轻易地发生在我们每个普通人的身上。

当 AIGC 遇上真人

Arts Technica 表示,一开始在计划做这个实验时,他们征集了一些愿意分享自己的社交媒体图片来做 AI 实验训练的志愿者,但由于生成出来的照片太真实、带来的潜在名誉危害太大,让他们最终放弃了使用真人的照片,而是选择先用 AI 生成了一个虚拟的 John。

实验结果让他们感觉到,在当前的技术环境下,我们每个普通人都处在一种潜在的危险之中。

整个实验过程其实非常简单:从社交媒体上拿到的 7 张有个人脸部图像的图片,再使用网上开源和免费的 Stable Diffusion 及 Dreambooth 的合成代码,你就可以通过输入一段描述性的语句,生成各种不同风格和不同场景下有关这个人的图片。

比如网友们用马斯克网上的公开照片作为训练集,用它们生成了的各种风格的图片。

图片来自于 reddit

一些人也用维基百科的联合创始人 Jimmy Wales 的公开照片进行训练,把这个温文尔雅的企业家变成了一位运动型的健美先生。

  图片来自于 wikimedia 公开文件

在这里,首先要带大家快速回顾一下 Stable Diffusion 和 Dreambooth 的功能。

Stable Diffusion 是一个文字转图片的生成模型。可以只用几秒钟时间就生成比同类技术分辨率、清晰度更高,更具“真实性”或“艺术性”的图片结果。和其它同类型的 AI 生成图片相比,Stable Diffusion 的生成结果更为写实。

此外,Stable Diffusion 还有一个重要特点就是其完全免费开源,所有代码都在 GitHub 上公开,任何人都可以拷贝使用。也正是“写实”和“开源”两个特性,也让它在 DALL・E、Imagen 等封闭及半封闭同类产品中“杀”出了一条道路。

Dreambooth 则是来自于谷歌 AI 实验室的一种新的从文本到图像的“个性化”(可适应用户特定的图像生成需求)扩散模型。它的特点是,只需几张(通常 3~5 张)指定物体的照片和相应的类名(如“狗”)作为输入,即可通过文字描述让被指定物体出现在用户想要生成的场景中。

比如你输入一辆汽车图片,就可以下指令毫不费力的改变它的颜色。你输入一张松狮狗的照片,你可以在保留它的面部特点的情况下将它转变成熊、熊猫、狮子等等,也可以让它穿上不同的衣服出现在不同的场景之中。

图片来自于 https://dreambooth.github.io/

图片来自于 https://dreambooth.github.io/

本来呢,Stable Diffusion 聚焦于用文本生成创意图片,Dreambooth 则聚焦于有条件限制地“改造”图片,这两个工具之间并没有什么直接的交集。但奈何广大网友们的想象力和行动力都太过强大,他们把这两个开源产品一捣鼓,很快就搞出了一个可以将 Stable Diffusion 和 Dreambooth 结合使用的新工具。

在这个新的工具中,你可以使用 Dreambooth 的功能用任何几张图片作为训练图,在生成目标之后,再结合 Stable Diffusion 强大的文本转化功能,就可以让这个指定目标以任何你所想要描绘的形式出现。

娱乐之外,也打开了“潘多拉魔盒”

在这个新玩法出现之后,网友们就像发现了新大陆一般,开始纷纷尝试改造自己的照片。

有人把自己化身为了西部牛仔、有人走进了中世纪的油画、有人变成了铁血战士等等…… 与此同时,各种关于教普通人如何使用 Stable Diffusion+Dreambooth 的工具的教程视频、文章也开始在网上出现。

图片截自于 Youtuber James Cunliffe

然而,当大家都在开心地 po 着自己的图片,大夸技术有趣炫酷的同时,也有很多人开始关注到这个技术背后的隐藏的巨大风险。

相较于此前已经被讨论得很多的“深度伪造(Deepfake)”技术来说,AIGC 类工具让伪造从“换脸”直接进化到了“无中生有”的阶段,也就是说,任何人通过一句话的描述就可以凭空“变出”一个你。此外,“伪造”技术的门槛也变得更低,跟着一个 Youtube 视频学个 10 分钟,没有技术背景的小白也可以轻松掌握。

据统计,目前全世界有超过 40 亿人使用社交媒体,如果你曾在社交媒体平台上公开上传过自己的照片,那么一旦有人产生了不良的动机,就将很容易地使用这些的图片进行造假和滥用。最后的结果可能是一张暴力照片、一张不雅照、一张侮辱性的照片,而这些照片则将能轻易地被用于栽赃嫁祸、校园霸凌、造谣伤害等各种灰暗的场景之中。

目前,从 Stable Diffusion 目前的生成图片来看,如果仔细观察还是比较容易分辨出人物的真假。但问题在于,鉴于最近几年来 AIGC 技术的进步非常迅速,人们或许将可能很快就无法用肉眼分辨生成照片和真实照片之间的区别。

加强版的 Stable Diffusion 图片,来自于 Twitter 用户 Roope Rainisto

而且,即使就是一张经不起推敲的照片,但传递的负面信息其对一个人的破坏力也可能是惊人的。比如。若真的有文章开头这位名为 John 的小学老师,当有人看到他在教室里或者其他不雅照时,无论真假,很可能仅仅是一个怀疑或者是谣言,就能毁掉他的声誉和事业。

这就像是丹麦电影《狩猎》里演的一样,即使最后证明小女孩对男教师的猥亵指控都是编造的,但由传言所带来的恶意依然在男教师的生活中如影随形。

尝试用“魔法打败魔法

其实对于 AIGC 技术,开发人员们也早已意识到了其可能带来的危害。比如当谷歌宣布推出 Imagen、Dreambooth 时,在解释文档中都避免使用了真人的照片,而是用物品和可爱的动物的图片举例进行了说明。

不仅是谷歌,DallE 等同类工具也无一不是如此。对此,麻省理工评论曾对这种转移公众视线的做法进行了强烈质疑。他们在文中写道:“我们只看到各种可爱的图像,但看不到任何包含仇恨、刻板印象、种族主义、暴力、性别歧视的画面。但即使不说,我们也清楚的知道,它们就在那里。”

目前,针对这个问题,很多平台也在尝试着用各种方法解决。其中,OpenAI 和谷歌等一些平台的解决办法是将工具关在笼子里,仅开放给少数受信任的用户使用;Stability AI 在最新发布的 2.0 版本的训练数据集中删除了大部分含有不良信息的数据,同时在软件许可协议中明确规定不允许创建人物图像。

但政策性的规定毕竟指标不治本,近期,包括 Stable Diffusion 在内的一些平台也在尝试使用技术手段解决这个问题,其中包括“不可见水印”技术。通过这种人眼看不到的水印,系统将能够自动识别图片的真假,同时能对图片的编辑和再生成进行保护。

此外,针对训练的源头 —— 原始图片保护上,上个月,MIT 的研究人员宣布开发了一项过专门针对 AI 照片编辑的 PhotoGuard 技术,用以阻止 AI 使用某些图像接受训练。比如同样的一张肉眼看不出区别的照片,使用了 PhotoGuard 技术之后,AI 便无法从中提取到足够的有效信息。

图片来自 gradientscience

最近一两年来,AIGC 的技术突飞猛进,一大批图像生成工具和 ChatGPT 的爆火出圈,让大家意识到老生常谈的人工智能时代这次似乎真的已经在拐角了。

不久前 Stable Diffusion 的研究人员就曾表示,Stable Diffusion 将很可能在一年之内就在智能手机上运行。很多同类工具也都开始着手在更轻量化的设备上训练这些模型,比如目前 ChatGPT 的各种插件已经开始被用户广泛使用。因此人们可能很快就会看到,由人工智能推动的创意产出将在未来几年出现爆炸式增长。

但随着 AIGC 走向公众化、平民化,深度合成内容制作的技术门槛越来越低,普通人仅需要少量的图像、音频、视频、文本等样本数据,就能够模糊信息真实和虚假的边界。在没有出台相关法律规范的前提下,技术一旦被滥用,将会给个人、企业造成巨大风险与实质性危害。

自从今年 AI 绘画类工具爆火以来,很多人把目光放在了 AI 对于艺术创作的颠覆上,但实际上,AI 不仅是改变了创作模式,而是可能也对社会秩序发起了挑战。有条件地限制 AI 的能力,这也可能是在让 AIGC 改变我们的生活之前,必须要首先解决的问题。

参考文章:

  • 1.https://arstechnica.com/information-technology/2022/12/thanks-to-ai-its-probably-time-to-take-your-photos-off-the-internet/

  • 2. PhotoGuard 技术:http://gradientscience.org/ photoguard/

本文来自微信公众号:硅星人 (ID:guixingren123),文:Juny,编辑:VickyXiao

以上就是手游巴士为您提供《仅需 7 张照片,任何人都能在这个世界上“无中生你”》的详细内容,更多精彩内容请继续阅读上一篇《雷军:小米 13 Pro 支持 Wi-Fi 7,国内开放认证后就能开启该功能》

表羞涩嘛~喜欢就点我

分享吧~提高逼格:

相关阅读

  • 2022-12-22 仅需 7 张照片,任何人都能在这个世界上“无中生你”

  • 2022-12-22 一加 11 工信部配置曝光:搭载骁龙 8 Gen 2,12GB+256GB 起步

  • 2022-12-22 雷军:小米 13 Pro 支持 Wi-Fi 7,国内开放认证后就能开启该功能

  • 2022-12-22 红魔 8 Pro 系列搭载自研红芯 R2 游戏芯片,可精准调度肩键、震感、触控、声效

  • 2022-12-22 可绕过微软 Exchange 的 ProxyNotShell 缓解措施,安全公司发现新勒索漏洞

  • 2022-12-22 宁德时代与英国新能源投资商达成全球战略合作,共同推动 10GWh 储能应用落地

  • 2022-12-22 微信上线冬至限时状态:“吃饺子”和“吃元宵”你选哪个?

  • 2022-12-22 《药剂工艺:炼金模拟器》明年将登陆 PS 和 Switch 平台

  • 2022-12-22 英国竞争和市场管理局:大多数公众支持微软收购动视暴雪

  • 2022-12-22 睿蓝汽车将进行价格调整,2023 年 1 月 1 日起上涨 5000-8000 元

  • 2022-12-22 WindowBlinds 11 更新发布:新主题可让 Win10 / Win11 变成 Win95

  • 2022-12-22 网易 3D 动作 MOBA 网游《无尽战区》宣布复活,曾于两年前停运

  • 2022-12-22 摩托罗拉 moto X40 今日开售:搭载骁龙 8 Gen 2,3399 元起

  • 2022-12-22 修复导致 Win10 / Win11 设备蓝屏问题,英特尔发布 Wi-Fi 驱动 22.190.0 更新

  • 2022-12-22 微软加速分离 explorer.exe 进程:现已着手分离“Impressive Shell”

  • 2022-12-22 2699 元,摩托罗拉 moto S30 Pro 手机 Pantone 限量版“非凡洋红”今日开售

  • 2022-12-22 谷歌母公司 Alphabet 再次授予 CEO 皮查伊股权激励,但进一步与绩效挂钩

  • 2022-12-22 英国《卫报》疑似遭遇黑客勒索攻击,公司已通知员工居家办公

  • 2022-12-22 马斯克:Twitter 现金流差点变成负 30 亿美元,所以才疯狂降本增效

  • 2022-12-22 同比增长 61.1%,苹果在印度 2022 年第 3 季度 PC(含平板)市场表现亮眼

  • 2022-12-22 科学家创造了新的太阳能电池效率世界纪录,高达 32.5%

  • 2022-12-22 特斯拉将允许第三方充电桩进入其导航系统,但标准要求很高

  • 2022-12-22 特斯拉股价 2022 年大跌 61%,做空者狂赚 150 亿美元

  • 2022-12-22 尽量绕开“元宇宙”概念,苹果首款头显设备有望明年下半年推出

  • 2022-12-22 消息称特斯拉下一季度将冻结招聘,裁减员工

热点推荐

  • 大话2《宫里的大话》第二话 揭秘国风赋新计划背后的故事大话2《宫里的大话》第二话 揭秘国风赋新计划背后的故事
  • 爱游戏2017Chinajoy大玩情怀  “游戏不灭 天生爱玩”!爱游戏2017Chinajoy大玩情怀 “游戏不灭 天生爱玩”!
  • 映客入局王者荣耀职业联赛,投资过亿开启“一键即播”映客入局王者荣耀职业联赛,投资过亿开启“一键即播”
  • 太极熊猫3:猎龙与好莱坞大片金刚:骷髅岛建立影游合作太极熊猫3:猎龙与好莱坞大片金刚:骷髅岛建立影游合作

热门游戏

  • 时逆

    时逆

    立即下载
  • 剑侠世界

    剑侠世界

    立即下载
  • 铁甲风暴

    铁甲风暴

    立即下载
  • 三国志奇侠传

    三国志奇侠传

    立即下载
  • 蜀山战神

    蜀山战神

    立即下载
  • 人气动漫大乱斗

    人气动漫大乱斗

    立即下载

热点资讯

更多+
  • 啪啪三国2手游枪兵好玩吗?枪兵作战有什么特色
    啪啪三国2手游枪兵好玩吗?枪兵作战有什么特色
  • 轩辕剑之汉之云手游双属性职业阴阳战斗玩法
    轩辕剑之汉之云手游双属性职业阴阳战斗玩法
  • 莽荒纪3D手游新手必备 浩瀚世界里的修仙小伙伴上
    莽荒纪3D手游新手必备 浩瀚世界里的修仙小伙伴上

小编热推

更多+
老牌IP《征服》“龙拳天下”资料片:这波重拳出击

满分攻略

  • 空之要塞启航困龙阵7怎么过 空之要塞启航困龙阵第七关攻略

    满分 空之要塞启航困龙阵7怎么过 空之要塞启航困龙阵第七关攻略

    07关
    查看全部
  • 空之要塞启航困龙阵8怎么过 空之要塞启航困龙阵第八关攻略

    满分 空之要塞启航困龙阵8怎么过 空之要塞启航困龙阵第八关攻略

    08关
    查看全部
  • 空之要塞启航困龙阵5怎么过 空之要塞启航困龙阵第五关攻略

    满分 空之要塞启航困龙阵5怎么过 空之要塞启航困龙阵第五关攻略

    05关
    查看全部

热门礼包

更多+

三国杀

三国杀 剩余:500/500 有效日期:2017-05-02

领取

三国杀

领取

三国杀愚人节礼包

三国杀愚人节礼包 剩余:500/500 有效日期:2017-05-31

领取

三国杀愚人节礼包

领取

三国杀独家礼包

三国杀独家礼包 剩余:500/500 有效日期:2017-07-26

领取

三国杀独家礼包

领取

三国杀移动版国庆礼包

三国杀移动版国庆礼包 剩余:500/500 有效日期:2017-11-29

领取

三国杀移动版国庆礼包

领取

一步高升新手礼包

一步高升新手礼包 剩余:491/1000 有效日期:2019-09-14

领取

一步高升新手礼包

领取

奶块首发大礼包

奶块首发大礼包 剩余:344/1900 有效日期:1970-01-01

领取

奶块首发大礼包

领取

奶块成长礼包

奶块成长礼包 剩余:297/1167 有效日期:2017-12-31

领取

奶块成长礼包

领取

植物大战僵尸2特权礼包

植物大战僵尸2特权礼包 剩余:232/300 有效日期:2018-05-31

领取

植物大战僵尸2特权礼包

领取

银河战舰代言人公测礼包

银河战舰代言人公测礼包 剩余:232/300 有效日期:2018-10-01

领取

银河战舰代言人公测礼包

领取

植物大战僵尸2豪华福包

植物大战僵尸2豪华福包 剩余:224/500 有效日期:2018-07-31

领取

植物大战僵尸2豪华福包

领取

热门合集

更多+
  • 适合女生玩的HTML5游戏

    查看合集
  • 2017手机游戏排行榜

    查看合集

手游资讯

NEWS
手游行业 手游活动 新游前瞻 综合资讯

最全攻略

RAIDERS
游戏资料 游戏攻略 硬件资讯 游戏问答

视频中心

VIDEO
视频攻略 新游预告 热门游戏 周边视频

游戏中心

GAME
手游合集 游戏分类 发号中心 热门专区

手游排行

TOP 100
安卓榜 苹果榜 单机榜 网游榜

手游巴士

手游巴士

  • 关于我们
  • 商务洽谈
  • 联系我们
  • 友情链接
  • 版权声明

Copyright © 2020-2022 手游巴士 shouyoubus.com, All Rights Reserved.赣ICP备2021011040号