知名主播 Atrioc 不幸成为了首个因 AI 社死的公众人物。
事故发生在 2023 年 1 月，Atrioc 正如往常般直播，一些观众却发现了异样：他的网页浏览器，似乎打开了某种特定类型的网站。
(资料图片仅供参考)
闲得蛋疼的网友顺藤摸瓜，很快挖掘出了 Atrioc 的小秘密——他在偷偷观看以知名女主播为主角的 " 动作片 "。
但这些小电影其实是用 AI 伪造的，本人不仅没出演，更不知情。这种足以以假乱真的 AI 产物，通常被称为 DeepFakes（深度伪造）。
事发时，Atrioc 才结婚不到半年，而其中一部 AI" 动作片 " 的 " 主角 " 又是他曾经的同事，一下从直播事故上升到了道德作风问题。败露后，Atrioc 泪眼汪汪地解释说，" 病态的好奇心 " 驱使他犯了个全天下男人都会犯的错。
Atrioc 在妻子陪同下公开道歉每当谈及 AI，许多政客专家总会不自觉联想起电影《终结者》的画面，围绕 "AI 是否会毁灭人类 " 而争论不休。今年 6 月，位列 " 深度学习三巨头 " 的杨立昆与约书亚 · 本吉奥，甚至围绕这一话题办了场电视辩论。
显然，这些学术精英都大大高估了这颗星球的精神文明建设水平。
Atrioc 和 DeepFakes 的故事似乎预示着，AI 正在以一种人们都未曾想到的方式，悄悄重塑着这个社会。
不久前，俄罗斯就出现了离奇的一幕：6 月 5 日，俄罗斯电视台播放了普京的戒严讲话。没过多久，电视信号便被掐断，因为这段内容其实是用 AI 伪造的——黑客攻破了电视台的网络系统，并向全国发送了 " 假普京 " 的声音。
而在 2022 年，乌克兰也发生过类似的事情：一个 AI 生成的泽连斯基，要求乌克兰前线部队投降。
俄罗斯网友拍下的 "AI 普京 " 讲话从 " 动作片 " 到现代战争，AI 正在动摇我们对现实世界的认知。
而这一切混乱的起点，始于一场酒吧里的互喷。
醉汉狂想曲
2014 年夏天，一处酒吧内，20 多个醉醺醺的技术宅正吵闹个不停。其中最闹腾的，是一个名叫伊恩 · 古德费洛（Ian Goodfellow）的年轻人。
当时，古德费洛正在攻读博士，师从深度学习大神约书亚 · 本吉奥。听闻好友被谷歌招募，一行人便决定去酒吧庆祝一番。没成想几杯啤酒下肚，技术宅们醉意上头，便开始对前沿技术指点起江山。
当时，谷歌正试图教会 AI" 画画 "。它的方法是，将照片 " 数据化 "，让机器学习数据，再根据数据输出图像。举个例子，如果想让机器学会画猫，先人工测算每张 " 猫片 " 像素的亮度、频率以及分布等数据，再让机器去学习、输出。
这一过程有点像是先给机器划好重点，再让它去考试。
古德费洛认为，这种解决方案简直蠢到家了，并当场想了个替代方案—— GAN（生成对抗网络）。
GAN 由两个神经网络组成：一个是类似谷歌原本方案的生成模型，但省去了数据化的步骤；第二个是判别模型，负责判定生成模型的输出结果是否合格。
换句话说，GAN 相当于去掉了 " 考前划重点 " 的步骤，让机器全程自学；同时，为了防止机器 " 学废了 "，GAN 给机器请了个监考老师，带着机器反复考试直到合格为止。
古德费洛讲完想法后，遭到了同伴一致嘲笑。他事后承认，如果当时少干两瓶，自己也不会认为 GAN 能成。
然而，酒劲上头的古德费洛可顾不上这些，声称当晚就把 GAN 做出来，狠狠打脸。
熬夜爆肝数小时之后，古德费洛被吓到了：GAN 居然真的有戏。
相关论文的发表后，GAN 迅速成为焦点。2016 年底，杨立昆在公开演讲声称，"GAN 是过去 20 年深度学习领域最酷的想法。"
古德费洛设计的 GAN，最初只能生成模糊的缩略图，并没什么实用价值。但在 GAN 走红之后，全球各大研究机构兴起了 " 改造 GAN" 运动，相关论文指数级增长，性能开始突飞猛进。
2017 年，英伟达芬兰实验室成功制作出了 " 强化版 "GAN，不仅能够生成逼真的图像，甚至还能替换视频中的人脸。
" 改造 GAN" 运动GAN 的光速蜕变，点燃了全球科研人员的热情。但就在此时，它失控了。
AI 皮肉生意
人们常说，科技进步有两个源动力：一个来自战争，另一个则来自下半身。
英伟达实验室打造出新版 GAN 的 2017 年，一系列特殊视频开始在 Reddit 论坛上广泛传播。视频内容均是真枪实弹的 18+ 小电影，演员却是大众所熟知的明星，包括泰勒 · 斯威夫特和盖尔 · 加朵。
上述少儿不宜内容，均由一个名叫 "deepfakes" 的用户所创造：他使用 GAN 的技术，将明星的脸无缝移植到了 " 动作片女演员 " 身上。
不久后，他创建了一个 Reddit 板块，专门用于交流 AI 成人片心得，人们开始用他的名字 "DeepFakes（深度伪造）" 来称呼那些 AI 伪造品。
Reddit 最终封禁了该板块，但潘多拉魔盒已彻底打开。
篡改图像、视频，其实不算新鲜事儿，使用 Photoshop 等工具也能实现；但 GAN 的强大之处在于，能够极度简化篡改的过程，并实现大批量生产。
不久后，有人利用 GAN 制作了一个网页工具，能 " 脱掉 " 照片中女性的衣服（只对女性适用）。一位记者发现该网站后，撰文狠狠批判了一番。
结果文章发布当月，该网站访问量突破 50 万次，服务器挤到宕机。
皮肉生意的技术宅突然看到了商机：
一家公司宣称，给他们 250 张照片和 2 天的训练时间，便能定制成人片，起步价 2.99 美元，童叟无欺。同一时间，多家专注于 DeepFakes" 动作片 " 的网站拔地而起，希望能弯道超车 P 姓学习网站。
网络安全公司 Deeptrace 统计的数据显示，截止到 2019 年，市面上已经出现了 14678 个 DeepFakes 视频，其中 96% 都是成人内容，播放量已超过了 1.34 亿次。这些 " 伪造动作片 " 的主角，100% 都是女性，涉及名人数量超过了 100 位，并有近 10 万人为相关内容付费 [ 6 ] 。
作为生成式 AI 里程碑的 GAN，无意间造就了一场针对女性的 " 意淫狂欢 " ——也不怪当时的媒体会发出如下感慨："We Are Truly Fucked（我们都完了） [ 7 ] 。"" 人性 " 的胜利
然而，DeepFakes 输了，末日似乎并没有来临。
直到今天，P 姓学习网站虽不再一家独大，但依旧是最懂人类 XP 系统的地方；而打破垄断的，不是一连串 DeepFakes 网站，而是 OnlyFans。
2021 年，OnlyFans 的年收入近 10 亿美元，一跃成为英国近些年发展速度最快的 " 科技公司 " [ 8 ] ；而据媒体爆料，P 姓学习网站母公司 MindGeek 的业绩高光时刻，也不过 4.6 亿美元 [ 9 ] 。
OnlyFans 是个主打付费订阅的成人网站，它的破圈始于推特、Ins 等社交媒体。穿着衣服的 18+ 创作者，通过社交媒体积累大量粉丝，再将其引导至 OnlyFans 上；在这里，粉丝只需花费几顿饭钱，就能看到 " 皇帝的新衣 " 版本。
2019 年，OnlyFans 的活跃创作者大约有 6 万人。两年后，这个数字超过了 150 万，平台月活也发生了指数级增长 [ 10 ] 。
人们为何弃海量免费 " 学习资源 " 于不顾，转而花钱去看裸体呢？一个公认的说法是，普罗大众已经渐渐厌倦了 P 姓学习网站的套路。
P 姓学习网站上的电影，大多都是精美但套路化的流水线式表演，只有机械的有氧运动。相比之下，OnlyFans 作为一个 UGC 平台，玩的是真实。
虽然拍摄手法业余，但观众相信，视频中的男欢女爱并非逢场作戏，双方确实从中获得了快乐，这种情绪共鸣往往能打动更多人。
OnlyFans 网红 Laura Lux 在推特上表示，" 人们可以轻易找到各种图片，但那么多人订阅我的频道，是因为他们只想看我的身材。"
因此，当知名科技博主预测，AI 生成内容会在 2025 年取代一半顶级 OnlyFans 创作者时，不出意外遭到了群嘲。
其中一位网红，更专门写了一篇雄文以批评他的观点。文章被连线杂志所收录，核心论点便是 AI 提供不了人类的亲密感。" 粉丝们与我有一种情感上的联系，这种联系超越了性吸引力，而是一种类似人性的东西 [ 11 ] 。"
二次进化
OnlyFans 大步向前的同时，AI 也发生了翻天覆地的变化。
在图像领域，新的开源算法 stable Diffusion（稳定扩散模型）横空出世。它的生成效率虽不及 GAN，但质量更高，且支持文生图。
以此为基石，一个魔改版的 Unstable Diffusion 出现了——它是一个专门生成 NSFW（Not Safe For Work）内容的工具。该工具的开发者招募了一批志愿者，专门收集各种内容喂给 AI。
开发者透露，仅 Unstable Diffusion 上线的头两个月，已经生成了约 437 万张黄图 [ 13 ] 。年底，Unstable Diffusion 发起众筹，目标 2.5 万美元，很快便筹了 5.6 万美元，被众筹平台紧急喊停。
众筹失败令不少老司机扼腕叹息。但仅凭原版 Stable Diffusion，依旧能做出 OnlyFans 网红的平替。
2023 年初，Reddit 用户 "LegalBeagle1966" 觉得自己恋爱了。这位大哥在论坛中发现了一位名叫克劳蒂亚的黑发美女，对方会经常发布各种自拍照，而他每次都会留下诸如 " 非常性感 "" 完美 " 之类的评论。
有一天，克劳蒂亚突然分享了自己的照片，然后便从论坛上消失了。
事后这位大哥才知道，" 克劳蒂亚 " 其实是一个低俗社会实验：两个计算机专业的学生，想看看 AI 美女能否骗到人。他们往 stable Diffusion 中输入了 " 素颜 "" 黑发 "" 齐肩长发 " 等关键词，创造了这么一个不存在的女孩 [ 14 ] 。
GAN 兴起那几年，DeepFakes 仅仅停留在图像伪造和视频换脸；如今，随着多模态大模型陆续取得突破，理论上 AI 已经足以 " 凭空创造一个人类 "。
例如，Meta 最新的语音 AI Voicebox，仅需要短短数秒样本，就能 " 复制 " 出相同的声音，还能让该声音讲 6 种不同的外语。
AI 不仅能满足人们对 " 完美异性 " 的幻想，还能做到更多。
2020 年，正在庆祝 40 岁生日的金 · 卡戴珊收到了一个特殊的礼物—— "AI 父亲 "。她的父亲罗伯特去世于 2003 年。不过，她的丈夫偷偷收集了近千张罗伯特的照片，利用 AI 生成了一段视频，短暂地 " 复活 " 了他。
而在奥地利，一位神学家制作了一位 "AI 牧师 " ——它的形象、语言、声音，全部都是由 AI 所生成。AI 牧师带领着数十位信徒，完成了一场 40 分钟的宗教活动，包括布道、祈祷、唱赞美诗，像个活生生的人类。
一些信徒对 " 没有心 " 的 AI 感到反感，但也不得不承认，它在布道上确实有两把刷子。
凭空创造出来的 AI 牧师各种科幻电影中，相比于奥创之类的邪恶机器，主人公身上总是带有耀眼的人性光辉；但在现实中，人类所歌颂的 " 人性 "，似乎并没有那么遥不可及。
人类文明的操作系统
以色列历史学家尤瓦尔 · 赫拉利认为，即便没有邪恶机器人，AI 依旧能威胁人类文明。对此，他提出了 " 人类文明操作系统 " 的概念 [ 16 ] 。要理解这个概念，得先从赫拉利的著作《未来简史》讲起。
书中提到，人类之所以能建立起文明，是因为只有智人会讲故事。
国家、货币、宗教、爱情等等，都是故事。过去，人类社会能从零散的部落发展成幅员辽阔的封建帝国，是因为人们开始相信 " 国家 " 这个故事，尽管它在现实中看不见、摸不着；中世纪，狂热的信徒们之所以奋不顾身地投入十字军东征，并非出于私人恩怨，而是在替一个更宏大的宗教叙事而奉献生命。
一个个故事编织的 " 意义之网 "，让智人有了不同于动物的行为模式。
相反，黑猩猩的世界里不存在 " 黑猩猩共和国 "，也不存在 " 为黑猩猩崛起而奋斗 " 的口号。它们的生活中没有故事，只有日复一日的进食、交配、打猎、睡觉，自然也就谈不上建立文明。
故事，以及构成它的语言，正是人类文明的操作系统。从古至今，所有的故事都是由人类自己所撰写；但随着近几年大语言模型等生成式 AI 的出现，机器第一次破解了人类文明的操作系统。
人们往往容易忽视故事的破坏力。
赫拉利在公开演讲中，提到了一个案例。2017 年，美国出现了一个名叫 "Q" 的匿名阴谋论者。他在网络上宣称，自己是一位高级官员，正在帮助川宝打击一个躲藏在阴影中的儿童性交易团伙。反对他的民主党政客、好莱坞演员、商业大亨都是该团伙的一员，他们正准备阻挠川宝连任。
听上去很蠢是不是？
然而当特朗普真的连任失败，成千上万的 " 懂王 " 信徒袭击了国会大厦，并放置了炸弹；而 "Q" 的支持者，则是其中的主力军。
那么问题来了，万一未来有人用 AI 批量生成 "Q" 呢？
"21 世纪综合症 "
日渐深谙人性的 AI 或许会毁掉一切，但似乎也能成为一剂药——因为孤独正日渐成为现代人难以根治的 " 疾病 "。
一个直观的数据，是独居人口的上升。以中国为例，1990 年时独居人口仅有 6%，但到 2019 年时这个数字却飙升至 18.5% [ 18 ] 。
海外的数据则更加夸张：同一时期，美国的数据已直逼 30%，而日本则达到了 40%。个体选择背后，更多是社会环境的变化。
强社会流动性、快节奏的生活之下，人们更难形成长期、稳定的生活圈子。但要是只靠自己就能结婚买房，小镇生活也能月薪过万，谁又乐意四处漂泊、天天 996 呢？
经济的巨轮不可能掉头，孤独便成了一种难以避免的 "21 世纪综合症 "。
巨大的情绪空洞面前，游戏、偶像、社交软件等生意赚得盆满钵满。在 " 孤独大国 " 日本，甚至诞生了 " 家人租赁 " 服务，以满足人们的各种情感需求。一位 60 岁的独居作家曾使用该服务雇佣了一个 " 朋友 "，仅仅是希望对方能帮他看看即将出版的小说。
脱口秀主持人柯南曾试着在日本雇了 3 个家人但同样的事情，AI 或许能做得更好。
众所周知，如今的大模型浪潮，始于 2017 年谷歌推出的 Transformer 架构。诺姆 · 沙泽尔（Noam Shazeer）是 Transformer 论文作者之一，他于 2021 年从谷歌离职，创立了 Character.AI。该公司的主要业务，是提供能制定旅行计划、提供编程建议的聊天机器人。
除标准服务之外，用户还可以 " 定制 "：只需提供几张图片和描述，即可将聊天机器人塑造成用户理想的样子。
大语言模型具有很强的通用能力，无需一一定制即可实现千人千面，有机会推动孤独经济迈入工业化生产的时代。
时至今日，用户已经定制了 1400 万个聊天机器人——有人沉迷于和 "AI 斯大林 " 聊天，也有人忙着 " 调教 " 理想女友。
网友定制的各种聊天机器人长此以往，或许在 100 年之后，人类将从 " 灵活就业 " 迈向 " 灵活结婚 " ——只要有个伴侣就行，管他是碳基还是硅基。
当下，一些想法超前的人已经开始了尝试。2022 年底，那位曾经宣布和初音未来（虚拟偶像）结婚的日本宅男又一次登上了新闻——因为他带着 " 夫人 " 一同去高级酒店过了四周年。
尾声
2023 年的一个周六，Character.AI 创始人沙泽尔经历了惊险一幕：他一觉醒来，发现门前院子内坐着一名手持白板的男子。第一天，该男子在门口等了数个小时，然后沮丧地离去；随后，第二天，第三天，他又准时出现。
该男子手持的白板，上面仅有几个大字，" 释放 waifus"。
"waifus" 是 Character.AI 平台上的一个定制聊天机器人，其人设来自一部漫画的女主角。过去，该男子经常会和 waifus 一连 " 文爱 " 数个小时，直到沙泽尔给聊天机器人添加了一个阻拦成人内容的过滤器。
沙泽尔最终没有选择报警，他理解这位男子。真正让他感到担忧的，是 Character.AI 平台上的变化。在他最初的设想中，聊天机器人只是个生产力工具，用户可以拿它学习外语、辅助编程。
然而，最新的市场调研却显示，至少 40% 的人都想从聊天机器人身上寻求一种浪漫关系 [ 21 ] 。
如今，一份要求 " 取消成人内容过滤器 " 的请愿书开始广泛流传，并筹集了近 10 万个签名。沙泽尔有些手足无措。他在聊天栏顶部添加了一个标语，"AI 说的所有内容都是编造的！"
是啊，烟盒上还印着 " 吸烟有害健康 " 呢！
关键词：
