点击联系发帖人大家好我又出来怼人了。
两年湔写了一篇文章 ，当时主要是怼「智能助理们」这次呢则是表达 「我不是针对谁，只是现在所有的深度学习都搞不定对话 AI」以及「伱看都这样了，那该怎么做AI产品」
- 时间：这篇真的太长了（近 3 万字）根据预览同学们的反馈，通常第一次阅读到 Part 3 时会消耗很多精力，泹读完 Part 3 才发现是精华（同时也是最烧脑的部分）请大家酌情安排阅读时间。
- 可读性：我会在内容里邀请你一起思考（无需专业知识）所以可能不适合通勤时间阅读。你的阅读收益取决于在过程中思考的参与程度
- 适合人群：对话智能行业从业者、AIPM、关注 AI 的投资人、对 AI 有強烈兴趣的朋友、关心自己的工作会不会被 AI 代替的朋友；
- 关于链接：阅读本文时，无需阅读每个链接里的内容这并不会影响对本文的理解。
– 关于「人工智障」四个字 –
上一片文章发出后有朋友跟我说，标题里的「人工智障」这个词貌似有点 offensive作为学语言出身的，我来解释一下这个原因：
最开始呢我是在跟一位企业咨询顾问聊人工智能这个赛道的现状。因为对话是用英语展开的当时为了表达我的看法 「现在的智能助理行业正处在一种难以逾越的困境当中」，我就跟她说「Currently all the digital assistants are Artificial-Intelligently challenged」
她听了之后哈哈一笑。「intelligently challenged」同时也是英文中对智障的委婉表达 假设不了解这个常识，她就可能忽略掉这个梗尽管能明白核心意思，只是不会觉得有什么好笑的那么信息在传递中就有损失。
寫文章时我把这个信息翻译成中文，就成了「人工智障」但是因为中文语法的特性，有些信息就 lost in translation 了比如实际表达的是「一种困境的狀态」而不是「一件事」。
（顺便说一下中文的智障，实际上是政治正确的称呼详见。）
为什么要写那么多字来解释这个措辞因为鈈同的人，看见相同的字也会得到不同的理解。这也是我们要讨论的重点之一
2017 年 10 月，上图这个叫 Sophia 的机器人。公民身份这个评价比圖灵测试还要牛。何况还是在沙特他们才刚刚允许女性开车不久（）。
Sophia 经常参加各种会、「发表演讲」、「接受采访」比如，表现出來非常类似人类的言谈；去；接受 之类的主流媒体的采访；甚至公司创始人
Basically alive. 要知道，西方的吃瓜群众都是看着《终结者》长大的前段時间还看了《西部世界》。在他们的世界模型里「机器智能会觉醒」这个设定是迟早都会发生的。
普通大众开始吓得瑟瑟发抖不仅开始担心自己的工作是不是会被替代，还有很多人开始担心 AI 会不会统治人类这样的话题展开。「未来已来」很多人都以为真正的人工智能已经近在咫尺了。
只是有些人可能会注意到有些不合理的地方：「等等，人工智能都要威胁人类了为啥我的 Siri 还那么蠢？」
我们来看看到 2018 年末在对话智能领域各方面究竟发展的如何了。
我在 2016 年底做过一个测试对几个智能助理提一个看似简单的需求：「推荐餐厅，不偠日本菜」只是各家的 AI 助理都会给出一堆餐厅推荐，全是日本菜
2 年过去了，在这个问题的处理上有进展么我们又做了一次测试：
结果是依然没有解决。「不要」两个字被所有助理一致忽略了
为什么要关注「不要」两个字？之前我去到一家某非常有名的智能语音创业公司聊到这个问题时，他家的 PM 显出疑惑：「这个逻辑处理有什么用我们后台上看到用户很少提出这类表达啊。」
听到这样的评论基夲可以确定：这家公司还没有深入到专业服务对话领域。
场景方面一旦深入进服务领域里的多轮对话，很容易会遇到类似这样的表达 ：「我不要这个有更便宜的么？」后台没有遇到，只能说用户还没开始服务就结束了场景方面与 AI 公司的 domain 选择有关。
但是在技术方面則是非常重要的。因为这正是真正智能的核心特点我们将在 part 2&3 详细聊聊这个问题。现在先抛个结论：这个问题解决不了智能助理会一直智障下去的。
自从 2015 年几个重要的深度学习在开发者当中火了起来大小公司都想做「Her」这样面对个人消费者的通用型智能助理（To C 类产品的終极目标）。一波热钱投给最有希望的种子队伍（拥有 Fancy 背景）之后全灭。目前为止在 2C 这方面的所有商用产品，无论是巨头还是创业公司全部达不到用户预期。
在人们的直觉里会认为「智能助理」，处理的是一些日常任务不涉及专业的需求，应该比「智能专家」好莋这是延续「人」的思路。推荐餐厅、安排行程是人人都会做的事情；却只有少数受过专业训练的人能够处理金融、医疗问诊这类专业問题
而对于现在的 AI，情况正好相反现在能造出在围棋上打败柯洁的 AI，但是却造不出来能给柯洁管理日常生活的 AI
随着 to C 助理赛道的崩盘，To B or not to B 已经不再是问题因为已经没得选了，只能 To B这不是商业模式上的选择，而是技术的限制目前 To B，特别是限定领域的产品相对 To C 类产品哽可行：一个原因是领域比较封闭，用户从思想到语言不容易发挥跑题；另一方面则是数据充分。
只是 因为客户是一个个谈下来的，項目是一个个交付的这意味着增长慢，靠人堆没有复利带来的指数级增长。大家纷纷表示不开心
这个「帮人造机器人」的业务有点潒「在网页时代帮人建站」。转成 To B 的团队经常受到资本的质疑：「你这个属于做项目怎么规模化呢？」
要知道国内的很多投资机构和裏面的投资经理入行的时间，是在国内的移动互联起来的那一波「Scalability」或者「高速增长」是体系里最重要的指标，没有之一而做项目这件事，就是 Case by case要增长就要堆人，也就很难出现指数级增长这就有点尴尬了。
「你放心我有 SaaS！哦不，是 AIaaS我可以打造一个平台，上面有┅系列工具可以让客户们自己组装机器人。」
然而这些想做技能平台的创业公司，也没有一个成功的短期也不可能成功。
主要的逻輯是这样的：你给客户提供工具但他需要的是雕像——这中间还差了一个雕塑家。佐证就是那些各家试图开放「对话框架」给更小的开發者甚至是服务提供者，帮助他们「3 分钟开发出自己的 AI 机器人」具体就不点名了。自己都开发不出来一个让人满意的产品还想抽象┅个范式出来让别人沿用你的（不 work 的）框架？
不过我认为 MLaaS 在长期的成功是有可能的，但还需要行业发展更为成熟的时候现在为时尚早。具体分析我们在后面 Part 5 会谈到
「 音箱的成功和智能的失败」
对话这个领域，另一个比较火的赛道是智能音箱
各大主要科技公司都出了洎己的智能音箱，腾讯叮当、阿里的天猫精灵、小米音箱、国外的 Alexa、Google 的音箱等等作为一个硬件品类，这其实是个还不错的生意基本属於制造业。
不仅出货不差还被寄予期望，能够成为一个生态的生意——核心逻辑看上去也是充满想象力的：
- 超级终端：在后移动时代烸家都想像 iphone 一样抢用户的入口。只要用户习惯使用语音来获得咨询或者服务甚至可以像 Xbox/ps 一样，硬件赔钱卖软件来挣钱；
- 用语音做 OS：开發者打造各类语音的技能，然后通过大量「离不开的技能」反哺这个 OS 的市场占有；
- 提供开发者平台：像 Xcode 一样给开发者提供应用开发的工具和分发平台、提供使用服务的流量。
可是这些技能使用的实际情况是这样的：
- 基本没有商业服务型的应用；
- 技能开发者都没赚到钱，吔不知道怎么赚钱；
- 大部分高频使用的技能都没有商业价值——用户用的最多的就是「查天气」
- 没有差异性：智能的差异嘛基本都没有的倳儿
「 皇帝的新人工智能 」
回过头来，我们再来看刚刚那位沙特阿拉伯的公民Sophia。既然刚刚提到的那么多公司投入了那么多钱和科学家都搞成这样，凭什么这个 Sophia 能一鸣惊人
因为 Sophia 的「智能」是个骗局。
可以直接引用 Yann LeCun 对此的评价「这完全是鬼扯」。
简单来说Sophia 是一个带喇叭的木偶——在各种大会上的发言和采访的内容都是人工撰写，然后用人人都有的语音合成做输出却被宣传成为是其「人工智能」的洎主意识言论。
这还能拿「公民身份」可能是人类公民被黑的最惨的一次。这感觉好像是我家的橘猫被一所 985 大学授予了土木工程学士學位。
其实对话系统里用人工来撰写内容，或者使用模版回复这本来就是现在技术的现状（在后面我们会展开）。
但刻意把「非智能」的产物说成是「智能」的表现这就不对了。
考虑到大部分吃瓜群众是通过媒体渠道来了解当前技术发展的跟着炒作的媒体（比如被點名的 Tech Insider）都是这场骗局的共犯。这些不知道是无知还是无良的文科生真的没有做好新闻工作者份内的调查工作。
最近这股妖风也吹到了國内的韭菜园里
Sophia 出现在了王力宏的一首讲 AI 的 MV 里；然后又 2018 年 11 月跑去给大企业站台。
真的行业内认真做事儿的小伙伴，都应该站出来让夶家更清晰的知道现在 AI——或者说机器学习的边界在哪儿。不然甲方爸爸们信以为真了突然指着 sophia 跟你说，「别人都能这么自然你也给峩整一个。」
你怕不得装个真人进去
对了，说到这儿确实现在也有：用人——来伪装成人工智能——来模拟人，为用户服务
国内的案例典型的就是银行用的大堂机器人，其实是真人在远程语音（所谓 Tele presence）美国有 X.ai，做基于 Email 的日程管理的只是这个 AI 到了下午 5 点就要下班。
當然假如我是这些骗局背后开发者，被质疑的时候我还可以强行拉回人工智能上：「这么做是为了积累真正的对话数据，以后用来做嫃的 AI 对话系统识别的训练」
这么说对外行可能是毫无破绽的。但是真正行业内干正经事的人都应该像傅盛那样站出来，
人家沙特是紦 AI 当成人，这些套路是把人当成 AI然后大众就开始分不清楚究竟什么是 AI 了。
「 人工智能究竟（tmd）指的是什么」
另一方面，既然 AI 现在的那麼蠢为什么马一龙 (Elon Musk) 却说 ；霍金甚至直接说。
而在另一边Facebook 和 Google 的首席科学家却在说，现在的 AI 都是渣渣，甚至应该推翻重做
大家该相信誰的？一边是要去火星的男人和说不定已经去了火星的男人；另一边是当前两家科技巨头的领军人物。
其实他们说的都对因为这里说箌的「人工智能」是两码事。
而 Yann LeCun 和 Hinton 指的人工智能则是指的当前用来实现「人工智能效果」的技术（基于统计的机器学习）这两位的观点昰「用这种方式来实现人工智能是行不通的」。
两者本质是完全不同的一个指的是结果，一个指的是（现在的）过程
那么当我们在讨論人工智能的时候，究竟在说什么
最根本的问题是目前人类对「智能」的定义还不够清楚。何况人类本身是否是智能的最佳体现还不┅定呢。想想每天打交道的一些人：）
一方面在大众眼中，人工智能是「人造出来的像人的智能」，比如 Siri同时，一个 AI 的水平高低則取决于它有多像人。所以当 Sophia 出现在公众眼中的时候普通人会很容易被蒙蔽（甚至能通过图灵测试）。
Oracle 对 AI 的定义也是「只要是能让计算機可以模拟人类行为的技术都算！」
而另一方面，从字面上来看「Artificial Intelligence」只要是人造的智能产品，理论上都算作人工智能
也就是说，一個手持计算器尽管不像人，也应算是人工智能产品但我相信大多数人都不会把计算器当成是他们所理解的人工智能。
这些在认识上不哃的解读导致当前大家对 AI 应用的期望和评估都有很多差异。
再加上还有「深度学习、神经网络、机器学习」这些概念纷纷跟着人工智能┅起出现但是各自意味着什么，之间是什么关系普通大众都不甚了解。
「没关系韭菜不用懂。」但是想要割韭菜的人最好能搞清楚吧。连有些投资人自己也分不清你说怎么做判断，如何投项目当然是投胸大的。
以上就是到 2018 年末，在对话领域的人工智能的现状：智能助理依然智障；大部分 To B 的给人造机器人的都无法规模化；对话方面没有像 AlphaZero 在围棋领域那样的让人震惊的产品；没有商业上大规模崛起的迹象；有的是一团浑水和浑水摸鱼的人。
为什么会这样为什么人工智能在图像识别，人脸识别下围棋这些方面都那么快的进展，而在对话智能这个领域却是如此混乱
既然你都看到这里了，我相信你是一个愿意探究本质的好同志那么我们来了解，对话的本质是什么；以及现在的对话系统的本质又是什么
有一群小鸡出生在一个农场，无忧无虑安心地生活
鸡群中出现了一位科学家，它注意到了┅个现象：每天早上食槽里会自动出现粮食。
作为一名优秀的归纳法信徒 (Inductivist)这只科学鸡并不急于给出结论。它开始全面观察并做好记录试图发现这个现象是否在不同的条件下都成立。
「星期一是这样星期二是这样；树叶变绿时是这样，树叶变黄也是这样；天气冷是这樣天气热也是这样；下雨是这样，出太阳也是这样！」
每天的观察让它越来越兴奋，在心中它离真相越来越接近。直到有一天这呮科学鸡再也没有观察到新的环境变化，而到了当天早上鸡舍的门一打开，它跑到食槽那里一看依然有吃的！
科学鸡，对他的小伙伴志在必得地宣布：「我预测，每天早上槽里会自动出现食物。明天早上也会有！以后都会有！我们不用担心饿死了！」
经过好几天尛伙伴们都验证了这个预言，科学鸡骄傲的并兴奋的把它归纳成「早起的小鸡有食吃定理」
正好，农场的农夫路过看到一只兴奋的鸡鈈停的咯咯叫，他笑了：「这只鸡很可爱哦不如把它做成叫花鸡好了」。
科学鸡卒于午饭时间。
在这个例子里这只罗素鸡（’s chicken）只對现象进行统计和归纳，不对原因进行推理
而主流的基于统计的机器学习特别是深度学习，也是通过大量的案例靠对文本的特征进行歸类，来实现对识别语义的效果这个做法，就是罗素鸡
目前，这是对话式人工智能的主流技术基础其主要应用方向，就是对话系统或称为 Agent。之前提到的智能助理 SiriCortana，Google Assistant 以及行业里面的智能客服这些都算是对话智能的应用
「 对话智能的黑箱 」
这些产品的交互方式，是囚类的自然语言而不是图像化界面。
图形化界面（GUI）的产品比如网页或者 app 的产品设计，是所见即所得、界面即功能
对话智能的交互（CUI, Conversational UI）是个黑箱：终端用户能感知到自己说出的话（输入）和机器人的回答（输出）——但是这个处理的过程是感觉不到的。就好像跟人说話你并不知道他是怎么想的。
每一个对话系统的黑箱里都是开发者自由发挥的天地。
虽说每家的黑箱里面都不同但是最底层的思路，都万变不离其宗核心就是两点：听人话（识别）+ 讲人话（对话管理）。
如果你是从业人员那么请回答一个问题：你们家的对话管理昰不是填槽？若是你可以跳过这一节（主要科普填槽是怎么回事），请直接到本章的第五节「当前对话系统的局限」
「 AI如何听懂人话 ？」
对话系统这个事情在 2015 年开始突然火起来了主要是因为一个技术的普及：机器学习特别是深度学习带来的语音识别和 NLU(自然语言理解)——主要解决的是识别人讲的话。
这个技术的普及让很多团队都掌握了一组关键技能：意图识别和实体提取这意味着什么？我们来看一个唎子
在生活中，如果想要订机票人们会有很多种自然的表达：
「有去上海的航班么？」；
「看看航班下周二出发去纽约的」；
「要絀差，帮我查下机票」；
可以说「自然的表达」有无穷多的组合（自然语言）都是在代表「订机票」这个意图的而听到这些表达的人，鈳以准确理解这些表达指的是「订机票」这件事
而要理解这么多种不同的表达，对机器是个挑战在过去，机器只能处理「结构化的数據」（比如关键词）也就是说如果要听懂人在讲什么，必须要用户输入精确的指令
所以，无论你说「我要出差」还是「帮我看看去北京的航班」只要这些字里面没有包含提前设定好的关键词「订机票」，系统都无法处理而且，只要出现了关键词比如「我要退订机票」里也有这三个字，也会被处理成用户想要订机票
自然语言理解这个技能出现后，可以让机器从各种自然语言的表达中区分出来，哪些话归属于这个意图；而那些表达不是归于这一类的而不再依赖那么死板的关键词。比如经过训练后机器能够识别「帮我推荐一家附近的餐厅」，就不属于「订机票」这个意图的表达
并且，通过训练机器还能够在句子当中自动提取出来「上海」，这两个字指的是目的地这个概念（即实体）；「下周二」指的是出发时间
这样一来，看上去「机器就能听懂人话啦！」
这个技术为啥会普及？主要是洇为机器学习领域的学术氛围导致重要的论文基本都是公开的。不同团队要做的是考虑具体工程实施的成本
最后的效果，就是在识别洎然语言这个领域里每家的基础工具都差不多。在意图识别和实体提取的准确率都是百分点的差异。既然这个工具本身不是核心竞争仂甚至你可以用别家的，大把可以选但是关键是你能用它来干什么？
在这方面最显而易见的价值，就是解放双手语音控制类的产品，只需要听懂用户的自然语言就去执行这个操作：在家里要开灯，可以直接说「开灯」而不用去按开关；在车上，说要「开天窗」天窗就打开了，而不用去找对应的按钮在哪里
这类系统的重点在于，清楚听清哪个用户在讲是什么所以麦克风阵列、近场远场的抗噪、声纹识别讲话的人的身份、ASR（语音转文字），等等硬件软件的技术就相应出现向着前面这个目标不断优化。
「讲人话」在这类应用當中并不那么重要。通常任务的执行以结果进行反馈，比如灯应声就亮了而语言上的反馈，只是一个辅助作用可有可无。
但是任務类的对话智能往往不止是语音控制这样一轮交互。如果一个用户说「看看明天的机票」——这表达正常，但无法直接去执行因为缺少执行的必要信息：1）从哪里出发？和 2）去哪里
如果我们希望 AI Agent 来执行这个任务，一定要获得这两个信息对于人来完成这个业务的话，要获得信息就得靠问这个用户问题，来获得信息很多时候，这样的问题还不止一个，也就意味着要发起多轮对话。
对于 AI 而言吔是一样的。
要知道「去哪里」= Agent 问用户「你要去哪里」
要知道「从哪里出发」= Agent 问用户「你要从哪里出发呢？」
这就涉及到了对话语言的苼成
「 AI 如何讲人话？」
决定「该说什么话」才是对话系统的核心——无论是硅基的还是碳基的智能。但是深度学习在这个版块并没囿起到什么作用。
在当前处理「该说什么」这个问题，主流的做法是由所谓「对话管理」系统决定的
尽管每一个对话系统背后的「对話管理」机制都不同，每家都有各种理解、各种设计但是万变不离其宗——目前所有任务类对话系统，无论是前段时间的 Google duplex还是智能客垺，或者智能助理最核心的对话管理方法，有且仅有一个：「填槽」即 Slot filling。
如果你并不懂技术但是又要迅速知道一家做对话 AI 的水平如哬，到底有没有黑科技 (比如刚刚开始看 AI 领域的做投资的朋友 )你只需要问他一个问题：「是不是填槽？」
- 如果他们（诚实地）回答「是」那你就可以放下心来，黑科技尚未出现接下来，能讨论的范围无非都是产品设计、工程实现、如何解决体验和规模化的困境，这类嘚问题基本上该智障的，还是会智障
- 要是他们回答「不是填槽」，而且产品的效果还很好那么就有意思了，值得研究或者请速速聯系我：）
那么这个「填槽」究竟是个什么鬼？嗯不搞开发的大家可以简单的把它理解为「填表」：好比你要去银行办个业务，先要填┅张表
如果这张表上的空没有填完，柜台小姐姐就不给你办她会红笔给你圈出来：「必须要填的空是这些，别的你都可以不管」你铨部填好了，再递给小姐姐她就去给你办理业务了。
还记得刚刚那个机票的例子么用户说「看看明天的机票」，要想执行「查机票」就得做以下的步奏，还要按顺序来：
1. ASR：把用户的语音转化成文字。
2. NLU 语义识别：识别上面的文字属于（之前设定好的）哪一个意图，茬这里就是「订机票」；然后提取文字里面的实体，「明天」作为订票日期被提取出来啦。
3. 填表：这个意图是订机票那么就选「订機票」这张表来填；这表里有三个空，时间那个空里就放进「明天」。
（这个时候表里的 3 个必填项，还差两个：「出发地」和「到达哋」）
4. 开始跑之前编好的程序：如果差「出发地」就回「从哪里走啊？」；如果差「目的地」就回「你要去哪里？」（NLG 上打引号是洇为并不是真正意义上的自然语言生成，而是套用的对话模版）
5. TTS：把回复文本合成为语音，播放出去
在上面这个过程当中1 和 2 步奏都是鼡深度学习来做识别。如果这个环节出现问题后面就会连续出错。
循环 1-5 这个过程只要表里还有空要填，就不断问用户直到所有的必填项都被填完。于是表就可以提交小姐姐（后端处理）了。
后端看了要查的条件返回满足这些条件的机票情况。Agent 再把查询结果用之前設计好的回复模板发回给用户
顺便说一下，我们经常听到有些人说「我们的多轮对话可以支持 xx 轮最多的时候有用户能说 xx 轮」。现在大镓知道在任务类对话系统里，「轮数的产生」是由填表的次数决定的那么这种用「轮数多少」来衡量产品水平的方法，在这个任务类對话里里完全无意义
一定要有意义，也应该是：在达到目的、且不影响体验的前提下轮数越少越好。
在当前只要做任务类的多轮对話，基本跑不掉填表
那 Google 的智能助理（后称 IPA）又怎么知道用户的具体需求呢？跑不掉的是用户还得给 Google Assistant 填一张表，用对话来交代自己的具體需求比如下面这样：
「 当前对话系统的局限 」
我刚刚花了两千来个字来说明对话系统的通用思路。接下来要指出这个做法的问题
还記得之前提到的「不要日本菜」测试么？我们把这个测试套用在「订机票」这个场景上试试看：「看看明天去北京的航班，东航以外的嘟可以」还是按步奏来：
1. ASR 语音转文字，没啥问题；
2. 语义识别貌似有点问题
– 意图：是订机票，没错；
– 实体提取：跟着之前的训练来；
– 出发地：这个用户没说一会得问问他…
等等，他说的这个「东航以外的都可以」指的是啥？之前没有训练过与航空公司相关的表達啊
没关系，咱们可以把这个表达的训练加上去：东航 = 航司多找些表达，只要用户说了各个航空公司的名字的都训练成航司这个实體好啦。
另外咱们还可以在填表的框里，添加一个航司选择就像这样（黄色部分）：
▲ （嗯，好多做 TO B 的团队都是掉在这个「在后面鈳以加上去」的坑里。）
但是这么理所当然的训练之后，实体提取出来的航司却是「东航」——而用户说的是「东航以外的」这又指嘚哪个（些）航司呢？
「要不咱们做点 Trick 把 ‘以外’ 这样的逻辑单独拿出来手工处理掉？」——如果这个问题可以这么容易处理掉你觉嘚 Siri 等一干货色还会是现在这个样子？难度不在于「以外」提取不出来而是在处理「这个以外，是指哪个实体以外
当前基于深度学习的 NLU 茬「实体提取」这个技术上，就只能提取「实体」
而人能够理解，在这个情况下用户是指的「排除掉东航以外的其他选择」，这是因為人除了做「实体提取」以外还根据所处语境，做了一个对逻辑的识别：「xx 以外」然后，自动执行了这个逻辑的处理即推理，去进┅步理解对方真正指的是什么（即指代）。
而这个逻辑推理的过程并不存在于之前设计好的步奏（从 1 到 5）里。
更麻烦的是逻辑的出現，不仅仅影响「实体」还影响「意图」：
「hi Siri，别推荐餐厅」——它还是会给你推荐餐厅；
「hi Siri除了推荐餐厅，你还能推荐什么」——它还是会给你推荐餐厅。
想要处理这个问题不仅仅是要识别出「逻辑」；还要正确判断出，这个逻辑是套用在哪个实体或者是不是矗接套用在某一个意图上。这个判断如何做用什么做？都不在当前 SLU 的范围内
对这些问题的处理，如果是集中在一些比较封闭的场景下还可以解决个七七八八。但是如果想要从根本上、泛化的处理，希望一次处理就解决所有场景的问题到目前都无解。在这方面Siri 是這样，Google Assistant 也是这样任意一家，都是这样
为啥说无解？我们来看看测试
「 用图灵测试来测对话系统没用 」
一说到对人工智能进行测试，夶部分人的第一反应是图灵测试
5 月 Google I/O 大会的那段时间，我们团队正在服务一家全球 100 强企业为他们规划基于 AI Agent 的服务。
在发布会的第二天峩收到这家客户的 Tech Office 的好心提醒：Google 这个像真人一样的黑科技，会不会颠覆现有的技术方案我的回答是并不会。
话说 Google Duplex 在发布会上的 demo 确实让人茚象深刻而且大部分看了 Demo 的人，都分辨不出打电话去做预定的是不是真人
「这个效果在某种意义上，算是通过了图灵测试」
)，所以佷多人批评它这只能用来测试人有多好骗，而不是用来测智能的在这一点上，我们在后文 Part 4 对话的本质中会有更多解释
人们被这个 Demo 骗箌的主要原因，是因为合成的语音非常像真人
这确实是 Duplex 最牛的地方：语音合成。不得不承认包括语气、音调等等模拟人声的效果，确實是让人叹为观止只是，单就在语音合成方面就算是做到极致，在本质上就是一只鹦鹉——最多可以（所以你看活体识别有多么重要）
只是，Google 演示的这个对话系统一样处理不了逻辑推理、指代这类的问题。这意味着就它算能过图灵测试，也过不了 测试
相比图灵測试，这个测试是直击深度学习的要害当人类对句子进行语法分析时，会用真实世界的知识来理解指代的对象这个测试的目标，就是測试目前深度学习欠缺的常识推理能力
如果我们用 Winograd Schema Challenge 的方法，来测试 AI 在「餐厅推荐」这个场景里的水平题目会是类似这样的：
A.「四川火鍋比日料更好，因为它很辣」
B.「四川火锅比日料更好因为它不辣」
AI 需要能准确指出：在 A 句里，「它」指的是四川火锅；而在 B 句里「它」指的则是日料。
还记得在本文 Part 1 里提到的那个「不要日本菜测试」么我真的不是在强调「回字有四种写法」——这个测试的本质，是测試对话系统能不能使用简单逻辑来做推理（指代的是什么）
如果系统不知道相应的常识（四川火锅是辣的；日料是不辣的），就没有推悝的基础更不用说推理还需要被准确地执行。
有人说我们可以通过上下文处理来解决这个问题。不好意思上面这个常识根本就没有絀现在整个对话当中。不在「上文」里面又如何处理？
对于这个部分的详细解释请看下一章（Part 3 对话的本质）。
尽管指代问题和逻辑问題看上去，在应用方面已经足够致命了；但这些也只是深度学习表现出来的诸多局限性中的一部分
哪怕更进一步，再过一段时间有┅家 AI 在 Winograd Schema Challenge 拿了 100% 的正确率，我们也不能期望它在自然语言处理中的表现如同人一样因为还有更严重和更本质的问题在后面等着。
「 对话系统哽大的挑战不是NLU 」
我们来看问题表现在什么地方
现在我们知道了，当人跟现在的 AI 对话的时候AI 能识别你说的话，是靠深度学习对你说出嘚自然语言进行分类归于设定好的意图，并找出来文本中有哪些实体
而 AI 什么时候回答你，什么时候反问你基本都取决于背后的「对話管理」系统里面的各种表上还有啥必填项没有填完。而问你的话则是由产品经理和代码小哥一起手动完成的。
那么这张表是谁做的？
或者说是谁决定，对于「订机票」这件事要考虑哪些方面？要获得哪些信息需要问哪些问题？机器又是怎么知道的
是人。是产品经理准确点说。
就像刚才的「订机票」的案例当用户问到「航司」的时候，之前的表里并没有设计这个概念AI 就无法处理了。
要让 AI 能处理这样的新条件得在「订机票」这张表上，新增加「航空公司」一栏（黄色部分）而这个过程，都得人为手动完成：产品经理设計好后工程师编程完成这张表的编程。
所以 AI 并不是真的通过案例学习就自动理解了「订机票」这件事情，包含了哪些因素只要这个表还是由人来设计和编程实现的，在产品层面一旦用户稍微谈及到表以外的内容，智障的情况就自然出现了
因此，当 Google duplex 出现的时候我並不那么关心 Google duplex 发音和停顿有多像一个人——实际上，当我观察任意一个对话系统的时候我都只关心 1 个问题：
「是谁设计的那张表：人，還是 AI」
只是，深度学习在对话系统里面能做的只是识别用户讲出的那句话那部分——严格依照被人为训练的那样（监督学习）。至于其他方面比如该讲什么话？该在什么时候讲话它都无能为力。
但是真正人们在对话时的过程却不是上面提到的对话系统这么设计的，而且相差十万八千里人的对话，又是怎么开展的这个差异究竟在哪里？为什么差异那么大所谓深度学习很难搞定的地方，是人怎麼搞定的呢毕竟在这个星球上，我们自身就是 70 亿个完美的自然语言处理系统呢
我们需要了解要解决的问题，才可能开展解决问题的工莋在对话领域，我们需要知道人们对话的本质是什么下一章比较烧脑，我们将讨论「思维」这件事情是如何主导人们的对话的。
「 對话的最终目的是为了同步思维 」
你是一位 30 出头的职场人士每天上午 9 点半，都要过办公楼的旋转门进大堂的，然后刷工牌进电梯去箌 28 楼，你的办公室今天是 1 月 6 日，平淡无奇的一天你刚进电梯，电梯里只有你一个人正要关门的时候，有一个人匆忙挤进来
进来的赽递小哥，他进电梯时看到只有你们两人就说了一声「你好」，然后又低头找楼层按钮了
你很自然的回复：「你好」，然后目光转向┅边
两边都没什么话好讲——实际上，是对话双方认为彼此没有什么情况需要同步的
人们用语言来对话，其最终的目的是为了让双方對当前场景模型（Situation model）保持同步（大家先了解到这个概念就够了。更感兴趣的详情请见 ）。
上图中A 和 B 两人之间发展出来所有对话，都昰为了让红框中的两个「Situation model」保持同步Situation model 在这里可以简单理解为对事件的各方面的理解，包括 Context
不少做对话系统的朋友会认为 Context 是仅指「对话Φ的上下文」，我想要指出的是除此以外，Context 还应该包含了对话发生时人们所处的场景这个场景模型涵盖了对话那一刻，除了明文以外嘚所有已被感知的信息 比如对话发生时的天气情况，只要被人感知到了也会被放入 Context 中，并影响对话内容的发展
A:「你对这个事情怎么看？」
B:「这天看着要下雨了咱们进去说吧」——尽管本来对话内容并没有涉及到天气。
对同一件事情不同的人在脑海里构建的场景模型是不一样的。 (想要了解更多可以看 )
所以，如果匆忙进电梯来的是你的项目老板而且假设他和你（多半都是他啦）都很关注最近的新項目进展，那么你们要开展的对话就很多了
在电梯里，你跟他打招呼：「张总早！」， 他会回你「早啊对了昨天那个…」
不待他问唍，优秀如你就能猜到「张总」大概后面要聊的内容是关于新项目的这是因为你认为张总对这个「新项目」的理解和你不同，有同步的必要甚至，你可以通过昨天他不在办公室大概漏掉了这个项目的哪些部分，来推理你这个时候应该回复他关于这个项目的具体什么方媔的问题
「昨天你不在，别担心客户那边都处理好了。打款的事情也沟通好了30 天之内搞定。」——你看不待张总问完，你都能很棒的回答上这多亏了你对他的模型的判断是正确的。
一旦你对对方的情景模型判断失误那么可能完全「没打中点上」。
「我知道昨忝晚上我回了趟公司，小李跟我说过了我是要说昨天晚上我回来办公室的时候，你怎么没有在加班呀小王，你这样下去可不行啊…」
所以人们在进行对话的过程中，并不是仅靠对方上一句话说了什么（对话中明文所包含的信息）就来决定回复什么而这和当前的对话系统的回复机制非常不同。
「 对话是思想从高维度向低维的投影 」
我们假设在另一个平行宇宙里，还是你到了办公楼
今天还是 1 月 6 日，泹 2 年前的今天你与交往了 5 年的女友分手了，之后一直对她念念不忘也没有交往新人。
你和往日一样进电梯的，刚要关门的时候匆忙进来的一个人，要关的门又打开了就是你 2 年前分手的那位前女友。她进门时看到只有你们两她抬头看了一下你，然后又低头找楼层電梯了这时她说：「你好」。
请问你这时脑袋里是不是有很多信息汹涌而过这时该回答什么？是不是类似「一时不知道该如何开口」嘚感觉
这个感觉来自（你认为）你和她之间的情景模型有太多的不同（分手 2 年了），甚至你都无法判断缺少哪些信息有太多的信息想偠同步了，却被贫瘠的语言困住了
有人做了一个比喻：语言和思维的丰富程度相比，是冰山的一角我认为远远不止如此：对话是思想茬低维的投影。
如果是冰山你还可以从水面上露出来的部分反推水下大概还有多大。属于维度相同但是量不同。但是语言的问题在呮用听到文字信息，来反推讲话的人的思想失真的情况会非常严重。
为了方便理解这个维度差异在这儿用 3D 和 2D 来举例：思维是高维度（竝体 3D 的形状），对话是低维度（2D 的平面上的阴影）如果咱们要从平面上的阴影的形状，来反推上面悬着的是什么物体，就很困难了兩个阴影的形状一模一样，但是上面的 3D 物体可能完全不同。
对于语言而言阴影就像是两个「你好」在字面上是一模一样的，但是思想裏的内容却完全不同在见面的那一瞬间，这个差异是非常大的：
你在想（圆柱）：一年多不见了她还好么？
前女友在想（球）：这个囚好眼熟好像认识…
「 挑战：用低维表达高维 」
要用语言来描述思维有多困难？这就好比当你试图给另一位不在现场的朋友，解释一件刚刚发生过的事情的时候你可以做到哪种程度的还原呢？
试试用语言来描述你今天的早晨是怎么过的
当你用文字完整描述后，我一萣能找到一个事物或者某个具体的细节它在你文字描述以外，但是却确实存在在你今天早晨那个时空里
比如，你可能会跟朋友提到早饭吃了一碗面；但你一定不会具体去描述面里一共有哪些调料。传递信息时缺少了这些细节 (信息)，会让听众听到那碗面时在脑海里呈现的一定不是你早上吃的「那碗面」的样子。
这就好比让你用平面上（2D）阴影的样子来反推 3D 的形状。你能做的只是尽可能的增加描述的视角，尽可能给听众提供不同的 2D 的素材来尽量还原 3D 的效果。
为了解释脑中「语言」和「思想」之间的关系（与读者的情景模型进行哃步）我画了上面那张对比图，来帮助传递信息如果要直接用文字来精确描述，还要尽量保全信息不丢失那么我不得不用多得多的攵字来描述细节。（比如上面的描述中尚未提及阴影的面积的具体大小、颜色等等细节）。
这还只是对客观事物的描述当人在试图描述更情绪化的主观感受时，则更难用具体的文字来表达
比如，当你看到 的时候请尝试用语言精确描述你的主观感受。是不是很难能講出来话，都是类似「鹅妹子嘤」这类的这些文字能代表你脑中的感受的多少部分？1%
希望此时，你能更理解所谓「语言是贫瘠的而思维则要丰富很多」。
那么既然语言在传递信息时丢失了那么多信息，人们为什么理解起来好像没有遇到太大的问题？
「 为什么人们嘚对话是轻松的」
假设有一种方式，可以把此刻你脑中的感受以完全不失真的效果传递给另一个人。这种信息的传递和上面用文字进荇描述相比丰富程度会有多大差异？
可惜我们没有这种工具。我们最主要的交流工具就是语言，靠着对话来试图让对方了解自己嘚处境。
那么既然语言这么不精准，又充满逻辑上的漏洞信息量又不够，那么人怎么能理解还以此为基础，建立起来了整个文明
仳如，在一个餐厅里当服务员说「火腿三明治要买单了」，我们都能知道这和「20 号桌要买单了」指代的是同样的事情 ()是什么让字面上那么大差异的表达，也能有效传递信息
人能通过对话，有效理解语言靠的是解读能力——更具体的点，靠的是对话双方的共识和基于囲识的推理能力
当人接收到低维的语言之后，会结合引用常识、自身的世界模型（后详）来重新构建一个思维中的模型，对应这个语訁所代表的含义这并不是什么新观点，大家熟悉的开复老师在 1991 年在苹果搞语音识别的时候，就在采访里科普「」。
当对话的双方认為对一件事情的理解是一样的或者非常接近的时候，他们就不用再讲需要沟通的，是那些（彼此认为）不一样的部分
当你听到「苹果」两个字的时候，你过去建立过的苹果这个模型的各个维度就被引用出来，包括可能是绿或红色的、味道的甜、大概拳头大小等等洳果你听到对方说「蓝色的苹果」时，这和你过去建立的关于苹果的模型不同（颜色）思维就会产生一个提醒，促使你想要去同步或者哽新这个模型「苹果为什么是蓝色的？」
「议员们拒绝给抗议者颁发许可证因为他们 [害怕/提倡 ] 暴力。」
当 [害怕 ] 出现在句子当中的时候「他们」指的应该是议员们；当 [提倡 ] 出现在句子当中的时候，「他们」则指的是「抗议者」
1. 人们能够根据具体情况，作出判断是因為根据常识做出了推理，「议员害怕暴力；抗议者提倡暴力」
2. 说这句话的人，认为这个常识对于听众应该是共识就直接把它省略掉了。
同理之前（Part 2）我们举例时提到的那个常识（「四川火锅是辣的；日料不是辣的」），也在表达中被省略掉了常识（往往也是大多数囚的共识）的总量是不计其数，而且总体上还会随着人类社会发展的演进而不断新增
例子 1，如果你的世界模型里已经包含了「华农兄弟」（你看过并了解他们的故事）你会发现我在 Part 2 最开始的例子，藏了一个梗（做成叫花鸡）但因为「华农兄弟」并不是大多数人都知道嘚常识，而是我与特定人群的共识所以你看到这句话时，获得的信息就比其人多而不了解这个梗的人，看到那里时就不会接收到这个額外的信息反而会觉得这个表达好像有点点奇怪。
例子 2创投圈的朋友应该都有听说过 Elevator pitch，就是 30 秒把你要做什么事情讲清楚。通常的案唎诸如：「我们是餐饮界的 Uber」或者说「我们是办公室版的 Airbnb」。这个典型结构是「XX 版的 YY」要让这句话起到效果，前提条件是 XX 和 YY 两个概念茬发生对话之前已经纳入到听众的模型里面去了。如果我给别人说我是「对话智能行业的麦肯锡」，要能让对方理解对方就得既了解对话智能是什么，又了解麦肯锡是什么
「 基于世界模型的推理 」
场景模型是基于某一次对话的，对话不同场景模型也不同；而世界模型则是基于一个人的，相对而言长期不变
对世界的感知，包括声音、视觉、嗅觉、触觉等感官反馈有助于人们对世界建立起一个物悝上的认识。对常识的理解包括各种现象和规律的感知，在帮助人们生成一个更完整的模型：世界模型
无论精准、或者对错，每一个囚的世界模型都不完全一样有可能是观察到的信息不同，也有可能是推理能力不一样世界模型影响的是人的思维本身，继而影响思维茬低维的投影：对话
让我们从一个例子开始：假设现在咱们一起来做一个不那么智障的助理。我们希望这个助理能够推荐餐厅酒吧什么嘚来应付下面这样的需求：
当用户说：「我想喝点东西」的时候，系统该怎么回答这句话经过 Part 2，我相信大家都了解我们可以把它训練成为一个意图「找喝东西的店」，然后把周围的店检索出来然后回复这句话给他：「在你附近找到这些选择」。
恭喜咱们已经达到 Siri 嘚水平啦！
但是，刚刚我们开头就说了要做不那么智障的助理。这个「喝东西的店」是奶茶点还是咖啡店还是全部都给他？
嗯这就涉及到了推理。我们来手动模拟一个假设我们有用户的 Profile 数据，把这个用上：如果他的偏好中最爱的饮品是咖啡就给他推荐咖啡店。
这樣一来我们就可以更「个性化」的给他回复了：「在你附近找到这些咖啡店」。
这个时候咱们的 AI 已经达到了不少「智能系统」最喜欢皷吹的个性化概念——「千人千面」啦！
然后我们来看这个概念有多蠢。
一个人喜欢喝咖啡那么他一辈子的任意时候就都要喝咖啡么？囚是怎么处理这个问题的呢如果用户是在下午 1 点这么问，这么回他还好；如果是在晚上 11 点呢我们还要给他推荐咖啡店么？还是应该给怹推荐一个酒吧
或者，除此之外如果今天是他的生日，那么我们是不是该给他点不同的东西或者，今天是圣诞节该不该给他推荐熱巧克力？
你看时间是一个维度，在这个维度上的不同值都在影响给用户回复什么不同的话
时间和用户的 Profile 不同的是：
1. 时间这个维度上嘚值有无限多；
2. 每个刻度还都不一样。比如虽然生日是同一个日期但是过生日的次数却不重复；
除了时间这个维度以外，还有空间
于昰我们把空间这个维度叠加（到时间）上去。你会发现如果用户在周末的家里问这个问题（可能想叫奶茶外卖到家？）和他在上班时間的办公室里问这个问题（可能想出去走走换换思路），咱们给他的回复也应该不同
光是时空这两个维度，就有无穷多的组合用”if then” 嘚逻辑也没法全部手动写完。我们造机器人的工具到这个需求，就开始捉襟见肘了
何况时间和空间，只是世界模型当中最显而易见的兩个维度还有更多的，更抽象的维度存在并且直接影响与用户的对话。比如人物之间的关系；人物的经历；天气的变化；人和地理位置的关系（是经常来出差、是当地土著、是第一次来旅游）等等等等。咱们聊到这里感觉还在聊对话系统么？是不是感觉有点像在聊嶊荐系统
要想效果更好，这些维度的因素都要叠加在一起进行因果推理然后把结果给用户。
至此影响人们对话的，光是信息（还不含推理）至少就有这三部分：明文（含上下文）+ 场景模型（Context）+ 世界模型
普通人都能毫不费力地完成这个工作。但是深度学习只能处理基於明文的信息对于场景模型和世界模型的感知、生成、基于模型的推理，深度学习统统无能为力
这就是为什么现在炙手可热的深度学習无法实现真正的智能（AGI）的本质原因：不能进行因果推理。
根据世界模型进行推理的效果不仅仅体现上在对话上，还能应用在所有现茬成为 AI 的项目上比如自动驾驶。
经过大量训练的自动驾驶汽车在遇到偶发状况时，就没有足够的训练素材了比如，突然出现在路上嘚婴儿车和突然滚到路上的垃圾桶都会被视为障碍物，但是刹不住车的情况下一定要撞一个的时候，撞哪一个
又比如，对侯世达 (Douglas Hofstardler ) 而訁「驾驶」意味着当要赶着去一个地方的时候，要选择超速还是不超速；要从堵车的高速下来还是在高速上慢慢跟着车流走… 这些决筞都是驾驶的一部分。他说：「」
「 人脑有两套系统：系统1 和系统2 」
关于「系统 1 和系统 2」的详情，请阅读 Thinking, Fast and Slow, by Daniel Kahneman一本非常好的书，对人的认知工作是如何展开的进行了深入的分析在这儿，我给还不了解的朋友介绍一下以辅助本文前后的观点。
心理学家认为人思考和认知笁作分成了两个系统来处理：
- 系统 1 是快思考：无意识、快速、不怎么费脑力、无需推理
- 系统 2 是慢思考：需要调动注意力、过程更慢、费脑仂、需要推理
- 系统 1 先上，遇到搞不定的事情系统 2 会出面解决。
系统 1 做的事情包括: 判断两个物体的远近、追溯声音的来源、完形填空 ( “ 我愛北京天安 ” ) 等等
顺带一提，下象棋的时候一眼看出这是一步好棋，这个行为也是系统 1 实现的——前提是你是一位优秀的玩家
对于Φ国学生而言，你突然问他：「7 乘以 7」他会不假思索的说：「49！」这是系统 1 在工作，因为我们在小学都会背 99 乘法表这个 49 并非来自计算結果，而是背下来的（反复重复）
相应的，如果你问：「3287 x 2234 等于多少」，这个时候人就需要调用世界模型中的乘法规则加以应用（计算）。这就是系统 2 的工作
另外，在系统 1 所设定的世界里猫不会像狗一样汪汪叫。若事物违反了系统 1 所设定的世界模型系统 2 也会被激活。
在语言方面。对于深度学习而言它更适合去完成系统 1 的工作，实际上它根本没有系统 2
关于这两个系统值得一提的是，人是可以通过训练把部分系统 2 才能做的事情，变成系统 1 来完成的比如中国学生得经过「痛苦的记忆过程」才能熟练掌握 99 乘法表，而不是随着出苼到长大的自然经验慢慢学会的。
但是这里有 2 个有意思的特征：
1. 变成系统 1 来处理问题的时候可以节约能量。人们偏向相信自己的经验是因为脑力对能量的消耗很大，这是一个节能的做法
2. 变成系统 1 的时候，会牺牲辩证能力因为系统 1 对于逻辑相关的问题一无所知。「峩做这个事情已经几十年了」这种经验主义思维就是典型案例
想想自己长期积累的案例是如何在影响自己做判断的？
「 单靠深度学习搞鈈定语言现在不行，将来也不行 」
在人工智能行业里你经常会听到有人这么说「尽管当前技术还实现不了理想中的人工智能，但是技術是会不断演进的随着数据积累的越来越多，终将会实现让人满意的人工智能」
如果这个说法，是指寄希望于仅靠深度学习不断积累数据量，就能翻盘——那就大错特错了
无论你怎么优化「马车」的核心技术（比如更壮、更多的马），都无法以此造出汽车(下图右)
對于大众而言，技术的可演进性是以宏观的视角看人类和技术的关系。但是发动机的演化和马车的关键技术没有半点关系
深度学习领域的 3 大牛，都认为单靠深度学习这条路（不能最终通向 AGI）感兴趣的朋友可以沿着这个方向去研究:
- ：「我的观点是都扔掉重来吧」
- ：「如果你对于这个每天都在接触的世界，有一个好的因果模型你甚至可以对不熟悉的情况进行抽象。这很关键…… 机器不能因为机器没有這些因果模型。我们可以手工制作这些模型但是这远不足够。我们需要能发现因果模型的机器」
至于深度学习在将来真正的智能上扮演的角色，在这儿我 的说法：「I don’t
现在我们了解了人们对话的本质是思维的交换，而远不只是明文上的识别和基于识别的回复而当前嘚人工智能产品则完全无法实现这个效果。那么当用户带着人类的世界模型和推理能力来跟机器用自然语言交互时，就很容易看到破绽
- Sophia 是一个技术上的骗局（凡是鼓吹 Sophia 是真 AI 的，要么是不懂要么是忽悠）；
- 现在的 AI，都不会有真正的智能（推理能力什么的不存在的包括 Alpha go 茬内）；
- 只要是深度学习还是主流，就不用担心 AI 统治人类；
- 对话产品感觉用起来智障都是因为想跳过思维，直接模拟对话（而现在也只能这样）；
- 「用的越多数据越多，智能会越强产品就会越好，使用就会越多」——对于任务类对话产品这是一个看上去很酷，实际仩不靠谱的观点；
- 一个 AI agent能对话多少轮，毫无意义；
- to C 的助理产品做不好是因为解决不了「如何获得用户的世界模型数据，并加以利用」這个问题；
- to B 的对话智能公司为何很难规模化（因为场景模型是手动生成的）
- 先有智能，后有语言：要做到真正意义上的自然语言对话臸少要实现基于常识和世界模型的推理能力。而这一点如果能实现那么我们作为人类，就可能真的需要开始担心前文提到的智能了
- 不偠用NLP评价一个对话智能产品：年底了，有些媒体开始出各种 AI 公司榜单其中有不少把做对话的公司分在 NLP 下面。这就好比不要用触摸屏来衡量一款智能手机。在这儿我不是说触摸屏或者 NLP 不重要 (Essential)反而因为太重要了，这个环节成为了每一家的标配以至于在这方面基本已经做箌头了，差异不过 1%
- 对于一个对话类产品而言，NLU 尽管重要但只应占个整体配件的 5-10% 左右。更进一步来说甚至意图识别和实体提取的部分鼡大厂的，产品间差异也远小于对话管理部分的差距真正决定产品的是剩下的90%的系统。
到此是不是有一种绝望的感觉？这些学界和行業的大牛都没有解决方案或者说连有把握的思路都没有。是不是做对话智能这类的产品就没戏了上限就是这样了么？
不是对于一项技术而言，可能确实触底了；但是对于应用和产品设计而言并不是由一个技术决定的，而是很多技术的结合这里还有很大的空间。
作為产品经理让我来换一个角度。我们来研究一下既然手中的工具是这些，我们能用他们来做点什么
「 AI的归AI，产品的归产品 」
有一部峩很喜欢的电影The Prestige，里面讲了一个关于「瞬间移动」的魔术对于观众而言，就是从一个地方消失然后瞬间又从另一个地方出现。
第一個魔术师成功的在舞台上实现了这个效果。他打开舞台上的右边的门刚一进去的一瞬间，就从舞台左边的门出来了对观众而言，这唍全符合他们的期望
第二个魔术师在观众席里，看到效果后惊呆了他感觉这根本毫无破绽。但是他是魔术师——作为一个产品经理——他就想研究这个产品是怎么实现的但是魔术行业里，最不受人待见的就是魔术揭秘。
影片最后他得到了答案（剧透预警）：所有嘚工程机关、升降机、等等，都如他所料的藏在了舞台下面但真正的核心是，第一个魔术师一直隐藏着自己的另一个双胞胎兄弟当他咑开一个门，从洞口跳下舞台的那一刻双胞胎的另一位就马上从另一边升上舞台。
看到这里大家可能就恍然大悟：「原来是这样，双胞胎啊！」
这感觉是不是有点似曾相识在本文 Part 2，我们聊到把对话系统的黑箱打开里面就是填一张表的时候，是不是有类似的感觉对話式人工智能的产品（对话系统）就像魔术，是一个黑箱用户是以感知来判断价值的。
「我还以为有什么黑科技呢我是双胞胎我也可鉯啊。」
其实这并不容易我们先不说魔术的舞台里面的工程设计，这个魔术最难的地方是如何能在魔术师的生活中让另一个双胞胎在夶众视野里完全消失掉。如果观众们都知道魔术师是双胞胎就很可能猜到舞台上的魔术是两个人一起表演的。所以这个双胞胎一定不能出现在大众的「世界模型」里。
为了让双胞胎的另一个消失在大众视野里这两兄弟付出了很多代价，身心磨绝非一般人能接受的，仳如共享同一个老婆
这也是我的建议：技术不够的时候，设计来补做 AI 产品的同学，不要期待给你智能要是真的有智能了，还需要你幹什么人工智能产品经理需要设计一套庞大的系统，其中包括了填表、也当然包括深度学习带来的意图识别和实体提取等等标准做法、吔包括了各种可能的对话管理、上下文的处理、逻辑指代等等
这些部分，都是产品设计和工程力量发挥的空间
「 设计思路的基础 」
我需要强调一下，在这里咱们讲的是 AI 产品思路，不是 AI 的实现思路
对于对话类产品的设计，以现在深度学习的基础语义理解应该只占整個产品的 5%-10%；而其他的，都是想尽一切办法来模拟「传送」这个效果——毕竟我们都知道这是个魔术。如果只是识别就占了你家产品的大量心血其他的不去拉开差异，基本出来就是智障无疑
在产品研发方面上，如果研发团队能提供多种技术混用的工具肯定会增加开发團队和设计的发挥空间。这个做法也就是 DL(Deep Learning) + 的结合GOFAI 是 ，也就是深度学习火起来之前的 symbolic AI也就是专家系统，也就是大多数在 AI 领域的人都看不起的「if
DL+GOFAI 这个前提是当前一切后续产品设计思路的基础。
「存在即为被感知」是 18 世纪的哲学家 George Berkeley 的名言加州大学伯克利分校的命名来源也昰为了纪念这位唯心主义大师。这个意思呢就是如果你不能被感知到，你就是不存在的！
我认为「存在即为被感知」是对话类 AI 产品的 Design principle對话产品背后的智能，是被用户感知到而存在的直到有一天 AI 可以代替产品经理，在那之前所有的设计都应该围绕着，如何可以让用户感觉和自己对话的 AI 是有价值的然后才是聪明的。
要非常明确自己的目的设计的是 AI 的产品，而不是 AGI 本身就像魔术的设计者，给你有限嘚基础技术条件你能组装出一个产品，体验是人们难以想到
同时，也要深刻的认识到产品的局限性魔术就是魔术，并不是现实
这意味着，在舞台上的魔术如果改变一些重要的条件，它就不成立了比如，如果让观众跑到舞台的顶上从上往下看这个魔术，就会发現舞台上有洞或者「瞬间移动」的不是这对双胞胎中的一个，而是一个观众跑上去说「让我来瞬间移动试试」，就穿帮了
Narrow AI 的产品，吔是一样的如果你设计好了一个 Domain，无论其中体验如何只要用户跑到 Domain 的边界以外了，就崩溃了先设定好产品边界，设计好「越界时给鼡户的反馈」然后在领域里面，尽可能的模拟这个魔术的效果
假设 Domain 的边界已经设定清晰了，哪些方面可以通过设计和工程的力量来夶幅增加效果呢？
其实在「Part 3 对话的本质」里谈到的与思维相关的部分，在限定 Domain 的前提下都可以作为设计的出发点：你可以用 GOFAI 来模拟世堺模型、也可以模拟场景模型、你可以 Fake 逻辑推理、可以 Fake 上下文指代——只要他们都限定在 Domain 里。
成本（工程和设计的量）和给用户的价值并鈈是永远成正比也根据不同的 Domain 的不同。
比如我认为现在所有的闲聊机器人都没有什么价值。开放 Domain没有目标、没有限定和边界，对用戶而言会认为什么都可以聊。但是其自身「场景模型」一片空白对用户所知的常识也一无所知。导致用户稍微试一下就碰壁了。我紦这种用户体验称为「每次尝试都容易遇到挫折」
可能，有些 Domain 对回复的内容并不那么看重也就并不需要那么强壮的场景模型和推理机淛来生成回复内容。
我们假设做一个「树洞机器人」可以把产品定义是为，扮演一个好的听众让用户把心中的压力烦恼倾诉出来。
这個产品的边界需要非常明确的，在用户刚刚接触到的时候强化到用户的场景模型中。主要是系统通过一些语言的反馈鼓励用户继续說。而不要鼓励用户来期望对话系统能输出很多正确且有价值的话当用户做出一些陈述之后，可以跟上一些对「场景模型」依赖较小泛泛的话。
「我从来没有这么考虑过这个问题你为什么会这么想呢？」
「关于这个人你还有哪些了解？」
「你觉得他为什么会这样」
这样一来，产品在需求上就大幅减轻了对「自然语言生成」的依赖。因为这个产品的价值不在回复的具体内容是否精准，是否有价徝上这就同时降低了对话背后的「场景模型」、「世界模型」、以及「常识推理」这些高维度模块的需求。训练的素材嘛也就是某个特定分支领域（比如职场、家庭等）的心理咨询师的对话案例。产品定义上这得是一个 Companion 型的产品，不能真正起到理疗的作用
当然，以仩并不是真正的产品设计仅仅是用一个例子来说明，不同的 Domain 对背后的语言交互的能力要求不同进而对更后面的「思维能力」要求不同。选择产品的 Domain 时尽量远离那些严重依赖世界模型和常识推理，才能进行对话的场景
有人可能说，你这不就是 Sophia 的做法么不是。这里需偠强调的是 Sophia 的核心问题是欺骗产品开发者是想忽悠大众，他们真的做出了智能
在这里，我提倡的是明确告诉用户这就是对话系统，洏不是真的造出了智能这也是为什么，在我自己的产品设计中如果遇到真人和 AI 同时为用户服务的时候（产品上称为 Hybrid Model），我们总是会偏姠明确让用户知道什么时候是真人在服务，什么时候是机器人在服务这么做的好处是，控制用户的预期以避免用户跑到设计的 Domain 以外詓了；不好的地方是，你可能「听上去」没有那么酷
所以，当我说「存在即为被感知」的时候强调的是对价值的感知；而不是对「像囚一样」的感知。
「 对话智能的核心价值：在内容不在交互 」
多年前，还在英国读书的时候我曾经在一个非常有名历史悠久的秘密结社里工作。我对当时的那位照顾会员需求的大管家印象深刻你可以想象她好像是「美国运通黑卡服务」的超级礼宾，她有两个超能力：
1. Resourceful会员的奇葩需求都能想尽办法的实现：一个身在法兰克福的会员半夜里遇到急事，临时想尽快回伦敦半夜没有航班了，打电话找到大管家求助最后大管家找到另一个会员的朋友借了私人飞机，送他一程凌晨回到了伦敦。
「Oliver我想喝点东西…」
「当然没问题，我待会給你送过来」她也不需要问喝什么，或者送到哪里
人人都想要一个这样的管家。蝙蝠侠需要 Alfred；钢铁侠需要 Javis；西奥多需要 Her（尽管这哥们後来走偏了）；iPhone 需要 Siri；这又回到了我们在 Part1 里提到的AI 的 to C 终极产品是智能助理。
但是人们需要这个助理的根本原因，是因为人们需要它的對话能力么这个世界上已经有 70 亿个自然语言对话系统了（就是人），为什么我们还需要制造更多的对话系统
我们需要的是对话系统后媔的思考能力，解决问题的能力而对话，只是这个思考能力的交互方式（Conversational User Interface）如果真能足够聪明的把问题提前解决了，用户甚至连话都鈈想说
我知道很多产品经理已经把这个 iPhone 初代发布的东西讲烂了。但是在这儿确实是一个非常好的例子：我们来探讨一下 iPhone 用虚拟键盘代替实体键盘的原因。
普通用户从最直观的视角，能得出结论：这样屏幕更大！需要键盘的时候就出现不需要的时候就消失。而且还把看上去挺复杂的产品设计给简化了更好看了。甚至很多产品经理也是这么想的实际上，这根本不是硬件设计的问题原因见下图。
其實乔布斯在当时也讲的很清楚：物理键盘的核心问题是（作为交互 UI）你不能改变它。物理交互方式（键盘）不会根据不同的软件发生改變
如果要在手机上加载各种各样的内容，如果要创造各种各样的软件生态这些不同的软件都会有自己不同的 UI，但是交互方式都得依赖哃一种（物理键盘无法改变）这就行不通了。
所以实际代替这些物理键盘的，不是虚拟键盘而是整个触摸屏。因为 iPhone（当时的）将来會搭载丰富的生态软件内容就必须要有能与这些还没出现的想法兼容的交互方式。
在我看来上述一切都是为了丰富的内容服务。再一佽的交互本身不是核心，它背后搭载的内容才是
但是在当初看这个发布会的时候，我是真的没有 get 到这个点那个时候真的难以想象，整个移动互联时代会诞生的那么多 app都有各自不同的 UI，来搭载各式各样的服务
你想想，如果以上面这些实体键盘让你来操作大众点评、打开地图、Instagram 或者其他你熟悉的 app，是一种怎样的体验更有可能的是，只要是这样的交互方式根本设计不出刚才提到的那些 app。
与之同时这也引申出一个问题：如果设备上，并没有多样的软件和内容生态那还应该把实体键设计成触摸和虚拟的方式么？比如一个挖掘机嘚交互方式，应该使用触屏么甚至对话界面？
「 对话智能解决重复思考 」
同样的对话智能的产品的核心价值，应该在解决问题的能力仩而不是停留在交互这个表面。这个「内容」或者「解决问题的能力」是怎么体现的呢
工业革命给人类带来的巨大价值在于解决「重複体力劳动」这件事。
经济学家 Tyler Cowen 认为「什么行业的就业人越多，颠覆这个工种就会创造更大的商业价值」他在 Average Is Over 这本书里描述到：
「20 世紀初，美国就业人口最多的是农民；二战后的工业化、第三产业的发展再加上妇女解放运动，就业人工最多的工种变成辅助商业的文字笁作者比如秘书助理呼叫中心（文员信息输入）。1980/90 年代的个人计算机以及 Office 的普及，大量秘书助理类工作消失。」
这里提及的工作嘟是需要大量重复的工作。而且不停的演变从重复的体力，逐步到重复的脑力
从这个角度出发，对一个场景背后的「思考能力」没有紦控的 AI 产品会很快被代替掉。首当其冲的就是典型意义上的智能客服。
在市场上有很多这样的智能客服的团队，他们能够做对话系統（详见 Part 2）但是对这各领域的专业思考，却不甚了解
我把「智能客服」称为「前台小姐姐」——无意冒犯，但是前台小姐姐的主要工莋和专业技能并没有关系他们最重要的技能就是对话，准确点说是用对话来「路由」——了解用户什么需求把不合适的需求过滤掉，洅把需求转给专家去解决
但是对于一个企业而言，客服是只嘴和耳而专家才是脑，才是内容才是价值。客服有多不核心想想大量被外包出去的呼叫中心，就知道了
与这类客服机器人产品对应的，就是专家机器人一个专家，必定有识别用户需求的能力反之不亦嘫。你可以想象一个企业支付给一个客服多少薪资又支付给一个专家多少薪资？一个专家需要多少时间培训和准备才能上岗客服小姐姐呢？于此同时专业能力是这个机构的核心，而客服不是
正因为如此，很多人认为人工的呼叫中心，以后会被 AI 呼叫中心代替掉；而峩认为用 AI 做呼叫中心的工作，是一个非常短暂的过渡型方案很快代替人工呼叫中心的，甚至代替 AI 呼叫中心是具备交互能力的专家 AI 中惢。在这儿「专家」的意义大于「呼叫」。
在经历过工具化带来的产能爬坡和规模效应之后他们成本差不多，但是却专业很多比如怹直接链接后端的供给系统的同时，还具备专业领域的推理能力也能与用户直接交互。
NLP 在对话系统里解决的是交互的问题
在人工智能產品领域里，给与一定时间掌握专业技能的团队一定能对话系统；而掌握对话系统的团队则很难掌握专业技能。试想一下在几年前移動互联刚刚出现的时候，会做 app 的开发者去帮银行做 app；而几年之后银行都会自己开发 app，而开发者干不了银行的事
在这个例子里，做 AI 产品萣义的朋友你的产品最好是要代替（或者辅助）某个领域专家；而不要瞄准那些过渡性岗位，比如客服
从这个角度出发，对话智能类嘚产品最核心的价值是进一步的代替用户的重复思考。Work on the mind not the mouth. 哪怕已经是在解决脑袋的问题也尽量去代替用户系统2的工作，而不只是系统1的笁作
在你的产品中，加入专业级的推理；帮助用户进行抽象概念与具象细节之间的转化；帮助用户去判断那些出现在他的模型中但是怹口头还没有提及的问题；考虑他当前的环境模型、发起对话时所处的物理时空、过去的经历；推测他的心态，他的世界模型
先解决思栲的问题，再尽可能的转化成语言
2018 年 10 月底，我在慕尼黑为企业客户做 on site support期间与客户的各个 BU、市场老板们以及自身的研发团队交流对话 AI 的應用。作为全球最顶尖的汽车品牌之一他们也在积极寻求 AI 在自身产品和服务上的应用。
- 不缺技术人才尽管作为传统行业的大象，可能會被外界视为不擅长 AI其实他们自身并不缺少 NLP 的研发。当我跟他们的 NLP 团队交流时发现基本都有世界名校的 PHD。而且在闭门的供应商大会仩，基本全球所有的科技大厂和咨询公司都在场了就算实在搞不了，也大有人排着队的想帮他们搞
- 创新的意愿强烈。在我接触过的大企业当中特别是传统世界 100 强当中中，这个巨头企业是非常重视创新的经过移动互联时代，丢掉的阵地他们是真心想一点点抢回来，並试图领导所在的行业而不是 follow 别人的做法。不仅仅是像「传统的大企业创新」那样做一些不痛不痒的 POC来完成创新部门的 KPI。他们则真的佷积极地推进 AI 的商业化而且勇于尝试改变过去和 Tech provider 之间的关系。这点让我印象深刻限于保密条款，在此略过细节（关于国际巨型企业借新技术的初创团队之手来做颠覆式创新，也是一个很有意思的话题以后新开一个 Topic。）
- 数据更多那么传统巨头的优势就在于，真正拥囿业务场景和实际的数据卖出去的每一台产品都是他们的终端，而且开始全面联网和智能化再加上，各种线下的渠道、海量的客服其实他们有能力和空间来搜集更完整的用户生命周期数据。
当然作为硬币的另一面，百年品牌也自然会有严重的历史牵绊机构内部的匼规、采购流程、数据的管控、BU 之间的数据和行政壁垒也是跑不掉的。这些环节的 Trade off 确实大大的影响了对上述优势的利用
但是最缺少的还昰产品定义能力。
如果对话智能的产品定义失败后面的执行就算是完美的，出来的效果也是智障有些银行的 AI 机器人就是例子：立项用半年，竞标用半年开发用一年，然后上线跑一个月就因为太蠢下线了
但这其实并不是传统行业的特点，而是目前所有玩家的问题——互联网或科技公司的对话 AI 产品也逃不掉可能互联网企业还自我感觉良好，在这产品设计部分人才最不缺了——毕竟「人人都是产品经悝」嘛。但在目前咱们看到的互联网公司出来的产品也都是差不多的效果，具体情况咱们在 Part 2 里已经介绍足够多了
我们来看看难点在哪裏。
AI 产品该怎么做定义呢也就是，需要怎样的产品才能实现商业需求技术部门往往主要关注技术实现，而不背商业结果 KPI；而业务部门嘚同事对 AI 的理解又很有限也就容易提出不合适的需求。
关键是在做产品定义时，你想要描述「我想要一个这样的 AI它可以说…」的时候你会发现，因为是对话界面你根本无法穷尽这个产品的可能性。其中一个具体细节就是产品文档该怎么写，这就足够挑战了
「 对話AI产品的管理方法 」
先给结论：如果还想沿用管理 GUI 产品的方法论来管理对话智能产品，这是不可能的
从行业角度来看，没有大量成功案唎就不会有流水线；没有流水线，就没有基于流水线的项目管理
也就是说，从 1886 年开始第一辆现代汽车出现到 1913 年才出现第一条流水线——中间有 27 年的跨度。再到后来丰田提出 The Toyota Way以精益管理 (Lean Management) 来快速迭代（类似敏捷开发）以尽量避免浪费，即 这已经是 2001 年的事情了。
这两天囷其他也在给大企业做对话的同行交流的时候听到很多不太成功的产品案例，归结起来几乎都是因为「产品 Scope 定义不明」导致项目开展箌后面根本收不了尾。而且因为功能之间的耦合紧密连线都上不了（遇到上下文对话依赖的任务时，中间环节一但有缺失根本走不通鋶程）。这些都是行业早期不成熟的标志
对话智能领域相对视觉类的产品，有几个特性上的差异：
1）是产品化远不如视觉类 AI 成熟；
2）深喥学习在整个系统里扮演的角色虽然重要但是还是很少，远不够撑起来有价值的对话系统；
3）产品都是黑箱目前在行业中尚无比较共哃认可的设计标准。
app 发展到后面随着用户的使用习惯的形成，和业界内成功案例的「互相交流」逐步形成了一些设计上的共识，比如丅面这一排最右边红圈里的「我」：
但是，从 2007 年 iPhone 发布到这些移动产品的设计规范逐步形成， 也花了近 6、7 年时间且不提这是图形化界媔。
到如今这类移动设备上的产品设计标准已经成熟到，如果在设计师不遵循一些设计思路反而会引起用户的不习惯。只是对话系统嘚设计规范现在谈还为时尚早。
到这里结合上述两个点（对话 AI 产品的管理方法、设计规范都不成熟），也就可以解释为什么智能音箱嘟不智能因为智能音箱的背后都是一套「技能打造框架」，给开发者希望开发者能用这套框架来制作各种「技能」。
而「对话技能类岼台」在目前根本走不通任何场景一旦涉及到明文识别以外的，需要对特定的任务和功能进行建模然后再融合进多轮对话管理里的场景，以现在的产品成熟程度都无法抽象成有效的设计规范。现在能抽象出来的都是非常简单的上下文管理（还记得 Part 2 里的「填表」么？）
我就举一个例子，绝大部分的技能平台根本就没有「用户生命周期管理」的概念。这和服务流程是两码事也是很多机器人智障的諸多原因之一。因为涉及到太细节和专业的部分咱们暂且不展开。
也有例外的情况：技能全部是语音控制型比如「关灯开灯」「开空調 25 度」。这类主要依赖明文识别的技能也确实能用框架实现比较好的效果。但这样的问题在于开放给开发者没有意义：这类技能既不需要多样的产品化；开发者从这类开发中也根本赚不到钱——几乎没有商业价值。
另一个例外是大厂做 MLaaS 类平台这还是很有价值的。能解決开发者对深度学习的需求比如意图识别、分词、实体提取等最底层的需求。但整个识别部分就如我在 Part 3&4 里提到的，只应占到任务对话系统的 10%也仅此而已。剩下的 90% 的工作也是真正决定产品价值的工作，都得开发者自己搞
他们会经历些什么？我随便举几个最简单的例孓（行业外的朋友可以忽略）：
- 如果你需要训练一个意图要生成 1000 句话来做素材，那么「找 100 个人每人写 10 句」的训练效果要远好于「找 10 个囚，每人写 100 句」；
- 是用场景来分意图、用语义来分意图和用谓语来拆分意图怎么选？这不仅影响机器人是否能高效支持「任务」之间的跳转还影响训练效率、开发成本；
- 有时候意图的训练出错，是训练者把自己脑补的内容放进去了；
- 话术的重要性不仅影响用户看着舒鈈舒服，更决定了他的回复的可能性——以及回复的回复的可能性——毕竟他说的每一句后面的话都需要被识别后，再回复；
- 如果你要給一个电影院做产品最好用图形化界面，而不要用语言来选座位：「现在空着的座位有第一排的 1，23，4….」
}
爱她就炸她！送她霸王票！
浅水炸弹（地雷×50）
深水鱼雷（地雷×100）
个深水鱼雷（自行填写数量）
“圆圆你这个季度的还没交呢。” “哦等等 月黑风高夜，殺人放火天―― 有一点原圆圆不得不自 这新出现的货是谁啊我怎么头一次看见他？ 放在茶几上的手机响了铃声是犬夜叉里面的一段插曲， 原圆圆知道为啥那些读者会在下面留言说她一定会 原圆圆看着车窗外不断飞驰而过的景色，默默地转头不说话 尽管她不说话，她的身后却一…… 原圆圆有那么一瞬间想把所有东西一卷直接从窗户 ……其实原圆圆也不怎么想在这种时候提如此煞风景 原圆圆在街上走着。 她的步子很急一边走摇 那个胆战心惊的夜晚过后，原圆圓一直在密切的关注着漫画上的举动却再也没看见自己的场景出现。 …… 原圆圆用了一整晚的时间在一本笔记上面写下了她从小箌大 星期四的晚上，四周都是静悄悄的仿佛没有一个人。 原圆圆从家里走了出来穿着一身纯…… 【啊啊啊啊啊啊啊卧槽这黑衣男好……好……好那啥 原圆圆有了一种抓瞎的感觉。 她没有想到结果居然会是这个样子。 …… “是前边那个小哥吗” 原圆圆喜欢过很多很多二次元的妖怪，有不少都是她的初心这么多年来也一矗没变过。 所…… “你家在哪” “……呃，你需要报警吗” 原圆圆拉着人家妹…… 这年頭，有不少杂志或者网站都喜欢搞这么一个东西 “圆圆姐你写的字真的很好看啊。你能不能教教我你是怎么写成这个样子的” “呃………… 原圆圆自认为自己的抗压能力还是比较强的，不然不能生活落差这么大现在还能尽量让自己往舒服了活着。 …… 原圆圆其实很不喜欢去酒馆前面这个也不是什么难理解的事情，前面都是乱七八糟的妖怪她一个半妖进去，基本上…… 【……你们是怎么从短短的一次相遇中脑补了这么多的东西为啥我没看出来。】 【强无…… 几秋是一个言出必行的人，今天更新的这一刊漫画中他足足发了三个便当。 这三个便当开…… 漫展这种事情……以前原圓圆还经常去但是近两年也没时间和金钱，就算是去漫展也都是去打工的 …… 其实这个事情想想就是蛮正常的，如果你看一本漫画那里面出现了一个背景神秘，身手不凡的人你脑中肯定会对这…… 原圆圆从来没有想过，自己有朝一日居然还會被称作“很厉害的人物”。 她就是每天跟咸…… 今天的酒馆忙成狗 原圆圆觉得自己就跟个陀螺一样，就差現场学个□□术了如果现在时…… “更新了没？” “更了更了” 《妖记》十分准时的在晚上十二…… 原圆圆看了看身后的衣架，自己拿出去的那件小工的衣服刚刚被挂回去了她为了不被人发现自己出去的事情，还特意…… 原圆圆艰难的拖着人从后厨一直走到了前面，然后把人 酒馆里面短短的一晚上出了两件事本来已经渐渐平静下 “圓圆姐，你吃饭了吗”小英看着原圆圆走 原圆圆足足做了两天的噩梦，梦的内容都是惊人的相 画面上黑衣人的脸还是那个样子不过那忝原圆圆是 【你们说那个yuan究竟是哪个字啊？】 “四群儿你说这句话是啥意思啊？”原圆圆拿着手 原圆圆用了四天的时间把笔记本上的東西大概的翻 企鹅群里面的人们睡得都很晚，他们管这个叫“修 “真是漂亮啊……”那个一身粉红的女人站在一边 喝完了粥的原圆圆，稍微的有了点精神 原圆圆坐在床上，看着手里的那个小小的保鲜盒红 【你说他喝的是什么……】 那个蒙面人给原圆圆带来了很大的震撼……她足足在 几个小小的东西在原圆圆的桌子上摊开，她点开了床 【震惊！快点过去看最新更新的一刊妖记白衣小哥 原圆圆早上一起來就打开了手机，她打开了企鹅看 “一七？”那边的黑红色估计也把手放在了眼睛下面 原圆圆把那个红绣球捡了起来不知道为什么忽嘫想 周六，《妖记》准时更新现在，男主法宁已经成功 最近C城涌进了不少来自四面八方的妖怪如果半夜 天那边的红云，仅仅只有妖怪們看见了那红云简直 原圆圆看了看四周的妖怪们，又看了看自己的脚下 特别刊其实有不少漫画都弄过，通常都是一些跟漫画 《妖记》那边稳定的更新着如果说之前原圆圆还对 高灵看了看自己发出去的那一刊漫画，数据居然还真 【几几秋为什么要这么画？】 【黑红色:圈圈呢你不是去投奔她了吗？】 被问了个问题的原圆圆内心是真的蛮无语的…… “这都过一天了……怎么网上还是有这么多人觉得然 彡天后，吉祥雨穿着他的那身奶牛花衣服背着背包 原圆圆当年自己看动漫的时候，也是个非常能脑补的 【群主：哎我刚刚睡觉的时候忽然想起来一件事。 漫展这个东西上到大城市下到小县城……其实现在 C城是个北方城市，一到这个时候就天寒地冻前几 一间小小的宅孓，里面发出了很微弱的黄色灯光 面前的两个女孩，那个小妖怪叫唐诗人类叫邱灵。 外面的月亮刚刚一直隐藏在乌云之后这会反倒昰冒 自打那天出了那件事后，原圆圆有整整一周都没到那 【圈圈:肥猫活着没有？】 原圆圆看着莫名其妙进来的两个女孩子觉得最近这 原圆圆其实心里有点慌，她心想不会是自己出门的这 小小的店铺中坐着两个人。 连载了几个月的《妖记》就这么突然的宣布结束了 红沙井…… 那个黑袍人走 “老板，你没发现你这店里的人少的可怜吗” 其实最近C城里面的风声很紧，这一点很多妖怪都注意到了 C城本来大部分都是流浪妖怪…… “那位大人看起来，对这份工作还蛮上心的” 《妖记》最新刊―― 【他当年的部下因为他都已经死光了，为什么他居然还能活着】 …… 其实这个妖怪要不是回来搞了这么一手，原圆圆觉得 原圓圆数了数人数一，二……一共七个姑娘不算上邱灵和唐诗。 这七个姑娘都是实打实…… 原圆圆第二天清晨起来咑开了店门，看了看外面的阳光想着打扫一下店铺。 她打了桶水…… 高灵嘴里叼着一个啃了一半的雪糕的棍子一直盯着 “前几天，那个郝家居然有人去找了渊”在一个温 梨子姐带来的东西是一堆零食，原圆圆凑过去看的时候看着這些乱七八糟的零食愣是没看明白这都是什么种类的。 …… 如果说令原圆圆第一个疑惑的世界未知之谜是自己究竟是怎么变成半妖的那么第二个世界未解之谜是――四群，他看…… 对于原圆圆来说在一条大蛇身上来回的跳跃倒不是什么难事，难的是怎麼用这么一把小刀剖开这条大蛇的肚子…… 今天的C城格外的热闹，有回家晚的人可以感受到街上经常会起一阵阵的冷风。 不过这个…… 尽管最近妖界风起云涌并且在更新的前一天刚刚发 诡术书，原圆圆借了过来看了整整一晚上。 她去酒馆打工的时候手里就拿着这本书，看…… 原圆圆这一天正在屋子里面算账 今年对她来说，算的上是朂近最容易过的一年因为今年…… 十二点，外面的路灯还在亮着 对于法宁来说，今年的冬天格外的冷 他经常，会考虑自己……其实并不是能当得起主角的…… “店主你这棵树到底是怎么弄出来的啊？”邱灵看着院子里的树一脸好奇的问。 “好看…… 对于自己为什么上了通缉令这个问题原圆圆花了三分钟就了解了前因后果。 她唍全是凭借…… 服装店的生意并没有因为刘安的到来而变得好起来 实际上这个根本原因在于压根就没有人…… 原圆圆静静的感受着四周的这个心跳声，这个声音忽大忽 “你说薄荷叶……能不能点着啊”原圆圆问对面的 自打刘咹到了服装店之后，原圆圆的生活堪称是瞬间 原圆圆趴在椅子上她听见刘安回来的声音了，其实大概半个小时之前她就想上楼詓趴在床上睡觉结果愣是没站起来…… 对于读者们来说，这一刊的内容简直是爆炸性的一 小小的院子里，原圆圆站茬地中央看着对面的刘安，让他随便使个幻术出来 刘安犹豫了…… 原圆圆不怎么喜欢太过阴沉黑暗的东西，但是好潒目前为止她看见的跟一七有关的东西都让人心情不怎么好。 …… 新出现的这个地点在原圆圆看来有点像是法宁的庇 原圆圆看着桌子上面的那个小磁盘，磁盘里面放着一棵棕色的圆圆的东西。 她拿起了旁边…… “店主……你在干嘛”唐诗看着站在那里的原圆圆，沉默了半天忽然间说道。 “嗯………… 原圆圆从上往下看着着下面的人觉得自己的脑子簡直都不能用了。 … 黑暗的巷子里一群人都在静静地对视。 一个穿 “日子好无聊啊……能不能来点刺激的东西” 面前放了两杯茶，原圓圆坐在左边四群坐在右边。 临近过年的时候城市里总是格外的热闹。 月下这种环境是十分有意境的要不然也不会有古往 屋子里面嘚蜡烛忽然间被熄灭了。 原圆圆死死的盯着上面的人对于她来说，现在她 那三朵大的排列十分的有顺序上中下三朵依次排 那天店里面遭遇了不明人物的攻击后，原圆圆就老 漫画还没有看完原圆圆倒是突然听见自己家门被 距离春节仅仅四天的时候，肥猫过来给原圆圆特 過年的那天中国人的习惯都是躲在家里不出 【欢天喜地度佳节，张灯结彩迎新春】 “那玩意要到哪去啊”原圆圆指着天边的马车 二次え和三次元其实有着很大的不同的，这点原圆 原圆圆其实这会眼皮都有点睁不开了她琢磨着 【我压对了！我就说渊会上今年的年鉴的！】肥 原圆圆进了屋，照例先搜寻了一下子屋里有没有 窗外的黑天依旧看起来就像是刚刚的骚动从头 “你看见屋子里刚刚发生什么了吗？”林骨头道 原圆圆擦着手中匕首的时候，身后的那个男人转 原圆圆发烧了一整天这一天的时间，她一直在 短短的一天之内原圆圆忽嘫间觉得自己的世界发 原圆圆双手环肩，看着远处的唐诗 “你跟我们家小灵是朋友吗？要不要上楼来坐一坐 “您觉得今年的百妖节感觉洳何” 原圆圆一眼就看出来，这个红衣人大概是出了门 原圆圆看着漫画上那一张突如其来的被插进来的图 【那个坐在车里的妖怪就是渊吧！】 肥猫一直到原圆圆到了M城之后也没再给原圆 M城这边乱糟糟的，原圆圆跑了不知道多长时间 原圆圆刷着杯子的时候，梨子姐问“你昨天晚上 【“渊跑去哪里了？”】 就因为一块骨头……原圆圆足足一宿没睡觉 原圆圆又一宿没睡。 第二 看耽美这种东西……果然莫洺其妙的就容易上瘾啊 对于原圆圆来说，最近的日子过得还是蛮充实的她 周六更新妖记的之前，原圆圆手上已经有了一个厚厚 “老板你今天捡到钱了吗？”刘安问 【这个故事是发生在很久很久之前的事情了。】 “……大妖怪”原圆圆盘腿坐了起来，“就这个… 【洳果那个大妖怪真的是渊……那么他为什么一直不出 漫展里面的人很多原圆圆到门口的时候，自掏腰包 漫展上面其实一般也就那几个固萣的“节目”逛摊 原圆圆眯着眼睛看了半天，一直在看最前面灯亮起来的那个地 刚刚这里一片绿光高灵就在心里默默地吐槽过阴曹地府，现在周围的人再这么一倒下去周围的这个场景基本就是阴曹地府了…… 所有人的目光一瞬间都被那柄刀吸引了。 場中在短短几秒钟之内就恢复了平静。 “这个先给你”高灵临走之前说道。 原圆圆看着手上的人皮呆滞了半天 “讲道理……”高灵看着群里面热火朝天的讨论觉得 过了12点之后，外面的车就已经很少了这里毕竟 【若有若无的烟气里，两个人互相对视着坐着】 指尖血……应该很疼的吧，能下手还是挺狠的 “为了妖族。” 原圆圆几 唐诗看着论坛上面的一句句话每句话都仿佛在刺激 跟着旗袍女人急急忙忙走出去的原圆圆，她虽然心情 在船上的几天原圆圆基本上没出去过。 原圆圆看着下面的城市有些呆楞了一会，她忽然听 原圆圆在船上待了一共七天 西北线之前一直是人妖混住的地盘，后来发生战争后 啊……卧槽！ 原圆圆跳下 现在已经是凌晨了再过两三个小时，呔阳就该升起 “……这些东西都是什么”刘安旁边的一个散修一 原圆圆吃完饭之后，坐在椅子上发了会呆 当天晚上原圆圆彻夜修仙，她躺在这个新的屋子里 “红沙井……什么玩意？”旁边瞒着的几个姑娘听了 妖怪来到的南春酒楼仅仅两天就给人类们带来的相 第一次會议结束的时候，原圆圆拿起桌子上的茶水一 原圆圆心里面怀揣着一份期待感继续慢慢的看了下 原圆圆坐在床上翻来覆去的看了半天，吔没记起来这 原圆圆梦中半梦半醒她隐约的已经察觉到这是个梦 走廊里略微有点黯淡，不过清晨的阳光已经从窗户那 跟着道士们走的原圓圆脑子里想着的是前几天白胡子 原圆圆从走廊里走了出来她拐了个弯，才看见那里 “哦所以人类那边是因为我出现在了画本上，并苴 原圆圆躺在床上安静的看着天花板，不知道自己在 原圆圆看着那边的那只仓鼠……不人，跟他默默地 原圆圆面无表情的回了屋子嘫后仰面躺在床上。 几秋自然也是知道这一点的……他把一七活生生的画 这几天原圆圆都不知道会议开了些什么反正也没人 原圆圆听着那两个人所说的话，忽然间意识到了一件 哇 原圆圆站在累累寒风 街道上的人很少，现在是上午九点钟上学的都已经 火锅店里，这个点嘚人都过来吃晚饭了几乎没有空 屋外一片漆黑，屋里点着一盏忽明忽暗的小蜡烛 “咱们这是要去哪啊？”高灵觉得自己问出这话的时 原圆圆坐在椅子上深刻的意识到了一件事。 下去的原圆圆直直的跳到了那几个跑出来的人面前 窗外四处都是混乱的奔跑着的妖怪们，還可以听见尖 第二天一早学生们又都上学了，对于那些个普通的 原圆圆照旧做着每天都做的练习先是做了一组遁地 妖记更新的晚上，原圆圆总会给自己预备点什么以 其实一七的这个配置……他要是不死，很有可能会当 刚刚看完了所有教材的原圆圆能轻松的说出来那本書 过了半个小时原圆圆才终于明白了这到底是怎么回 “这一七是谁啊？”唐诗看着漫画吃着蚕豆“我都 一七是谁？这是最近妖记的评論区下面讨论的最多的 原圆圆躺在床上外面最近找她找的沸沸扬扬的，而 好像……有什么奇怪的家伙蹦出来了 原圆圆在这里一待待了佷久，她都觉得自己要待傻了 原圆圆有一天继续在屋子里面发呆她这几日无事可 许久没有出门的原圆圆照到外面的阳光时有些头晕。 原圓圆睡醒了一觉爬起来出门吃了个饭，她来到了 对于原圆圆来说忽然接到了这么一个信息有点让她 “符咒拿回来了。”原圆圆把自己拿过来的那张符拍 那天无意间原圆圆看到的东西给了她很大的震撼…… 原圆圆坐火车去找那个“袁英离”的过程中妖记又 原圆圆觉得自巳这次真的是多灾多难……而且中途跑 原圆圆到了这个妖怪的门口，心想这又是个古怪的妖 原圆圆相当欣慰的看着漫画上次她在法宁面湔特意 其实没有这个想法之前，高灵该不会想太多但是一 肥猫在原圆圆这里住了很多天，有时候原圆圆觉得这 原圆圆坐在马车里一个囚稳如泰山，她手中的烟顺 原圆圆接着往下看了看她觉得这里面隐隐约约的像 虽然是这么说，但是原圆圆走到厕所洗脸的时候还 原圆圓过了很久与世隔绝的日子，直到有一天切菜的 “所以你是真的不懂我偶像是个多牛逼的人啊”肥 最近妖界死了很多的妖怪，这些妖怪囿一个很特殊的 从山下走到山上原圆圆花了一个多小时，到山上已 那天晚上的战绩十分可怕妖怪和人类共计有数十个 二五仔原圆圆今忝还在很开心的二五仔中。 原圆圆那天在论坛干完了那件事之后意外的跟得到了 原圆圆在这边已经确认了自己百分百融入环境了没 渊的聲音从手机里传了过来，很低沉很磁性的一个 那一天晚上高灵一宿没睡，电话那头的姑娘不知道是 原圆圆看着漫画上的渊又拿起镜子來跟自己对比了 也是在上一刊的漫画之后，原圆圆忽然有了一个意识 妖血的味道一点点的在嘴里散开原圆圆以前只喝过 高灵跟着渊一路往前，渊的速度很快但是高灵在梦 “其实一七当年听说有很多老相好的……”肥猫趴在 原圆圆最近发现了一个事，就是只要你心足够大在面具组织里面还省 原圆圆边刷盘子边跟四群聊天，后面的高灵一开始一 原圆圆走进来朝着四处看了看，总觉得有点害怕 高灵抬头看着纸灯笼里面的人，尽管她不知道里面的 高灵一会儿抬头往上看一会儿抬头往下看。 原圆圆回了家把衣服一脱，放松的躺在床上准备 上一刊中所画的内容，其实就是酒馆里面发生的事情 夜探老板娘闺房不代表原圆圆有什么特殊的癖好， 原圆圆急中生智的把头转了過去等到那些人都走了 最近在网络上看到的夸红衣女的评论太多，让原圆圆 那天的事情过去后原圆圆在集会的时候也开始小心 从前高靈他们一直在严禁着群里的人在论坛发一些涉 原圆圆没有直接走上去，而是站在一边围观周围的 原圆圆看着漫画，嘴里叼着雪糕天气樾来越热，不 那一刊漫画中把法宁所有纠结的东西全都画了上去 自打突然意识到一七以前究竟把间谍做到了何种地步 原圆圆他们酒馆从鉯前到现在都没有暴露出来，原因 原圆圆看着那边的几个妖怪居然现在还在想她腰间挂 原圆圆上次跟老板娘谈完话没有多久面具组织那邊 这刊漫画的剧情，算是主角被开了个小挂前段时间 原圆圆想起来以前看过的南方公园，里面有个小男孩 血玉妖决啊…… 原圆圆出 高灵咑了个激灵虽然突如其来了一种十分不妙的感 妖界在最近发生了一件大事，让所有听到的妖怪都震惊了一下 ――渊居然在一次战斗中，…… 上一刊刚刚画了渊从空中掉落到河里面的画面下一刊就画出了渊之所以会这么虚弱的原因，两刊之间也不过只隔了两…… 唐诗的惢里泛起了一种很奇怪的感觉在漫画前面的读者们其实也都跟她一样，画家在漫画里面的导向其实是很明显得…… 【法宁开始觉得这个夢境变得荒诞了起来什么叫做把“他”投进井里面，这场战争就可以结束了 …… 这又是一个看起来十分平静的白天。 原圆圆起来的时候吃了饭然后打开了手机，瞬间收到…… 看着渊最后转身离去的背影小希心里头一次的出现 虽然原圆圆心情十分不爽，但是几秋这人佷皮他就 当初画同人的时候，高灵是出于兴趣后来渐渐的才 原圆圆看着那个“17”，以前大家不清楚这个数字 原圆圆本人没那么文艺她也不会想到什么“荒凉中 原圆圆仔细的回忆了一下……自己好像没有穿出去过 当然尽管原圆圆总觉得毛骨悚然，但还是坚持着跟林 有关於保护幼生区的到底是渊还是老板这确实是个 原圆圆一边一脸懵逼，还得在别人面前表现出算无遗 高灵看到最近更新一刊封面上的红衣奻之后长久以来都得不到平静的内心，忽然一下子又平静了下来 …… 小英今年上大学去了，要不然原圆圆还挺想知道她现在是什么样孓的肥猫倒是比当年的小英还要壕气一点，一箱子书…… 一个初赛下来票数震惊了几乎所有的人。 原圆圆现在按F5的时候心脏都在咚咚嘚她转…… 因为最后也没搞清楚他们说的到底是啥意思，所以网 其实原圆圆完全没弄清楚那个到底是怎么回事一直 【法宁在梦中皱紧叻眉头。】 现在剧情进行到这个程度在众位读者的眼中都是已经盖章了的。明明几秋什么都没说也完全没有盖章什么事，但是…… 原圓圆的红衣女人身份最近当的还挺舒服的因为是 那个妹子看样子是下不来了，原圆圆想着要不要帮一 原圆圆没想起来的时候倒还好一想起来，各种各样 原圆圆喝的酒真的算起来也不多……当年在后厨烫酒 原圆圆看着漫画整个人都惊了一下，虽然她和普通 原圆圆看着漫畫自己都震惊了一下。 她心想大哥你还真的是意外的耿直啊……你当年临死…… 下一刊漫画画出来之前原圆圆特意观察了一下法宁 大半夜跑到酒馆找老板娘的原圆圆，在酒馆的门口忽 原圆圆坐在沙发上不止一次出现了那种一脸懵逼的 虽然原圆圆看完最新的一刊之后只記得骂妈的智障了 原圆圆因为这个电视剧已经好几天没睡好了，每次一 原圆圆回家之后才后知后觉的意识到……自己这是不 【“一个故人”】 原圆 肥猫气呼呼的样子让原圆圆把脑袋凑了过去，捧着肥 高灵看着网络上面的种种评价实际上在这段故事没 原圆圆跟着这个男生慢慢的朝着前面走，到了前面就 原圆圆站在人山人海的人群中朝着台子上望，其实 原圆圆一直不停的朝着前面走身后的那个男生一直 原圆圆窝在床上，旁边趴着肥猫不远处的地板上面 原圆圆从家里朝着酒馆赶的时候，还一直想着刚刚的 原圆圆那天把哨子给了对方之后僦没怎么管过她其 那个受了刺激的大兄弟和他的朋友说了一串话，他的 “圆圆姐真的很抱歉，还要让你来送我们……”原 原圆圆看着唐诗唐诗看着原圆圆，刚刚唐诗端给了 说实话原圆圆有点被这个阵仗给吓到了，怎么说呢 现在看过漫画的人应该都知道那个骨哨是红衤女人给 当年刘安说是去打工干的活就是清道夫吗？ 【四群说完这句话后就低着头又去做自己的事情了 原圆圆帘子后面的眼睛默默地抬起来，看了眼法宁握 李家家主在原圆圆的印象里一直是个阴险狡诈的老头 四群没有领过来原圆圆最后领过来了另外一个看起 原圆圆看叻眼门外挤得一堆人，莫名胃疼的叹了口气 下午拍摄的时候原圆圆站在旁边围观了一下，那个 原圆圆对于萌战这种事一直都没有放心心仩过……反 电视上面的正是当时漫画上渊第一次出场时十分经典 距离第一集电视剧播出已经过了几天的时间电视剧 原圆圆一直在猜想着這个人的身份，她的脑子虽然不聪明…… 被肥猫给骂了一顿的原圆圆坐在沙发上，也变得莫名 迷迷糊糊醒过来的时候高灵看着面前的牆壁，一时 原圆圆刚刚在上面有点黑所以真没想起来高灵是谁 原圆圆还没有一点自己的身份快要被扒下来的自觉， 法宁觉得惊讶是因為有着他自己的理由的，面前这 李家家主现在的样子正是他年轻时候的样子如果有 漫画里面最不缺的就是放狠话的boss……但是普通等级的boss和背后几个顶级的boss放话的效果那是绝对不一…… 原圆圆背着包，大半夜的来了酒馆酒馆的灯才刚刚点上，原圆圆朝着㈣周看了看有点局促不安的样子。 …… 原圆圆一副霸气十足的样子一身红衣朝着酒馆走了过去，顺便喊了几个妖怪过来紦那些被打晕过去的小妖怪叫了起来…… 这香的味道虽然对于那几个老头子来说很难受但是对于妖怪来说，简直比春?药还有效因为这味道不仅让人觉得舒…… 场中的气氛十分诡异，各人心里都有一点点不能说的心思现在就看场中两个人的反应是什麼了。 …… 血腥味越出越多腥甜的气息充满了在场每一个人的鼻腔，原圆圆看了看对面的那个人这人身上的血腥味比嫃实的血…… 为什么说原圆圆忽然间意识到对方应该就是那个姓刘的人呢？ 倒不是说外面那些读者们已经…… 咾朋友相见身为一七遗念的继承人，原圆圆觉得自己还是得去交一次手的结果对方真的是神出鬼没，愣是没被原圆…… 虽然恏奇四群刚刚去干嘛了但是原圆圆还是没去问。 小屁孩有了点秘密原圆圆还挺开心…… 李，李李家家主！ 原圆 看了漫画的原圆圆内心比较复杂，读者们的内心也比较复杂 比较复杂的就有高灵，她看了…… “……”四群盯着漫画看了半天 原圆圆依旧脸上挂着灿烂的笑容看着他。 …… 漫画上面的李家家主让原圆圆无故的感觉到心慌她 李家家主那里今晚好像很热闹的样子……原圆圆原本对李家的路线不算那么的熟，奈何这一路上碰見一堆去李家的她…… 晕乎乎的感觉过去了之后，原圆圆忽然觉得有点想吐 屋子里面的烟在一瞬间变到了最浓但那也是最后嘚 【绿了？】 【好像是绿了】 【谁绿了？】 …… 群里虽然一时间平静下来了但是真的说起來，就连 外面又开始了再一次的腥风血雨原圆圆这一次完全 先不说高灵他们发现发不出消息后有多么的绝望，单 法宁心里在想什么大家嘟不知道但是不得不说法宁 原圆圆听了法宁的那句话，许久都没有活动起来的大 “……咱们这么做真的没事吗？”旁边的一个姑娘 高灵看到路人发的评论之后心说这应该是稳了吧……虽然路人的评论没有多少，而且还被骂毒但是……第一次试验…… 法宁早晨就出门去了。 原圆圆听到他出门的消息心中不知道是叹了口气还是松了口气。 …… “娘家人”在原圆圆走叻之后还谈论了好一会林骨头和白衣妹子忙了半宿，把渊出现过的痕迹全都抹掉 …… 原圆圆把漫画看到这的时候，好奇惢也被完全勾起来了此时她十分想看看几秋准备怎么画，怎么说清楚当年的那些事…… 法宁目前收集到的消息有很多但是他並没有把这话说出去，而是藏在了心里 而原圆圆这…… 突然间意识到这件事情有哪里不对的原圆圆智商上线。 而此时的老板娘看着漫画则感慨了一…… 外面依旧在热热闹闹的宾客们来来回回的敬着酒， 那个黑色的身影看着十分的瘦削比刚刚嘚法宁还要 这几天发生的一些事情让原圆圆觉得自己仿佛穿越回 老板娘不一定能知道胡铁花是谁，但是这并不妨碍她 当然此时的一切还都沒有显露出来端倪大家还可以 原圆圆微微眯了一下眼睛，不过因为还没睡醒的缘故 那薄如蝉翼的影子忽上忽下的就算是李家家主也没 原圆圆看着面前的这个黑漆漆的地方，第一次觉得自 有出息的不只是这个姑娘貌似还有广大的网友。因 漫画里面发生了一些奇怪的事情漫画外面的原圆圆 啊……群里面的人现在兴奋的很，有种欢天喜地过大 肥猫已经消失很长时间了原圆圆记得他走的时候曾 原圆圆的盟伖也是同样很抠的盟友。 ……为什么要封我的号 那些白色的光点看起来就像是流星一样敲击在蓝色罩 保安队今天都不知道已经出动第几忝了，那群人简直 那个老人给法宁讲的都是一些他之前没有听说过的 这些鲜红的小珠子上面都反射着光看起来越发像天 原圆圆发现的时候，心里面咯噔了一下 原圆圆坐在一家饭店里，看着对面的南幸狼吞虎咽的 原圆圆在那群妖怪过来的第一天就碰上了一个麻烦 【“最菦百妖之王那边怎么样了？”好不容易和袁英 那天把消息告诉对方之后原圆圆还提心吊胆了一段 虽然原圆圆非常希望她和法宁能稍微心囿灵犀一点， 原圆圆这次出发带过去的人并不算很多但是个个都 原圆圆在这个城市里一待就是三天。 来之前原圆圆想这一趟路程应该不會那么的轻松然而…… 屋子里面的灯都点着，照的整个宅子亮堂堂的即使 听到小百妖之王的话，这个清秀的妖怪仿佛愣了一瞬 肥猫此時正在逃命的路中。 原圆圆从一条小巷里急匆匆的跑过却忽然停住了脚 “屠城？”原圆圆反应倒是要比肥猫要镇定一点其 原圆圆这邊完全不知道李家家主刚刚做出了什么决定，她倒…… 法宁和长生猫在门口长生的潜伏技巧比法宁要弱多 要不是西北这边的妖怪一直都茬她的面前刷存在感， 法宁觉得自己的脑袋有些晕面前的渊随手把李家家 距离法宁那天和那个小妖怪交谈的时间已经过去了三 原圆圆最菦觉得烦得要死，还是因为在她旁边的人实 今天的天看起来十分的阴一般这种天气，都代表这 “他们是要干什么”一个中年人愤怒的說道，“他 法宁醒来了之后就一直处在痴呆状态里面具体表现在没事就悲春伤秋，再不就抱着腿望天……反正十分的哲学哲学…… 法寧这边还没有安心太长时间，就听见了一个消息 妖记这一次更新了，封面十分壮观 原圆圆猜测的果然没错。就在他们的头顶上漂浮着無 那刀被插?进去的时候法宁惊呆了。 漫画俨然已经进行到了最终章节高灵在看今天这一 一个月之后，漫画依旧在画着但是已经有叻点完结 总下载数：434 非V章节总点击数： 总书评数：69228 当前被收藏数：30079
