您现在阅读的是
2027小说网www.2027xs.cc提供的《燕归来》第一卷 少年游 第七十五章门槛(第2/3页)
具体的“由下而上”方法，而是允许一个问题暂时只有局部答案。以前他看见更高层结构时，会觉得局部工作只是通往高处的台阶；现在慢慢发现，很多高处根本不是预先在那里等人的，它们可能只是大量局部事实被认真看过以后，才逐渐有了轮廓。江遥见他半天不说话，马上警告：“你别又在脑子里总结。”原既白笑了，说没有。她显然不信，伸手在他掌心捏了一下。
第二天上午，原既白去了罗老师说的那个小会。暑期研习已经正式结束，大多数学生陆续返家，原来的大教室空了许多，只剩六个被留下来的学生。林沛、唐岑也在，另外三人来自其他小组。带他们的年轻老师姓叶，看起来不到三十，穿一件普通灰色T恤，没有拿任何炫目的AI演示开场，只在投影上放出两张几乎一样的图片：都是草地上的一匹马。叶老师问，如果一个程序把两张都判断成“马”，而且在一千张测试图片里答对九百五十张，能不能说它已经认识马。
没有人立即回答。唐岑先说至少不能完全说明，林沛则问测试图片是不是和训练图片来自同一个来源。叶老师没有评价，只把其中一张图的边缘稍微裁掉一点。马仍完整地站在那里，可程序的判断突然从“马”变成了另一种动物。再裁一次，又变回来。几个人起初都以为是模型不稳定，直到原图被放大，他们才注意到左下角有一块非常模糊的水印。训练数据中，大量“马”的图片恰好来自同一批图库，因此也带着相似的角标。
叶老师没有说“模型作弊”，只问：“如果它发现这个标记比耳朵、鬃毛、腿都好用，为什么不用？”
教室里有人笑了一声。
原既白却立刻想起奶奶那句：“它是看豆，还是看报纸？”
机器并没有被要求理解“马是什么”。人给它的是一堆图片和对应答案，然后要求它尽可能把答案猜对。水印如果更稳定，它就用水印；背景如果更稳定，它就用背景。从它经历过的世界看，这甚至可能是一条非常好的规律。真正犯错的是人先在脑子里把“测试正确率高”翻译成了“它认识马”，然后忘记这两句话中间其实隔着一整片没有被证明的土地。
叶老师很快又问：“那我们把水印全部删掉，它是不是就真正学会马了？”
唐岑马上摇头，说可能还有草地、摄影角度、光线、图像来源。另一个学生说甚至相机型号都有可能留下看不见的特征。叶老师点了点头，没有继续列，只说接下来两个月的任务恰恰不是追求一个更高分的模型，而是**想办法让一个高分模型暴露自己**。换背景、换来源、交换线索、故意制造冲突，什么都可以。最后不用告诉他“准确率提高到多少”，只需要回答两个问题：它在哪些情况下失败，以及这些失败让你知道它原来依赖了什么。
任务听上去甚至不像竞赛，倒像专门拆自己的台。林沛问，如果无论怎么换数据都不失败怎么办。叶老师笑了一下，说那当然很好，不过先别急着相信自己已经做到了。模型真正依赖的特征可能不是人肉眼能直接看出来的，所以他们能做的不是一次性证明“它真的理解了”，而是不断尝试换一种世界，看它还能不能站住。
原既白没有继续追问“理解”的定义。他记得江遥昨天那句：先把马认清楚。
小会结束以后，他当场报名参加。
回县里的车上，原既白一直没有看新资料，只把叶老师发来的第一批图片存在电脑里。他本来很容易继续想到更大的问题：学生通过考试是不是也可能只学会了考试的背景；一个企业成功一次，是不是只是恰好踩中了环境；一个国家的制度在某段历史里有效，是不是也存在类似的“训练分布”；甚至一个人对于自己的认识，会不会也是在有限经验里学出来的一种过度拟合。所有这些联想都往外冒，他却第一次有意识地把它们先放在一边。问题可以很大，但今天能做的事情很小——先找出那匹马为什么在裁掉一角以后就不再是马。
到家当晚，他重新把奶奶的豆子找出来。老人正在院子里摇蒲扇，看见他刚回来就摆手机和台灯，问了一句：“又看豆？”原既白说这回不训练，先看它怎么错。奶奶显然没觉得二者有什么区别，只说别把种子弄乱。原既白从袋子里挑出几十颗，分别放到木桌、白纸、旧报纸、瓷盘和奶奶手掌上拍照，还故意改变远近和光线。模型在白纸和木桌上表现还算稳定，换到报纸时错误增加，放到奶奶的手掌上以后却突然错得更明显。
他没有像过去那样立即重新训练，而是先把失败照片全部单独存下来。
其中有一张尤其有意思。豆子本身很饱满，奶奶明确说可以留，模型在白纸上也一直判断正确；放到她掌心以后，却连续三次判成坏豆。原既白把照片放大，看了半天也没看出是皮肤颜色、皱纹、阴影还是拍摄距离造成的。以前这种“不知道”会让他很快去找解释，现在他只是把照片编号，记下条件，准备第二天一项一项换。
新建文件夹时，他在名字框里敲了“bean_failures”，想了想，又改成中文：
**它看见了什么。**
奶奶在旁边已经等得不耐烦，问能不能把豆子还给她。原既白把桌上的几十颗推过去，老人看也不看电脑，一颗颗重新分回两个小堆。有几颗原既白自己已经混乱，不记得原本属于哪边，奶奶拿起来一捏、一看，很快放好。电脑屏幕上是模型九十多分的历史记录，桌面上却是一个老人几十年里没有写成任何公式的经验。两种东西同时存在，谁也没有因此显得神秘。
另一边，江遥的暑期训练在拿到阶段第一以后并没有变轻。恰恰相反，学校很快和另外几所强校组织联合训练，原来的十二个人扩成二十六个。外校学生里有已经参加过全国决赛的高三生，也有从初中就开始系统训练的高二生。第一天早上，所有人名字贴在黑板右侧，没有学校，也没有上轮成绩。杜老师站在讲台边，只说了一句：“以前的排名，在这里清零。”
这句话没有让江遥紧张，反而让她有一点兴奋。她越来越喜欢这种突然把历史拿掉的环境。过去的第一不会自动带来今天的分数，过去的第十三也不会永远压在头上。上午第一次理论测试，她第七；陆徊第五，顾行舟第三，第一是个叫许观澜的高三女生。许观澜个子不高，说话很慢，考完以后没有和任何人对答案，只收拾东西去食堂。江遥后来才知道，她去年全国决赛已经拿过很高的奖，只差一点进入更深层选拔。第二天下午实验，许观澜却掉到第九，顾行舟第一，江遥第四。没有一个人像传说中的天才那样每一项都碾压，真正让人感到压力的是，每个人都在某个具体地方强得很真实。
第三天中午，江遥和陆徊、顾行舟坐在一桌。顾行舟问她第一次联合训练第七难不难受，她说有一点。对方问“看不出来”，江遥咬着青菜想了想，说去年可能会难受得更明显。她没有展开。过去排名对她来说不仅是结果，还像一种身份裁定：第一意味着“我确实厉害”，十七意味着“会不会我根本没有自己以为的那么好”。现在她开始把这两件事一点点拆开。第七首先只是那一天有六个人比她做得好，说明哪些地方还不够，并不自动回答“江遥是谁”。
这种稳定只维持到第四天。
那天下午是一道很长的理论题。大多数人做到二十分钟时仍然在第一部分摸索，江遥却突然看见一个很简洁的结构。那种熟悉的兴奋来得极快，她甚至能感觉到自己比去年谨慎：几个容易漏掉的边界条件都检查过，量纲也对，后面推导几乎一路顺下去。四十多分钟，她已经把最难部分写完整，结果漂亮得让人心里发亮。她没有像过去一样因为兴奋忘记
-->>（本章未完，请点击下一页继续阅读）