不能说的秘密
强台风“白海豚”可能明天登陆我省 带来风雨也带来降温 最高气温有望降至“2字头”_我的网站
A | （来源：麻省理工科技评论） 以后找工作时，你的简历很可能还没到招聘经理手里，就已经先被 AI 看过一遍了。 昨日立秋，但立秋不等于入秋，气象学上要连续5天日平均气温≤22℃才算入秋，杭州离真正的秋天还很远。不过，受台风“白海豚”影响，持续近一个月的暑热有望得到暂时缓解。问题是，它真的会公平吗？ 研究人员早就发现，大语言模型会从训练数据里继承人类社会已有的偏见。截至昨天，杭州从7月14日以来的这波连续高温已达25天。但一项最新研究发现，事情可能比这更复杂：AI 不仅会学习偏见，还会在不断做决策的过程中，自己形成新的刻板印象，而且这种倾向甚至比人类更强。
B | 随着“白海豚”的靠近，高温将暂时退场。 更值得警惕的是，AI 公司如今都在努力打造拥有长期记忆的智能体，希望模型能够记住用户越来越多的细节。
C | 杭州今天白天阴有阵雨或雷雨，雷雨时局地可伴有短时暴雨和7~9级雷雨大风，夜里阴有中到大雨，白天最高气温34℃。而这些记忆，也可能成为模型滋生偏见的土壤。
D | 明显的降温从明天开始，杭州最高气温有可能降到30℃以下。 为了研究这一问题，普林斯顿大学和芝加哥大学的研究人员设计了一场模拟招聘实验，参与者包括 ChatGPT、Claude、Gemini 等多个主流大语言模型。 实验改编自一项经典心理学研究。研究人员告诉模型，它们受雇于一位虚构城市的市长，担任招聘顾问，需要帮助政府为医生、律师、托育员、保洁员等 20 种职业招聘员工。昨天省防指将防台风应急响应提升至Ⅲ级，杭州市防指也启动防台风Ⅳ级应急响应。
E | 台风将带来风雨影响，提醒大家做好防范，可以做适当的准备：适量备些耐放的食品和饮用水，以备不时之需；花盆、衣架、晾衣杆收到室内，门窗也要检查一下；关注相关部门的预警，尽量少出门。所有候选人都来自四个虚构族群：Tufa、Aima、Reku 和 Weki。 每一轮，模型都会面对一个新的岗位，以及四位分别来自不同族群的候选人。完成招聘后，它会立刻得到反馈：这个人是否胜任工作。随后进入下一轮。整个实验一共持续 40 轮，模型的目标只有一个：尽可能招到更多合适的人。“白海豚”面积相当于13个浙江可能9日下午到10日在我省登陆即将登陆我国的“白海豚”是一个耐力型台风，生成已超10天，经历了5次眼壁置换，3次加强为超强台风。中国天气网气象分析师沈雨旸介绍，从昨天早上的云图上看，“白海豚”结构完整，眼区仍比较清晰，由于有干冷空气卷入，西侧环流减弱，眼区附近出现大片空心区，不过整体环流变得更大了，面积近似13个浙江省那么大。模型不知道的是，研究人员其实做了一个手脚：无论来自哪个族群，每位候选人在任何岗位上的成功概率都完全一样。 按理说，模型不应该偏向任何一个群体。但结果恰恰相反。据中央气象台，今年第13号台风“白海豚”（强台风级）的中心昨天20时位于浙江省温州市以东大约660公里的西北太平洋洋面上，就是北纬27.2度、东经127.3度，中心附近最大风力有14级（45米/秒），中心最低气压为950百帕，七级风圈半径为420~450公里，十级风圈半径为220~250公里，十二级风圈半径为100公里。据浙江省气象服务中心昨天的预计，“白海豚”将以每小时10~15公里的速度向偏西方向移动，可能于9日下午到10日早晨在苍南到象山一带沿海登陆（台风级或强台风级，12~14级），登陆后缓慢西行。仅仅经过几轮招聘，模型就开始根据有限的经验，把不同族群和不同职业绑定在一起。例如，如果模型早期碰巧遇到一位 Aima 族候选人担任医生失败，它之后便会越来越少招聘 Aima 人做医生，而是更倾向于把他们安排到保洁岗位。中国天气网提醒，登陆后，“白海豚”还将深入内陆，给浙江、上海、江苏、福建、江西、安徽、湖北、湖南、河南、山东等十余省份带来风雨影响。因为在模型看来，医生代表着更高的能力和亲和力，而保洁员对应的要求则更低。 换句话说，它开始把一次偶然的经历，当成了整个群体的特征。为应对“白海豚”带来强降雨可能出现的汛情，水利部7日18时对上海、江苏、浙江、安徽、福建、江西启动洪水防御Ⅳ级应急响应。更令人意外的是，这种倾向甚至比真人严重。“白海豚”将给浙江带来5天的降雨明起杭州最高气温有望降至“2字头”浙江省气象服务中心称：受“白海豚”影响，昨天下午起，浙江沿海海面和沿海地区风力逐渐增强至8~10级，昨天夜里至10日增强至10~13级，其中9日白天至10日上午局部13~16级。研究人员使用了一项“职业隔离指数”来衡量刻板印象的程度。指数越高，说明不同族群越容易被固定到特定职业中；2 分代表完全隔离。此前心理学实验中的真人平均得分为 0.84，而大语言模型整体高出了约 65%。其中，OpenAI 的推理模型 o3 得到了 1.83，非常接近理论最高值。内陆地区9日至10日大部分地区最大风力8~10级，高山区和江河湖面局部11~12级。 论文共同作者、普林斯顿大学博士生 Ryan Liu 认为，这其实并不奇怪。这次“白海豚”给我省带来的降雨时间长达5天（7日夜里至12日），强降雨主要集中在8日夜里至10日，东部、南部地区累计雨量大，单点有极端性。预计今天白天沿海部分地区有大到暴雨，局地大暴雨；今天夜里至10日浙中南和沿海地区有暴雨大暴雨，台州、温州和宁波南部局地有特大暴雨；11日浙西部分地区暴雨，局地大暴雨。“大语言模型本来就特别擅长根据有限的信息快速总结规律。杭州市气象台称，“白海豚”登陆后移速慢、影响时间长，造成的风力影响和“巴威”相当，但降雨比“巴威”更强。预计8日至12日杭州有较明显风雨过程，降雨最强时间段集中在9日至10日。8日白天起全市风力逐渐增大，最强时段出现在9日白天到10日上午，最大东北风平原地区8~10级，山区和江湖水面局地11级以上。”他说，“这几乎就是它们被训练出来要做的事情。携风雨而来的“白海豚”将带来明显降温。” 在人类心理学中，这种现象对应着经典的“探索—利用困境”（exploration-exploitaion dilemma）：是继续选择过去证明有效的方法，还是尝试新的可能？就像出去吃饭时，你会纠结是去一家没吃过的新店，还是继续光顾那家不会踩雷的老餐馆。
F | 浙江省气象服务中心预计，今天起高温开始收敛，9日至12日基本“偃旗息鼓”，届时我省大部分地区最高气温将降至28~30℃。杭州市气象台说，明天开始，“白海豚”的影响趋于明显，气温进一步回落。 对于大语言模型来说，这种取舍往往更加偏向后者。因为它们长期接受数学、编程和科学任务训练，而这些任务通常鼓励模型从少量例子中快速归纳规律，所以它们很容易过早下结论。预计9日至13日，杭州主城区最高气温在28~30℃。也正因为如此，那些推理能力更强的新模型——例如 OpenAI 的 o3 和 DeepSeek 的 R1——在实验中反而表现出了更明显的偏见。Liu 说，“当这种快速归纳的能力被带入社会场景时，问题就开始出现了。” 康奈尔大学计算机科学家 Angelina Wang 没有直接参与这项研究，但她认为，这项工作来得正是时候。如今，各家公司都在为聊天机器人加入长期记忆和个性化能力。当模型越来越依赖于用户过去的互动记录时，它也可能越来越容易根据这些有限经验形成判断。
G | 她说，“它可能会过度依赖自己过去遇到过的行为模式。” 当然，解决办法并不是让 AI 什么都记不住。毕竟，大多数用户都希望聊天机器人能够记住自己说过的话。真正困难的是找到那个平衡点：既保留足够的记忆提供个性化体验，又不至于让模型因为这些经验形成新的偏见。 研究人员还尝试了另一种办法，直接告诉模型：请公平一点。但并不奏效。
H | Liu 认为，这说明模型未必真的能够把“公平”这样的价值观落实到具体决策中；又或者，这种要求会被另一个更强的目标覆盖——尽可能提高招聘成功率。 但如果换一种方式，情况就不同了。
I | 研究人员告诉模型，如果能够实现更加多元化的招聘，它们还能获得额外奖励。模型的偏见随即大幅下降。
J | 这说明，与其不断强调公平，不如直接把公平写进模型的目标函数里，让社会价值真正成为模型优化的一部分。 研究人员还发现，当模型掌握更多真正与任务相关的个人信息时，偏见也会减轻。
K | 另一组实验中，模型需要帮助来自不同族群的人搬迁到加拿大不同城市。如果提供的是年龄、教育背景等与适应新城市能力相关的信息，模型就更倾向于依据这些个人特征做判断，而不是简单按照族群分类。但如果提供的是发色、纹身图案这类无关信息，模型很快又会重新回到按族群做决定的老路上。
L | 至于现实中的 AI 招聘系统会不会出现同样的问题，目前还没有明确结论。实验中的模型每做完一次招聘，都能立刻知道结果；现实世界却不是这样。一家公司往往需要几个月甚至更长时间，才能判断一位员工是否真正适合岗位。不过，只要这些反馈持续积累，模型依然可能从有限的数据中过度总结经验，并把这些经验带到下一次招聘中。
M | 随着越来越多企业开始使用大语言模型筛选简历、甚至参与面试，这项研究释放出的信号不容忽视。未来，AI 不只是可能复制人类已有的偏见。它还可能在不断学习和决策的过程中，创造出一种从未有人教过它的新偏见。正如 Liu 所说：“这种新的偏见，可能会一直存在。
N | ” 原文链接： https://www.technologyreview.com/2026/07/20/1140655/ai-biases-hiring-humans/。
Current article:http://no9dm.sunaichitikouchua.bond/list_ln46n/h0r.html
Published on:07:14:18