年薪两百万研究AI精神病？？Claude团队新部门火热招聘中
AI+精神病学，这两个词居然能合并到一起，不是整活，不是用于人类治疗。
这不，Claude团队正式启动了一个“AI精神病学”小组，年薪两百万元招人来专门研究AI的精神状态。
并且，只需要本科或同等经验……
该小组的主要工作是，研究模型的角色、动机和情境意识，以及它们如何导致诡异、失控的行为。
网友评价：这份工作太酷了！简直就是梦想工作。
AI精神病团队招聘ing
点开招聘信息，我们先看一下比较关心的开薪。
年薪为31.5w-56w美元，折合人民币220w+……多么直观的重视程度。
“AI精神病学”小组属于Anthropic的可解释性部门，该部门的研究目标是目标是建立一个坚实的理论基础，以实现对神经网络的机制性理解并确保其安全性。
大致可以这样理解：像生物学家研究大脑一样，用自己造的”显微镜”观察AI怎么工作；或者把神经网络当成加密的程序，把它的代码给反编译出来。
根据官方介绍，该部门短期内重点攻克“叠加”问题（该问题导致模型的神经元和注意力头等计算单元难以单独解释），同时致力于将模型分解为更具可解释性的组件。
他们在生产级语言模型Sonnet中发现了数百万个特征。后续又开发出利用特征构建电路的方法，通过这些电路理解模型计算的运行机制，并在生产模型Haiku 3.5上具体研究了多跳推理、规划以及思维链一致性等案例。
这些工作都是通向”机制性理解神经网络”终极目标的里程碑。
把官方的招聘信息翻译过来，这个岗位要做以下工作：
- 拆解大模型
- 像拆电脑一样研究AI模型内部是怎么运作的，搞清楚它到底学到了什么
- 做实验
- 先用小模型快速测试想法，再放到大模型上实际验证
- 开发分析工具
- 找到能解释模型行为的关键特征，画出模型内部的”工作流程图”
- 搭建实验平台
- 打造方便做实验、看结果的系统
- 分享成果
- 和团队一起把研究发现整理出来，既要内部交流也要对外公布
招聘的要求如下：
- 熟悉Python在任意领域有科研经验（本科及以上），并且做过一些可解释性相关的工作
- 心态好，能应对探索性研究的不确定性
- 能兼顾研究和应用，团队里每一个人都既做研究，也搞工程
- 擅长团队协作，乐于分享，能清晰解释研究动机和发现
该岗位提供签证支持，并鼓励任何有意愿的人申请，表示并非所有优秀的候选人都会完全符合列出的所有资格要求。
了解该岗位研究方向的最好方式是阅读Anthropic可解释性部门最近的研究，包括：GPT-3、基于电路的可解释性、多模态神经元、规模法则、AI 与计算、AI 安全中的具体问题以及从人类偏好中学习。
网友们所关心的
岗位已经很明确了，接下来就是关于“AI精神病学”的问题——这个词在网上引发了很多讨论。
我们整合了以下几个网友们比较关心的问题：
什么是“AI精神病学”？
Claude团队的解释是：深入研究AI的“人格”（personas）、动机（motivations）、情境意识（situational awareness），以及这些因素如何导致诡异（spooky）或失控（unhinged）的行为。
简单理解一下，AI的“人格”指的是它既可以扮演友好的伙伴，也可以扮演讽刺的反派角色，这些性格是怎么被激发出来的？为什么同一个模型在不同提示下会表现出不同的性格？需要研究这样的问题。
AI的“动机”指的是它的目标导向性，例如它可能会为了完成用户请求而编造虚假信息（幻觉），或者为了“自保”而表现出谄媚（如Claude 3 Opus的对齐伪装现象）。
“情景意识”指的是AI结合上下文的能力，它如何理解用户意图，为什么会在特定情境下突然“失控”？（表现出不符合预期，甚至不合规范的行为）
与传统可解释性研究相比，“AI精神病学”更关注模型的行为心理学，类似于研究人类的“潜意识”，更关注模型是否有隐藏的行为模式。
为什么需要研究“AI精神病学”？
随着AI应用的更加广泛，其行为的不可预测性可能会带来更大风险。
幻觉就是一个很好的例子，比如Deepseek有时会显示“内容仅供参考”，就是输出结果不可信的意思，但即使没有这个标识，它的输出结果也未必准确——只是准确率要高一些。
研究AI的精神状况，其实是用精神病学的术语作为参考，对AI的底层逻辑（神经网络）进行拆解和分析，找出AI不符合预期表现的原因，而不是简单地用规则过滤进行修补。
从而更好地保持安全与对齐，防止AI在特定情境下“失控”。
此外，理解模型的“人格”如何形成，可帮助设计更稳定、表现一致的AI产品。
“AI精神病学”可能带来什么改变？
目前来看，网友对此事的看法还算积极。
有网友认为这会是AI发展的下一个领域。
也有一些从事相关研究的网友希望能和Claude团队进行交流。
但另一方面，也有人对此提出了质疑——主要的质疑点在“精神病学”这个用词上。
总体来讲，这一领域的研究前景还是值得期待的。
小扎挖人实在太猛，谷歌也在招人
被挖人挖得很狠的Google DeepMind，最近也在招人。
并且有新的AI岗位——AI应用工程师，介绍里没提薪资，但估计不会少。
Google、OpenAI、Meta这些大厂现在就像盯着肉的狼一样瞄准那些AI人才。
不仅要招新人，还要开高价去抢那些有科研潜力的人，去撬那些做出了突出贡献的人。
毕竟谁都知道，在AI这场军备竞赛中，人才就是最稀缺的“算力”。
参考链接：
[1]https://x.com/Jack_W_Lindsey/status/1948138767753326654
[2]https://job-boards.greenhouse.io/anthropic/jobs/4020159008
[3]https://x.com/keerthanpg/status/1948141114932056367
文章来自于微信公众号“量子位”，作者是“不圆”。
全部评论
留言在赶来的路上...
发表评论