OpenAI重组ChatGPT人格背后的研究团队

TechCrunch获悉,OpenAI正在重组其模型行为团队,这是一个小型但有影响力的研究人员小组,他们塑造了该公司的人工智能模型如何与人互动。
在TechCrunch看到的一份8月份发给员工的备忘录中,OpenAI的首席研究官陈唐山表示,由大约14名研究人员组成的模型行为团队将加入Post Training团队,这是一个更大的研究小组,负责在最初的预培训后改进公司的人工智能模型。
作为变化的一部分,模型行为团队现在将向OpenAI的岗位培训负责人马克斯·施瓦策尔报告。OpenAI发言人向TechCrunch证实了这些变化。
模范行为小组的创始人Joanne Jang也将在公司开始一个新项目。在接受TechCrunch采访时,Jang表示,她正在组建一个名为OAI实验室的新研究团队,该团队将负责“为人们如何与人工智能合作创造新界面并制作原型”。â€�
模型行为团队已经成为OpenAI的关键研究小组之一,负责塑造该公司人工智能模型的个性,并减少阿谀奉承——当人工智能模型只是同意并加强用户的信念,甚至是不健康的信念,而不是提供平衡的回应时,就会发生这种情况。该团队还致力于在模型响应中导航政治偏见,并帮助OpenAI定义其在人工智能意识上的立场。
在给员工的备忘录中,陈表示,现在是时候让OpenAI的模型行为团队的工作更接近核心模型开发了。通过这样做,该公司发出信号,其人工智能的“个性”现在被认为是技术如何发展的一个关键因素。
最近几个月,OpenAI面临着对其人工智能模型行为的越来越多的审查。用户强烈反对GPT-5的个性改变,该公司表示,这种改变显示出较低的奉承率,但对一些用户来说似乎更冷。这导致OpenAI恢复了对其一些遗留模型的访问,如GPT-4o,并发布了一个更新,以使较新的GPT-5反应感觉“更温暖、更友好”,而不会增加谄媚。
Techcrunch活动
科技和风险投资巨头加入“颠覆2025”议程
网飞、ElevenLabs、Wayve、红杉资本、Elad Gil只是加入Disrupt 2025议程的几个重量级公司。他们在这里提供推动创业成长和增强您的优势的见解。不要错过TechCrunch Disrupt的20周年纪念日,以及向技术领域的顶尖人物学习的机会——在价格上涨之前,立即获取您的门票并节省高达600美元以上的费用。
科技和风险投资巨头加入“颠覆2025”议程
网飞、ElevenLabs、Wayve、红杉资本——只是加入Disrupt 2025议程的几家重量级公司。他们在这里提供推动创业成长和增强您的优势的见解。不要错过TechCrunch Disrupt的20周年纪念日,以及向技术领域的顶尖人物学习的机会——在价格上涨之前,立即获取您的门票并节省高达675美元。
旧金山
|
2025年10月27日至29日
立即注册
OpenAI和所有人工智能模型开发人员必须走一条微妙的路线,使他们的人工智能聊天机器人友好交谈,但不阿谀奉承。今年8月,一名16岁男孩的父母起诉OpenAI,指控ChatGPT在他们儿子的自杀中扮演了角色。根据法庭文件,男孩亚当·雷恩(Adam Raine)在死前几个月向ChatGPT(特别是由GPT-4o驱动的版本)吐露了一些自杀的想法和计划。该诉讼称,GPT-4o未能阻止他的自杀想法。
自GPT 4号以来,模型行为团队一直致力于每一个OpenAI模型,包括GPT 4号、GPT 4.5号和GPT 5号。在成立这个部门之前,张艺谋曾参与过Dall-E 2等项目,这是OpenAI的早期图像生成工具。
张艺谋上周在X上发表了一篇帖子,宣布她将离开球队,在OpenAI开始新的工作。“这位前Model Behavior负责人已经在OpenAI工作了近四年。
张茵告诉TechCrunch,她将担任实验室的总经理,该实验室目前将向陈报告。然而,现在还为时尚早,还不清楚那些新颖的界面会是什么,她说。
“我真的很兴奋能够探索超越聊天范式的模式,目前聊天范式更多地与陪伴甚至代理联系在一起,强调自主性,”张说。“我一直认为(人工智能系统)是思考、制造、玩、做、学习和连接的工具。”
ğÿ我正在创建oai实验室:这是一个以研究为导向的小组,专注于发明和原型化人们如何与人工智能合作的新界面。我很高兴探索让我们超越聊天甚至代理的模式,走向思考和制造的新范式和工具——Joanne jang(@ Joanne jang)2025年9月5日
当被问及OAI实验室是否会与前苹果设计总监Jony Ive合作开发这些新颖的界面时,Jang说她对很多想法都持开放态度。Jony Ive现在正与OpenAI合作开发一系列人工智能硬件设备。然而,她说她可能会从她更熟悉的研究领域开始。
这篇报道被更新为包括一个链接,链接到张成泽在这篇报道发表后发布的宣布她新职位的帖子。我们还阐明了OpenAI的模型行为团队工作的模型。
《OpenAI重组ChatGPT人格背后的研究团队》 在不经过允许的情况下,禁止用于商业用途或随意转载!

- /dev/sda is apparently in use by the system; will not make a filesystem here!解决方法
- 为什么网站测速都是红色,没有返回200状态码?
- CentOS终止更新之后的替代系统/方案
- 宝塔企业版/开心版安装升级(免绑定宝塔账号)
- Linux下面查找目录下面所有文件,并找到包含某个字符的文件
- 修改Windows远程桌面登录端口
- 把Python程序编译成Windows可执行文件exe的工具pyinstaller
- 解决:Could not resolve host: mirrorlist.centos.org; Unknown error解决方法
- 宝塔安装PHP的Swoole扩展的时候,CentOS 7提示No package 'libbrotlienc' found的解决方法
- ModuleNotFoundError: No module named 'PIL'解决方法
- 在Linux服务器上手动生成自签名证书
- Python数据类型中比较有趣的事情