关闭广告

OpenAI组建新团队:收集公众意见以确保AI大模型"与人类价值观保持一致"

网易科技报道12739人阅读

1月17日消息,美国当地时间周二,人工智能领域的佼佼者OpenAI在其博客上宣布,他们正在组建一个名为“集体对齐”(Collective Alignment)的全新团队。

这个团队主要由研究人员和工程师构成,将专注于设计和实施收集公众意见的流程,以帮助训练和塑造其人工智能模型的行为,从而解决潜在的偏见和其他问题。

OpenAI在博客中阐述道:“我们的目标是打造一个系统,它能够收集和‘编码’公众对我们模型行为的看法,并将这些宝贵的见解融入我们的产品和服务中。这样一来,我们未来的人工智能模型就能更好地‘与人类价值观保持一致’。”

为了实现这一目标,OpenAI正积极招募来自不同技术背景的研究工程师加入这个新团队。他们表示:“我们将与外部顾问和其他团队紧密合作,包括开展试点工作,将原型整合到我们的模型中。我们需要来自不同领域的专家,共同助力这项工作的推进。”

这个“集体对齐”团队其实是OpenAI去年5月启动的公共项目的一个延伸。该项目旨在资助建立一个“民主程序”的实验,以确定人工智能系统应遵循的规则。OpenAI曾明确表示,该计划旨在资助个人、团队和组织开发概念验证,以回答有关人工智能护栏和治理的问题。

研究工程师、OpenAI新团队创始成员泰纳·埃伦杜(Tyna E

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

业主私挖300平地下室:白天用挖机挖 半夜偷偷运土

扬子晚报 浏览 4666

中国刚买完美国玉米特朗普就立马变脸 摆了中方一道

策略述 浏览 5616

外媒:中国即将发表的这份文件“备受期待”

参考消息 浏览 36181

鲁尼:萨拉赫应该回撤参与协防;范戴克的进球应该算作有效

懂球帝 浏览 611

邻居在家门口干了匪夷所思的事 杭州女子:提心吊胆

极目新闻 浏览 29864

票房从57.7亿跌到1.28亿,我感慨:这块金字招牌算是砸了

靠谱电影君 浏览 385

江苏最新平均工资出炉!最挣钱的行业是→

环球网资讯 浏览 16354

距伊朗161公里 巴基斯坦想邀美国在敏感地点建港口

上观新闻 浏览 953

专家:自民党与公明党谈崩了 给高市早苗当头一记闷棍

澎湃新闻 浏览 1071

宗馥莉辞职41天后 有经销商收通知:明年继续卖娃哈哈

每日经济新闻 浏览 4058

缅甸政府军突袭KK园区 查获30套星链设备

红星新闻 浏览 6161

城镇化率突破67%,城市发展转向存量优化,自然资源部:将发布规划指南

时代周报 浏览 1585

嫁给汪涵17年,细扒杨乐乐心酸现状,她的选择真的对吗?

不八卦会死星人 浏览 985

马筱梅吐槽老公,称嫁到大陆鲜花都是粉丝送的,汪小菲只送过一次

扒虾侃娱 浏览 1456

无需精子和卵子 科学家成功培养首个人类胚胎模型

中国新闻周刊 浏览 92576

镜报:伯恩利&格拉纳达有意曼联小将费尔南德斯,红魔希望外租

直播吧 浏览 14257

科技巨头在讨好英伟达,又想自研AI芯片摆脱英伟达

网易科技报道 浏览 12850

拿11亿买空壳公司后,前妻一夜套现22亿,还有更离谱的!

金角财经 浏览 15547

女人到了六十岁还是短发更减龄 时尚又洋气

成铭聊发型 浏览 17315

王俊凯工作室深夜发文退出湖南跨年,因彩排后突发头晕

趣看热点 浏览 26051

保安打人赔35万结案13年后15人被公诉 被害人从未控告

澎湃新闻 浏览 6849
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1