关闭广告

OpenAI组建新团队:收集公众意见以确保AI大模型"与人类价值观保持一致"

网易科技报道12725人阅读

1月17日消息,美国当地时间周二,人工智能领域的佼佼者OpenAI在其博客上宣布,他们正在组建一个名为“集体对齐”(Collective Alignment)的全新团队。

这个团队主要由研究人员和工程师构成,将专注于设计和实施收集公众意见的流程,以帮助训练和塑造其人工智能模型的行为,从而解决潜在的偏见和其他问题。

OpenAI在博客中阐述道:“我们的目标是打造一个系统,它能够收集和‘编码’公众对我们模型行为的看法,并将这些宝贵的见解融入我们的产品和服务中。这样一来,我们未来的人工智能模型就能更好地‘与人类价值观保持一致’。”

为了实现这一目标,OpenAI正积极招募来自不同技术背景的研究工程师加入这个新团队。他们表示:“我们将与外部顾问和其他团队紧密合作,包括开展试点工作,将原型整合到我们的模型中。我们需要来自不同领域的专家,共同助力这项工作的推进。”

这个“集体对齐”团队其实是OpenAI去年5月启动的公共项目的一个延伸。该项目旨在资助建立一个“民主程序”的实验,以确定人工智能系统应遵循的规则。OpenAI曾明确表示,该计划旨在资助个人、团队和组织开发概念验证,以回答有关人工智能护栏和治理的问题。

研究工程师、OpenAI新团队创始成员泰纳·埃伦杜(Tyna E

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

布林肯拉拢越南"对抗中国" 中使馆:挑拨离间注定失败

环球网资讯 浏览 117067

卸行政职务后郑强重回学术界:以通讯作者身份在国际刊物发文

澎湃新闻 浏览 12627

郑秀文与许志安罕见合照 演唱会暂缓后半年没露面

TVB剧评社 浏览 12885

滑板飞盘骑行穿搭图鉴 春季户外运动从头帅到脚

潮流有货 浏览 19899

开工第一天被曝遭解散,高合汽车真的不行了?

盖世汽车 浏览 12035

王一博耐克终止合作,坚决维护祖国利益

趣看热点 浏览 25750

韩媒:时隔5年韩美启动大规模联合登陆演习

环球网资讯 浏览 19726

72岁患癌老人办生前告别式 四十多名宾客来到现场发言

极目新闻 浏览 9748

张子枫主演的《我的姐姐》票房爆了,这是一个关于爱和牺牲的故事

趣看热点 浏览 26098

29国重兵云集,菲律宾打算不留后路?

浏览 10598

款款都是销量担当 2023年10款热销车|汽势盘点②

汽势传媒 浏览 12449

俄罗斯核潜艇在北太平洋成功试射超音速巡航导弹

环球网资讯 浏览 1648

长春中医药大学食堂推出自助“轻食”,很受学生欢迎

趣看热点 浏览 895769

四维图新孟庆昕:全面AI转型,2027年或可盈亏平衡

网易汽车 浏览 730

她是半个娱乐圈的“妈”,丈夫与她相爱40年

说历史的老牢 浏览 1480

OpenAI宫斗大结局!奥特曼「无罪」重返董事会,Ilya不知去向

新智元 浏览 12194

高迪预测英超天王山之战:看好蓝月亮客场不败

直播吧 浏览 11725

郭富城三胎得女,四大天王未能迎来首个男孩,压力又给到郭富城了

扒虾侃娱 浏览 827

游客在成都排火锅等5小时前面还有90多桌 无奈回酒店

红星新闻 浏览 81065

限时换新价11.98万 第三代蓝电E5 PLUS正式上市

网易汽车 浏览 204

主要针对能源企业,仍然保留对话空间,俄称已对美欧制裁形成“免疫力”

环球网资讯 浏览 799
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1