关闭广告

OpenAI组建新团队:收集公众意见以确保AI大模型"与人类价值观保持一致"

网易科技报道12742人阅读

1月17日消息,美国当地时间周二,人工智能领域的佼佼者OpenAI在其博客上宣布,他们正在组建一个名为“集体对齐”(Collective Alignment)的全新团队。

这个团队主要由研究人员和工程师构成,将专注于设计和实施收集公众意见的流程,以帮助训练和塑造其人工智能模型的行为,从而解决潜在的偏见和其他问题。

OpenAI在博客中阐述道:“我们的目标是打造一个系统,它能够收集和‘编码’公众对我们模型行为的看法,并将这些宝贵的见解融入我们的产品和服务中。这样一来,我们未来的人工智能模型就能更好地‘与人类价值观保持一致’。”

为了实现这一目标,OpenAI正积极招募来自不同技术背景的研究工程师加入这个新团队。他们表示:“我们将与外部顾问和其他团队紧密合作,包括开展试点工作,将原型整合到我们的模型中。我们需要来自不同领域的专家,共同助力这项工作的推进。”

这个“集体对齐”团队其实是OpenAI去年5月启动的公共项目的一个延伸。该项目旨在资助建立一个“民主程序”的实验,以确定人工智能系统应遵循的规则。OpenAI曾明确表示,该计划旨在资助个人、团队和组织开发概念验证,以回答有关人工智能护栏和治理的问题。

研究工程师、OpenAI新团队创始成员泰纳·埃伦杜(Tyna E

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

彻底放弃纽约了?希音据称最早本周在伦敦提交招股意向书

科创板日报 浏览 10873

A股突发!刚刚,释放三大信号!

券商中国 浏览 1012

澳洲人民也要享受“百亿补贴”了!拼多多官宣:正式进入澳洲、新西兰;电商龙头为出海“卷疯了”

证券时报e公司 浏览 19353

浓眉伤退罪魁祸首找到了,不是克劳德,也不是艾顿,而是他

趣看热点 浏览 25873

首搭纯电quattro 奥迪E5 Sportback售23.59万起

网易汽车 浏览 1708

以军踏破拉法,关键时刻阿拉伯高层齐聚北京

浏览 11111

菲戈:我支持国米晋级欧冠决赛,劳塔罗能留下属于自己的印记

直播吧 浏览 18805

安东尼怒批菲尔-杰克逊:你坚持打不适合的三角进攻,却又说我毁了战术

懂球帝 浏览 695

一千多人牺牲结局,无法改写,但于和伟临刑前一个动作,升华全剧

皮皮电影 浏览 887

“Mag 7”过时了?华尔街想要AI!

华尔街见闻官方 浏览 1452

国家安全机关:坚决粉碎台湾情治部门渗透破坏

国家安全部 浏览 76397

去海外淘金,哪些公司赢麻了?

定焦One 浏览 14642

施伯雄为女友庆生幸福对视 吴千语穿红裙大秀身材

叶公子 浏览 13570

新援加盟!宁波男篮与外援约翰-埃格伯努&阿努瓦-奥莫特正式签约

直播吧 浏览 12636

​柳岩香港随拍照片曝光 穿白色印花裙赏夜景

蜜蜂会穿搭 浏览 14960

基米希:十年前拜仁有很多个人主义,如今队友更愿为团队奉献

懂球帝 浏览 689

李娜×新狮铂拓界:源于价值理念的同频共振

网易汽车 浏览 402

C罗当选世纪最佳球员,皇马被评为世纪最佳俱乐部

趣看热点 浏览 25432

姆巴佩已完成职业生涯400球,为最年轻达成此成就球员

懂球帝 浏览 257

XREAL启用上海浦东全球总部,明年推出首款Android XR系统AR眼镜

IT之家 浏览 765

银行批量直售房产 价格从几万元到几亿元不等

经济观察报 浏览 7025
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1