关闭广告

OpenAI组建新团队:收集公众意见以确保AI大模型"与人类价值观保持一致"

网易科技报道12707人阅读

1月17日消息,美国当地时间周二,人工智能领域的佼佼者OpenAI在其博客上宣布,他们正在组建一个名为“集体对齐”(Collective Alignment)的全新团队。

这个团队主要由研究人员和工程师构成,将专注于设计和实施收集公众意见的流程,以帮助训练和塑造其人工智能模型的行为,从而解决潜在的偏见和其他问题。

OpenAI在博客中阐述道:“我们的目标是打造一个系统,它能够收集和‘编码’公众对我们模型行为的看法,并将这些宝贵的见解融入我们的产品和服务中。这样一来,我们未来的人工智能模型就能更好地‘与人类价值观保持一致’。”

为了实现这一目标,OpenAI正积极招募来自不同技术背景的研究工程师加入这个新团队。他们表示:“我们将与外部顾问和其他团队紧密合作,包括开展试点工作,将原型整合到我们的模型中。我们需要来自不同领域的专家,共同助力这项工作的推进。”

这个“集体对齐”团队其实是OpenAI去年5月启动的公共项目的一个延伸。该项目旨在资助建立一个“民主程序”的实验,以确定人工智能系统应遵循的规则。OpenAI曾明确表示,该计划旨在资助个人、团队和组织开发概念验证,以回答有关人工智能护栏和治理的问题。

研究工程师、OpenAI新团队创始成员泰纳·埃伦杜(Tyna E

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

4.0T V8发动机 阿斯顿·马丁DB12 S官图发布

车质网 浏览 1042

女子遭家暴驾车逃跑致丈夫身亡获刑11年 已上诉称无罪

红星新闻 浏览 5523

养老金增速领跑 险资投资版图更新

北京商报 浏览 344

沙特大幅下调旗舰原油溢价至五年低点,全球供应过剩压力显现

华尔街见闻官方 浏览 167

谁吃掉了那块蛋糕?2023时尚圈黑马盘点

VogueMe 浏览 13832

牛弹琴:两中资外卖企业在巴西打官司 别再让全球看笑话

大象新闻 浏览 4036

巴黎人报:出于保险,恩里克半场就换下了努诺-门德斯

懂球帝 浏览 358

E句话| 这俩的婚纱照,还挺甜?

仙女事件簿 浏览 932

葡萄牙宣布将于9月21日承认巴勒斯坦国

上观新闻 浏览 1609

王思聪近照罕见曝光!与黑衣美女亲密互动

文艺圈娱乐号 浏览 16528

baby近照撞脸刘嘉玲,苹果肌下垂脸变僵,没了事业心近乎退圈

萌神木木 浏览 333

美著名主持人发推:拜登曾称有“毁灭台湾计划”

枢密院十号 浏览 92136

换了四辆车之后,我对六座SUV彻底失望了,这些家庭要买更不推荐

小李车评李建红 浏览 1564

咸阳7亿多投资重点项目"未批先建" 当地:情况属实

大风新闻 浏览 5265

何超欣庆祝24岁生日 奚梦瑶晒合照庆贺

笑猫说说 浏览 16195

第四节表现出色!欧文:小时候就一直这么干了

直播吧 浏览 12505

孙燕姿妹妹再补刀!曝姐妹决裂真相 过往言论被扒

文艺圈娱乐号 浏览 12954

伊卡尔迪现身“与星共舞”给旺达助阵:很开心她能展示自我

懂球帝 浏览 13058

今日森林狼出手至少30次三分命中率达到60% 创造队史最佳纪录

直播吧 浏览 13016

德云社最后一次招生,41岁欧弟成龙字科第一人

趣看热点 浏览 26520

二封奥斯卡影后!艾玛·斯通获得最佳女主角

网易娱乐 浏览 12202
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1