关闭广告

OpenAI组建新团队:收集公众意见以确保AI大模型"与人类价值观保持一致"

网易科技报道12723人阅读

1月17日消息,美国当地时间周二,人工智能领域的佼佼者OpenAI在其博客上宣布,他们正在组建一个名为“集体对齐”(Collective Alignment)的全新团队。

这个团队主要由研究人员和工程师构成,将专注于设计和实施收集公众意见的流程,以帮助训练和塑造其人工智能模型的行为,从而解决潜在的偏见和其他问题。

OpenAI在博客中阐述道:“我们的目标是打造一个系统,它能够收集和‘编码’公众对我们模型行为的看法,并将这些宝贵的见解融入我们的产品和服务中。这样一来,我们未来的人工智能模型就能更好地‘与人类价值观保持一致’。”

为了实现这一目标,OpenAI正积极招募来自不同技术背景的研究工程师加入这个新团队。他们表示:“我们将与外部顾问和其他团队紧密合作,包括开展试点工作,将原型整合到我们的模型中。我们需要来自不同领域的专家,共同助力这项工作的推进。”

这个“集体对齐”团队其实是OpenAI去年5月启动的公共项目的一个延伸。该项目旨在资助建立一个“民主程序”的实验,以确定人工智能系统应遵循的规则。OpenAI曾明确表示,该计划旨在资助个人、团队和组织开发概念验证,以回答有关人工智能护栏和治理的问题。

研究工程师、OpenAI新团队创始成员泰纳·埃伦杜(Tyna E

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

被欠薪员工追打,被保安拒公司门外,姚振华冤不冤

中国企业家杂志 浏览 14770

刘欢曾与好声音签单独合同,原来他早就看出端倪

不八卦会死星人 浏览 14388

比特币的价格,马斯克的嘴

网易财经 浏览 26587

王楚钦:1-3落后时我都想着拎包回去了,确实到了极限

懂球帝 浏览 67

以军限制巴勒斯坦人进入阿克萨清真寺

界面新闻 浏览 12443

印度人口超过中国,但未必能复制“人口红利”之路

上观新闻 浏览 16777

银行|山西三家农商行同时被罚!多人被禁业或取消高管任职资格

网易财经 浏览 12802

北宋政治家王安石的故里在哪?王安石的墓地在哪?

趣看热点 浏览 25891

阿森纳四月最佳球员候选:热苏斯、马丁内利、厄德高、本-怀特

直播吧 浏览 18427

中国核动力潜艇在台湾附近发生事故?谣传!

澎湃新闻 浏览 14900

海湾淘金:中国公司奔赴另一场招商引资

晚点LatePost 浏览 13231

王楚钦低调现身演唱会!全场观众疯狂尖叫

小椰的奶奶 浏览 1627

“上头”的美股AI热

国际金融报 浏览 11433

波兰计划向与白俄罗斯接壤边境地区派遣一万名士兵

海外网 浏览 14629

美国最高法院拒绝审理苹果与Epic Games互诉案

cnBeta.COM 浏览 12899

内地客疯抢香港住宅,香港人反向抄底深圳写字楼,哪个租金回报更高?

华夏时报 浏览 12520

专家:美方受到来自北京的迎面正击 特朗普真没招了

澎湃新闻 浏览 1008

南部战区空军航空兵某旅组织实战化飞行训练

极目新闻 浏览 12265

国开新型政策性金融工具投放近1900亿元

央视财经 浏览 885

听我一句劝:中年男人最好少戴围巾、帽子,不是显老就是装嫩!

潮人志Fashion 浏览 13384

王健林“决战”IPO

中国企业家杂志 浏览 15603
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1