关闭广告

OpenAI组建新团队:收集公众意见以确保AI大模型"与人类价值观保持一致"

网易科技报道12709人阅读

1月17日消息,美国当地时间周二,人工智能领域的佼佼者OpenAI在其博客上宣布,他们正在组建一个名为“集体对齐”(Collective Alignment)的全新团队。

这个团队主要由研究人员和工程师构成,将专注于设计和实施收集公众意见的流程,以帮助训练和塑造其人工智能模型的行为,从而解决潜在的偏见和其他问题。

OpenAI在博客中阐述道:“我们的目标是打造一个系统,它能够收集和‘编码’公众对我们模型行为的看法,并将这些宝贵的见解融入我们的产品和服务中。这样一来,我们未来的人工智能模型就能更好地‘与人类价值观保持一致’。”

为了实现这一目标,OpenAI正积极招募来自不同技术背景的研究工程师加入这个新团队。他们表示:“我们将与外部顾问和其他团队紧密合作,包括开展试点工作,将原型整合到我们的模型中。我们需要来自不同领域的专家,共同助力这项工作的推进。”

这个“集体对齐”团队其实是OpenAI去年5月启动的公共项目的一个延伸。该项目旨在资助建立一个“民主程序”的实验,以确定人工智能系统应遵循的规则。OpenAI曾明确表示,该计划旨在资助个人、团队和组织开发概念验证,以回答有关人工智能护栏和治理的问题。

研究工程师、OpenAI新团队创始成员泰纳·埃伦杜(Tyna E

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

翟欣欣邻居:被捕那一刻 她和她父母一边痛哭一边喊冤

大宗看萌宠 浏览 91598

手机行业的上半年:卷不动了,家家开始挤牙膏

钛媒体APP 浏览 15241

伊姐周六热推:电视剧《枭起青壤》;电视剧《毒舌家庭》......

伊周潮流 浏览 378

搭载双电机 极狐阿尔法S6四驱版或年内上市

车质网 浏览 603

春日穿搭选韩系 展现温柔的女性魅力

小红豆变美日记 浏览 19836

五六十岁“穿衣见品味”!这4个搭配小技巧,比同龄人显气质

静儿时尚达人 浏览 2018

白宫:美国驻乌克兰大使馆内有“少量美军”

新京报 浏览 18769

连杨幂都要蹭的土造型 究竟是怎么被捧红的?

新氧 浏览 15305

农妇在荒塘内开挖养鱼被控"非法占用农地罪" 家属发声

极目新闻 浏览 6473

普京慰问伤兵称"受过炮火洗礼者将在俄军中任要职"

环球网资讯 浏览 16083

上汽销量反超比亚迪,真实“含金量”如何

经济观察报 浏览 809

全球首个太空AI诞生,H100在轨炼出!马斯克爆赞

新智元 浏览 61

第74集团军某旅炮兵营开展跨昼夜实弹射击演练

环球网资讯 浏览 15441

60岁阿姨靠穿搭火了!“简约款”穿出高级感,自然老去也很美

静儿时尚达人 浏览 993

看《人民的名义》,这2个神秘的女人,才是剧情推动的重点

娱乐白名单 浏览 12621

男子将老婆当赌注输掉 听着妻子被牌友轮奸无动于衷

史说历史 浏览 87203

美总统威胁对尼日利亚动武 尼方回应

环球网资讯 浏览 713

十几位主播围住96岁摆摊奶奶蹭流量,网友直呼疯子们饶了奶奶吧!

趣看热点 浏览 25851

以色列的新常态:创伤、分裂与集体错觉

澎湃新闻 浏览 1010

中国人寿前三季归母净利润超1678亿元,高基数基础上同比增60.5%

证券市场周刊 浏览 694

vivo Y200「皓夜」图赏:6000mAh 蓝海电池、磐石抗摔结构

IT之家 浏览 10674
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1