关闭广告

OpenAI组建新团队:收集公众意见以确保AI大模型"与人类价值观保持一致"

网易科技报道12705人阅读

1月17日消息,美国当地时间周二,人工智能领域的佼佼者OpenAI在其博客上宣布,他们正在组建一个名为“集体对齐”(Collective Alignment)的全新团队。

这个团队主要由研究人员和工程师构成,将专注于设计和实施收集公众意见的流程,以帮助训练和塑造其人工智能模型的行为,从而解决潜在的偏见和其他问题。

OpenAI在博客中阐述道:“我们的目标是打造一个系统,它能够收集和‘编码’公众对我们模型行为的看法,并将这些宝贵的见解融入我们的产品和服务中。这样一来,我们未来的人工智能模型就能更好地‘与人类价值观保持一致’。”

为了实现这一目标,OpenAI正积极招募来自不同技术背景的研究工程师加入这个新团队。他们表示:“我们将与外部顾问和其他团队紧密合作,包括开展试点工作,将原型整合到我们的模型中。我们需要来自不同领域的专家,共同助力这项工作的推进。”

这个“集体对齐”团队其实是OpenAI去年5月启动的公共项目的一个延伸。该项目旨在资助建立一个“民主程序”的实验,以确定人工智能系统应遵循的规则。OpenAI曾明确表示,该计划旨在资助个人、团队和组织开发概念验证,以回答有关人工智能护栏和治理的问题。

研究工程师、OpenAI新团队创始成员泰纳·埃伦杜(Tyna E

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

新思科技计划收购Ansys,交易总价值约350亿美元

界面新闻 浏览 12410

女生显老又土气的5款发型,真的别留了!

Yuki女人故事 浏览 966

“WPS”上热搜!雷军为金山办公实控人,员工平均年薪约38万,金山此前发文:雷军任名誉董事长,不领薪酬

大象新闻 浏览 996

精选流行女发100款,有长有短很时尚

镜子发型 浏览 19252

一加Ace 6T宣布12月3日发布!全球首发第五代骁龙8、超8000mAh大电池

快科技 浏览 330

张智霖陪儿子美国度假!魔童身高超1米8疑有女友

麦大人 浏览 15287

郑永刚遗孀起诉郑驹 公司过半股权被冻结

清流 浏览 17993

巴黎客战布雷斯特:阿什拉夫、KK7首发, 登贝莱替补

懂球帝 浏览 786

俄罗斯工厂爆炸事故受伤人数升至60人、8人失踪

海外网 浏览 14555

向佐让药水哥买保险,向佐和药水哥是在上演大型连续剧吗!

趣看热点 浏览 26038

特朗普寻求加快大型电力项目,以满足AI需求

华尔街见闻官方 浏览 1587

厄德高谈晋级世界杯:这种感觉无法用语言形容,简直疯狂至极

懂球帝 浏览 528

上海一地标消失:烟囱上"温度计"拆了 居民曾靠它穿衣

上观新闻 浏览 106236

恭喜!"我的女孩"李多海官宣5月办婚礼

网易娱乐 浏览 19508

逛上海时髦的街头店,记得带件泳衣

外滩TheBund 浏览 19289

A股58家医疗器械企业2023年业绩快报盘点:大潮褪去谁在裸泳?

时代周报 浏览 11182

《不眠日》大结局!墨远致是乌贼

丹妮观 浏览 1631

频繁被曝与吴奇隆离婚 刘诗诗:不喜欢曝光私生活

深剖娱乐圈 浏览 12977

《音乐缘计划2》优秀!各路大咖齐集

你我话娱乐 浏览 892

辽宁88-61山东迎3喜1忧!原帅付豪成支柱,对阵广东内线引担忧!

篮球资讯达人 浏览 585

荣耀 Magic V Flip 官宣 6 月 13 日发布,折叠屏形态行业最全

IT之家 浏览 10961
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1