关闭广告

OpenAI ChatGPT自动切换严格模型处理情感话题,用户却不知情

IT之家1481人阅读

IT之家 9 月 29 日消息,当用户提交情感化或个性化提示词时,OpenAI 旗下的 ChatGPT 会自动切换到限制性更强的语言模型,但这一过程不会通知用户。


目前,OpenAI 正在 ChatGPT 中测试一款全新的“安全路由系统”,该系统可根据对话主题自动将交流内容导向不同模型。ChatGPT 负责人尼克・特利(Nick Turley)表示,只要对话涉及“敏感或情感类主题”,该系统就会启动干预。

在实际应用中,ChatGPT 会将用户提示词临时转交至更严格的模型进行处理,例如 GPT-5,或是专用模型“gpt-5-chat-safety”。特利指出,这种模型切换仅针对单条消息触发,且只有当用户专门就此向模型提问时,切换行为才会显露出痕迹。

IT之家注意到,OpenAI 早在 9 月的一篇博客文章中就首次披露了这类基于情感的路由机制,并将其描述为针对“严重心理困扰”场景的防护措施。而特利此次的最新表态则将该机制的适用范围扩大到所有涉及敏感或情感领域的对话。

莱克斯(Lex)对这套新路由系统开展的技术评估显示,即便是无害的

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

以方扣押“全球坚韧船队”后 多国船员被驱逐遣返

环球网资讯 浏览 958

小米SU7成都事故惨烈 "打不开的门"问题在哪儿

网易汽车 浏览 1040

一俄军用直升机在亚美尼亚被击落,阿塞拜疆表示这只是一起意外

趣看热点 浏览 25676

火箭不敌公牛连跌2位到西部第10 太阳和湖人分别“躺”升1位

直播吧 浏览 12662

鹰击18不走寻常路,美军想拦截发现无从下手

浏览 10631

诺奖得主:特朗普自摆乌龙 系中国明朝以来最严重自残

澎湃新闻 浏览 5879

FF即将完成交付前最后一轮融资,国内首店落户上海或武汉

雪豹财经社 浏览 18164

北约建"无人机墙"彻底激怒俄罗斯 俄方强硬回应

上观新闻 浏览 36894

胜者为王!德卡大战让法网提前进入狂欢模式,德约和阿卡你挺谁?

网球之家 浏览 16642

黄晓明:肉白增了

娱乐圈笔娱君 浏览 758

思辨之夏|丁磊、史喆:训练1个ChatGPT要多少钱?

网易财经智库 浏览 16236

明星基金经理离任后 曾经的代表作表现如何?

经济观察网 浏览 15489

广州房票能提振楼市吗?看看专家怎么解读

南方都市报 浏览 12699

腾讯元宝接入微信支付

观察者网 浏览 679

初秋街头的松弛vibe 怎么穿出来?

创作者_WCD3 浏览 15057

佩斯科夫:"海燕"巡航导弹试验不应影响俄美互动

国际在线 浏览 769

百万超跑,救不了极氪

虎嗅APP 浏览 14267

白宫:美政府正密切关注胡塞武装任何报复性袭击

环球网资讯 浏览 12704

吉利汽车:为市值“反击战”埋伏笔!

汽车K线 浏览 12510

绝境看梅西!8天两进决赛创多项纪录,冲击前无古人第45冠

ALL体育 浏览 14566

郑永刚:最后时刻我们加强了防守 进攻端也打出了防守反击的特点

直播吧 浏览 19464
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1