关闭广告

OpenAI ChatGPT自动切换严格模型处理情感话题,用户却不知情

IT之家1505人阅读

IT之家 9 月 29 日消息,当用户提交情感化或个性化提示词时,OpenAI 旗下的 ChatGPT 会自动切换到限制性更强的语言模型,但这一过程不会通知用户。


目前,OpenAI 正在 ChatGPT 中测试一款全新的“安全路由系统”,该系统可根据对话主题自动将交流内容导向不同模型。ChatGPT 负责人尼克・特利(Nick Turley)表示,只要对话涉及“敏感或情感类主题”,该系统就会启动干预。

在实际应用中,ChatGPT 会将用户提示词临时转交至更严格的模型进行处理,例如 GPT-5,或是专用模型“gpt-5-chat-safety”。特利指出,这种模型切换仅针对单条消息触发,且只有当用户专门就此向模型提问时,切换行为才会显露出痕迹。

IT之家注意到,OpenAI 早在 9 月的一篇博客文章中就首次披露了这类基于情感的路由机制,并将其描述为针对“严重心理困扰”场景的防护措施。而特利此次的最新表态则将该机制的适用范围扩大到所有涉及敏感或情感领域的对话。

莱克斯(Lex)对这套新路由系统开展的技术评估显示,即便是无害的

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

限量555台 蔚来新ET5T暗影套装限定车型售31.6万

网易汽车 浏览 986

中国第三代自主超导量子芯片“悟空芯”正式发布

环球网资讯 浏览 12893

外媒:德军舰8月将穿航南海,为2002年来首次

环球网 浏览 25749

记者:巴萨将加薪续约哈维,并会退还当初他自费加盟俱乐部的费用

直播吧 浏览 14386

一不做二不休?张恒爆郑爽利用阴阳合同逃税漏税

趣看热点 浏览 25543

坏了,看到剧本杀鼻祖了!

时尚COSMO 浏览 681

本田亮相"Mini版奥德赛" 预计售价15万

新车指南 浏览 12499

问界M9 2024款开放华为ADS小蓝灯升级服务

网易汽车 浏览 1054

媒体:美防长住ICU多日拜登毫不知情 让人难以置信

上观新闻 浏览 12956

沪电股份:前三季度净利润同比增长47.03%

网易财经 浏览 763

达成停火18天后战火再起 以总理下令袭击加沙

国际在线 浏览 764

网友偶遇奚梦瑶何猷君约会 地点正是求婚之地

网易娱乐 浏览 26539

伊姐十一热推:电影《江南:在爱开始的地方等你》;电视剧《围猎》......

伊周潮流 浏览 995

中方提醒中国游客避免前往日本 日媒:或造成重大影响

环球网资讯 浏览 40290

解放军迅速组织起大规模演习 战机机型令岛内诧异

枢密院十号 浏览 14710

丰田连续第八届参展进博会,全面展示本地化成果

观察者网 浏览 662

共谋细胞与基因治疗产业创新发展!珠海举行前沿技术交流会

南方都市报 浏览 1496

网攻武汉地震监测中心事件发现境外情报机构特征

界面新闻 浏览 14980

失去眉毛的刘雯,脸更值钱了

新氧 浏览 14881

牛弹琴:马英九将首次到访大陆 有三个很不寻常之处

北京日报客户端 浏览 106372

日本自卫队高官率队参拜靖国神社遭调查

极目新闻 浏览 12524
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1