关闭广告

OpenAI ChatGPT自动切换严格模型处理情感话题,用户却不知情

IT之家1489人阅读

IT之家 9 月 29 日消息,当用户提交情感化或个性化提示词时,OpenAI 旗下的 ChatGPT 会自动切换到限制性更强的语言模型,但这一过程不会通知用户。


目前,OpenAI 正在 ChatGPT 中测试一款全新的“安全路由系统”,该系统可根据对话主题自动将交流内容导向不同模型。ChatGPT 负责人尼克・特利(Nick Turley)表示,只要对话涉及“敏感或情感类主题”,该系统就会启动干预。

在实际应用中,ChatGPT 会将用户提示词临时转交至更严格的模型进行处理,例如 GPT-5,或是专用模型“gpt-5-chat-safety”。特利指出,这种模型切换仅针对单条消息触发,且只有当用户专门就此向模型提问时,切换行为才会显露出痕迹。

IT之家注意到,OpenAI 早在 9 月的一篇博客文章中就首次披露了这类基于情感的路由机制,并将其描述为针对“严重心理困扰”场景的防护措施。而特利此次的最新表态则将该机制的适用范围扩大到所有涉及敏感或情感领域的对话。

莱克斯(Lex)对这套新路由系统开展的技术评估显示,即便是无害的

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

ChatGPT等生成式AI兴起 扎克伯格曾痴迷的元宇宙熄火了

网易科技报道 浏览 18285

媒体:拜登去基辅前向俄发了"调度令" 俄给了"礼遇"

新民周刊 浏览 96588

1500万元采购足球装备?琼中女足回应:资金用于打造国际足球产业

直播吧 浏览 19150

SpaceX计划最早在2月份进行星际飞船第三次飞行测试

网易科技报道 浏览 12671

坏消息!美国一致同意禁止中国使用AI服务

浏览 10693

澳新加发联合声明要求加沙地带停火

央视新闻客户端 浏览 12421

误会她是绿茶,是我错了

新氧 浏览 15889

台媒:美售台战机快来了 台军飞行员却要走了

参考消息 浏览 11085

一战再战、王家卫、郑智化风波、杨振宁逝世、白百何等

电影最TOP 浏览 652

12月核心通胀压力上升 分析师预计加拿大央行下周或“放鹰”

智通财经 浏览 12541

台媒:台军志愿役士兵一年提前退伍逾4000人

环球网资讯 浏览 18519

AI“碰撞”量子 一场颠覆未来的创新变革在这里诞生

上观新闻 浏览 1565

法蒂:感觉前年在巴萨所做的一切没被重视,我不得不决定换个球队

直播吧 浏览 10908

秋天,穿成大女人更高级!

LinkFashion 浏览 15091

2023最养眼红毯!钟楚曦李小冉何穗比美

不八卦会死星人 浏览 19508

年薪300万请来LV高管!泡泡玛特“奢侈品化”的生死赌局

杠杆游戏 浏览 34

《少林足球》黄一飞74岁近照曝光 露面悼念吴孟达

网易娱乐 浏览 26615

下面哪一种“姿势”是你的入睡姿势呢?

Yuki女人故事 浏览 11056

市值20亿,成长空间大的龙头,A股小而美企业名单

资本百科 浏览 12920

从“土三轮”到“全球潮品”,徐州丰县的“三蹦子”何以“闯世界”

澎湃新闻 浏览 763

"美国炸毁北溪"爆料者:美希望乌获胜是"自杀"行为

环球时报新闻 浏览 19457
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1