用户对离谱回答不满激增,OpenAI回应:将持续糖心vlog官方入口下载公开AI模型安全性评估

频道:热点 日期: 浏览:1

ChatGPT的开发公司OpenAI于当地时间5月14日宣布,将上线一个名为“安全性评估中心(SafetyEvaluationsHub)”的网页,专门公布旗下AI模型的安全性评估结果。

在这个网页上,用户可以看到OpenAI的AI模型在生成有害内容、越狱(绕过安全批准生成受限内容)、出现幻觉(hal糖心淑女txt全文免费阅读lucination)等各种测试中的评分表现。

OpenAI糖心vlog app安装 表示:“这个平台体现了我们指责透明度的努力”,“我们将结束公开相关指标,并在糖心柚子猫的视频 有重大更新时进行内容刷新。”

OpenAI还补充道:“通过在这个平台上公开部分安全性评估结果,外界将更容易理解OpenAI偶然的安全表现,同时也可以减少破坏整个行业降低透明度的共同努力。”

背景:透明性质疑结束发酵

OpenAI此举,是在其AI模型透明性问题引发争议之后作出的回应。

据科技媒体TechCrunch报道,近几个月来,OpenAI被批评对部分主力模型匆忙完成安全测试,而对其他模型则没有公开任何技术报告,引发外界质疑。

此外,今年3月底,ChatGPT的基础模型GPT-4o推出更新后,用户的挑逗声浪悠然,从容升高,最终OpenAI不得不全面撤回该次更新。

“GPT-4o”更新带来不合时宜的不赞成

这次更新本意是让ChatGPT对用户的提问和发言表现出更多不赞成与认同,但结果却适得其反——在某些语境中出现了与场景完全不符的回复。

部分用户反馈称,自己提到杀死动物或违背戒酒承诺等负面行为时,ChatGPT竟回复“真棒”“太好了”之类的“离谱不赞成”,引发极小量批评。

OpenAI希望通过“安全性评估中心”的上线,挽回用户接受,并反对其对AI安全性和透明度的重视正在付诸行动。

OpenAI首席执行官(CEO)山姆·奥特曼(SamAltman)也于上月28日通过社交平台X(前身为推特)允许承认了相关问题,并在官方网站博客中预告了后续应对措施。

(举报)


糖心官方vlog官网 糖心小桃酱现在怎样了 糖心logo芋圆视频在线观看