当前位置:首页 > 亚星资讯 > 正文内容

腾讯元宝致歉,生成拜年海报现脏话系技术故障,已紧急修复并加强审核

yaxin5个月前 (02-26)亚星资讯244

有用户反映在使用腾讯元宝(腾讯旗下AI助手)生成拜年海报时,部分内容中意外出现了不雅词汇,引发关注和讨论,1月28日,腾讯元宝团队就此事件发布公开致歉声明,承认系技术故障导致,并已第一时间完成修复与排查,同时承诺将加强算法审核机制,避免类似问题再次发生。

事件起因:AI生成拜年海报“翻车”引争议

欧博官网abg 据多位用户反馈,他们在春节期间尝试通过腾讯元宝生成个性化拜年海报时,输入简单祝福语后,AI生成的海报文案中竟夹杂着“脏话”等不当内容,有用户输入“新年快乐,万事如意”,系统返回的海报却出现了“新年快乐,X你妈万事如意”的明显错误,引发用户对AI内容安全性的担忧,相关截图在社交平台传播后,“腾讯元宝生成拜年海报现脏话”话题迅速登上热搜,不少网友质疑:“连基础的内容审核都做不好,怎么放心用AI?”

官方回应:技术故障+审核疏漏,已紧急修复

针对此事,腾讯元宝团队28日晚发布声明,向用户致歉并说明原因,声明中表示,此次事件系“AI模型在特定场景下的技术故障”导致,具体为模型在处理用户输入的祝福语时,因训练数据中的异常样本干扰,触发了不当内容的生成机制,团队发现后,立即下线了相关功能模块,并对模型进行全面排查与修复,目前已确保生成内容恢复正常。

皇冠会员登录入口 声明中强调,腾讯元宝始终将“内容安全”作为核心底线,此次事件暴露出“算法审核机制存在疏漏”,团队已启动专项优化,计划通过“人工审核+技术过滤”双重手段,加强对生成内容的实时监控,特别是对节日祝福、传统文化等场景的专项训练,提升模型对敏感信息的识别与拦截能力。

行业反思:AI应用需筑牢“安全护栏”

www.aabbgg55.net 随着AIGC(人工智能生成内容)技术的普及,AI工具在提升效率的同时,内容安全问题也日益凸显,此次腾讯元宝的“脏话海报”事件,并非个例——此前已有多个AI产品因训练数据不当、算法漏洞等问题生成过激、歧视性内容,业内人士指出,AI生成内容的“安全性”不仅依赖技术迭代,更需要建立完善的数据清洗机制、应急预案和人工审核流程,尤其在春节、国庆等重大节日期间,更应提前对高频场景进行专项排查。

腾讯元宝团队在声明中提到,将“以此次事件为戒,持续优化技术与管理体系”,这也为整个行业敲响警钟:AI技术的应用需始终以“用户安全”和“社会责任”为前提,只有筑牢“安全护栏”,才能真正让科技服务生活。

用户反馈:理解技术瑕疵,期待改进

对于官方回应,部分用户表示“技术故障可以理解,但希望后续能更严格审核”;也有用户建议,AI产品应提供“内容预览”和“一键纠错”功能,让用户能及时发现并反馈问题,腾讯元宝已开通用户反馈通道,收集相关建议并持续优化产品体验。

春节是阖家团圆的节日,AI工具本应为节日增添温暖,而非因技术疏漏引发争议,此次事件虽为小插曲,但也提醒所有科技企业:技术创新的脚步不能停,内容安全的底线更不能松,唯有将“用户信任”放在首位,才能让AI真正成为值得信赖的“智能助手”。

相关文章

Ring Stick Up Cam价格触底!限时促销来袭,家庭安防好时机已到

如果你正在为家庭或办公室的安全防护寻找高性价比的智能摄像头,那么现在绝对是个不容错过的机会——Ring Stick Up Cam的价格再次创下新低,目前正在火热促销中!无论是想实时监控家门口、后院,还...

AI之眼能否终结空中死神?高空抛物死刑争议与科技治理的边界

悲剧重演:“悬在城市上空的痛” 近年来,高空抛物致人伤亡的悲剧屡见报端,从随手丢弃的果核、烟蒂,到花盆、装修垃圾,甚至更重的物品,从天而降的“不速之客”瞬间就能摧毁一个家庭的幸福,将鲜活的生命戛然终...

朝鲜强烈谴责美国对委内瑞拉的强权行为,称其为不可饶恕的霸权行径

朝鲜民主主义人民共和国通过其官方媒体及外务省发表声明,对美国针对委内瑞拉的一系列政策与行动予以最强烈的谴责,朝方明确指出,美国的行为是典型的强权政治和霸权主义表现,严重侵犯了委内瑞拉的国家主权和人...

开年即亮剑,反腐无休止符—新年首个工作日中纪委连打四虎

新年伊始,万象更新,当许多人还沉浸在节日的余韵中,为新一年的工作与生活规划蓝图时,中国反腐败斗争的“利剑”已然出鞘,2024年的首个工作日,中央纪委国家监委网站连续发布四条重磅消息,四名省部级领导...

以军突袭约旦河西岸一高校,引发国际关注

以色列军队对约旦河西岸的一所高校进行了突然袭击,此次行动引发了国际社会的广泛关注和热议。 据报道,此次突袭行动发生在当地时间凌晨,以色列军队以打击恐怖主义活动为由,对该高校进行了严密包围和搜查,在行...

美国民众上街抗议,强烈要求释放委内瑞拉总统马杜罗夫妇

美国多个城市爆发民众抗议活动,成千上万的美国民众走上街头,高举标语,高呼口号,强烈要求美国政府释放委内瑞拉总统尼古拉斯·马杜罗及其妻子西莉亚·弗洛雷斯。 在过去的一段时间里,美国政府对委内瑞拉进行了...