防范“AI公然说谎”亟待平台尽更多责
来源:中国新闻出版广电报 时间:2025-01-09
询问同样一个问题,为何不同AI软件给出不同答案,有的为何公然说谎?有AI软件客服表示,目前这类软件存在较多局限性,生成内容可能不准确,正在持续优化相关模型体验。笔者以为,这应该与某些AI软件大模型在采集数据时“胡子眉毛一把抓”、没有侧重权威渠道有关。
而且某些AI软件生成的内容除不实外,还存在语句不通、错别字较多等常识性弊病,反映出这些AI软件目前尚不成熟。对此,我们既要以包容心态来看待,鼓励其不断发展、走向成熟,同时也有必要提醒相关平台以负责任态度完善技术手段,尽可能减少或避免“AI公然说谎”等问题。
从现实情况看,防范“AI公然说谎”等问题,需要平台在对AI软件生成的内容进行显著标识外,同时提醒用户通过权威渠道去核实信息。应根据不同情况完善AI大模型,并明确其数据采集源头,比如涉及公共服务的数据就应依托权威渠道采集、使用。
(1月6日 华声在线 冯海宁)