欧盟AI法案要求AI透明化:对客户体验意味着什么?
欧盟AI法案的关键透明度条款于8月2日生效,要求企业告知用户与AI的交互、标记AI生成内容等。专家指出,这不仅是合规义务,更是通过透明化赢得消费者信任、优化AI治理的机遇。

希望在欧盟开展业务的企业,如今必须披露客户何时与AI交互,以及内容是否由AI生成。
8月2日,欧盟开始执行《欧盟AI法案》的关键透明度规定。尽管该法案部分条款有所延迟,但第50条要求企业告知用户其正在与AI交互,标记AI生成的合成内容,披露情绪识别和生物特征分类的使用,并对深度伪造及AI生成的公共利益文本进行标注。
同日,负责执行该法案的机构——欧盟AI办公室(EU AI Office)也正式成立。
专家向CX Dive表示,欧盟AI法案的规定是通过透明度建立消费者信任、修订AI治理框架的契机。
“组织及客户体验(CX)领导者不应将此视为另一项监管要求,”TTEC Digital EMEA地区交付与客户成功副总裁Mahadevan Meikum Perumal告诉CX Dive。“这种看法是错误的。在我看来,这是一个机遇。”
欧盟AI法案为消费者提供了他们明确想要的东西:透明度。
“面对这些透明度要求,我一直在告诉与我交流的企业:‘忘掉监管机构吧。过去24个月,各地区的消费者数据已经非常清晰。消费者想知道自己何时接触到AI,’”Forrester首席分析师Enza Iannopollo对CX Dive表示。“在我们调查的几乎每个市场中,超过70%的消费者都有此需求。”
以客户为中心建立AI系统
Perumal认为,这些规定也是以客户为中心建立AI治理的机遇。这首先要盘点已部署的AI系统。
“关键在于,首先要盘点你的系统,以应对8月2日的截止日期,”Perumal告诉CX Dive。“许多组织并未意识到其内部嵌入了多少AI。”
Perumal鼓励CX领导者与首席信息官(CIO)、首席技术官(CTO)和首席数据官紧密合作,并保持持续沟通。
“错误的做法是将此局限于法律或IT问题,”Perumal说。“我们常见的情况是将其视为CX与法律的对立。如果要说它是什么,它是一项全组织范围的倡议。”
随着企业部署更多AI应用,遵守欧盟AI法案将是一个持续的过程。
“很多时候,AI创新不会停滞,它会不断演进,”Perumal说。“使系统合规是旅程的开始,而非终点。关键在于建立治理机制并不断重新审视治理。”
消费者可以期待什么
8月2日或之后,当欧盟消费者与AI聊天机器人或其他AI应用交互时,他们可以预期看到更多沟通或提示,告知其正在与AI交互。
与欧盟《通用数据保护条例》(GDPR)类似,企业如何披露既是一个体验难题,也是一个法律和技术挑战。清晰、不突兀的披露可以建立信任,而无益或突兀的披露则会造成困惑。
并非所有企业早期的透明度尝试都会顺畅无阻。
“我预计一些实施在体验上会有所偏差,”Iannopollo说。“你可能会遇到更多横幅或元素,比你习惯的体验略显侵入性,但我认为企业会在完善沟通策略方面逐渐做得更好。”
最终,Iannopollo预计企业会展示更多表示AI的符号。
通过负责任的治理建立信任
Forrester的研究表明,当企业透明地部署AI时,消费者对AI的信任度会更高。
“透明度是让人们感到更舒适、帮助他们更熟悉AI、并理解其中权衡的第一步,我认为这是根本所在,”Iannopollo说。
Genesys去年的一项调查发现,五分之四的消费者希望企业在强大护栏下部署AI,因为他们不信任该技术。但当消费者知道有人工客服可用或参与其中时,信任度会上升。良好的AI治理也能建立信任,因为成功的AI部署更可能被再次使用。
一旦CX领导者解决了监管问题,他们应利用这些规定作为了解客户的契机,Iannopollo说。
“我真正会做的是审视我所服务的客户群,开始了解他们对我的AI展示方式感受如何?这对他们的体验是变好还是变坏?”