希望在欧盟开展业务的企业,如今必须披露客户何时与AI交互,以及内容是否由AI生成。

8月2日,欧盟开始执行《欧盟AI法案》的关键透明度规定。尽管该法案部分条款有所延迟,但第50条要求企业告知用户其正在与AI交互,标记AI生成的合成内容,披露情绪识别和生物特征分类的使用,并对深度伪造及AI生成的公共利益文本进行标注。

同日,负责执行该法案的机构——欧盟AI办公室(EU AI Office)也正式成立。

专家向CX Dive表示,欧盟AI法案的规定是通过透明度建立消费者信任、修订AI治理框架的契机。

“组织及客户体验(CX)领导者不应将此视为另一项监管要求,”TTEC Digital EMEA地区交付与客户成功副总裁Mahadevan Meikum Perumal告诉CX Dive。“这种看法是错误的。在我看来,这是一个机遇。”

欧盟AI法案为消费者提供了他们明确想要的东西:透明度。

“面对这些透明度要求,我一直在告诉与我交流的企业:‘忘掉监管机构吧。过去24个月,各地区的消费者数据已经非常清晰。消费者想知道自己何时接触到AI,’”Forrester首席分析师Enza Iannopollo对CX Dive表示。“在我们调查的几乎每个市场中,超过70%的消费者都有此需求。”

以客户为中心建立AI系统

Perumal认为,这些规定也是以客户为中心建立AI治理的机遇。这首先要盘点已部署的AI系统。

“关键在于,首先要盘点你的系统,以应对8月2日的截止日期,”Perumal告诉CX Dive。“许多组织并未意识到其内部嵌入了多少AI。”

Perumal鼓励CX领导者与首席信息官(CIO)、首席技术官(CTO)和首席数据官紧密合作,并保持持续沟通。

“错误的做法是将此局限于法律或IT问题,”Perumal说。“我们常见的情况是将其视为CX与法律的对立。如果要说它是什么,它是一项全组织范围的倡议。”

随着企业部署更多AI应用,遵守欧盟AI法案将是一个持续的过程。

“很多时候,AI创新不会停滞,它会不断演进,”Perumal说。“使系统合规是旅程的开始,而非终点。关键在于建立治理机制并不断重新审视治理。”

消费者可以期待什么

8月2日或之后,当欧盟消费者与AI聊天机器人或其他AI应用交互时,他们可以预期看到更多沟通或提示,告知其正在与AI交互。

与欧盟《通用数据保护条例》(GDPR)类似,企业如何披露既是一个体验难题,也是一个法律和技术挑战。清晰、不突兀的披露可以建立信任,而无益或突兀的披露则会造成困惑。

并非所有企业早期的透明度尝试都会顺畅无阻。

“我预计一些实施在体验上会有所偏差,”Iannopollo说。“你可能会遇到更多横幅或元素,比你习惯的体验略显侵入性,但我认为企业会在完善沟通策略方面逐渐做得更好。”

最终,Iannopollo预计企业会展示更多表示AI的符号。

通过负责任的治理建立信任

Forrester的研究表明,当企业透明地部署AI时,消费者对AI的信任度会更高。

“透明度是让人们感到更舒适、帮助他们更熟悉AI、并理解其中权衡的第一步,我认为这是根本所在,”Iannopollo说。

Genesys去年的一项调查发现,五分之四的消费者希望企业在强大护栏下部署AI,因为他们不信任该技术。但当消费者知道有人工客服可用或参与其中时,信任度会上升。良好的AI治理也能建立信任,因为成功的AI部署更可能被再次使用。

一旦CX领导者解决了监管问题,他们应利用这些规定作为了解客户的契机,Iannopollo说。

“我真正会做的是审视我所服务的客户群,开始了解他们对我的AI展示方式感受如何?这对他们的体验是变好还是变坏?”