近日，知名模特叶凯薇发布视频称，有人利用AI换脸技术制作了她的淫秽视频并大量传播，给她带来了严重困扰。她已经收集证据并向警方报案。经鉴定，该视频确系拼凑伪造，目前案件正在进一步调查中。
在视频中，叶凯薇表示，2024年她发现自己被利用AI换脸技术制作了一段淫秽视频，并且这段视频在同行和摄影师之间广泛传播，还伴随着各种污蔑性的言论。她一直在默默收集证据，并向警方报案。视频附带的《立案告知书》显示，上海警方已于2024年11月27日立案。另一份鉴定意见也表明，该视频是通过技术手段拼凑合成的。
叶凯薇呼吁大家不要听信谣言，也不要随意传播这些内容。她表示将对个别同行和摄影师提起诉讼。视频发布后引起了广泛关注，网民们对此议论纷纷。
叶凯薇是一名拥有190多万粉丝的知名模特。上海警方接到报警后立即介入调查，证实了该视频确实是拼凑伪造的。此事再次引发了人们对AI换脸滥用导致的违法侵权行为的关注。近年来，这一技术被不法分子用于诈骗、勒索等犯罪活动，多位知名人士也深受其害，并公开呼吁加强治理，应对新技术带来的风险挑战。
律师罗平指出，AI换脸存在多种法律风险：侵犯肖像权、涉嫌利用犯罪、侵犯隐私权、个人信息侵权以及侵犯著作权。他建议个人应避免在社交平台公开高清人脸信息，发现侵权后应及时固定证据并通过法律途径维权。技术使用者需取得肖像权人的书面授权，明确使用范围，避免制作和传播可能损害他人权益的内容。相关平台也应建立AI内容审核机制，及时响应侵权投诉，并标注AI生成内容。
安徽大学社会与政治学院副教授王云飞认为，整治AI换脸滥用现象既需要法律监管，也需要道德约束。随着AI技术的普及，操作门槛降低，有些人利用这项技术进行不法活动牟利，而有些人只是为了恶搞。因此，有必要制定新的规则来明确应用AI技术的行为边界，推动新技术规范化发展，引导受众树立正确的价值观，抵制低俗趣味。通过法律和道德共同发力，让新技术更好地服务于社会。