TikTok的AI工具意外让你将希特勒的话放在了付费演员的嘴里

TikTok错误地发布了其新AI数字化身工具的内部版本链接，该工具没有护栏，允许用户创建几乎可以说任何话的视频。CNN最先发现了这一问题，并允许该媒体生成包含希特勒名言和一条告诉人们喝漂白剂的信息等短语的视频。TikTok此后已下架该版本的工具，但TikTok打算推出的版本仍然可用。

TikTok的SymphonyDigitalAvatars于本周早些时候推出，让企业可以使用付费演员的肖像来制作广告。它还使用人工智能配音，让广告商输入脚本，让虚拟形象在TikTok的指导方针内说出他们想要说的话。尽管只有拥有TikTokAdsManager帐户的用户才能使用此工具，但CNN发现的版本允许任何拥有个人帐户的人尝试。

TikTok发言人劳拉·佩雷斯(LauraPerez)在给TheVerge的一份声明中表示，TikTok已经解决了“技术错误”，该错误“导致极少数用户在几天内使用该工具的内部测试版创建内容”。

当CNN发现这个内部工具时，它让该媒体制作了朗诵奥萨马·本·拉登的“致美国的信”、白人至上口号的视频，以及一段告诉人们在错误的日子投票的视频。CNN制作的所有视频都没有水印，表明视频是由人工智能生成的，而TikTok的SymphonyDigitalAvatars的正确版本却有水印。

CNN并未将其制作的视频发布到TikTok，但佩雷斯指出，如果TikTok发布了这些视频，其内容“将因违反我们的政策而被拒绝”。尽管TikTok此后已下架该版本的工具，但这仍让人怀疑，人们是否会找到其他方式来滥用数字化身创建者——以及TikTok是否已做好准备。

　　免责声明：本文由用户上传，与本网站立场无关。财经信息仅供读者参考，并不构成投资建议。投资者据此操作，风险自担。 如有侵权请联系删除！