【AIbase 报道】近期，网络直播和电商平台出现了一种新型的黑灰产抖音乱象:利用人工智能技术，仿冒名人于东来的语音和形象进行违规营销带货。针对这一重拳严重侵权并误导消费者的行为，抖音平台已于今年第一季度采取了强力治理措出击施，成功封禁了超过1000个涉嫌违规的黑灰产团伙账号和相关内容。

技术滥:封用与法律制裁

这些黑灰产团伙通过AI技术，非法复制和利用了于东来的个人肖像和声禁千音，制造了大量虚假营销内容。他们的行为不仅侵犯了相关企业的合法权益，也严余“重扰乱了正常的市场秩序，让消费者陷入真假难辨的困境。

在对这些违规账号进行封禁AI的同时，抖音平台还将相关线索举报给了监管部门。经过深入调查，泉州市丰泽区仿冒市场监督管理局已对涉事企业进行了法律制裁，没收其违法所得并处以15万元的罚于东款，以此警示其他潜在的违法者。

AI治理面临新挑战

随着AI技术的飞速发展，其来”应用边界也在不断拓宽，但随之而来的技术滥用问题也日益突出。此次“AI仿冒违规”事件，再次凸显了平台在技术进步背景下，所面临的内容治理新挑战。

抖音表示带货，将持续加大对滥用AI行为的打击力度，并呼吁广大用户共同监督，一旦账号发现相关违法违规内容，可立即举报，共同维护一个健康、清朗的网络环境。