消保委：ChatGPT等应引导科技进步为社会发展服务

针对“AI换脸”引发的一系列争议新闻，江苏省消保委认为，随着ChatGPT、GPT-4与文心一言等人工智能逐渐链接大众生活，诸如AI换脸、智能写作、虚拟聊天之类的技术也从科幻走进现实，引发新一轮技术突破，展现出广阔的市场前景，但其带来的风险也不容小觑。

有关经营者应当吸取此前其他行业野蛮生长造成负面影响的教训，着重引导科技进步为社会发展、人民幸福服务，为自家的产品“按上刹车再上路”。

江苏省消保委称，根据《消费者权益保护法》规定，经营者向消费者提供商品或服务应当符合法律规定，恪守社会公德。而今年1月10号正式施行的《互联网信息服务深度合成管理规定》则对AI换脸技术在内的深度合成服务进行了更加具体的规定。规定要求提供深度合成服务的经营者至少需要履行以下七项义务:

制定、公开和履行相关管理规则;

以显著方式提示使用者承担信息安全义务;

依法对使用者进行真实身份信息认证;

对使用者的输入数据和合成结果进行审核;

发现不法行为应立即采取措施并向有关部门报告;

建立健全的辟谣机制，便于采取辟谣措施;

设置投诉通道，及时处理申诉。

经营者若违反规定将受到有关法律、行政法规的处罚;造成严重后果的，还将依法从重处罚。这就意味着企业若没有尽到以上保障义务，也将对自家产品造成的不良影响承担责任。