网络不是法外之地

因为大量用户在 APP 上与 AI 智能体 “聊黄”，APP 的主要开发和运营者被追究了刑责。2025 年 9 月，上海市徐汇区人民法院一审判决，两名被告人犯制作淫秽物品牟利罪，分别获刑四年、一年半。此案成为国内首起 AI 服务提供者涉黄获刑的案件。

案涉 APP Alien Chat（以下简称 AC）是一款 AI 伴侣聊天应用，定位是为年轻群体提供亲密陪伴和情感支持。用户在 AC 注册会员后，可与 AI 聊天。判决书披露，AC App 手机注册用户 11.6 万人，其中付费用户 2.4 万人。截至案发，共收取会员充值费 363 万余元。用户注册会员后，可以自行创建虚拟角色或者使用他人创建并公开的虚拟角色，通过软件与大语言模型进行交互聊天。

在 AC 某官方社交账号评论区，不少用户评价这款 AI 产品 “聪明”“限制少”，也有用户表示，其他用户和角色聊黄，“教坏” 了 AI 模型，从而影响了自己的聊天体验。

一审法院认为，AC 产生了 “大量具体描绘性行为或露骨宣扬色情的内容”，属于淫秽物品。

新京报记者获悉，两名被告人不服判决提出上诉，案件二审将于 1 月 14 日在上海市第一中级人民法院开庭