来源：市场资讯

（来源：雷科技）

这几天AI圈子里又出事了！

4月14日消息，央视点名多款AI应用存在涉黄生成漏洞，其中哩布哩布AI的漏洞被重点提出。

图源：微博

到底咋回事？

4月12日，在被央视点名批评哩布哩布AI存在安全漏洞后，哩布哩布火速发布了一份《关于加强内容安全管理的说明》，态度倒是挺端正，直接就是认错、道歉、整改三连。

4月14日中午，哩布哩布AI官方发公告称，在复杂的提示词组合后，确实存在违规内容生成的问题，并发布道歉通告。通篇看完总结起来就是：我们错了，我们已经改了，大家别骂了。

图源：哩布哩布AI公众号

在小雷看来，其实不仅是哩布哩布，现在可能所有的生成式AI都有这个风险，这条安全漏洞背后已经形成了一条灰色产业链。

有人专门研究怎么绕过审核，然后把“越狱提示词”打包成教程甚至直接卖钱，再配合AI批量生成擦边内容，引流到***网站或付费群。

哩布哩布这次被曝光的漏洞，很可能就是被这些人盯上了。

风险远不止涉黄这么简单，还有其他隐患要解决。

图源：AI生成

首先第一个就是未成年的风险。

你想啊，现在AI平台那么多，用户群体里就有大量的未成年，如果平台没监管好，孩子输入几个关键词就可以生成涉黄的内容，那后果可太严重了。家长举报，监管部门介入，平台扛不住的。

然后是侵犯名誉权和肖像权。有人用它恶意生成别人的不雅照片或丑化形象，到处传播，被侵害的人根本没法维权，因为生成者用的是虚拟账号。如果审核不力，等于给AI造黄谣提供了机会。

最近半年已经有多起利用AI生成虚******图片的案件，源头就是像哩布哩布这些内容安全有漏洞的平台。

其实漏洞本质上是平台的失职，但是平台的功能没有错，只是被不安好心的人钻了空子。

平台本身也有竞争压力，功能要完善，如果没有用户，自然也就赚不到钱，就会关掉AI。将来真正想用AI生成自己喜欢的东西的人，就无辜躺枪了。

好在央视及时发现问题，哩布哩布还算火速回应，认错、修复、复盘、接受监督，态度那就一个诚恳。

图源：微博

在小雷哔哔（id：xiaoleibbb ）看来，哩布哩布这次翻车，给整个AI应用行业提了个醒。

平台的内容安全是底线。AI平台是这样，其他的内容平台也是这样。

央视点名AI漏洞只是开始，后续监管肯定会有动作。

还有网友看到这则新闻后吐槽说：要是别的AI也有这个风险，我就不让我家小孩继续用AI了。

说到最后，这次哩布哩布AI因涉黄生成漏洞被央视点名这事，刚好把这些漏洞，灰产暴露在我们面前。

平台不能总等着媒体曝光了再重视，平时就该做好日常的审查工作。

各位对AI生成内容涉黄这个情况有什么看法呢，欢迎评论区留言讨论。返回搜狐，查看更多