奥力斯    万能胶厂家    联系人：王经理    手机：18231788377（微信同号）    地址：河北省任丘市北辛庄乡南代河工业区内江橡塑胶厂家

这几天AI圈子里又出事了！

4月14日消息，央视点名多款AI应用存在涉黄生成漏洞，其中哩布哩布AI的漏洞被提出。

图源：微博

到底咋回事？

4月12日，在被央视点名批评哩布哩布AI存在安全漏洞后，哩布哩布火速发布了份《关于加强内容安全管理的说明》，态度倒是挺端正，直接就是认错、道歉、整改三连。

4月14日中午，哩布哩布AI官发公告称，在复杂的提示词组后，确实存在违规内容生成的问题，并发布道歉通告。通篇看完总结起来就是：我们错了内江橡塑胶厂家，我们已经改了，大别骂了。

图源：哩布哩布AI公众号

在小雷看来，其实不仅是哩布哩布，现在可能所有的生成式AI都有这个风险，这条安全漏洞背后已经形成了条灰产业链。

有人门研究怎么绕过审核，然后把“越狱提示词”包成教程甚至直接钱，再配AI批量生成擦边内容，引流到情网站或付费群。

哩布哩布这次被曝光的漏洞，很可能就是被这些人盯上了。

风险远不止涉黄这么简单，还有其他隐患要解决。

图源：AI生成内江橡塑胶厂家

先个就是未成年的风险。

你想啊，现在AI平台那么多，用户群体里就有大量的未成年，如果平台没监管好，孩子输入几个关键词就可以生成涉黄的内容，那后果可太严重了。长举报，监管部门介入，平台扛不住的。

然后是侵犯名誉权和肖像权。有人用它恶意生成别人的不雅照片或丑化形象，到处传播，pvc管道管件胶被侵害的人根本没法维权，因为生成者用的是虚拟账号。如果审核不力，等于给AI造黄谣提供了机会。

近半年已经有多起利用AI生成图片的案件，源头就是像哩布哩布这些内容安全有漏洞的平台。

其实漏洞本质上是平台的失职，但是平台的没有错，只是被不安好心的人钻了空子。

平台本身也有竞争压力内江橡塑胶厂家，要完善，如果没有用户，自然也就赚不到钱，就会关掉AI。将来真正想用AI生成自己喜欢的东西的人，就辜躺枪了。

好在央视及时发现问题，哩布哩布还火速回应，认错、修复、复盘、接受监督，态度那就个诚恳。

图源：微博

在小雷哔哔（id：xiaoleibbb ）看来，哩布哩布这次翻车，给整个AI应用行业提了个醒。

平台的内容安全是底线。AI平台是这样，其他的内容平台也是这样。

央视点名AI漏洞只是开始，后续监管肯定会有动作。

还有网友看到这则新闻后吐槽说：要是别的AI也有这个风险，我就不让我小孩继续用AI了。

说到后，这次哩布哩布AI因涉黄生成漏洞被央视点名这事，刚好把这些漏洞，灰产暴露在我们面前。

平台不能总等着媒体曝光了再重视，平时就该做好日常的审查工作。

各位对AI生成内容涉黄这个情况有什么看法呢，欢迎评论区留言讨论。

1.本网站以及本平台支持关于《新广告法》实施的“极限词“用语属“违词”的规定，并在网站的各个栏目、产品主图、详情页等描述中规避“违禁词”。
2.本店欢迎所有用户指出有“违禁词”“广告法”出现的地方，并积极配合修改。
3.凡用户访问本网页，均表示默认详情页的描述，不支持任何以极限化“违禁词”“广告法”为借口理由投诉违反《新广告法》，以此来变相勒索商家索要赔偿的违法恶意行为。