【深度思考】谨防chat类产品的潜在巨大风险，或受益000607华媒控股

【第一篇】

【第二篇】

别被火爆全网的ChatGPT“骗了” 

下面做补充思考，并不是指chatGPT，而是泛指这一类产品，现在市面上自动回复机器人其实有很多，chatGPT只是佼佼者。chatGPT或许可以受到良好的制约监管，但很多小作坊生产出的自动回复机器人，可能就存在巨大风险。相信老师们这段时间，各种渠道看到了大量盗版chatGPT的小作坊自动回复机器人了。

1、自动回复机器人，因为是机器学习答案，首先素材上，网络上就有许多不正确的风险内容，如果嵌入一些不良导向的文字，被利用，有目的性的回答，尤其是现在chatGPT是国外的软件，外网很多不适宜的内容，会有煽动可能性，暗中引导舆论等等，不适宜公开讨论，但大家都懂。

【第三篇】司马南转发虚构的chatgpt问答的图片是被骗了还是有意而为之呢？|李鬼|李逵_网易订阅 

目前chat自动回复，双标？未来chat越强，文字审核就越吃香。

2、如果chatGPT根据用户数据，同一个问题，针对不同用户，输出不同答案，这个很容易做到(现在推送广告就是这个逻辑，各种app都是这样)，那么chat类产品就是个极具杀伤力的战略武器。比如针对正常人，正常回复，但针对抑郁患者却输出更加悲观的内容，或许会产生非常可怕的后果。

图片引用自第二篇文章，最可怕的不是错误答案，而是chat类产品会输出一些看似可信、一本正经却错误的答案。

3、以上只是抛砖引玉，需要说明的是，如果自动回复机器人不受控制，或者被别有用心的恶意控制，那么会是极具杀伤性的战略武器。如果是国内的产品还好，可惜目前进度比国外差不少，但仍然可能学习到错误的内容，就像游戏、动画上面都标注“危险动作请勿模仿、专业人士指导下拍摄请勿模仿”，而chat如果不加审核，输出有诱导性的看起来令人信服的答案，后果不堪设想。

所以说，

chat最大的问题，是要保证用户的安全，这是最底层的逻辑，

如果一个产品连安全都无法保证，那么就没有任何前途！

因此，

做文字审核的000607华媒控股，且华媒控股是正宗国资企业，审核是具有权威性的。

还能受益：三胎，两会预期。今年的杭州亚运会。

知识产权保护，是杭州文化产权交易所第一大股东。以后交易也是绕不开的。