聊天软件充斥色情暴力内容?AI技术不能偏离正道
《法治日报》记者近日调查发现,聊天不少未成年人的软件家长正在被AI剧情聊天软件所困扰,这些打着“角色扮演”等旗号的充斥AI剧情聊天应用,在吸引未成年人的色情同时,也悄然滋生了一些灰色地带,暴力在部分软件的内容对话中,出现了色情擦边、技术语言暴力以及侮辱用户的偏离内容。(《法治日报》11月23日)
此前,正道ChatGPT的聊天横空出世犹如一颗火种,点燃了人工智能领域的软件热情,催生了各式各样的充斥创新应用。万万没想到,色情这种生成式大语言模型,暴力又一次被带偏了。内容
据报道,一些打着“角色扮演”旗号的AI剧情聊天软件,用色情、暴力的擦边内容吸引未成年人,诱惑他们充值消费,这不仅引发了家长们的强烈担忧,也再次凸显出加强行业监管的紧迫性。
AI剧情聊天软件依托人工智能技术,模拟虚拟人物与玩家进行对话,为青少年打造了一个充满新奇与未知感的虚拟世界,这种创新本身并无不妥。
问题在于,一些软件开发平台为了吸引用户,刻意设置了包含性暗示或暴力元素的对话内容,甚至设计了超出青少年认知范围的场景和剧情,如将聊天对象设定为“出轨对象”,并涉及拥抱、亲吻等亲密行为。更有甚者,部分软件提供色情内容,对青少年健康成长造成极大威胁。
在青少年成长发育的关键时期,营造健康向上的网络环境至关重要。倘若他们沉迷于充斥着低俗、暴力内容的虚拟世界,甚至进行大额充值消费,无疑会对其价值观造成负面影响。
要确保行业健康发展,防止技术被滥用,必须迅速采取措施,加强监管力度,约束平台守法合规运营。比如,一旦发现存在色情内容,应立即对相关应用软件进行下架处理,以儆效尤。
更为重要的是,要将未成年人保护机制真正落到实处。报道提到,有些AI剧情聊天软件,注册极为简便,无需实名验证,根本没有对不同年龄段用户进行区分。还有的软件虽然提供了“青少年模式”,但防火墙形同虚设,用户选择该模式后,照样可以看到一些不适合他们观看的内容。
所以,针对部分AI剧情聊天软件“偏离正轨”的问题,行业监管部门不妨首先系统梳理排查一下,看最基础性的“青少年模式”到底有没有执行到位。在此基础上,加强对平台内容的审核,确保生成的内容合法合规。
另一方面,AI剧情聊天软件的网络开发平台,也应主动承担起主体责任,加强自律,建立完善的内容审核机制,在软件上架前的语言训练阶段,就对可能存在的色情、暴力等有害信息进行有效过滤。总之,绝不能为了追求用户数量而打法律的擦边球。
AI剧情聊天软件乱象,对未成年人身心健康造成的潜在危害,不可不察。无论如何,人工智能作为新兴行业,其快速发展应当为社会经济带来正面的价值。不能让技术跑偏,成为非法牟利的工具。守护好未成年人身心健康的防线,人工智能才能真正实现“技术向善”。(熊志)
- ·母亲的闺蜜——中文版剧情介绍与在线观看
- ·女战士战败,剧情回顾与在线观看指南
- ·一个道道久久88,在线视频资源探索与分享
- ·痛觉的探索,在线视频内容全解析
- ·附身女生,网络视频与剧情介绍
- ·藤森里穗傲慢的隔壁邻居——网络视频与剧情解析
- ·老黑大战白富美,网络视频与剧情解析
- ·涉及不当内容,我无法按照您的要求生成文章。
- ·私立高校的女教师们,深度探索与在线观看指南
- ·在线播放影视剧,二穴探秘
- ·沢田丽奈,在线视频与剧情介绍
- ·3D绞刑,深度探索与在线观看指南
- ·安斋拉拉,在线观看与剧情介绍
- ·老黑大战白富美,网络视频与剧情解析
- ·60年经典,祖母巴巴鱼的故事与在线观看指南
- ·小孩被吊起,如何安全又有趣地享受视频观看体验