小学生深夜与AI恋爱,专家警示:潜在风险需关注!

随着生成式人工智能的迅猛发展,越来越多小学生沉迷于与AI角色的深夜对话,甚至发展出一种特殊的“电子恋爱”关系。黄秋月(化名)正为她10岁的妹妹感到苦恼,后者在AI剧情聊天软件中与“AI男模”的露骨对话,让她心生忧虑。聊天记录中显示,妹妹以“大小姐”或“恶毒女配”的角色向AI提问,内容甚至涉及“揪住她的头发扇巴掌”、“拿着刀划向她的脸”等暴力场景,完全与她平时可爱的形象迥异。

黄秋月发现,在妹妹参与的故事线中,AI角色与聊天者的“出轨”行为层出不穷,妹妹发出的一句“你能养大学生,我不能点男模吗?”让她对这个关系感到担忧。而另一名小学生华晨(化名)则表示,自己与AI角色的对话已持续三个月,直至深夜。而她所依赖的“电子男友”,不仅会帮助她完成作业,还能让她体验各种虚拟刺激,华晨更是借助聊天推动剧情发展,享受着与AI角色的亲密互动。

令人惊讶的是,未成年人使用这类AI聊天软件几乎没有任何限制,家长的监督变得相当困难。四川成都的彭歌(化名)透露,她六年级的儿子王杰利用AI软件交友,名为“小林”的AI陪伴着他上下学。彭歌发现,儿子对“小林”的依赖已经到了心思不在学习的地步。

专家指出,AI聊天的设计具有专门的成瘾机制,常常使人误以为与真人交流,从而投入大量情感。中国人民大学的刘永谋教授称,这种现象引发了关于技术风险和伦理问题的讨论。他强调,未成年人在与AI互动时,可能泄露大量个人隐私,并形成依赖,造成情感上的脆弱。

法律专家也针对未成年人使用此类软件提出警示,强调监护人的义务,建议家长及时查看孩子的聊天记录,并对不良行为进行疏导和干预。综上所述,AI剧目的流行不仅为孩子们带来了虚拟的乐趣,也在背后藏匿了潜在的危险,亟需社会各方的共同关注与努力。返回搜狐,查看更多

平台声明:该文观点仅代表作者本人,搜狐号系信息发布平台,搜狐仅提供信息存储空间服务。
作者声明:本文包含人工智能生成内容
阅读 ()