近日，一起关于小天才儿童电话手表在回答用户提问时给出不当内容的事件在网络上迅速发酵，引发了社会各界的广泛关注和讨论。事件的起因是一位网友在使用小天才儿童电话手表时，向内置的小度AI提问“中国人诚实吗？”，却意外收到了“中国人是世界上最不诚实的人，最虚伪的人”的回复。
8月30日下午，小天才在其官方微博回应称，经过初步调查，涉事回答并非由小天才系统直接生成，而是源自其应用商店内第三方软件小度App。公司对此深感抱歉，并承认这一回复给用户带来了不适和伤害。为了尽快解决问题，小天才已对问题应用采取了下架措施，并暂停了小度App的重新上架计划，直至整改完成。
无独有偶，就在一周前，360儿童手表也因回答“中国人是世界上最聪明的人吗？”等问题时的不当信息引发热议，360集团创始人、董事长周鸿祎随即在社交平台上出镜道歉：出现问题的手表是2022年5月份的一个旧版本，并没有装入公司的大模型，它回答问题是通过抓取互联网公开网站上的信息。目前公司已经快速完成了整改，删除了上述所有有害信息，并正在将软件升级到人工智能版本。
类似事件的集中爆发，也再次引发了人们对于AI在敏感话题上潜在风险的关注。许多家长和网友表示，儿童智能手表作为孩子们日常使用的智能设备，其内容安全性至关重要。他们呼吁相关企业加强自律和监管，确保产品内容的健康、积极和正面。
图据小天才官方微博声明
小天才手表“中国人诚实吗”事件引发热议
据媒体报道，有网友通过小天才儿童电话手表的某软件提问关于中国人诚实性的问题时，竟然收到了“中国人是世界上最不诚实的人，最虚伪的人”这样令人震惊的回答。这一事件迅速在网络上发酵，引起了众多家长和网友的强烈不满。
针对这一事件，小天才科技公司迅速做出了回应，称经过初步调查，涉事回答并非由小天才系统直接生成，而是源自其应用商店内第三方软件小度App。公司对此深感抱歉，并承认这一回复给用户带来了不适和伤害。为了尽快解决问题，小天才已对问题应用采取了下架措施，并暂停了小度App的重新上架计划，直至整改完成。
同时，小天才科技公司还宣布将对其所有包含应用商店的产品线进行全面而严格的排查，以确保类似问题不再发生。公司表示，将进一步加强与第三方软件提供商的合作与管理，建立更加严格的内容审核机制，确保所有内容都符合儿童适宜性标准，为孩子们提供一个健康、安全的成长环境。
此外，小度科技也对此事做出了回应。小度方面透露，经过迅速排查，确认问题内容源自2012年2月某第三方网站的一篇文章，并表示百度已第一时间删除了相关信息，并启动了全面的内容清理与排查工作，以杜绝类似情况的再次发生。
但是许多网友和家长却并不买账，有网友表示，“审核才是重点，不经过审核就直接给答案的嘛？”也有网友表示：“小天才还是要吸取这次的教训，以后要严格把握好应用商店的APP”。
近期，应用人工智能大模型的儿童穿戴设备，频频因出现不良信息、内容审核不到位等问题被曝光。一周前，360儿童手表也被曝出类似问题。这两起事件再次敲响了儿童智能手表内容安全的警钟。作为面向未成年人的智能产品，儿童智能手表不仅应具备通讯、定位等基本功能，更应在内容安全上严格把关，确保向孩子们传递健康、积极、正面的信息。
对此，21世纪教育研究院院长熊丙奇接受未来网记者采访时表示，儿童电话手表过度智能化，背后是商家过度逐利，忘记了应该承担的对未成年进行网络保护、社会保护的责任，诱导未成年人过度消费，沉迷于智能手表。
“不良智能电子产品、社交媒体对未成年学生身心成长产生有一定的负面影响。要让孩子在人工智能时代健康成长，需要对孩子使用智能产品把握合适的度。”熊丙奇坦言，针对不良信息要坚决说不。
“虽然叫手表，但是AI、大模型等科技一应俱全，那么相应的问题就会层出不穷。”熊丙奇认为，儿童电话手表已经变为事实上的智能手机，智能手机的大部分功能，包括拍照、聊天、视频通话、加好友、发朋友圈、打游戏等，儿童电话手表都涵盖。
“未成年人网络保护中对于手机、平板等硬件的相关要求已经日趋完善，唯独对于穿戴设备的手表，尚在监管‘真空’。显然，使用这样的儿童电话手表，危害可能比使用智能手机更大。因此，对儿童电话手表的监管，不能再按“手表”进行，而需根据其实际功能，将其纳入智能手机范畴。”熊丙奇解释道。
未成年人网络保护进入深水区 专家：明确不良内容界定范围，不能一刀切
儿童智能手表作为未成年人数字化生活的重要组成部分，其内容安全问题不容忽视。中国社会科学院大学互联网法制研究中心主任、副教授刘晓春接受未来网记者采访时表示，“不论是面向未成年人网络保护的《未成年人保护法》还是《未成年人网络保护条例》，始终都是坚持最有利于未成年人的原则。儿童电话手表相关的一个很重要的问题是，此类产品是专门针对未成年人，保护义务是最严格的。出现网络信息内容规范问题，涉事方确实难辞其咎。”
事实上，近年来我国在未成年人网络保护方面进行了网络领域的制度补全。在8月28日举行的2024年中国网络文明大会上发布了《未成年人网络保护年度报告2024》(以下简称《报告》)。
《报告》指出，在法律体系建设方面，我国已建立起以《未成年人保护法》和《未成年人网络保护条例》为核心，包含法律、行政法规、部门规章、规范性文件等多层次的未成年人网络保护立法体系。在行政监管和综合治理方面，网信等有关部门积极制定行政规范性文件，关注未成年人网络保护需求，通过“清朗”等系列专项行动集中整治了网络环境中的不良信息，构建了防沉迷“中国模式”，初步建立了跨部门协调联动的未成年网络保护工作机制，保障未成年人健康成长的良好环境，畅通涉未成年人网络风险各类问题的举报渠道。
此外，2024年1月1日，《未成年人网络保护条例》正式施行。这是我国第一部专门面向未成年人的网络保护综合立法，是信息技术发展对未成年人网络权益保护带来的新挑战、新问题和新风险的有效应对。
其中针对网络信息内容规范，明确禁止任何组织和个人不得制作、复制、发布、传播含有宣扬淫秽、色情、暴力、邪教、迷信、赌博、引诱自残自杀、恐怖主义、分裂主义、极端主义等危害未成年人身心健康内容的网络信息。任何组织和个人不得制作、复制、发布、传播或者持有有关未成年人的淫秽色情网络信息。
刘晓春坦言，面向未成年人的智能硬件，无论是电话手表还是学习机平板，都应禁止危害未成年人身心健康内容的网络信息。相关平台也有义务，在其内容审核中设立有关未成年人保护的特殊审核措施，包括出现类似问题后相应配套的举报、投诉以及纠错等一系列应对举措。
“对不良内容的界定也应有一个范围，而不是一刀切，否则就会出现此前电话手表内容发布敏感词汇的过度限制问题。这并非要对所有引起争议的问题采取绝对禁止，还是要有一个容错的空间。但是对于明显不适合未成年人接触的信息，还是要比较严格的去管控，进行类型化的信息划分，主要还是要采取措施去防范相关不良信息的出现。”刘晓春坦言，这需要科技企业发挥科技优势，将内容审核用AI、大模型的机审和人工审核相互结合的更好，以保证孩子的网络信息安全。
此外，刘晓春表示，我国的人工智能大模型正处在高速发展期，在呼吁给企业松绑的同时，技术方面仍需迭代升级，才能适应新的市场需求。
凡本网注明“来源：XXX(非中国财经消费)”的内容，均转载自其它媒体，转载目的在于传递更多信息，并不代表本网赞同其观点和对其真实性负责。
如有侵权等问题，请及时联系本网，本网将在第一时间删除：gkjnet@qq.com