当地时间11日，美国联邦贸易委员会宣布对七家科技公司展开调查，了解以聊天机器人为代表的生成式人工智能可能对儿童和青少年造成的危害，以及公司如何避免这类危害的发生。
美国联邦贸易委员会要求谷歌母公司字母表、元宇宙、OpenAI、XAI等7家科技公司披露聊天机器人的盈利模式、维持用户群的计划，以及降低用户风险的措施，借此了解公司如何评估聊天机器人的安全性，儿童和青少年在使用产品时存在哪些负面影响，以及是否告知家长及用户使用产品的相关风险。
美媒报道称，现在越来越多的儿童及青少年使用聊天机器人，使用范围广泛，从家庭作业、人生建议到情感咨询。有研究表明，聊天机器人在毒品、酒精和饮食问题上会给孩子们提供危险建议。此前已经出现多个案例，有青少年通过聊天机器人讨论自杀问题后获得危险建议进而导致悲剧发生。此外，美联社12日报道称，许多教师反映，学生在做家庭作业时，使用聊天机器人作弊的现象激增。
学生们也表示，他们会使用聊天机器人来帮助做研究、写提纲、进行文字校对，但他们表示很难分辨其使用界限。目前许多学校已经起草了生成式人工智能使用准则，进一步明确人工智能工具在教育场景中的辅助定位，强调其应用边界。
编辑：陈翠
责任编辑：余凤
编审：喻佳
0