快科技3月4日消息，随着AI的快速发展，日本政府也投入了约10亿日元（约合4879万人民币）的研发经费，试图开发一款用于判断儿童是否遭受虐待的AI工具。
然而这一项目在测试阶段表现不佳，误判率高达60%，这一AI工具也被暂时搁置。
该AI工具由日本儿童家庭厅开发，旨在帮助各地儿童咨询所”的工作人员判断是否需要临时保护疑似遭受虐待的儿童。
按照设计，工作人员需输入91项信息，如孩子是否受伤、受伤部位、监护人态度等，AI会以百分制打分形式显示儿童受虐待的可能性，得分越高表示可能性越大。
不过该AI工具的学习样本仅为5000个案例，测试结果也显示样本数量明显不足，在输入的100个案例中，有62个案例的打分明显偏低。
例如在一个案例中，孩子已经明确表示被母亲打得半死”被扯住衣服后用我的头撞床”，但AI工具的打分仅为2到3分。
工作人员分析，这可能是因为输入信息中包含了孩子身上没有淤青”，导致AI误判，此外AI工具还被指出忽视了儿童体重减轻”等重要信息，且91个项目仅记录有无”某现象，而不涉及伤害程度或范围。
鉴于高误判率和诸多不足，日本儿童家庭厅已暂停该项目的开发工作，并表示将其提供给儿童咨询所为时尚早”。
（举报）