埃隆·马斯克昨日在社交媒体上宣布，他旗下的AI公司xAI将专门为儿童打造一款定制版的AI聊天机器人，并将其命名为“Baby Grok”。马斯克表示，这款新产品将专注于提供“友好型内容”，但并未透露更多细节。
xAI安全争议不断:从Grok不当言论到“成人内容”功能
此举正值xAI面临严峻安全质疑之际。近期，包括OpenAI和Anthropic在内的多家AI公司安全研究人员公开谴责xAI在安全文化方面“不作为”，并对其“完全不负责任”的态度表达了强烈不满。
xAI旗下的AI聊天机器人Grok此前曾多次发表不当言论。即便在号称“世界上最聪明”的Grok4模型发布后，也被检测出在回答敏感问题时立场有所倾斜。
更令人担忧的是，Grok日前上线了AI伴侣功能，而用户在与角色交流达到一定程度后，竟能解锁成人内容（NSFW）。就在昨天，马斯克还公布了他之前提到的第三个AI伴侣角色(AI男友)的外观信息。该角色被设定为忧郁、黑发，其性格灵感来源于《暮光之城》中的爱德华·卡伦和《五十度灰》中的克里斯蒂安·格雷，形象为身着深色西装、佩戴圆框墨镜、脸部线条分明的男性。
“Baby Grok”:儿童友好型AI面临的挑战
在当前背景下，马斯克宣布推出“Baby Grok”，无疑引发了公众对儿童AI产品安全性的高度关注。如何在确保内容友好的同时，有效防范潜在的不当信息和风险，将是xAI面临的重要挑战。鉴于Grok此前在内容审核和安全方面的表现，未来“Baby Grok”的具体实施细节和安全保障措施，无疑将成为业界和家长们关注的焦点。