2月15日,据外媒报道,谷歌公司近日公开披露,其核心算法模型Gemini正面临一系列有组织的技术探测行为。这些行为通过高频度、重复性的特定提问,试图诱导系统反馈,从而分析其内部运行逻辑。
谷歌方面表示,相关行为呈现出高度的系统性与目的性,单次探测的提问量可达数十万次。其目的在于通过分析模型在不同情境下的输出规律,逆向解析其决策机制与内部结构。
公司判断,这些行为背后主要存在商业竞争动机,可能涉及多家希望获取技术优势的企业或研究组织。谷歌发言人证实,相关活动源头分布于全球多个区域,但未提供更具体的细节信息。
在技术领域,此类通过海量交互数据来解析并模仿另一系统功能的方法,通常源于一种被称为“知识迁移”的技术理念。该理念原意在于将复杂系统的能力高效移植至更轻量的系统中。
在实际操作中,探测方通过设计大量结构化提问,并细致收集系统在响应内容、反馈时间等方面的细微差异,从而逐步绘制出目标模型的决策规律图谱。最终,利用所收集的数据训练出具备类似功能的新系统。
谷歌将此行为界定为对其知识产权的侵害。尽管目前主要技术服务商均已部署相应的识别与防护机制,但由于其服务本身具有广泛的公开性,此类面向核心算法的探测行为在本质上仍难以完全杜绝。
(举报)
