首页 > 业界 > 关键词  > AI最新资讯  > 正文

AI 将主导今年安卓和 iPhone 更新,但也带来严重的隐私新问题

2024-02-13 11:39 · 稿源:站长之家

站长之家(ChinaZ.com) 2 月 13 日消息:今年安卓和 iPhone 的更新将以 AI 为主题, 其中很大一部分来自谷歌。但这也给所有用户带来了一个严重的新警告,我们使用手机的方式将因此改变

谷歌大模型Gemini

把生成式 AI 集成到我们最常用的手机应用程序中, 势必会比去年 ChatGPT 的推出造成更大影响。我们已然处在这样的时代。

但慢着, 这一切也存在巨大的安全和隐私风险。

当涉及生成式 AI 聊天机器人时, 我们似乎都有盲区。我们可能会注意所安装的应用、授予的权限、使用的浏览器以及与 Facebook、谷歌等共享的数据。但一旦面对 AI 聊天机器人, 我们就会忘记这一切, 陷入与一个「有益的新朋友」的私人聊天中, 并渴望分享信息。

但显然, 这绝不是朋友, 它是数十亿美元计算生态系统的前台, 最终由广告和数据经纪业务提供资金。

此前已经有警告,AI 聊天进入我们的私人消息应用带来的风险。就在 Bard 变为 Gemini, 大量新应用准备进入我们的手机之际, 谷歌自己也警告所有安卓和 iPhone 用户要对这些新技术保持高度警惕。

谷歌警告称:「请不要在对话中输入机密信息或任何您不希望审核者看到的数据, 或者谷歌可能会用来改进我们的产品、服务和机器学习技术的数据。」谷歌收集您在 Gemini 中的对话、相关产品使用信息、位置信息和反馈, 以「改进和开发谷歌产品、服务和机器学习技术」。

谷歌确保「您在 Gemini 中的对话不会被用于向您展示广告」, 尽管这可能会改变, 届时「我们会明确地通知您」。

这里的风险在于, 那些与各种 AI 聊天机器人过度分享的用户可能会陷入巨大的隐私困境, 这些聊天机器人帮助他们编写商业计划、销售演示文稿或作业。当您退出聊天时, 您提出的问题和获得的回答将被存储为记录, 这意味着它可以被检索和审查。它也可能泄露。

当然, 独立应用只是一个开始, 谷歌还警告说:「当您将 Gemini 与其他谷歌服务集成和使用时, 它们将保存并使用您的数据来提供和改进其服务, 这与其政策和谷歌隐私政策一致。如果您使用 Gemini 与第三方服务进行交互, 它们将根据自己的隐私政策处理您的数据。」

我们才刚刚开始理解生成式 AI 的风险。例如, 谷歌 Gemini(前身 Bard) 似乎会要求查看您过去的所有私人消息, 以塑造其建议的上下文和内容。它还会破坏 Messages 的端到端加密。

这里的真正问题在于非本地、开放式存储。谷歌表示, 默认情况下, 数据将被存储长达 18 个月,「您可以在 Gemini 应用活动设置中将其更改为 3 或 36 个月。您设备、IP 地址的一般区域信息以及谷歌帐户中的家庭或工作地址也与您的 Gemini 应用活动一起存储。」

当然, 这不仅限于谷歌。这种程度的数据收集和使用在新兴的生成 AI 行业中相当常见。我们如何评判谷歌与 OpenAI 等公司的安全性和隐私性还有待观察。

但正如 ESET 的 Jake Moore 警告的那样:「我们在线分享的任何数据, 即使是在私人渠道中, 也有可能被存储、分析甚至与第三方共享。当信息成为一种优质资产甚至被视为一种货币时,AI 模型可以被设计成深入挖掘用户透露的大量个人信息。数据共享最终可能在未来制造安全和隐私问题, 许多用户对这些风险一无所知。」

谷歌称, 如果您调整 Gemini 的设置, 可以关闭长期数据收集。「未来的对话不会被发送给人类审查或用于改进我们的生成式机器学习模型...... 您也可以从固定和最近的聊天中删除聊天。当您这样做时, 相关活动也会从'您的 Gemini 应用活动'中删除。」但即使这样,「您的对话将保存在您的帐户中, 最长可达 72 小时, 以允许我们提供服务并处理反馈。这些活动不会出现在您的 Gemini 应用活动中。」

正如之前评论, 驱动这一新一代智能手机功能的 AI 分析在设备端/设备端外的性质将成为新的鸿沟。苹果可能会在其自己的应用和服务上尽可能多地在设备端本地进行——如果可行的话。我们知道它现在正在试验在设备端/设备外的性能。鉴于谷歌完全不同的设置和重点, 它将在云端做更多工作。

对于手机上已经装有 Gemini 动力应用的数百万安卓和 iPhone 用户来说, 他们面临一些艰难的选择。其他人也不会落后太多。

我们不能两全其美。要么我们重视隐私, 重视近年来在私密浏览、跟踪和位置共享方面取得的巨大进步。要么我们认为集成到主流应用中的 AI 实在太酷了, 难以割舍, 于是我们会无所不用其极。

如果是后者, 那么这可能会成为最终的「小心你所祈求的」。

举报

  • 相关推荐
  • 大家在看
  • FCK.School:AI写作工具

    FCK.School是一个为学生提供AI写作工具的在线平台。它可以帮助学生改善写作技巧,提升学术表现。通过FCK.School的AI驱动工具,学生可以进行文本改写、文摘、语法纠错等操作,还能生成各种写作素材,如标题、论点、大纲等。FCK.School提供免费工具以供试用,同时还有付费订阅计划。

  • CompliantChatGPT:AI医疗助手,HIPAA合规

    CompliantChatGPT是一款专为医疗保健行业设计的AI助手,它通过HIPAA合规的方式,帮助医疗工作者安全、高效地处理医疗相关任务。产品具备以下特点: - 保护患者数据安全,通过令牌化技术确保个人健康信息(PHI)的安全。 - 提供个性化的医疗模式,包括血液分析、PHI匿名化、诊断和治疗规划等。 - 用户友好的界面设计,支持语音到文本的笔记功能,便于记录和回顾。 - 定价策略灵活,提供免费试用,以及多种付费套餐选择。 - 适用于医疗提供者、专业人士、医疗机构、研究中心和健康科技初创企业。

  • Healax:AI驱动的心理健康解决方案

    Healax是一款创新的AI驱动的心理健康解决方案,专为学生设计,帮助他们主动应对日常生活中的压力和焦虑。该产品通过建立学生、行政人员和提供者之间的信任沟通渠道,提供定制化活动和内容,以促进更全面的教育体验。

  • Snowflake Arctic Embed:开源的先进文本嵌入模型

    Snowflake Arctic Embed是一系列基于Apache 2.0许可开源的文本嵌入模型,专为检索用例设计。这些模型在Massive Text Embedding Benchmark (MTEB)检索基准测试中提供了领先的检索性能,为组织在结合专有数据集与大型语言模型(LLMs)进行检索增强生成(RAG)或语义搜索服务时提供了新的优势。这些模型的尺寸从超小型(xs)到大型(l),具有不同的上下文窗口和参数数量,以满足不同企业的延迟、成本和检索性能需求。

  • DuerOS X:全球首个AI原生操作系统

    DuerOS X是小度基于百度文心大模型推出的全球首个AI原生操作系统。它彻底颠覆了传统的人适应系统的模式,实现了端到端连接用户的意图与任务,极大地拓展了操作系统的边界。DuerOS X全面应用了文心大模型,通过模型路由架构,能够灵活调度不同的文心模型去解决不同难度的问题,更高效、更精准、更经济。个性化长短记忆的存储、提取和理解能力,使得DuerOS X能够更清楚地记住历史内容与用户个性化偏好。此外,多模态感知技术的应用,让DuerOS X产生更丰富的感知力,无论是通过语音、文字还是表情与小度沟通,都能准确地理解用户的意图,并给出恰当的回应。

  • abab 6.5:万亿参数MoE文本大模型

    abab 6.5系列包含两个模型:abab 6.5和abab 6.5s,均支持200k tokens的上下文长度。abab 6.5包含万亿参数,而abab 6.5s则更高效,能在1秒内处理近3万字的文本。它们在知识、推理、数学、编程、指令遵从等核心能力测试中表现出色,接近行业领先水平。

  • mistral-common:Mistral模型工具集

    mistral-common是一套帮助您处理Mistral模型的工具。它不仅包含文本到token的转换,还增加了工具解析和结构化对话。目前发布了三个版本的tokenizer,分别适用于不同的模型集合。

  • AI Grammar Checker & Paraphraser – LanguageTool:提供语法检查和改写的工具

    AI语法检查与改写工具- LanguageTool是一款免费的语法检查工具,可以检测文本中的语法错误并提供改写建议。它能够检测出拼写错误、语法问题、常见词汇混淆和标点符号错误,并提供改写建议、同义词替换和简洁句子重写。该工具适用于多种语言,支持多个平台和应用场景,如社交媒体、电子邮件和网页。

  • Spline AI 3D Generation:快速生成三维模型的AI工具

    AI 3D Generation是Spline推出的一款3D设计工具,它支持文本到3D生成和图像到3D生成,允许用户通过简单的文本提示或2D图像自动创建出详细且精确的3D模型。该工具具有生成变体与混合、直观且适合初学者、创建独特的3D库、平台集成与实时协作、易于集成和发布等功能。

  • FocuSee:轻松录屏 软件会自动跟踪光标移动美化录屏效果

    FocuSee 自动跟踪光标移动,应用动态缩放效果,为您节省宝贵时间和额外的努力。适用于演示,教程,推广视频等多种场景。

  • Ai-to-pptx:使用AI技术来自动生成PPTX 支持在线修改

    Ai-to-pptx 是一个使用 AI 技术 (ChatGpt 和 Gemini) 制作 PPTX 的助手,支持在线修改和导出 PPTX。主要功能包括使用 ChatGPT 等大语言模型生成大纲、允许用户再次修改内容、选择不同模板、在线修改 PPTX 的文字、样式、图片等,支持导出 PPTX、PDF、PNG 等多种格式。价格为付费,商业授权价格为 22000 元人民币或 3000 美元。

  • CodeQwen1.5:开源代码助手,高效编程新选择

    CodeQwen1.5是一个基于Qwen语言模型的代码专家模型,拥有7B参数,支持92种编程语言,最长支持64K的上下文输入。它具备代码生成、长序列建模、代码修改和SQL能力等,旨在提高开发人员的工作效率,简化软件开发流程。

  • PixArt-Sigma:4K文本到图像生成的扩散变换器

    PixArt-Sigma是一个基于PyTorch的模型定义、预训练权重和推理/采样代码的集合,用于探索4K文本到图像生成的弱到强训练扩散变换器。它支持从低分辨率到高分辨率的图像生成,提供了多种功能和优势,如快速体验、用户友好的代码库和多种模型选择。

  • InstantMesh:高效3D网格生成框架

    InstantMesh是一个基于LRM架构的前馈框架,用于从单张图像高效生成3D网格。它支持低内存GPU环境,并能生成具有纹理映射的3D网格模型。

  • MagicClothing:基于LDM的服装驱动图像合成AI

    MagicClothing是一种基于潜在扩散模型(LDM)的新型网络架构,专门用于服装驱动的图像合成任务。它能够根据文本提示生成穿着特定服装的定制化角色图像,同时确保服装细节的保留和对文本提示的忠实呈现。该系统通过服装特征提取器和自注意力融合技术,实现了高度的图像可控性,并且可以与ControlNet和IP-Adapter等其他技术结合使用,以提升角色的多样性和可控性。此外,还开发了匹配点LPIPS(MP-LPIPS)评估指标,用于评价生成图像与原始服装的一致性。

  • FireCrawl:无需站点地图,一键抓取网站所有子页面

    FireCrawl 是一款由 Mendable.ai 开发的开源项目,它能够无需站点地图即可抓取任何网站的所有可访问子页面,并将这些内容转换为干净、格式化的Markdown文档。它特别适合数据科学家、机器学习工程师、内容创作者和市场分析师使用,以从网站内容中提取有价值的信息。FireCrawl 能够处理使用JavaScript动态渲染的内容,提供API服务,支持自托管,并与多种开发者工具和框架集成。

  • Atlas:下一代电动机器人

    Atlas是波士顿动力公司开发的一款先进的人形机器人,它结合了数十年的研究和实际经验,旨在解决当今工业领域中最艰巨的挑战。新一代的Atlas机器人是全电动的,比以往的液压版本更强大,动作范围更广,能够更高效地完成各种任务。Atlas机器人配备了新的AI和机器学习工具,如强化学习和计算机视觉,以确保它们能够适应复杂的现实世界情况。此外,Atlas将与波士顿动力公司的Orbit™软件集成,该软件提供了一个集中的平台来管理整个机器人车队、站点地图和数字化转型数据。

  • Stable Diffusion 3 API:先进的文本到图像生成系统

    Stable Diffusion 3是一款先进的文本到图像生成系统,它在排版和提示遵循方面与DALL-E 3和Midjourney v6等顶尖系统相匹敌或更优。该系统采用新的多模态扩散变换器(MMDiT)架构,使用不同的权重集来改善图像和语言的表示,从而提高文本理解和拼写能力。Stable Diffusion 3 API现已在Stability AI开发者平台上线,与Fireworks AI合作提供快速可靠的API服务,并承诺在不久的将来通过Stability AI会员资格开放模型权重以供自托管。

  • 奇布塔:AI一站式儿童有声绘本创作平台

    奇布塔是基于人工智能生成技术的绘本创作平台,提供各种风格的有声绘本创作功能,帮助用户创作优质的绘本内容。定价灵活多样,定位于绘本创作者和儿童阅读者市场。

  • VASA-1:实时生成逼真语音驱动人脸

    VASA-1是由微软研究院开发的一个模型,专注于实时生成与音频相匹配的逼真人脸动画。该技术通过深度学习算法,能够根据输入的语音内容,自动生成相应的口型和面部表情,为用户提供一种全新的交互体验。VASA-1的主要优势在于其高度逼真的生成效果和实时响应能力,使得虚拟角色能够更加自然地与用户进行互动。目前,VASA-1主要应用于虚拟助手、在线教育、娱乐等领域,其定价策略尚未公布,但预计将提供免费试用版本供用户体验。

今日大家都在搜的词: