首页 > 传媒 > 关键词  > 正文

Soul第三季度生态安全报告出炉:反诈课堂进影院、上线防网暴搜索置顶功能

2023-11-09 13:40 · 稿源: 站长之家用户

近期,新型开放式社交平台Soul App 发布《 2023 年第三季度Soul生态安全报告》。报告显示, 2023 年第三季度,Soul重点围绕反电信网络诈骗、引导社交礼仪规范、用户共治众裁社区环境、防治网络和骚扰四大用户安全生态专项展开治理。

本季度,Soul反诈课堂走进影院,邀请上海市反诈中心、浦东新区反诈中心民警与众多用户一同参与,开展反诈电影的观影与反诈骗科普活动,创新了警企联动反诈新模式,并通过Soul反诈中心持续加强用户反诈宣传引导;平台也进一步升级了社交礼仪分体系,引导“烂番茄”(对不文明礼貌发言发送“烂番茄”可扣除对方一定社交礼仪分)等社交保护功能的普及与使用。

同时,Soul还通过风纪委打假治理、正能量内容推荐、广场暖评互动的用户共治众裁举措进一步创新社区治理模式。此外,Soul上线了防网暴专项,邀请用户签署《Soul星抵制网络暴力公约》,并推出了防网暴搜索置顶功能,强化识别预警、提供官方反馈与举报通道,帮助用户快速有效地使用平台提供的防网暴工具保护自己,合力构建友好清朗网络生态。

线上置顶反诈科普、线下组织反诈课堂进影院

作为最受Z世代喜欢的社交平台之一,Soul长期以来将用户的网络安全放在首位,高度重视网络安全问题,对网络诈骗黑产零容忍。本季度,Soul新增暑期反诈风控策略100+条,日均拦截98%以上的导流欺诈行为,全场景守护用户。

一直以来,Soul都不具备转账功能。针对不法分子将用户吸引至第三方平台的导流诈骗行为,Soul会对含有导流意向的消息进行风险提示,并对部分高风险对话框进行锁定,接收方通过防诈骗知识答题才能解锁。在本季度,反诈骗题库进行了新一轮的更新。

此外,当用户搜索诈骗、杀猪盘等字眼时,《Soul星防诈骗指南》和Soul反诈中心帖子会呈现置顶显示,引导用户了解学习反诈骗知识,提高警惕意识。作为平台反诈宣传主阵地,Soul站内官号Soul反诈中心持续对用户进行反诈骗知识科普。本季度通过内容广场、私信等多场景反诈安全提示曝光超 574 万人次。

除了不断升级平台风控技术和加强反诈骗宣传教育外,Soul还持续加强警企合作,提升用户安全感。在今年 8 月,Soul举办了反诈电影《孤注一掷》的特殊线下包场观影活动,邀请上海市反诈中心、浦东新区反诈中心民警与众多用户一同参与。通过沉浸式观影、趣味反诈科普、线上线下的互动答题,Soul再次以生动有趣的活动形式,将反诈知识传达给更多年轻人。

基于多方联合防控策略,Soul本季度配合警方,共同打击涉平台黑产案件 1 起,协助安徽警方打击诈骗案件 1 起,协同上海警方举办线下反诈骗科普课堂 1 场。

升级社交礼仪分体系、创新用户共治众裁模式,打造良好内容生态

此前,Soul上线“烂番茄”功能,用户可以自定义私信对话拦截关键词,并对不礼貌发言使用“烂番茄”,扣除对方礼仪分。在本季度,Soul针对该功能进行了进一步升级,系统会在用户满足使用规则时,主动发送提醒,引导其规范使用。

数据显示,Soul于三季度不断迭代策略,日均辅助用户收纳希望被折叠的消息超 5 万,日均被扣除社交礼仪分的用户人数达4. 4 万,季度私聊举报量级环比上季度下降14%,同比去年下降11.8%。

同时,Soul的用户群体多是以 95 后、 00 后为代表的Z世代,针对其愿意承担社区治理责任的特质,Soul倡导用户共治众裁模式,与用户共同治理社区环境。由用户组成的风纪委、内容推荐官、反诈先锋等在社区环境共治上取得了杰出成果。

目前,Soul上的 13828 位风纪委正积极参与社区治理,通过投票仲裁出不符合社区规范的瞬间;同时有 23533 位内容推荐官,通过众裁投票的方式,参与广场精选瞬间的推荐。Soul还对内容广场上具有温暖、友善、正能量等特征的优质评论进行筛选与展示。

在本季度,Soul邀请用户共同成立了反诈先锋组织。成员发现盗图、黑灰产和疑似诈骗人员后将第 一时间举报。同时,反诈先锋也将成为平台反诈宣传“积极分子”,用绘画、歌曲弹唱等创意趣味的形式,对其他用户进行反诈骗科普。

除了与用户的共同治理外,Soul通过站内官方号——Soul官方风纪球长持续对传播低俗内容与不实信息、恶意引战、网暴等违规账户进行处罚公示,并对安全标准及社交礼仪规范进行宣导,本季度总计触达 227 万用户。

上线防网暴搜索置顶功能,持续完善防网暴骚扰保护网

“良言一句三冬暖,恶语伤人六月寒”。在互联网冲浪中,往往会有人依仗网络的隐蔽性,将键盘作为“利刃”攻击他人。针对互联网上的网暴和骚扰等不良行为,Soul打出了防治相辅的组合拳。

本季度,Soul上线了防网暴专项,邀请用户签署防网暴协议。当用户搜索“网暴”时,文明礼貌引导发言会置顶呈现,邀请其加入《Soul星抵制网络暴力公约》,同时也指引其更快速地向官方举报,或使用今日自闭及消息收纳功能来更好地保护自身的权益及安全。

Soul还推出了“消息盒子”功能。当用户开启智能收纳时,可以自定义选择不希望收到的消息关键词,带有此类关键词的消息将一并折叠放至消息盒子。此外,若用户遇到攻击辱骂、低俗色情骚扰等情况,Soul将开启“今日自闭”提醒。目前,“今日自闭”状态下的默认时长已增加至 72 小时。

在治理方面,Soul推出了“魂淡君守护弹框”功能,通过系统询问接收信息的用户是否觉得被冒犯,来判断是否要对该发送骚扰信息的用户进行禁言。用户还可以在私聊场景中自主选择对进行不文明发言的人进行举报,违规者将被限制使用私聊功能并扣除一部分社交礼仪分。

通过防治结合,Soul在网暴治理方面也交出了一份优异的成绩单。报告显示,现阶段,Soul日均至少保护用户避免遭受网暴与频繁骚扰 5500 余次、日均处理私聊不文明行为用户 1700 多个、日均提醒引导私聊文明发言超22. 2 万条、日均发送友善评论提醒次数超 700 次、季度累计签署友善互动声明用户达 13 万余人。

网络生态治理是个长期工程,需要整体的治理构架和持续的治理行动。网络生态的健康发展,需要每一个环节共同发力。作为深受年轻人喜爱的新型开放式社交平台,Soul积极肩负主体责任,始终通过模式创新和机制升级,维护用户权益、增强用户安全意识、引导网络良好风气,为共同构建安全清朗的网络生态贡献力量。

推广

特别声明:以上内容(如有图片或视频亦包括在内)均为站长传媒平台用户上传并发布,本平台仅提供信息存储服务,对本页面内容所引致的错误、不确或遗漏,概不负任何法律责任,相关信息仅供参考。站长之家将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。任何单位或个人认为本页面内容可能涉嫌侵犯其知识产权或存在不实内容时,可及时向站长之家提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明(点击查看反馈联系地址)。本网站在收到上述法律文件后,将会依法依规核实信息,沟通删除相关内容或断开相关链接。

  • 相关推荐
  • 大家在看
  • Anon:AI助手,隐私保护

    Anon是一个注重隐私的AI助手,类似于ChatGPT,但默认提供隐私保护。它允许用户在不登录、无追踪的情况下自由使用,所有对话都保留在本地设备上。Anon由先进的技术如Llama 3.1 405B和FLUX提供支持,旨在为用户提供一个安全、私密的AI对话环境。

  • PodcastWorld:AI驱动的播客对话搜索引擎

    PodcastWorld是一个利用人工智能技术,通过分析数百万播客对话来帮助用户找到所需答案的搜索引擎。用户可以询问问题,并直接收听播客中回答该问题的确切片段。这个平台不仅提供了一个与播客内容互动的新方式,还通过聊天功能,使用户能够与播客创作者进行更深入的交流。PodcastWorld通过提供播客摘要、音频片段和完整的对话记录,满足了用户对信息获取和知识分享的需求。

  • Chat with your Database:与数据库对话,用自然语言查询数据。

    Chat with your Database 是一个创新的数据库交互工具,它允许用户通过自然语言与Postgres数据库进行交互。利用AI技术,用户可以轻松地查询、分析和操作数据库,而无需编写复杂的SQL代码。该产品支持开源,鼓励社区参与开发和贡献,代码在GitHub上公开,用户可以自由探索、贡献或定制以满足特定需求。

  • AI Comic Factory.ai:在线AI漫画生成器,快速将创意转化为漫画故事。

    AI Comic Factory是一个创新的在线平台,旨在帮助用户轻松创建独特的漫画。用户可以通过输入描述性的提示或上传图片来生成各种风格的漫画,包括角色、场景和对话的选项。该平台提供定制选项,如版式布局、角色设计和对话生成,以增强漫画的视觉效果。凭借用户友好的步骤和可调设置,实现高质量的结果变得简单。无论是个人娱乐还是创意项目,AI Comic Factory都使得漫画创作过程变得高效且愉快。

  • AutoArena:自动化的生成式AI评估平台

    AutoArena是一个自动化的生成式AI评估平台,专注于评估大型语言模型(LLMs)、检索增强生成(RAG)系统和生成式AI应用。它通过自动化的头对头判断来提供可信的评估,帮助用户快速、准确、经济地找到系统的最佳版本。该平台支持使用来自不同供应商的判断模型,如OpenAI、Anthropic等,也可以使用本地运行的开源权重判断模型。AutoArena还提供了Elo评分和置信区间计算,帮助用户将多次头对头投票转化为排行榜排名。此外,AutoArena支持自定义判断模型的微调,以实现更准确、特定领域的评估,并可以集成到持续集成(CI)流程中,以自动化评估生成式AI系统。

  • GodmodeHQ:销售和市场营销AI,自动增长您的业务。

    GodmodeHQ是一个AI驱动的销售和市场营销平台,旨在通过自动化的方式帮助企业提高销售效率和市场覆盖。它通过集成多个B2B数据库,利用自然语言处理技术,帮助用户寻找和验证潜在客户,生成个性化的营销信息,并管理整个销售流程。产品的主要优点包括节省时间、提高销售团队的工作效率、以及通过个性化的营销信息提高转化率。GodmodeHQ的背景信息显示,它是由一群对销售和市场营销有深刻理解的团队开发的,旨在解决传统销售过程中的痛点,如寻找潜在客户、客户资格审查、个性化营销等。产品的价格策略是免费试用,之后根据功能的不同,提供不同的付费套餐。

  • Echo:使用AI整理和提炼你的想法的语音和文本笔记应用

    Echo是一款结合了人工智能技术的语音和文本笔记应用,它通过AI技术帮助用户组织和提炼思考。Echo利用GPT-4o大型语言模型进行转录、回忆和洞察力生成,能够准确转录用户的语音输入,并根据用户过去的想法提供有意义的答案,使日记体验更具互动性和吸引力。该产品注重隐私和安全性,笔记加密,不查看用户数据,也不使用数据训练AI,遵循行业最佳实践进行数据保护。目前Echo处于免费测试阶段,未来计划引入高级功能。

  • JobJump:个性化AI面试助手,助你在面试中脱颖而出。

    JobJump - AI Interview Copilot是一款专为求职者设计的Chrome插件,它通过人工智能技术提供个性化的面试辅导。这款插件能够识别面试官的问题,并即时生成定制化的答案提示,帮助用户更自信地回答问题。它支持50多种面试语言,并针对200多个行业和角色进行了定制化。JobJump插件易于安装和使用,用户可以通过Google账号注册并免费开始使用。它适用于多种在线面试平台,能够帮助用户在面试中更好地展示自己,提高获得理想工作的机会。

  • Coverr AI Workflows:利用AI技术提升视频创作效率

    Coverr AI Workflows是一个专注于AI视频生成的平台,提供多种AI工具和工作流程,帮助用户通过简单的步骤生成高质量的视频内容。该平台汇集了AI视频专家的智慧,通过社区分享的workflows,用户可以学习如何使用不同的AI工具来创作视频。Coverr AI Workflows的背景是基于人工智能技术在视频制作领域的应用日益广泛,它通过提供易于理解和操作的工作流程,降低了视频创作的技术门槛,使得非专业人士也能创作出专业级别的视频内容。Coverr AI Workflows目前提供免费的视频和音乐资源,定位于满足创意工作者和小型企业的视频制作需求。

  • Emploio:AI驱动的员工成长平台

    Emploio是一个利用人工智能技术来支持个人成长、增强职业发展,并培养一个充满活力的工作场所文化的平台。它通过提供AI驱动的洞察力来最大化团队潜力,帮助企业跟踪员工成长和团队表现,分享跨部门的洞察力,并构建完美的团队。此外,Emploio还提供一对一的协助,确保每个团队成员都能获得成功所需的指导。它还可以与日常使用的工具集成,优化生产力,并通过统一的仪表板与团队保持联系。

  • Handinger:从互联网提取数据的简单且经济的方式

    Handinger是一个提供数据提取服务的网站,它允许用户通过HTTP端点轻松提取网页内容,包括Markdown、截图、元数据和HTML等格式。这种服务对于训练大型语言模型、存储内容或获取网页特定内容非常有用。Handinger的价格非常低廉,每URL的成本仅为0.0005美元,且每月前2000个URL免费,没有前期成本,也无需复杂的API积分。该服务支持所有类型的网站,并且为用户提供了慷慨的速率限制,每分钟可进行1000次请求。

  • 笔灵AI小说生成器:智能AI辅助小说创作工具

    AI小说生成器是一个专为小说创作者设计的智能AI辅助工具,它通过提供各种写作模板、灵感词库、人物设定、剧情生成等功能,帮助作者快速构思和创作小说。该产品背景信息显示,它由上海简办网络科技有限公司开发,旨在解决作者在创作过程中遇到的灵感枯竭、写作效率低下等问题。产品的主要优点包括丰富的写作模板、AI智能生成和改写功能、以及对不同小说类型的全面支持。价格方面,产品提供终身会员服务,每月只需极低的费用,性价比极高。

  • Swarm:多智能体系统构建、编排和部署框架

    Swarm是由OpenAI Solutions团队管理的实验性框架,旨在构建、编排和部署多智能体系统。它通过定义智能体(Agent)和交接(handoffs)的抽象概念,实现了智能体之间的协调和执行。Swarm框架强调轻量级、高可控性和易于测试,适用于需要大量独立功能和指令的场景,允许开发者拥有完全的透明度和对上下文、步骤和工具调用的细粒度控制。Swarm框架目前处于实验阶段,不推荐在生产环境中使用。

  • AI Hairstyle:AI驱动的发型变换和发色更换工具

    AI 发型是一个在线平台,利用人工智能技术为用户提供个性化的发型和发色更换体验。用户可以通过上传自己的照片,尝试不同的发型和颜色,无需实际剪发或染发即可预览效果。该平台的AI技术能够分析用户的面部特征,推荐最适合的发型和颜色,帮助用户在做出实际改变前做出更明智的决定。AI 发型的主要优点包括:个性化推荐、真实预览效果、云端存储生成的图片、用户友好的界面以及多种发型和颜色选择。产品背景信息显示,AI 发型已经拥有超过10K+用户和2M+生成的发型数量,显示了其受欢迎程度。价格方面,AI 发型提供免费计划,同时也提供不同级别的付费计划,以满足不同用户的需求。

  • Enjoy App:AI辅助的英语学习应用,专注发音训练和记忆提升。

    Enjoy App是一款专注于英语学习的应用程序,它通过AI技术帮助用户纠正发音,提供学习记录跟踪,并利用丰富的在线素材进行语言学习。该应用提倡直接上手学习,忽略繁琐的方法论,旨在通过1000小时的专注训练帮助用户掌握英语技能。它支持音频和视频的可视化跟读,AI自然对话,以及记忆增强系统,是学习英语的有力工具。Enjoy App的价格策略是按使用功能计费,新用户有初期余额,之后可以通过充值享受更多服务。

  • AI视频生成神器:利用AI技术快速生成视频内容

    AI视频生成神器是一款利用人工智能技术,将图片或文字转换成视频内容的在线工具。它通过深度学习算法,能够理解图片和文字的含义,自动生成具有吸引力的视频内容。这种技术的应用,极大地降低了视频制作的成本和门槛,使得普通用户也能轻松制作出专业级别的视频。产品背景信息显示,随着社交媒体和视频平台的兴起,用户对视频内容的需求日益增长,而传统的视频制作方式成本高、耗时长,难以满足快速变化的市场需求。AI视频生成神器的出现,正好填补了这一市场空白,为用户提供了一种快速、低成本的视频制作解决方案。目前,该产品提供免费试用,具体价格需要在网站上查询。

  • AI答案生成器:免费无需注册的智能问答系统,为营销人员提供AI驱动的洞察和解决方案。

    AI答案生成器是一个专为营销人员设计的智能问答系统,它利用先进的人工智能技术,为用户提供关于数字营销趋势和策略的最新信息。该产品的主要优点包括免费使用、无需注册、用户友好界面、精确的语言模型、独特和创意的答案以及节省时间的解决方案。它适用于SEO优化、社交媒体内容规划、电子邮件营销等多种营销需求,帮助用户提高工作效率,快速生成营销策略和内容创意。

  • 派欧算力云:AI云端一体化解决方案,提供模型API、Serverless和GPU租赁服务。

    派欧算力云是一个一站式AIGC云服务平台,提供高性价比的GPU基础设施和无缝集成的最前沿AI推理技术。它全面覆盖不同业务阶段的AI需求,加速业务发展。派欧算力云的主要优点包括:高性能的云服务产品、无需管理和运维GPU基础设施、自动弹性扩缩容、全球覆盖的GPU容器实例、7X24小时客户服务。产品背景信息显示,派欧算力云旨在为AI应用开发者提供强大的算力支持,降低开发成本,提高开发效率。

  • FLUX.1-dev-LoRA-One-Click-Creative-Template:一键式创意图像生成模型

    FLUX.1-dev-LoRA-One-Click-Creative-Template 是一个基于 LoRA 训练的图像生成模型,由 Shakker-Labs 提供。该模型专注于创意照片生成,能够将用户的文本提示转化为具有创意性的图像。模型使用了先进的文本到图像的生成技术,特别适合需要快速生成高质量图像的用户。它是基于 Hugging Face 平台,可以方便地进行部署和使用。模型的非商业使用是免费的,但商业使用需要遵守相应的许可协议。

  • rag-chatbot:一个可以本地与多个PDF文件进行对话的聊天机器人。

    rag-chatbot是一个基于人工智能技术的聊天机器人模型,它能够让用户通过自然语言与多个PDF文件进行交互。该模型使用了最新的机器学习技术,如Huggingface和Ollama,来实现对PDF内容的理解和回答生成。它的重要性在于能够处理大量文档信息,为用户提供快速、准确的问答服务。产品背景信息表明,这是一个开源项目,旨在通过技术创新提升文档处理的效率。目前该项目是免费的,主要面向开发者和技术爱好者。

今日大家都在搜的词: