首页 > 业界 > 关键词  > 生成式AI最新资讯  > 正文

ChatGPT 等生成式人工智能模型催生新工作岗位:审核 AI 输入和输出

2023-10-13 08:55 · 稿源:站长之家

站长之家(ChinaZ.com) 10月13日消息:人工智能可能正在引发对人们工作保障的担忧,但新一波工作岗位正在涌现,这些岗位专注于审核下一代人工智能模型的输入和输出

OpenAI ChatGPT,人工智能,AI

自 2022 年 11 月以来,全球的商业领袖、职员和学者都一直担心生成式人工智能将扰乱大量专业岗位。

生成式人工智能可以让人工智能算法根据文本提示生成类似人类的逼真文本和图像,它是通过大量数据进行训练的。它可以制作出复杂的散文,甚至公司演示文稿,其质量接近受过学术训练的个人的质量。

这无疑引发了人们对人工智能可能取代工作的担忧。

摩根士丹利估计,高达 3 亿个工作岗位可能会被人工智能接管,包括办公和行政支持工作、法律工作、建筑和工程、生命、物理和社会科学以及金融和业务运营。

人工智能模型接收的输入以及它们创建的输出通常需要由人类进行指导和审核,这正创造了一些新的有偿职业和兼职工作

通过审查 AI 获得报酬

Prolific 是一家帮助人工智能开发人员与研究参与者建立联系的公司,它直接参与为审阅人工智能生成材料的人们提供报酬。

该公司向研究参与者支付一定数额的报酬,以评估人工智能生成的输出的质量。Prolific 建议开发者至少支付参与者每小时 12 美元,最低工资标准为每小时 8 美元。

人类审核员受到 Prolific 的客户的指导,这些客户包括 Meta、谷歌、牛津大学和伦敦大学学院。他们通过学习可能遇到的不准确或有害的材料来帮助审核员。他们必须同意参与研究。

一名研究参与者称,他曾多次使用 Prolific 来评价人工智能模型的质量。由于涉及隐私问题,该研究参与者选择匿名,他表示,他经常不得不介入,提供有关人工智能模型出错之处以及需要进行更正或修改以确保不会产生不良反应的反馈。

他曾多次遇到某些人工智能模型产生问题的情况。有一次,他甚至被一个人工智能模型劝说购买药物。

当这位研究参与者遇到这种情况时,他感到震惊。不过,这项研究的目的是测试这个特定人工智能的界限,并提供反馈,以确保它不会在未来造成危害。

新的「人工智能工人」

Prolific 的首席执行官 Phelim Bradley 表示,有许多新类型的「人工智能工作者」正在起到重要作用,他们正在为像 ChatGPT 这样的人工智能模型提供输入和输出。

随着政府评估如何监管人工智能,Bradley 表示,「很重要的是要充分关注一些问题,包括对数据注释员等人工智能工作者的公平和道德待遇,构建人工智能模型所使用的数据的来源和透明度,以及由于训练方式的问题而导致偏见渗入这些系统的危险。」

如果我们在这些领域采取正确的方法,将对未来的人工智能应用打下坚实的、最具道德基础。」

今年 7 月,Prolific 从包括 Partech 和 Oxford Science Enterprises 在内的投资者那里筹集了 3200 万美元的资金。

谷歌、微软和 Meta 等公司一直在争夺生成式人工智能,这是一种新兴的人工智能领域,因为它频繁提到提高生产力,所以商业利益主要体现在这里。

然而,这引发了监管机构和人工智能伦理学家的一系列问题,他们担心这些模型如何做出内容生成决策的透明度不足,还需要更多的工作来确保人工智能服务于人类的利益,而不是相反。

Hume 是一家利用人工智能从面部、面部和声音表情中读取人类情感的公司,它使用 Prolific 来测试人工智能模型的质量。该公司通过 Prolific 招募人们参加调查,以了解 AI 生成的回应是好是坏。

Hume 的联合创始人兼首席执行官 Alan Cowen 表示:「越来越多的研究人员在这些大公司和实验室中的重点正在转向与人类偏好和安全的一致性。」

他补充说:「在这些应用中,有更多的重点放在监控上。我认为我们只是看到了这项技术刚刚开始被推出的初期。」

他还说:「可以预期长期以来在人工智能领域一直在追求的一些东西,比如有个性的导师和数字助手;能够阅读法律文件并进行修改的模型,实际上正在实现。」

还有一个将人类置于人工智能开发核心的角色是提示工程师。这些工程师研究哪些基于文本的提示最适合插入生成式人工智能模型,以实现最佳的响应

根据上周 LinkedIn 发布的数据,有大量的工作涉及人工智能。LinkedIn 上提到人工智能或生成式人工智能的工作广告在 2021 年 7 月至 2023 年 7 月间在全球翻了一番。

强化学习

与此同时,公司也在使用人工智能来自动审查监管文件和法律文件,但需要人类监督。公司通常必须浏览大量文件,以审查潜在合作伙伴,并评估他们是否能够扩展到某些地区。

审查所有这些文件可能是一项乏味的工作,工作人员不一定愿意承担,因此将其交给人工智能模型处理变得很有吸引力。但是研究人员表示,它仍然需要人性化的接触。

数字转型咨询公司 Mesh AI 表示,人类的反馈可以帮助人工智能模型通过反馈来学习它们的试错。

Mesh AI 首席执行官 Michael Chalmers 通过表示:「采用这种方法,组织可以自动化分析和跟踪其监管承诺。」

他还表示:「中小企业可以将注意力从单调的文件分析转移到批准由人工智能模型生成的输出,并通过应用来自人类反馈的强化学习进一步改进这些输出。」

举报

  • 相关推荐
  • 大家在看
  • 星辰语义大模型-TeleChat:星辰语义大模型,智能对话助手

    TeleChat是由中电信人工智能科技有限公司研发的星辰语义大模型,具备强大的对话生成能力,支持多轮对话,适用于多种场景的智能问答和内容生成。模型经过大量高质量中英文语料训练,具备优秀的通用问答、知识类、代码类、数学类问答能力。

  • Live2D Virtual Human for Chatting based on Unity:基于Unity的Live2D虚拟人实时聊天系统

    AI女友是一款基于Unity开发的Live2D虚拟人实时聊天系统,它利用Live2D技术提供动态的虚拟人形象,结合Unity的实时渲染功能,实现与用户的动态交互和聊天。主要功能包括Live2D虚拟人形象集成、实时聊天、图像处理和人脸检测,支持高清分辨率显示,并且可自定义和扩展。

  • School AI:个性化AI学习助手,提升学习效率

    School AI是一个专为K12学生设计的AI平台,提供个性化学习体验和即时反馈,支持多语言环境,帮助学生以母语进行互动,增强教育的普遍性和包容性。平台对教师免费开放,内置监控和控制工具,帮助教育工作者设计更好、更个性化的课堂体验。

  • MetaAI:使用 Meta AI 助手完成任务、创建免费 AI 生成图像和获取任何问题的答案

    Meta AI 是一款功能强大的 AI 助理,建立在 Meta 的先进 AI 技术之上。它可以帮助您完成各种任务,如创建备忘单、润色电子邮件写作、回答问题等。同时它还具有图像生成功能,可以根据您的文字描述生成相应的图像。Meta AI 免费使用,致力于为用户提供高效、智能、多功能的 AI 体验。

  • Meta Llama 3:Meta 新一代开源大型语言模型,性能卓越

    Meta Llama 3是Meta公司推出的新一代开源大型语言模型,性能卓越,在多项行业基准测试中表现出色。它可支持广泛的使用场景,包括改善推理能力等新功能。该模型将在未来支持多语种、多模态,提供更长的上下文窗口和整体性能提升。Llama 3秉承开放理念,将被部署在主要云服务、托管和硬件平台上,供开发者和社区使用。

  • HuggingChat App:连接先进AI与用户的革命性平台

    HuggingChat是一款iOS应用程序,旨在促进用户与多家提供商(如Mistral AI、Meta和Google)的多个顶尖大型语言模型之间的无缝沟通。它可以满足多种场景需求:激发创意,提供专家指导,促进教育与自我提升,提高工作效率,快速响应日常问题等。作为变革性AI技术的先锋采用者,HuggingChat将让您体验与先进大语言模型对话的无限可能。

  • SpeedLegal:个人AI合同谈判助手

    SpeedLegal是一个利用机器学习技术(特别是深度学习、大型语言模型和通用AI)来突出合同中的条款和关键风险的技术初创公司。我们分析您的文档并发送给您一个简化的报告,以便您在签名前做出更明智的决策。

  • FCK.School:AI写作工具

    FCK.School是一个为学生提供AI写作工具的在线平台。它可以帮助学生改善写作技巧,提升学术表现。通过FCK.School的AI驱动工具,学生可以进行文本改写、文摘、语法纠错等操作,还能生成各种写作素材,如标题、论点、大纲等。FCK.School提供免费工具以供试用,同时还有付费订阅计划。

  • CompliantChatGPT:AI医疗助手,HIPAA合规

    CompliantChatGPT是一款专为医疗保健行业设计的AI助手,它通过HIPAA合规的方式,帮助医疗工作者安全、高效地处理医疗相关任务。产品具备以下特点: - 保护患者数据安全,通过令牌化技术确保个人健康信息(PHI)的安全。 - 提供个性化的医疗模式,包括血液分析、PHI匿名化、诊断和治疗规划等。 - 用户友好的界面设计,支持语音到文本的笔记功能,便于记录和回顾。 - 定价策略灵活,提供免费试用,以及多种付费套餐选择。 - 适用于医疗提供者、专业人士、医疗机构、研究中心和健康科技初创企业。

  • Healax:AI驱动的心理健康解决方案

    Healax是一款创新的AI驱动的心理健康解决方案,专为学生设计,帮助他们主动应对日常生活中的压力和焦虑。该产品通过建立学生、行政人员和提供者之间的信任沟通渠道,提供定制化活动和内容,以促进更全面的教育体验。

  • Snowflake Arctic Embed:开源的先进文本嵌入模型

    Snowflake Arctic Embed是一系列基于Apache 2.0许可开源的文本嵌入模型,专为检索用例设计。这些模型在Massive Text Embedding Benchmark (MTEB)检索基准测试中提供了领先的检索性能,为组织在结合专有数据集与大型语言模型(LLMs)进行检索增强生成(RAG)或语义搜索服务时提供了新的优势。这些模型的尺寸从超小型(xs)到大型(l),具有不同的上下文窗口和参数数量,以满足不同企业的延迟、成本和检索性能需求。

  • DuerOS X:全球首个AI原生操作系统

    DuerOS X是小度基于百度文心大模型推出的全球首个AI原生操作系统。它彻底颠覆了传统的人适应系统的模式,实现了端到端连接用户的意图与任务,极大地拓展了操作系统的边界。DuerOS X全面应用了文心大模型,通过模型路由架构,能够灵活调度不同的文心模型去解决不同难度的问题,更高效、更精准、更经济。个性化长短记忆的存储、提取和理解能力,使得DuerOS X能够更清楚地记住历史内容与用户个性化偏好。此外,多模态感知技术的应用,让DuerOS X产生更丰富的感知力,无论是通过语音、文字还是表情与小度沟通,都能准确地理解用户的意图,并给出恰当的回应。

  • abab 6.5:万亿参数MoE文本大模型

    abab 6.5系列包含两个模型:abab 6.5和abab 6.5s,均支持200k tokens的上下文长度。abab 6.5包含万亿参数,而abab 6.5s则更高效,能在1秒内处理近3万字的文本。它们在知识、推理、数学、编程、指令遵从等核心能力测试中表现出色,接近行业领先水平。

  • mistral-common:Mistral模型工具集

    mistral-common是一套帮助您处理Mistral模型的工具。它不仅包含文本到token的转换,还增加了工具解析和结构化对话。目前发布了三个版本的tokenizer,分别适用于不同的模型集合。

  • AI Grammar Checker & Paraphraser – LanguageTool:提供语法检查和改写的工具

    AI语法检查与改写工具- LanguageTool是一款免费的语法检查工具,可以检测文本中的语法错误并提供改写建议。它能够检测出拼写错误、语法问题、常见词汇混淆和标点符号错误,并提供改写建议、同义词替换和简洁句子重写。该工具适用于多种语言,支持多个平台和应用场景,如社交媒体、电子邮件和网页。

  • Spline AI 3D Generation:快速生成三维模型的AI工具

    AI 3D Generation是Spline推出的一款3D设计工具,它支持文本到3D生成和图像到3D生成,允许用户通过简单的文本提示或2D图像自动创建出详细且精确的3D模型。该工具具有生成变体与混合、直观且适合初学者、创建独特的3D库、平台集成与实时协作、易于集成和发布等功能。

  • FocuSee:轻松录屏 软件会自动跟踪光标移动美化录屏效果

    FocuSee 自动跟踪光标移动,应用动态缩放效果,为您节省宝贵时间和额外的努力。适用于演示,教程,推广视频等多种场景。

  • Ai-to-pptx:使用AI技术来自动生成PPTX 支持在线修改

    Ai-to-pptx 是一个使用 AI 技术 (ChatGpt 和 Gemini) 制作 PPTX 的助手,支持在线修改和导出 PPTX。主要功能包括使用 ChatGPT 等大语言模型生成大纲、允许用户再次修改内容、选择不同模板、在线修改 PPTX 的文字、样式、图片等,支持导出 PPTX、PDF、PNG 等多种格式。价格为付费,商业授权价格为 22000 元人民币或 3000 美元。

  • CodeQwen1.5:开源代码助手,高效编程新选择

    CodeQwen1.5是一个基于Qwen语言模型的代码专家模型,拥有7B参数,支持92种编程语言,最长支持64K的上下文输入。它具备代码生成、长序列建模、代码修改和SQL能力等,旨在提高开发人员的工作效率,简化软件开发流程。

  • PixArt-Sigma:4K文本到图像生成的扩散变换器

    PixArt-Sigma是一个基于PyTorch的模型定义、预训练权重和推理/采样代码的集合,用于探索4K文本到图像生成的弱到强训练扩散变换器。它支持从低分辨率到高分辨率的图像生成,提供了多种功能和优势,如快速体验、用户友好的代码库和多种模型选择。

今日大家都在搜的词:

热文