当下人工智能领域的巨头OpenAI曾不止一次发起呼吁，称人们需要人工智能的研究，避免没有道德约束的AI造成不必要的问题。
快科技7月17日消息，近日，有黑客展示了在没有道德限制”的情况下，人工智能会做出怎样的事情。
根据安全分析公司SlashNext提供的信息，有黑客利用一个名为GPT-J的开源AI模型，开发出了一款名叫WormGPT”的生成式人工智能。
经过SlashNext的测试，WormGPT能够自由生成有Python语言编写的恶意代码，并能够生成极具误导型的钓鱼邮件。
而这样的表现，还仅仅是基于GPT-J这样一个诞生于2021年的，架构较老，表现也并不出色的开源模型实现的。
可以想象，如果各大厂商的人工智能没有道德”限制，将会带来怎样严重的影响。
因此，SlashNext认为，随着AI技术的普及，此类完全为网络攻击而生”的AI工具恐将受到黑客所滥用，为用户安全带来重大威胁。
WormGPT
（举报）
11.11云上盛惠！海量产品 · 轻松上云！云服务器首年1.8折起，买1年送3个月！超值优惠，性能稳定，让您的云端之旅更加畅享。快来腾讯云选购吧！
腾讯云
12-20
微软于上周发布了其BingImageCreator的新版本，这是一个由OpenAI的新模型DALL-E3提供支持的AI图像生成工具。它旨在提供比之前的图像生成AI模型更强大的功能，包括比以前更丰富地理解复杂用户请求的能力。倘若幸运的话，也许它还能提升我们讨论的基调。
谷歌最近宣布已经在其生成式人工智能服务的服务条款中，增加了明确的赔偿语言，为付费用户提供了广泛的法律保护。这一举措获得了许多积极的报道。用户需要谨慎阅读条款细则，不能掉以轻心。
根据西班牙IE大学的一项最新研究，大多数欧洲人呼吁政府限制人工智能的发展，以减轻该技术对就业安全的影响。这项研究显示，在对3，000名欧洲人的样本调查中，有超过68%的人希望他们的政府出台规定，以应对人工智能带来的自动化水平上升所带来的影响。欧洲的年长公民对于确定AI生成和真实内容的能力表示更多怀疑，有52%的人表示他们无法自信辨别。
一份来自专业服务公司KPMG的新报告揭示了高级管理人员对工作场所生成式人工智能的立场。72%的美国CEO确认将在其业务中部署生成式AI，即使面临宏观经济挑战，也将视为“顶级投资重点”。但报告指出，入门级角色和客户服务工作面临AI替代的风险最高，女性是受影响最大的人群。
纽约的科技公司和投资者视人工智能的出现为最新的机会，试图取代旧金山湾区成为人工智能的世界之都。纽约将在下周成为人工智能展示中心，该市将于10月16日开始举办由风险投资公司AndreessenHorowitz协调的包含370场活动的「科技周」。与纽约相比，旧金山湾区仍然遥遥领先，成为科技就业、初创企业和投资的中心。
Auctoria是一家在游戏行业引领创新的初创公司，它利用先进的人工智能彻底改变了3D视频游戏资产的创建方式。这一突破是在创始人AleksanderCaban意识到手动设计视频游戏环境的基本元素既耗时又费力之后取得的。随着Auctoria的不断发展，它有潜力重塑视频游戏开发的格局。
据英国会计师事务所毕马威本周二发布的一项调查显示，大多数人支持可信赖的人工智能，并期望它受到监管，其中印度、中国和新加坡在信任当前监管对保证AI安全使用方面是充分的这一方面领先于亚太地区其他国家。调查显示，全球有97%的受访者支持可信赖AI的原则，若能建立保证机制，有四分之三的人更愿意信任AI系统。该国63%的人使用包含AI的常见应用程序，但49%的人不知道这些应用程序中使用了AI。
AMD正在加紧挑战英伟达在AI市场近乎垄断的地位。以GPU主导地位闻名的英伟达一直以其专有的CUDA软件和PyTorch日益增长的流行度来巩固其统治地位，其中92%的人工智能模型都是PyTorch独占的。人工智能行业仍处于早期阶段，在这个市场上赢得硬件竞争将取决于性能、可移植性和可用性。
据全国信息安全标准化技术委员会网站消息，全国信息安全标准化技术委员会组织制定的技术文件《生成式人工智能服务安全基本要求》已形成征求意见稿。根据《全国信息安全标准化技术委员会技术文件制订工作程序》，现将该技术文件面向社会公开征求意见，如有意见或建议请于2023年10月25日24:00前反馈秘书处。《生成式人工智能服务安全基本要求》给出了生成式人工智能�
在对人工智能进行了一年多的训练后，图片库盖蒂图片社将允许用户通过其网站使用人工智能生成图像。该公司承诺用户不必担心版权纠纷，因为其人工智能仅接受盖蒂自有图片进行训练。用于训练的图片数据以及人工智能生成的图片输出应该具有透明度。
小悟空是一个集成了多种智能工具的网站，旨在提高个人和团队的创作效率和运营效果。它通过提供诸如文章生成、视频脚本创作、笔记创作等多样化功能，满足不同用户在内容创作、个人表达、学习教育等方面的需求。产品背景基于人工智能技术，结合大数据分析，为用户提供个性化、高质量的服务。价格定位为免费试用，部分功能付费，以适应不同用户的需求。
Jasper Chat是一个先进的人工智能聊天工具，它通过数十亿的文章、论坛、视频文字稿和网络内容的学习，能够就复杂主题进行详细对话。它的设计易于使用，能够记住对话内容，快速生成有用、适用且独特的内容，并且支持30多种语言。Jasper Chat不仅功能强大，而且使用起来充满乐趣，可以用于写作诗歌、讲笑话、制作剧本或生成日常星座运势等。
YouTube Transcript Generator可以下载任何YouTube视频的转录文本，并提供复制、下载、搜索和转换等功能。通过AI将YouTube转录文本转换为文章或博客帖子。
Undress AI Tool是一款强大的深度脱衣应用程序，可以修改图像，使人们看起来像是没有穿衣服。它使用先进的技术准确地修改照片，生成DeepNude和AI成人图像。该工具的主要优点是可以快速准确地创建深度脱衣图像。
TinderProfile.ai是一个使用AI技术分析用户自拍和照片，生成一组高质量、专业外观的图片，以确保在约会档案上留下良好的第一印象，增加用户获得更多匹配的机会。
OpenBioLLM-70B是由Saama AI Labs开发的先进开源语言模型，专为生物医学领域设计。该模型在大量高质量的生物医学数据上进行了微调，能够理解和生成具有领域特定准确性和流畅性的文字。它在生物医学基准测试中展示了超越其他类似规模开源生物医学语言模型的优越性能，并且在与更大的专有和开源模型如GPT-4、Gemini、Medtron-70B、Med-PaLM-1和Med-PaLM-2的比较中也展现了更好的结果。
FunGifts.AI是一个提供个性化AI生成的记忆游戏的平台。用户可以上传照片，通过AI生成独特的艺术作品，并打印成为一款记忆卡片游戏。这款游戏拥有30张卡片，印有训练人物的AI艺术作品。FunGifts.AI提供快速的打印和寄送服务，为用户打造一款独一无二的记忆游戏。
Lawdeck是一款利用人工智能技术的在线法律平台，旨在自动化律师事务所的80%例行工作。它可以通过分析输入的详细信息，为用户提供最佳的法律策略，并生成完整的文件供用户编辑和共享。
ChatALL是一款桌面客户端软件，它允许用户同时与多个大型语言模型（LLMs）基础的AI聊天机器人进行对话，帮助用户发现最佳的对话结果。这款软件的主要优点在于其能够并发发送提示给不同的AI机器人，从而快速比较它们在不同任务上的表现，并找到最适合的机器人。产品背景信息显示，ChatALL适合于希望从LLMs中找到最佳答案或创作的专家、研究人员以及LLM应用的开发者。目前，ChatALL是免费提供给用户的。
TTS Generator AI是一款创新的免费在线文本转语音工具，利用先进的AI技术将书面文本转换为高质量、自然流畅的音频。该工具适用于各种用户，包括需要听觉学习材料的学生、想要听长篇文件的研究人员以及希望使其书面内容更易访问的专业人士。TTS工具的一大亮点是它能够支持各种文本格式，从简单的文本文件到复杂的PDF文件，使其非常灵活。
Neopaths是一款游戏化的个人成长平台，通过智能任务管理和微学习等功能，帮助用户开发潜力。该平台采用科学方法，提供个人成长和教育支持。Neopaths可以帮助用户提高注意力、支持长期记忆，并通过引入游戏元素和机制，使非游戏化内容更加有趣。Neopaths提供免费、有趣和简单的个人成长方法。
Illusion Diffusion是一款免费创新的AI工具，通过Stable Diffusion和Controlnet AI模型，将普通照片转化为艺术品，提供文本提示来生成视觉错觉和超现实图像。
Datascale是一个AI SQL知识库，帮助数据团队跟踪所有用于数据分析的查询。它将保存的查询转化为知识，从分散的分析中提取表格洞见和可视化关系。
NextChat是一个多功能的AI聊天服务平台，支持与领先的大型语言模型（LLMs）兼容，允许用户轻松部署团队范围内的AI辅助工具。它提供了一个优雅的用户界面，集中管理所有数据，并提供统计追踪团队AI使用情况的功能。此外，它还包括反馈分析工具，帮助用户聆听并分析其受众。NextChat支持OpenAI和Gemini模型，是一个面向所有人的AI基础设施，旨在提供个性化的AI聊天服务。
Spark是一款智能、专注的电子邮件应用，帮助您掌控收件箱。通过智能筛选，快速了解重要内容，并快速清理其余邮件。Spark还提供AI助手帮助您快速编写完美的电子邮件。
Chatbox是一个易于使用的人工智能解决方案，支持多平台，帮助提升工作和学习效率。它具备本地数据存储，确保隐私和轻松访问，同时支持多种尖端人工智能模型，提供多样化、适应性和智能化的用户互动。Chatbox还具备强大的提示功能，释放创造力，支持Markdown、引用、令牌估计等功能，为思维提供广阔的发展空间。
ChatX是一个基于先进AI技术的客户端应用，它通过高速API服务器提供极速体验，支持iPhone、iPad和macOS设备间的云同步。用户可以利用它完成各种AI任务，如文本生成、图片生成等，显著提高工作效率。产品的主要优点包括高速访问、自定义功能、经济的按字数消耗模式以及丰富的高级功能，如AI参数微调、Siri朗读等。ChatX的背景是AI技术的快速发展和用户对于高效、智能工具的需求。目前，产品在Mac App Store上免费提供，但提供App内购买项目。
RAGFlow是一个开源的RAG（Retrieval-Augmented Generation）引擎，基于深度文档理解，提供流线型的RAG工作流程，适用于各种规模的企业。它结合了大型语言模型（LLM）提供真实的问答能力，支持从各种复杂格式数据中引用确凿的引文。
EmojiTell是一个创新的在线服务，可以将文本翻译成表情组合，增加沟通的趣味性和表现力。它由一支对表情符号充满热情的开发者和设计师团队开发，旨在通过表情符号的力量，让信息传递更加生动和个性化。
Perplexica是一个开源的AI驱动搜索引擎，它不仅搜索网络，还理解您的问题。它使用先进的机器学习算法，如相似性搜索和嵌入，来优化结果，并提供引用来源的清晰答案。使用SearxNG保持最新和完全开源，确保您始终获得最新信息，同时不损害您的隐私。
