热点:

    Oracle携手NVIDIA助力企业加速AgenticAI 推理

      [  品牌资讯   ]  

       Oracle 和 NVIDIA 宣布,双方首次将 NVIDIA 加速计算和推理软件与 Oracle AI 基础设施和生成式 AI服务进行集成,以帮助企业加快 agentic AI 应用的创建速度。Oracle Cloud Infrastructure (OCI) 与NVIDIA AI Enterprise 软件平台之间的新集成将使 160 多个 AI 工具和 100 多个 NVIDIA NIM™ 微服务在OCI Console 上原生可用。此外,Oracle 和 NVIDIA 正在合作实现 Oracle 和 NVIDIA AIBlueprints 的无代码部署,并使用 NVIDIA cuVS 库加速 Oracle Database 23ai 中的 AI VectorSearch。

    Oracle携手NVIDIA助力企业加速AgenticAI 推理

        甲骨文公司首席执行官SafraCatz表示:“Oracle已成为AI训练和推理的优选平台,此次合作可增强我们帮助客户实现更大的创新和业务成果的能力。NVIDIA的产品与OCI的灵活性、可扩展性、性能和安全性相结合,将能够加快AI采用速度,帮助客户从数据中获得更多价值。”

        NVIDIA联合创始人兼首席执行官黄仁勋表示:“作为一家处理着全球大量企业数据的关键参与者与一家AI和加速计算公司,Oracle和NVIDIA是推理时代的合作伙伴。我们将共同助力企业利用agenticAI 进行创新,为客户和合作伙伴提供令人惊叹的成果。”

        专为支持企业AI需求而构建的解决方案

        NVIDIA AI Enterprise 将通过 OCI Console 原生提供,从而减少部署推理模型所需的时间,让客户能够轻松、快速地获取 AI工具,其中包括 NVIDIA NIM™。NVIDIA NIM™ 是面向 AI 模型的 100 多个经过优化的云原生推理微服务,包含了适用于高级AI 推理的新 NVIDIA Llama Nemotron 模型。NVIDIA AI Enterprise 将作为 OCI 裸金属实例和使用OCI Kubernetes Engine 的 Kubernetes 集群的部署映像提供。OCI Console的客户将享有通过 Oracle提供的直接计费和客户支持服务。

        企业可以在自己的数据中心、公有云或边缘部署使用OCI的150多个AI和云技术服务以及NVIDIA加速计算和NVIDIAAI Enterprise。该产品提供了集成的AI堆栈,有助于支持数据隐私、主权AI和低延迟要求。

        生物技术公司SoleyTherapeutics 正在部署OCIAI 基础设施、NVIDIAAI Enterprise 和NVIDIABlackwell GPU来构建AI药物研发平台,通过捕获、解码和解释细胞语言来预测细胞命运,为复杂疾病的治疗开辟了新的可能性。

        SoleyTherapeutics 联合创始人兼首席执行官YeremYeghiazarians表示:“我们相信AI在开发解决方案方面的潜力,这些解决方案有助于为癌症和其他复杂疾病提供治疗方法。OCI与NVIDIA共同打造了一个全栈式AI解决方案,为我们提供了必要的存储、计算、软件工具以及支持,让我们在开发AI药物研发平台时,能够利用PB级数据更快地进行创新。”

        借助定制的蓝图进行大规模AI部署

        OCIAI Blueprints提供无代码部署方案,让客户无需为软件堆栈做出决策或手动预配基础设施,即可快速运行AI工作负载。这些蓝图针对NVIDIAGPU、NIM微服务和预打包的观测工具提供了明确的硬件建议,帮助企业将AI项目的耗时从几周缩短到几分钟。

        此外 NVIDIA Blueprints 为开发人员提供了企业 AI 用例的参考工作流,在整个 NVIDIA 堆栈中打造一致的使用体验。借助NVIDIA Blueprint,企业可以使用 NVIDIA AI Enterprise 和 NVIDIA Omniverse™软件、应用编程接口和微服务,构建并运行自定义 AI 应用。例如,开发人员可以从面向客户服务 AI 助手的 NVIDIA AI Blueprint 开始,对其进行自定义以满足自己的使用需求。为简化高级物理 AI 和仿真应用及工作流的开发、部署和横向扩展,NVIDIAOmniverse、NVIDIA Isaac Sim 开发工作站以及 Omniverse Kit App Streaming预计将于今年晚些时候在 Oracle Cloud Infrastructure Marketplace 上架,并预先配置了由 NVIDIAL40S GPU 加速的计算裸金属实例。

        Pipefy是一个适用于业务流程管理的AI自动化平台,通过使用推理蓝图来进行文档预处理和图像处理。

        Pipefy 首席软件工程师 Gabriel Custódio 表示:“我们采用了 OCI AI Blueprints 来启动 GPU节点,并快速部署多模式 LLM,以处理文档和图像处理用例。借助这些预打包且经过验证的蓝图,我们部署在 OCI 上的 AI模型现已实现全面自动化,速度也显著加快了。”

        在OCIData Science 中使用NVIDIANIM 进行实时AI推理

        为了进一步加速企业AI采用,并通过设置帮助实现快速AI部署,数据科学家可以直接在OCIData Science 中访问预先优化的NVIDIANIM 微服务。这种做法可支持实时AI推理用例,并且无需涉及复杂的基础设施管理。

        为了确保数据安全性和合规性,这些模型在客户的OCI租户中运行。客户可以通过灵活的即用即付、按小时计费模式购买这些模型,也可以申请OracleUniversal Credits.

        企业可以使用此集成,在几分钟内通过经过优化的预配置NIM推理引擎部署推理端点,从而加快AI助手、实时推荐引擎和copilot等用例的价值实现速度。此外,客户可以先将集成用于较小的工作负载,再无缝扩展到覆盖整个企业的部署。

        NVIDIA加速计算平台可加快OracleDatabase 23ai 中的AIVector Search 的速度

        Oracle和NVIDIA正在合作使用NVIDIAGPU 和NVIDIAcuVS 加速创建向量嵌入和向量索引,即OracleDatabase 23ai 中AIVector Search 工作负载的计算密集型部分。

        企业可以对大量输入数据(例如文本、图像和视频)进行批量向量化,并快速创建和维护向量索引,实现向量嵌入。借助NVIDIA加速的AIVector Search,OracleDatabase 客户可以显著提高AI工作管道的性能,以此支持大量AI向量工作负载。

        DeweyVision提供先进的计算机视觉和AI功能,可将媒体转化为数据,使其可访问、可搜索、可发现、可检索和可操作。DeweyVision使用OracleDatabase 23ai on Oracle Autonomous Database来运行其AI驱动的无代码仓库工具。这些工具可在几分钟内对视频片段进行分类并提供直观的搜索功能,让专业制作人员能够连接工作流并快速编辑视频片段。

        DeweyVision首席执行官MajidBemanian 表示:“OracleDatabase 23ai 和AIVector Search可以显著提高Dewey的搜索性能,同时提高DeweyVision平台的可扩展性。通过使用NVIDIAGPU创建向量嵌入并将其加载到OracleDatabase,我们可以加快提取新数据的速度,而AutonomousDatabase和OracleDatabase 23ai的融合功能,可以帮助我们在业务增长和开拓新机会的同时降低运营成本。我们相信,在OCI中运行DeweyVision、OracleDatabase23ai 和NVIDIAGPU 将能够帮助我们实现目标— 成为好莱坞的数据仓库。”

        基于OCI的NVIDIABlackwell 让AI无处不在

        Oracle和NVIDIA将继续在OCI公有区域、GovernmentClouds、SovereignClouds、OCIDedicated Region、OracleAlloy、OCICompute Cloud@Customer 和OCIRoving Edge设备中使用新的NVIDIAGPU 类型开发AI基础设施。

        这包括NVIDIAQuantum-2 InfiniBand集群网络环境、NVIDIASpectrum™以太网交换机,适用于市场上一些大型AI超级集群且经过优化的NVIDIANVLink™ 和NVLinkSwitch功能。此外,OCI即将提供基于OCISupercluster 的NVIDIAGB200 NVL72系统,支持多达131,072个NVIDIAGPU。同时,搭载NVIDIABlackwell Ultra GPU的云端大型AI超级计算机也已开始接单。

        OCI 将成为率先提供新一代 NVIDIA Blackwell加速计算平台的云技术服务提供商之一。Blackwell Ultra 以一年前推出的 Blackwell 架构为基础,包括 NVIDIAGB300 NVL72 机架级解决方案和 NVIDIA HGX™ B300 NVL16 系统。GB300 NVL72 的 AI 性能比NVIDIA GB200 NVL72 高出 1.5 倍。

        SoundHoundAI 是对话式智能领域的先进企业,产品遍布数百个企业品牌、数千家餐厅和零售商店和数百万辆汽车和设备中。该公司的语音AI平台在OCI上运行,每年处理数十亿个查询,并使用NVIDIAGPU 为客户提供快速准确的交互体验。

        SoundHoundAI 首席产品官JamesHom 表示:“SoundHoundAI 与OCI建立了长期合作关系,我们认为双方持续合作将在支持未来增长方面发挥关键作用。我们很高兴能够从各种GPU中获得优势,并将其用于训练新一代语音AI。”

    news.zol.com.cn true https://news.zol.com.cn/971/9714798.html report 6299    Oracle 和 NVIDIA 宣布,双方首次将 NVIDIA 加速计算和推理软件与 Oracle AI 基础设施和生成式 AI服务进行集成,以帮助企业加快 agentic AI 应用的创建速度。Oracle Cloud Infrastructure (OCI) 与NVIDIA AI Enterprise 软件平台之间的新集成将使 160 多个...
    • 猜你喜欢
    • 最新
    • 精选
    • 相关
    推荐问答
    提问
    0

    下载ZOL APP
    秒看最新热品

    内容纠错