近日，索云科技（SOIN Technology）正式发布 SOINAWE-RVE1300 企业级高性能 AI 推理服务器。该产品由索云科技与奕斯伟计算（ESWIN Computing）联合打造，搭载 4 张 EBC7702-P02 加速卡（合计 8 颗专用 AI 处理器），FP8 算力高达 1520 TFLOPs，并通过以太网 Mesh 互联架构构建 96GB 统一共享显存池，可运行参数量高达 800 亿的大语言模型，或同时运行多个 200 亿参数模型。SOINAWE-RVE1300 深度集成索云自主研发的 AWE（Agentic Workflow Engine）引擎，全面兼容信创 AI 算力加速卡与主流信创数据库、中间件，以「数据不出域」的私有化部署能力，为车企等对数据安全与合规有严苛要求的企业客户，提供开箱即用的企业 AI 数字底座。
产品概览：4U 机架式，为推理而生
SOINAWE-RVE1300 采用 4U 机架式设计，整机搭载 4 张 EBC7702-P02 加速卡、共 8 颗专用 AI 处理器，通过基于标准以太网的 Mesh 互联架构组成统一共享内存池，配套双路 Intel Xeon 宿主 CPU，配备 512GB DDR4-3200 ECC 内存与 4TB PCIe 4.0 NVMe 高速固态硬盘。灵活的以太网网格拓扑可将显存扩展至 96GB 共享内存池，显著降低量化需求、提升模型精度，兼容单用户/单模型与多用户/多模型场景，一台设备即可承载企业级大模型推理业务。
核心规格
| 规格项 | 参数 |
|---|---|
| AI 加速硬件 | 4 × EBC7702-P02（合计 8 颗 AI 处理器） |
| 总显存容量 | 96GB（以太网 Mesh 统一共享内存池） |
| 处理器 | 2 × Intel Xeon Silver 4309Y（整机 32 线程） |
| 内存 | 512GB DDR4-3200 ECC RDIMM |
| 存储 | 4TB PCIe 4.0 NVMe 高速固态硬盘 |
| AI 算力 | FP8：1520 TFLOPs；FP16：520 TFLOPs |
| 网络接口 | 2 × 10G 电口 RJ45、专用 IPMI 远程管理网口 |
| 外设接口 | 5 × USB3.1 Type-A、1 × USB3.1 Type-C、COM 串口、VGA 视频输出 |
| 供电方案 | 1+1 冗余 2200W 服务器电源 |
| 操作系统 | Ubuntu 22.04 |
| 散热方式 | 全风冷散热 |
大模型推理实测性能
以下为 SOINAWE-RVE1300 在主流开源大模型上的实测推理性能（Batch=32，TP=8，8 颗 AI 处理器全量参与）：
| 模型 | 首字延迟 TTFT | 单路生成速度 | 整机吞吐 |
|---|---|---|---|
| Qwen 3 32B | 94 ms | 22.8 t/s | 729.6 t/s |
| QwQ 32B | 133 ms | 25.2 t/s | 806.4 t/s |
| Qwen 2.5 72B | 223 ms | 15.4 t/s | 492.8 t/s |
| DeepSeek R1 Distill Llama 3.3 70B | 159 ms | 15.9 t/s | 508.8 t/s |
| Llama 3.3 70B | 159 ms | 15.9 t/s | 508.8 t/s |
实测数据显示，整机在 72B 级模型上仍可保持每秒 500 token 以上的稳定吞吐，32B 级模型整机吞吐超过 729 t/s，可从容支撑数百并发用户的智能问答、代码辅助与知识检索等企业级应用。
六大产品优势
· 高算力：深度学习算力高达 1520 TFLOPS（FP8），采用开源 RISC-V 指令集架构，可自行修改、自行维护；
· 安全可靠：软件全栈开源，无闭源黑盒，代码可自行审计，满足安全审查与合规要求；
· 扩展灵活：基于标准以太网的互联架构打破专用互联壁垒，可从 1 台扩展至数千台，构建真正的 Exa-scale AI 超级计算机；
· 软件灵活：提供从高层框架到「直达金属」的完整软件栈，兼顾开发便捷性与底层硬件的优化潜力，适配多元场景；
· 高性能：自研 BLOCKFP 数据格式在提供与传统浮点相近精度的同时，将内存带宽和存储空间需求降低 50%，同等硬件条件下大幅提升数据处理速度；
· 高性价比：通过高计算密度、高能源效率及灵活的横向扩展模式，有效降低大规模 AI 部署的硬件、功耗和全生命周期管理成本。
深度集成索云 AWE 引擎：从算力到智能体的开箱即用
SOINAWE-RVE1300 出厂深度集成索云自主研发的 AWE（Agentic Workflow Engine）引擎。AWE 引擎能够将企业的行业知识图谱、业务流程逻辑与决策模式转化为可复用的智能体技术资产，结合 RVE1300 的高吞吐推理能力，企业无需从零搭建 AI 基础设施，即可快速构建覆盖研发、生产、经营分析等场景的企业级智能体应用，实现「算力底座 + 智能体引擎」的一体化交付。
全面兼容信创生态：数据库、中间件与应用服务器
面向信创环境的企业客户，SOINAWE-RVE1300 支持根据企业需求灵活配置信创 AI 算力加速卡，并已完成对主流信创数据库、应用服务器及消息缓存中间件的兼容适配：
· 数据库：Oracle、达梦、人大金仓（KingbaseES）、南大通用（GBase）、神舟通用（神通）、华为 GaussDB；
· 应用服务器：东方通 TongWeb、宝兰德 BES、金蝶 Apusic；
· 消息与传输中间件：东方通 TongLINK/Q、Apache Kafka、RabbitMQ；
· 缓存与分布式事务：Redis、Seata。
上述适配使 SOINAWE-RVE1300 可以无缝嵌入企业既有的信创 IT 架构，在国产化替代与智能化升级两条主线上同步推进，避免「重建烟囱、重复投资」。
面向企业数据安全与合规：数据不出域
对于车企、金融、政务等对数据主权有严苛要求的行业，模型能力再强，数据出了域就失去意义。SOINAWE-RVE1300 从架构层面给出确定性答案：
· 数据不出域：整机私有化部署在企业机房或指定数据中心，模型推理、向量检索、知识库匹配全部在域内完成，研发图纸、工艺参数、经营数据等敏感信息全程不出企业边界；
· 全栈开源可审计：基于开源 RISC-V 指令集与全栈开源软件，无闭源黑盒，企业可对代码自行审计，消除对境外云服务与不可控供应链的依赖；
· 自主可控：芯片、整机、引擎、平台全链条自主，配合信创数据库与中间件生态，满足关基行业的安全审查与信创合规要求；
· 精细权限与审计：结合 AWE 引擎的权限体系与审计日志，实现「谁能用哪个模型、访问哪些知识、留下哪些痕迹」的全链路可控。
以车企场景为核心：让 AI 停在企业的地界里
索云科技的众多客户来自汽车行业。SOINAWE-RVE1300 针对车企研发与经营场景进行了针对性设计：
· 研发知识库与智能问答：整车研发涉及数以万计的技术标准、设计规范、试验报告与历史车型文档。RVE1300 可在车企内网本地部署研发知识库智能体，工程师用自然语言即可检索标准条款、对比历史方案、生成评审初稿——核心研发数据全程留在企业内网；
· 智能编码与研发提效：结合 AWE 引擎与智能编码助手，72B 级代码模型在域内为研发团队提供代码生成、评审与重构建议，实测整机吞吐可支撑研发团队规模化并发使用；
· 多模态质检与设计评审：融合文本、图像、音频等多种异构数据的复杂 AI 模型可在 RVE1300 上流畅运行，支撑外观缺陷检测、造型的多维度智能评审等视觉类应用；
· AI 视频生成与营销内容：从文本或图像快速生成高质量动态内容，满足车型宣传、营销素材等场景的创作需求，未经发布的造型与营销方案不出域；
· 海量图纸与文档的结构化治理：依托 AWE 引擎将车企的行业知识图谱与业务流程逻辑沉淀为智能体资产，让经验随平台沉淀、随组织复用。
三大核心应用场景
· 大语言模型（LLM）推理：支持万亿级参数规模的大语言模型高性能推理，为智能对话、内容创作与知识问答提供坚实的算力底座；
· 多模态融合模型：高效处理融合文本、图像、音频等多种异构数据类型的复杂 AI 模型，实现多维度信息的统一理解与智能分析；
· AI 视频生成：流畅运行最新的视频生成与处理模型，从文本或图像快速生成高质量动态内容，满足影视、营销等场景的创作需求。
SOINAWE-RVE1300 的发布，标志着索云科技「AI 算力硬件 + AWE 智能体引擎 + 信创软件生态」三位一体的企业 AI 数字底座完成关键拼图。索云科技将持续携手奕斯伟计算等生态伙伴，为车企及各行业企业客户提供安全、合规、自主可控的智能化基础设施，让企业的大模型应用真正跑在自己的数据中心、用自己的数据、守自己的边界。