魔芋AI 旗下 · 企业级 AI 网关 当 AI 从“个人尝鲜”走向“企业架构”,企业的胜负手已不再是模型聪不聪明,而是基础治理的工程能力——组织、权限、财务、安全、合规,缺一不可。
|
|
|
|
产品全称
|
MAIGateway(魔芋企业 AI 网关)
|
|
产品定位
|
企业级全栈 AI 基础设施枢纽
|
|
开发主体
|
武汉市魔芋数字有限公司 · 奇墨科技有限公司
|
|
官方网站
|
https://mai.moyu.cn/
|
|
客服热线
|
4008-233-655
|
|
核心特性
|
私有化部署 · 组织架构同步 · 多层级权限 · 财务分账合规 · 等保三级 · 软硬一体
|
大模型应用初期,API Key 散落在个人电脑与业务代码里,是典型的“个人尝鲜”模式。但当 AI 走向“企业架构”,这种无配额、无审计、无治理的“三无”方式会迅速演变为安全与合规风险。MAIGateway 是魔芋AI推出的企业级 AI 网关——它不是又一个 AI 工具,而是企业 AI 基础设施的“中枢神经”,把模型聚合、智能调度、权限隔离、成本分账、全链路监控与安全合规连接起来,让企业的每一次 AI 调用都可见、可控、可计量、可优化。
一、企业 AI 网关是什么
企业 AI 网关是面向企业内部治理的 AI 基础设施枢纽。它的治理对象不是单个模型或单次调用,而是组织、部门、项目、用户、令牌、预算与模型资产。应用只需连接企业分配的网关地址和受控令牌,不直接保存外部模型供应商的密钥;管理员在网关侧维护模型、价格、链路、权限和策略。
网关把一次模型调用拆分为完整流水线,企业可在任意环节配置控制规则,并把调用归属到组织、项目、用户或令牌:
它不是通用模型聚合网关。 通用聚合网关通常侧重渠道接入、用户管理与转发计费,适合个人开发者、小团队或中转服务;MAIGateway 的设计更偏向企业内部治理——权限隔离到角色级、费用分账到项目级、安全合规到等保三级。
二、为什么企业需要 AI 网关
企业 AI 规模化落地时,面临的是关乎组织、合规、成本与稳定性的多维度挑战:
-
模型分散与治理缺失——业务部门对 AI 使用日益深化,大量 API Key 与访问令牌散落各级团队,企业治理陷入碎片化,无形中放大安全风险。
-
成本黑盒与财务脱节——大模型 Token 消耗与传统云资源迥异,缺乏精细化计量工具,AI 应用变成“隐形成本”;不同部门、项目费用如何摊派?跨国结算难、合规发票缺乏,内控流于形式。
-
资产安全与红线隐患——员工易在未脱敏情况下把核心财务数据、客户隐私作为上下文输入大模型;提示词注入攻击时刻威胁数字资产,企业面临合规监管处罚。
-
权限混乱与审计缺失——不同部门可用模型范围不同,离职、项目结束后权限回收缺乏机制;谁在用、用在哪、谁付钱、谁负责,一问三不知。
企业真正需要的,是一套能承载复杂组织架构、契合财务内控、筑牢数据合规防线的企业级大模型基础设施枢纽。
三、企业级八大核心能力
1. 组织架构同步与多层级权限
完美兼容飞书、钉钉、企业微信、AD 等主流用户体系,实时同步组织数据,实现零集成成本接入。支持超级管理员、子管理员与普通用户三级体系——超级管理员为部门配置模型权限与总配额;子管理员为用户细粒度配置模型访问权限与配额,权限边界清晰,数据权限隔离到角色级。
2. 项目化管理与资源隔离
项目是连接业务和资源的管理单元。项目可绑定负责人、成员、模型、令牌、配额、预算与报表,使调用记录及费用与具体业务场景对应。企业组织发生变化时,相关用户和令牌可同步调整,权限不随人员流动而失控。
3. 令牌全生命周期管理
企业应用和用户通过受控令牌调用模型,而非直接持有供应商 Key。网关记录令牌的创建、绑定、授权、使用、轮换、撤销与失效状态,可设置有效期、模型范围、调用频率及 IP 黑白名单。人员离职、项目结束或检测到异常高频调用时,可一键撤销,令牌操作进入审计日志。
4. 多模型统一纳管与智能路由
集中纳管魔芋AI 模型服务、第三方大模型 API、企业私有模型与开源自建模型,覆盖 200+ 全模态模型能力。支持同模型多链路智能路由与跨模型调度,A 模型超时/报错自动降级到 B 模型;链路超时连续报错自动下线,恢复后回归,毫秒级故障转移,可用性超 99.9%。
5. FinAPI 成本治理与财务合规 ⭐
FinAPI 是 MAIGateway 中的 AI 费用管理框架,把成本管理分为三阶段:统一管理(收口分散采购与调用)→ 成本审计(预算/账单核对/异常识别/费用归因)→ 成本优化(按业务价值调整路由、缓存、上下文与模型选择)。系统按供应商、模型、部门、项目、用户或令牌生成精细化账单,完美对接企业内部精细化财务核算体系。
100% 财务与内控合规:平台统一采用 RMB 结算,彻底解决企业使用各大流行模型时支付困难、无发票、无账单的合规死结,提供规范的增值税发票服务。
6. 全栈安全防护体系
-
输入防护:内置自研大模型防火墙,自动识别并拦截恶意提示词注入攻击;实时识别手机号、身份证号等 PII 隐私信息并自动脱敏。
-
输出防护:实时审核模型生成内容,自动过滤违规内容,支持灵活配置安全回复替换。
-
合规留痕:全程 TLS 加密传输,留存全链路请求与响应日志,所有行为可追溯、可审计,满足《数据安全法》等监管要求。
7. 配额与流量控制
配额可按企业、组织、部门、项目、用户、令牌或模型设置,周期按日/周/月,控制指标可为金额、Token 数、请求频率或并发数。额度接近阈值告警,超限后按规则限速、阻断、临时扩容或模型降级。自动化智能体可单独配置 RPM、TPM 与最大费用,避免循环调用持续消耗资源。
8. 全链路监控与审计
实时追踪每次请求的链路、延迟、错误率与 Token 消耗;模型不可用、调用量突增、预算超限、令牌异常或内容安全事件触发多渠道告警(邮件/短信/钉钉/企业微信)。从“被动救火”走向“全面掌控”,大幅缩短故障排查与安全审计时间。
四、企业多角色协作
企业级 AI 网关天然支持多角色分工协作:
|
角色
|
职责
|
|
超级管理员
|
平台初始化、全局策略、为部门配置模型权限与总配额
|
|
部门/项目管理员
|
成员管理、模型范围、预算与配额分配
|
|
运维人员
|
链路、告警、资源水位、容量管理
|
|
财务审计人员
|
账单查看、费用归集、月度对账、异常核查
|
|
安全人员
|
异常令牌审查、敏感信息处理、操作日志审计
|
|
普通用户
|
在授权范围内使用模型或创建个人令牌
|
运行阶段通常按周或按月复盘,常用指标包括请求量、成功率、错误率、p95/p99 延迟、Token 吞吐、预算进度、费用归因覆盖率、令牌轮换情况与故障切换时间。
五、与同类方案的区别
|
维度
|
MAIGateway
|
通用模型聚合网关
|
云厂商 AI 平台
|
|
适用对象
|
企业(多部门/多项目)
|
个人/小团队/中转
|
云生态内企业
|
|
组织架构同步
|
钉钉/飞书/企微/AD
|
用户管理为主
|
依赖自家 IdP
|
|
权限隔离
|
角色+项目级
|
用户级
|
依赖云 IAM
|
|
财务合规
|
分账+发票+RMB 结算
|
计费为主
|
账单为主
|
|
安全合规
|
等保三级+内容安全
|
无
|
部分
|
|
部署方式
|
私有化/混合
|
多为 SaaS
|
公有云绑定
|
六、企业典型应用场景
-
多团队、多模型统一接入:不同团队分别采购模型时,将接口和密钥收口到统一网关,应用使用稳定的企业地址和令牌,供应商变更在网关侧处理。
-
自动化智能体异常消耗治理:为智能体单独建立项目,设置 RPM、TPM、预算与熔断策略,调用突增或费用接近阈值时通知责任人。
-
财务分账与月度对账:费用按部门、项目、人员和令牌归集,财务从费用中心查看明细并与供应商账单核对,调用记录保留模型、时间与责任主体。
-
敏感数据调用外部模型:请求发往外部模型前识别个人信息或内部敏感字段,按规则脱敏、阻断或转向本地模型。
-
公共模型与本地算力混合使用:同时管理公共模型 API、私有模型与本地 GPU,按数据等级、成本、延迟与模型能力选择链路。
-
AI 编程与研发平台:编码助手用项目令牌访问指定模型,限制可用模型和费用,保留账单证据,供应商切换时减少研发工具侧改动。
七、部署与安全合规
MAIGateway 支持私有化与混合部署,数据不出门、模型本地跑,合规零风险:
-
单机部署:网关、MySQL、Redis 同机,适合调用规模小、运维简单的场景。
-
集群部署:负载均衡后多无状态实例,共享数据库/缓存/日志,以峰值在途请求数为容量规划主指标。
-
混合部署:普通任务走公共模型,敏感数据/本地能力任务路由到私有模型。
平台基于等保三级完成信息安全建设并通过评测,具备 ICP 经营许可证备案;全程 TLS 加密传输,留存全链路请求与响应日志,满足《数据安全法》等监管要求。
注:等保、数据安全、认证与行业合规结论,以具体产品版本、部署环境及正式证明文件为准。
八、产品形态:G / S 系列
-
软件版本:标准版(模型聚合、基础路由、用量统计)/ 企业版(组织、角色、项目、预算、分账、安全、审计)/ 旗舰版(多集群、定制路由、跨区域调度)。
-
G 系列 · 软件网关:不配置本地 GPU,主要处理公共模型 API 与企业已有模型服务的接入、路由、费用与安全管理。
-
S 系列 · 硬件网关:配置本地算力,在网关治理功能之上接入本地 GPU 与开源模型,适用于对数据本地处理或本地推理有要求的场景。
联系方式
依托“数据安全、财务合规、高可用运行”的三层治理体系,沉淀为大模型规模化落地的核心基础设施,协助企业将技术爆发转化为可控、可持续的商业价值。