KT Token Factory概览。(图片:KT)
KT于10月27日发布KT Token Factory,该平台整合了500多个韩国国内外人工智能(AI)模型。该服务使企业能够选择适合其任务的AI模型,并通过单一平台管理使用情况和成本。
KT计划于10月30日面向企业客户推出该服务,之后再拓展至消费者市场。
Token Factory通过统一平台提供对韩国国内外AI模型的访问。企业可以管理模型选择、使用监控、成本和支付,无需为每个模型单独开设账户或维护独立运行环境。
KT集成了其自研的Auto Model Router,可通过分析用户查询、任务复杂度、所需质量和成本,自动选择最合适的AI模型。该系统会将轻量模型分配给简单任务,并将高性能模型分配给复杂分析。
据KT称,该技术采用了针对韩语优化的提示词压缩。它通过消除不必要的重复表达来减少输入令牌。该公司表示,这项技术最多可减少25%的令牌消耗。
该平台还提供数据安全功能。KT部署了护栏技术,在AI交互过程中检查个人信息、敏感数据和有害内容。该系统会检查用户提示词和AI生成的响应。它还能防止敏感数据传输到海外。
KT还在推动在韩国提供的AI模型的海外分发。为支持这一举措,该公司与全球AI模型分发平台OpenRouter签署了正式合作协议。
KT高级副总裁兼AX业务部门负责人Park Sang-won表示:“AI市场正在从比拼谁能开发更好模型的竞争,转向比拼谁能让用户更轻松、高效地使用AI的竞争。”
来源: 海外媒体
登录后即可参与讨论
立即登录