FriendlyAI 推出助力利用生成式 AI 模型的新服务

生成式人工智能（AI）推理服务领域初创企业 FriendliAI 于4日表示，已推出一项可轻松利用生成式 AI 模型的服务——“FriendliAI 无服务器端点（Friendli Serverless Endpoints）”。

View original image

FriendliAI 无服务器端点可帮助用户便捷地使用最新的生成式 AI 模型。该服务解决了在以往应用生成式 AI 时必须投入大量人力和时间才能完成的复杂基础设施安装与运营流程，以及模型服务所需的图形处理器（GPU）优化等问题。

借此，任何人都可以以低成本、快速地将 Llama2、Stable Diffusion、CodeLlama、Mistral 等热门生成式 AI 模型集成到自家服务中，用于文本生成、图像生成等多种场景。

与使用开源框架的其他解决方案相比，FriendliAI 无服务器端点生成响应的时间最多可快4倍，从而为用户提供流畅而迅捷的生成式 AI 体验。其服务引擎“FriendliAI Engine”能够在保证低成本和高速度的同时，将模型服务所需的 GPU 数量相比既有解决方案最多减少至七分之一。

必读新闻

100万亿恐打水漂…“三星罢工成史上级利好” 价格暴涨20%市况大乱 [台湾芯片通信]

• “要涨到200万韩元” 被证券界认为无需怀疑的企业 [周末Money]
• “太羡慕韩国人的日常了”……一早就在明洞中心排队的外国人[现场报道]
• “去夜总会的人自己上报” 再起风波…江南警察署对全体员工展开调查
• 三星、SK海力士涨过头了吗…越卖外资资产反而越膨胀 [周末Money]

FriendliAI 首席执行官 Jeon Byeonggon 表示：“我认为生成式 AI 的未来在于让任何人都能轻松接触并使用这项技术。为更快速、更低成本地提供开源生成式 AI 模型，我们开发了这项新服务。”

版权所有 © 阿视亚经济 (www.asiae.co.kr)。 未经许可不得转载。