Py学习  »  Python

微软官方出品:GPT大模型编排工具,支持C#、Python等多个语言版本

dotNET跨平台 • 2 年前 • 546 次点击  

着ChatGPT的火热,基于大模型开发应用已经成为新的风口。虽然目前的大型模型已经具备相当高的智能水平,但它们仍然无法完全实现业务流程的自动化,从而达到用户的目标。

微软官方开源的Semantic Kernel的AI编排工具,就可以很好的满足我们自定义开发。

 

01
项目简介

Semantic Kernel是一个轻量级的SDK,最基本的功能就是帮我们完成与OpenAI、Azure OpenAI和Hugging Face大模型的API的对接,并且支持C#、Python、Java版本。

Semantic Kernel提供自定义插件、编排计划、信息存储至数据库(如SQLite、MongoDB、Redis、Postgres等)。

总的来说,Semantic Kernel就是可以把用户输入的prompt,经过分解为多个步骤、获取外部数据、执行自定义操作等,转换为一个更好的prompt,再调用大模型API,从而获取结果。

 

02
使用示例

以下是C#使用示例:

using Microsoft.SemanticKernel;using Microsoft.SemanticKernel.Connectors.OpenAI;
var builder = Kernel.CreateBuilder();
//OpenAI模型builder.AddOpenAIChatCompletion( "gpt-3.5-turbo", "...your OpenAI API Key...");
var kernel = builder.Build();
//等待用户输入Console.Write("用户:");var input = Console.ReadLine();
//循环对话while (input != "quit"){ var prompt = @$""user"">{input}"; var summarize = kernel.CreateFunctionFromPrompt(prompt, executionSettings: new OpenAIPromptExecutionSettings { MaxTokens = 100 }); var result = kernel.InvokeStreamingAsync(summarize); Console.Write("OpenAI:"); await foreach (var item in result) { Console.Write(item.ToString()); } Console.WriteLine(); Console.WriteLine(); Console.Write("用户:"); input = Console.ReadLine();}

 

03
核心组件

语义引擎:核心组件,用于理解用户的输入的语义,并将这些输入转化为机器可读的格式;

LLM API包装器:将传统的编程语言(如C#、Python、Java)与AI大模型集成,使得开发人员无需过多的关注大模型API,只需关心具体的业务开发;

可扩展编程模型:整合了自然语言语义功能、传统编程语言的native function以及基于embedding的存储,可以为大模型增强功能与数据。


04
项目地址

https://github.com/microsoft/semantic-kernel

从今天开始,在公众号即将编写:Semantic Kernel系列教程,欢迎关注

Python社区是高质量的Python/Django开发社区
本文地址:http://www.python88.com/topic/165999