还在手写JSON调教大模型?.NET 9有新玩法

还在手写JSON调教大模型?.NET 9有新玩法

    正在检查是否收录...

引言

.NET 9 迎来了一项备受期待的功能更新:对JSON Schema的原生支持。这一新增功能极大地简化了JSON Schema的生成与使用。JSON Schema作为一种描述JSON数据结构的标准格式,能够帮助我们有效地验证数据结构和类型。尤其在与大语言模型(LLM)进行交互的场景中,它扮演着至关重要的角色,可以精确定义模型输入与输出的数据格式,从而确保通信的准确性和可靠性。

还在手写JSON调教大模型?.NET 9有新玩法

.NET 9 的新利器:JsonSchemaExporter

让我们从一个简单的例子开始。在.NET 9中,我们可以利用 System.Text.Json 命名空间下的新工具 JsonSchemaExporter,轻松地将一个C#类转换为对应的JSON Schema。

首先,我们定义一个名为 Book 的C#类。这个类包含三个属性:TitleAuthorPublishYear。其中,Title 是一个必需的字符串属性,Author 是一个可空字符串属性,而 PublishYear 是一个整数。

// 定义一个名为 Book 的类 public class Book { // 必须的字符串属性 Title public required string Title { get; set; } // 可选的字符串属性 Author,允许为 null public string? Author { get; set; } // 整数属性 PublishYear public int PublishYear { get; set; } } 

接下来,在主程序中,我们只需调用 JsonSchemaExporter.GetJsonSchemaAsNode 方法,并传入我们的 Book 类型,即可生成其JSON Schema。

class Program { static void Main() { // 使用 JsonSchemaExporter 为 .NET 类型生成 JSON schema var schema = JsonSchemaExporter.GetJsonSchemaAsNode( JsonSerializerOptions.Default, typeof(Book) ); // 输出生成的 JSON schema Console.WriteLine(schema); } } 

运行上述代码,我们将得到以下JSON Schema输出:

{ "type": [ "object", "null" ], "properties": { "Title": { "type": [ "string", "null" ] }, "Author": { "type": [ "string", "null" ] }, "PublishYear": { "type": "integer" } }, "required": [ "Title" ] } 

这个特性使得我们能够以标准化的JSON Schema形式来表示一个.NET类型,这对于实现远程过程调用(RPC)或与OpenAI、Google Gemini等AI服务进行集成时非常有用。

实战:结合OpenAI实现结构化输出

我们知道,从 gpt-4o-0806 开始,OpenAI便支持了通过JSON Schema来约束模型的输出格式。这个功能极大地便利了开发者,尤其是在需要模型返回复杂数据结构时。然而,手动编写和维护这些JSON Schema既繁琐又容易出错。现在,借助.NET 9的 JsonSchemaExporter,这个过程变得前所未有的简单。

注意

:以下示例需要依赖 Azure.AI.OpenAI NuGet包 2.2.0 或更高版本。

让我们来看一个实际的例子。假设我们需要让大模型分析一段关于篮子里放球、取球的描述,并返回一个包含各种颜色球类数量的结构化数据。

首先,定义我们期望的输出数据结构 BallCounts 类:

public class BallCounts { public string? Think { get; init; } // 模型的思考过程 public int Red { get; init; } public int Blue { get; init; } public int Yellow { get; init; } public int Green { get; init; } public int Confidence { get; init; } // 模型对答案的置信度 } 

然后,在调用模型时,我们可以将这个 BallCounts 类型动态生成JSON Schema,并直接传递给 ChatCompletionOptionsResponseFormat

// 初始化OpenAI客户端 OpenAIClient api = new AzureOpenAIClient(new Uri($"https://{Util.GetPassword("azure-ai-resource")}.openai.azure.com/"), new AzureKeyCredential(Util.GetPassword("azure-ai-key"))); ChatClient cc = api.GetChatClient("gpt-4o"); // 准备请求 var result = await cc.CompleteChatAsync( [ new SystemChatMessage("你是人工智能助理"), new UserChatMessage(""" 有个空篮子,放里面放1个红色球,再往里面放1个蓝色球,再把红色球和黄色球拿出来,再放2个绿色球,请问这个篮子里面有几个球?分别是什么颜色? """), ], new ChatCompletionOptions() { Temperature = 0, // 关键点:动态生成并设置JSON Schema ResponseFormat = ChatResponseFormat.CreateJsonSchemaFormat( nameof(BallCounts), BinaryData.FromBytes( JsonSerializer.SerializeToUtf8Bytes( JsonSchemaExporter.GetJsonSchemaAsNode( JsonSerializerOptions.Default, typeof(BallCounts), new JsonSchemaExporterOptions() { // 确保非可空引用类型不被视为可空 TreatNullObliviousAsNonNullable = true } ) ) ) ) }); // 反序列化并输出结果 var ballCountsResult = JsonSerializer.Deserialize<BallCounts>(result.Value.Content[0].Text, JsonSerializerOptions.Default); Console.WriteLine(JsonSerializer.Serialize(ballCountsResult, new JsonSerializerOptions { WriteIndented = true })); 

模型返回的将是严格符合我们C#类结构的JSON:

{ "Think": "Let's break down the steps:\n\n1. Start with an empty basket.\n2. Add 1 red ball. (Basket: 1 red)\n3. Add 1 blue ball. (Basket: 1 red, 1 blue)\n4. Remove the red ball. (Basket: 1 blue)\n5. Remove the yellow ball. (Since there is no yellow ball in the basket, this step doesn't change anything. Basket: 1 blue)\n6. Add 2 green balls. (Basket: 1 blue, 2 green)\n\nSo, the basket contains 3 balls: 1 blue and 2 green.", "Red": 0, "Blue": 1, "Yellow": 0, "Green": 2, "Confidence": 100 } 

随心所欲,轻松扩展

这个方法的强大之处在于其灵活性。如果我们想调整输出结构,比如增加两种颜色(紫色和橙色),并将 Confidence 属性改为布尔类型的 Sure,我们

只需要修改C#类定义

即可。

public class BallCounts { public string? Think { get; init; } public int Red { get; init; } public int Blue { get; init; } public int Yellow { get; init; } public int Green { get; init; } public int Purple { get; init; } // 新增 public int Orange { get; init; } // 新增 public bool Sure { get; init; } // 修改 } 

我们无需改动任何调用逻辑,只需重新运行程序,模型就会自动适应新的 BallCounts 结构,输出的JSON会神奇地包含所有新的颜色属性,并且 Sure 属性也被正确地处理为布尔值。

{ "Think": "Let's break down the steps:\n\n1. Start with an empty basket.\n2. Add 1 red ball.\n3. Add 1 blue ball.\n4. Remove the red ball.\n5. Remove the yellow ball (though there was no yellow ball added, so this step doesn't change the count).\n6. Add 2 green balls.\n\nAfter these steps, the basket contains:\n- 1 blue ball\n- 2 green balls\n\nTotal: 3 balls.", "Red": 0, "Blue": 1, "Yellow": 0, "Green": 2, "Purple": 0, "Orange": 0, "Sure": true } 

可见,模型完美地适应了新的数据契约。这种开发体验简直不要太方便!

对比:新方法 vs. 传统方法

有趣的是,在OpenAI官方的.NET SDK文档中,关于结构化响应的示例 (openai-dotnet/README.md) 并没有采用 JsonSchemaExporter,而是手动编写了一大段JSON Schema字符串。这可能是因为官方文档旨在展示其库的原始能力,而非特定于.NET 9的便捷特性。

这是官网的示例代码,我们可以看到它相当繁琐:

// ... ChatCompletionOptions options = new() { ResponseFormat = ChatResponseFormat.CreateJsonSchemaFormat( jsonSchemaFormatName: "math_reasoning", jsonSchema: BinaryData.FromBytes(""" { "type": "object", "properties": { "steps": { "type": "array", "items": { "type": "object", "properties": { "explanation": { "type": "string" }, "output": { "type": "string" } }, "required": ["explanation", "output"], "additionalProperties": false } }, "final_answer": { "type": "string" } }, "required": ["steps", "final_answer"], "additionalProperties": false } """u8.ToArray()), jsonSchemaIsStrict: true) }; // ... 

与我们前面的方法相比,这种硬编码Schema的方式不仅工作量大,而且在需求变更时极难维护。而.NET 9的 JsonSchemaExporter 真正实现了“定义一次,处处使用”的优雅编程范式。

值得一提的是,据我了解,Google Gemini、Ollama等其他主流模型服务提供商也已支持JSON Schema格式化。这意味着您学到的这项技巧具有广泛的适用性。

总结

.NET 9中引入的 JsonSchemaExporter 无疑是.NET开发者与大语言模型协作时的一大福音。它将繁琐、易错的JSON Schema手动编写过程,转变为基于C#类型定义的自动化、强类型、可维护的流程。

还在手写JSON调教大模型?.NET 9有新玩法

这项功能特别好,它是将基于概率、本质不稳定的语言模型进行工程化,提升其输出结果稳定性和可靠性的关键手段。强烈建议您在自己的项目中,尤其是在与大模型交互时,全面拥抱JSON Schema来定义数据契约。借助.NET 9,我们现在可以无比轻松地生成和使用JSON Schema,从而显著提高代码的可读性、可维护性和整体开发效率。


感谢阅读,欢迎评论点赞!

欢迎加入「.NET骚操作」技术交流群

495782587

  • 本文作者:WAP站长网
  • 本文链接: https://wapzz.net/post-26995.html
  • 版权声明:本博客所有文章除特别声明外,均默认采用 CC BY-NC-SA 4.0 许可协议。
本站部分内容来源于网络转载,仅供学习交流使用。如涉及版权问题,请及时联系我们,我们将第一时间处理。
文章很赞!支持一下吧 还没有人为TA充电
为TA充电
还没有人为TA充电
0
0
  • 支付宝打赏
    支付宝扫一扫
  • 微信打赏
    微信扫一扫
感谢支持
文章很赞!支持一下吧
关于作者
2.8W+
9
1
2
WAP站长官方

那些年我们一起追过的Java技术,现在真的别再追了!

上一篇

Mysql查询语句执行流程?更新语句执行流程?

下一篇
评论区
内容为空

这一切,似未曾拥有

  • 复制图片
按住ctrl可打开默认菜单