本公開涉及人工智能和云計算,尤其涉及云服務。
背景技術:
1、隨著llm(large?language?model,大語言模型)的普及,mcp(model?contextprotocol,模型上下文協(xié)議)因其標準化ai(artificial?intelligence,人工智能)應用上下文交互的能力,已經(jīng)成為連接llm與業(yè)務系統(tǒng)的核心開放標準。
2、mcp定義了應用程序和ai模型之間交換上下文信息的方式,使得開發(fā)者能夠以一致的方式將各種數(shù)據(jù)源、工具和功能連接到ai模型,就像usb-c讓不同設備能夠通過相同的接口連接一樣。mcp的目標是創(chuàng)建一個通用標準,使ai應用程序的開發(fā)和集成變得更加簡單和統(tǒng)一。隨著mcp的推廣,如何方便、快捷的托管mcp服務器已經(jīng)成為各大云廠商的重點研究方向。
技術實現(xiàn)思路
1、本公開實施例提出了一種請求調(diào)度方法、裝置、設備、存儲介質(zhì)以及程序產(chǎn)品。
2、第一方面,本公開實施例提出了一種請求調(diào)度方法,包括:響應于接收到服務器發(fā)送事件sse請求,創(chuàng)建sse長連接;生成會話標識,并通過sse長連接返回會話標識;響應于接收到攜帶會話標識的消息請求,將消息請求發(fā)送至會話標識對應的服務器進行處理,得到響應數(shù)據(jù);通過sse長連接返回響應數(shù)據(jù)。
3、第二方面,本公開實施例提出了一種請求調(diào)度裝置,包括:創(chuàng)建模塊,被配置成響應于接收到服務器發(fā)送事件sse請求,創(chuàng)建sse長連接;生成模塊,被配置成生成會話標識,并通過sse長連接返回會話標識;處理模塊,被配置成響應于接收到攜帶會話標識的消息請求,將消息請求發(fā)送至會話標識對應的服務器進行處理,得到響應數(shù)據(jù);返回模塊,被配置成通過sse長連接返回響應數(shù)據(jù)。
4、第三方面,本公開實施例提出了一種電子設備,包括:至少一個處理器;以及與至少一個處理器通信連接的存儲器;其中,存儲器存儲有可被至少一個處理器執(zhí)行的指令,指令被至少一個處理器執(zhí)行,以使至少一個處理器能夠執(zhí)行如第一方面描述的方法。
5、第四方面,本公開實施例提出了一種存儲有計算機指令的非瞬時計算機可讀存儲介質(zhì),計算機指令用于使計算機執(zhí)行如第一方面描述的方法。
6、第五方面,本公開實施例提出了一種計算機程序產(chǎn)品,包括計算機程序,計算機程序在被處理器執(zhí)行時實現(xiàn)如第一方面描述的方法。
7、本公開的實施例的關鍵或重要特征,也不用于限制本公開的范圍。本公開的其它特征將通過以下的說明書而變得容易理解。
1.一種請求調(diào)度方法,包括:
2.根據(jù)權利要求1所述的方法,其中,所述方法還包括:
3.根據(jù)權利要求2所述的方法,其中,所述響應于接收到服務器發(fā)送事件sse請求,創(chuàng)建sse長連接,包括:
4.根據(jù)權利要求3所述的方法,其中,所述分配容器組,包括:
5.根據(jù)權利要求4所述的方法,其中,所述通過所述池管理器分配所述容器組,包括:
6.根據(jù)權利要求5所述的方法,其中,所述基于所述容器組,建立所述sse長連接,包括:
7.根據(jù)權利要求6所述的方法,其中,所述將所述消息請求發(fā)送至所述會話標識對應的服務器進行處理,得到響應數(shù)據(jù),包括:
8.根據(jù)權利要求1-7中任一項所述的方法,其中,所述方法還包括:
9.根據(jù)權利要求8所述的方法,其中,所述將所述消息請求發(fā)送至所述會話標識對應的服務器進行處理,包括:
10.根據(jù)權利要求8所述的方法,其中,所述將所述消息請求發(fā)送至所述會話標識對應的服務器進行處理,包括:
11.根據(jù)權利要求1-7中任一項所述的方法,其中,所述將所述消息請求發(fā)送至所述會話標識對應的服務器進行處理,得到響應數(shù)據(jù),包括:
12.一種請求調(diào)度裝置,包括:
13.一種電子設備,包括:
14.一種存儲有計算機指令的非瞬時計算機可讀存儲介質(zhì),所述計算機指令用于使所述計算機執(zhí)行權利要求1-11中任一項所述的方法。
15.一種計算機程序產(chǎn)品,包括計算機程序,所述計算機程序在被處理器執(zhí)行時實現(xiàn)根據(jù)權利要求1-11中任一項所述的方法。