近日,為了更好地滿足客戶在AI業務場景下的需要,UCloud優刻得鏡像市場上線支持了Milvus向量數據庫鏡像。
隨著時代發展,文檔資料、圖片、語音、視頻影像等非結構化數據開始海量涌現。為了能夠更好地使用這些數據,可以使用embedding將它們轉換為向量,并將這些向量存儲到向量數據庫中,建立索引方便檢索。檢索時通過計算兩個向量的相似度來分析它們之間的相關性。如果兩個向量非常相似,則表示原始數據源也非常相似,從而找到目標數據。
利用這樣的存儲和檢索的能力,在大語言模型(LLM)的技術架構中,向量數據庫可以作為一個持久性的記憶體,滿足對私有知識庫文檔和數據的存儲管理、保存大模型的處理結果、保存AI智能體產生的新知識和交互上下文等需求,并在模型需要時隨時快速調用,提高模型結果輸出的準確性和效率。
此次UCloud鏡像市場新增支持的Milvus,正是一款在Github上擁有兩萬多星的開源向量數據庫,專門為向量的快速查詢檢索而設計,能夠對萬億規模的向量數據創建索引。Milvus具備高性能、高可擴展性等特點,數據可持久化存儲在本地或者支持s3協議的對象存儲,且支持數據分區;除了向量,Milvus還支持布爾值、整數、浮點數等數據類型,可以更好地存儲表達業務數據的特性;Milvus還將標量過濾和向量相似度搜索相結合,支持混合查詢的能力;同時,Milvus還支持多種開發語言SDK,有豐富的周邊配套工具。
目前UCloud鏡像市場提供的Milvus向量數據庫是Standalone版本,只需4個步驟,即可通過云主機鏡像快速獲得向量數據庫能力。
1、登錄UCloud控制臺
(https://console.ucloud.cn/uhost/uhost/create)
2、選擇快杰O型云主機,推薦配置8核CPU、16G內存、系統盤不低于100G
3、在鏡像市場選擇“向量數據庫Milvus”鏡像
4、立即創建,開機后系統將自動啟動Milvus向量數據庫。同時,云主機內還預裝了milvus_cli客戶端工具,可以直接訪問
連接訪問Milvus以及數據操作的更多使用細節可參考官方文檔:
https://milvus.io/docs/manage_connection.md
如若向量數據庫所需要的CPU/內存/硬盤需要擴展,可以通過云主機的改配功能,數秒內即可完成升級。
UCloud優刻得在云主機鏡像市場中發布的向量數據庫鏡像,旨在為AI業務場景的客戶提供技術架構中所需要的一個重要拼圖,尤其是在圖片/語音/視頻檢索、文本檢索、NLP語言問答等業務場景中,向量數據庫可以很好的應用。同時,該向量數據庫還可以與不久前鏡像市場發布的大模型鏡像相結合,形成更完整的解決方案,滿足業務技術架構需要。