Anything LLM真的是太厲害啦 (待補充)
Jun 27, 2024
https://hackmd.io/@chrish0729/Hkgggr9WC#AnythingLLM-測試2
HackMD
手把手教學AnythingLLM -
AnythingLLM是Mintplex開發的一款整合any LLM API的開源平台,不管是OpenAI、Azure AOAI、Gemini、Huggingface、Ollama等,都可以直接透過至個平台上做使用。這個平台也整合了各種向量資料庫,甚至是內建PDF解析、網頁爬蟲、YouTube影片分析,都能在這個平台上做到(真心佛)。
這是一個no code、在本地端運行的RAG系統 ,安裝簡單,可以把所有的資料embedding 成rag,包含圖片文字檔案語音影片等等,還特別擅長處理YouTube 和GitHub,所以可以把所有相關的資料都放在資料庫裏面,這樣子的話大型語言模型就會變得很聰明
我實測了之後發現效果很好,而且也不吃硬體效能,不管是個人使用或者是工作使用都非常方便
可以當作個人的資料庫,也可以增進工作效率,甚至可以直接升成圖表跟圖片,推薦給大家