歡迎來到lollms webui (大型語言多模態系統之王:統治一切的工具),這是 LLM(大型語言模型)和多模態智慧系統的中心。該專案旨在提供一個用戶友好的介面來存取和利用各種 LLM 和其他人工智慧模型來完成廣泛的任務。無論您需要寫作、編碼、組織資料、分析圖像、生成圖像、生成音樂或尋求問題答案的協助, lollms webui都能滿足您的需求。
作為包羅萬象的工具,可以存取不同領域的 500 多個 AI 專家調節以及多個領域的 2500 多個微調模型,您現在可以立即獲得解決任何問題的資源。您的汽車是否需要維修,或者您是否需要 Python、C++ 或 JavaScript 編碼幫助;對錯誤的人生決定感到沮喪卻又不知道該怎麼辦?問問洛姆斯。如果您需要根據當前症狀來了解未來的健康狀況,我們的醫療援助人工智慧可以幫助您獲得潛在的診斷並指導您尋求正確的醫療護理。如果遇到諸如合約解釋之類的法律問題,請隨時聯繫律師,以獲得一些見解——所有這些都無需離開舒適的家。它不僅可以幫助學生在冗長的讀物中掙扎,而且還在評估過程中為他們提供額外的支持,這樣他們就能夠正確掌握概念,而不是僅僅沿著線索閱讀,這可能會讓許多人感到困惑。想要一些娛樂嗎?接著與笑聲機器人互動,讓自己在玩《龍與地下城》時享受歇斯底里的笑聲,直到熱淚盈眶,或藉助創意故事生成器一起編造瘋狂的故事。需要完成插畫工作嗎?不用擔心,Artbot 已經幫我們解決了!最後但同樣重要的一點是,LordOfMusic 可以根據個人規格生成音樂。因此,基本上告別無聊的夜晚,因為一切可能都可以在一個名為 Lollms 的平台上實現...
感謝所有測試此工具並幫助使其更加用戶友好的用戶。
如果您使用的是 Windows,只需造訪發布頁面,下載 Windows 安裝程式並安裝即可。
從腳本資料夾下載安裝腳本並運行它。安裝腳本是:
win_install.bat
適用於 Windows。linux_install.sh
。mac_install.sh
。從 v 9.4 開始,不建議手動安裝,因為許多服務需要建立單獨的環境,而 lollms 需要對環境進行完全控制。因此,如果您使用自己的 conda 設定來安裝它,您將無法安裝任何服務並減少聊天介面 lollms 的使用(沒有 xtts,沒有 comfyui,沒有透過 vllm 或 petals 等快速產生)
Lollms 的智慧路由功能不僅僅是選擇正確的模型以確保準確性。它使您能夠針對兩個關鍵因素優化文字生成過程:金錢和速度。
金錢優化:
想像一下您正在使用多種價格不同的文字產生服務。有些型號可能非常強大,但價格昂貴,而有些型號則提供更經濟的選擇,但功能稍差。智慧路由讓您可以利用這種價格差異來發揮自己的優勢:
優化速度:
速度是文字產生的另一個關鍵因素,尤其是在處理大量內容或時間敏感的任務時。智慧路由可讓您透過以下方式優先考慮速度:
範例用例:
結論:
智慧路由是一種多功能工具,可協助您優化文字產生過程的成本和速度。透過利用模型層次結構並根據即時複雜性動態調整您的選擇,您可以實現效率、準確性和成本效益之間的完美平衡。
透過使用此工具,使用者同意遵循以下準則:
請注意, lollms webui沒有內建的使用者身份驗證,主要是為本地使用而設計的。如果沒有適當的安全措施,將 WebUI 暴露給外部存取可能會導致潛在的漏洞。
如果您需要遠端存取 LoLLM,強烈建議遵循以下安全準則:
啟動無頭模式:啟用無頭模式將僅公開產生 API,同時關閉其他可能有漏洞的端點。這有助於最大限度地減少攻擊面。
設定安全隧道:在執行 LoLLM 的本機主機和需要存取的遠端 PC 之間建立安全隧道。這可確保兩個裝置之間的通訊得到加密和保護。
修改設定設定:設定安全隧道後,編輯/configs/local_config.yaml
檔案並調整以下設定:
host : 0.0.0.0 # Allow remote connections
port : 9600 # Change the port number if desired (default is 9600)
force_accept_remote_access : true # Force accepting remote connections
headless_server_mode : true # Set to true for API-only access, or false if the WebUI is needed
透過遵循這些安全實踐,您可以協助保護 LoLLM 實例及其使用者在啟用遠端存取時免受潛在的安全風險。
請記住,優先考慮安全性並採取必要的預防措施來保護您的系統和敏感資訊至關重要。如果您對 LoLLM 的安全性有任何其他問題或疑慮,請查閱文件或聯絡社群尋求協助。
確保安全並負責任地使用 LoLLM!
大型語言模型是令人驚嘆的工具,可用於多種目的。 Lollms 的誕生就是為了利用這種力量來幫助使用者提高生產力。但您需要記住,這些模型有其局限性,不應取代人類的智力或創造力,而應透過根據大量數據中發現的模式提供建議來增強它。如何負責任地使用它們取決於每個人!
系統的效能取決於所使用的模型、其大小以及訓練的資料集。一般來說,語言模型的訓練集越大(示例越多),與使用較小系統的系統相比,使用此類系統會得到更好的結果。但仍然不能保證任何給定提示產生的輸出總是完美的,並且可能由於各種原因包含錯誤。因此,請確保您不要在沒有直接諮詢專家的情況下將其用於嚴重的問題,例如選擇藥物或做出財務決策!
該儲存庫使用 ApacheLicense Version 2.0 下的程式碼,有關使用和分發方面授予的權利的詳細信息,請參閱許可證文件
巴黎新2023