lollms webui
V14 (Saïph)
ยินดีต้อนรับสู่ lollms webui (เจ้าแห่งระบบหลากภาษาขนาดใหญ่: เครื่องมือเดียวที่จะปกครองมันทั้งหมด) ศูนย์กลางสำหรับ LLM (โมเดลภาษาขนาดใหญ่) และระบบอัจฉริยะหลายรูปแบบ โปรเจ็กต์นี้มีจุดมุ่งหมายเพื่อให้อินเทอร์เฟซที่เป็นมิตรต่อผู้ใช้ในการเข้าถึงและใช้งาน LLM และโมเดล AI อื่นๆ สำหรับงานที่หลากหลาย ไม่ว่าคุณจะต้องการความช่วยเหลือในการเขียน การเขียนโค้ด การจัดระเบียบข้อมูล การวิเคราะห์รูปภาพ การสร้างภาพ การสร้างเพลง หรือการค้นหาคำตอบสำหรับคำถามของคุณ lollms webui ช่วยคุณได้
ในฐานะเครื่องมือที่ครอบคลุมทุกอย่างที่สามารถเข้าถึงการปรับสภาพโดยผู้เชี่ยวชาญ AI มากกว่า 500 รายในโดเมนที่หลากหลาย และโมเดลที่ได้รับการปรับแต่งอย่างดีมากกว่า 2,500 โมเดลบนหลายโดเมน ตอนนี้คุณมีทรัพยากรทันทีสำหรับปัญหาใดๆ ไม่ว่ารถของคุณต้องการการซ่อมแซมหรือถ้าคุณต้องการความช่วยเหลือในการเขียนโค้ดใน Python, C++ หรือ JavaScript รู้สึกท้อแท้กับการตัดสินใจชีวิตที่ผิดพลาดแต่มองไม่เห็นได้อย่างไร? ถามลอมส์สิ ต้องการคำแนะนำเกี่ยวกับสิ่งที่อยู่ข้างหน้าด้านสุขภาพโดยพิจารณาจากอาการปัจจุบันที่นำเสนอ AI ความช่วยเหลือทางการแพทย์ของเราช่วยให้คุณได้รับการวินิจฉัยที่อาจเกิดขึ้นและแนะนำคุณในการรับการรักษาพยาบาลที่เหมาะสม หากติดอยู่กับประเด็นทางกฎหมาย การตีความสัญญาดังกล่าว อย่าลังเลที่จะติดต่อฝ่ายทนายความ เพื่อรับข้อมูลเชิงลึกใกล้ตัว ทั้งหมดนี้โดยไม่ต้องออกจากบ้านอันแสนสบาย ไม่เพียงแต่ช่วยให้นักเรียนต้องดิ้นรนกับอาจารย์ผู้สอนที่มีความยาวเท่านั้น แต่ยังให้การสนับสนุนเพิ่มเติมในระหว่างการประเมินด้วย ดังนั้นพวกเขาจึงสามารถเข้าใจแนวคิดได้อย่างเหมาะสม แทนที่จะแค่อ่านตามบรรทัดซึ่งอาจทำให้หลายคนสับสนในภายหลัง ต้องการความบันเทิงบ้างไหม? จากนั้นมีส่วนร่วมกับ Laughter Bot และปล่อยให้ตัวเองเพลิดเพลินไปกับเสียงหัวเราะสุดฮิปจนน้ำตาไหลออกมาจากดวงตาขณะเล่น Dungeons&Dragons หรือสร้างเรื่องราวสุดมันส์ร่วมกันด้วย Creative Story Generator ต้องการงานภาพประกอบหรือไม่? ไม่ต้องกังวล Artbot ช่วยคุณได้! และสุดท้ายแต่ไม่ท้ายสุด LordOfMusic อยู่ที่นี่เพื่อการสร้างเพลงตามข้อกำหนดส่วนบุคคล บอกลาคืนอันน่าเบื่อคนเดียวโดยพื้นฐานแล้ว เพราะทุกสิ่งเป็นไปได้สามารถทำได้ภายในแพลตฟอร์มเดียวที่เรียกว่า Lollms...
ขอขอบคุณสำหรับผู้ใช้ทุกคนที่ทดสอบเครื่องมือนี้และช่วยทำให้เครื่องมือนี้เป็นมิตรต่อผู้ใช้มากขึ้น
หากคุณใช้ Windows เพียงไปที่หน้าเผยแพร่ ดาวน์โหลดตัวติดตั้ง windows และติดตั้ง
ดาวน์โหลดสคริปต์การติดตั้งจากโฟลเดอร์สคริปต์และเรียกใช้ สคริปต์การติดตั้งคือ:
win_install.bat สำหรับ Windowslinux_install.sh สำหรับลินุกซ์mac_install.sh สำหรับ Macตั้งแต่เวอร์ชัน 9.4 ไม่แนะนำให้ทำการติดตั้งด้วยตนเอง เนื่องจากบริการจำนวนมากจำเป็นต้องสร้างสภาพแวดล้อมที่แยกจากกัน และ lollm จำเป็นต้องมีการควบคุมสภาพแวดล้อมอย่างสมบูรณ์ ดังนั้น หากคุณติดตั้งโดยใช้การตั้งค่า conda ของคุณเอง คุณจะไม่สามารถติดตั้งบริการใดๆ และลดการใช้ lollms ในอินเทอร์เฟซการแชทได้ (ไม่มี xtts, ไม่มี Comfyui, ไม่มีการสร้างที่รวดเร็วผ่าน vllm หรือกลีบดอก หรืออย่างอื่น)
คุณสมบัติการกำหนดเส้นทางอัจฉริยะของ Lollms เป็นมากกว่าแค่การเลือกรุ่นที่ถูกต้องเพื่อความแม่นยำ มันช่วยให้คุณเพิ่มประสิทธิภาพกระบวนการสร้างข้อความของคุณด้วยปัจจัยหลักสองประการ: เงิน และ ความเร็ว
การเพิ่มประสิทธิภาพเพื่อเงิน:
ลองนึกภาพคุณกำลังใช้บริการสร้างข้อความหลายรายการโดยมีจุดราคาที่แตกต่างกัน บางรุ่นอาจมีประสิทธิภาพเป็นพิเศษแต่มีราคาสูง ในขณะที่รุ่นอื่นๆ มีตัวเลือกที่ประหยัดกว่าแต่มีความสามารถน้อยกว่าเล็กน้อย การกำหนดเส้นทางอัจฉริยะช่วยให้คุณใช้ประโยชน์จากส่วนต่างของราคานี้ให้เป็นประโยชน์:
การเพิ่มประสิทธิภาพความเร็ว:
ความเร็วเป็นอีกปัจจัยสำคัญในการสร้างข้อความ โดยเฉพาะอย่างยิ่งเมื่อต้องรับมือกับเนื้อหาปริมาณมากหรืองานที่ต้องคำนึงถึงเวลา Smart Routing ช่วยให้คุณจัดลำดับความสำคัญความเร็วโดย:
ตัวอย่างการใช้งานกรณี:
บทสรุป:
Smart Routing เป็นเครื่องมืออเนกประสงค์ที่ช่วยให้คุณสามารถเพิ่มประสิทธิภาพกระบวนการสร้างข้อความทั้งในด้านต้นทุนและความเร็ว ด้วยการใช้ประโยชน์จากลำดับชั้นของแบบจำลองและการปรับการเลือกของคุณแบบไดนามิกตามความซับซ้อนที่เกิดขึ้น คุณจะได้รับความสมดุลที่สมบูรณ์แบบระหว่างประสิทธิภาพ ความแม่นยำ และความคุ้มทุน
เมื่อใช้เครื่องมือนี้ ผู้ใช้ตกลงที่จะปฏิบัติตามหลักเกณฑ์เหล่านี้:
โปรดทราบว่า lollms webui ไม่มีการตรวจสอบสิทธิ์ผู้ใช้ในตัว และได้รับการออกแบบมาสำหรับการใช้งานในท้องถิ่นเป็นหลัก การเปิดเผย WebUI ให้เข้าถึงจากภายนอกโดยไม่มีมาตรการรักษาความปลอดภัยที่เหมาะสมอาจนำไปสู่ช่องโหว่ที่อาจเกิดขึ้นได้
หากคุณต้องการการเข้าถึง LoLLM จากระยะไกล ขอแนะนำอย่างยิ่งให้ปฏิบัติตามแนวทางด้านความปลอดภัยเหล่านี้:
เปิดใช้งานโหมด Headless : การเปิดใช้งานโหมด Headless จะเปิดเผยเฉพาะ API การสร้าง ในขณะที่ปิดอุปกรณ์ปลายทางอื่นๆ ที่อาจมีช่องโหว่ ซึ่งจะช่วยลดพื้นผิวการโจมตีให้เหลือน้อยที่สุด
ตั้งค่าอุโมงค์ที่ปลอดภัย : สร้างอุโมงค์ที่ปลอดภัยระหว่างโลคัลโฮสต์ที่ใช้งาน LoLLM และพีซีระยะไกลที่ต้องการการเข้าถึง สิ่งนี้ทำให้แน่ใจได้ว่าการสื่อสารระหว่างอุปกรณ์ทั้งสองนั้นได้รับการเข้ารหัสและป้องกัน
แก้ไขการตั้งค่าการกำหนดค่า : หลังจากตั้งค่าอุโมงค์ที่ปลอดภัยแล้ว ให้แก้ไขไฟล์ /configs/local_config.yaml และปรับการตั้งค่าต่อไปนี้:
host : 0.0.0.0 # Allow remote connections
port : 9600 # Change the port number if desired (default is 9600)
force_accept_remote_access : true # Force accepting remote connections
headless_server_mode : true # Set to true for API-only access, or false if the WebUI is neededด้วยการปฏิบัติตามหลักปฏิบัติด้านความปลอดภัยเหล่านี้ คุณสามารถช่วยปกป้องอินสแตนซ์ LoLLM ของคุณและผู้ใช้จากความเสี่ยงด้านความปลอดภัยที่อาจเกิดขึ้นเมื่อเปิดใช้งานการเข้าถึงระยะไกล
โปรดจำไว้ว่า การจัดลำดับความสำคัญด้านความปลอดภัยเป็นสิ่งสำคัญ และใช้มาตรการป้องกันที่จำเป็นเพื่อปกป้องระบบและข้อมูลที่ละเอียดอ่อนของคุณ หากคุณมีคำถามหรือข้อกังวลเพิ่มเติมเกี่ยวกับความปลอดภัยของ LoLLM โปรดอ่านเอกสารประกอบหรือติดต่อชุมชนเพื่อขอความช่วยเหลือ
อยู่อย่างปลอดภัยและสนุกกับการใช้ LoLLM อย่างมีความรับผิดชอบ!
โมเดลภาษาขนาดใหญ่เป็นเครื่องมือที่น่าทึ่งที่สามารถใช้เพื่อวัตถุประสงค์ที่หลากหลาย Lollms ถูกสร้างขึ้นเพื่อควบคุมพลังนี้เพื่อช่วยให้ผู้ใช้เพิ่มประสิทธิภาพการทำงาน แต่คุณต้องจำไว้ว่าโมเดลเหล่านี้มีข้อจำกัด และไม่ควรแทนที่ความฉลาดของมนุษย์หรือความคิดสร้างสรรค์ แต่ควรเสริมด้วยการให้คำแนะนำตามรูปแบบที่พบในข้อมูลจำนวนมาก ขึ้นอยู่กับแต่ละคนว่าจะเลือกใช้อย่างมีความรับผิดชอบอย่างไร!
ประสิทธิภาพของระบบจะแตกต่างกันไปขึ้นอยู่กับรุ่นที่ใช้ ขนาด และชุดข้อมูลที่ได้รับการฝึกอบรม ยิ่งชุดการฝึกอบรมของโมเดลภาษามีขนาดใหญ่ (ยิ่งมีตัวอย่างมากขึ้น) โดยทั่วไปแล้ว ผลลัพธ์ที่ดีกว่าจะตามมาเมื่อใช้ระบบดังกล่าว เมื่อเทียบกับระบบที่มีขนาดเล็กกว่า แต่ยังไม่มีการรับประกันว่าเอาต์พุตที่สร้างจากพรอมต์ใดๆ จะสมบูรณ์แบบเสมอ และอาจมีข้อผิดพลาดเนื่องจากสาเหตุต่างๆ ดังนั้นโปรดตรวจสอบให้แน่ใจว่าคุณไม่ได้ใช้มันในเรื่องร้ายแรง เช่น การเลือกยาหรือการตัดสินใจทางการเงินโดยไม่ปรึกษาผู้เชี่ยวชาญโดยตรง!
พื้นที่เก็บข้อมูลนี้ใช้โค้ดภายใต้ ApacheLicense เวอร์ชัน 2.0 ดูไฟล์ใบอนุญาตสำหรับรายละเอียดเกี่ยวกับสิทธิ์ที่ได้รับเกี่ยวกับการใช้งานและการแจกจ่าย
ปารีสนีโอ 2023
