FEMTO คือระบบการจัดทำดัชนีและการค้นหาสำหรับการสืบค้นตามลำดับไบต์ FEMTO ย่อมาจาก FM-index สำหรับหน่วยความจำภายนอกพร้อมการเพิ่มประสิทธิภาพการรับส่งข้อมูล เครื่องมือนี้รองรับการสร้างดัชนีขนาดใหญ่ควบคู่ไปกับ MPI จากนั้นค้นหาดัชนีขนาดใหญ่ด้วยเซิร์ฟเวอร์แบบมัลติเธรด
FEMTO ต้องใช้เครื่อง 64 บิตเพื่อสร้างและทดสอบ รองรับเครื่อง 32 บิตสำหรับการค้นหาเท่านั้น FEMTO เป็นที่รู้จักในการสร้างด้วย GCC สำหรับ Linux/x86-64
หากต้องการสร้าง FEMTO จากรีลีส tarball คุณจะต้องมีคอมไพเลอร์ C++, libssl-dev และ MPI (ไม่บังคับ) เมื่อสร้างจากแหล่งที่มา คุณจะต้องใช้ flex, bison, autotools และ libtool ด้วย มันทำงานร่วมกับ GNU bison 2.5 และ 2.4.1
MPI จำเป็นสำหรับการสร้างดัชนีแบบขนาน โปรดทราบว่าระบบไม่รองรับ MPI ที่ทำงานบนเครื่องที่มี endianness ต่างกัน
หากคุณต้องการใช้การสร้างดัชนี MPI แบบขนาน คุณจะต้องติดตั้ง MPI เวอร์ชันที่รองรับเธรด เราใช้ OpenMPI 1.8.8 ซึ่งกำหนดค่าในลักษณะต่อไปนี้:
./configure --prefix=/opt/openmpi1.8.8 --enable-mpirun-prefix-by-default --enable-mpi-thread-multiple --with-threads ทำ ทำการติดตั้ง # บนโหนดคอมพิวเตอร์ทั้งหมด # เพื่อให้แน่ใจว่า mpirun และ mpicc อยู่ในเส้นทางสำหรับใช้กับ FEMTO ส่งออก PATH=$PATH:/opt/openmpi1.8.8/bin ส่งออก LD_LIBRARY_PATH=/opt/openmpi1.8.8/lib
ตรวจสอบให้แน่ใจว่าคุณมีคุณสมบัติตรงตามข้อกำหนดก่อน!
เราขอแนะนำให้เริ่มต้นด้วย tarball รุ่น FEMTO จาก https://github.com/femto-dev/femto/releases
หากคุณต้องการใช้การชำระเงินต้นทาง ก็จะมีการขึ้นต่อกันของบิลด์เพิ่มเติม
หากคุณเริ่มต้นด้วยการชำระเงินจากแหล่งที่มาเช่นเดียวกับ
โคลนคอมไพล์ https://github.com/femto-dev/femto.git ซีดี femto
คุณจะต้องสร้างสคริปต์กำหนดค่าด้วย:
ช autogen.sh
ในการสร้าง FEMTO ให้ใช้คำสั่งต่อไปนี้:
./กำหนดค่า ทำ
คุณจะเห็นคำเตือนมากมายว่ามีการประกาศ/กำหนดสิ่งต่าง ๆ แต่ไม่ได้ใช้ นี่เป็นเรื่องปกติและไม่ใช่ปัญหา หากคุณได้รับข้อผิดพลาดและการคอมไพล์ล้มเหลว คุณอาจไม่ได้ติดตั้งไลบรารี dev ที่จำเป็นทั้งหมด (เช่น หากใช้ g++ และไม่พบ -lssl นั่นแสดงว่าคุณจำเป็นต้องติดตั้ง libssl)
หากต้องการรันการทดสอบหน่วยที่รวมไว้ ให้ใช้
ทำการตรวจสอบ
หากต้องการติดตั้ง FEMTO ในตำแหน่งเฉพาะ อย่าลืมรวม --prefix ไว้ในบรรทัดการกำหนดค่าของคุณ เช่นเดียวกับใน
./configure --prefix ~/femto_install
ตามปกติ
ทำการติดตั้ง
จะติดตั้งเครื่องมือ FEMTO ไปยังปลายทางที่ระบุโดย ./configure
คุณยังสามารถรันคำสั่งจากไดเร็กทอรี build ได้อีกด้วย
ดู src/mod_femto/README สำหรับข้อมูลเกี่ยวกับการติดตั้งโมดูล FEMTO apache
หากต้องการสร้างดัชนี ให้รัน
femto/src/dcx_cc/femto_index --tmp /path/to/tmp_dir --outfile index.femto files_or_directories_to_index
จากนั้น หากต้องการสอบถามดัชนี ให้ใช้ femto_search หากต้องการนับจำนวนครั้ง (อย่างรวดเร็ว!) ให้ใช้:
femto/src/main_cc/femto_search /path/to/index_dir --count 'รูปแบบ'
หากต้องการรายงานเอกสารที่ตรงกัน (เวลาขึ้นอยู่กับ # รายงาน) ให้ใช้:
femto/src/main_cc/femto_search /path/to/index_dir 'รูปแบบ'
หากต้องการรายงานเอกสารและออฟเซ็ตที่ตรงกัน (เวลาขึ้นอยู่กับ # ที่รายงาน) ให้ใช้:
femto/src/main_cc/femto_search /path/to/index_dir --offsets 'รูปแบบ'
หากต้องการเรียนรู้เพิ่มเติมเกี่ยวกับรูปแบบประเภทที่คุณสามารถใช้ได้ โปรดดู femto/src/main/QUERY_FORMAT.txt
แหล่งที่มาของ FEMTO ประกอบด้วยแพ็คเกจ Google RE2, jQuery, jQuery SlickGrid และ jQuery SVG