automate user onboarding for fsi with generative ai

ทำให้ผู้ใช้เริ่มใช้บริการทางการเงินได้โดยอัตโนมัติด้วย Digital Assistant ที่ขับเคลื่อนด้วย Generative AI

ในพื้นที่เก็บข้อมูลนี้ เรานำเสนอโซลูชันที่ควบคุมพลังของ Generative AI เพื่อปรับปรุงกระบวนการเริ่มต้นใช้งานบริการทางการเงินของผู้ใช้ผ่านผู้ช่วยดิจิทัล การต้อนรับลูกค้าใหม่ในระบบธนาคารถือเป็นขั้นตอนสำคัญในการเดินทางของลูกค้า ซึ่งเกี่ยวข้องกับกิจกรรมต่างๆ ที่ออกแบบมาเพื่อตอบสนองข้อกำหนดในการรู้จักลูกค้า (KYC) ดำเนินการตรวจสอบที่จำเป็น และแนะนำให้พวกเขารู้จักกับผลิตภัณฑ์หรือบริการของธนาคาร เดิมที การเริ่มต้นใช้งานผู้ใช้เป็นกระบวนการที่น่าเบื่อและต้องดำเนินการด้วยตนเองอย่างมาก โซลูชันของเราให้คำแนะนำเชิงปฏิบัติในการจัดการกับความท้าทายนี้โดยใช้ประโยชน์จากผู้ช่วย Generative AI บน AWS

Amazon Bedrock เป็นบริการที่มีการจัดการเต็มรูปแบบซึ่งเสนอตัวเลือกโมเดลพื้นฐาน (FM) ที่มีประสิทธิภาพสูงจากบริษัท AI ชั้นนำ เช่น AI21 Labs, Anthropic, Cohere, Meta, Mistral AI, Stability AI และ Amazon ผ่าน API เดียว พร้อมด้วย ชุดความสามารถที่หลากหลายที่คุณต้องการเพื่อสร้างแอปพลิเคชัน AI เชิงสร้างสรรค์ที่มีการรักษาความปลอดภัย ความเป็นส่วนตัว และ AI ที่มีความรับผิดชอบ ด้วยการใช้ Anthropic Claude 3.5 Sonnet บน Amazon Bedrock เราสร้างผู้ช่วยดิจิทัลที่ทำให้งานเอกสารเป็นอัตโนมัติ การยืนยันตัวตน และดึงดูดลูกค้าผ่านการโต้ตอบการสนทนาที่เรียกว่า Amazon Penny เป็นผลให้ลูกค้าสามารถเริ่มต้นใช้งานได้ภายในไม่กี่นาทีผ่านขั้นตอนการทำงานอัตโนมัติที่ปลอดภัย

สถาปัตยกรรม

ขั้นตอนการสมัครมีดังนี้:

1. ผู้ใช้เข้าถึงเว็บไซต์ส่วนหน้าที่โฮสต์ภายใน AWS Amplify

2. เว็บไซต์เรียกใช้ตำแหน่งข้อมูล Amazon CloudFront เพื่อโต้ตอบกับผู้ช่วยดิจิทัล Penny ซึ่งได้รับการจัดเก็บและปรับใช้ใน AWS Fargate

3. ผู้ช่วยดิจิทัลใช้ตัวแทน Langchain แบบกำหนดเองเพื่อตอบคำถามเกี่ยวกับผลิตภัณฑ์และบริการของธนาคาร และจัดการขั้นตอนการเริ่มต้นใช้งาน Large Language Model (LLM) ที่เอเจนต์ใช้คือ Anthropic Claude 3.5 Sonnet จัดทำโดย Amazon Bedrock

4. หากผู้ใช้ถามคำถามทั่วไปที่เกี่ยวข้องกับผลิตภัณฑ์หรือบริการของธนาคาร ตัวแทนจะใช้เครื่องมือ Langchain แบบกำหนดเองที่เรียกว่าเครื่องมือค้นหาผลิตภัณฑ์ เครื่องมือนี้ใช้ Amazon Kendra เชื่อมโยงกับแหล่งข้อมูล S3 ซึ่งมีข้อมูลของธนาคาร

5. หากผู้ใช้ระบุว่าต้องการเปิดบัญชีใหม่ ตัวแทนจะแจ้งให้ผู้ใช้กรอกอีเมล เมื่อผู้ใช้ตอบกลับ มันจะใช้เครื่องมือ Langchain แบบกำหนดเองที่เรียกว่าเครื่องมือตรวจสอบความถูกต้องของอีเมล เครื่องมือนี้จะตรวจสอบว่ามีบัญชีที่มีอยู่ในฐานข้อมูล Amazon DynamoDB ของธนาคารหรือไม่ โดยการเรียกตำแหน่งข้อมูลที่ใช้งานใน Amazon API Gateway

6. หลังจากการตรวจสอบอีเมล ข้อมูล KYC จะถูกรวบรวม เช่น ชื่อและนามสกุล จากนั้น ผู้ใช้จะได้รับพร้อมท์สำหรับเอกสารระบุตัวตน สิ่งนี้ถูกอัปโหลดไปยัง Amazon S3

7. ตัวแทนจะใช้เครื่องมือ Langchain แบบกำหนดเองที่เรียกว่าเครื่องมือตรวจสอบ ID เครื่องมือนี้จะตรวจสอบว่ารายละเอียดผู้ใช้ที่ป้อนระหว่างเซสชันตรงกับ ID หรือไม่ โดยการเรียกตำแหน่งข้อมูลที่ใช้งานใน Amazon API Gateway รายละเอียดได้รับการตรวจสอบโดยการแยกข้อความในเอกสารโดยใช้ Amazon Textract

8. หลังจากการยืนยัน ID ผู้ใช้จะถูกขอให้เซลฟี่ รูปภาพถูกอัปโหลดไปยัง Amazon S3 จากนั้น ตัวแทนจะใช้เครื่องมือ Langchain แบบกำหนดเองที่เรียกว่าเครื่องมือยืนยันเซลฟี่ เครื่องมือนี้จะตรวจสอบว่าเซลฟีที่อัปโหลดตรงกับใบหน้าบน ID หรือไม่ โดยการเรียกตำแหน่งข้อมูลที่ใช้งานใน Amazon API Gateway ตรวจพบการจับคู่ใบหน้าโดยใช้ Amazon Rekognition

9. หลังจากการยืนยันใบหน้าสำเร็จ ตัวแทนจะใช้เครื่องมือ Langchain แบบกำหนดเองที่เรียกว่าเครื่องมือสร้างบัญชี เครื่องมือนี้สร้างบัญชีใหม่ในฐานข้อมูล Amazon DynamoDB ของธนาคาร โดยการเรียกตำแหน่งข้อมูลที่ใช้งานใน Amazon API Gateway

10. ผู้ใช้จะได้รับแจ้งว่าบัญชีใหม่ได้ถูกสร้างขึ้นเรียบร้อยแล้ว โดยใช้ Amazon Simple Email Service (SES)

ข้อกำหนดล่วงหน้า

ระบุบัญชี AWS ที่คุณต้องการปรับใช้โซลูชันนี้ และตรวจสอบให้แน่ใจว่าได้ระบุรายละเอียดของบัญชีนั้นทุกที่ที่จำเป็นในขั้นตอนด้านล่าง เตรียมสิ่งต่อไปนี้ในบรรทัดคำสั่งในเครื่องของคุณ:

• ติดตั้งและกำหนดค่า AWS CLI แล้ว
• ติดตั้งและกำหนดค่า AWS CDK CLI แล้ว ตรวจสอบให้แน่ใจว่าคุณบูตบัญชี AWS ของคุณด้วย ซึ่งสามารถทำได้โดยการรัน cdk bootstrap จากบรรทัดคำสั่ง
• ติดตั้งและกำหนดค่า Amplify CLI แล้ว
• ติดตั้ง NodeJS และ Docker

ในบัญชี AWS ที่คุณเลือก ให้ทำตามขั้นตอนต่อไปนี้:

• ตรวจสอบให้แน่ใจว่า Anthropic Claude 3.5 Sonnet Model ได้รับการเปิดใช้งานใน Amazon Bedrock โดยการเพิ่มการเข้าถึงโมเดล
• ตรวจสอบให้แน่ใจว่านักเทียบท่ากำลังทำงานอยู่ ซึ่งสามารถทำได้โดยการรันคำสั่ง sudo docker info หาก Docker ทำงานอยู่ ข้อมูลเกี่ยวกับ Docker จะปรากฏขึ้น

หมายเหตุ: ภายใต้ชุดสมมติฐานที่ทำขึ้นเป็นรายเดือน การเรียกใช้ปริมาณงานนี้จะมีค่าใช้จ่ายต่อชั่วโมงโดยประมาณประมาณ 1.34 ดอลลาร์ อย่าลืมตรวจสอบรายละเอียดราคาสำหรับแต่ละบริการเพื่อทำความเข้าใจต้นทุนที่คุณอาจถูกเรียกเก็บสำหรับระดับการใช้งานและการกำหนดค่าทรัพยากรที่แตกต่างกัน

ตั้งค่า

ปรับใช้ตัวแทนไปยังบัญชี AWS

หากต้องการปรับใช้ตัวแทนกับบัญชี AWS ของคุณ ให้ทำตามคำแนะนำด้านล่าง:

• โคลน repo GitHub
• ไปที่ ./api/llm
• ทำให้สคริปต์ปฏิบัติการได้: chmod +x script.sh
• เรียกใช้สคริปต์: ./script.sh และ repo ใหม่ของคุณจะถูกสร้างขึ้นใน ECR และอิมเมจจะถูกปรับใช้

ปรับใช้โครงสร้างพื้นฐานเครื่องมือกับบัญชี AWS

หากต้องการปรับใช้โครงสร้างพื้นฐานของเครื่องมือกับบัญชี AWS ของคุณ ให้ทำตามคำแนะนำด้านล่าง:

• นำทางไปยัง ./infra
• รัน npm i เพื่อติดตั้งโมดูลโหนด
• รัน npm run build เพื่อคอมไพล์ typescript เป็น javascript
• เรียกใช้สิ่งต่อไปนี้เพื่อปรับใช้สแต็กนี้กับบัญชี/ภูมิภาค AWS เริ่มต้นของคุณ LLMImageTag คือแท็กของอิมเมจนักเทียบท่าซึ่งสามารถพบได้ในคอนโซล AWS ภายในบริการ ECR ป้อนค่าพารามิเตอร์ของคุณ CloudFormation Stack จะถูกสร้างขึ้นในบัญชี AWS ของคุณ

 cdk deploy --parameters SesBankEmail={email} --parameters SesCustomerEmail={email} --parameters LLMImageTag={tag}

ตัวอย่างการใช้งาน:

 cdk deploy --parameters [email protected] --parameters [email protected] --parameters LLMImageTag=20240307_123456

• เมื่อการปรับใช้งานของคุณเสร็จสมบูรณ์:
  • อีเมลจะถูกส่งไปยัง SesBankEmail และ SesCustomerEmail ที่คุณระบุเพื่อตรวจสอบข้อมูลประจำตัว SES ใหม่ที่สร้างขึ้น โปรดตรวจสอบให้แน่ใจว่าได้คลิกลิงก์ยืนยันที่ให้ไว้ในอีเมล
  • คัดลอก CloudFrontDomainName ที่ส่งออกโดย CloudFormation Stack

หมายเหตุ: หาก CloudFormation Stack ติดขัดขณะรอให้ LLMDeployment เสร็จสิ้น อาจเป็นไปได้ว่างาน ECS ของคุณล้มเหลว อาจเป็นเพราะสถาปัตยกรรมของเครื่องที่คุณสร้างอิมเมจไม่ตรงกับที่เรากำหนดค่าให้ใช้ในโครงการของเรา (ARM64) ในกรณีดังกล่าว ให้อัปเดตสถาปัตยกรรมที่ ECS Task Definition ใช้ด้วยตนเอง (อาจใช้ X86 แทน)

ปรับใช้แอปพลิเคชันสาธิตไปยังบัญชี AWS

หากต้องการปรับใช้แอปพลิเคชันสาธิตกับบัญชี AWS ของคุณ ให้ทำตามคำแนะนำด้านล่าง:

• แทนที่ค่าคงที่ LLM_API_ENDPOINT ใน App.js ภายใน ./penny-ui/src/ ด้วย CloudFrontDomainName ที่ส่งออกโดย CloudFormation Stack
• ไปที่ ./penny-ui
• เรียกใช้คำสั่งด้านล่างเพื่อปรับใช้แอปพลิเคชันขยาย:

 npm i
amplify init
amplify add hosting
amplify publish

• เยี่ยมชมโดเมนเอาต์พุตที่มีการปรับใช้แอปพลิเคชันของคุณ ยินดีด้วย คุณไม่สามารถเริ่มพูดคุยกับผู้ช่วยดิจิทัลได้!

(ไม่บังคับ) เรียกใช้ LLM และแอปพลิเคชันสาธิตในเครื่อง

• ตรวจสอบให้แน่ใจว่าคุณได้ทำตามขั้นตอน Deploy the Tools Infrastructure to AWS Account

• ไปที่ ./api/llm

  • แทนที่ os.environ["kendraIndexId"] ด้วย Kendra Index ID ที่คุณต้องการใช้ใน tools.py
  • แทนที่ os.environ["apiEndpoint"] ด้วย API Gateway Endpoint ที่เอาต์พุตโดย CloudFormation Stack ใน tools.py
  • แทนที่ os.environ["idBucketName"] ด้วยชื่อบัคเก็ต S3 ID ที่สร้างโดย CloudFormation Stack ใน main.py

• เรียกใช้ python3 -m uvicorn main:app --reload LLM API จะใช้งานได้ที่ http://127.0.0.1:8000/

• ไปที่ ./penny-ui

• รัน npm i เพื่อติดตั้งการพึ่งพา

• เรียกใช้ npm run start เพื่อเริ่มเซิร์ฟเวอร์การพัฒนา/ แอปพลิเคชันสาธิตจะใช้งานได้ที่ http://localhost:3000/

การล้างข้อมูล

ทำตามขั้นตอนต่อไปนี้เพื่อล้างและลบสภาพแวดล้อมออกจากบัญชีของคุณ:

• ลบ CDK PennyInfraStack ในเครื่องโดยการรันคำสั่งต่อไปนี้ การดำเนินการนี้จะลบสแต็กและทรัพยากรทั้งหมดที่เกี่ยวข้องกับ PennyInfraStack ในบัญชี AWS ของคุณโดยอัตโนมัติ

 cd ./infra
cdk destroy 

• ลบบัคเก็ต S3 ต่อไปนี้ - บัคเก็ต ID และบัคเก็ตแคตตาล็อก AnyBank อย่าลืมล้างที่เก็บข้อมูลก่อนที่จะลบออก ค้นหาที่เก็บข้อมูลเหล่านี้โดยการค้นหาคำนำหน้า pennyinfrastack-idbucket และ pennyinfrastack-anybankcatalogbucket

• ลบแอปพลิเคชันส่วนหน้าที่โฮสต์บน Amplify โดยการเรียกใช้ amplify delete

• ลบสิ่งแปลกปลอมของรูปภาพและพื้นที่เก็บข้อมูลส่วนตัวบน ECR ด้วยชื่อ penny-workshop

ความปลอดภัย

ดูการมีส่วนร่วมสำหรับข้อมูลเพิ่มเติม

ใบอนุญาต

ห้องสมุดนี้ได้รับอนุญาตภายใต้ใบอนุญาต MIT-0 ดูไฟล์ใบอนุญาต