neo4j-generative-ai-aws

Dies ist ein Beispiel-Notebook und eine Webanwendung, die zeigt, wie Amazon Bedrock und Titan mit Neo4j verwendet werden können. Wir werden untersuchen, wie wir generative KI nutzen können, um einen Wissensgraphen in Neo4j zu erstellen und zu nutzen.

Der von uns verwendete Datensatz stammt aus dem EDGAR-System der SEC. Es wurde mit diesen Skripten heruntergeladen.

Der Datenfluss in dieser Demo besteht aus zwei Teilen:

Aufnahme – Wir lesen die EDGAR-Dateien mit Bedrock und extrahieren daraus Entitäten und Beziehungen, die dann in eine Neo4j-Datenbank aufgenommen werden, die über AWS Marketplace bereitgestellt wird.
Verbrauch – Ein Benutzer gibt natürliche Sprache in eine Chat-Benutzeroberfläche ein. Bedrock konvertiert dies in Neo4j Cypher, das für die Datenbank ausgeführt wird. Dieser Ablauf ermöglicht es technisch nicht versierten Benutzern, die Datenbank abzufragen.

Richten Sie die Sagemaker Studio-Umgebung ein

Um mit der Einrichtung der Demo zu beginnen, klonen Sie dieses Repo in eine SageMaker Studio-Umgebung und führen Sie dann die Notebooks mit den Nummern 1 und 2 durch.

Stellen Sie Neo4j AuraDS Professional bereit

Für diese Demo ist eine Neo4j-Instanz erforderlich. Sie können dies mithilfe der AWS Marketplace-Liste hier bereitstellen.

Aktivieren Sie AWS IAM-Berechtigungen für Bedrock

Die AWS-Identität, die Sie von Ihrer Notebook-Umgebung übernehmen (die Studio-/Notebook-Ausführungsrolle von SageMaker oder eine Rolle oder ein IAM-Benutzer für selbstverwaltete Notebooks) muss über ausreichende AWS IAM-Berechtigungen verfügen, um den Amazon Bedrock-Service aufzurufen.

Um Bedrock Zugriff auf Ihre Identität zu gewähren, können Sie:

Öffnen Sie die AWS IAM-Konsole
Suchen Sie Ihre Rolle (wenn Sie SageMaker verwenden oder anderweitig eine IAM-Rolle übernehmen) oder Ihren Benutzer
Wählen Sie Berechtigungen hinzufügen > Inline-Richtlinie erstellen, um neue Inline-Berechtigungen anzuhängen, öffnen Sie den JSON- Editor und fügen Sie die folgende Beispielrichtlinie ein:

 {
    "Version": "2012-10-17",
    "Statement": [
        {
            "Sid": "BedrockFullAccess",
            "Effect": "Allow",
            "Action": ["bedrock:*"],
            "Resource": "*"
        }
    ]
}

️ Hinweis: Bei Amazon SageMaker ist Ihre Notebook-Ausführungsrolle normalerweise von dem Benutzer oder der Rolle getrennt , mit dem Sie sich bei der AWS-Konsole anmelden. Wenn Sie die AWS-Konsole für Amazon Bedrock erkunden möchten, müssen Sie auch Ihrem Konsolenbenutzer/Ihrer Konsolenrolle Berechtigungen erteilen.

Weitere Informationen zu den differenzierten Aktions- und Ressourcenberechtigungen in Bedrock finden Sie im Bedrock Developer Guide.

Benutzeroberfläche

Die UI-Anwendung basiert auf Streamlit. In diesem Beispiel zeigen wir, wie es auf einer AWS EC2 Instance (EC2)-VM ausgeführt wird. Stellen Sie zunächst eine VM bereit. Mit dieser Anleitung können Sie eine Amazon Linux-VM ausgliedern

Wir werden AWS CLI verwenden. Sie müssen diese Schritte ausführen, um die Anmeldeinformationen für die Verwendung der CLI-Option zu konfigurieren

Melden Sie sich mit AWS-Anmeldeinformationen über die aws CLI an.

 aws configure

Melden Sie sich als Nächstes mit AWS CLI bei der neuen VM-Instanz an:

 export INSTANCE_ID=
aws ec2-instance-connect ssh --instance-id $INSTANCE_ID

Wir werden die Anwendung auf Port 80 ausführen. Dafür ist Root-Zugriff erforderlich, also zuerst:

 sudo su

Dann müssen Sie Git installieren und dieses Repo klonen:

 yum install -y git
mkdir -p /app
cd /app
git clone https://github.com/neo4j-partners/neo4j-generative-ai-aws.git
cd neo4j-generative-ai-aws

Lassen Sie uns zuerst Python und Pip installieren:

 yum install -y python
yum install -y pip

Erstellen wir nun eine virtuelle Umgebung, um unsere Python-Umgebung zu isolieren und zu aktivieren

 yum install -y virtualenv
python3 -m venv /app/venv/genai
source /app/venv/genai/bin/activate

So installieren Sie Streamlit und andere Abhängigkeiten:

 cd ui
pip install -r requirements.txt

Überprüfen Sie, ob streamlit Befehl über PATH zugänglich ist, indem Sie diesen Befehl ausführen:

 streamlit --version

Wenn nicht, müssen Sie die streamlit Binärdatei wie folgt zur PATH-Variablen hinzufügen:

 export PATH="/app/venv/genai/bin:$PATH"

Als Nächstes müssen Sie eine Secrets-Datei erstellen, die die App verwenden kann. Öffnen Sie die Datei und bearbeiten Sie sie:

 cd streamlit
cd .streamlit
cp secrets.toml.example secrets.toml
vi secrets.toml

Sie müssen diese Datei nun bearbeiten, um Ihre Anmeldeinformationen widerzuspiegeln. Die Datei enthält die folgenden Variablen:

 SERVICE_NAME = "" #e.g. bedrock-runtime
REGION_NAME = "" #e.g. us-west-2
CYPHER_MODEL = "" #e.g. anthropic.claude-v2
ACCESS_KEY = "AWS ACCESS KEY" #provide the access key with bedrock access
SECRET_KEY = "AWS SECRET KEY" #provide the secret key with bedrock access
NEO4J_HOST = "" #NEO4J_AURA_DS_URL
NEO4J_PORT = "7687"
NEO4J_USER = "neo4j"
NEO4J_PASSWORD = "" #Neo4j password
NEO4J_DB = "neo4j"

Jetzt können wir die App mit den folgenden Befehlen ausführen:

 cd ..
streamlit run Home.py --server.port=80

Optional können Sie die App in einer anderen Bildschirmsitzung ausführen, um sicherzustellen, dass die App auch dann weiter ausgeführt wird, wenn Sie die Verbindung zur ec2-Instanz trennen:

 screen -S run_app
cd ..
streamlit run Home.py --server.port=80

Sie können Ctrl+a d verwenden, um den Bildschirm zu verlassen, während die App noch läuft, und mit screen -r wieder zum Bildschirm zurückzukehren. Um die Bildschirmsitzung zu beenden, verwenden Sie den Befehl screen -XS run_app quit .

Auf der VM zur Ausführung auf Port 80:

Stellen Sie sicher, dass Sie ein Root-Benutzer sind oder Zugriff auf Port 80 haben
Stellen Sie sicher, dass auf der VM Port 80 für den HTTP-Zugriff geöffnet ist. Möglicherweise müssen Sie diesen Port oder einen anderen Port über die hier erwähnten Firewall-Regeln öffnen.

Nach der Bereitstellung können Sie das Dashboard und die Chat-Benutzeroberfläche sehen: