playground flight booking

Demo des KI-gestützten Expertensystems

Frühlings-KI-Neuimplementierung von https://github.com/marcushellberg/java-ai-playground

Diese App zeigt, wie Sie mit Spring AI ein KI-gestütztes System aufbauen können, das:

• Hat Zugriff auf die Allgemeinen Geschäftsbedingungen (Retrieval Augmented Generation, RAG)
• Kann auf Tools (Java-Methoden) zugreifen, um Aktionen auszuführen (Funktionsaufrufe)
• Verwendet ein LLM, um mit dem Benutzer zu interagieren

Anforderungen

• Java 17+
• OpenAI-API-Schlüssel in der Umgebungsvariablen OPENAI_API_KEY

Läuft

Führen Sie die App aus, indem Sie Application.java in Ihrer IDE oder mvn in der Befehlszeile ausführen.

Mit OpenAI Chat

Fügen Sie dem POM den Spring AI Open AI-Boot-Starter hinzu:

< dependency >
    < groupId >org.springframework.ai</ groupId >
    < artifactId >spring-ai-openai-spring-boot-starter</ artifactId >
</ dependency >

Fügen Sie die OpenAI-Konfiguration zu application.properties hinzu:

 spring.ai.openai.api-key=${OPENAI_API_KEY}
spring.ai.openai.chat.options.model=gpt-4o

Mit VertexAI Gemini Chat

Fügen Sie dem POM die Boot-Starter Spring AI VertexAI Gemini und Onnx Transformer Embedding hinzu:

< dependency >
    < groupId >org.springframework.ai</ groupId >
    < artifactId >spring-ai-vertex-ai-gemini-spring-boot-starter</ artifactId >
</ dependency >

< dependency >
    < groupId >org.springframework.ai</ groupId >
    < artifactId >spring-ai-transformers-spring-boot-starter</ artifactId >
</ dependency >

Fügen Sie die VertexAI Gemini-Konfiguration zu application.properties hinzu:

 spring.ai.vertex.ai.gemini.project-id=${VERTEX_AI_GEMINI_PROJECT_ID}
spring.ai.vertex.ai.gemini.location=${VERTEX_AI_GEMINI_LOCATION}
spring.ai.vertex.ai.gemini.chat.options.model=gemini-1.5-pro-001
# spring.ai.vertex.ai.gemini.chat.options.model=gemini-1.5-flash-001

Mit Azure OpenAI Chat

Fügen Sie dem POM den Spring AI Azure OpenAI-Boot-Starter hinzu:

< dependency >
    < groupId >org.springframework.ai</ groupId >
    < artifactId >spring-ai-azure-openai-spring-boot-starter</ artifactId >
</ dependency >

Fügen Sie die Azure OpenAI-Konfiguration zu application.properties hinzu:

 spring.ai.azure.openai.api-key=${AZURE_OPENAI_API_KEY}
spring.ai.azure.openai.endpoint=${AZURE_OPENAI_ENDPOINT}
spring.ai.azure.openai.chat.options.deployment-name=gpt-4o

Mit Groq Chat

Es verwendet den OpenAI-Chat-Client wieder, verweist jedoch auf den Groq-Endpunkt

Fügen Sie dem POM den Spring AI Open AI-Boot-Starter hinzu:

< dependency >
    < groupId >org.springframework.ai</ groupId >
    < artifactId >spring-ai-openai-spring-boot-starter</ artifactId >
</ dependency >
< dependency >
    < groupId >org.springframework.ai</ groupId >
    < artifactId >spring-ai-transformers-spring-boot-starter</ artifactId >
</ dependency >

Fügen Sie die Groq-Konfiguration zu application.properties hinzu:

 spring.ai.openai.api-key=${GROQ_API_KEY}
spring.ai.openai.base-url=https://api.groq.com/openai
spring.ai.openai.chat.options.model=llama3-70b-8192

Mit Anthropic Claude 3 Chat

Fügen Sie dem POM die Boot-Starter Spring AI Anthropic Claude und Onnx Transformer Embedding hinzu:

< dependency >
    < groupId >org.springframework.ai</ groupId >
    < artifactId >spring-ai-anthropic-spring-boot-starter</ artifactId >
</ dependency >

< dependency >
    < groupId >org.springframework.ai</ groupId >
    < artifactId >spring-ai-transformers-spring-boot-starter</ artifactId >
</ dependency >

Fügen Sie die Anthropic-Konfiguration zu application.properties hinzu:

 spring.ai.anthropic.api-key=${ANTHROPIC_API_KEY}
spring.ai.openai.chat.options.model=llama3-70b-8192
spring.ai.anthropic.chat.options.model=claude-3-5-sonnet-20240620

Glas bauen

./mvnw clean install -Pproduction

java -jar ./target/playground-flight-booking-0.0.1-SNAPSHOT.jar

 docker run -it --rm --name postgres -p 5432:5432 -e POSTGRES_USER=postgres -e POSTGRES_PASSWORD=postgres ankane/pgvector