kyma_poc

kyma_poc

Kyma（希臘語，Wave 的意思，https://www.howtopronounce.com/kyma）是一個概念驗證演示，使用 Konveyor.io 內部的生成式 AI 來幫助程式碼現代化工作。

投影片：Konveyor KymaML：GenAI 程式碼遷移

概述

• Kyma 專注於利用 Konveyor 已透過 Migration Waves 收集的資料及其組織應用程式組合的視圖。
• Kyma 將查看給定應用程式的分析報告，並為每個事件產生潛在的補丁。
  • 這是透過查看其他應用程式中解決的類似事件並獲取修復該事件的程式碼差異並與法學碩士合作來利用組織過去解決該特定應用程式和事件問題的方式來完成的。
    • 對於 POC，這將涉及查看同時具有 javaee 和 quarkus 解決方案的應用程序，我們將模擬 Konveyor 中的體驗，我們可以訪問更大的應用程式組合，並可以找到已遷移的類似應用程式並將其用作例子。
• 此方法利用 Few Shots 範例和一系列代理程式來進行快速工程，與 LLM 一起改進生成的修補程式。
  • 注意：此階段不需要模型訓練和微調。我們計劃在未來結合開放資料中心進行微調，利用 Huggingface.co 的開源基礎模型，但這超出了目前階段的範圍。
• 我們假設 Kyma 將使用各種模型，我們的重點是工具/提示工程，並期望將模型座標視為可互換的實體。這是為了讓我們能夠嘗試不斷發展的模型。

我們概念驗證成功的標準是什麼

• 我們想要評估我們可以從即時工程中獲得什麼水平的質量，即無需微調。
  • 未來的階段可能會利用微調，但此階段是關於建立工具的更簡單方法，以收集 Konveyor 中的有用數據，並使用提示工程來幫助遷移者進行程式碼更改
• 該 POC 旨在成為一個小型 Python 項目，與一些示例應用程式和分析報告一起使用，以衡量生成的補丁在將 Java EE 應用程式現代化到 Quarkus 的領域中的有用性
• 我們的成功在於能夠產生補丁，從而節省遷移器對應用程式進行現代化改造的時間。
  • 我們假設補丁不會始終 100% 正常運行，並且會涉及一些用戶幹預。成功與否取決於需要多少幹預以及補丁是否能產生足夠的幫助來節省時間。

設定

1. python -m venv env
2. source env/bin/activate
3. pip install -r ./requirements.txt
4. 安裝 podman 以便您可以執行 Kantra 進行靜態程式碼分析

跑步

運行範例應用程式的分析（MacOS 範例）

1. cd data
2. ./fetch.sh # 這將 git 克隆一些範例原始碼應用程式
3. ./darwin_restart_podman_machine.sh # 在 MacOS 上設定 podman VM，以便它將主機檔案系統掛載到 VM 中
4. ./darwin_get_latest_kantra_cli.sh # 取得「kantra」我們的分析工具
5. ./analyzer_coolstuff.sh # 分析 'coolstuff-javaee' 目錄並將分析輸出寫入 example_reports/coolstuff-javaee/output.yaml
   • 請按照該範例分析其他範例應用程式

產生給定分析報告的 Markdown 版本

• 這將獲取 YAML 輸出並轉換為 Markdown 以方便查看

1. 在專案根目錄啟動並執行
   • ./kyma.py report data/example_reports/coolstuff-javaee/output.yaml example_output/coolstuff-quarkus

     • 假設 YAML 中的 Kantra 分析報告位於 data/example_reports/coolstuff-javaee/output.yaml

     • 範例輸出運行：

         $ time ./kyma.py report data/example_reports/coolstuff-javaee/output.yaml example_output/coolstuff-quarkus
         We have results from 4 RuleSet(s) in data/example_reports/coolstuff-javaee/output.yaml
       
         Writing eap7/websphere to example_output/coolstuff-quarkus/eap7_websphere.md
         Writing eap8/eap7 to example_output/coolstuff-quarkus/eap8_eap7.md
         Writing openshift to example_output/coolstuff-quarkus/openshift.md
         Writing quarkus/springboot to example_output/coolstuff-quarkus/quarkus_springboot.md
         ./kyma.py report data/example_reports/coolstuff-javaee/output.yaml   1.28s user 2.12s system 337% cpu 1.007 total
       

     • 範例輸出可以在 github 上查看 data/example_reports/coolstuff-javaee/output.yaml

       • example_output/coolstuff-quarkus/eap7_websphere.md
       • example_output/coolstuff-quarkus/eap8_eap7.md
       • example_output/coolstuff-quarkus/openshift.md
       • example_output/coolstuff-quarkus/quarkus_springboot.md

從 LLM 互動產生結果

1. export OPENAI_API_KEY="mysecretkey"
   • 請參閱 https://platform.openai.com/api-keys 建立 API 金鑰
2. ./generate_coolstuff.sh
   • 請參閱generate_coolstuff.sh 作為如何呼叫的範例
3. 在 example_output/coolstuff-quarkus 查看上述結果
   • 每個違規的第一個事件都會產生 2 個檔案作為輸出（我們目前只處理第一個事件）
     • '*_full_run.md' 一個 markdown 文件，顯示發送到 LLM 的提示和完整結果
     • “.diff” - 為每次違規的第一個事件產生的差異
   • 請注意，我們正在根據模型分解輸出以查找：
     • example_output/coolstuff-quarkus/gpt-3.5-turbo-16k
     • example_output/coolstuff-quarkus/gpt-4-1106-preview
   • 具體問題和結果的範例：
     • example_output/coolstuff-quarkus/gpt-4-1106-preview/quarkus_springboot_cdi-to-quarkus-00050_2_full_run.md

筆記

• 我們處理 Coolstuff-store 時的運行時間想法：
  • -t "quarkus" -t "jakarta-ee" -t "jakarta-ee8+" -t "jakarta-ee9+" -t "cloud-readiness"
    • 'gpt-3.5-turbo-16k'
      • time ./generate_coolstuff.sh 5.12s user 3.46s system 1% cpu 11:02.25 total
    • 'gpt-4-1106-預覽'
      • ./generate_coolstuff.sh 4.86s user 3.73s system 0% cpu 15:52.24 total