swift chat

中文

SwiftChat - 跨平台人工智慧聊天應用

SwiftChat 是一款快速響應的 AI 聊天應用程序，使用 React Native 開發，由 Amazon Bedrock 提供支援。憑藉極簡的設計理念和強大的隱私保護，它可以跨 Android、iOS 和 macOS 平台提供即時串流對話和 AI 圖像生成功能。

主要特點：

• 與AI即時串流聊天
• AI影像生成進展
• 多模式支援（相機、照片和文件）
• 對話歷史清單查看和管理
• 跨平台支援（Android、iOS、macOS）
• 針對 iPad 和 Android 平板電腦進行了平板電腦優化
• 快速啟動和響應性能
• 多種AI模型支援及切換

建築學

預設情況下，我們使用AWS App Runner ，它通常用於託管 Python FastAPI 伺服器，提供高效能、可擴充性和低延遲。

或者，我們提供了使用 Function URL 將 App Runner 替換為AWS Lambda 的選項，以獲得更具成本效益的解決方案，如本範例所示。

入門

先決條件

確保您有權存取 Amazon Bedrock 基礎模型。 SwiftChat 預設為：

• 區域： us-west-2
• 文字模型： Claude 3.5 Sonnet
• 影像模型： Stable Image Core 1.0

按照 Amazon Bedrock 使用者指南啟用您的模型。

第 1 步：設定您的 API 金鑰

1. 登入您的 AWS 控制台並右鍵單擊 Parameter Store 以在新分頁中將其開啟。

2. 檢查您是否位於支援的區域，然後按一下「建立參數」按鈕。

3. 填寫以下參數，其他選項保留預設值：

   • 名稱：輸入參數名稱（例如“SwiftChatAPIKey”，將在步驟 2 中用作ApiKeyParam ）。

   • 類型：選擇SecureString

   • 值：輸入API Key不帶空格的字串。

4. 點選建立參數。

第 2 步：部署堆疊並取得 API URL

1. 按一下下列按鈕之一可在建立 API 金鑰的相同區域中啟動 CloudFormation Stack。

   • 應用程式運行器

     

   • Lambda （注意：僅供 AWS 客戶使用）

     

2. 按一下「下一步」 ，在「指定堆疊詳細資料」頁面上，提供以下資訊：

   • 使用您用於儲存 API 金鑰的參數名稱填入ApiKeyParam （例如「SwiftChatAPIKey」）。
   • 對於 App Runner，請根據您的需求選擇InstanceTypeParam 。

3. 按一下下一步，將「配置堆疊選項」頁面保留為預設值，閱讀功能並選取底部的「我承認 AWS CloudFormation 可能會建立 IAM 資源」複選框。

4. 按一下「下一步」 ，在「檢查並建立」中檢查您的配置並按一下「提交」 。

等待大約 3-5 分鐘部署完成，然後點擊 CloudFormation 堆疊並前往「輸出」選項卡，您可以找到以下API URL ：https: https://xxx.xxx.awsapprunner.com或https://xxx.lambda-url.xxx.on.aws

步驟 3：下載應用程式並使用 API URL 和 API 金鑰進行設定

1. 下載應用程式

   • 安卓應用程式點擊下載
   • macOS 應用程式點擊下載
   • iOS（目前我們不提供iOS版本，您可以使用Xcode本地建置）

2. 啟動應用程序，打開抽屜選單，然後點擊“設定” 。

3. 貼上API URL和API Key然後選擇區域。

4. 點擊右上角的 ✓ 圖示儲存您的配置並開始聊天。

恭喜？您的 SwiftChat 應用程式已準備好使用！

支援地區

• 美國東部（維吉尼亞北部）：us-east-1
• 美國西部（俄勒岡州）：us-west-2
• 亞太地區（孟買）：ap-south-1
• 亞太地區（新加坡）：ap-southeast-1
• 亞太地區（雪梨）：ap-southeast-2
• 亞太地區（東京）：ap-northeast-1
• 加拿大（中部）：ca-central-1
• 歐洲（法蘭克福）：eu-central-1
• 歐洲（倫敦）：eu-west-2
• 歐洲（巴黎）：eu-west-3
• 南美洲（聖保羅）：sa-east-1

詳細特點

訊息處理

• 文字複製支援：
  • 郵件標題中的複製按鈕
  • 程式碼區塊中的複製按鈕
  • 在 macOS 上直接選擇並複製程式碼（在 iOS 上雙擊或長按）
  • 長按文字複製整個句子（在 macOS 上右鍵單擊）
• 透過點擊訊息標題或雙擊文字來選擇文字模式
• 歷史訊息時間軸視圖
• 歷史記錄中長按刪除訊息
• 點擊預覽上傳的文件和圖片
• 支援Markdown格式的問題和答案
• 支援表格顯示和代碼語法高亮
• 每個對話最多 20 張圖像和 5 個文檔

影像特徵

• 支援中文提示影像生成（請確保您選擇的地區啟用了Claude 3 Haiku ）
• 查看和縮放生成的圖像
• 長按圖片即可儲存或分享
• 自動圖片壓縮以優化令牌使用

使用者體驗

• 適用於 Android 和 iOS 的觸覺回饋（可在「設定」中停用）
• 支援Android/iOS裝置上的橫向模式
• 雙擊標題列滾動到頂部
• 點擊底部箭頭查看最新消息
• 透過點擊聊天標題查看目前會話令牌使用情況
• 在「設定」中查看詳細的令牌使用情況和影像產生計數
• 應用程式內升級通知（Android 和 macOS）

是什麼讓 SwiftChat 真正「迅速」？

啟動速度快

• 感謝RN Hermes引擎的AOT （Ahead of Time）編譯
• 新增了複雜組件的延遲加載
• 應用程式立即啟動並立即準備好輸入

請求速度快

• 透過映像壓縮加速端到端 API 請求
• 在與 Bedrock相同的區域部署 API 可提供更低的延遲
• 直接顯示所需的最小回應負載和零解析

渲染速度快

• 使用useMemo和自訂快取為會話內容建立二級緩存
• 減少不必要的重新渲染並加快串流訊息顯示
• 所有 UI 元件均呈現為本機元件

？儲存速度快

• 透過使用react-native-mmkv，訊息的讀取、儲存和更新速度比AsyncStorage快10倍
• 優化會話內容和會話清單儲存結構，加速歷史清單顯示

應用程式隱私和安全

• 加密的 API 金鑰存儲
• 最低權限要求
• 僅本地資料存儲
• 沒有用戶行為追蹤
• 沒有數據收集
• 隱私第一的方法

應用程式建置和開發

首先，克隆這個儲存庫。所有應用程式程式碼都位於react-native資料夾中。在繼續之前，請執行以下命令來下載依賴項。

 cd react-native && npm i

為 Android 構建

npm start && npm run android

為 iOS 構建

npm start && npm run ios

為 macOS 構建

1. 修改/src/App.tsx中isMac = true並執行npm start 。
2. 雙擊ios/SwiftChat.xcworkspace在 Xcode 中開啟該項目。
3. 將建置目標變更為My Mac (Mac Catalyst)然後按一下 ▶ 運作按鈕。

API參考

API架構

首先，請設定您的API URL和API Key如下所示：

 export API_URL= < API URL >
export API_KEY= < API Key >

1. /api/converse

   curl -N " ${API_URL} /api/converse " 
   --header ' Content-Type: application/json ' 
   --header " Authorization: Bearer ${API_KEY} " 
   --data ' {
     "messages": [
       {
         "role": "user",
         "content": [
           {
             "text": "Hi"
           }
         ]
       }
     ],
     "modelId": "anthropic.claude-3-5-sonnet-20240620-v1:0",
     "region": "us-west-2"
   } '

   此API用於實現串流對話，僅傳回用於顯示的文字和令牌使用情況。

   body 下的messages完全符合 Amazon Bedrock converse Stream API 中的訊息結構規格。您還可以根據規範添加image或document以支援多模態對話。

2. /api/image

   curl " ${API_URL} /api/image " 
   --header ' Content-Type: application/json ' 
   --header " Authorization: Bearer ${API_KEY} " 
   --data ' {
     "prompt": "Beautiful countryside",
     "modelId": "stability.stable-image-core-v1:0",
     "region": "us-west-2",
     "width": "1024",
     "height": "1024"
   } '

   此API用於產生映像並傳回影像的base64編碼字串。

3. /api/models

   curl " ${API_URL} /api/models " 
   --header ' Content-Type: application/json ' 
   --header ' accept: application/json ' 
   --header " Authorization: Bearer ${API_KEY} " 
   --data ' {
     "region": "us-west-2"
   } '

   此API用於取得指定區域內所有支援串流的文字模型和影像生成模型的清單。

4. /api/upgrade

   curl " ${API_URL} /api/upgrade " 
   --header ' Content-Type: application/json ' 
   --header ' accept: application/json ' 
   --header " Authorization: Bearer ${API_KEY} "

   此 API 用於取得 Android 和 macOS 應用程式更新的新版本 SwiftChat。

API程式碼參考

• 客戶端程式碼：bedrock-api.ts

• 伺服器程式碼：main.py

如何升級？

升級應用程式

• Android和macOS ：導航至「設定」頁面，如果有新版本，您將在該頁面底部找到它，然後點擊應用程式版本進行下載並安裝。
• iOS ：如果在發布頁面發布了新版本，請更新您的本機程式碼，透過 Xcode 重新建置並安裝您的應用程式。

注意：下載新版本後，請檢查發行說明以了解是否需要 API 版本更新。

升級API

• 對於 AppRunner ：點擊並開啟 App Runner Services 頁面，找到並開啟swiftchat-api ，點擊右上角的Deploy按鈕。
• 對於 Lambda ：按一下並開啟 Lambda 服務，找到並開啟以SwiftChatLambda-xxx開頭的 Lambda，按一下部署新映像按鈕，然後按一下儲存。

安全

請參閱貢獻以獲取更多資訊。

執照

該庫根據 MIT-0 許可證獲得許可。請參閱許可證文件。