โปรแกรมแปลภาษาจากการจับภาพหน้าจอ (Screen Translator) เขียนด้วยภาษา Rust ใช้เฟรมเวิร์ก egui สำหรับหน้าจอติดต่อผู้ใช้ และใช้ ONNX Runtime ในการรันโมเดลปัญญาประดิษฐ์ (AI)
- การเลือกพื้นที่เพื่อจับภาพหน้าจอ: ผู้ใช้สามารถกำหนดขอบเขตพื้นที่หน้าจอเพื่อจับภาพข้อความ โดยสามารถย้ายตำแหน่ง ปรับขนาดกล่องเลือกได้แบบเรียลไทม์ และมีโหมดแสดงคำแปลทับตำแหน่งข้อความเดิม (Overlay Mode)
- ตัวเลือกเอนจิน OCR (ONNX Runtime):
- Manga-OCR: โมเดลสแกนตัวอักษรภาษาญี่ปุ่นที่ครอบคลุมการอ่านทั้งแนวตั้งและแนวนอน
- PaddleOCR v4 & v5 (Mobile): ทำงานแบบไฮบริด (ใช้ v4 ในการตีกรอบ และ v5 ในการอ่านตัวอักษร) เพื่อความแม่นยำสูงสุดในหลายภาษาและฟอนต์ที่ซับซ้อน
- Windows OCR: ระบบรู้จำอักขระผ่าน API บิวท์อินของระบบปฏิบัติการ Windows
- การประมวลผลด้วย GPU (Hardware Acceleration): รองรับการเชื่อมต่อกับไดรเวอร์การ์ดจอ NVIDIA CUDA, TensorRT และ DirectML บนระบบปฏิบัติการ Windows
- การวิเคราะห์การจัดหน้า (Layout Analysis):
- การตรวจจับกรอบคำพูด (Speech Bubble Detection): ค้นหากรอบคำพูดด้วยโมเดลตรวจจับวัตถุ YOLO
- การเรียงลำดับคำสแกน (Smart Sorting): จัดทิศทางของข้อความให้อ่านจากขวาไปซ้าย (RTL) หรือจากบนลงล่างตามพิกัดของข้อความ
- การประมวลผลข้อความ (Text Processing):
- ระบบคัดกรองขยะ (Garbage Filtering): ลบตัวอักษรที่ซ้ำซ้อน บรรทัดว่าง หรือกลุ่มสัญลักษณ์พิเศษก่อนส่งคำแปล
- การแปลงภาษาญี่ปุ่น: จัดการรูปแบบอักขระคานะ ลบคำอ่านฟูริกานะ (Furigana)
- การตัดบรรทัดภาษาไทย: แทรกช่องว่างขนาดศูนย์ (Zero Width Space) ในผลลัพธ์ภาษาไทยเพื่อให้เบราว์เซอร์และ UI จัดการตัดบรรทัดได้
- การแยกคำภาษาอังกฤษ: ใช้อัลกอริทึม wordninja ในการแยกตัวอักษรภาษาอังกฤษที่ติดกันออกเป็นคำ
- ระบบแปลภาษา (Translation Providers):
- Google Translate: การแปลผ่านหน้าเว็บ
- Gemini API: เชื่อมต่อผ่านรหัส API Key จาก Google AI Studio
- Groq API: เชื่อมต่อผ่าน API ไปยังโมเดลเช่น Llama หรือ Gemma
- Claude (Anthropic): ประมวลผลภาษาด้วยโมเดลตระกูล Claude (เช่น Sonnet/Opus)
- DeepSeek API: เข้าถึงโมเดลในราคาประหยัดจากค่าย DeepSeek
- DeepL: ระบบ Neural Machine Translation สำหรับการแปลแบบรวดเร็วตรงไปตรงมา
- Ollama / LM Studio: รองรับการรันโมเดลภาษา (Local LLM) ในเครื่องแบบออฟไลน์
- Azure OpenAI: ระบบแปลภาษาสำหรับองค์กรผ่านเซิร์ฟเวอร์คลาวด์ของ Microsoft
- OpenAI / Custom: ส่งคำขอไปยัง API ที่มีโครงสร้างแบบ OpenAI เช่น OpenRouter
- การจัดการและการตั้งค่าโปรแกรม:
- แคชข้อความ (Translation Cache): บันทึกผลการแปลและ OCR ในหน่วยความจำ เพื่อนำมาแสดงซ้ำหากภาพหน้าจอยังคงเป็นข้อความเดิม
- การปรับแต่งสไตล์: ตั้งค่าสีตัวอักษร ขนาดฟอนต์ สีพื้นหลัง และความโปร่งแสงในโหมด Overlay
- การติดตั้งโมเดล (Model Installation):
- ไปที่เมนู Settings (ไอคอนฟันเฟือง) เลือกแท็บ OCR
- หากเลือกระบบ MangaOCR, Built-in PaddleOCR หรือ Bubble YOLO โปรแกรมจะตรวจสอบไฟล์โมเดลในเครื่อง หากไม่มีไฟล์ จะปรากฏปุ่ม "Download"
- คลิกปุ่ม Download เพื่อโหลดและคลายซิปไฟล์ลงโฟลเดอร์
models/โดยอัตโนมัติ
- การรันด้วย GPU:
- หากต้องการรันผ่านการ์ดจอ NVIDIA ให้ติดตั้งไดรเวอร์กราฟิกล่าสุด และ CUDA Toolkit
- หากเลือกใช้ TensorRT จำเป็นต้องตั้งค่าความเข้ากันได้ของระบบในส่วน ONNX เพิ่มเติม
- หากไม่ใช้ CUDA โปรแกรมจะทำงานผ่าน CPU หรือ Microsoft DirectML
- การรับคีย์เชื่อมต่อบริการแปลภาษา (API Setup):
- นำคีย์ API ใส่ในหน้า Settings > Translation:
- Google Translate: ใช้งานได้ทันทีโดยไม่ต้องใส่คีย์
- Gemini: ขอคีย์ที่ Google AI Studio
- Groq: ขอคีย์ที่ Groq Console
- Claude: ขอคีย์ที่ Anthropic Console
- DeepSeek: ขอคีย์ที่ DeepSeek Platform
- DeepL: ขอคีย์ที่ DeepL Pro API
- Ollama / LM Studio: ดาวน์โหลดโปรแกรมมารันในเครื่อง และชี้ URL ตามที่ระบบกำหนด
- Azure OpenAI: ตั้งค่า Deployment Name และเชื่อมต่อคีย์ตามนโยบายองค์กร
- OpenAI / Custom: ขอคีย์จาก OpenAI Platform หรือ OpenRouter
- นำคีย์ API ใส่ในหน้า Settings > Translation:
KTranslator V2 is a screen capture translation utility written in Rust. It utilizes the egui framework for its graphical interface and ONNX Runtime to execute artificial intelligence models.
- Region-Based Capture: Users can draw bounding boxes on the screen to specify the capture area. These boxes can be resized and moved in real time. The software includes an Overlay Mode to render translated text directly over the original screen contents.
- OCR Engine Selection (ONNX Runtime):
- Manga-OCR: A model for scanning Japanese text, covering both vertical and horizontal writing formats.
- PaddleOCR v4 & v5 (Mobile): A hybrid OCR pipeline (v4 for bounding box detection, v5 for text recognition) optimized for multi-language accuracy and complex fonts.
- Windows OCR: Text recognition utilizing the built-in Windows API.
- Hardware Acceleration: Integrates with NVIDIA CUDA, TensorRT, and DirectML APIs on Windows to route ONNX computations through the GPU.
- Layout Analysis:
- Speech Bubble Detection: Uses a YOLO object detection model to locate speech bubbles.
- Smart Sorting: Sorts recognized text boxes according to spatial coordinates (e.g., Right-to-Left or Top-to-Bottom).
- Text Processing:
- Garbage Filtering: Removes repeating characters, empty lines, and excessive symbolic characters before passing text to the translator.
- Japanese Normalization: Formats kana characters and removes furigana phonetic guides.
- Thai Word Wrap: Inserts Zero Width Spaces into Thai strings to allow correct line breaking on UI rendering.
- English Word Segmentation: Uses the wordninja algorithm to split combined character sequences into distinct words.
- Translation Providers:
- Google Translate: Web-based translation implementation.
- Gemini API: Connects using API keys from Google AI Studio.
- Groq API: Connects to Llama or Gemma inference endpoints via Groq.
- Claude (Anthropic): Leverages the Claude models for translation.
- DeepSeek API: Integrates with DeepSeek's high-performance LLMs.
- DeepL API: Directly uses Neural Machine Translation for swift, straightforward translations.
- Ollama / LM Studio: Target locally hosted servers for offline language model execution.
- Azure OpenAI: Enterprise-grade translation endpoint integration via Microsoft Azure.
- OpenAI / Custom: Sends requests to APIs implementing the OpenAI interface format, such as OpenRouter.
- Management and Configuration:
- Translation Cache: Records OCR and translation outputs in memory, preventing duplicate API calls when the target screen content remains static.
- Styling Customization: Configuration of font colors, sizes, background colors, and overlay opacity.
- Model Installation:
- Go to Settings (gear icon) and select the OCR tab.
- If using MangaOCR, Built-in PaddleOCR, or Bubble YOLO, the program will check for local model files. If they are missing, a "Download" button is displayed.
- Click Download to automatically fetch and extract the files into the
models/directory.
- GPU Execution:
- To utilize an NVIDIA GPU, install the latest graphics drivers and the CUDA Toolkit.
- Using TensorRT requires additional dependency configurations in the ONNX environment.
- If CUDA is not used, the program defaults to the CPU or Microsoft DirectML.
- API Credentials Setup:
- Enter API credentials in Settings > Translation:
- Google Translate: Operates without a key.
- Gemini: Obtain an API key from Google AI Studio.
- Groq: Obtain an API key from Groq Console.
- Claude: Obtain an API key from Anthropic Console.
- DeepSeek: Obtain an API key from DeepSeek Platform.
- DeepL: Obtain an API key from DeepL Pro API.
- Ollama / LM Studio: Download and run locally, then point to the local URL.
- Azure OpenAI: Configure the Deployment Name, API Version, and Endpoint via Azure Portal.
- OpenAI / Custom: Obtain an API key from OpenAI Platform or OpenRouter.
- Enter API credentials in Settings > Translation:
- Language: Rust (edition 2021)
- UI Framework: egui
- ML Runtime: ONNX Runtime (ort) with CUDA, TensorRT, and DirectML support
- OCR: Manga-OCR (Vision Encoder-Decoder) and PaddleOCR v4/v5 (Hybrid Mobile Pipeline)
- NLP: wordninja, Thai word segmentation logic
โปรแกรม KTranslator V2 มีการเรียกใช้ชุดข้อมูล เครื่องมือ และโมเดลจากโครงการต่อไปนี้:
- egui / eframe: เฟรมเวิร์กสำหรับสร้างอินเตอร์เฟซผู้ใช้เขียนด้วยภาษา Rust พัฒนาโดย Emil Ernerfeldt
- ONNX Runtime (ort crate): รันไทม์ข้ามแพลตฟอร์มสำหรับรันโมเดลปัญญาประดิษฐ์ พัฒนาโดย Microsoft
- PaddleOCR: ชุดโมเดลตรวจจับและจำแนกอักษร พัฒนาโดย PaddlePaddle (Baidu)
- oar-ocr: ไลบรารีอ้างอิงและประมวลผลสำหรับนำโมเดล PaddleOCR และ Manga-OCR มารันบน ONNX ในภาษา Rust
- Manga-OCR: โมเดลสแกนตัวหนังสือภาษาญี่ปุ่น พัฒนาโดย kha-white (แปลงเป็นเวอร์ชัน ONNX โดย l0wgear) อ้างอิงชุดข้อมูลโครงสร้างจากโครงการ Manga109
- wordninja: โค้ดสำหรับแยกคำภาษาอังกฤษประมวลผลจากความถี่คำใน Wikipedia พัฒนาโดย Derek Anderson
- dxgcap / screenshots: ไลบรารีสำหรับจับภาพหน้าจอผ่าน Windows Desktop Duplication API
KTranslator V2 utilizes tools, models, and libraries from the following projects:
- egui / eframe: Graphical user interface framework for Rust, created by Emil Ernerfeldt.
- ONNX Runtime (ort crate): A cross-platform machine learning accelerator developed by Microsoft.
- PaddleOCR: Deep learning optical character recognition toolkits developed by PaddlePaddle (Baidu).
- oar-ocr: A Rust wrapper library enabling PaddleOCR and Manga-OCR execution via ONNX Runtime.
- Manga-OCR: A Japanese OCR model developed by kha-white (converted to ONNX by l0wgear), utilizing datasets from the Manga109 project.
- wordninja: An English text segmenter based on Wikipedia unigram frequencies, developed by Derek Anderson.
- dxgcap / screenshots: Screen capturing libraries utilizing the Windows Desktop Duplication API.
Copyright (c) 2026 Supawit Kaennak GPL v3.0. All rights reserved.


